Главный исследователь безопасности Dragos HD Moore отправил ИИ-сервисам почти 2 млн запросов с отслеживаемыми приманками и обнаружил признаки утечек. Проверка показала, что содержимое запросов может попасть к посторонним на разных этапах обработки — в том числе до запуска модели.

В запросы добавляли специально созданные ключи доступа и приватные адреса, а затем отслеживали попытки ими воспользоваться. Это были тестовые данные, а не секреты реальных пользователей. По данным Dragos, признаки взлома обнаружились как минимум у трёх провайдеров: похищенные ключи использовали для десятков тысяч обращений к облачным сервисам. Некоторые ключи задействовали уже через несколько часов после отправки. В отдельных случаях запрос отклоняли ещё до запуска модели, но ключ из него всё равно оказывался у посторонних.

Изображение к статье: Dragos обнаружила утечки данных в цепочке ИИ-сервисов

Другой путь утечки связан с посредниками, через которых ИИ-приложения передают запросы поставщикам моделей. Содержимое может проходить через несколько платформ, где его расшифровывают и обрабатывают. Исследователь также обнаружил, что некоторые посредники записывали и передавали запросы дальше. Приватные адреса из части запросов с настройкой «нулевого хранения данных» или запретом сбора данных посещали спустя несколько дней.

Для работы с чувствительными данными Moore предлагает рассмотреть локальное развёртывание модели. Если это невозможно, он советует обращаться напрямую к доверенному сервису и уточнять, какой поставщик обрабатывает запрос.

Продолжение после рекламы

Источник: IT Home.

Рейтинг: 0 / 5. Оценок: 0

Рекомендуем почитать

Оставьте комментарий

Перед оставлением комментария, пожалуйста, ознакомьтесь с правилами комментирования.