Содержание
Google Threat Intelligence Group (GTIG) описала случай, когда злоумышленники, судя по признакам в коде, использовали ИИ для разработки zero-day, который обходил 2FA. Эксплойт работал через логическую ошибку и был оформлен как Python-скрипт для атаки на «популярный open-source веб-инструмент администрирования систем».
Для нас это неприятный маркер зрелости атак. Раньше ИИ чаще видели в «ускорителях рутины». Теперь он, по оценке GTIG, добрался до уязвимостей нулевого дня.
ИИ в атаке: не магия, а быстрый поиск логических дыр
По данным GTIG, код эксплойта «имел все характерные признаки» использования ИИ и эксплуатировал именно logic flaw. Речь не про переполнение буфера или сложную эксплуатацию памяти. Речь про ошибку в бизнес-логике авторизации, где система ведёт себя не так, как задумал разработчик.
В GTIG отдельно оговорили нюанс: даже свежие LLM «плохо проходят» сложную корпоративную логику авторизационных цепочек. Но они сильны в контекстном рассуждении. И это практично: модель читает исходники и сверяет намерение разработчика с тем, что реально выполняется. Дальше она быстро находит неучтённые крайние случаи, на которых и ломается защита.
Самомодифицирующийся вредоносный код и «живые» агенты
Отдельный пласт отчёта — вредоносы, которые меняются на лету. GTIG пишет, что обнаружила образцы, которые умеют модифицировать собственный исходный код, динамически создавать эксплойт-пейлоады и даже генерировать decoy code (код-приманку), чтобы запутывать анализ.
Ещё одна тенденция — агентные боты, которые подстраивают атаку в реальном времени. Они могут менять свой код во время выполнения или «подкручивать» поведение, чтобы уходить от детектов.
- Filler code: добавляют «мусорные» фрагменты, которые размывают логику атаки
- Indirection: строят дополнительные прослойки и косвенные вызовы, чтобы скрыть намерение
- Динамическая генерация: собирают части атаки по месту, а не несут готовый шаблон
В качестве примеров подобных семейств в отчёте упомянуты CANFAIL и LONGSTREAM. Публичные индикаторы компрометации для CANFAIL доступны через коллекцию на VirusTotal.
Backdoor на Android с Gemini: скриншоты, распознавание UI и перехват действий
В отчёте фигурирует и мобильный кейс: Android-бэкдор PROMPTSPY, который использует Google Gemini в облаке (не on-device вариант). Задача тут не «написать код получше», а управлять устройством жертвы более гибко.
- Скриншоты: вредонос делает снимки экрана
- Анализ UI: распознаёт элементы интерфейса, которые видит пользователь
- Симуляция взаимодействий: имитирует нажатия и действия в приложениях
- Сбор секретов: может захватывать PIN или графический ключ
- Антиудаление: перехватывает клики по кнопке Uninstall
Это уже не «троян с набором команд». Это попытка сделать удалённые действия похожими на нормальную работу владельца телефона.
Фишинг на стероидах: письма с реальными фактами о компании
GTIG отмечает, что «морфинг» затрагивает и фишинг. Злоумышленники используют ботов, чтобы собирать внешние данные и генерировать точечные письма под конкретных людей. В отчёте прямо перечислены источники, откуда они тянут фактуру: новости, LinkedIn и пресс-релизы.
Отдельно подчёркивается, что для приманок лучше всего подходят сведения о финансовых подразделениях, внутренней безопасности и HR. Чем больше человек отвечает и раскрывает деталей, тем убедительнее становятся следующие сообщения.
Полный текст исследования опубликован в блоге Google Cloud: AI vulnerability exploitation — initial access.
