Некоторые технологии способны приносить не только благо, но и вред, в зависимости от того, кто и как их применяет. Это же относится к генеративному ИИ. Одним из опасных сценариев его применения является создание видео в сервисе YouTube с искусственными персонажами, которые пытаются распространить вредоносные программы для кражи пользовательских данных.
Обычные компании могут применять ИИ для получения данных о наборе персонала, образовательных тренингов, рекламы и т.д. Злоумышленники используют его для противозаконных целей.
Компания контекстного искусственного интеллекта CloudSEK занимается прогнозированием киберугроз. Она сообщает, что с прошлого ноября в сервисе YouTube на 200-300% в месяц увеличивается число видеороликов со ссылками на вредоносные приложения, такие как Vidar, RedLine и Raccoon.
В видеоролике пользователей заманивают обещаниями дать полные инструкции по скачиванию взломанных игр и лицензионных приложений вроде Photoshop, Premiere Pro, Autodesk 3ds Max и AutoCAD. В прежние времена такие видео были простыми и состояли из надписей на экране или звукового ряда. Теперь же создавать подобные видеоролики помогает искусственный интеллект на платформах вроде Synthesia и D-ID. Это увеличивает достоверность видео и содержащейся в них информации в глазах пользователей.
Если пользователь переходит по вредоносным ссылкам, ему на устройство может быть загружена программа для кражи данных. Украдены могут быть пароли, сведения о кредитных картах и номерах банковских счетов, данные из браузера и криптовалютных кошельков, системная информация, в том числе IP-адреса. Все эти данные отправляются на серверы злоумышленников.
Число ежемесячно активных пользователей YouTube составляет 2,5 млрд человек, так что мошенникам есть где развернуться. Тем более что значительная часть пользователей появляется людьми пожилого возраста, а другая часть приходится на подростков.
Чтобы избежать обнаружения, мошенники применяют теги местоположения, подделывают комментарии, устанавливают многочисленные теги для рекомендации видео. В описании к видео вредоносные ссылки сокращаются. Они могут ввести в облачные хранилище или же вредоносный архив скачивается напрямую, пишет Techspot.