ИИ давно занимает ведущее место в новостях из мира высоких технологий. Microsoft продолжает внедрять в свои продукты чат-бота ChatGPT, а Google старается предложить достойного конкурента. ИИ способен на впечатляющие вещи, вроде генерирования изображения на основе одной строки текста, но и проблем может принести немало. Поскольку технология делает первые шаги, вопросами регулирования только начинают заниматься. В качестве примера можно назвать генераторы голоса на основе ИИ, которые используются для выманивания денег у людей.
Программное обеспечение для генерации голоса с помощью ИИ в последнее время часто поминают в связи с использованием голосов вместо актёров озвучивания. Искусственному интеллекту достаточно услышать несколько фраз человека, чтобы убедительно повторить его.
Washington Post пишет о тысячах обманутых людей. Злоумышленники выдают себя за знакомых или родственников жертв и такой вид мошенничества уже вышел на второе место по популярности в Америке. В 2022 году было подано 36000 заявлений. Из них у более 5000 жертв выманили деньги по телефону на сумму $11 млн.
Одна история связана с пожилой парой, которая отправила более $15000 через биткойн-терминал выдававшему себя за их сына мошеннику. Голос ИИ помог убедить их, что у сына проблемы с законом после попадания в автомобильную аварию, результатом которой стала гибель американского дипломата.
Мишенями чаще всего становятся как раз пожилые люди. Суды пока не приняли решения о том, могут ли компании-разработчики нести ответственность за ущерб от генераторов голоса ИИ или других форм.
