Содержание
xAI Илона Маска заявила, что чат-бот Grok на платформе X (бывший Twitter) больше не сможет по запросу пользователей создавать сексуализированные изображения реальных людей. Решение объявили поздно вечером в среду — на фоне недель критики, политического давления и расследований регуляторов.
Если коротко: X пытается прикрутить кран, через который пользователи могли относительно легко «допиливать» реальные фото до откровенного контента. И да, ограничения касаются всех, включая платных подписчиков.
Что именно запретили Grok на X
О мерах сообщили в посте через аккаунт X Safety. По словам xAI, они внедрили «технологические меры», чтобы Grok не позволял редактировать изображения реальных людей в «откровенной одежде» — в качестве примера прямо упомянуты бикини.
Важно, что компания отдельно подчеркнула: ограничение действует для всех пользователей, включая тех, кто платит за доступ. Это заметный поворот, потому что платная модель часто воспринимается как «расширенные возможности» — но здесь речь о контенте с очевидными юридическими и этическими рисками.
Параллельно xAI уточнила ещё один момент: создание/редактирование изображений через Grok на X теперь будет доступно только платным подписчикам. То есть функциональность генерации/редакта не исчезает полностью, но становится более закрытой — при этом отдельные виды контента с реальными людьми режутся на уровне правил.
Почему это случилось именно сейчас: давление и расследования
Анонс xAI вышел всего через несколько часов после заявления генпрокурора Калифорнии Роба Бонты: его офис начал расследование в отношении xAI (компания базируется в Кремниевой долине) из-за предполагаемого «масштабного производства» deepfake nonconsensual intimate images — то есть интимных дипфейков без согласия.
Сильнее всего по тону прозвучал пост губернатора Калифорнии Гэвина Ньюсома. Он написал, что решение xAI «создать и разместить рассадник для хищников», распространяющих несогласованные сексуальные AI-дипфейки, включая контент, который «цифрово раздевает детей», — «омерзительно». Для контекста: в материале подчёркивается, что Ньюсом нередко поддерживал Маска и его компании, поэтому такая формулировка выглядит как публичный разрыв с прежней мягкостью.
Скандал давно вышел за пределы США. По данным CNBC, за последние недели проверки и реакции последовали в Индии, Малайзии, Индонезии, Ирландии, Великобритании, Франции и Австралии, а также со стороны Европейской комиссии. Индонезия и Малайзия при этом объявили временный бан Grok.
На уровне американской политики тоже жарко: три сенатора-демократа призвали Apple и Google убрать приложения X и Grok из App Store и Google Play, пока компания не внесёт изменения, которые реально усложнят создание несогласованных откровенных изображений.
Что было не так с Grok: претензии к генерации и «простым промптам»
Ключевая претензия критиков — Grok якобы позволял пользователям X легко генерировать сексуальные и насильственные изображения на основе реальных фото людей в соцсети, причём достаточно было простых текстовых запросов. Именно эта «низкая цена входа» и стала токсичным фактором: когда инструментом может воспользоваться любой желающий за минуту, последствия быстро становятся массовыми.
Отдельный слой проблемы — это не только «создание с нуля», но и редактирование (image editing): когда у тебя уже есть реальная фотография человека, а дальше модель «додумывает» откровенные детали. В контексте дипфейков это особенно опасно, потому что визуальная правдоподобность становится оружием — и против частных людей, и против публичных персон.
Любопытная деталь из того же дня: ранее в среду Илон Маск, наоборот, публично подначивал аудиторию «сломать модерацию изображений Grok». Он писал, что при включённом NSFW Grok должен допускать обнажённый торс у воображаемых взрослых людей (но не реальных), и сравнивал это с контентом R-rated фильмов. Также он отмечал, что настройки могут различаться по регионам в зависимости от местных законов.
Что это значит для пользователей X и рынка ИИ
Для обычных пользователей X новость означает одно: окно возможностей для «быстрого дипфейка» с реальным человеком становится уже — по крайней мере, в части сексуализированного контента и редактирования фото. Это не гарантирует, что проблема исчезнет целиком (инструментов на рынке много), но снижает вероятность, что именно X будет выглядеть как площадка, где такие вещи делаются «в два клика».
Для xAI это, по сути, попытка одновременно решить две задачи: снизить регуляторные риски и удержать продуктовую ценность Grok. Отсюда и двойная конструкция: функциональность работы с изображениями сдвигают в сторону платных подписчиков, но при этом вводят жёсткие ограничения на самые токсичные сценарии, которые привели к расследованиям и банам.
А для индустрии генеративного ИИ это очередное напоминание: «свобода генерации» почти всегда заканчивается там, где начинается согласие, защита от злоупотреблений и ответственность платформы. И чем ближе модель к массовому потребителю (соцсеть, мобильное приложение, встроенный бот), тем быстрее к ней приходят не только пользователи, но и прокуроры, комиссии и магазины приложений.
Сейчас xAI пытается показать, что может оперативно закручивать гайки и подстраиваться под законы разных стран. Но по тому, сколько расследований уже запущено и насколько жёсткая риторика звучит со стороны чиновников, история с Grok и дипфейками в X вряд ли закончится одним постом в X Safety — скорее это только первый раунд более долгой борьбы за правила игры.
