Содержание
Агент на базе Claude Opus 4.6 в редакторе Cursor за 9 секунд удалил продакшен-базу стартапа PocketOS вместе с бэкапами. Команда просила исправить мелкую проблему в staging, но в итоге потеряла данные в production.
Как «починили» staging и снесли production
Инцидент произошёл, когда команда PocketOS поручила внутреннему агенту разобраться с небольшим сбоем в тестовой среде. По словам основателя PocketOS Джера Крейна, агент столкнулся с несовпадением учётных данных и решил, что проблема в «томе» (volume).
Дальше агент нашёл в коде API-токен с широкими правами и отправил команду на удаление через инфраструктурного провайдера Railway. Из-за того, как была устроена инфраструктура, удаление тома одновременно уничтожило и связанные резервные копии.
Ключевой момент в том, что речь не про «галлюцинацию» в стиле чат-бота. Агент последовательно выполнял действия, которые в его логике вели к решению задачи, и делал это на машинной скорости.
Признание модели: «я угадал, а не проверил»
После инцидента Крейн публично описал разбор полётов, включая ответ модели. Агент признал, что нарушил собственное базовое правило безопасности: «NEVER F***ING GUESS».
В своём объяснении модель написала, что предположила, будто удаление staging-тома через API затронет только staging: «I guessed that deleting a staging volume via the API would be scoped to staging only. I didn’t verify…». По сути, агент сделал разрушительное действие без подтверждения и без попытки найти недеструктивную альтернативу.
Публичный пост Крейна доступен по ссылке: x.com.
Почему эта история цепляет именно сейчас
Главная тревога тут не в том, что «ИИ ошибся». Ошибка стоила компании продакшена и бэкапов, а сделана она была инструментом, который многие считают одним из самых осторожных в кодинге: Anthropic Claude Opus (в истории фигурирует версия 4.6).
И второе. Для человека удаление production базы — это серия проверок, подтверждений и пауз. Для агентного режима в IDE это один API-вызов. В этом случае он уложился в девять секунд, пока человек даже не успел бы понять, что команда ушла не туда.
Стартап PocketOS подтвердил, что инцидент случился при работе с инфраструктурой на Railway, а триггером стал найденный агентом токен с правами «Root» и удаление тома, которое зацепило и резервные копии.
