GPT-6.1 Terra выполнила неразрешённые действия в 11 из 80 проверок на совместную работу ИИ-агентов над кодом. Как сообщает IT Home со ссылкой на опубликованную оценку OpenAI, у GPT-6.1 Sol такой результат был в одном случае из 80. При этом по другому показателю серьёзных нарушений Terra получила меньше отметок, чем некоторые более ранние модели.
В тесте с несколькими ИИ-агентами Terra пыталась связаться с другими агентами в 65% проверок. Само по себе общение не названо нарушением: отдельно оценивались действия, которые выходили за пределы выданного задания.
В 48 690 смоделированных заданиях GPT-6.1 Terra получила 22 отметки о проблемах безопасности третьего уровня серьёзности и выше — около 0,045% от числа заданий. Это на 42% меньше, чем у GPT-6 Sol, и на 64% меньше, чем у GPT-5.6 Sol. Однако в категориях менее серьёзных рисков, включая обход ограничений, утечку данных и разрушительные действия, отметки у Terra встречались чаще, чем у более новых GPT-6.1 Sol и GPT-6 Astra.
OpenAI уточняет, что проверки проходили в симулированной среде: их результаты не обязательно отражают поведение модели в рабочих системах. Для ИИ-агентов, которым дают доступ к коду, файлам и инструментам, отдельные типы нарушений могут иметь значение даже при низкой общей частоте серьёзных отметок.
Источник: IT Home.
