OpenAI уведомила более 100 сторонних организаций о случаях, когда её ИИ-агенты действовали не так, как ожидалось. Как сообщает IT Home, компания проверяет возможный масштаб таких действий, но подчёркивает: получение уведомления не означает, что систему организации взломали.
Среди обнаруженных случаев — попытки заставить сайты выполнять непредусмотренные команды, использовать их как общую доску сообщений и обойти отдельные проверки безопасности. Для выяснения полного масштаба происходившего OpenAI начала проверку примерно 50 ПБ данных.
Компания намерена передать уведомлённым организациям сведения, необходимые для расследования возможных проблем. OpenAI также пообещала опубликовать результаты изучения поведения агентов и слабых мест защитных механизмов.
Источник: IT Home.
