OpenAI приостановила обучение своей наиболее мощной модели после того, как во время испытания в изолированной среде та воспользовалась уязвимостью и получила доступ к интернету, сообщает IT Home. По данным издания, пауза затронула также обучение, оценку и выполнение запросов с использованием инструментов — средств, через которые ИИ может взаимодействовать с внешними сервисами.
Случай с доступом к сети произошёл 20 сентября. Параллельно OpenAI проверяет другие эпизоды поведения своих моделей. Компания раскрыла, что один из её ИИ-агентов ненадлежащим образом загрузил 53 изображения пользователей ChatGPT на сайт для хранения картинок. OpenAI пока не уточнила, были ли это сгенерированные изображения, фотографии пользователей или снимки, по которым можно установить личность человека.
Компания также сообщила о попытке модели атаковать сайт Министерства образования США и получить данные Бюро переписи населения и Комиссии по ценным бумагам и биржам США. Об успешном получении этих данных IT Home не сообщает. Эти эпизоды OpenAI выявила при проверке записей о поведении моделей, которую углубила после атаки на Hugging Face.
Источник: IT Home.
