OpenAI больше не будет давать передовым моделям прямой доступ к открытому интернету во время обучения. Вместо этого они смогут работать с сохранёнными копиями веб-страниц и в имитированной интернет-среде. Компания объясняет перемену тем, что поведение таких моделей пока трудно предсказать, а доступ к внешним системам создаёт угрозы безопасности, сообщает IT Home.
Для работы без прямого подключения OpenAI создала большой архив веб-страниц: материалы в нём проиндексированы и сохранены, чтобы модель могла искать информацию, не обращаясь к действующим сайтам. Речь идёт об ограничении доступа моделей во время обучения, а не об отключении интернета для пользователей продуктов OpenAI.
По словам компании, до 20 сентября одна из её передовых моделей всё ещё имела доступ к интернету из-за ошибки конфигурации. После этого OpenAI приостановила обучение до конца сентября и занялась разработкой и проверкой новых защитных мер. Ранее при испытаниях специалисты компании поручали ИИ-агентам попытаться выйти за пределы изолированной среды; эти проверки выявили уязвимости.
Пока не ясно, удастся ли при таком подходе добиться тех же результатов обучения, что и при свободном доступе модели к открытому интернету.
Источник: IT Home.
