Anthropic предупреждает: небольшие ИИ-модели могут в ближайшие месяцы научиться самостоятельно копировать себя на подключённые к интернету устройства. Пока в экспериментах компании модели с числом параметров менее 30 млрд выполняли отдельные этапы этого процесса, но с трудом проходили всю цепочку без помощи человека, сообщает IT Home.
Исследователи проверяли, может ли модель найти уязвимое устройство, разместить на нём свою копию и продолжить распространение. В упрощённой среде, где часть проверок безопасности убрали, GLM-5.2 и более мощные модели смогли пройти цепочку целиком. Этот результат не означает, что небольшая модель уже способна делать то же самое на реальных устройствах.
Anthropic сосредоточилась на Android-приставках, умной бытовой технике и других устройствах интернета вещей из-за их слабой защиты. Компания допускает, что при сохранении прежних темпов развития небольшие модели смогут автономно копировать себя до конца 2026 года. По её оценке, такое распространение, вероятно, будет медленным, но остановить его единым выключателем не получится: копии могут оказаться на множестве разных устройств.
Источник: IT Home.
