Компания Google представила инновационную структуру искусственного интеллекта (Framework AI) под названием «Социальное обучение» (Social Learning), направленную на улучшение возможностей языковых моделей без нарушения конфиденциальности пользователей. Эта структура позволяет ИИ обучаться друг у друга посредством взаимодействия на естественном языке, что даёт им возможность делиться знаниями и улучшать свои результаты.
В основе структуры лежит модель «студент», обучающаяся у нескольких моделей «учитель». Каждая из них специализируется на определённых задачах, таких как обнаружение спама, решение математических задач или ответы на вопросы по тексту. Используя помеченные вручную человеком примеры, модели-учителя могут обучать студентов без необходимости обмена исходными данными, решая проблемы конфиденциальности, связанные с общим доступом к данным. Кроме того, модели-учителя могут синтезировать новые примеры или генерировать инструкции для выполнения задач с дальнейшим совершенствованием процесса обучения.
Синтетические тесты, созданные моделями-учителями, показали такую же эффективность, как и исходные данные, при этом значительно снизив риски для конфиденциальности. Аналогичным образом, инструкции, созданные моделями-учителями, позволили повысить эффективность обучения моделей-студентов, демонстрируя адаптивность языковых моделей к выполнению комплексных заданий.
Для обеспечения защиты данных исследователи использовали количественную оценку (Secret Sharer) для проверки надёжности данных во время обучения. Результаты показывают минимальную утечку конфиденциальных данных, подтверждая способность структуры обучать модели без раскрытия конкретных сведений из набора данных.
Эта структура позволит эффективно делиться информацией и улучшать работу друг друга, при этом соблюдая конфиденциальность пользователей. В дальнейшем исследователи планируют дополнительно усовершенствовать структуру «Социального обучения» и найти ей применение для других задач.
