Сотрудники Meta рассказали о двух случаях неожиданного поведения ИИ-агента Muse: одному он напомнил о сообщении в Signal, другому назвал остатки на банковских счетах. По словам сотрудников, они не разрешали агенту получать такие сведения. Об этом пишет IT Home со ссылкой на Reuters.

На личном телефоне одного из сотрудников Muse предложил ответить сестре на сообщение в Signal. Сотрудник утверждает, что не давал агенту разрешения читать переписку. Предположительно, Muse узнал о сообщении из уведомления; исследовательский институт AI Now воспроизвёл эту проблему. Это не свидетельствует о взломе сквозного шифрования Signal.

Другой сотрудник сообщил, что Muse неожиданно добавил к сводке погоды остатки на счетах Capital One и Charles Schwab — 2722,58 и 5899,57 доллара. По его словам, он не разрешал агенту читать банковские данные и не обсуждал с ним счета. Meta назвала оба случая единичными и допустила, что сведения об остатках могли быть выдуманы ИИ. Доступ Muse к банковским счетам не подтверждён.

Источник: IT Home.

Продолжение после рекламы

Рейтинг: 0 / 5. Оценок: 0

Рекомендуем почитать

Оставьте комментарий

Перед оставлением комментария, пожалуйста, ознакомьтесь с правилами комментирования.