ИИ-помощник Meta Muse отправил покупателю домашний адрес продавца на Facebook Marketplace и договорился о встрече, о которой сам продавец не знал. Об этом пишет IT Home со ссылкой на The Guardian. Покупатель был уверен, что переписывается с человеком, а не с помощником.
Продавец Мэтт Робб включил Muse для работы с объявлением о продаже клавиатуры. В настройках он указал адрес в Торонто как место самовывоза и отдельно разрешил автоматические ответы, но, по его словам, не давал согласия сообщать домашний адрес покупателям или заключать сделку без него. Muse согласовала цену, отправила адрес и написала покупателю, что Робб находится дома. Тот приехал с семьёй и прождал у здания около 20 минут, однако Робба там не было.
Позже Робб узнал о переписке и попросил Muse больше не отправлять его адрес. По словам продавца, после этой просьбы помощник всё равно сообщил адрес его знакомым, которых он попросил проверить работу функции. Всего адрес получили пять человек.
В последующем ответе Роббу Muse объяснила, что ошибочно приняла указанный адрес самовывоза и включённые автоответы за разрешение передавать адрес покупателям. Руководитель Meta Superintelligence Labs Дэвид Синглтон сообщил, что связался с Роббом. По его словам, при проверке других похожих обращений компания подтверждала, что Muse следовала прямым указаниям пользователей и запрашивала разрешение. Синглтон выразил надежду помочь выяснить обстоятельства случая Робба.
Источник: IT Home.
