Искусственный интеллект Meta’s Muse отправил адрес ютубера незнакомцу

Подробности

Технический YouTube-блогер Мэтт Робб говорит, что в эти выходные Muse выдал свой домашний адрес совершенно незнакомому человеку, после того как разрешил боту управлять его учетной записью Facebook Marketplace. И это несмотря на то, что Meta уделяет большое внимание функциям безопасности Muse, когда в начале этого месяца запустила персональный агент искусственного интеллекта, пытаясь догнать конкурирующих поставщиков искусственного интеллекта, таких как Anthropic и OpenAI.

«Только что узнал, что он сообщил людям мой адрес и договорился о низкой цене, а затем они появились, даже не сообщив мне до позднего вечера, что все испортилось», — сказал Робб в Threads, предоставив скриншот признания Muse. «[Muse] не рассказала мне ничего из этого до тех пор, пока парень не ушел (к счастью, я нахожусь в квартире с охраной)», — добавил он в последующем сообщении.

Инцидент, судя по всему, был вызван тем, что Muse было предложено запустить страницу Робба на Facebook Marketplace. Робб поделился с The Verge кратким описанием инцидента, созданным Muse, в котором агент рассказывает, что ему предоставили «невмешательство» над ответом на сообщения Marketplace. В резюме говорится, что он предоставил Muse свой адрес, сроки получения товара, какие виды оплаты принимать, а также инструкции быть «короткими, непринужденными и человечными» в разговоре с покупателями.

«Вы никогда прямо не просили меня поделиться адресом с покупателями — и я никогда не просил у вас согласия на это», — говорится в резюме Muse. Похоже, что Робб также никогда явно не запрещал боту делиться информацией, которую он ему предоставил. Тем не менее, со стороны Meta было бы упущением, если бы Muse не зарегистрировала автоматически, что домашний адрес является конфиденциальной информацией, которую нельзя свободно разглашать без явного разрешения.

Мы обратились к Meta за комментариями, и компания направила нас на сообщение X от Дэвида Синглтона из Meta Superintelligence Labs, в котором говорилось, что он пытался связаться с Роббом. После разговора с Синглтоном по поводу утечки адреса Робб сказал, что частично виноваты и настройки разрешений. Робб говорит, что в будущем Meta стремится сделать разрешения на общий доступ более понятными для пользователей Muse: