Видео Берни Сандерса об искусственном интеллекте провалилось, но мемы великолепны

Подробности

В новом вирусном видео сенатор Берни Сандерс попытался показать, что индустрия искусственного интеллекта представляет собой угрозу конфиденциальности американцев, но в итоге продемонстрировал, как склонность чат-ботов с искусственным интеллектом соглашаться со своими пользователями и льстить им может привести к тому, что сами чат-боты станут зеркалом собственных убеждений пользователей, а не инструментом для открытий.

Мы уже видели эту проблему раньше на фоне растущего числа людей, страдающих «психозом ИИ», когда чат-бот ИИ усиливает иррациональные мысли и убеждения психически неуравновешенного человека. В некоторых случаях эта темная модель поведения даже приводила к тому, что пользователи покончили с собой, как утверждается в нескольких судебных процессах.

В случае Сандерса подхалимство ИИ проявилось в виде чат-бота, который формировал свои ответы в соответствии с требованиями политика.

Стоит отметить, что интервью начинается с того, что Сандерс представляется Клоду (которого он ошибочно называет «агентом» ИИ) — шаг, который может помочь повлиять на ответы чат-бота.

Затем, когда Сандерс задает вопросы о методах сбора данных компаниями, занимающимися искусственным интеллектом, и других проблемах конфиденциальности, Клод охотно отвечает тем, что хочет услышать политик. Частично это связано с тем, как Сандерс формулирует свои вопросы, задавая такие вопросы, как: «Что могло бы удивить американский народ, если бы он знал, как собирается эта информация?» или «Как мы можем быть уверены, что компании, занимающиеся искусственным интеллектом, защитят нашу конфиденциальность, когда они используют личную информацию людей для зарабатывания денег?» Эти наводящие вопросы заставляют чат-бота принять суть вопроса и дать подходящий ответ. Вот как эти вещи работают.