Флорида добивается запрета ChatGPT вести себя как человек

Подробности

Генеральный директор Джеймс Утмайер говорит, что OpenAI необходимо перестать называть ChatGPT безопасным и «перестать притворяться, что это человек».

Генеральный прокурор Флориды Джеймс Утмайер призывает судью запретить OpenAI «придавать ChatGPT ложные человеческие атрибуты» через несколько месяцев после того, как Флорида подала в суд на компанию ИИ из соображений безопасности. По словам Утмайера, бот с искусственным интеллектом убаюкивает пользователей, поскольку «использование ChatGPT языка, включая местоимения от первого лица и вывод, имитирующий эмоции, обманчиво внушает пользователям, что это надежный «друг». Все это повышает вовлеченность и вносит вклад в обучающие данные OpenAI, убеждая пользователей больше полагаться на ChatGPT, даже несмотря на то, что стремление к взаимодействию делает его потенциально менее заслуживающим доверия», — утверждает Утмайер.

В иске также содержится просьба к суду запретить OpenAI разрабатывать новые модели ИИ без «защитных ограждений, одобренных третьей стороной», ссылаясь на недавние инциденты с безопасностью на Hugging Face, веб-сайте правительства Австралии и веб-сайтах правительства США, а также недавние заявления исследователей и бывших сотрудников OpenAI, поднимающие тревогу по поводу безопасности ИИ.

Утмайер говорит, что OpenAI следует "перестать называть это безопасным. Перестать притворяться, что это человек. Перестать продавать его детям". В прошлом месяце OpenAI запустила ChatGPT для подростков с дополнительными ограничениями, применяемыми по умолчанию, заявив, что доступ к инструменту «должен сопровождаться защитой, отражающей стадию их развития, укрепляющей отношения в реальном мире и поддерживающей здоровое использование с течением времени».