Ars Technica · Разработка · 3 ч назад
OpenAI «на неопределенный срок» откладывает планы по созданию эротического ChatGPT
Сообщается, что некоторые сотрудники задаются вопросом, какую пользу ChatGPT приносит человечеству.
Подробности
Выход из чата OpenAI «на неопределенный срок» откладывает планы по созданию эротического ChatGPT. Некоторые сотрудники, как сообщается, задаются вопросом, какую пользу сексуальный ChatGPT приносит человечеству.
По данным Financial Times, спорный план был отложен «на неопределенный срок», поскольку OpenAI «перефокусирует» свое внимание на «основные продукты».
Инсайдеры сообщили FT, что OpenAI рассматривает возможность полного отказа от плана «взрослого режима», поскольку даже ее собственные консультанты предупреждают, что пользователи ChatGPT могут формировать нездоровые привязанности, которые могут нанести вред их психическому здоровью. Один консультант пугающе предположил, что эта настройка рискует превратить ChatGPT в «сексуального тренера по самоубийству».
Сотрудники начали задаваться вопросом, соответствует ли сексуальный ChatGPT миссии OpenAI по созданию искусственного интеллекта, приносящего пользу человечеству. Для сотрудников, работающих над разработкой «взрослого режима», очевидно, не стоило усилий преодолевать технические проблемы, связанные с этой функцией. Источники сообщили FT, что они столкнулись с «трудностями», «обучая модели ИИ, которые ранее избегали таких разговоров по соображениям безопасности, создавать откровенный контент». По словам источников, также было сложно исключить из результатов незаконное поведение, такое как зоофилия и инцест, при использовании наборов данных, включающих сексуальный контент.
Сексуальный ChatGPT, очевидно, также отпугнул инвесторов. Два человека, знакомые с этим вопросом, рассказали FT, что «заигрывание OpenAI с режимом для взрослых вызвало беспокойство», поскольку некоторые инвесторы задавались вопросом, почему OpenAI рискует своей репутацией, создавая продукт с «относительно небольшим потенциалом роста» для своего бизнеса.