OpenAI запускает более безопасный ChatGPT для подростков — спустя годы после того, как подростки начали его использовать

Подробности

После многочисленных судебных исков по поводу отсутствия мер безопасности со стороны чат-ботов с искусственным интеллектом, что приводит к самоубийствам подростков и другим проблемам с психическим здоровьем, OpenAI в понедельник объявила о запуске ChatGPT для подростков. Новый продукт обещает включать дополнительные меры безопасности, а также образовательный кризис, связанный с мошенничеством с помощью ChatGPT в школах.

Что касается образования, ChatGPT для подростков представляет новую функцию режима обучения и другие инструменты, призванные побудить пользователей-подростков проявлять свое любопытство и решать проблемы, а не просто получать быстрые ответы.

Как объясняет OpenAI в своем блоге, опция «Режим обучения» предоставит подросткам наводящие вопросы и пошаговую поддержку, которая поможет им понять материал. Между тем, опыт подростка также будет включать в себя напоминания о домашних заданиях, которые появляются, когда кажется, что подросток пытается схитрить, вместо того, чтобы понять материал. Чат-бот с искусственным интеллектом предложит подростку вместо этого использовать режим обучения.

Приложение также будет поддерживать викторины и обучающие визуализации, а также элементы управления, которые позволят родителям или опекунам решать, включен ли режим обучения по умолчанию, сообщает компания.

Тем не менее, неясно, насколько трудно подросткам будет избежать этих новых систем, если они решат не сотрудничать. Подростки невероятно искусны в обходе родительского контроля и других попытках заблокировать цифровые возможности. Пока подростковый режим ChatGPT не будет подвергнут более напряженным испытаниям, неясно, насколько сложно будет обойти эти меры безопасности в реальности.