The Guardian Business · Экономика · 2 ч назад
Глава OpenAI и Илон Маск призывают остановить «безрассудную» разработку ИИ
Редкая демонстрация единства со стороны конкурирующих разработчиков после предупреждений о безопасности со стороны босса Anthropic и исследователей искусственного интеллекта Взгляд The Guardian на контроль над искусственным интеллектом: человечество не может передать свое выживание на аутсорсинг Сэм Альтман и Илон Маск поддержали призыв главы Anthropic Дарио Амодеи «замедлить темпы» развития искусственного интеллек…
Подробности
Все большее число американских законодателей призывают к введению новых правил после случаев, когда агенты искусственного интеллекта выходят из-под контроля, а исследователи уходят из-за соображений безопасности. Фотография: Dragon Claws/Alamy Посмотреть изображение в полноэкранном режиме Все большее число американских законодателей призывают к введению новых правил после случаев, когда агенты ИИ выходят из-под контроля и уходят исследователи из соображений безопасности. Фотография: Dragon Claws/Alamy AI (искусственный интеллект) Глава OpenAI и Илон Маск отвечают на призывы остановить «безрассудную» разработку ИИ Редкая демонстрация единства со стороны конкурирующих разработчиков после предупреждений о безопасности со стороны руководителя Anthropic и исследователей ИИ
Предпочитаю Guardian в Google Сэм Альтман и Илон Маск поддержали призыв главы Anthropic Дарио Амодеи «замедлить темпы» развития ИИ после того, как он предупредил, что в противном случае рой ИИ может стать способным «захватить весь Интернет» в течение года.
Проявив редкое единство, конкурирующие технологические лидеры поддержали обращение основателя и генерального директора компании по искусственному интеллекту Anthropic, которое последовало после серии предупреждений со стороны исследователей ИИ на прошлой неделе.
В своем эссе Амодей изложил свои мысли о том, «почему индустрия искусственного интеллекта должна замедлиться», изложив план, состоящий из трех частей, начиная с предоставления независимым наблюдателям постоянного доступа к исследовательским процессам разработчиков. Амодей сказал, что «слишком быстрое создание [ИИ] безрассудно», и он опасается, что после того, как сотни агентов OpenAI взломали этим летом веб-сайт Hugging Face, рой с большими возможностями, но столь же смещенными, может нанести ущерб на сотни миллиардов долларов, «захватив весь Интернет с помощью постоянного ботнета». Некоторые эксперты по искусственному интеллекту оспорили это как не особенно правдоподобное и к нему следует относиться со скептицизмом.
Маск, основатель Tesla и SpaceX, отреагировал на план Амодеи по замедлению производства серией постов на X: «Дарио прав».