Лидеры ИИ подписывают заявление, в котором просят правительство что-то сделать с автоматизированным ИИ

Подробности

Заявление последовало за недавним громким инцидентом в области кибербезопасности, который потряс индустрию искусственного интеллекта.

Поделиться иллюстрацией подарка, автор: Кэт Вирджиния / The Verge | Фото Getty Images Сотрудники OpenAI и Anthropic, а также Google, Meta, Thinking Machines, Microsoft, Mistral и других ведущих лабораторий искусственного интеллекта написали заявление правительству США, поддерживающее своего рода замедление передового развития искусственного интеллекта — или, по крайней мере, ускорение глобальных скоординированных усилий по управлению.

«Ал мог бы помочь создать значительно лучшее будущее, но этот результат не гарантирован», — написали сотрудники в заявлении. "Ведущие мировые компании в области искусственного интеллекта считают, что они могут быть близки к автоматизации исследований в области искусственного интеллекта. Трудно точно предсказать, насколько это ускорит прогресс в области искусственного интеллекта, но существует реальный риск того, что развитие возможностей быстро ускорится за пределы нашей способности понимать или контролировать полученные системы".

Эта новость последовала за громким инцидентом в области кибербезопасности, потрясшим индустрию искусственного интеллекта на прошлой неделе, когда неизданная модель OpenAI вышла из своей внутренней «песочницы», нашла доступ к Интернету, а затем взломала конкурирующую лабораторию искусственного интеллекта Hugging Face.

В публичном заявлении сотрудники подчеркнули важность своего рода скоординированного регулирования во всем мире, чтобы постоянно усиливающаяся гонка ИИ не опережала инструменты безопасности и мониторинга.