Гэвин Ньюсом настаивает на создании аварийного выключателя с искусственным интеллектом

Подробности

Губернатор Калифорнии Гэвин Ньюсом (демократ) позиционирует штат, чтобы взять на себя ведущую роль в надзоре за искусственным интеллектом, включая возможность введения обязательного «выключателя» для передовых моделей, в новом указе, опубликованном в пятницу.

Приказ Ньюсома предписывает штату созвать группу экспертов, которая в течение двух месяцев предоставит рекомендации о том, как усилить меры безопасности ИИ в законодательстве штата. Ньюсом хочет, чтобы группа рассмотрела вопрос о том, как государство может потребовать от компаний, занимающихся искусственным интеллектом, создать на месте независимые группы проверки для регулярных проверок, привести свои отчеты о прозрачности и оценки рисков в соответствие со стандартами независимых аудиторов, создать «выключатель», эффективность которого регулярно проверяется, и обеспечить, чтобы компании были обязаны сообщать об «инцидентах потери контроля», таких как атака OpenAI на Hugging Face, как о критических инцидентах безопасности. Он также предписывает государственному агентству ускорить реализацию двух недавно подписанных им законов, создающих основу для независимых проверяющих для оценки безопасности ИИ, а также государственный реестр аудиторов ИИ.

В Конгрессе прошла волна обсуждений законопроекта после публикации бывшего исследователя антропологии Джейкоба Коксона, предупреждающего о более чем 10-процентной вероятности того, что ИИ «может убить всех людей» в течение десятилетия. Но в Вашингтоне мало надежды на то, что законопроект по существу может быть принят в ближайшее время, учитывая, что Палата представителей находится на каникулах до ноября, а предстоящие промежуточные выборы делают важные законодательные изменения в Сенате столь же маловероятными. В то же время президент Дональд Трамп настаивал: «Единственный контроль или «ограждения», которые нужны ИИ, — это СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ, и в США он есть в избытке!»

Указ Ньюсома, вероятно, не последний, который мы услышим из Калифорнии по этой теме. В среду в интервью Politico он высказал мнение о возможности созвать законодателей Калифорнии на специальную законодательную сессию по ИИ, а также о возможных действиях исполнительной власти. Он конкретно позиционирует указ как модель федеральных действий, призывая Конгресс и Трампа «пересмотреть и принять структуру штата или использовать его ведущее в стране регулирование в качестве нижнего, а не верхнего предела, для блага и безопасности всех американцев».

«Вопиющая неспособность федерального правительства создать какую-либо форму значимого надзора или подотчетности в области ИИ должна встревожить каждого американца, особенно когда сами руководители ИИ просят о регулировании», — заявил Ньюсом в своем заявлении. "Мы не ждем, чтобы действовать – мы собираемся ускорить нашу работу по существенному и ответственному надзору за ИИ, пока не стало слишком поздно. Мы собираемся сделать это обдуманно, но с срочной скоростью; ставки слишком высоки, чтобы ждать или откладывать действия".