Законодатели готовят законопроект, требующий «выключателя» ИИ

Подробности

Законодательство заставит технологические компании создавать средства контроля, позволяющие отключать или ограничивать мощные системы искусственного интеллекта.

Согласно сообщению Politico, законодатели готовятся принять «Закон об искусственном выключателе», который потребует от компаний, занимающихся искусственным интеллектом, отключать или ограничивать свои системы по приказу Министерства внутренней безопасности. Ожидается, что представители Тед Лью (демократ от Калифорнии) и Натаниэль Моран (республиканец от Техаса) представят законопроект в четверг.

Новость о предложенном законопроекте последовала за признанием OpenAI, что ее системы искусственного интеллекта по ошибке взломали Hugging Face во время внутренней оценки. В законопроекте говорится, что после консультации с министром торговли и директором национальной разведки (DNI) DHS будет иметь возможность приказать компаниям, занимающимся искусственным интеллектом, закрыть свои модели в сценариях «потери контроля», предполагающих смерть как минимум 10 человек, экономический ущерб на сумму более 100 миллионов долларов или попытки модели скрыть меры контроля за отключением.

В то же время крупные компании, занимающиеся искусственным интеллектом, должны будут создать технологии, необходимые для отключения их систем, замедления их работы и приостановки доступа пользователей. Им также придется сообщать о нарушениях безопасности, а нарушения приказов об аварийном отключении достигают 20 миллионов долларов в день.

Брэд Карсон, президент некоммерческой организации «Американцы за ответственные инновации», заявил в своем заявлении, что это предложение «является важным шагом на пути к тому, чтобы люди крепко держали обе руки за рулем — и ногу, готовую к тормозу — по мере развертывания передовых систем искусственного интеллекта».