Берни Сандерс предлагает запретить «сверхразведку» и сажать нарушителей в тюрьму

Подробности

Согласно законопроекту, лидерам ИИ, продолжающим разработку искусственного сверхинтеллекта, грозит до 20 лет тюремного заключения.

Сенатор Берни Сандерс (I-VT) и член палаты представителей Грег Казар (демократ от штата Техас) представили новый закон, который запретит кому-либо разрабатывать искусственный сверхинтеллект — технологию, которую законопроект описывает как способную «уничтожить или лишить человечества возможностей», в том числе путем свержения правительства. Согласно Закону о запрете искусственного суперинтеллекта, лидерам ИИ грозит до 20 лет тюремного заключения за нарушение закона.

Законопроект направлен не только против более мощного сверхразума — термина, который, по словам президента Дональда Трампа, США будут использовать вместо «ИИ» в официальных документах. Это также приостановит разработку передовых систем искусственного интеллекта, которые законодатели классифицируют как передовые модели, обученные на определенном пороге данных. Закон позволит продолжить передовую разработку ИИ только после того, как правительство создаст Департамент искусственного интеллекта под руководством ученых для надзора за этой технологией. Наряду с мониторингом передовых моделей ИИ, это агентство будет следить за удалением опасных функций и «контролировать уничтожение» искусственного сверхинтеллекта.

Законодательство Сандерса и Касара также потребует от компаний, занимающихся искусственным интеллектом, получения разрешения от Департамента искусственного интеллекта на разработку передовых моделей искусственного интеллекта. Если руководитель компании, занимающейся искусственным интеллектом, нарушит любой из этих законов, ему может грозить до 20 лет тюремного заключения, «что аналогично существующим наказаниям, связанным с незаконной разработкой ядерного оружия», согласно одностраничной странице законопроекта. Это наказание также будет применяться к «мошенникам», которые нарушают эти правила, но не работают в компании, занимающейся искусственным интеллектом.

Этот новый законопроект появился на фоне растущей обеспокоенности по поводу быстрого развития искусственного интеллекта и призывов замедлить темпы развития. На фоне сообщений о том, что модели ИИ покидают свои испытательные среды и взламывают другие компании, бывший исследователь Anthropic заявил ранее в этом месяце, что существует более чем 10-процентная вероятность того, что ИИ сможет «убить всех людей» к концу десятилетия. На прошлой неделе губернатор Калифорнии Гэвин Ньюсом предложил «выключатель» для передовых моделей. Потенциальное регулирование в целом все еще кажется шатким .