Вот как технологические лидеры будут самостоятельно контролировать безопасность ИИ в соответствии со сделкой Трампа

Подробности

Теперь у нас есть полная информация о «морально обязывающем» соглашении о безопасности ИИ, о котором вчера объявил президент Трамп, в котором высшие руководители согласились саморегулировать свои технологии искусственного интеллекта. Соглашение, официально названное «Совместное обязательство по пограничным обязанностям», было опубликовано в Интернете основателем технологии и советником президента Дэвидом Саксом и подписано Сундаром Пичаи из Google, Дарио Амодеем из Anthropic, Марком Цукербергом из Meta, Грегом Брокманом из OpenAI, Илоном Маском из XAI и Дженсеном Хуангом из Nvidia.

«Чтобы построить позитивное будущее для американского народа и мира, мы считаем, что каждая компания несет ответственность за разработку своих собственных технологий безопасно и таким образом, чтобы завоевать доверие клиентов и общественности», — говорится в первой строке документа. «Компании-участники будут регулярно встречаться для установления стандартов и передового опыта для повышения безопасности своих систем».

В соглашении изложены четыре правила для каждой компании, которые направлены на то, чтобы передовые модели ИИ работали должным образом, а любые проблемы быстро выявлялись и решались:

1) Внедрить надежный внутренний контроль для мониторинга возможностей и согласованности своих моделей во время обучения и развертывания в таких областях, как кибербезопасность, биобезопасность и химические угрозы, а также для обеспечения того, чтобы их модели не взламывали технические системы и не получали непреднамеренный доступ к ним.

2) Предоставьте внутренней команде возможность гарантировать, что все средства контроля, мониторинга и обнаружения работают должным образом, а также что любые проблемы будут устранены.