The Verge · Разработка · 2 ч назад
План Трампа по тестированию ИИ ограничен и расплывчат.
Сообщается, что система администрации Трампа для оценки потенциальных рисков кибербезопасности, создаваемых передовым искусственным интеллектом, не заинтересована в тестировании открытых моделей. Axios сообщает, что добровольные рекомендации не только полностью исключают открытые модели (то есть каждый может загрузить их и проверить их основные компоненты), но и структура прямо заявляет, что ее нельзя использовать дл…
Подробности
Структура ИИ полностью исключает открытые модели и не определяет, что такое «риск национальной безопасности».
Сообщается, что система администрации Трампа для оценки потенциальных рисков кибербезопасности, создаваемых передовым искусственным интеллектом, не заинтересована в тестировании открытых моделей. Axios сообщает, что добровольные рекомендации не только полностью исключают открытые модели (это означает, что любой может загрузить их и проверить их основные компоненты), но и структура прямо заявляет, что ее нельзя использовать для ограничения открытых моделей после их выпуска.
Система тестирования искусственного интеллекта была создана после того, как президент Трамп в июне подписал указ, требующий, чтобы компании, занимающиеся искусственным интеллектом, перед выпуском перед выпуском делились своими передовыми моделями с целью решения проблем кибербезопасности. Сообщается, что компании, занимающиеся искусственным интеллектом, в том числе Anthropic, OpenAI и Google, вчера присутствовали на брифинге по поводу окончательной схемы тестирования модели в Белом доме, но администрация Трампа не планирует публиковать подробности этой системы.
По данным Axios, структура устанавливает 30-дневный льготный период для правительства для рассмотрения новых моделей и будет применяться только к моделям ИИ с закрытым исходным кодом, которые обладают самыми современными возможностями и несут риски для национальной безопасности. Однако руководящие принципы на самом деле не определяют, что означает «современное состояние» или «риск национальной безопасности» в этом контексте, что странно для инициативы, которая якобы разработана специально для анализа таких вещей.
Хотя компании, занимающиеся искусственным интеллектом, не обязаны соблюдать добровольные рамки, передовые лаборатории, такие как OpenAI и Anthropic, активно ищут рекомендации о том, как выпускать модели, не вызывая правительственных ограничений. Неспособность структуры определить границу или то, что является риском национальной безопасности, также означает, что многое из этого все еще остается двусмысленным, что может стать проблемой для мелких поставщиков ИИ, которые хотят оставаться в хороших книгах Белого дома.