TechCrunch · AI · 2 ч назад
Генеральный директор DeepMind призывает создать независимый орган по стандартизации для регулирования передового ИИ
Генеральный директор DeepMind Демис Хассабис предлагает создать «орган по стандартизации» ИИ, созданный по образцу FINRA, для тестирования передовых моделей и разработки передовых практик для их выпуска.
Подробности
В сообщении X во вторник утром генеральный директор Google DeepMind Демис Хассабис призвал к созданию нового регулирующего органа для надзора за выпуском передовых моделей. В статье, озаглавленной «Концепция передового искусственного интеллекта и наступление новой эпохи», приводится аргумент в пользу создания «органа по стандартизации», созданного по образцу Управления по регулированию финансовой индустрии (FINRA), который мог бы тестировать передовые модели и разрабатывать лучшие практики для их выпуска.
«Первоначально Frontier Labs добровольно передавала модели в Орган по стандартизации для проверки за 30 дней до выпуска», — говорится в сообщении. "Как только будет доказано, что протокол оценки эффективен и надежен, за ним может быстро последовать формализация, а это означает, что Frontier Models необходимо будет пройти его для развертывания на рынке США. Лаборатории также будут работать с Органом по стандартизации для устранения любых критических уязвимостей после выпуска". Предлагаемая система будет основана на специальных проверках, проведенных правительством США в отношении Mythos от Anthropic и Sol от OpenAI. Эти обзоры вызвали серьезную критику из-за отсутствия технических знаний и непрозрачного принятия решений относительно того, когда модель может быть выпущена. Согласно предложению Хассабиса, эти решения могут быть переданы новой организации, поддерживаемой правительством США, но финансируемой индустрией искусственного интеллекта и действующей независимо.
Перспектива регулирования ИИ остается спорной как для технологической отрасли, так и для администрации Трампа. Совсем недавно советник Белого дома по искусственному интеллекту и генеральный партнер a16z Шрирам Кришнан не оценил возможность создания регулятора искусственного интеллекта в исполнительной власти, заявив, что «FDA для искусственного интеллекта не будет».
Создание органа по стандартизации в качестве саморегулируемой организации, такой как FINRA, могло бы стать способом решения этих проблем. Хассабис предполагает, что регулятор будет укомплектован представителями открытого ПО и техническими экспертами из отрасли, а также финансовой поддержкой со стороны лабораторий искусственного интеллекта, которая будет необходима для их удержания. Они могли бы даже поручить некоторые оценки растущему пулу групп по безопасности ИИ, которые могли бы специализироваться на конкретных рисках.
«Сила этого подхода в том, что он будет технически сфокусирован, но в то же время будет поддерживать инновации и стимулировать ответственное поведение», — утверждает Хассабис. «Он предназначен для того, чтобы идти в ногу с ускорением развития месторождения и адаптироваться к самым большим рискам по мере их выявления, и может быть усилен, если этого потребует серьезность ситуации».