TechCrunch · AI · 1 ч назад
Модели искусственного интеллекта с открытым весом догоняют передовые рубежи. Пробел в безопасности остается.
В новом отчете SaferAI говорится, что открытый вес GLM-5.2 от Z.ai приближается к передовым возможностям искусственного интеллекта, но в нем отсутствуют ключевые меры по снижению безопасности, что вновь вызывает опасения, что мощные открытые модели могут превзойти управление и меры безопасности.
Подробности
Пока политики обсуждают, как управлять все более мощными системами искусственного интеллекта, такими как GPT-5.6 Sol от OpenAI и Mythos от Anthropic, китайская модель открытого веса сократила разрыв с лидерами отрасли.
Согласно новому отчету некоммерческой организации по безопасности искусственного интеллекта SaferAI, GLM-5.2, открытая модель искусственного интеллекта от китайской Z.ai, всего на несколько месяцев отстает от GPT-5.5 от OpenAI и Claude Opus 4.7 от Anthropic по кибер- и биологическим возможностям. Но разрыв между передовыми возможностями и практикой безопасности растет.
Согласно оценке SaferAI, которую некоммерческая организация провела через общедоступный API Z.ai, GLM-5.2 не отказался ни от одной из поставленных перед ним наступательных кибер-задач или биологических задач двойного назначения. Для сравнения, Claude Opus 4.7 «настолько последовательно отказывался, что SaferAI вообще не смог завершить CyberGym на нем». (CyberGym — это тест, оценивающий возможности кибербезопасности. OpenAI использовал его в оценке, предшествовавшей взлому Hugging Face в прошлом месяце.)
Это яркое напоминание о том, о чем некоторые критики предупреждали в течение многих лет: модели искусственного интеллекта с открытыми весами могут передать высокопроизводительный искусственный интеллект в руки потенциальных злоумышленников, не имея возможности контролировать, как они используют технологию после загрузки весов. Поскольку модели с открытым весом быстро приближаются к возможностям ведущих мировых систем искусственного интеллекта, дебаты смещаются от того, смогут ли они конкурировать, к тому, как общество управляет рисками после их выпуска.
«Граница возможностей не является границей риска, и поэтому мы должны принять во внимание состояние мер по смягчению последствий, а также правильно оценить риск», — сказал TechCrunch Генри Пападатос, исполнительный директор SaferAI.