Дарио Амодей из Anthropic отвечает: не выступает против моделей с открытым весом, но боится китайского ИИ

Подробности

Основатель и генеральный директор Anthropic Дарио Амодей отреагировал в понедельник днем ​​на ропот в отрасли о том, что его компания каким-то образом поддерживает усилия правительства США по запрету китайских моделей с открытым весом или, возможно, моделей с открытым весом в целом.

«Любой, кто читал мои предыдущие статьи, должен знать, что я не считаю такие запреты полезной мерой, но позвольте мне заявить это ясно, чтобы не было сомнений: Anthropic никогда не выступал за запрет моделей с открытыми весами», — написал он, подчеркивая свой.

Его ответ последовал после того, как основатель и генеральный директор Nvidia Дженсен Хуанг отправился в X (его первый пост на платформе), чтобы поделиться в пятницу открытым письмом, в котором Nvidia и длинный список других компаний, занимающихся искусственным интеллектом, включая Hugging Face, Meta, Microsoft, Mistral и Nvidia, призвали политиков не вводить широкие «преждевременные ограничения» на модели искусственного интеллекта с открытым весом.

Хотя в этом письме конкретно не упоминался Китай, дебаты в отрасли сосредоточились на утверждениях о том, что китайские лаборатории искусственного интеллекта наращивают свои возможности, зачастую за счет кражи интеллектуальной собственности у своих американских коллег. Одним из методов является дистилляция, когда ИИ бомбардирует другую модель подсказками, чтобы узнать, как она работает.

Амодей заявил в своем блоге, опубликованном в понедельник, что он рассматривает модели с открытым весом как угрозу, которую представляет Китай. «Модели открытого веса, не обладающие опасными возможностями, являются общественным благом: они не требуют ничего, кроме вычислительных ресурсов, необходимых для их запуска, и приносят пользу предприятиям, разработчикам и исследователям».