TechCrunch · AI · 2 ч назад
Министерство обороны заявляет, что «красные линии» Anthropic делают его «неприемлемым риском для национальной безопасности»
В Министерстве обороны заявили, что опасения, что Anthropic может «попытаться отключить свою технологию» во время «военных операций», подтверждают его решение обозначить фирму, занимающуюся искусственным интеллектом, как угрозу для цепочки поставок.
Подробности
Во вторник вечером Министерство обороны США заявило, что Anthropic представляет «неприемлемый риск для национальной безопасности», что стало первым опровержением ведомством иска лаборатории искусственного интеллекта, оспаривающего решение министра обороны Пита Хегсета в прошлом месяце обозначить компанию как риск для цепочки поставок. В рамках своих жалоб Anthropic просила суд временно запретить Министерству обороны применять свой ярлык.
Суть аргумента Министерства обороны, изложенного в 40-страничном иске в федеральный суд Калифорнии, заключается в опасении, что Anthropic может «попытаться отключить свою технологию или упреждающе изменить поведение своей модели» до или во время «боевых операций», если компания «почувствует, что ее корпоративные «красные линии» пересекаются».
Прошлым летом Anthropic подписала с Пентагоном контракт на 200 миллионов долларов на внедрение своей технологии в секретных системах. В ходе более поздних переговоров об условиях контракта Anthropic заявила, что не хочет, чтобы ее системы искусственного интеллекта использовались для массового наблюдения за американцами, и что технология не готова к использованию при выборе цели или принятии решений об использовании смертоносного оружия. Пентагон заявил, что частная компания не должна диктовать, как военные используют технологии.
Крис Маттеи, юрист, специализирующийся на вопросах Первой поправки, и бывший прокурор Министерства юстиции, сообщил TechCrunch, что не проводилось никакого расследования, подтверждающего опасения Министерства обороны США по поводу того, что Anthropic потенциально может отключить или изменить свои модели искусственного интеллекта во время боевых действий. Без этих доказательств аргументы департамента не могут адекватно объяснить, как переговорная позиция Anthropic сделала ее «противником», утверждает Маттеи.
«Правительство полностью полагается на гипотетические, спекулятивные фантазии, чтобы оправдать очень, очень серьезный юридический шаг, который они предприняли против Anthropic», — сказал Маттеи. Он добавил, что департаменту не удалось «сформулировать заслуживающее доверия или даже понятное обоснование того, почему отказ Anthropic согласиться на положение о «все законном использовании» сделал ее риском для цепочки поставок, в отличие от поставщика, с которым Министерство обороны просто не хотело иметь дело».