TechCrunch · AI · 1 ч назад
Уоррен оказывает давление на Пентагон по поводу решения предоставить xAI доступ к секретным сетям
Сенатор Элизабет Уоррен отметила, что Грок, скандальный чат-бот xAI, создает вредные результаты для пользователей и представляет потенциальную угрозу национальной безопасности.
Подробности
Сенатор Элизабет Уоррен (демократ от Массачусетса) в понедельник направила письмо министру обороны Питу Хегсету, в котором выразила обеспокоенность по поводу решения Пентагона предоставить компании Илона Маска xAI доступ к секретным сетям.
«Grok, спорная модель искусственного интеллекта, разработанная xAI, дала пользователям тревожные результаты, в том числе дала им «советы о том, как совершать убийства и террористические атаки», создала антисемитский контент и создала материалы о сексуальном насилии над детьми», — говорится в письме.
Уоррен сказал, что «очевидное отсутствие адекватных ограждений» у Грока может представлять «серьезный риск для безопасности американского военного персонала и кибербезопасности секретных систем». Она потребовала от Хегсета предоставить информацию о том, как министерство обороны планирует «смягчить эти потенциальные риски национальной безопасности».
Уоррен не первый, кто выражает тревогу по поводу Грока, скандального чат-бота xAI, получившего доступ к секретным системам. В прошлом месяце коалиция некоммерческих организаций призвала правительство немедленно приостановить использование Grok в федеральных агентствах, включая Министерство обороны, после того, как пользователи X неоднократно предлагали чат-боту превращать реальные фотографии женщин, а в некоторых случаях и детей, в сексуальные изображения без их согласия. В тот же день, когда Уоррен отправила свое письмо, против xAI был подан коллективный иск, в котором утверждалось, что Грок создала сексуальный контент на основе реальных изображений несовершеннолетних истцов.
Письмо появилось после решения Пентагона обозначить Anthropic как риск для цепочки поставок после того, как компания, занимающаяся искусственным интеллектом, отказалась предоставить военным неограниченный доступ к своим системам искусственного интеллекта. До недавнего времени Anthropic была единственной компанией в области искусственного интеллекта, имеющей системы, готовые к секретной информации. По данным Axios, в разгар этого конфликта Министерство обороны подписало соглашение с OpenAI, а также с xAI об использовании систем искусственного интеллекта двух компаний в секретных сетях.