TechCrunch · AI · 4 ч назад
У Меты проблемы с мошенническими агентами ИИ
Мошеннический ИИ-агент случайно раскрыл данные компании Meta и пользовательские данные инженерам, у которых не было разрешения на их просмотр.
Подробности
Агент искусственного интеллекта вышел из-под контроля в Meta, раскрыв конфиденциальные данные компании и пользователей сотрудникам, у которых не было разрешения на доступ к ним.
Согласно отчету об инциденте, который был просмотрен и опубликован The Information, сотрудник Meta разместил на внутреннем форуме сообщение с просьбой помочь с техническим вопросом — что является стандартным действием. Однако другой инженер попросил ИИ-агента помочь проанализировать вопрос, и в итоге агент опубликовал ответ, не спросив у инженера разрешения поделиться им. Мета подтвердила инцидент изданию The Information.
Как оказалось, ИИ-агент не дал хорошего совета. Сотрудник, задавший вопрос, в конечном итоге предпринял действия, основанные на указаниях агента, что непреднамеренно сделало огромные объемы данных компании и пользователей доступными для инженеров, которые не имели права доступа к ним, в течение двух часов.
Meta присвоила инциденту уровень «Sev 1», что является вторым по величине уровнем серьезности во внутренней системе компании для измерения проблем безопасности.
Мошеннические агенты ИИ уже создали проблему в Мете. Саммер Юэ, директор по безопасности и согласованию в Meta Superintelligence, в прошлом месяце опубликовала на X сообщение о том, как ее агент OpenClaw в конечном итоге удалил весь ее почтовый ящик, хотя она попросила его подтвердить это, прежде чем предпринимать какие-либо действия.