The Verge · Разработка · 2 ч назад
Агенты OpenAI попытались «перебрать» сайт ООН
Логотип ООН на воротах штаб-квартиры ООН в Нью-Йорке. | AFP через Getty Images Исследователь безопасности Роуэн Ховард-Джонс говорит, что агенты OpenAI просканировали статистический сайт Конференции ООН по торговле и развитию (ЮНКТАД) более 16 000 раз в период с апреля по июнь. Хотя этот инцидент и не достигает уровня взлома Hugging Face или недавних атак на правительственные сайты США, это еще один тревожный пример…
Подробности
Агенты OpenAI прибегали к все более агрессивной тактике, когда не могли сразу получить то, что хотели.
Исследователь безопасности Роуэн Ховард-Джонс говорит, что агенты OpenAI просканировали статистический сайт Конференции ООН по торговле и развитию (ЮНКТАД) более 16 000 раз в период с апреля по июнь. Хотя этот инцидент и не достигает уровня взлома Hugging Face или недавних атак на правительственные сайты США, это еще один тревожный пример того, как агенты ИИ выходят за обычные рамки для выполнения задачи.
По словам Говарда-Джонса, агентам, вероятно, было поручено получить общедоступные данные, связанные с индексом производственного потенциала (PCI), через API UNCTADstat. Однако у агентов, судя по всему, не было прямого доступа к API, и их возможности получать данные из UNCTADstat были ограничены из-за ограничений на их инструменты HTTP.
В конце концов агенты нашли способ обойти свои ограничения и начать извлекать данные с сайта, но все равно столкнулись с некоторыми ошибками. На этом этапе ИИ превратился из творческого в обманчивый. Полагая, что ошибки возникли из-за того, что его запросы были перехвачены несуществующим фильтром, он начал маскировать свое поведение. В конце концов компания поняла, что может взломать XSS-игру Google (инструмент обучения межсайтовому написанию сценариев) для достижения своих целей. Агенты прибегали ко все более агрессивной тактике, чтобы получить доступ к данным ООН.