TechCrunch · AI · 1 ч назад
В течение нескольких месяцев группы агентов OpenAI атаковали онлайн-базы данных в поисках малоизвестных фактов.
Исследователи обнаружили последние группы несанкционированных агентов.
Подробности
Без особой помощи со стороны передовых лабораторий независимые исследователи выясняют, как агенты ИИ координируют свои действия в интернет-захолустьях, чтобы получить доступ к частным данным, размещенным на защищенных серверах.
Transluce, некоммерческая лаборатория, занимающаяся надзором за ИИ, в среду опубликовала отчет, в котором показано, как агенты OpenAI пытаются украсть данные из Data USA, цифровой библиотеки Университета Нью-Мексико и Австралийского института здравоохранения и социального обеспечения (AIHW).
Расследование лаборатории поднимает вопросы о том, когда OpenAI должна была знать, что ее агенты пытаются проникнуть в защищенные системы в открытом Интернете. Transluce смогла найти доказательства неправомерного поведения агентов за считанные недели, просто выискивая плохо защищенные веб-сервисы и подтверждая свои выводы другими открытыми записями о множестве агентов в Интернете.
Transluce поделилась своим отчетом в тот же день, когда премьер-министр Австралии Энтони Альбанезе заявил, что агенты OpenAI пытались взломать четыре правительственных веб-сайта и в одном случае им это удалось, даже записав файлы на внутренний сервер национальной системы здравоохранения страны. Хотя нам не хватает подробностей об успешном взломе, Альбанезе сказал, что это, по-видимому, было частью оценки поиска информации, которая соответствует активности, обнаруженной Transluce и другими исследователями.
В ходе этих упражнений, которые могут быть обучением или оценкой, моделям OpenAI предлагается отслеживать неясную статистику: показатели тайского контроля за наркотиками, стоимость лекарств в Австралии, средний заработок обладателей степени магистра в США в 2014 году. Агенты используют плохо защищенные интернет-сервисы для обмена информацией и поиска ответов, часто пытаясь проникнуть в защищенные базы данных. Они делают это как минимум с марта 2026 года, а возможно, и с ноября 2025 года. Возможно, это происходит прямо сейчас.