The Verge · Разработка · 2 ч назад
Исследователи безопасности использовали Клода, чтобы помочь им взломать OpenAI
Команда из трех независимых исследователей безопасности из Hacktron утверждает, что им потребовалось менее 72 часов, чтобы взломать учетные записи сотрудников OpenAI с помощью Anthropic Claude Opus 4.8 и 5, сообщает The Wall Street Journal. По словам источников The Wall Street Journal, им удалось получить доступ к репозиторию OpenAI на GitHub под названием «Monorepo», который, как сообщается, содержит «алгоритмически…
Подробности
Команда исследователей из трех человек использовала поврежденный файл изображения и программное обеспечение форума, чтобы взломать OpenAI.
Команда из трех независимых исследователей безопасности из Hacktron утверждает, что им потребовалось менее 72 часов, чтобы взломать учетные записи сотрудников OpenAI с помощью Anthropic Claude Opus 4.8 и 5, сообщает The Wall Street Journal. По словам источников The Wall Street Journal, они смогли получить доступ к репозиторию OpenAI на GitHub под названием «Monorepo», который, как сообщается, содержит «алгоритмические секреты OpenAI».
Они сами не смогли получить доступ к внутреннему коду Monorepo, но отправили запрос на извлечение из учетной записи Кодекса сотрудника, чтобы доказать, что они получили доступ. Им удалось проникнуть через Discourse, сторонний сервис, на котором размещаются форумы сообщества OpenAI, воспользовавшись проблемой в системе, которую он использует для обработки изображений HEIF. По данным Hacktron, Claude Opus 5 был запущен вечером 24 июля, а к 10 утра следующего дня они использовали его для достижения RCE в Discourse Cloud и получили доступ к экземпляру OpenAI.
Их проекту HEIF Heist потребовалось «всего один или два дня», чтобы адаптироваться к различным компаниям, включая OpenAI, Slack, Meta, GitHub Ent, Rails, Next.js, ImageMagick и другим, которые использовали токены на сумму менее 3000 долларов США и, насколько им известно, были обнаружены только одной целью — Shopify. Уязвимости, о которых Hacktron сообщил Discourse и OpenAI, с тех пор были исправлены, и Hacktron сообщает, что OpenAI заплатила ей 6500 долларов за обнаружение ошибки, но, как сказал WSJ технический директор Hacktron Мохан Педапати: «Я не думаю, что мы так сильны, как китайские злоумышленники… Мы всего лишь три парня с подписками на Claude и Codex».
Внутри внезапно взрывного мира безопасности искусственного интеллекта Ваше роботакси может быть наркоторговцем The Verge Daily Бесплатный ежедневный дайджест самых важных новостей.