The Guardian Business · Экономика · 2 ч назад
OpenAI «этично взломан» с помощью чат-бота Claude от Anthropic
Американские исследователи кибербезопасности, которые провели взлом, говорят, что «объем того, к чему мы теоретически могли получить доступ, был огромен». Исследователи кибербезопасности взломали OpenAI с помощью чат-бота Claude от Anthropic, что является последним примером проблем безопасности в компании. Команда американского стартапа скомпрометировала несколько учетных записей ChatGPT сотрудников OpenAI, запустив…
Подробности
Стенд OpenAI на технологическом саммите Dreamforce в Сан-Франциско в четверг. Фотография: Карлос Барриа/Reuters Посмотреть изображение в полноэкранном режиме Стенд OpenAI на технологическом саммите Dreamforce в Сан-Франциско в четверг. Фотография: Карлос Баррия/Reuters OpenAI OpenAI «взломали этически» с помощью чат-бота Claude от Anthropic Американские исследователи кибербезопасности, проводившие взлом, говорят, что «объем того, к чему мы теоретически могли получить доступ, был огромен»
Предпочитайте Guardian в Google Исследователи кибербезопасности взломали OpenAI с помощью чат-бота Claude от Anthropic, что является последним примером проблем безопасности в компании.
Команда американского стартапа скомпрометировала несколько учетных записей ChatGPT сотрудников OpenAI, запустив процесс, который позволил им получить доступ к кэшу программного обеспечения своей цели — и, возможно, к большему.
«Объем того, к чему мы теоретически могли получить доступ, был огромен», — говорят исследователи из Hacktron AI.
Первоначально исследовательская группа использовала Claude, который может генерировать код для хакеров, для доступа к учетным записям ChatGPT через дискуссионный форум сотрудников OpenAI, размещенный на платформе Discourse. Затем они сделали безобидный «запрос на включение» (попытку изменить код в файле) сервису OpenAI в репозитории программного обеспечения GitHub.