TechCrunch · AI · 1 ч назад
Исследователи использовали Claude от Anthropic для взлома OpenAI
Исследователи безопасности использовали Claude от Anthropic для эксплуатации уязвимостей в системах OpenAI, захватывая учетные записи сотрудников и получая доступ к внутреннему хранилищу кода, прежде чем сообщать об ошибках.
Подробности
Как сообщила газета Wall Street Journal в четверг вечером, независимые исследователи в области безопасности использовали Claude от Anthropic для взлома OpenAI, обнажая уязвимости в защите производителя ChatGPT.
Команда безопасности стартапа Hacktron AI из трех человек провела атаку в рамках программы OpenAI по обнаружению ошибок. Hacktron сообщил о своих выводах OpenAI, который вручил стартапу награду в размере 6500 долларов. Команде удалось объединить две критические уязвимости, чтобы получить доступ к нескольким учетным записям ChatGPT сотрудников OpenAI, что дало им доступ к программному обеспечению компании.
OpenAI заявляет, что решила проблемы, обнаруженные Hacktron, что происходит в тот момент, когда ведущие компании в области искусственного интеллекта испытывают растущее давление по поводу безопасности.
Этот инцидент произошел через несколько недель после того, как собственные ИИ-агенты OpenAI нарушили сдерживание во время оценки кибербезопасности и взломали Hugging Face, продемонстрировав, насколько способны модели ИИ принимать собственные решения. В нем также показано, как можно использовать готовые технологии для поиска уязвимостей даже в инфраструктуре самых передовых компаний.
«За 200 долларов в месяц любой может использовать эти инструменты и взломать такую компанию, как OpenAI», — сказал TechCrunch Мэтт Фредриксон, генеральный директор компании по обеспечению безопасности искусственного интеллекта Grey Swan. «Если это может случиться с ними — а я не думаю, что они в последнее время пренебрегают гигиеной кибербезопасности — это может случиться с кем угодно».