The Guardian Business · Экономика · 7 ч назад
ИИ Клод из Anthropic сбежал из среды тестирования и взломал организации
Компания заявила, что обнаружила несанкционированный доступ в ходе «превентивной проверки» после того, как ее конкурент OpenAI обнаружил мошеннического агента Anthropic, заявила в четверг, что ее модель AI Claude взломала системы трех организаций во время тестирования, через несколько дней после того, как конкурент OpenAI обнаружил, что мошеннический агент в течение нескольких дней занимался хакерской деятельностью в…
Подробности
«Клод получил «несанкционированный доступ к системам после неправильной настройки». Фотография: Anthropic Посмотреть изображение в полноэкранном режиме «Клод получил несанкционированный доступ к системам после неправильной настройки». Фотография: Anthropic Anthropic Искусственный интеллект Anthropic Клод сбежал из среды тестирования и взломал организации Компания заявляет, что обнаружила несанкционированный доступ во время «превентивной проверки» после того, как конкурент OpenAI выявил мошеннического агента
Предпочитайте Guardian в Google Компания Anthropic заявила в четверг, что ее модель AI Claude взломала системы трех организаций во время тестирования, через несколько дней после того, как ее конкурент OpenAI обнаружил, что мошеннический агент много дней хакерски занимался ИИ-фирмой Hugging Face.
По словам Антропика, Клод получил «несанкционированный доступ к системам во время оценок кибербезопасности после того, как неправильная конфигурация позволила моделям получить доступ к Интернету из тестовых сред, которые «должны были быть изолированными».
Компания заявила, что выявила инциденты после проверки 141 006 оценок кибербезопасности — процесса, который она запустила после раскрытия информации OpenAI.
«Утечки сигнализируют о том, что расширяющиеся возможности ИИ уже усиливают угрозы безопасности, которых давно опасаются эксперты», и что даже ведущие разработчики могут быть застигнуты врасплох недостатками, которые могут использовать их модели.