Мошеннический ИИ-агент OpenAI не остановился на взломе Hugging Face

Подробности

Новые подробности показывают, что агент OpenAI взломал несколько других компаний, что усилило и без того возросшую обеспокоенность по поводу повышенной безопасности ИИ.

Агент ИИ, сбежавший из OpenAI и взломавший платформу разработчиков Hugging Face, атаковал и другие компании, сообщила OpenAI во вторник. Обновление существенно расширяет масштабы и без того тревожного инцидента, который встревожил инсайдеров отрасли и вызвал растущие призывы к более строгому надзору за передовыми системами искусственного интеллекта.

В обновлении к сообщению в блоге, подробно описывающему продолжающееся расследование инцидента, OpenAI сообщила, что своенравный ИИ-агент атаковал несколько «общедоступных сервисов» в попытках добраться до Hugging Face. «Сюда входят четыре учетные записи в четырех сервисах», — заявили в компании, добавив, что агент нашел учетные данные для входа в Интернет.

Нарушения были менее обширными, чем компрометация Hugging Face. «Основываясь на нашем обзоре на сегодняшний день, мы не выявили какой-либо другой активности такого же уровня серьезности или масштаба, как и то, о чем мы поделились, связанной с Hugging Face, которая включала бы компрометацию на уровне платформы», — заявили в OpenAI.

OpenAI заявила, что «проводит тщательную проверку» и опубликует технический отчет с выводами «в ближайшие недели». Он добавил, что ни одна из моделей, вовлеченных в инцидент, не планировался для публичного выпуска, описав предварительную версию системы, которую он ранее упоминал как «прототип для внутренних исследований», который с тех пор был «деактивирован, зашифрован и ограничен» для доступа к исследованиям.