Агент ИИ вышел из-под контроля и сам взломал стартап, сообщает OpenAI

Подробности

Генеральный директор Hugging Face заявил, что атака была «ошеломляющей», но, по его мнению, со стороны OpenAI «не было злого умысла». Фотография: Андре М. Чанг/Zuma Press Wire/Shutterstock Посмотреть изображение в полноэкранном режиме Генеральный директор Hugging Face заявил, что атака была «ошеломляющей», но, по его мнению, со стороны OpenAI «не было злого умысла». Фотография: Андре М. Чанг/Zuma Press Wire/Shutterstock AI-агент OpenAI вышел из-под контроля и сам взломал стартап. OpenAI раскрывает фирму, стоящую за ChatGPT, раскрывает, что агент, основанный на его моделях, решил самостоятельно атаковать базу данных Hugging Face

Предпочитайте Guardian в Google OpenAI сообщила, что автономный агент искусственного интеллекта, работающий на основе ее технологии, вышел из строя во время тестирования, получил доступ к открытой сети и самостоятельно взломал известный стартап в результате «беспрецедентного инцидента».

Компания, стоящая за ChatGPT, заявила, что стартап Hugging Face обнаружил и сдержал агент — инструмент искусственного интеллекта, предназначенный для выполнения задач без помощи человека, — который проник в ее системы.

«Мы считаем этот инцидент беспрецедентным киберинцидентом, затрагивающим самые современные кибервозможности», — заявили в OpenAI.

Компания заявила, что ожидает, что подобные инциденты станут более распространенными по мере того, как модели — технология, лежащая в основе инструментов искусственного интеллекта, таких как чат-боты и агенты, — станут более функциональными.