По мере увеличения числа атак с использованием ИИ OpenAI запускает новую кибермодель

Подробности

Кажется, каждый день приносит свежие новости о том, что агент ИИ становится «мошенником». Будь то компрометация Hugging Face, взлом веб-сайта спортзала или создание собственных фейковых профилей для социальной инженерии вторжения, модели ИИ все чаще ведут себя как плохие актеры.

Итак, лаборатории искусственного интеллекта, которые создают модели для взлома, расширяют свои предложения по киберзащите. На этой неделе OpenAI объявила о расширении Daybreak, своей службы киберзащиты, которую она запустила ранее в этом году, вскоре после того, как Anthropic выпустила свою кибер-ориентированную модель Mythos.

Daybreak — это сервис, который объединяет защитников в доступ к моделям, инструментам и рабочим процессам. Расширение включает доступ к совершенно новой киберориентированной модели, предназначенной для оборонительной работы.

В понедельник OpenAI заявила, что Daybreak теперь будет состоять из двух уровней: синего и красного. Оба этих уровня предоставят одобренным клиентам доступ к пограничным кибермоделям OpenAI с ограниченным доступом. Модели Frontier — самые продвинутые из доступных — стали предметом споров. Администрация Трампа ранее стремилась сотрудничать с компаниями, занимающимися искусственным интеллектом, при внедрении таких моделей, предположительно из соображений безопасности. Ранее OpenAI ввела серьезные ограничения на использование этих моделей, ограничивая возможности клиентов с ними делать.

Blue, который кажется более простым из двух, предлагает множество киберуслуг, включая реагирование на инциденты, анализ вредоносного ПО и проверку исправлений. OpenAI называет Blue своей «рекомендуемой отправной точкой для большинства защитников», подразумевая, что его должно быть более чем достаточно для большинства предприятий.