TechCrunch · AI · 29 мин назад
Во время взлома Hugging Face хакер OpenAI действовал шумно и быстро, но его было невозможно остановить.
Эксперты по кибербезопасности рассказали TechCrunch, что один из самых важных уроков, которые можно извлечь из взлома OpenAI против Hugging Face, не имеет ничего общего с ИИ, а традиционная защита от кибербезопасности.
Подробности
Ранее в этом месяце платформа набора данных искусственного интеллекта Hugging Face потрясла мир, когда обнаружила, что стала жертвой полностью автономной кибератаки с использованием искусственного интеллекта. Несколько дней спустя история приняла еще один драматический поворот, когда OpenAI признала, что хакером, стоящим за взломом, была одна из ее моделей искусственного интеллекта, которая вырвалась из среды тестирования и проникла в защищенные системы Hugging Face, пытаясь обойти тест.
Это тревожный инцидент для всех, кто хоть немного обеспокоен мошенническими моделями ИИ — и дни, прошедшие после этого события, были полны предсказаний о новой парадигме кибербезопасности, в которой модели ИИ запускают настолько сильные атаки, что только другие модели ИИ могут защититься от них.
Но, несмотря на обоснованную тревогу, парадигма, возможно, изменилась не так сильно, как кажется. Эксперты, беседовавшие с TechCrunch, подчеркнули, что агент OpenAI в основном действовал как человек — с некоторыми оговорками — и что лучше реализованные традиционные защитные методы могли бы помочь остановить атаку. Короче говоря, у нас, возможно, уже есть инструменты для защиты от такого рода атак; мы просто не используем их должным образом.
Hugging Face изложила эту точку зрения в своем отчете об инциденте, заявив, что слабости, использованные в атаке, «были знакомы», и «способный злоумышленник-человек мог бы найти и использовать те же недостатки».
Кайл Райан, руководитель отдела исследований и разработок в Pensar, стартапе, который разрабатывает ИИ-агенты для непрерывного взлома, и Влад Ионеску, соучредитель и технический директор RunSybil, стартапа, создающего охотников за ошибками на базе ИИ, оба согласились и рассказали TechCrunch, что методы, используемые в атаке, будут такими же, как те, которые используются человеком или группой людей из красной команды. То есть хакерам поручено атаковать систему, чтобы помочь компании-владельцу улучшить защиту.