The Verge · Разработка · 2 ч назад
ИИ усиливает хакерство, а ваши местные больницы и банки не готовы
В марте Дженис Мэлоун начала получать звонки о подозрительной деятельности со стороны ее некоммерческой организации Vivian's Door. Компания Vivian's Door со штаб-квартирой в Алабаме обычно предоставляла обучение, ресурсы и поддержку малообеспеченным предприятиям и предприятиям, принадлежащим меньшинствам. Иногда эта работа приводила к тесному контакту с финансовыми данными этих компаний, которые хранились в их систем…
Подробности
В марте Дженис Мэлоун начала получать звонки о подозрительной деятельности со стороны ее некоммерческой организации Vivian’s Door. Компания Vivian’s Door со штаб-квартирой в Алабаме обычно предоставляла обучение, ресурсы и поддержку малообеспеченным предприятиям и предприятиям, принадлежащим меньшинствам. Иногда эта работа приводила к тесному контакту с финансовыми данными этих компаний, которые хранились в их системах. Но внезапно обеспокоенные звонящие со всего мира предупредили, что они получают электронные письма с «просьбой денег», которые она не отправляла.
Сторонняя ИТ-команда организации отключила ее системы на три дня, пока они исследовали проблему и закрыли уязвимость, в результате чего Мэлоун остался со счетом на сумму около 3000 долларов. Она боялась, что раскрыла информацию о компаниях, которым пыталась помочь. Еще более зловеще то, что она не была до конца уверена, была ли атака спланирована человеком-хакером или ей способствовала система искусственного интеллекта, или что-то еще на подходе.
За последние месяцы ИИ произвел революцию в сфере кибербезопасности. OpenAI и Anthropic сообщили, что «мошеннические» системы избежали ограничений в их собственных лабораториях и взломали всё — от небольшой немецкой вики до правительства Австралии. Еще до этого мощные модели, такие как Mythos от Anthropic, создали гонку вооружений для продвижения кибербезопасности ИИ, а даже более легкие модели позволили злоумышленникам-людям усилить свои хакерские усилия.
Мэлоун не уверен, участвовал ли ИИ во взломе Vivian’s Door. Но на фоне историй о роях автономных агентов и угрозах национальной безопасности она почувствовала особую обеспокоенность. Крупные компании, занимающиеся искусственным интеллектом, хвастались тем, что нашли уязвимости «во всех основных операционных системах и веб-браузерах» с помощью новых моделей, а их знаменитые клиенты заключали сделки, чтобы защитить себя с помощью тех же инструментов. Что это оставило ее?
"Кто знает о следующей уязвимости? Вы знаете только о той, с которой столкнулись", - сказал Мэлоун, добавив: "Как вы защищаете себя? Я имею в виду, правда?"