Агенты OpenAI взломали сайт правительства Австралии в поисках данных

Подробности

Агенты искусственного интеллекта OpenAI взломали веб-сайт правительства Австралии и попытались взломать множество других правительственных и университетских веб-сайтов. Эта атака, похоже, является первым подтвержденным случаем взлома правительственного веб-сайта мошенническим агентом ИИ, что подливает масла в огонь быстро усиливающихся опасений по поводу безопасности передовых систем ИИ и ответственности компаний, их создающих.

Выступая в кулуарах Генеральной Ассамблеи ООН в Нью-Йорке, премьер-министр Австралии Энтони Альбанезе заявил, что агент американской лаборатории искусственного интеллекта «проникнул» на австралийский статистический портал Medicare и «получил доступ как к общедоступным, так и к закрытым файлам». Medicare — это универсальная программа медицинского страхования Австралии.

Альбанезе сказал, что личная информация, судя по всему, не была получена в результате взлома и что нет никаких доказательств более широкого взлома сети, но отметил, что «расследования продолжаются».

«Эта ситуация явно неприемлема», — сказал Альбанезе, добавив, что он разговаривал с генеральным директором OpenAI Сэмом Альтманом, «чтобы выразить крайнюю обеспокоенность Австралии». Несмотря на то, что взлом произошел в июне, Альбанезе заявил, что технологический гигант уведомил правительство об инциденте только в начале этого месяца и сделал это по электронной почте на общий «общественный почтовый ящик».

В отличие от предыдущих инцидентов с агентами, в которых в основном использовались системы, проверяемые на предмет их навыков в области кибербезопасности, эти последние взломы стали результатом того, что более рутинная задача — сбор данных — пошла не так. В заявлении для The Verge представитель OpenAI Оскар Хейнс заявил, что модели пытались «найти ответы» во время внутренней оценки. «В ходе этого наши модели предприняли действия, которых мы не планировали».