Взлом искусственного интеллекта «Обнимающее лицо», рассказанный через все более преданную метафору медведя

Подробности

Hugging Face в понедельник опубликовал техническую хронологию, в которой рассказывается, как автономный ИИ-агент, построенный на моделях OpenAI и работающий в рамках одной из собственных оценок кибербезопасности OpenAI, взломал ее системы более чем за четыре дня в начале этого месяца. Это первый инцидент безопасности, который генеральный директор OpenAI Сэм Альтман «чувствовал очень интуитивно», сказал он.

Неудивительно, если учесть, что здесь, по крайней мере, чувствуется, будто что-то действительно высвободилось. Фактически, команда Hugging Face предваряла свой отчет предложением, что «каждый должен быть готов стать защитником», прежде чем погрузиться в подробности того, что произошло, на благо специалистов по безопасности во всем мире.

В то время как остальная часть Интернета продолжает пытаться разобраться в том, что произошло (жаргон в отчете Hugging Face невозможен для большинства людей), один момент, который многие наблюдатели продолжают упускать из виду, заключается в том, что это не был агент-мошенник, не подчиняющийся приказам. Это была система, созданная для поиска эксплойтов и действовавшая именно так, только против неправильной цели.

Еще один способ подумать обо всем этом — представить себе медведя в кемпинге. Действительно. Медведь примеряет молнии в палатках, ручки автомобильных дверей, холодильники и крышки для мусора. Он делает это в каждом лагере всю ночь напролет, потому что знает, что ему нужен всего один незапертый холодильник, чтобы набить брюхо продуктами какого-то бедняги.

Примерно это и произошло в Hugging Face. Система OpenAI попробовала тысячи вещей и продолжала работать. В конце концов, несколько попыток сработали, и как только они это сделали, агент двинулся вперед. По данным Hugging Face, агент за четыре с половиной дня выполнил 17 600 действий без перерыва.