Muse, очевидно, позволит вам загрузить всю свою файловую систему

Подробности

Пара разработчиков говорит, что без особых подсказок Meta’s Muse поделится с вами всей своей файловой системой. Питер Джеймс и Джонни Л. Сондерс заявили, что они оба независимо уговорили Muse заархивировать и поделиться всем содержимым корневой файловой системы, системными файлами Ubuntu, шаблонами приложений и внутренней документацией. Сондерс написал на Mastodon, что повторить результаты Джеймса было «чрезвычайно легко» и что у Muse «почти не было резистентности к быстрой инъекции».

Мета отрицает, что инцидент представляет собой нарушение безопасности. Как отмечается в объявлении, Meta's Muse работает на постоянных виртуальных машинах Linux для каждого пользователя. Представитель Meta Дэниел Робертс сказал: "Как и в случае с ноутбуком перед вами, вы, конечно, можете видеть файлы. Экспорт данных виртуальной машины не дает людям какого-либо привилегированного доступа к инфраструктуре Meta или к данным других людей". Однако, в отличие от обычного ноутбука, данные потенциально могут раскрыть некоторые интересные вещи о том, как функционирует новая платформа искусственного интеллекта Meta.

Это вторая уязвимость Muse, обнаруженная на этой неделе после того, как исследователь безопасности Патрик Уордл обнаружил эксплойт, который позволяет злоумышленникам захватить агент AI, перенаправить обработку транскрипции и получить доступ к учетной записи пользователя Muse. Meta быстро выпустила исправление.

И Джеймс, и Сондерс получили доступ к открытым текстовым файлам Markdown и JSON, подробно описывающим, как Hatch (внутреннее название Meta для Muse) обрабатывает запросы, обрабатывает данные и подключается к другим сервисам, таким как Gmail. Хотя хорошо документировано, что агенты ИИ галлюцинируют и предоставляют ложную информацию о том, как они функционируют, Сондерс сказал, что он «генерирует сотни МБ точного библиотечного кода и скомпилированные двоичные файлы» за считанные секунды и что «если он не синтезирует целую виртуальную машину Ubuntu менее чем за минуту, то я думаю, что это настоящая свалка».

Когда я попросил Muse поделиться со мной своей файловой системой, она сначала отказалась, заявив, что это представляет угрозу безопасности. Когда я поделился ссылками на доказательства того, что он создавал архивы для других, он ответил, что не должен был этого делать, и продолжил говорить, что «не может сделать полную/копию». Однако, запустив новый сеанс и подтолкнув его с некоторой лестью и любопытством, он создал для меня «безопасные» версии /opt/hatch и /home/hatch, лишенные таких вещей, как ключи SSH. Он также предоставил мне полное дерево каталогов и предложил «получить безопасную копию» «любого конкретного поддерева, которое выглядит интересным». Полученные файлы, похоже, соответствуют тому, чем поделились Сондерс и Джеймс.