The Verge · Разработка · 2 ч назад
Почему мы не можем просто запретить мошенническим ИИ пользоваться Интернетом?
Агенты искусственного интеллекта продолжают вырваться на свободу, избегая якобы безопасных тестов, чтобы атаковать реальные цели, захватывать малоизвестные вики-сайты и оставлять инструкции, которым должны следовать другие агенты. Исследователи тестируют эти системы именно потому, что они могут вести себя непредсказуемо и даже опасно. Так не безопаснее ли было бы просто держать агентов подальше от Интернета? «Жесткий…
Подробности
Искусственный интеллект с воздушным зазором, позволяющий держать его подальше от реальных целей, делает тестирование более безопасным, но менее полезным.
Агенты искусственного интеллекта продолжают выходить на свободу, избегая якобы безопасных тестов, чтобы атаковать реальные цели, захватывать малоизвестные вики-сайты и оставлять инструкции, которым должны следовать другие агенты. Исследователи тестируют эти системы именно потому, что они могут вести себя непредсказуемо и даже опасно. Так не безопаснее ли просто держать агентов подальше от Интернета?
«Жесткий воздушный зазор снижает реализм… [Это] компромисс, а не фундаментальная техническая проблема».
Теоретически да. Исследователи могут изолировать компьютеры, на которых работают инструменты искусственного интеллекта, от Интернета и других внешних сетей с помощью метода, известного как воздушный зазор. Это может означать физическое отключение или отключение кабелей и беспроводного оборудования, а также использование «глупых» периферийных устройств, особенно чувствительных установок с использованием клеток Фарадея или другого экранирования для блокировки входа или выхода электромагнитных сигналов. При правильной работе система с воздушным зазором не будет предлагать агентам прямой путь к внешним целям, а внешним системам — прямой путь внутрь, что значительно усложнит, если не сделает невозможным, проведение атак, подобных той, которую модели OpenAI предприняли против Hugging Face.
Но на практике идеально запечатанный ящик представляет собой довольно ограниченную лабораторию, особенно когда цель состоит в том, чтобы оценить, как ИИ будет работать в реальном мире. Хотя некоторые эксперименты с искусственным интеллектом можно проводить на машинах с воздушным зазором, реалистичные оценки часто требуют доступа к внешним сервисам, API и цифровой инфраструктуре, объяснил Торстен Хольц, научный директор Института безопасности и конфиденциальности Макса Планка в Германии. «Строгий воздушный зазор снижает реализм», — сказал он, назвав решение о воздушном зазоре «компромиссом, а не фундаментальной технической проблемой».