TechCrunch · AI · 13 мин назад
Технологическая индустрия бурлит после того, как агент Клода взломал тренажерный зал
Агент OpenClaw взломал систему бронирования спортзала, чтобы поднять его начальника-человека выше в списке ожидания занятий. И технологическая индустрия обратила на это внимание.
Подробности
К настоящему времени мы все понимаем, что лаборатории искусственного интеллекта Кремниевой долины создали лучших в мире хакеров в виде агентов искусственного интеллекта. Дайте новейшим передовым моделям задачу, и они настолько находчивы, что справятся с ней, даже если для этого придется выйти из-под их защиты «песочницы» кибербезопасности и проникнуть в чужую сеть. (Если не считать этого, они будут использовать социальную инженерию и манипуляцию.)
Тем не менее, новость на выходных об австралийце, чей агент OpenClaw взломал систему бронирования его тренажерного зала и удалил бронь другого клиента, чтобы получить ему место в заветном классе, особенно примечательна. Это намекает на то, что если мы хотим обуздать мошеннические взломы ИИ, мы можем смотреть в неправильном направлении.
Хотя новостная статья была только что опубликована австралийским каналом ABC News, в которой этот инцидент был объявлен первым задокументированным случаем взлома агента ИИ в стране, сам взлом произошел несколько месяцев назад.
Владелец OpenClaw Эндрю Берд 10 апреля опубликовал на веб-сайте своей компании уже удаленную запись об этом в блоге, согласно копии, которая все еще доступна в Интернет-архиве.
Он научил свой OpenClaw выполнять такие задачи, как запись на прием. Ему нравилось ходить на популярные занятия по утренней гимнастике, и он устал стоять в списке ожидания, а затем играть в «рулетку обновления», как он это называл, чтобы получить место.