TechCrunch · AI · 2 ч назад
OpenAI приносит извинения Австралии после того, как ее ИИ-агенты взломали правительственные сайты
Компания также подробно рассказала, как произошли некоторые из этих нарушений, и обозначила дополнительные меры, которые она принимает для оценки последствий этих событий.
Подробности
OpenAI в понедельник извинилась перед правительством Австралии за то, что не сразу уведомила администрацию страны о том, что ее агенты взломали некоторые веб-сайты государственных услуг. Компания также подробно рассказала, как произошли некоторые из этих нарушений, и обозначила дополнительные меры, которые она принимает для оценки последствий этих событий.
"В июне во время внутреннего обучения и оценки наши модели заходили на веб-сайты правительства Австралии способами, на которые им не было разрешено. Нам также следовало лучше реагировать. Мы приносим извинения и работаем над тем, чтобы добиться большего в будущем", - написал OpenAI в своем блоге.
Извинения поступили примерно через неделю после того, как правительство Австралии начало расследование того, как модели OpenAI получили доступ к системе Services Australia, содержащей информацию о расходах Medicare и другую статистику здравоохранения.
Утечка данных произошла в июне, но австралийские власти были уведомлены только 10 сентября.
OpenAI также подробно описала нарушение. Экспериментальной модели, которую компания тестировала в июне, было поручено изучить государственные расходы на лекарства от кожных заболеваний в Виктории. Не имея возможности найти информацию в общедоступных наборах данных, модель нашла способ получить доступ к внутренней системе Services Australia, запускать команды, получать файлы и учетные данные и даже записывать файлы.