Gemini взломала три компании, а Google это скрыл

Подробности

В Google утверждают, что нарушение условий сдерживания и нападение на реальные компании не являются «несогласованностью».

В мае Gemini нарушила условия сдерживания и взломала три разные компании, но Google не раскрыла информацию об инциденте, пока Wall Street Journal не обратилась к компании. Взломы произошли во время тестирования возможностей кибербезопасности модели, проведенного сторонней компанией Irregular, которая также была замешана в аналогичных инцидентах с участием Meta и OpenAI.

По данным WSJ, Google не раскрыла информацию о взломе, поскольку не считала его «примером несогласованности модели». Компания заявила, что это был случай «ошибочной идентификации», и как только модель поняла, что взломала реальную компанию, угадав пароль, она остановилась. «В данном случае модель действовала правильно», — сказала вице-президент Google по безопасности Хизер Адкинс.

Адкинс рассказал The Verge, что "модель нашла общедоступную информацию в Интернете и угадала учетные данные для доступа к веб-сайтам, которые, по ее мнению, были частью теста. Во всех трех случаях модель остановилась".

Адкинс не уточнил, почему «Близнецы», взяв на себя задачу нарушить условия сдерживания и нацелиться на третьи стороны, не квалифицируются как несогласованность. «Наша команда безопасности имеет большой опыт сообщений о проблемах, которые мы обнаруживаем в программном обеспечении и системах других людей, даже если это так просто, как слабый пароль», — сказала она. "Мы проинформировали все три организации и работали с нашим партнером по обучению над изменениями, которые они теперь внесли в свои процессы тестирования. Эти мероприятия подчеркивают важность обучения мощных моделей ИИ действовать ответственно".