ООН заявляет, что меры защиты ИИ не могут ждать определенности

Подробности

Доклад появился в тот момент, когда Пекин и Вашингтон готовятся обсудить ИИ, а мировые лидеры соберутся в Нью-Йорке на этой неделе.

Правительствам необходимо обуздать все более мощные агенты ИИ, прежде чем их риски будут полностью осознаны, предупредила научная группа ООН в первой крупной оценке глобальной организации взлома Hugging Face, проведенного OpenAI в начале этого года.

Доклад закрепляет место ИИ в глобальной дипломатической повестке дня на этой неделе, когда лидеры соберутся в Нью-Йорке на Генеральную Ассамблею ООН, а США и Китай проводят переговоры по ИИ. На прошлой неделе генеральный секретарь ООН Антониу Гутерриш призвал правительства сотрудничать в устранении угроз, исходящих от ИИ, предупредив, что «мир не может позволить себе гонку на упадок в вопросах безопасности ИИ».

Это первая тематическая записка Независимой международной научной группы по искусственному интеллекту, созданной в прошлом году как «первый глобальный научный орган ООН по искусственному интеллекту». Это требует гораздо большего внимания и ресурсов для управления возникающими рисками, связанными с передовым ИИ, наряду с более сильной международной координацией в области безопасности и подотчетности, даже несмотря на то, что отдельные страны используют разные правовые подходы.

Важно отметить, что группа заявляет, что миру не нужно ждать, пока ученые точно установят, как и почему происходят такие инциденты, чтобы начать применять более жесткие меры безопасности. Риск потери контроля, утверждает комиссия, — это именно та проблема, для решения которой был разработан принцип предосторожности: «та, где потенциальный вред может быть катастрофическим или необратимым, даже если его вероятность остается научно неопределенной».