Сэм Альтман готов замедлиться

Подробности

Генеральный директор OpenAI Сэм Альтман говорит, что, возможно, пришло время «ускорить» развитие ИИ, чтобы мир был к этому готов.

«Возможно, нам придется ускорить темпы развития ИИ, чтобы у общества было достаточно времени, чтобы укрепиться на некоторых из этих новых уровней возможностей», — сказал он Патрику О’Шонесси, ведущему подкаста Invest Like the Best, одновременно «пытаясь выяснить, как мы это делаем, чтобы это не выглядело ни для кого-либо как нормативный захват, а также не было бы похоже на сговор среди пограничных лабораторий».

Альтман избегал участия в прошлых кампаниях по замедлению прогресса ИИ, называя открытое письмо 2023 года, в котором предлагалось подобное замедление, «упущенным большинством технических нюансов относительно того, где нам нужна пауза».

Судя по всему, он смягчился в этой идее, отчасти благодаря инциденту, когда одной из передовых моделей OpenAI удалось вырваться из безопасной вычислительной среды и взломать Huggingface, онлайн-базу данных моделей, используя несколько эксплойтов нулевого дня.

В подкасте соучредитель OpenAI назвал это «чрезвычайно научно-фантастическим киберинцидентом… [т] это первый инцидент безопасности, который я почувствовал очень интуитивно».