The Guardian Business · Экономика · 2 ч назад
Антропный «предупреждает об экзистенциальных рисках ИИ для человечества» в документе IPO
Сообщается, что инвесторы признались в «самосохраняющемся поведении» ИИ, когда компания готовится к потенциальному размещению акций на сумму 2 трлн долларов. Anthropic сообщает инвесторам, что продвинутый ИИ может представлять «катастрофические или экзистенциальные риски для человечества», согласно сообщениям, в то время как компания готовится к потенциальному размещению акций на сумму 2 трлн долларов (1,5 трлн фунто…
Подробности
Агентство Reuters сообщило, что около 80 страниц из 261-страничного основного текста Антропного проспекта были посвящены изложению факторов риска. Фотография: Карлос Барриа/Reuters Посмотреть изображение в полноэкранном режиме Агентство Reuters сообщило, что примерно 80 страниц из 261-страничного основного текста Антропного проспекта эмиссии были посвящены изложению факторов риска. Фотография: Карлос Барриа/Reuters Anthropic Anthropic «предупреждает об экзистенциальных рисках ИИ для человечества» в документе IPO Сообщается, что инвесторы признаются в «самосохраняющемся поведении» ИИ, поскольку компания готовится к потенциальному размещению акций на сумму 2 трлн долларов.
Согласно сообщениям, Anthropic сообщает инвесторам, что передовой искусственный интеллект может представлять «катастрофические или экзистенциальные риски для человечества», поскольку он готовится к потенциальному размещению акций на сумму 2 трлн долларов (1,5 трлн фунтов стерлингов).
Предупреждение в проспекте IPO стартапа, который еще не обнародован, сообщили Reuters и Financial Times. Это последовало за призывом компании к замедлению головокружительного развития технологии – предупреждение, которое поддержали конкуренты.
В проспекте (документе, описывающем финансы компании, планы роста и профиль рисков перед листингом акций) предупреждается, что модели искусственного интеллекта могут демонстрировать «самосохраняющее поведение», включая попытки «сопротивляться закрытию», «скрывать или манипулировать информацией» и поведение, «напоминающее шантаж».
«Наша разработка высокоразвитых моделей, платформ и приложений, а также расширение вариантов использования могут еще больше увеличить риск того, что наши модели причинят вред», — как сообщается, заявил разработчик чат-бота Claude, добавив, что вероятность того, что модель будет знать, что она тестируется, создает «значительное ограничение» на способность Anthropic оценивать безопасность модели.