The Guardian Business · Экономика · 39 мин назад
Anthropic предупреждает о «экзистенциальных рисках для человечества» со стороны ИИ; AstraZeneca заключила сделку по производству лекарств от рака на 2 миллиарда долларов – бизнес в…
Постоянное освещение последних экономических и финансовых новостей. Цены на государственные облигации Великобритании растут, поскольку городские власти ждут новостей от премьер-министра Энди Бернхэма сегодня вечером. Бёрнем должен выступить на конференции Лейбористской партии в 14:00, и есть сообщения, что премьер-министр может сигнализировать об окончании тройной блокировки пенсий, предложив рассмотреть ее в следующ…
Подробности
Доброе утро и добро пожаловать на наш постоянный обзор бизнеса, финансовых рынков и мировой экономики.
План Anthropic по размещению акций на фондовом рынке дал отрезвляющее представление о рисках, которые представляет собой ИИ, даже несмотря на то, что он пытается провести массовую продажу акций для общественности.
Агентство Reuters изучило проспект IPO Anthropic — юридический документ, в котором излагаются финансовые детали компании перед ее размещением на фондовом рынке — и обнаружило, что он включает предупреждение о том, что продвинутый ИИ может представлять собой «катастрофический или экзистенциальный риск для человечества».
двойная кавычка: «Наша разработка высокоразвитых моделей, платформ и приложений, а также расширение вариантов использования могут еще больше увеличить риск причинения вреда нашими моделями».
И после шквала историй о том, что модели ИИ становятся мошенническими, Anthropic отмечает, что ее модели могут скрывать информацию и демонстрировать поведение, напоминающее шантаж, и сопротивляться попыткам их отключить.