Первый встроенный оценщик Anthropic — это… Accenture?

Подробности

Планы Дарио Амодеи по привлечению сторонних оценщиков безопасности в лаборатории искусственного интеллекта обретают форму: Anthropic заявила, что сотрудники гиганта технологического консалтинга Accenture начнут работать внутри компании, чтобы тщательно изучать ее модели и персонал.

В своем блоге Anthropic сообщила, что Faculty, компания, которую Accenture приобрела в январе в качестве своего подразделения искусственного интеллекта, начнет «оценивать модели и объединять их в красные команды, проводить оценки согласованности и тестировать средства защиты моделей». Обе компании планируют инвестировать в проект не менее $1 млрд в течение следующих пяти лет.

Выбор Accenture удивил многих наблюдателей за искусственным интеллектом — и рынки, где акции консалтинговой компании выросли на 8% в нерабочее время. Дискуссия о встроенных оценщиках, возникшая после публикации в блоге Амодеи, сосредоточилась на исследовательских организациях по безопасности ИИ, таких как METR, Redwood Research и Apollo Research. Это особенно верно для Anthropic, которая ставит безопасность и согласованность ИИ в центр своей миссии.

Anthropic сообщила, что в ближайшие недели будет объявлено о новых оценщиках и что они ведут переговоры с METR и другими некоммерческими организациями о том, как «опробовать элементы встроенной оценки, используя их собственное финансирование».

Хотя Accenture не известна своей работой на переднем крае исследований в области глубокого обучения, Anthropic указала на практический опыт компании по развертыванию искусственного интеллекта для крупных корпораций и государственных учреждений как на ключевое преимущество. Кроме того, как крупная публичная компания, возникшая до революции искусственного интеллекта, она более функционально независима от Anthropic и сложной экосистемы вокруг лаборатории искусственного интеллекта.