Anthropic CEO outlines plan to slow AI development

Подробности

We’ve been seeing increasingly dire warnings from AI researchers about the dangers of artificial intelligence, and even comments from OpenAI CEO Sam Altman that it may be time to “pace” AI development. But what would that actually look like?

В новом сообщении в блоге генеральный директор Anthropic Дарио Амодей не только повторил призыв «идти вперед», но и обозначил три широкие стратегии для этого. И он сказал, что Anthropic «в одностороннем порядке берет на себя обязательства» по одному из них, а Альтман вмешался и сказал, что OpenAI последует его примеру.

The debate over AI safety and alignment intensified this week after researcher Jacob Coxon wrote that he’s resigning from Anthropic over concerns that the leading AI companies are “gambling with our lives” while the people building the technology “earnestly believe it could kill us all by the end of the decade,” a claim repeated by others at Anthropic .

В сообщении Амодеи прямо не упоминается отставка Коксона или его опасения, но генеральный директор написал, что две вещи убедили его, что пришло время принять более осторожный подход к разработке ИИ: хак OpenAI-HuggingFace и тот факт, что «ИИ развивается значительно быстрее» в последние месяцы, особенно с его «растущей способностью создавать следующее поколение ИИ».

“We must slow the pace at which we improve the capabilities of AI models,” Amodei wrote. “Progress will still seem fast, and we must make wise use of the time we gain.”