‘We must slow the pace’: CEO of Anthropic calls for an AI slowdown

Подробности

Dario Amodei said that AI development, if left unchecked, ‘could outrun our ability to understand and control’ it. Photograph: Bhawika Chhabra/Reuters View image in fullscreen Dario Amodei said that AI development, if left unchecked, ‘could outrun our ability to understand and control’ it. Photograph: Bhawika Chhabra/Reuters AI (artificial intelligence) ‘We must slow the pace’: CEO of Anthropic calls for an AI slowdown In a social media post, Dario Amodei proposed a plan including third-party evaluations of AI systems

Предпочитайте Guardian в Google. Генеральный директор компании Anthropic, занимающейся искусственным интеллектом, в субботу выступил с новым призывом к индустрии искусственного интеллекта «замедлиться» и предложил план, состоящий из трех частей, заявив, что его компания «в одностороннем порядке» возьмет на себя обязательства по первому из шагов.

In a post on social media, Dario Amodei shared a link to an essay titled We Must Pace the Frontier in which he laid out how Anthropic would provide “third-party evaluators with permanent, employee-level access to our systems, so that they can verify adherence to our safety measures, report on incidents, and assess models’ alignment during training”.

Этот шаг был предпринят после того, как бывший исследователь Anthropic предупредил в среду, что ИИ может ускорить вымирание человечества к 2030 году. Исследователь Джейкоб Коксон заявил в серии публикаций, что он уволился с работы, потому что Anthropic и его предыдущий работодатель, OpenAI, игнорировали или неправильно реагировали на угрозу, которую представляет ИИ.

“Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives,” Coxon wrote. “The people building AI earnestly believe that it could kill us all by the end of the decade … No other human activity poses this level of danger.”