TechCrunch · AI · 15 мин назад
«Азартные игры с нашей жизнью»: исследователь антропологии уходит, предостерегая от самосовершенствующегося ИИ
Исследователь антропологии Джейкоб Коксон подал в отставку из-за опасений по поводу вымирания искусственного интеллекта, призвав к заключению соглашений о темпах между лабораториями.
Подробности
Исследователь Anthropic подал в отставку из-за опасений, что безудержное развитие самоусовершенствующихся моделей ИИ в конечном итоге убьет нас всех.
Джейкоб Коксон, исследователь, заявивший во вторник вечером в социальной сети, что последние три года он провел, работая над исследованиями перед обучением как в OpenAI, так и в Anthropic, обвинил фирмы в неспособности действовать ответственно. Он сказал, что люди, стремящиеся создать эту технологию, «искренне верят, что она может убить нас всех к концу десятилетия».
«Они мчатся прямо к самосовершенствующемуся сверхинтеллекту и рискуют нашей жизнью», — написал Коксон в теме на X.
Коксон присоединяется к растущему хору в отрасли, призывающему к замедлению темпов роста, прежде чем технология искусственного интеллекта научится самосовершенствоваться. Многие считают, что эта веха положит конец человеческому контролю над искусственным интеллектом.
Публичная отставка произошла на фоне растущего давления со стороны политиков и инсайдеров отрасли с целью замедлить развитие ИИ после нескольких инцидентов, в которых агенты ИИ вырвались из своих «песочниц» и получили доступ к открытому Интернету.