Генеральный директор Microsoft AI говорит, что угрозы ИИ реальны, а Anthropic только усугубляет ситуацию

Подробности

Мустафа Сулейман о дебатах о безопасности ИИ, о том, почему ИИ не обладает сознанием и о том, как индустрия стремится к согласованности.

Сегодня я разговариваю с Мустафой Сулейманом, генеральным директором Microsoft AI. Как вы, несомненно, знаете, самая большая история в сфере технологий сейчас — это набирающие обороты дебаты о безопасности и регулировании ИИ.

Неудивительно, что Мустафа имеет твердое мнение о том, как следует создавать и регулировать ИИ. Microsoft только что опубликовала 37-страничное заявление под названием «Кодекс поведения гуманистического ИИ», в котором излагаются принципы компании в отношении разработки ИИ и даже ее философия в отношении действительно сложных вопросов, таких как сознание ИИ.

Если вы помните его последнее появление на шоу, Мустафа считает, что такие компании, как Anthropic, довольно опасно запутались в этой концепции так называемого образцового благосостояния. На этой неделе он фактически опубликовал сопутствующее эссе, в котором конкретно критикует философию Anthropic в отношении сознания ИИ и то, как, по его мнению, она вписывается в более широкую дискуссию о согласованности.

Поэтому мне очень хотелось поговорить с Мустафой о том, что, по его мнению, является реальным, а не безопасностью ИИ, соответствует ли сама концепция согласования поставленной задаче и нужно ли этой отрасли замедлиться, прежде чем она убьет нас всех. А еще: почему индустрия ИИ просто… не делает всего этого уже? Мне всегда нравилось лазить по сорнякам с Мустафой, и он был очень рад заняться этим вместе со мной здесь.