The Verge · Разработка · 1 ч назад
Microsoft заявляет, что «люди важнее, чем искусственный интеллект» из-за проблем с безопасностью
Сегодня Microsoft публикует 37-страничный «кодекс поведения гуманистического ИИ» на фоне растущей обеспокоенности по поводу безопасности развития модели ИИ. Генеральный директор Anthropic Дарио Амодей на выходных призвал к скоординированному замедлению развития ИИ после того, как исследователи недавно предупредили, что прогресс моделей ИИ может превзойти нашу способность безопасно развертывать все более сложные систе…
Подробности
Сегодня Microsoft публикует 37-страничный «гуманистический кодекс поведения в сфере ИИ» на фоне растущей обеспокоенности по поводу безопасности развития модели ИИ. Генеральный директор Anthropic Дарио Амодей на выходных призвал к скоординированному замедлению развития ИИ после того, как исследователи недавно предупредили, что прогресс моделей ИИ может превзойти нашу способность безопасно развертывать все более сложные системы, а также проверять и контролировать действия агентов ИИ.
Кодекс поведения Microsoft в области ИИ ясно дает понять, что «люди имеют большее значение, чем ИИ», и что модели ИИ не обладают сознанием и «не должны создаваться для имитации сознания». Microsoft также отвергает «стремление к правосубъектности или идею о том, что модели могут заслуживать благосостояния или иметь права».
Это прямой удар по исследованиям ИИ в сфере благосостояния и моделированию сознания — концепциям, которые Anthropic в последнее время активно продвигает. Ранее в этом году Амодей заявил, что Anthropic «открыта для идеи» о том, что модели могут быть сознательными, и Anthropic, похоже, считает, что чат-боты, возможно, уже думают и чувствуют сущности. В ответ генеральный директор Microsoft AI Мустафа Сулейман назвал предположения Anthropic «очень, очень опасными» во время июньского выпуска Decoder.
Хотя Microsoft еще не входит в число ведущих поставщиков ИИ, Сулейман также рассказал The Verge ранее в этом году, что цель компании — «доказать, что мы можем стать одной из четырех лучших лабораторий в мире». В настоящее время Microsoft работает над моделями, которые будут конкурировать с Google, Anthropic и OpenAI, и в рамках своего кодекса поведения обязуется не выходить за рамки контроля человека.
«Модели должны оставаться подчиненными человечеству, подвергаться значимому человеческому надзору и контролю», — говорит Microsoft. Компания также хочет, чтобы ее модели ИИ не нарушали гуманистический кодекс поведения ИИ, поэтому они должны проваливать заданную задачу, а не пытаться нарушить ее правила.