The Verge · Разработка · 2 ч назад
Краткая история руководителей ИИ, призывающих к регулированию
За последние несколько дней многие люди, которые собираются заработать много денег на ИИ, публично согласились с тем, что пришло время заставить всех притормозить, прежде чем мы потеряем контроль, в том числе генеральный директор OpenAI Сэм Альтман, генеральный директор Anthropic Дарио Амодей, соучредитель Google DeepMind Демис Хассабис, генеральный директор Microsoft Сатья Наделла и генеральный директор X Илон Маск.…
Подробности
Отрасль в панике, но уже много лет утверждает, что ей нужны юридические ограждения, но значимых результатов мало.
За последние несколько дней многие люди, которые собираются заработать много денег на ИИ, публично согласились с тем, что пришло время заставить всех притормозить, прежде чем мы потеряем контроль, — в том числе генеральный директор OpenAI Сэм Альтман, генеральный директор Anthropic Дарио Амодей, соучредитель Google DeepMind Демис Хассабис, генеральный директор Microsoft Сатья Наделла и генеральный директор X Илон Маск.
Когда люди, получающие от чего-то прибыль, заявляют, что это опасно и требует регулирования, всегда есть повод для скептицизма. Но какова бы ни была причина, это далеко не первый раз, когда лидеры мнений ИИ бьют тревогу.
Теория эволюции Чарльза Дарвина побудила автора Сэмюэля Батлера предупредить о том, что разумные самовоспроизводящиеся машины заменяют людей еще в 1863 году, а в своей последующей книге 1872 года «Эревон» он описывает посещение вымышленного общества, которое уже отрегулировало существование машин, чтобы избежать краха человечества. Пионер вычислительной техники Алан Тьюринг в своей лекции 1951 года предупредил, что искусственный интеллект «встретит сильное сопротивление», поскольку бессмертным машинам «не понадобится много времени, чтобы опередить наши слабые силы» и в конечном итоге «возьмем контроль на себя».
Призывы к вмешательству также не новы. В 2000 году соучредитель и главный научный сотрудник Sun Microsystems Билл Джой написал, что самовоспроизводящиеся роботы могут быть более опасными, чем ядерное оружие, отчасти потому, что они разрабатываются «внутри ныне неоспоримой системы глобального капитализма», а не в жестко контролируемых правительственных лабораториях. А в 2009 году исследователь Microsoft Эрик Хорвиц, который сейчас занимает должность главного научного директора компании, собрал ведущих исследователей искусственного интеллекта вместе, чтобы рассмотреть возможность «создания политики, которая могла бы ограничивать или искажать поведение автономных и полуавтономных систем, чтобы решать проблемы».