The Guardian Business · Экономика · 1 ч назад
Может ли ИИ действительно уничтожить человечество и захватить Интернет?
Мы рассматриваем претензии и встречные утверждения о рисках и призывы замедлить темпы развития ИИ. В последние дни прозвучало несколько шокирующих заявлений о безопасности ИИ: вероятность гибели составляет 10%; ИИ хуже ядерного оружия; «ботнет» угрожает всему Интернету; это все большой технический психолог. Мы рассмотрим шесть претензий и реакцию на них. Продолжить чтение...
Подробности
Эксперты говорят, что утверждения ИИ о том, что ИИ может убить всех людей посредством разработки биологического оружия, не имеют научной основы. Иллюстрация: wildpixel/Getty Images Посмотреть изображение в полноэкранном режиме Эксперты говорят, что утверждения ИИ о том, что ИИ может убить всех людей посредством разработки биологического оружия, не имеют под собой научной основы. Иллюстрация: wildpixel/Getty Images ИИ (искусственный интеллект) Объяснитель Может ли ИИ действительно уничтожить человечество – шесть экспертов объясняют риски Мы изучаем утверждения и встречные утверждения о рисках и призывы замедлить темпы развития ИИ
Предпочитайте Guardian в Google. В последние дни прозвучало несколько шокирующих заявлений о безопасности ИИ: вероятность гибели составляет 10%; ИИ хуже ядерного оружия; «ботнет» угрожает всему Интернету; это все большой технический психолог.
Обеспокоенность Амодеи не следует полностью игнорировать, но требуется большая скептика, сказал Гэри Маркус, скептик в области искусственного интеллекта и почетный профессор Нью-Йоркского университета.
По его словам, было «бессмысленно» предполагать, что весь Интернет уязвим, и что «довольно неясно, как это происходит без крайней халатности со стороны самих лабораторий». Маркус особо отметил недавнюю оценку Британского института безопасности ИИ о том, что Mythos, один из нынешних передовых ИИ Anthropic, может «автономно компрометировать [только] небольшие, слабозащищенные уязвимые системы».
Учитывая, что значительная часть Интернета управляется компьютерной инфраструктурой, принадлежащей Cloudflare, Google и Amazon Web Services (AWS), Маркус, оценивая заявление вместе с двумя коллегами, сказал, что сомневается в том, что какую-либо из этих компаний можно будет закрыть или контролировать в течение длительного периода времени без правительственной силы. Менее защищенные отдельные веб-сайты могут подвергнуться атакам, но «сам Интернет вряд ли рухнет», говорят они.