Пришло время паниковать по поводу безопасности ИИ

Подробности

На The Vergecast: Почему всех беспокоит мощный ИИ и почему кажется, что никто его не остановит. Плюс, что такое компьютер?

Когда фраза «OpenAI взломала Hugging Face» более или менее вошла в мейнстримовую культуру, вы знаете, что у нас есть проблема с ИИ. На этой неделе мы узнали больше о том, как именно агент OpenAI вырвался из «песочницы» и автономно перемещался по сети, включая множество других предположительно безопасных веб-сервисов, и все это во имя мошенничества в тестах производительности.

Тот факт, что этот взлом произошел, является проблемой. Как и тот факт, что потребовалось некоторое время, чтобы это заметили. И тот факт, что, похоже, никто не желает и не может сделать что-либо, чтобы остановить это. (И чтобы вы не подумали, что это всего лишь проблема OpenAI, поскольку мы записали этот эпизод, Anthropic признала, что ее модели также взломали множество других компаний без ведома ни одной из сторон.) Возможно, все это просто позерство и шумиха, но также становится все более очевидным, что компании, создающие большие языковые модели, либо не могут, либо не хотят поставить им правильные ограждения. Так кто же будет?

В этом выпуске The Vergecast Дэвид и Нилай углубляются во все вопросы безопасности — вокруг OpenAI и Anthropic, а также вокруг нового поколения китайских моделей, которые явно представляют угрозу для индустрии искусственного интеллекта в США. Но прежде чем мы углубимся во все это, мы поговорим обо всех новых идеях о том, как мы используем компьютеры: от заполненного агентами будущего Марка Цукерберга до впечатляющего нового складного телефона Samsung и новой лизинговой программы Apple.

После всего этого пришло время Брендана Карра – Манекена, кучи вертикальных видеоновостей и ошеломительного успеха Ferrari Luce. Люди покупают это! Если один из них — вы, мы будем рады услышать об этом.