Разговоры о безопасности ИИ стали невероятными

Подробности

На этой неделе вирусными стали два разговора о безопасности ИИ, которые показывают, насколько сложно отличить факты об ИИ от вымысла.

В первом случае Эндрю Янг, бывший кандидат в президенты и нынешний генеральный директор мобильного оператора Noble Moble, сообщил CNN в четверг, что он «встретился с главой лаборатории», который «верил», что хакерские боты OpenAI Hugging Face «разместили самовоспроизводящийся код по всему Интернету, что делает Интернет теперь непригодным для тестирования моделей».

Ян сказал, что это означает, что настоящая причина, по которой OpenAI и Anthropic призвали к замедлению, заключается в том, что «им нужно создать синтетический интернет для обучения своих ботов, а это потребует некоторого времени и денег».

Хотя определенно существует тенденция к использованию большего количества синтетических данных (также известных как данные, сгенерированные ИИ) для обучения моделей, специалист по безопасности ИИ сказал мне, что эта конкретная проблема безопасности в лучшем случае маловероятна. Даже если Интернет на самом деле загрязнен хакерскими ботами Hugging Face от OpenAI, исследователи ИИ могут просто отфильтровать этот код, если они встретят его.

Второй комментарий поступил от Ноама Брауна, который возглавляет исследования в области ИИ в OpenAI. В беседе с Дваркешем Пателем в выпуске подкаста, выпущенном в четверг, Браун отметил, что истинный вывод из инцидента с «Обнимающим лицом» заключался в том, что «люди недооценили ИИ».