Генеральный директор Hugging Face призывает к «радикальной прозрачности» после «беспрецедентного» взлома OpenAI

Подробности

После того, как OpenAI недавно признала, что одна из ее моделей взломала системы AI-платформы Hugging Face, генеральный директор Hugging Face Клем Деланг опубликовал на X, что он летит в Сан-Франциско, чтобы «немного поболтать с этим «мошенническим агентом».

Затем в субботнем посте Деланг изложил, чего он просил от OpenAI. Он сказал, что призвал к «радикальной прозрачности», попросив OpenAI «опубликовать следы «мошеннических» агентов, чтобы все исследовательское сообщество могло изучить то, что произошло».

И он также хочет «больше возможностей для защитников», призывая OpenAI выделить вычислительные мощности на сумму 100 миллионов долларов, «чтобы помочь сообществу Hugging Face создать мощную киберзащиту с использованием лучших открытых и закрытых моделей».

Деланг добавил: "Первая кибератака автономного агента — беспрецедентное событие. Оно заслуживает беспрецедентного ответа!"

Несмотря на автономный характер атаки, эксперты по кибербезопасности предположили, что в ней также можно обвинить человеческую ошибку, а именно, очевидную неспособность OpenAI правильно настроить то, что должно было быть полностью изолированной средой тестирования.