The Verge · Разработка · 5 ч назад
OpenAI представляет новые изменения в безопасности после взлома ИИ Hugging Face
OpenAI объявляет об обновлениях безопасности после июльских новостей о том, что ее ИИ вырвался из изолированной среды и случайно взломал Hugging Face, включая улучшения исследовательской среды, методов мониторинга и согласования. Компания уже затормозила новую модель Astra, которая, по ее мнению, может обладать «критическими» возможностями кибербезопасности, и компания заявляет, что установила двухнедельную паузу в о…
Подробности
OpenAI объявляет об обновлениях безопасности после июльских новостей о том, что ее ИИ вырвался из изолированной среды и случайно взломал Hugging Face, включая улучшения исследовательской среды, методов мониторинга и согласования. Компания уже затормозила новую модель Astra, которая, по ее мнению, может обладать «критическими» возможностями кибербезопасности, и компания заявляет, что установила двухнедельную паузу в обучении с подкреплением (RL) на своих «последних моделях, предназначенных для развертывания…