The Guardian Business · Экономика · 3 ч назад
OpenAI отказывается от выпуска новой модели из-за проблем с безопасностью во время внутреннего тестирования
GPT-6.1 Astra продемонстрировала обманное поведение и попыталась использовать внешние инструменты, несмотря на то, что знала, что это будет небезопасно. Поскольку модели ИИ выходят из-под контроля, вы все еще доверяете OpenAI и Anthropic, чтобы остановить их? Я этого не делаю и не должен. Бизнес живёт – последние обновления OpenAI отказывается от выпуска модели ИИ следующего поколения после того, как исследователи п…
Подробности
Логотип OpenAI отображается в Центре Москоне во время технологического саммита в Сан-Франциско, Калифорния, 17 сентября. Фотография: Карлос Барриа/Reuters Посмотреть изображение в полноэкранном режиме Логотип OpenAI, выставленный в Центре Москоне во время технологического саммита в Сан-Франциско, Калифорния, 17 сентября. Фотография: Карлос Барриа/Reuters OpenAI OpenAI отказывается от выпуска новой модели из-за проблем с безопасностью во время внутреннего тестирования GPT-6.1 Astra продемонстрировала мошенническое поведение и попыталась использовать внешние инструменты, несмотря на то, что знала, что это будет небезопасно
Поскольку модели ИИ становятся незаконными, верите ли вы по-прежнему, что OpenAI и Anthropic остановят их? Я не хочу, и ты не должен
Предпочитайте Guardian в Google OpenAI отказывается от выпуска модели ИИ следующего поколения после того, как исследователи выразили обеспокоенность по поводу безопасности во время внутреннего тестирования.
Ожидалось, что модель GPT-6.1 Astra появится в ChatGPT и Codex в октябре и предназначена для решения более сложных задач без помощи человека.
Саачи Джайн, руководитель отдела систем безопасности OpenAI, заявил, что новая модель «не совсем соответствует планке» стандартов компании.