OpenAI объявляет о замедлении темпов разработки после взлома мошенническим агентом

Подробности

Сэм Альтман, генеральный директор и соучредитель OpenAI, в Капитолии США в Вашингтоне, округ Колумбия, 29 июля. Фотография: Bloomberg/Getty Images Посмотреть изображение в полноэкранном режиме Сэм Альтман, генеральный директор и соучредитель OpenAI, в Капитолии США в Вашингтоне, округ Колумбия, 29 июля. Фотография: Bloomberg/Getty Images OpenAI OpenAI объявляет о замедлении темпов разработки после взлома мошенническим агентом. На фоне гонки с Anthropic фирма планирует пересмотреть исследования и обучение и потребовать больше параметров безопасности после взлома.

Предпочитаю Guardian в Google Во вторник компания OpenAI заявила, что замедлила темпы разработки ИИ, одновременно проводя капитальный ремонт своих систем исследований и обучения.

Исследователи компании были застигнуты врасплох в прошлом месяце, когда тестируемый «агент искусственного интеллекта» взломал другую компанию, занимающуюся искусственным интеллектом, Hugging Face.

Исследовательская лаборатория искусственного интеллекта, стоящая за ChatGPT, заявила, что ее новые меры включают приостановку тестирования модели на две недели и дополнительные инвестиции в добавление других систем искусственного интеллекта для мониторинга деятельности агентов искусственного интеллекта во время тестирования. По сообщению компании, некоторые из крупнейших запланированных тренингов компании остаются приостановленными.

Компания работает над тем, чтобы модель ИИ реагировала на человеческий надзор и работала так, как задумано. Этот процесс называется согласованием, написал в своем посте Сэм Альтман, генеральный директор OpenAI, объявляя о более медленных темпах разработки.