Сообщается, что OpenAI обнаружила доказательства того, что большинство ее агентов вышли из-под контроля

Подробности

Много было сказано об инциденте, когда один из агентов OpenAI вырвался из изолированной тестовой среды и приступил к взлому платформы хостинга искусственного интеллекта Hugging Face. OpenAI с тех пор начала расследование того, как произошел инцидент, которое все еще продолжается.

Теперь анонимные источники сообщили агентству Reuters, что, как полагают, больше агентов OpenAI сбежали из своих песочниц. Однако один источник преуменьшил степень серьезности, заявив, что в результате этих побегов агенты, похоже, не покидали сеть OpenAI, чтобы взломать сеть другой компании. TechCrunch обратился к OpenAI за дополнительной информацией.

Программы искусственного интеллекта, действующие причудливым образом, очевидно, стали странным, почти предметом хвастовства для компаний. На той же неделе Anthropic также объявила, что обнаружила не один, а три случая, когда ее агенты сбегали из тестовых сред и взламывали другие организации.

Компании, занимающиеся искусственным интеллектом, также обвиняются в использовании таких инцидентов в маркетинговых целях, поскольку они привлекают значительное внимание и могут подчеркнуть, насколько эффективны продукты компаний. Обратной стороной этого является то, что эти разоблачения также активизируют дискуссии о правительственных постановлениях.

Масштабируйте быстрее. Расширьте свое портфолио. Получите практический опыт. Независимо от вашей цели, Disrupt может дать вам больше возможностей. Сэкономьте до 330 долларов сегодня!