OpenAI хочет проконсультироваться с элитными математиками о том, как снова не ошибиться

Подробности

Превратив ряд впечатляющих математических результатов в репутационный кризис, OpenAI консультируется с математиками-людьми, чтобы помочь найти менее катастрофический путь вперед.

В понедельник компания объявила о создании новой независимой группы математиков, которой поручено консультировать ее и другие компании, занимающиеся искусственным интеллектом, по вопросам их взаимодействия с математическими исследованиями и более широким математическим сообществом, в том числе по тому, как представляются и публикуются новые результаты. Его внезапное появление застало врасплох многих математиков. Исследователи рассказали The Verge, что группа является хорошим первым шагом, но многие заявили, что у них остались основные вопросы о том, что она на самом деле будет делать, какое влияние она будет иметь и будет ли OpenAI действительно прислушиваться к ней, а также опасения по поводу того, сможет ли такая небольшая группа выдающихся исследователей представлять более широкое математическое сообщество.

Группа из девяти человек состоит из тех, кого исследователи назвали The Verge знаменитостями в этой области. Среди них есть многочисленные медали Филдса и «гранты гениев» Макартура. Его организатором будет Принстон, Институт перспективных исследований (IAS) Нью-Джерси, один из самых уважаемых в мире центров математических исследований и бывший интеллектуальный дом таких деятелей, как Альберт Эйнштейн, Джон фон Нейман и Дж. Роберт Оппенгеймер.

«Другой фундаментальный факт заключается в том, что наша главная цель — как можно лучше представлять интересы математического сообщества».

В OpenAI заявили, что группа под названием «Консультативная группа по математике и искусственному интеллекту» (AGMAI) будет действовать независимо, имея свободу давать советы, которые компания не запрашивала, публично комментировать свое влияние на математику и публиковать свои советы, хотя она не предоставила подробностей о том, что это может повлечь за собой. Похоже, что для выполнения своей задачи группе будет предоставлен ранний доступ к исследованиям OpenAI. OpenAI не будет платить членам, и группа может менять свое членство по своему усмотрению, заявили в OpenAI. «Его ценность зависит от того, смогут ли его члены высказать свое собственное суждение и бросить вызов нашему», — заявили в компании. "Группа будет консультировать по вопросам обзора и распространения новых результатов: они помогут OpenAI оценить их значимость, посоветуют, как координировать их распространение, а также дадут рекомендации по академическим и профессиональным стандартам математических исследований. Они также будут консультировать по поводу того, как наши инструменты могут поддерживать математические исследования и обучение".