OpenAI продолжает уничтожать математиков

Подробности

The Verge поговорил с одним из математиков, консультирующих OpenAI, поскольку поле готовится к новой волне результатов, которые могут перевернуть их работу.

За несколько хаотичных месяцев OpenAI продемонстрировала, что она может делать две вещи с удивительной последовательностью: совершать впечатляющие прорывы в математике, а затем колоссально облажаться, объявляя о них. OpenAI сейчас пытается добиться большего. Каким-то образом это тоже испортило.

Последняя попытка OpenAI восстановить испорченные отношения с математическим сообществом, которое она неоднократно отталкивала, — это консультации с новой независимой консультативной группой элитных практиков. Но математики, беседовавшие с The Verge, в том числе один из членов группы, описывают запутанную и запутанную историю, имеющую многие отличительные черты предыдущих поспешных набегов OpenAI на математику, предполагая, что компания мало чему научилась на своих ошибках. И еще есть непростая задача, которую перед группой поставили в первую очередь: помочь координировать выпуск множества новых результатов, которые, по словам OpenAI, дала ее неизданная модель, перспектива которой уже вызывает страх среди исследователей по поводу того, что эта надвигающаяся волна прорывов может сделать с их областью.

21 сентября ряд выдающихся математиков объявили о создании Консультативной группы по математике и искусственному интеллекту (AGMAI) в гостевом посте в блоге профессора математики Калифорнийского университета в Лос-Анджелесе Теренса Тао, медалиста Филдса и откровенного критика поведения компаний, занимающихся искусственным интеллектом, в математике. Группа должна была стать независимой организацией из девяти элитных математиков, занимающих самые высокие позиции в своей области. В сообщении говорится, что группа будет действовать независимо от OpenAI и консультировать ее и другие передовые лаборатории искусственного интеллекта «по вопросам анализа и распространения новых результатов». В своем заявлении OpenAI неоднократно подчеркивала независимость группы, заявляя, что ее члены будут иметь право публично бросать вызов компании, публиковать свои советы и предлагать рекомендации, которых она не запрашивала. Он также подчеркнул пределы влияния группы, отметив, что она «не будет нести ответственность за консультирование нас о том, как ускорить наш внутренний прогресс в области математики».

Но многие математики и, конечно, большинство людей за пределами этого сообщества узнали об этой группе только благодаря гораздо более громкому внедрению OpenAI.