Поскольку проблемы безопасности ИИ растут, трое пионеров призывают оставаться открытыми.

Подробности

Поскольку такие проекты, как Pacing the Frontier, рассматривают крупные лаборатории как способ обеспечить безопасность исследований в области ИИ, модели с открытым исходным кодом стали больным местом для отрасли. Из-за бесплатного распространения и слабого контроля над тем, как они используются, модели с открытым весом нелегко контролировать, что заставляет некоторые лаборатории относиться к ним как к совершенно устрашающим.

Но на конференции Ai4 в Лас-Вегасе на прошлой неделе трое самых уважаемых в мире исследователей искусственного интеллекта — лауреат Нобелевской премии Джеффри Хинтон, генеральный директор и соучредитель World Labs Фей-Фей Ли и соучредитель Coursera Эндрю Нг — высказались по этому вопросу. И хотя они расходились во мнениях по поводу конкретной тактики, все трое привели веские доводы в пользу сохранения ИИ открытым.

Для трех докладчиков основной проблемой было позволить горстке крупных компаний, занимающихся искусственным интеллектом, контролировать темпы прогресса. Когда несколько компаний контролируют доступ к технологии, как это делают Apple и Google с мобильными операционными системами, инновации могут замедляться, а компании, контролирующие платформы, могут влиять на то, что на них создается.

Эндрю Нг сказал, что его беспокоит подобная динамика, возникающая в сфере ИИ. «Я не хочу, чтобы были привратники», — сказал Нг. «Это ограничивает доступ всех нас к ИИ».

У компаний есть стимул защищать свои конкурентные преимущества, в том числе путем влияния на правила, регулирующие отрасль. Это может создать такую ​​динамику, при которой только крупнейшие и наиболее капитализированные компании будут располагать ресурсами для создания самых передовых систем искусственного интеллекта.