OpenAI оголосив у понеділок про нову незалежну консультативну групу з математики та штучного інтелекту, розміщену в Інституті передових досліджень (IAS) у Прінстоні, штат Нью-Джерсі, і виявив, що та сама внутрішня модель, яка лежить в основі її спірного результату Нав’є-Стокса, за її власними підрахунками, вирішила понад 100 додаткових відкритих проблем у більшості сфер математики.

Група має на меті дати математикам офіційний канал для орієнтованих на математику досліджень компанії в той момент, коли дослідницьке співтовариство відверто розчароване тим, як оприлюднюються ці результати. «Ця група слугуватиме мостом до математичної спільноти та широкої громадськості, надаючи математикам право голосу щодо того, як ми рухаємося вперед», — йдеться у повідомленні OpenAI, яке цитує TechCrunch. For more context on this story, see our ongoing breaking AI news.

Відповідь на негативну реакцію Нав'є-Стокса

Створення консультативної групи відбулося після несподіваної публікації заявленого рішення проблеми Премії тисячоліття Нав’є-Стокса, результат, який приголомшив математиків як своїми амбіціями, так і темпами його випуску. На практиці нова група OpenAI здебільшого виконуватиме консультативну роль: оцінюватиме важливість нових результатів і координуватиме їх публікацію, щоб передбачувані прориви з’являлися під час аналізу контексту та експертного аналізу, а не як несподівані оголошення.

Перевірка не ослабла. У понеділок Scientific American опублікував матеріал із запитанням: «Чи вирішив OpenAI неправильну задачу Нав’є-Стокса?» — відображення того, скільки невизначеності все ще оточує твердження навіть серед наукових журналістів, які уважно слідкують за ним.

Багато видатних математиків ширше заперечують шалений темп останніх заяв. Раніше цього місяця 25 математиків-лауреатів медалі Філдса підписали відкритого листа, в якому стверджували, що лабораторії штучного інтелекту загрожують інтелектуальній роботі математиків, змагаючись за вирішення відомих проблем. Занепокоєння полягає не в тому, що проблеми вирішуються, а в тому, що багатовікова культура ретельного, перевіреного оприлюднення руйнується лабораторіями, які змагаються за заголовки.

Дорадчі повноваження — із жорсткими обмеженнями

Структура групи намагається збалансувати незалежність із чітким наміром OpenAI зберегти контроль над своєю програмою досліджень. Члени не отримуватимуть плату. Вони можуть пропонувати небажані поради, публічно висловлювати свої погляди та контролювати власне членство — положення, які надають органу певну незалежність від компанії, яка його створила.

Але група не має сили щось уповільнити. Як зазначено в дописі OpenAI, «група не несе відповідальності за консультування нас щодо того, як розвивати наш внутрішній прогрес у математиці».

Інститут перспективних досліджень підкреслив те саме у своєму повідомленні. «Хоча ми будемо давати поради, ми не маємо повноважень приймати рішення в жодній компанії ШІ, і відповідальність за рішення, прийняті будь-якою компанією, буде лежати на цій компанії», — йдеться в заяві інституту.

Цей розподіл праці — поради без повноважень — є компромісом, який уможливив партнерство. IAS отримує місце за столом для математики; OpenAI зберігає кермо.

Дев'ять членів, невелике перетинання з критиками

Дев'ять видатних математиків були названі першими членами групи. Примітно, що лише один із них — Камілло Де Лелліс з IAS — також підписав лист Філдсових медалістів на початку цього місяця, що свідчить про те, що OpenAI не просто завербував своїх найгучніших критиків у кімнату.

Чи має це значення, залежить від того, що група робить зі своєю платформою. Її учасники можуть публічно висловлювати свою незгоду з компанією, і дизайн запрошує їх до цього. Дорадчий орган, який ніколи не висловлює незгоду, швидко вирішить питання про його цінність.

Чому це важливо

Це оголошення є останньою точкою спалаху в дебатах про те, як лабораторії штучного інтелекту мають обробляти створені машиною наукові заяви. Модель, яка претендує на вирішення проблеми Премії тисячоліття, є надзвичайним твердженням, і основна скарга математичної спільноти є процедурною: результати такого масштабу заслуговують на перевірку та зважене оприлюднення, а не оголошення в пресі.

Перевірка є справжнім вузьким місцем. Перевірка доказу, на створення якого потрібен кілька днів, може зайняти кілька місяців у експертів-людей, а математика не має інфраструктури рецензування, розробленої для такої асиметрії. Саме для вирішення цієї проблеми створений мандат групи — оцінка значущості та координація випуску — принаймні в принципі.

Рух OpenAI визнає цю критику, але при цьому не допускає контролю. Група може надавати легітимність, координувати представлення результатів і надавати стороннім публічну платформу, але компанія зберігає повну владу над тим, чого переслідують її моделі та як швидко. Твердження про понад 100 розв’язаних проблем тепер покладено на орган, який може формувати спосіб оголошення, а не те, чи буде зроблено.

Те, чи будуть математики сприймати консультативну групу як значущу перевірку чи фіговий листок, залежатиме від того, що станеться далі: чи надійде наступна велика претензія з imprimatur групи, і — що більш важливо — з доказами, які спільнота зможе фактично перевірити.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →