Через кілька годин після того, як генеральний директор Anthropic Даріо Амодей опублікував есе «Ми повинні пройти кордон», у якому закликав уряди уповільнити гонку штучного інтелекту, гостра відповідь почала підніматися в Hacker News, ставши зрештою однією з найбільш популярних історій дня. Її аргумент, викладений у відкритому листі письменником і розробником Джейкобом Голдом, обеззброююче простий: якщо Амодей щиро хоче уповільнити ШІ, він міг би закликати до одного закону, який дійсно це зробить — і жоден інший керівник лабораторії не може його запропонувати. Вимагати, щоб кожна модель штучного інтелекту, яку компанія пропонує громадськості, була випущена як відкрита вага.

«Я вважаю, що ви щирі, — починається лист, звертаючись безпосередньо до Амодея, — тому я прошу вас закликати до іншого закону, такого, який би фактично уповільнив події, навіть якщо це вимагало б справжніх жертв з вашого боку». Лист вразив нерви саме тому, що він пов’язаний із найсильнішою версією аргументу Амодея, а не відкидає його — і тому, що він потрапляє в середину найбільш серйозних політичних дебатів у сфері штучного інтелекту сьогодні, дебатів, за якими ми щодня стежимо в нашому [висвітленні політики штучного інтелекту] (https://aibuzzwire.news).

Що запропонував Амодей і чому Голд каже, що це не спрацює

Есе Amodei передало Anthropic стороннім оцінювачам і попросило уряди вимагати від усіх інших прикордонних компаній відповідати цьому зобов’язанню. Сем Альтман погодився за кілька годин: «Я згоден з Даріо, що нам потрібно рухатися вперед», — сказав він, згідно з Politico, за допомогою OpenAI, який також відповідає зобов’язанням оцінювача. На перший погляд, це безпрецедентне узгодження: керівники двох найцінніших лабораторій штучного інтелекту у світі публічно просять уповільнити їхню роботу.

У листі Голда стверджується, що саме цей консенсус повинен викликати у спостерігачів підозру. «Кожне регулювання, яке ви просили, закінчується захопленням», – попереджає він. Вбудовані оцінювачі, порогові значення обчислень, галузева координація з антимонопольними звільненнями — «Усе це пишеться за допомогою нинішніх передових лабораторій, тому що ніхто інший не розуміє технічних деталей настільки добре, щоб це написати». Щойно такі правила стають законом, кожен інцидент додає правило, і жодне не скасовується, і гіганти можуть дозволити собі команди з дотримання вимог, які не допускають менших суперників. «Замість того, щоб уповільнювати вас, — повідомляє Амодей у ​​листі, — він захищає вашу позицію та прибутки».

Контрапропозиція відкритих ваг

Альтернативні ескізи золота навмисне тупі. Будь-яка модель штучного інтелекту, яку компанія пропонує громадськості, повинна буде поставлятися з опублікованою вагою. Внутрішні та дослідницькі моделі залишаться недоторканими, а уряди збережуть доступ до неопублікованих систем — але Anthropic повинен буде опублікувати ваги своєї наступної передової моделі в день її випуску, і OpenAI повинен буде зробити те саме. «У цьому немає нічого, чим можна грати чи ухилятися, — підсумовує лист, — навіть для вас».

Механізм не бюрократичний, а фінансовий. Як пояснює Голд, фінансування розробки граничної моделі залежить від оцінок, які припускають, що ваги залишаються запатентованими. Мандат перевертає це припущення: якщо кожен публічний випуск є відкритим, конкурентна перевага переходить до того, хто навчає найкращу модель, а не до того, хто продає доступ до неї, премія, закладена в приватних оцінках, знижується, а гроші, доступні для наступного тренінгу, зменшуються — «у кожній лабораторії одночасно, без регуляторного органу». По суті, це аргумент, що очікування ринку щодо закритих моделей є двигуном перегонів, і що усунення очікувань прибирає двигун.

Чому саме Amodei

Аргументи листа щодо того, чому Амодей – єдина людина, яка могла б зробити цю пропозицію, побудовані на його записі, і це викликає особливу повагу. Голд приписує йому те, що він залишив OpenAI наприкінці 2020 року, щоб заснувати Anthropic, «коли безпечною кар’єрою було залишитися», він роками виступав за регулювання власної галузі та посилював експортний контроль, який звужував його власний ринок. Він зазначає, що Anthropic структурувала себе як громадсько-корисну корпорацію з юридичною місією — «відповідальна розробка та підтримка передового штучного інтелекту на довгострокову користь людства», — що дозволить її керівництву погасити фінансовий удар, який завдасть такий закон. У власному есе Амодея, зазначає Голд, говориться, що Anthropic виступає за регулювання, «навіть коли це змушує нас звинувачувати в ажіотажі, «думеризмі» або регуляторному захопленні».

Скептики звернуть увагу на очевидні контраргументи, і лист не дає повної відповіді на них: відкриті ваги спрощують неправильне використання, а також ускладнюють прогрес, мандат на відкриті ваги зіткнеться з шаленою опозицією з боку всіх інвесторів лабораторії, а критики попередніх позицій Амодея щодо китайських відкритих моделей почують у пропозиції відлуння старих суперечок. Але основний виклик листа не залежить від його політики. Це залежить від напруги, яку вона чітко називає: лабораторія, яка просить уряди сповільнити роботу всіх інших, тоді як її власна оцінка залежить від того, щоб залишатися попереду, ще не просила нічого, що їй нічого не коштує.

Дебати, яких тепер не уникнути

Майже неважливо, чи відповість Амодей. Протягом одного дня передові лабораторії перейшли від конкуренції щодо можливостей до згоди щодо необхідності темпу, а реакція громадськості змінилася від запитання, чи небезпечний ШІ, до питання, чи можна вірити людям, які попереджають про нього. Лист Голда — кілька сотень слів політичних деталей, обгорнутих навколо одного незручного запитання — став найрізкішим виразом цього скептицизму, і його вірусність свідчить про те, що дебати, що набирають обертів, точитимуться не лише у Вашингтоні, а й публічно, на таких платформах, як Hacker News, де спільнота відкритих ваг протягом багатьох років створює варіації цього аргументу.

Будьте попереду ШІ

Регулювання, відкриті ваги та боротьба за швидкість штучного інтелекту — без галасу.

Читати більше новин AI →