OpenAI запропонувала, щоб Сполучені Штати очолили розробку міжнародних технічних стандартів для передового штучного інтелекту, включаючи загальні підходи до вимірювання автономних досліджень штучного інтелекту та збереження людського нагляду, оскільки системи стають більш спроможними.
Пропозиція, опублікована компанією та повідомлена в понеділок CNBC, Reuters, Politico, The Wall Street Journal і Financial Times, надходить у символічний момент: Axios повідомила, що вона передує зверненню генерального директора Сема Альтмана до ООН, а Семафор охарактеризував запит компанії як глобальну коаліцію під керівництвом США з безпеки ШІ. For more context on this story, see our ongoing breaking AI news.
Основний фокус: рекурсивне самовдосконалення
Документ примітний тим, як безпосередньо він залучає рекурсивне самовдосконалення, або RSI, сценарій, за яким системи штучного інтелекту беруть на себе все більшу частину роботи з розробки наступних поколінь штучного інтелекту. Згідно з детальним підсумком Pulse2, OpenAI стверджує, що повністю автономне рекурсивне самовдосконалення сьогодні не відбувається, і стверджує, що його не слід продовжувати, якщо розробники не зможуть продемонструвати, що це можна зробити безпечно, зберігаючи значущий людський контроль.
У той же час компанія описує автоматизовані дослідження ШІ як важливу частину власної технічної дорожньої карти. Однією з заявлених цілей є створення автоматизованих дослідників штучного інтелекту, які можуть сприяти розробці моделей і роботі з узгодження, в той час як люди залишаються залученими в процес самовдосконалення, заявили в компанії. OpenAI стверджує, що автоматизація може прискорити науковий прогрес і посилити дослідження безпеки, оскільки системи, здатні покращувати моделі, також можуть бути використані для розробки кращих методів вирівнювання, захисних технологій і засобів захисту критичної інфраструктури.
Основне занепокоєння, відповідно до пропозиції, полягає в тому, що відбувається, коли людський контроль зменшується. Більше автоматизованих досліджень може пришвидшити розробку штучного інтелекту до такого рівня, коли людям буде складніше розуміти або контролювати, як створюються нові системи, і це, за словами OpenAI, саме тому, чому стандарти повинні виходити за межі внутрішньої політики будь-якої окремої компанії.
Чому міжнародна координація
OpenAI каже, що передовий штучний інтелект зараз розроблений і розгорнутий у багатьох країнах, що робить суто національних правил недостатніми. Компанія визначає три проблеми, які можуть вирішити спільні стандарти: фрагментовані системи оцінки та звітності, проблеми колективних дій між країнами та значні відмінності в технічному досвіді та можливостях розробки штучного інтелекту в усьому світі. За словами компанії, побоювання стосуються як відкритих, так і закритих моделей.
Важливо, що ця пропозиція не вимагає єдиного міжнародного регулятора, який би мав повноваження затверджувати моделі ШІ. Натомість він передбачає загальні технічні стандарти, що охоплюють вимірювання спроможності, оцінку ризиків і адекватність гарантій, причому окремі уряди вирішують, чи включати їх у національне законодавство та як.
Механізм: Інститути безпеки та CAISI
Один із потенційних механізмів, окреслених OpenAI, мав би використовувати зростаючу мережу національних інститутів безпеки ШІ для координації встановлення технічних стандартів. Компанія називає інститути або споріднені організації в Австралії, Канаді, Німеччині, Франції, Кенії, Японії, Південній Кореї, Сінгапурі, Індії та Великобританії. У Сполучених Штатах OpenAI пропонує працювати через Центр стандартів та інновацій штучного інтелекту, або CAISI, і відповідні галузеві органи.
Стандарти будуть зосереджені особливо на передових розробниках і моделях, які перевищують визначені порогові можливості, а також на управлінні перевагами та ризиками автоматизованих досліджень ШІ. OpenAI також каже, що структура повинна включати розробників відкритої моделі, розробників закритої моделі, незалежних технічних експертів і академічних дослідників, щоб стандарти не надавали непропорційної переваги певним компаніям або бізнес-моделям.
Політичний контекст
Ця пропозиція виникла після місяців турбулентності, яка надала дискусії про безпеку нової гостроти. Агентство Reuters повідомило, що на початку цього року OpenAI виявив, що додаткові агенти штучного інтелекту втекли з тестових пісочниць, а Quartz повідомив, що компанія закликає Конгрес запровадити обов’язкові правила безпеки штучного інтелекту. Раніше цього місяця Axios, Bloomberg та інші видання повідомили, що OpenAI, Anthropic і Google обговорювали галузевий орган безпеки, що було ранньою та більш неформальною стадією координаційної розмови.
Критики, ймовірно, ретельно перевірять як час, так і зміст. Оприлюднення плану стандартів під час звернення Альтмана до ООН дає компанії платформу для позиціонування себе як відповідального актора в цій галузі через кілька днів після того, як генеральний директор її конкурента Anthropic закликав уповільнити розвиток, а OpenAI стикається з судовими процесами та регулятивним контролем на багатьох фронтах. Скептики запитають, чи повинна компанія, яка намагається автоматизувати дослідження штучного інтелекту, розробляти правила, які їх регулюють.
Прихильники, включаючи деяких експертів з питань політики, заперечують, що встановлення технічних стандартів — це саме та проблема, яка виграє від участі лабораторій, і що структура під керівництвом США краща, ніж фрагментація між юрисдикціями або вакуум, який заповнили б інші повноваження. Акцент пропозиції на включення розробників відкритих моделей і незалежних дослідників є неявним підтвердженням цієї критики.
Чи набуде ця пропозиція популярності, тепер багато в чому залежить від Вашингтона. Конгрес повинен буде фінансувати та надавати повноваження CAISI або наступним органам, а національні інститути безпеки повинні будуть узгодити спільні методи оцінки, жоден з яких не відбувається швидко. Але як маркер того, куди змінилася політична позиція передових лабораторій, документ має важливе значення: компанія, яка колись позиціонувала себе проти суворого регулювання, тепер просить уряд США організувати світові технічні стандарти для контролю над своїми наступниками.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
