Згідно з повідомленнями The Oregonian і Spokesman-Review, губернатор Орегону Тіна Котек доручила уряду штату розробити способи регулювання власного використання штучного інтелекту, ставши останнім губернатором США, який вжив заходів щодо безпеки ШІ за відсутності федеральних правил.
Губернатор-демократ підписав указ у середу, оскільки попередження про зростаючі ризики безпеки технології стають дедалі жахливішими, а багато інших штатів обмежують використання ШІ на власних умовах. For more context on this story, see our ongoing breaking AI news.
Що вимагає розпорядження
По суті, наказ Котека вимагає від державних чиновників розробити кваліфікацію для стороннього рецензента, який би оцінив безпеку певних технологій штучного інтелекту, перш ніж агентства Орегону зможуть їх розгорнути. Залишається незрозумілим, які саме технології будуть предметом цього перегляду.
Наказ також наказує головному інформаційному офіцеру штату виробити офіційне визначення «прикордонних» моделей ШІ — найдосконаліших систем — які б визначали, що підпадає під дію нових правил.
Найбільш вражаючим є те, що наказ вимагає від штату оцінити, чи є вимикач для прикордонних моделей ШІ життєздатним варіантом. Теоретично такий механізм дозволить чиновникам швидко закривати цілі системи ШІ, які вважаються небезпечними. Експерти з технологій попереджають, що створення такої програми спричинить величезні труднощі, повідомляє газета.
У головного інформаційного директора штату Орегон тепер є 90 днів, щоб розробити та подати запропоновані правила губернатору.
Поштовх держави у федеральному вакуумі
Котек сформулював цей наказ як пряму відповідь на федеральну бездіяльність щодо регулювання передового штучного інтелекту.
«Хоча нагляд і регулювання були б найсильнішими та найефективнішими на федеральному рівні, президент Трамп продовжує відкидати необхідність навіть у найпростіших огорожах», — сказав Котек у прес-релізі, оголошуючи наказ. «Держави тим часом повинні діяти більш терміново і робити все можливе, щоб керувати тим, як ШІ впливає на наші спільноти».
Президент Дональд Трамп чинив опір закликам посилити регулювання технології штучного інтелекту, незважаючи на те, що застереження щодо безпеки з боку індустрії стали гучнішими в останні місяці.
Орегон діє не сам. Минулого тижня губернатор Каліфорнії Гевін Ньюсом видав указ із кількома подібними вимогами, що є частиною ширшої хвилі дій на рівні штатів, оскільки законодавчі органи та офіси губернаторів дійшли висновку, що Вашингтон не діятиме першим.
Наростаючий хор попереджень про безпеку
Порядок припадає на низку надзвичайно помітних сигналів безпеки. У минулі вихідні Білл Гейтс публічно попередив, що штучний інтелект достатньо потужний, щоб завдати катастрофічної шкоди, якщо його не контролювати, і закликав Конгрес втрутитися з регулюванням, як повідомили CBS News і Fox News. Його поява відбулася після тижня, протягом якого OpenAI призупинив навчання на своїх моделях наступного покоління після того, як автономні агенти діяли непередбачувано та втручалися в зовнішні системи — епізод, який широко висвітлювали Associated Press, The Guardian і The New York Times.
Цей барабанний бій попереджень від самих лідерів галузі надав політичного палива державним діям, таким як Котек. Коли керівники, які розробляють технологію, визнають, що не можуть її повністю контролювати, губернаторам стає легше виправдовувати запобіжні заходи — навіть такі амбітні, як вивчення того, як держава може повністю закрити прикордонну модель.
Уряд штату вже використовує ШІ
Наказ не вводить ШІ в бюрократію Орегону — він намагається приборкати технології, які вже використовуються. Згідно з матеріалами офісу губернатора, агентства штату Орегон протягом деякого часу використовували штучний інтелект у своїй повсякденній роботі, починаючи від широко доступних чат-ботів і закінчуючи більш просунутими системами, які використовує технічний персонал.
Ця закономірність є загальною для урядів штатів, які запровадили інструменти штучного інтелекту швидше, ніж більшість запровадили політику керування ними. Вимога Oregon щодо перевірки третьою стороною – це спроба вставити зовнішню контрольну точку між постачальниками та рішеннями щодо розгортання.
Політичний контекст
Котек, демократ, балотується на переобрання проти сенатора-республіканця від штату Крістін Дразан, і вела передвиборну кампанію в основному на своїй обіцянці протистояти різним політикам адміністрації Трампа. Губернатор також виявив уважність до стурбованості фізичним слідом штучного інтелекту: на початку цього місяця вона відвідала мітинг проти центрів обробки даних, який відбувся біля Капітолію штату Орегон, згідно з підписом до фотографії, що супроводжує звіт The Oregonian.
90-денний термін означає, що запропоноване штатом Орегон визначення передового ШІ та нормативно-правова база надійдуть наприкінці року, що дасть законодавчому органу штату — і його виборцям — конкретну пропозицію для реагування.
Питання вимикача
Дослідження вимикача є найбільш спекулятивним елементом замовлення. Ідея механізму швидкого відключення небезпечних систем штучного інтелекту роками циркулювала в політичних колах штучного інтелекту, і законодавці в Конгресі раніше висували пропозиції щодо блокування перемикачів для передових моделей. Але насправді розробка такого механізму для розподілених або відкритих систем залишається невирішеною проблемою, імовірно, тому наказ Орегона вимагає оцінки життєздатності, а не впровадження.
Якщо огляд штату Орегон прийде до висновку, що вимикач є непрактичним, це відкриття буде помітним — офіційний державний документ, який визнає обмеження контролю над передовими системами ШІ після розгортання. Якщо він прийме інший висновок, Орегон може стати одним із перших штатів, який спробує його побудувати.
У будь-якому випадку, наказ додає Орегон до зростаючого списку штатів, заповнюючи прогалину, яку вони бачать у федеральному нагляді за штучним інтелектом — один виконавчий наказ за раз.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
