Законодавці штату Массачусетс намагаються створити найсуворіші гарантії штучного інтелекту на державному рівні, і ця пропозиція розділила дві провідні лабораторії галузі: Anthropic схвалює правила, а OpenAI лобіює проти них.

Цей захід, включений до законопроекту про економічний розвиток, ухваленого Сенатом штату минулого місяця, вимагатиме від провідних лабораторій штучного інтелекту подавати свої передові моделі на незалежні перевірки катастрофічних ризиків принаймні раз на 120 днів — вперше в будь-якому штаті США. The findings would be made public, although the state could not use them to halt development. Боротьба навколо остаточного тексту законопроекту зараз триває за зачиненими дверима на Бікон-Хілл, і це є вирішальним тестом того, наскільки далеко штат США зайде в моделях охорони кордону. For regular reporting on how governments are confronting the technology, follow our AI policy coverage.

Що вимагатиме пропозиція штату Массачусетс

The bill's core provision is a periodic, independent check on the dangers of frontier AI systems. Відповідно до звіту Bloomberg, опублікованого в середу, сторонні організації матимуть повноваження оцінювати потенціал моделі для катастроф — визначених як події, які вбивають або серйозно травмують принаймні 50 людей або завдають шкоди майну на 1 мільярд доларів або більше — незалежно від власних інструкцій щодо безпеки розробника.

The state would also run an annual compliance review, similar to what Illinois already requires. Але регулярні оцінки виходять далеко за рамки законів, прийнятих у Каліфорнії, Нью-Йорку та Іллінойсі, і зроблять Массачусетс першим штатом, який поставив прикордонні моделі на фіксований 120-денний годинник сторонньої перевірки.

Anthropic: The Industry Should Not Grade Its Own Homework

Компанія Anthropic, яка виступає за суворіше державне регулювання штучного інтелекту за відсутності федерального стандарту, підтримала пропозицію штату Массачусетс, назвавши її «найчіткішим і найсильнішим законодавством щодо штучного інтелекту в країні».

«Зрештою, ми не вважаємо, що індустрія повинна оцінювати свою власну домашню роботу», — сказав Bloomberg Сезар Фернандес, голова компанії зі зв’язків із державними та місцевими органами влади. Фернандес додав, що штатам, можливо, доведеться посилити нагляд у міру розвитку технології — вражаюча позиція лабораторії штучного інтелекту, яка виступає за посилення регулювання власних продуктів.

OpenAI попереджає, що рецензії матимуть негативний ефект

OpenAI попередив законодавців штату Массачусетс, що часті обов’язкові перевірки сповільнять випуск моделей кібербезпеки, які можуть захистити від тих самих ризиків, яких побоюються законодавці, повідомляє Bloomberg. Компанія віддає перевагу єдиному державному стандарту за моделлю закону штату Іллінойс, який вимагає стороннього аудиту лише раз на рік і зосереджується на тому, чи дотримуються лабораторії власних інструкцій з безпеки та розкривають необхідну інформацію.

Неузгодженість між державними режимами «не означає безпечніші. Це просто означає плутанину», — сказав Донні Фаулер, керівник відділу державної політики та партнерства США OpenAI.

Фаулер порівняв щорічні перевірки в штаті Іллінойс із звичайним оглядом автомобіля — перевіркою стоп-сигналів і склоочисників у справності — водночас порівнюючи запропоновані в Массачусетсі оцінки з демонтажем двигуна та збиранням його кожні кілька місяців.

A Lobbying Sprint Before the November Election

Both companies are now jostling to shape the final text. Anthropic найняв бостонську лобістську фірму Tremont Strategies Group на початку цього року, тоді як OpenAI залучила місцеву фірму Benchmark Strategies останніми тижнями, повідомляє Bloomberg.

Вважається, що ширший законопроект про економічний розвиток, ймовірно, буде прийнятий до виборів у листопаді, оскільки він також містить фінансування проектів у депутатських округах. Група представників Палати представників і Сенату з шести членів узгоджує деталі, включаючи правила ШІ.

Сенатор штату Баррі Файнеголд, один із учасників переговорів, сказав, що необхідні незалежні оцінки, щоб гарантувати, що прикордонні моделі не завдадуть значної шкоди, і передбачив, що інші штати підуть за ними, якщо Массачусетс вживе заходів. «Ми відставали в соціальних мережах. Ми дозволили забагато пройти, не поставивши огорожі, і тепер ми граємо в наздоганяння», — сказав Файнеголд Bloomberg. «Ми не хочемо робити це знову».

Штати крокують у федеральний вакуум

The Massachusetts push comes as AI safety has taken on new urgency. Минулого місяця OpenAI, Anthropic і Meta Platforms повідомили про випадки, коли їхні моделі випадково зламали сторонні системи під час тестування, повідомляє Bloomberg.

Федеральний нагляд залишається обмеженим: президент Дональд Трамп взяв здебільшого бездіяльний підхід, а двопартійне законодавство про безпеку штучного інтелекту, яке б випереджало закони штатів, зупинилося в Конгресі. Зараз штати заповнюють цю прогалину, навіть коли вони конкурують одна з одною за частку буму штучного інтелекту, який сприяє непропорційно великій частці економічного зростання США.

Сам Массачусетс активно залицяється до галузі. У лютому штат оголосив про партнерство з OpenAI і став першим штатом, який надав всій своїй виконавчій владі доступ до помічника на основі ChatGPT. Цієї весни губернатор Маура Хілі та її секретар з економічного розвитку, колишній венчурний капіталіст Ерік Пейлі, говорили з президентом Anthropic Даніелою Амодей про те, що компанія розширює свою присутність у Массачусетсі та співпрацює з кібербезпеки та розвитку робочої сили, згідно з електронними листами, отриманими через запит у публічних архівах.

В одному з повідомлень Пейлі сказав Anthropic, що «ми всі повинні ділитися більш чіткими прикладами того, як штучний інтелект покращує людство, і запропонувати позитивне натхнення для боротьби з нагнітанням страху», і запропонував зв’язати компанію з законодавцем штату щодо співпраці в нагляді.

Хілі, демократка, яка балотується на переобрання в листопаді, не включила гарантії штучного інтелекту у свою початкову пропозицію щодо економічного розвитку. І вона, і Палата все ще повинні погодитися з положенням, і її адміністрація каже, що працюватиме з законодавцями, щоб завершити закон цієї осені.

Попередня політика AI

Регулювання моделі Frontier прискорюється в США, Європі та Азії, і деталі вирішать, хто будує, хто доставляє і хто платить. Отримуйте стислі звіти з джерел про кожну важливу подію на AI Buzz Wire.

Читати більше новин AI →