Законодатели Массачусетса стремятся создать самые строгие в стране меры защиты искусственного интеллекта на уровне штата, и это предложение раскололо две ведущие лаборатории отрасли: Anthropic одобряет правила, а OpenAI лоббирует их.

Эта мера, включенная в законопроект об экономическом развитии, принятый Сенатом штата в прошлом месяце, потребует от ведущих лабораторий искусственного интеллекта представлять свои пограничные модели на независимую проверку катастрофических рисков не реже одного раза в 120 дней — впервые для любого штата США. Результаты будут обнародованы, хотя государство не сможет использовать их для остановки развития. Борьба за окончательный текст законопроекта сейчас идет за закрытыми дверями в Бикон-Хилл, и это определяющее испытание того, насколько далеко зайдет штат США в обеспечении соблюдения пограничных моделей. Чтобы регулярно получать отчеты о том, как правительства противостоят технологиям, следите за нашей [освещением о политике в области ИИ] (https://aibuzzwire.news).

Чего потребует предложение Массачусетса

Основным положением законопроекта является периодическая независимая проверка опасностей передовых систем искусственного интеллекта. Согласно отчету Bloomberg, опубликованному в среду, сторонние организации будут иметь право оценивать потенциальную опасность модели для катастроф (определяемых как события, которые убивают или серьезно ранят не менее 50 человек или наносят материальный ущерб на сумму более 1 миллиарда долларов) независимо от собственных правил безопасности разработчика.

Штат также будет проводить ежегодную проверку соответствия, аналогичную той, которую уже требует Иллинойс. Но повторяющиеся оценки выходят далеко за рамки законов, принятых в Калифорнии, Нью-Йорке и Иллинойсе, и сделают Массачусетс первым штатом, который внедрит пограничные модели на фиксированный 120-дневный график проверок третьей стороной.

Антропный: отрасль не должна оценивать свою домашнюю работу

Anthropic, которая выступает за более строгое регулирование ИИ на уровне штата в отсутствие федерального стандарта, поддержала предложение Массачусетса, назвав его «самым четким и строгим законодательством в области ИИ в стране».

«В конечном итоге мы не думаем, что отрасль должна оценивать свою собственную домашнюю работу», — сказал Bloomberg Сезар Фернандес, глава компании по связям с штатами и местными органами власти США. Фернандес добавил, что государствам, возможно, придется принять еще более жесткий надзор по мере развития технологий — поразительная позиция лаборатории искусственного интеллекта, выступающей за более строгое регулирование своей собственной продукции.

OpenAI предупреждает, что отзывы будут иметь неприятные последствия

OpenAI предупредила законодателей штата Массачусетс, что частые обязательные проверки замедлят выпуск моделей кибербезопасности, которые могли бы защитить от тех самых рисков, которых опасаются законодатели, сообщает Bloomberg. Компания предпочитает единый государственный стандарт, созданный по образцу закона штата Иллинойс, который требует проведения независимого аудита только один раз в год и фокусируется на том, соблюдают ли лаборатории свои собственные правила безопасности и раскрывают ли требуемую информацию.

Непоследовательность между государственными режимами «не означает большей безопасности. Это просто означает путаницу», - сказал Донни Фаулер, глава отдела государственной политики и партнерства OpenAI в США.

Фаулер сравнил ежегодные проверки в Иллинойсе с обычной проверкой автомобиля, проверяющей работу стоп-сигналов и дворников, а также сравнил предложенные оценки в Массачусетсе с разборкой двигателя и сборкой его заново каждые несколько месяцев.

Лоббистский спринт перед ноябрьскими выборами

Обе компании сейчас борются за окончательный текст. По данным Bloomberg, в начале этого года Anthropic наняла бостонскую лоббистскую фирму Tremont Strategies Group, а в последние недели OpenAI привлекла местную фирму Benchmark Strategies.

Считается, что более широкий законопроект об экономическом развитии будет принят до ноябрьских выборов, поскольку он также предусматривает финансирование проектов в избирательных округах. Группа переговорщиков Палаты представителей и Сената из шести человек прорабатывает детали, включая правила ИИ.

Сенатор штата Барри Файнголд, один из участников переговоров, заявил, что необходимы независимые оценки, чтобы гарантировать, что пограничные модели не причинят значительного вреда, и предсказал, что другие штаты последуют этому примеру, если Массачусетс начнет действовать. «Мы отставали в социальных сетях. Мы позволили слишком многому пройти мимо, не установив ограждений, и теперь мы догоняем», — сказал Файнголд Bloomberg. «Мы не хотим делать это снова».

Штаты погружаются в федеральный вакуум

Массачусетский толчок вызван тем, что безопасность ИИ приобрела новую актуальность. По сообщению Bloomberg, в прошлом месяце OpenAI, Anthropic и Meta Platforms сообщили о случаях, когда их модели непреднамеренно взломали сторонние системы в средах тестирования.

Федеральный надзор остается ограниченным: президент Дональд Трамп в значительной степени придерживается подхода невмешательства, а двухпартийное законодательство о безопасности ИИ, которое преобладает над законами штатов, застопорилось в Конгрессе. Сейчас штаты заполняют этот пробел, даже несмотря на то, что они конкурируют друг с другом за часть бума искусственного интеллекта, обеспечивающего непропорциональную долю экономического роста США.

Сам Массачусетс активно ухаживает за этой отраслью. В феврале штат объявил о партнерстве с OpenAI и стал первым штатом, предоставившим всей исполнительной власти доступ к помощнику на базе ChatGPT. Этой весной губернатор Маура Хили и ее министр экономического развития, бывший венчурный капиталист Эрик Пейли говорили с президентом Anthropic Даниэлой Амодей о расширении компании в Массачусетсе и партнерстве в области кибербезопасности и развития рабочей силы, согласно электронным письмам, полученным по запросу в публичных отчетах.

В одном из сообщений Пейли сказал Anthropic, что «нам всем нужно поделиться более четкими примерами того, как ИИ улучшает человечество, и предложить позитивное вдохновение для борьбы со всем нагнетанием страха», и предложил связать компанию с законодателем штата по поводу сотрудничества в сфере надзора.

Хили, демократ, баллотирующаяся на переизбрание в ноябре, не включила гарантии ИИ в свое первоначальное предложение по экономическому развитию. И она, и Палата представителей все еще должны согласиться с этим положением, и ее администрация заявляет, что будет работать с законодателями, чтобы завершить работу над законопроектом этой осенью.

Будьте впереди политики в области ИИ

Регулирование пограничной модели ускоряется в США, Европе и Азии, и детали будут решать, кто строит, кто отправляет и кто платит. Получите краткие отчеты из источников обо всех важных событиях на AI Buzz Wire.

Читать больше новостей об искусственном интеллекте →