Предупреждения о безопасности со стороны исследователей антропологии, которые доминировали в дискуссиях по ИИ на этой неделе, теперь привели к чему-то конкретному в Вашингтоне: законодательному толчку. Агентство Reuters сообщило в четверг, что законодатели США призывают к новым правилам ИИ в ответ на заявления исследователей, а представитель штата Массачусетс Лори Трэхан в утреннем интервью в четверг подробно рассказала о своем Законе о границах - законопроекте, который впервые наложит обязательные обязательства на разработчиков ИИ.
Выступая в утреннем выпуске WBUR, Трэхан сказала, что реакция на Капитолийском холме на события этой недели не похожа ни на что, что она видела с тех пор, как начала работать над регулированием ИИ в начале этого года. Для ежедневного освещения изменений в политике в области ИИ в Вашингтоне, Брюсселе и за их пределами следите за AI Buzz Wire, вашим источником последних новостей в области ИИ и обновлений регулирования.
Что будет делать Закон о границах
Трэхан, который был соавтором двухпартийного законопроекта, описал его как набор «правил дорожного движения» для горстки компаний, чьи модели могут нанести катастрофический ущерб. По словам конгрессмена, Закон о границах будет требовать четырех вещей: требований прозрачности для разработчиков передового ИИ, отчетности об инцидентах, независимой проверки заявлений о безопасности моделей и того, что она назвала правительственной кнопкой паузы, если модель представляет неизбежный риск катастрофы.
«На базовом уровне нам необходимо поставить ограждения на пограничных лабораториях», — сказал Трэхан, назвав эти положения «столовыми ставками», в то время как Конгресс разрабатывает политику для многих других секторов, с которыми будет связан ИИ.
«Система чести»: аргументы Трэхана в пользу обязательных правил
Суть аргумента Трэхана заключается в том, что в настоящее время ничто не связывает разработчиков самых мощных систем искусственного интеллекта. «Сегодня единственное, что у нас есть, — это система чести», — сказала она. «Самая мощная технология в истории человечества регулируется ее разработчиками».
Она признала скептицизм среди коллег, заявив, что некоторые считают предупреждения недели разжигающими страх или слишком радикальными. Но она описала быстрое изменение настроения в палате представителей: «Мой телефон не умолкал с тех пор, как Джейкоб Коксон дал сигнал. Я думаю, что мои коллеги напуганы. Они слышат от своих избирателей, которые хотят, чтобы мы действовали... Эта неделя только что достигла переломного момента».
Примечательно, что она заявила, что давление не ограничивается одной партией. «Это не только демократы», - сказал Трэхан, отметив, что «республиканцы MAGA вчера призвали к двухпартийным действиям. Ситуация действительно изменилась».
Предупреждения, с которых все началось
Законодательное брожение напрямую связано с заявлениями двух исследователей антропологии. Джейкоб Коксон покинул компанию во вторник, написав в социальных сетях, что Anthropic «прямо стремится к самосовершенствованию сверхразума и рискует своей жизнью». Коллега-исследователь антропологии Эван Хубингер публично поддержал его, написав: «Джейкоб здесь прав... Мы действительно искренне верим, что ИИ может убить всех людей! Лично я думаю, что в течение следующего десятилетия этот показатель составит >10%».
История распространилась через неделю. The Hill сообщила, что законодатели бьют тревогу по поводу опасности ИИ после предупреждений, BBC и CBS освещали оценку вероятности Хубингера, а NBC News сообщила в четверг о том, что два исследователя ИИ покинули Anthropic и Google из-за соображений безопасности, процитировав одного из них, который сказал, что «в комнате нет взрослых». В четверг агентство Reuters сообщило, что законодатели теперь призывают к введению новых правил, а также распространились сообщения о том, что OpenAI добивается принятия в США правил, регулирующих мощные модели искусственного интеллекта.
От предупреждений к файлу счетов
Что отличает эту неделю от предыдущих споров по поводу безопасности, так это скорость политического реагирования. Собственные разоблачения Anthropic на этой неделе — отчет об угрозах, в котором подробно описываются прерванные кампании по злоупотреблениям, включая возможные попытки использовать Клода для разработки биологического оружия — дали предупреждениям доказательную основу, которой не хватало предыдущим дебатам, и законодатели, похоже, действуют, пока момент еще есть.
Путь развития законодательства в области ИИ
Перспективы Закона о границах остаются неопределенными. Конгресс в течение многих лет боролся за принятие всеобъемлющего закона об искусственном интеллекте, и любой законопроект, касающийся обязательной проверки или федерального органа по приостановке работы, столкнется с интенсивным лоббированием со стороны лабораторий, которые он будет регулировать, а также с юрисдикционными спорами между комитетами. В кулуарах штаты не ждут: губернатор Калифорнии Гэвин Ньюсом подписал на этой неделе пакет законов о безопасности ИИ, согласно газете Los Angeles Times, продолжая оказывать давление на федеральную структуру, которая упреждает лоскутное одеяло государственных правил.
На данный момент динамика изменилась. Впервые в этом Конгрессе люди, создающие передовые модели, публично требуют ограничений для своей собственной отрасли — и законодатели разрабатывают их.
Приведет ли эта расстановка к закону или просто к заголовкам, будет зависеть от ближайших месяцев. Но неделя продемонстрировала то, что ни лаборатории, ни их критики не могут игнорировать: безопасность ИИ переместилась из комнаты для семинаров в подсчет голосов, а члены, подсчитывающие голоса, говорят, что их избиратели, наконец, просят их действовать.
AI Buzz Wire продолжит отслеживать Закон о границах по мере его прохождения через Конгресс.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
