매사추세츠 AI 안전 법안은 120일마다 프론티어 모델 검토를 의무화하여 Anthropic과 OpenAI를 분리합니다.

매사추세츠는 120일마다 치명적인 위험에 대해 프론티어 AI 모델을 검토하기를 원합니다. 이는 역대 가장 엄격한 국가 보호 조치이며 Anthropic과 OpenAI는 분할됩니다.

매사추세츠 의원들은 인공 지능에 대한 미국에서 가장 엄격한 주 차원의 보호 조치를 마련하기 위해 움직이고 있으며, 이 제안은 업계를 선도하는 두 연구소를 분열시켰습니다. Anthropic은 규칙을 지지하는 반면 OpenAI는 이에 반대하는 로비를 하고 있습니다.

지난 달 주 상원에서 통과된 경제 개발 법안에 포함된 이 법안은 선도적인 AI 연구실이 최소한 120일에 한 번씩 재앙적 위험에 대한 독립적인 검토를 위해 개척 모델을 제출하도록 요구합니다. 이는 미국 주에서는 처음입니다. 비록 주정부가 개발을 중단하기 위해 이를 사용할 수는 없지만 결과는 공개될 것입니다. 법안의 최종 텍스트를 둘러싼 싸움은 현재 비컨힐에서 비공개로 진행되고 있으며, 이는 미국 주가 프론티어 모델을 단속하는 데 얼마나 멀리 나아갈 것인지에 대한 결정적인 테스트입니다. 정부가 기술에 어떻게 직면하고 있는지 정기적으로 보고하려면 AI 정책 보도를 따르세요.

매사추세츠 제안에 필요한 것

법안의 핵심 조항은 프론티어 AI 시스템의 위험성을 정기적이고 독립적으로 점검하는 것입니다. 수요일에 발표된 블룸버그 보고서에 따르면 외부 조직은 개발자의 자체 안전 지침과 관계없이 최소 50명이 사망하거나 심각한 부상을 입거나 재산 피해가 10억 달러 이상 발생하는 사건으로 정의되는 모델의 재앙 가능성을 평가할 수 있는 권한을 부여받게 됩니다.

또한 주정부는 일리노이주가 이미 요구하는 것과 유사한 연례 규정 준수 검토를 실시할 것입니다. 그러나 반복적인 평가는 캘리포니아, 뉴욕, 일리노이에서 채택된 법률을 훨씬 뛰어넘는 것이며 매사추세츠는 고정된 120일 제3자 검사 시계에 개척 모델을 적용한 최초의 주가 될 것입니다.

인류학: 업계가 스스로 숙제를 평가해서는 안 됩니다.

연방 표준이 없는 상황에서 보다 엄격한 주정부 AI 규제를 옹호해 온 Anthropic은 매사추세츠주의 제안을 받아들였으며 이를 "미국에서 가장 명확하고 강력한 AI 법안"이라고 불렀습니다.

"우리는 궁극적으로 업계가 자체적으로 숙제를 평가해야 한다고 생각하지 않습니다"라고 회사의 미국 주 및 지방 정부 관계 책임자인 Cesar Fernandez는 Bloomberg에 말했습니다. Fernandez는 기술이 발전함에 따라 국가가 더욱 엄격한 감독을 채택해야 할 수도 있다고 덧붙였습니다. 이는 자체 제품에 대한 더 많은 규제를 주장하는 AI 연구소의 놀라운 입장입니다.

OpenAI, 리뷰가 역효과를 낳을 것이라고 경고

OpenAI는 매사추세츠 주의회 의원들에게 의무 검토를 자주 실시하면 의원들이 두려워하는 위험으로부터 보호할 수 있는 사이버 보안 모델의 출시가 느려질 것이라고 경고했다고 Bloomberg가 보도했습니다. 회사는 일리노이주 법을 모델로 한 통일된 주 표준을 선호합니다. 이 표준은 1년에 한 번만 제3자 감사를 요구하고 실험실이 자체 안전 지침을 따르고 필수 공개를 하는지 여부에 중점을 둡니다.

OpenAI의 미국 국가 정책 및 파트너십 책임자인 도니 파울러(Donnie Fowler)는 국가 체제 간의 불일치가 "더 안전하다는 의미는 아닙니다. 단지 혼란을 의미할 뿐입니다"라고 말했습니다.

파울러는 일리노이주의 연례 감사를 브레이크 등과 앞유리 와이퍼의 작동을 확인하는 일상적인 자동차 검사에 비유한 반면, 매사추세츠가 제안한 평가는 엔진을 분해하고 몇 달에 한 번씩 다시 조립하는 것과 비교했습니다.

11월 선거 전 로비 전력 질주

이제 두 회사 모두 최종 텍스트를 만들기 위해 서로 경쟁하고 있습니다. Bloomberg에 따르면 Anthropic은 올해 초 보스턴의 로비 회사인 Tremont Strategies Group을 고용했으며 OpenAI는 최근 몇 주 동안 현지 회사인 Benchmark Strategies를 고용했습니다.

보다 광범위한 경제 개발 법안은 의원 선거구의 프로젝트에 대한 자금도 포함되어 있기 때문에 11월 선거 전에 통과될 가능성이 높은 것으로 간주됩니다. 6명으로 구성된 하원과 상원 협상단은 AI 규칙을 포함한 세부 사항을 다듬고 있습니다.

협상가 중 한 명인 배리 파인골드(Barry Finegold) 주 상원의원은 프론티어 모델이 심각한 피해를 입히지 않도록 보장하기 위해 독립적인 평가가 필요하며 매사추세츠가 조치를 취하면 다른 주에서도 이를 따를 것이라고 예측했습니다. Finegold는 Bloomberg에 "우리는 소셜 미디어에서 뒤처져 있었습니다. 우리는 가드레일을 설치하지 않고 너무 많은 것을 허용했고 이제는 따라잡기 위해 노력하고 있습니다"라고 말했습니다. "우리는 그런 일을 다시 하고 싶지 않습니다."

주정부는 연방정부의 진공 상태에 들어갑니다.

매사추세츠의 추진은 AI 안전이 새로운 긴급 상황으로 떠오르면서 이루어졌습니다. 지난 달 OpenAI, Anthropic 및 Meta Platforms는 각각 그들의 모델이 테스트 환경에서 제3자 시스템을 실수로 해킹한 사례를 보고했다고 Bloomberg가 보도했습니다.

연방 정부의 감독은 여전히 제한적입니다. 도널드 트럼프 대통령은 대체로 무간섭 접근 방식을 취했고, 주법을 우선시하는 초당적 AI 안전 법안이 의회에서 정체되었습니다. 이제 국가들은 미국 경제 성장의 불균형한 몫을 주도하는 AI 붐의 일부를 두고 서로 경쟁하면서도 그 격차를 메우고 있습니다.

매사추세츠 자체가 업계에 적극적으로 구애하고 있습니다. 지난 2월, 주정부는 OpenAI와의 파트너십을 발표했으며 행정부 전체에 ChatGPT 기반 비서에 대한 액세스 권한을 부여한 최초의 주가 되었습니다. 공개 기록 요청을 통해 입수한 이메일에 따르면, 올해 봄, Maura Healey 주지사와 그녀의 경제 개발 장관이자 전 벤처 캐피탈리스트인 Eric Paley는 Anthropic 사장 Daniela Amodei와 회사가 매사추세츠 주 입지를 확장하고 사이버 보안 및 인력 개발에 협력하는 것에 대해 이야기했습니다.

한 메시지에서 Paley는 Anthropic에 "우리 모두는 AI가 어떻게 인류를 향상시키고 모든 두려움 조장에 맞서 싸우기 위해 긍정적인 영감을 제공하는지에 대한 보다 명확한 예를 공유해야 한다"고 말했으며 회사를 감독 협력에 대해 주 의원과 연결하겠다고 제안했습니다.

11월 재선에 출마한 민주당 힐리 의원은 초기 경제 개발 제안에 AI 보호 장치를 포함하지 않았습니다. 그녀와 하원 모두 여전히 이 조항에 동의해야 하며, 그녀의 행정부는 올 가을 법안을 마무리하기 위해 국회의원들과 협력할 것이라고 말했습니다.