이번 주 AI 담론을 지배했던 인류학 연구자들의 안전 경고는 이제 워싱턴에서 구체적인 무언가, 즉 입법 추진을 낳았습니다. 로이터 통신은 목요일 미국 국회의원들이 연구원들의 발언에 대응하여 새로운 AI 규칙을 요구하고 있다고 보도했으며, 매사추세츠 주 하원의원 로리 트라한(Lori Trahan)은 목요일 아침 인터뷰를 통해 프론티어 AI 개발자에게 처음으로 구속력 있는 의무를 부과하는 법안인 프론티어법(Frontier Act)을 자세히 설명했습니다.
Trahan은 WBUR의 Morning Edition에서 이번 주 행사에 대한 국회 의사당의 반응이 올해 초 AI 규제 작업을 시작한 이후 본 것과는 전혀 다르다고 말했습니다. 워싱턴, 브뤼셀 및 기타 지역의 AI 정책 동향을 매일 보도하려면 최신 AI 뉴스 및 규정 업데이트 소스인 AI Buzz Wire를 팔로우하세요.
프론티어법이 무엇을 할 것인가
초당적 법안을 공동 집필한 Trahan은 이 법안이 재앙적인 피해를 입힐 수 있는 소수의 회사를 위한 일련의 "도로 규칙"이라고 설명했습니다. 의원에 따르면 프론티어법(Frontier Act)은 프론티어 AI 개발자를 위한 투명성 요구 사항, 사고 보고, 모델 안전성 주장에 대한 독립적 검증, 모델이 임박한 재앙의 위험을 초래할 경우 정부 일시 중지 버튼이라고 부르는 네 가지 사항을 의무화할 것이라고 합니다.
Trahan은 "기본적인 수준에서 우리는 최첨단 연구실에 가드레일을 설치해야 합니다"라고 말하며 의회가 AI가 다룰 다른 많은 부문에 대한 정책을 수립하는 동안 이러한 조항을 "테이블 스테이크"로 구성했습니다.
'명예 시스템': 구속력 있는 규칙에 대한 Trahan의 사례
Trahan 주장의 핵심은 현재 가장 강력한 AI 시스템의 개발자를 묶는 것은 아무것도 없다는 것입니다. "현재 우리가 시행하고 있는 유일한 것은 명예 시스템뿐입니다."라고 그녀는 말했습니다. "인류 역사상 가장 강력한 기술은 개발자에 의해 규제되고 있습니다."
그녀는 일부 사람들이 이번 주의 경고가 공포를 조장하거나 너무 극단적이라고 생각한다고 말하면서 동료들 사이의 회의적인 시각을 인정했습니다. 그러나 그녀는 회의장 분위기의 급속한 변화를 다음과 같이 설명했습니다. "제이콥 콕슨이 고발한 이후로 내 전화벨은 계속 울렸습니다. 제 동료들은 겁에 질린 것 같습니다. 그들은 우리가 행동에 나서기를 바라는 유권자들의 목소리를 듣고 있습니다... 이번 주가 막 전환점에 이르렀습니다."
특히 그녀는 압력이 어느 한 쪽에만 국한되지 않는다고 말했습니다. Trahan은 "MAGA 공화당원들이 어제 초당적 행동을 요구했습니다. 실제로 입장이 바뀌었습니다"라고 Trahan은 말했습니다.
그것을 시작한 경고
입법상의 동요는 두 명의 인류학 연구자들의 진술에서 직접적으로 유래합니다. 제이콥 콕슨(Jacob Coxon)은 화요일에 회사를 그만두고 소셜 미디어에 Anthropic이 "자기 향상 초지능을 향해 달려가고 우리의 삶을 도박에 빠뜨리고 있다"고 썼습니다. 동료 인류학 연구원인 Evan Hubinger는 다음과 같이 공개적으로 그를 지지했습니다. "Jacob의 말이 맞습니다... 우리는 AI가 모든 인간을 죽일 수 있다고 진심으로 믿습니다! 개인적으로 향후 10년 내에 그 비율이 10% 이상이라고 생각합니다."
이야기는 일주일 내내 전이되었습니다. 힐(The Hill)은 국회의원들이 경고 이후 AI 위험에 대해 경보를 울렸다고 보도했고, BBC와 CBS는 휴빙거의 확률 추정을 다루었으며, NBC 뉴스는 목요일 두 명의 AI 연구원이 안전 문제로 앤트로픽(Anthropic)과 구글을 떠났다고 보도하면서 "방에 어른이 없다"고 말한 한 사람의 말을 인용했습니다. 로이터 통신은 목요일 국회의원들이 이제 새로운 규칙을 요구하고 있다고 보도했으며 OpenAI가 강력한 AI 모델을 관리하는 미국 규칙을 모색했다는 보도도 나왔습니다.
경고부터 청구서 파일까지
이번 주가 이전 안전 논란과 다른 점은 정책 대응 속도다. 이번 주 Anthropic이 공개한 위협 인텔리전스 보고서(클로드를 이용해 생물학 무기를 개발하려는 시도를 포함하여 중단된 오용 캠페인을 자세히 설명함)는 경고에 이전 논쟁에서 부족했던 증거 백본을 제공했으며 국회의원들은 순간이 지속되는 동안 움직이고 있는 것으로 보입니다.
AI 입법을 위한 앞으로의 길
프런티어법(Frontier Act)의 전망은 여전히 불확실합니다. 의회는 포괄적인 AI 법안을 통과시키기 위해 수년 동안 고군분투해 왔으며, 필수 검증이나 연방 일시 중지 권한에 관한 모든 법안은 위원회 간의 관할권 싸움과 함께 규제할 실험실의 강렬한 로비에 직면하게 될 것입니다. 주 정부는 기다리지 않습니다. Los Angeles Times에 따르면 개빈 뉴섬 캘리포니아 주지사는 이번 주 AI 안전 법안에 서명하여 주 규칙의 패치워크를 선점하는 연방 프레임워크에 대한 압력을 유지했습니다.
지금은 역학이 반전되었습니다. 이번 의회에서 처음으로 프론티어 모델을 구축하는 사람들은 자신의 산업에 대한 제한을 공개적으로 요구하고 있으며 국회의원들은 이를 초안 작성하고 있습니다.
그 조정이 법을 만들어내는지 아니면 단순히 헤드라인을 장식하는지는 앞으로 몇 달에 달려 있을 것입니다. 그러나 이번 주에는 연구실이나 비평가 모두 무시할 수 없는 사실이 나타났습니다. AI 안전이 세미나실에서 채찍 수 계산으로 옮겨졌고, 투표를 하는 회원들은 마침내 자신의 회원들이 행동을 요구한다고 말합니다.
AI Buzz Wire는 의회를 통과하는 프론티어법(Frontier Act)을 계속 추적할 것입니다.
---
AI보다 앞서 나가세요최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.
AI 뉴스 자세히 보기 →
