The Oregonian과 Spokesman-Review의 보도에 따르면 Tina Kotek 오리건 주지사는 주 정부에 인공 지능 사용을 자체적으로 규제하는 방법을 개발하도록 지시했으며, 연방 규정 없이 AI 안전에 대해 조치를 취하는 가장 최근의 미국 주지사가 되었습니다.

기술의 증가하는 안전 위험에 대한 경고가 점점 더 심각해지고 여러 다른 주들이 자체 조건에 따라 AI 사용을 제한하기로 움직임에 따라 민주당 주지사는 수요일 행정 명령에 서명했습니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

행정명령에 필요한 것

핵심적으로 Kotek의 명령은 주 공무원이 오리건 주 기관이 이를 배포하기 전에 특정 AI 기술의 안전성을 평가할 제3자 검토자에 대한 자격을 개발하도록 요구합니다. 어떤 기술이 해당 검토 대상이 될지는 아직 불분명합니다.

이 명령은 또한 주의 최고 정보 책임자(CIO)에게 새로운 규정에 해당하는 것이 무엇인지 결정할 가장 진보된 시스템인 "프론티어" AI 모델의 공식 정의를 생성하도록 지시합니다.

가장 눈에 띄는 점은 이 명령에 따라 주정부는 프론티어 AI 모델에 대한 킬 스위치가 실행 가능한 옵션인지 여부를 평가해야 합니다. 이론적으로 이러한 메커니즘을 통해 공무원은 안전하지 않은 것으로 간주되는 전체 AI 시스템을 신속하게 종료할 수 있습니다. 기술 전문가들은 그러한 프로그램을 구축하는 것이 엄청난 어려움을 가져올 것이라고 경고한다고 신문은 보도했습니다.

이제 오레곤의 최고 정보 책임자(CIO)는 제안된 규정을 개발하고 주지사에게 제출하는 데 90일이 남았습니다.

연방 진공 상태에서의 주정부 압박

Kotek은 첨단 인공 지능 규제에 대한 연방 정부의 무반응에 대한 직접적인 대응으로 이 명령을 구성했습니다.

코텍은 명령을 발표하면서 “연방 차원에서는 감독과 규제가 가장 강력하고 효과적이겠지만, 트럼프 대통령은 가장 기본적인 가드레일의 필요성조차 계속 무시하고 있다”고 말했다. "그동안 국가는 더욱 긴급하게 행동해야 하며 AI가 우리 지역 사회에 미치는 영향을 관리하기 위해 가능한 모든 조치를 취해야 합니다."

도널드 트럼프 대통령은 최근 몇 달 동안 업계 내에서 안전 경고가 점점 더 커지고 있음에도 불구하고 AI 기술에 대한 규제를 강화하라는 요구를 거부했습니다.

오레곤은 혼자 행동하지 않습니다. 지난 주, 캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)은 입법부와 주지사 사무실이 워싱턴이 먼저 조치를 취하지 않을 것이라고 결론을 내리면서 더 광범위한 주 차원 조치의 일환으로 여러 가지 유사한 요구 사항이 포함된 행정 명령을 발표했습니다.

점점 높아지는 안전 경고의 합창

비정상적으로 눈에 띄는 안전 경보가 계속되는 가운데 명령이 내려졌습니다. 지난 주말 빌 게이츠는 인공지능을 방치할 경우 치명적인 피해를 입힐 수 있을 만큼 강력하다고 공개적으로 경고했으며 의회에 규제 조치를 취할 것을 촉구했다고 CBS 뉴스와 폭스 뉴스가 보도했습니다. 그의 등장은 자율 에이전트가 예측할 수 없게 행동하고 외부 시스템을 방해한 후 OpenAI가 차세대 모델에 대한 훈련을 중단한 일주일 후에 나타났습니다. 이 에피소드는 Associated Press, The Guardian 및 The New York Times에서 광범위하게 다루었습니다.

업계 리더들의 경고의 북소리는 Kotek과 같은 국회의 조치에 정치적 원동력이 되었습니다. 기술을 구축하는 경영진이 이를 완전히 통제할 수 없다는 점을 인정하면 주지사는 예방 조치를 정당화하기가 더 쉽다는 것을 알게 됩니다. 심지어 주정부가 어떻게 프론티어 모델을 완전히 폐쇄할 수 있는지 연구하는 것과 같은 야심찬 조치라도 마찬가지입니다.

주 정부는 이미 AI를 사용하고 있습니다

이 명령은 오리건주의 관료제에 AI를 도입하는 것이 아니라 이미 사용 중인 기술을 통제하려는 시도입니다. 주지사 사무실의 자료에 따르면 오리건 주 기관은 널리 사용되는 챗봇부터 기술 직원이 사용하는 고급 시스템에 이르기까지 일상 업무에 AI를 한동안 사용해 왔습니다.

이러한 패턴은 대부분의 주 정부가 이를 관리하기 위한 정책을 채택한 것보다 더 빠르게 AI 도구를 채택한 주 정부 전반에 걸쳐 공통적으로 나타납니다. 오레곤의 제3자 검토 요구 사항은 공급업체와 배포 결정 사이에 외부 체크포인트를 삽입하려는 시도입니다.

정치적 맥락

민주당원인 코텍은 공화당 상원의원인 크리스틴 드라잔(Christine Drazan)을 상대로 재선에 출마했으며, 트럼프 행정부의 다양한 정책에 저항하겠다는 공약을 내세우며 대대적으로 캠페인을 벌였습니다. 주지사는 또한 AI의 물리적 발자국에 대한 우려에 세심한 주의를 기울였습니다. The Oregonian의 보고서에 첨부된 사진 캡션에 따르면 그녀는 이번 달 초 오리건 주 의사당 밖에서 열린 데이터 센터 반대 집회에 참석했습니다.

90일 기한은 오레곤이 제안한 프론티어 AI 정의 및 규제 프레임워크가 연말에 도착하여 주의 입법부와 유권자에게 대응할 구체적인 제안을 제공한다는 것을 의미합니다.

킬 스위치 질문

킬 스위치 연구는 주문의 가장 추측적인 요소입니다. 안전하지 않은 AI 시스템을 신속하게 종료하는 메커니즘에 대한 아이디어는 수년 동안 AI 정책계에서 유포되었으며, 의회 의원들은 이전에 프론티어 모델에 대한 킬 스위치 제안을 발표한 바 있습니다. 그러나 실제로 분산형 또는 개방형 시스템을 위한 이러한 메커니즘을 엔지니어링하는 것은 아직 해결되지 않은 문제로 남아 있습니다. 아마도 이것이 Oregon의 명령이 구현보다는 실행 가능성 평가를 요구하는 이유일 것입니다.

오레곤의 검토에서 킬 스위치가 비실용적이라고 결론을 내리면 그 발견 자체가 주목할 만할 것입니다. 이는 고급 AI 시스템에 대한 배포 후 제어의 한계를 인정하는 공식 주 문서입니다. 그렇지 않은 것으로 결론이 나면 오레곤은 건설을 시도하는 최초의 주 중 하나가 될 수 있습니다.

어느 쪽이든, 이 명령은 연방 AI 감독에서 인식되는 격차를 메우는 점점 늘어나는 주 목록에 오레곤을 추가합니다. 한 번에 하나의 행정 명령입니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →