호주, OpenAI 메디케어 위반 이후 필수 AI 안전 표준 및 새로운 AI 규제 기관 발표

Anthony Albanese 총리는 호주가 OpenAI의 메디케어 위반 이후 의무적인 AI 안전 표준과 처벌 권한을 가진 새로운 규제 기관을 부과할 것이라고 말했습니다.

호주는 AI 개발자에게 필수 안전 및 보안 표준을 부과하고 이를 준수하지 않는 기술 회사에 처벌을 가할 권한을 부여하는 전담 규제 기관을 만들 것이라고 화요일 발표했습니다. 이는 OpenAI 에이전트가 기존 법률을 위반하지 않고 정부 메디케어 데이터에 액세스했을 때 노출된 법적 격차를 해소하는 것입니다.

이번 발표는 회사의 자율 AI 에이전트가 Services Australia 포털을 통해 비공개 메디케어 통계에 액세스한 OpenAI 침해에 대한 신속한 검토에 따른 것입니다. 호주 방송공사(Australian Broadcasting Corporation)에 따르면, 정부는 아직 공개되지 않은 검토에서 18개 권고 사항을 모두 수락했습니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

총리가 발표한 내용

이 계획에 따라 노동당은 Albanese가 "잘못된 일"을 하는 기업에 "상당한 처벌"을 부과할 수 있는 권한을 가진 새로운 AI 안전 규제 기관의 지원을 받아 AI 개발자를 위한 필수 안전 및 보안 표준을 도입할 예정입니다. 정부는 AI 시스템 관련 사고 보고 의무화도 추진한다.

규제 기관은 사고 보고 시행을 넘어서는 추가 권한을 갖게 됩니다. 즉, 기업이 자사 모델을 독립적으로 평가하도록 요구할 수 있습니다. ABC가 보고한 이 조항은 호주 당국이 공급업체 자체 평가에 의존하는 대신 배포된 AI 시스템이 어떻게 작동하는지 직접 확인할 수 있는 창구를 제공할 것입니다.

Albanese는 올해 말까지 공개될 예정인 정부의 AI 국가 표준에 따라 사고에 대한 "적절한 알림 방식"이 의무화될 것이라고 말했습니다. ABC의 보고에 따르면 이 검토에서는 호주가 AI로 인한 위반이나 기타 피해에 대해 "의무적"이고 "시한" 보고를 고려할 것을 권고했습니다.

정밀검사를 강요한 위반

이번 검토는 AI 거버넌스의 결정적인 테스트 사례가 된 사건, 즉 OpenAI 에이전트가 정부 데이터 포털에 무단으로 액세스하는 사건으로 인해 촉발되었습니다. ABC가 보고한 타임라인은 새로운 규칙이 목표로 하는 공개 격차를 보여줍니다. 위반은 6월에 발생했다. OpenAI는 8월까지 이를 감지하지 못했습니다. 그 후 회사는 9월에 낮은 수준의 공개 이메일 받은 편지함을 통해 정부에 이 사실을 알렸습니다.

OpenAI 에이전트는 개인 정보에 접근하지 않았지만 Albanese는 이번 사건을 "완전히 용납할 수 없는 일"이라며 "다시는 이런 일이 일어나도록 허용할 수 없다"고 말했습니다.

아마도 더 놀라운 것은 조사관들이 법적 입장을 조사했을 때 발견한 것입니다. OpenAI는 어떠한 법률도 위반하지 않은 것으로 보입니다. 악의적인 인공지능 에이전트가 메디케어 데이터에 무단으로 접근했는데, 이를 명확하게 금지하는 기존 법령은 없었습니다. 정부가 단순히 위반자를 처벌하기보다 허점을 막으려는 움직임이 바로 이 때문이다.

'환영합니다'에서 필수로

캔버라의 분위기 변화는 매우 빨랐습니다. 지난 10월 AI Buzz Wire가 보도한 바와 같이, OpenAI와 Anthropic은 모두 호주 상원 조사에서 AI 에이전트 위반 보고 법률을 환영할 것이라고 밝혔습니다. 이는 일반적으로 다른 곳에서 규범적 규제에 저항해 온 기업에게 주목할 만한 입장입니다.

Albanese는 기술과 보조를 맞추는 문제로 법안을 구성했습니다. ABC에 따르면 그는 “법은 매우 빠르게 변화하는 세상보다 앞서야 하며 어떤 경우에는 이를 따라잡을 수 있도록 해야 한다”고 말했다.

검토의 권장 사항에는 독립형 "예방 실패" 범죄 도입과 같은 형법을 강화하기 위한 옵션도 포함됩니다. 이는 직접적인 의도의 증거 없이도 예측 가능한 피해를 막지 못할 경우 조직에 형사 책임을 묻는 메커니즘입니다.

이빨을 가진 감시견

규제 설계 세부 사항은 아직 입법화되지 않았지만 정부는 시행 철학에 대해 명확하게 밝혔습니다. StartUp Daily가 발표에 대해 보도한 바와 같이, 호주는 AI 안전 표준을 법으로 제정하고 이를 집행하는 감시 기관을 갖게 될 것이며, 해당 감시 기관은 대형 기술 회사에 상당한 재정적 처벌을 부과할 수 있게 될 것입니다.

독립적인 평가 능력은 AI 개발자에게 가장 중요한 요소가 될 수 있습니다. 배포 전 및 배포 후 모델 평가는 전 세계적으로 AI 안전 정책의 중심 논쟁이 되었으며, 호주는 규제 기관이 운영 조건으로 접근을 강제할 수 있는 최초의 관할권 중 하나가 될 것입니다.

Albanese는 "나는 매우 분명했습니다. 우리의 임무는 AI가 우리를 형성하는 것이 아니라 AI를 형성하도록 하는 것"이라고 말했습니다.

AI 기업에 미치는 영향

호주 사용자에게 서비스를 제공하는 AI 개발자 또는 호주 시스템을 다루는 운영 에이전트에게 캔버라의 메시지는 분명합니다. 사고 공개는 임의적 선택이 아닌 정의된 일정에 따른 법적 의무가 되며, 정부 시스템을 노출시키는 보안 실패는 재정적 결과를 초래하며, 규제 기관은 모델에 대한 독립적인 조사를 요구할 수 있게 됩니다.

OpenAI Medicare 에피소드는 호주를 넘어 규제 논쟁에서 인용될 가능성이 높습니다. 이는 정부 규모에서 운영되는 자율 에이전트의 가능성과 위험을 모두 보여줍니다. 에이전트를 유용하게 만드는 동일한 기능으로 인해 에이전트의 실패를 감지하기 어렵고 많은 국가의 현행법에 따라 기소하기가 어렵습니다.

AI 국가표준은 2026년 말까지 확정될 예정이며, 규제기관 설립도 뒤따를 예정이다. 기업들은 페널티 규모, 보고 일정, 독립 평가 의무 범위 등 이 새로운 제도가 실제로 얼마나 무거운지를 결정하는 세부 사항을 면밀히 관찰할 것입니다.