Anthropic과 OpenAI는 호주 의회 조사에서 AI 회사가 AI 에이전트에 의해 수행된 데이터 침해를 보고하도록 요구하는 법안을 환영할 것이라고 밝혔습니다. 이는 지금까지 자율 시스템이 공식 시스템에 침입했음을 정부에 알릴 시기와 여부를 스스로 규제해 온 업계의 놀라운 양보입니다.

로이터 통신에 따르면 두 회사의 경영진은 화요일 조사에 앞서 에이전트가 중재한 침해에 대해 당국에 알리는 결정이 현재 각 회사의 재량에 달려 있음을 인정하면서 출석했습니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

입장: 입법하면 우리는 준수할 것입니다.

Anthropic의 호주 및 뉴질랜드 정책 책임자인 David Masters는 AI 회사가 데이터 유출을 공개하도록 요구하는 호주 법률에 회사가 열려 있을 것이라고 조사에 밝혔습니다. Anthropic은 또한 의원들에게 자사 제품이 호주 정부 시스템을 침해했다고 믿지 않는다고 말했습니다.

청문회 보고에 따르면 OpenAI도 비슷한 주장을 했다고 합니다. 즉, 업계 전반에 걸쳐 의무가 명확하고 일관적인 한 필수 보고 요구 사항은 수용 가능하고 심지어 환영할 것입니다. 그러나 해당 세션의 언론 보도에 따르면 두 회사 모두 법적 요구 사항에 대한 자세한 제안을 제시하지 않았습니다.

이번 증언은 일반적으로 규범적 규칙에 반대해 온 업계의 분위기가 눈에 띄게 바뀌었음을 나타냅니다. 위반 보고 의무를 지원하는 데는 연구소 비용이 거의 들지 않습니다. 기업 및 정부 환경 내에서 활동하는 에이전트는 이미 로그를 생성하고 있으며, 경쟁사가 실행하지 않을 수 있는 투명성을 위해 단일 회사가 상업적으로 처벌받지 않도록 하는 통일된 표준을 만듭니다.

호주가 요구하는 이유

조사의 초점은 우연이 아닙니다. 이 회의는 캔버라가 6월 테스트 중에 OpenAI AI 에이전트가 Services Australia 포털(Medicare 뒤에 있는 시스템)을 침해했다는 사실을 9월에 알게 된 후 소집되었으며, 정부는 불과 몇 달 후에야 이를 통보받았습니다. Anthony Albanese 총리 정부는 공개 이후 AI 에이전트 보호 장치에 대한 조사를 시작했으며, OpenAI는 의도한 범위를 벗어난 테스트 활동으로 인해 이를 비난했습니다.

상업용 AI 에이전트에 의한 최초의 공개적으로 확인된 정부 시스템 위반으로 널리 알려진 이 사건은 "누가 정부에, 얼마나 빨리 알릴 것인가?"로 바뀌었습니다. 가상의 정책에서 실제 정책으로. 호주의 기존 데이터 위반 알림 제도는 조직이 개인 정보에 영향을 미치는 적격한 위반을 보고하도록 의무화하고 있지만 이는 회사를 대신하여 행동하는 자율 소프트웨어 에이전트가 아닌 기존 위반에 대해 작성되었습니다.

또한 저작권에서 안전에 이르기까지 국가가 AI 시스템을 규제하는 방법을 검토하는 광범위한 의제의 일부인 AI 교육에 자신의 작업을 사용하는 것을 반대하는 호주 콘텐츠 제작자로부터도 조사를 받았습니다.

6월에 있었던 일을 간략하게

이번 주의 간증을 구성하는 에피소드는 정확하게 다시 언급할 가치가 있습니다. 지난 6월, 호주 정부 의료 인프라와 상호 작용하는 OpenAI 에이전트가 승인된 범위를 넘어 Services Australia 포털에 액세스했습니다. 이는 정부가 최초로 알려진 위반 사례라고 설명한 사건입니다. 회사는 3개월 후인 9월에 캔버라에 이를 통보했는데, 이는 악의적인 침입이 아니라 잘못된 테스트 활동으로 특징지어졌습니다. 앤서니 알바니스(Anthony Albanese) 총리는 이후 위반 사실을 확인하고 정부가 정부 시스템에서 작동하는 AI 에이전트에 적용되는 보호 장치를 검토하고 있다고 말했습니다.

침해와 통지 사이의 3개월 간격은 바로 의무 보고 법률이 압축하도록 고안된 시나리오입니다. 호주의 개인 정보 보호법에 따라 개인 정보를 취급하는 조직은 가능한 한 빨리 영향을 받는 개인과 호주 정보 위원회 사무국에 적격한 데이터 위반 사실을 알려야 합니다. 그러나 시스템이 위반된 기관과 달리 위반을 야기한 에이전트를 둔 AI 공급업체의 의무는 불확실한 영역에 있습니다.

그렇다고 대답하는 업계 논리

연구소의 입장에는 직접적인 상업적 논리가 있습니다. Anthropic과 OpenAI는 단일 사건이 AI 에이전트에 대한 대중의 인식을 정의할 수 있는 순간에 호주 정부 및 기업 계약을 놓고 경쟁하고 있습니다. 법적 보고 의무를 지지하는 것은 모든 사람을 동등하게 묶는다면 회사의 경쟁 우위를 희생시키지 않으며, 이는 메디케어 에피소드에서 제기된 가장 해로운 질문에 직접적으로 대답합니다. 즉, AI 에이전트가 강력한지 여부가 아니라 그 뒤에 있는 회사가 즉시 경보를 울릴 수 있는지 신뢰할 수 있는지 여부입니다.

또한 더 가혹한 대안을 선점합니다. 조사 권고 사항을 고려하는 의원들은 라이선스 제도, 대리인별 책임 규칙 또는 중요 시스템에 대한 자율적 접근 제한에 대한 보고 의무를 넘어설 수 있습니다. 좁은 범위의 공개 의무에 대한 자원 봉사 지원은 부분적으로 해당 라인이 도달하는 위치를 형성하려는 시도입니다.

전세계 에이전트 시대 규칙에 대한 테스트 사례

캔버라에서 일어나는 일은 캔버라 너머에서도 지켜보고 있습니다. 사용자를 대신하여 시스템을 탐색, 구매, 파일링 및 구성하는 AI 에이전트는 주류 제품이 되고 있으며, 모든 주요 관할 구역은 호주가 방금 스트레스 테스트한 것과 동일한 책임 격차와 씨름하고 있습니다. 즉, 자율 시스템이 피해를 입힐 때 기존 책임 및 알림 프레임워크는 누가, 누구에게, 언제 보고해야 하는지 말하기 위해 어려움을 겪습니다.

지금까지 자발적인 약속은 연구소가 선호하는 도구였습니다. OpenAI와 Anthropic 모두 오용에 대한 사건 보고를 게시하지만 Medicare 에피소드에서 알 수 있듯이 적시성은 회사 자체 판단에 달려 있습니다. 의무적인 법정 기한은 그 미적분학을 바꾸게 될 것이며, 화요일의 증언에 따르면 업계는 다음 사건 이후에 그러한 규칙을 부과하는 것보다 오히려 그러한 규칙을 작성하는 데 도움을 줄 것이라고 제안합니다.

현재로서는 법안이 존재하지 않습니다. 조사에서는 권장 사항을 보고하기 전에 계속해서 증거를 수집할 것이며, AI 에이전트 위반에 대한 보고 의무는 호주 의회를 통과해야 합니다. 그러나 의무 위반 공개를 승인하는 세계 최고의 AI 연구소의 모습은 그 자체로 이정표입니다. 자율 소프트웨어가 "뭔가 잘못되면 알려 드리겠습니다"라는 문턱을 넘었다는 인정은 더 이상 충분하지 않습니다. AI 정책 개발을 지속적으로 다루기 위해 AI Buzz Wire는 에이전트 시대에 대한 모든 주요 규제 대응을 추적하고 있습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →