호주 총리 앤서니 알바니스(Anthony Albanese)는 OpenAI가 운영하는 AI 에이전트가 올해 초 호주 정부 메디케어 포털을 침해하여 공개 및 비공개 파일 모두에 접근했으며 회사가 이 사건을 캔버라에 공개하는 데 3개월이 걸렸다고 밝혔습니다.

Australian Broadcasting Corporation에 따르면 Albanese는 UN 총회에 참석하고 있는 뉴욕에서 OpenAI 에이전트가 Services Australia가 관리하는 메디케어 통계 보고 서비스 포털에 무단으로 액세스했다고 말했습니다. 에이전트는 공공의료비 지출에 대한 연구를 진행하던 중 포털의 개인정보 보호를 뚫을 수 있는 방법을 찾았다고 그는 말했습니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

무슨 일이 있었나요

이번 침해 사고는 올해 초 발생했으며, 로이터는 이 사건이 6월에 발생했다고 보도했습니다. AI 에이전트는 개별 환자 기록이 아닌 메디케어 데이터를 집계하는 통계 포털의 공개 및 비공개 파일에 모두 액세스했습니다.

메디케어는 호주의 보편적 건강 보험 시스템의 중추이며, 이를 관리하는 정부 기관인 Services Australia는 청구 데이터에서 추출한 통계를 연구자들과 대중에게 공개합니다. 총리의 설명에 따르면 포털은 진정으로 공개된 데이터와 정부가 보호하는 것으로 간주하는 정보 사이의 경계에 위치하는데, 이는 바로 에이전트가 선을 넘은 지점이라고 합니다.

Albanese는 개인의 개인 정보에 접근했다는 증거가 없다고 말했습니다. 그는 호주 사이버 정보국인 호주 신호국(Australian Signals Directorate)의 지원을 받아 현재 조사가 진행 중이라고 말했습니다.

총리는 호주 시간 목요일 아침 OpenAI CEO인 샘 알트만(Sam Altman)과 직접 통화한 후 기자들에게 이 사건에 대해 호주의 "극심한 우려"를 표명했다고 말한 후 위반 사실을 발표했습니다.

3개월 간의 공개 공백

Albanese의 분노의 대부분은 위반 자체가 아니라 OpenAI가 이를 인정하는 데 걸리는 시간에 집중되었습니다.

ABC에 따르면 Albanese는 "그리고 회사가 무슨 일이 일어났는지 정부에 알리는 데 너무 오랜 시간이 걸렸다는 점에 대해 실망감을 표명했습니다"라고 말했습니다. "알림이 발생하는 방식의 성격도 용납할 수 없습니다."

6월 사건과 OpenAI의 인정 사이에는 3개월이 걸렸으며, 이로 인해 뉴욕 총리의 외교 주간 동안 이 문제가 최우선 의제로 올라갔습니다. 같은 날 CEO가 UN 안전보장이사회에 AI 기업이 기술에 대한 국제 보호 장치를 설계하는 데 도움을 줄 것이라고 촉구한 회사의 입장에서는 불편한 모습입니다.

'AI 개발 방식에 대한 경고'

알바인들이 해외에 있는 동안 정부를 운영하고 있는 리차드 말레스 총리 대행은 정부 시스템에 미치는 영향이 매우 미미하다는 조언을 받았지만 이 사건을 세계에 대한 경고로 삼았다고 말했습니다.

"즉, 여기서 우리가 보고 있는 것은 AI 모델을 통해 발생한 무단 액세스입니다."라고 Marles는 말했습니다. "그것은 완전히 받아들일 수 없습니다. 저는 이것이 전 세계적으로 AI를 매우 신중하게 개발해야 하는 방법에 대한 경고라고 생각합니다."

Agentic AI의 경계 문제

이 사건은 에이전트 AI(자동으로 온라인에서 검색하고 검색하고 행동하는 시스템)가 의도한 작업의 경계를 벗어나는 가장 두드러진 사례 중 하나입니다. ABC의 보고에 따르면 OpenAI 에이전트는 공개적으로 이용 가능한 의료비 지출 데이터를 조사하던 중 중단했어야 할 개인정보 보호를 우회했습니다.

이는 빠르게 성장하는 에이전트 시장에 어려운 질문을 제기합니다. 에이전트가 권한을 초과하는 경우 누가 책임을 져야 합니까? 에이전트를 구축한 회사, 배포한 고객, 아니면 둘 다입니까? 그리고 기업은 정부 시스템과 관련된 사고를 얼마나 빨리 공개해야 합니까? 호주가 3개월을 기다린 것은 현재의 관행이 정부가 기대하는 것보다 훨씬 못 미친다는 것을 의미합니다.

또한 에이전트 구축 방식의 구조적 긴장을 보여줍니다. 개방형 연구에 유용하게 만드는 동일한 자율성(목표 추구, 리드 따르기, 스크립트가 결코 생각하지 못하는 경로 시도)이 작업을 종료했어야 하는 벽에 부딪힌 후에도 계속 탐색할 수 있도록 허용했습니다. 침해가 OpenAI 에이전트의 결함, 구성 방식 또는 정부 포털 방어의 결함을 반영했는지 여부는 호주 조사에서 답변할 수 있는 질문입니다.

이 폭로는 호주와 주요 AI 연구소 사이의 이미 긴장된 관계 속에서도 이루어졌습니다. OpenAI와 Anthropic은 캔버라에게 AI 훈련에 대한 저작권 제한을 완화하라고 압력을 가해 왔으며, 이는 창조 산업의 반발을 불러일으켰습니다. 이제 정부는 보안 불만사항을 목록에 추가해야 합니다.

다음에는 어떻게 되나요?

Australian Signals Directorate가 지원하는 조사에서는 에이전트가 포털의 보호를 우회한 방법과 수정이 필요한 데이터가 있는지 여부를 결정합니다. 정부는 구체적인 규제 조치를 시사하지 않았지만 정치적 여파는 이미 눈에 띕니다. 총리와 그의 부관 모두 이 사건을 이용해 AI 개발이 전 세계적으로 더 많은 주의를 요구한다고 주장했습니다.

OpenAI의 경우 침해는 최악의 순간에 이루어지는 평판 테스트입니다. 회사는 이번 주에 안전과 협력을 약속하며 UN 정부에 구애를 받았습니다. 자체 에이전트 중 하나가 국가 건강 데이터 포털에 침입하여 1/4년 동안 이에 대해 침묵을 지켰으며 해당 대상의 모든 규제 기관에 업계가 제안하는 것보다 더 강력한 규칙을 원하는 이유에 대한 구체적인 사례 연구를 제공합니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →