Amazon, Anthropic, Apple, Google, Meta, Microsoft 및 OpenAI를 포함한 세계 최대 AI 개발자 10곳은 영국 개인 정보 보호 규제 기관의 조사에 따라 개인 데이터 처리 방식을 변경하기로 합의했습니다. 목요일에는 자체 가드레일을 우회하는 자율 AI 에이전트라는 새로운 문제에 관심을 돌렸습니다.

정보위원회(ICO)는 규제 기관이 영국 데이터 보호법 준수 여부를 조사한 후 10개 회사가 변경했거나 변경하기로 약속했다고 밝혔습니다. 이러한 약속에는 개인정보가 AI 모델을 교육하는 데 어떻게 사용되는지에 대한 보다 명확한 설명, 사람들이 데이터 권리를 행사할 수 있는 더 나은 메커니즘, 개발자의 보호 장치에 대한 보다 엄격한 평가가 포함됩니다.

감독 프로그램이 결실을 맺다

목록의 폭이 주목할 만합니다. 여기에는 미국의 하이퍼스케일러(Amazon, Google, Microsoft, Meta, Apple), 선도적인 개척 연구소(OpenAI, Anthropic), 개방형 전문가(Cohere, Stability AI) 및 서구 기업에서 모델을 널리 사용하는 중국 개발자인 DeepSeek이 포함됩니다. 현재 10개 회사 모두 영국 시장을 포괄하는 계약을 맺고 있습니다.

약속은 11명의 주요 개발자를 대상으로 ICO가 2025년에 시작한 감독 프로그램에서 비롯됩니다. 규제 당국이 회사의 Grok 챗봇에 대한 별도의 공식 조사를 진행하기 위해 Elon Musk의 xAI와의 관계를 일시 중지한 후 해당 명단은 10개로 줄었습니다.

이번 개입은 최근 정보 위원회(Information Commission)로 이름을 바꾸고 새로운 이사회와 맨체스터 본사로 다시 시작한 규제 기관 자체의 전환의 순간에 이루어졌습니다.

규제 당국은 승리를 선언하지 않습니다. 개발자들이 약속을 이행하는지 계속 모니터링할 것이며 현재의 AI 교육 관행이 여전히 영국 데이터 보호법과 마찰을 일으키고 있음을 인정했습니다. 개발자는 훈련된 모델에 포함된 민감한 개인 데이터, 모델이 훈련된 후 사람들이 자신의 정보를 제거할 수 있는 방법, 개발자가 절대 보유할 의도가 없는 데이터를 포함한 개인 데이터가 사후에 모델에서 추출될 수 있는 위험에 대해 답변해야 할 공개 질문을 여전히 갖고 있습니다.

ICO의 기술 규제 담당 이사인 Richard Nevinson은 "AI는 우리 사회에 이익을 줄 수 있는 엄청난 잠재력을 가지고 있지만 이는 신뢰와 투명성에 달려 있습니다."라고 말했습니다. "대규모 개발자들과의 협력을 통해 사람들이 빠르게 변화하고 복잡한 영역에서도 데이터가 사용되는 방식을 더 잘 이해하고 제어하는 ​​데 도움이 되는 실질적인 약속을 확보했습니다."

다음 목표: 가드레일을 벗어난 요원

이제 감시 기관의 관심은 제한된 사람의 감독 하에 웹사이트를 검색하고, 도구를 사용하고, 작업을 완료하는 시스템인 AI 에이전트로 옮겨가고 있습니다. ICO는 올해 초 에이전트가 테스트 및 배포 중에 보호 장치를 우회했다는 보고가 나온 후 OpenAI, Anthropic, Meta 및 영국의 AI 보안 연구소에 연락했음을 확인했습니다.

"최근 보고서는 이러한 시스템이 얼마나 빠르게 발전하고 있는지와 가드레일이 목적에 맞지 않을 경우 발생할 수 있는 위험을 모두 보여줍니다."라고 Nevinson은 말했습니다. "우리의 메시지는 분명합니다. AI 에이전트가 자율적으로 행동한다는 사실이 규정 준수 불량에 대한 변명이 되지 않는다는 것입니다."

집행 인접 참여와 함께 ICO는 보안, 투명성, 책임 및 개인 데이터의 합법적인 사용을 다루는 에이전트 AI에 대한 증거를 위한 6주간의 요청을 열었습니다. 최신 AI 개발을 추적하는 AI 정책 감시자들은 타임라인에 주목하고 싶을 것입니다. 응답은 11월 20일까지 마감되며 AI 및 자동화된 의사 결정에 대한 규제 기관의 향후 지침과 향후 지침을 알려줄 것입니다.

규제 당국은 또한 소비자 챗봇과 AI 동반자가 제품이 점점 더 개인화됨에 따라 개인 정보를 어떻게 사용하는지 조사하고 있습니다. 이러한 카테고리는 동반자, 캐릭터 로봇, 청소년 중심 비서가 출시되면서 빠르게 성장했습니다. 이러한 작업은 이제 감독 프로그램의 범위가 모델 교육을 넘어 개인화가 핵심 기능인 소비자 대상 제품으로 확장되었음을 나타냅니다.

영국에서 운영되는 AI 회사의 경우 ICO가 개발자 지정, 문서화된 약속 및 공개 후속 조치라는 기본 프레임워크를 만들었다는 실질적인 효과가 있습니다. 서명한 회사는 약속에 따라 평가를 받게 되며, 규제 기관은 미래의 교육 관행뿐만 아니라 현재의 교육 관행도 지속적인 규정 준수 문제로 간주한다는 점을 분명히 했습니다.

의미

영국에서 운영되는 AI 회사의 경우 데이터 보호 조사가 교육 데이터에서 배포된 동작으로 이동하고 있다는 메시지가 있습니다. 교육 투명성에 대한 약속을 확보하는 것이 더 쉬운 단계였습니다. 훈련된 모델의 삭제, 추출 위험, 가드레일 외부에서 활동하는 에이전트 등 더 어려운 질문은 여전히 ​​열려 있으며 ICO는 업계, 규제 기관 및 정부가 함께 작업할 것을 기대한다는 신호를 보냈습니다.

이 에피소드는 또한 영국의 브렉시트 이후 규제 자세를 보여줍니다. 영국의 감시 기관은 광범위한 AI법이 아닌 기존 데이터 보호법을 AI 시스템에 적용하고 자동화된 의사 결정을 위한 법적 실천 강령을 구축하고 있습니다. 현재 실행 중인 에이전트 AI에 대한 증거를 요구하고 공식적으로 세계 최대 규모의 몇몇 연구소를 주목하고 있는 ICO는 서방 데이터 보호 당국 중에서 가장 활동적인 AI 규제 기관 중 하나로 자리매김하고 있습니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →