Google은 잘못된 정보 반발로 인해 48시간 이내에 Earth AI 이미지 도구를 확보했습니다.

전문가들이 전쟁 지역과 랜드마크의 위성 이미지를 제작할 수 있음을 보여준 후 Google은 48시간 이내에 Google Earth에서 Nano Banana 2 AI 이미지 생성기를 가져왔습니다. 일어난 일은 다음과 같습니다.

Google은 사용자가 Google 어스의 실제 위성 이미지 위에 조작된 장면을 그릴 수 있는 인공 지능 도구를 철회했습니다. 이 도구는 이 기능이 잘못된 정보를 과대평가할 수 있다는 경고 속에서 출시 후 48시간 이내에 경로를 되돌릴 수 있습니다.

Google의 'Nano Banana 2' 이미지 생성기로 구동되는 이 기능은 2026년 7월 30일 목요일에 도입되었으며 누구나 텍스트 프롬프트를 입력하고 실제 위성, 항공 및 3D 이미지 위에 겹쳐진 잘못된 시나리오를 생성할 수 있었습니다. 업계를 형성하는 AI 도구에 대한 최신 개발 내용을 보려면 AI Buzz Wire의 AI 속보 보도를 팔로우하세요.

금요일까지 구글은 정책을 위반한 것으로 보이는 생성된 이미지의 스크린샷을 인용하면서 "더 강력한 가드레일을 구현하기 위해 노력하는 동안" 기능을 일시 중지한다고 확인했습니다. 갑작스러운 반전은 연구원들이 이 도구가 얼마나 쉽게 설득력 있고 위치가 정확한 가짜를 생성할 수 있는지를 보여준 BBC 검증 조사 직후에 나타났습니다.

도구 작동 방식

Nano Banana 2는 정부, 언론인 및 대중이 지구의 정확한 보기를 위해 의존하는 널리 사용되는 매핑 플랫폼인 Google Earth에 직접 통합되었습니다. AI 기능은 필요에 따라 이미지를 생성하고 이를 실제 좌표의 기본 레이어 위에 배치했습니다. 결정적으로, 결과 이미지는 합성이라는 명백한 징후 없이 소셜 미디어 및 기타 플랫폼에서 다운로드되고 공유될 수 있었습니다.

실제 지리 데이터와 융합된 시각적인 조합이 연구자들을 가장 놀라게 했습니다.

놀라운 시위

테스트 중에 BBC 검증은 무너진 에펠탑, 기자의 대 피라미드를 삼키는 싱크홀, 우크라이나의 수도 키예프에 위치한 러시아 탱크의 이미지를 생성할 수 있었습니다.

AI 및 잘못된 정보 연구원인 Henk van Ess는 도구가 중단되기 전에 더 나아가 이란에 존재하지 않는 원자력 발전소, 미국-멕시코 국경에 있는 난민 캠프, 옆에 폭탄 분화구가 있는 가자 지구의 가짜 병원의 조작된 장면을 제작했습니다.

van Ess는 "위조품은 그 자체로 설득력 있게 보일 필요는 없습니다. 위조품은 그것이 탄생한 지도의 신뢰성을 물려받았습니다."라고 van Ess는 말했습니다. 그는 Google이 어떻게 "발명된" 이미지를 "진짜 좌표에 용접하고 진짜 이미지에 그려지도록" 허용했는지 설명했습니다.

견디지 못한 워터마크

구글은 자사 도구에서 AI로 생성된 콘텐츠에 눈에 보이지 않는 워터마크가 표시되며, 사용자는 Gemini 챗봇이나 Google Lens를 통해 가짜로 의심되는 항목을 확인할 수 있다는 점을 강조했습니다.

그러나 BBC 검증의 테스트에서는 이러한 검사를 우회하고 Gemini를 속여 조작된 Google 어스 이미지를 실제인지 확인하는 것이 가능하다는 사실을 발견했습니다. 외부 AI 탐지 도구도 일부 합성 이미지에 플래그를 지정하지 못했습니다. 이번 연구 결과는 구글이 AI로 인한 잘못된 정보를 방어하기 위해 마련한 보호 장치의 신뢰성을 약화시켰습니다.

AI 탐지 연구원인 헨리 아지더(Henry Ajder)는 BBC 검증과의 인터뷰에서 분쟁 지역에서 조작된 이미지는 신뢰할 수 있는 정보가 부족하고 위험이 가장 높은 빠르게 움직이는 사건 중에 특히 "불안정"할 수 있다는 것을 입증할 수 있다고 말했습니다.

과잉수정의 패턴

이 에피소드는 기업들이 뒤로 물러나야 했던 점점 늘어나는 주목받는 AI 출시 목록에 추가됩니다. Google 자체도 2024년 Gemini 모델의 부정확한 이미지 생성에 대한 조사에 직면했으며, 기술 회사가 생성 기능을 출시하기 위해 경쟁하면서 빠른 배포 후 철회 주기가 반복되는 주제가 되었습니다.

이 경우 독특한 위험은 플랫폼 자체에서 비롯되었습니다. Google이 성명서에서 인정한 것처럼 "우리는 사람들이 세계에 대한 신뢰할 수 있는 관점을 위해 Google Earth를 유일하게 신뢰한다는 것을 알고 있습니다". 이러한 신뢰가 무너지면 특히 큰 비용이 듭니다.

롤백은 민감한 규제 순간에도 이루어집니다. AI 생성 콘텐츠의 명확한 라벨 표시를 의무화하는 유럽 연합의 AI법 투명성 요구 사항은 Google 어스 사건이 발생한 지 불과 며칠 후인 2026년 8월 2일에 발효되었습니다. Google은 이미 7월 초 AI 생성 콘텐츠 라벨링에 관한 EU의 실천 강령에 서명했습니다.

다음에 무슨 일이 일어날까요?

Google은 이 기능이 언제 돌아올지, 돌아올지 여부를 밝히지 않았습니다. 회사는 가드레일을 계속 개선할 것이라고 밝혔지만, 연구원들은 신뢰할 수 있는 지리 데이터 위에 AI 생성 콘텐츠를 계층화하는 기본 설계가 훨씬 더 강력한 출처 제어 없이 다운로드 및 공유 가능한 형태로 제공하기에는 너무 위험할 수 있다고 주장했습니다.

빠른 AI 배포와 실제 피해 사이의 균형을 맞추는 방법을 여전히 고심하고 있는 업계에서 Google Earth의 AI 이미지 도구의 48시간 수명은 AI가 생성할 수 있는 것과 생성해야 하는 것 사이의 격차에 대한 경고 이야기입니다.