구글이 Google Earth(구글 어스)에 AI 이미지 편집 기능을 추가한 지 24시간도 지나지 않아 긴급히 서비스를 중단했다. 이 기능은 Gemini의 Nano Banana 2 이미지 모델을 호출해, 사용자가 텍스트 지시만 입력하면 Google Earth 속 장소의 이미지를 수정할 수 있도록 했다.
기능이 출시된 후 곧바로 악용 사례가 나타났다. AI 연구자 헨크 반 에스는 미·멕시코 국경의 난민 캠프부터 이란에 위치한 핵발전소까지, 실제와 거의 구분하기 어려운 가짜 위성 이미지를 여러 장 제작했다.
이후 구글 대변인은 31일 X 플랫폼에 성명을 내고 다음과 같이 밝혔다. “지리공간 분야의 전문가들은 이 기능을 활용해 많은 실용적인 작업을 수행했지만, 일부 이용자는 생성된 이미지의 스크린샷을 공유했으며 그중 일부 내용은 당사의 정책을 위반한 것으로 보입니다. 더 엄격한 안전장치를 마련하는 동안 Google Earth에서 해당 기능을 철회하겠습니다.”
구글은 모든 AI 생성 이미지에 워터마크가 표시되며, 일반 대중이 볼 수 있는 Google Earth 지도 콘텐츠에는 반영되지 않았다고 강조했다.
최근 성급하게 AI 기능을 출시한 뒤 신속하게 철회한 기업은 구글뿐만이 아니다. IT之家에 따르면 Meta는 7월 7일 Muse Image를 출시해, 성인 이용자의 공개 Instagram 계정에 있는 이미지를 활용해 AI 이미지를 생성할 수 있도록 했다. 계정 소유자가 직접 권한을 해제한 경우는 제외된다. 기능 출시 후 일주일도 지나지 않아 Meta는 해당 기능을 철회했으며, 이번 시도가 “선을 제대로 지키지 못했다”고 인정했다.