GoogleがGoogle Earth（グーグルアース）にAI画像編集機能を追加した後、24時間もたたないうちに緊急停止した。この機能はGeminiに搭載されているNano Banana 2画像モデルを利用し、ユーザーはテキスト指示を入力するだけで、Google Earth上の場所の画像を編集できた。
この機能は公開後、すぐに悪用された。AI研究者のヘンク・ファン・エス氏は、米国とメキシコの国境にある難民キャンプからイランにある核施設まで、ほとんど本物と見分けがつかない偽の衛星画像を複数生成した。
その後、Googleの広報担当者は31日、X上で声明を発表し、「地理空間分野の専門家はこの機能を使って多くの実用的な作業を行いましたが、生成画像のスクリーンショットを共有する人もおり、その一部は当社のポリシーに違反しているようでした。そのため、より厳格な安全対策を整備する間、Google Earthからこの機能を撤去します」と述べた。
Googleは、AIが生成したすべての画像には透かしが入り、一般公開されているGoogle Earthの地図コンテンツには反映されていないと強調した。
最近、AI機能を急いで公開した後、すぐに撤回する企業はGoogleだけではない。IT之家によると、Metaは7月7日にMuse Imageを開始し、ユーザーが成人ユーザーの公開Instagramアカウントにある画像を使ってAI画像を生成できるようにした。アカウント所有者が事前に権限を無効にしている場合を除き、利用できる仕組みだった。機能の提供開始から1週間もたたないうちに、Metaはこれを撤回し、今回の試みは「分別を欠いていた」と認めた。