Googleは「Nano Banana 2」を用いてGoogle Earth上の風景を加工する画像生成機能を公開したものの、偽の災害現場や軍事施設などを容易に作成できる点が問題視され、提供開始からわずか1日で撤回した。ポリシー違反となる生成画像が共有されたことを受け、同社はより強固な安全対策を導入するまで本機能を停止するとしている。 リアルな地理情報とAI画像生成の融合は、悪用された際に誤情報や世論誘導のリスクが極めて高くなります。新機能リリースにおけるAIの安全ガードレール構築の難しさと重要性を象徴する事例です。