美國科技巨擘Alphabet旗下公司谷歌（Google）7月31日表示，他們撤回前一天在「Google地球」推出的人工智慧（AI）影像生成新功能，原因是用戶得以在地標與景點的真實影像上創造虛假場景，例如巴黎爆炸、伊朗核設施、俄羅斯炸彈坑、敘利亞境內激進組織「伊斯蘭國」（IS）訓練營等假場景，違反公司政策。

中央社綜合路透、法新社報導，Google地球這項「建立影像」工具，整合了Nano Banana 2圖像生成技術，用戶只要輸入全球任1地點的文字提示，就能生成以「Google地球」衛星影像、空拍影像及3D影像為基礎的擬真影像。Google發表此新功能時表示，這可用於「視覺化呈現歷史場景、製作房地產平面圖等」。

然而，這項旨在帶來便利與創意的功能，上線僅1天便引發軒然大波。數位調查專家與假資訊研究人員紛紛提出嚴厲警告，指出該工具極易遭到濫用，捏造出足以牽動全球神經的重大假場景。英國廣播公司（BBC）在實測中，生成了法國艾菲爾鐵塔倒塌、埃及吉薩大金字塔發生地陷，以及俄軍坦克出現在烏克蘭首都基輔等虛假畫面。華盛頓郵報亦生成出華盛頓紀念碑旁出現巨大空襲彈坑、多輛坦克魚貫駛於金門大橋的假影像。

數位調查專家范艾斯（Henk Van Ess）指出，Google花了20年建立一套全球記者與研究人員用來查證事實、驗證資訊的參考系統，「如今卻在其中加入憑空製造內容的按鈕」。他警告，這些偽造的影像未必毫無破綻，但「因為它承襲了所依附地圖的可信度」，極易在網路上迅速流傳並誤導大眾。

美國智庫「美國企業研究所」（AEI）衛星影像分析專家艾佛里克（Brady Africk）也認為，這不僅會侵蝕社會對衛星影像的信任，更讓前線記者與研究人員難以核實真實資訊。

面對外界排山倒海的質疑與批評，包括「資訊韌性中心」（CIR）及「地理證實」（GeoConfirmed）等機構紛紛呼籲谷歌3思。Google隨後在社群平台X上發表聲明表示：「我們有看到地理空間專業人士將此功能用於各種實用的用途，但同時也見到有人分享疑似違反我們政策的生成影像截圖。」

為此，谷歌決定緊急暫停這項新功能，並承諾在重新開放前加強相關的防護機制。

谷歌最初表示，由AI生成的衛星影像皆暗藏水印，可透過人手操作利用SynthID功能檢測驗證影像真假。惟傳媒測試發現，Google旗下AI聊天機器人Gemini無法辨識部分假衛星圖。另外，只要對著假衛星圖拍照，大部分AI工具都無法識別出複製圖片內容是虛假的。