谷歌在專家警告虛假資訊風險後撤回新地球AI工具

谷歌在推出新AI工具不到48小時後便將其暫停。該工具允許使用者基於谷歌地球的衛星影像，透過文字提示生成虛假場景。此前BBC Verify的調查報道中，專家警告這一功能可能被濫用並傳播錯誤資訊。谷歌在宣告中表示，已經看到有人分享“似乎違反我們政策”的生成影像，因此暫停功能以“實施更強有力的護欄”。

這個被撤回的功能可以在真實的衛星、航空或3D影像底層上新增文字提示，生成不存在的場景，並允許下載分享到其他平臺。BBC Verify測試時，成功生成了倒塌的埃菲爾鐵塔、吞噬吉薩大金字塔的天坑，以及基輔街頭出現俄軍坦克等影像。專家指出，這類偽造影像可能打著谷歌的可信度旗號傳播虛假資訊。

AI和虛假資訊專家Henk van Ess在功能暫停前就指出了風險。他用該工具製作了伊朗一座並不存在的核電站、美墨邊境的難民收容所，以及加沙一處旁邊有炸彈坑的虛假醫院。他表示，谷歌允許“虛構的”影像被“焊接到真實座標和真實影像上”，“偽造品本身不需要看起來令人信服，它繼承了誕生它的地圖的可信度”。

谷歌表示，其工具生成的AI內容帶有隱形水印，使用者可透過Gemini聊天應用或Google Lens進行檢查。BBC Verify的測試發現，這一機制在大多數情況下有效，但也發現可以繞過這些檢查，讓Gemini誤認為這些偽造影像是真實照片。外部AI檢測工具的測試有時也無法識別谷歌地球生成的AI內容。

AI檢測研究員Henry Ajder指出，在衝突地區，當事件快速變化、資訊匱乏時，偽造影像可能尤其“破壞穩定”。他說，記者也許能核實影像並報道，但並不是每個人都會這麼做。他還表示，隨著AI影像氾濫，那些被認為“未被AI汙染”的空間變得珍貴，尤其是在危機前線工作的人。他說：“這令人擔憂，因為又一個可信資訊的來源正因‘可能有AI參與’的持續懷疑而被侵蝕。”

谷歌最初表示，其AI模型內建的指導方針會阻止生成“有害話題”的影像，但BBC Verify發現，稍微修改提示詞就能繞過這些限制。例如，要求在英國議會旁生成“用於絞死叛徒的高臺”被拒絕，但使用較模糊的提示詞後，請求被接受並生成了影像。測試還要求在白宮草坪上修剪出“Trump”字樣，被拒絕；但在同一位置生成社群花園則被允許。

地理空間分析師Bill Greer認為，這一功能對公眾信任的損害可能尤其嚴重，因為衛星影像歷來被視為特別可信的資料來源。他指出，偽造的衛星影像已經被用來傳播錯誤資訊，而政府越來越多地限制資料獲取，“我們很可能會看到更多假影像、更少真影像，這將進一步侵蝕信任”。