谷歌地球作为我们观察地球的主要工具，近日因引入一项新的AI功能而遭遇信誉危机。该功能允许用户在网页版谷歌地球中生成虚假的卫星图像，用户可以任意伪造世界任何地方的景象。
这项由谷歌Nano Banana 2模型驱动的AI工具，能够将某个社区伪装成遭受空袭的战区，或将平静的城市描绘成自然灾害现场。此举引发了开源情报分析师的极大困惑，因为他们依赖准确的卫星图像监控冲突区域和其他重要地点。
开源情报研究员Hank Van Ess在其Substack上报告称，他利用该AI功能在墨西哥边境附近制造了难民营的假象，还在伊朗“放置”了核电站。这些图像极易被用来支持极右翼的错误叙述。
Van Ess质疑谷歌的做法，指出谷歌声称AI生成的内容“基于真实世界”，意味着伪造图像与真实坐标和影像紧密结合，继承了地图本身的可信度，因此即使伪造内容本身不够逼真，也极具迷惑性。
我们的测试显示，谷歌地球AI能够将宾夕法尼亚州的一个乡镇伪装成遭受干旱、农作物枯死和森林火灾的景象，生成的图像中烟雾弥漫，颇为真实。
在另一次测试中，AI将附近的河流变成有毒污泥，散布了不成比例的毁坏建筑和汽车，试图表现核电站熔毁的场景。它还能根据指令将同一城镇描绘成“燃烧且布满士兵”，虽然士兵看起来像玩具士兵。
该AI工具几乎没有有效的限制。Van Ess用它在加沙制造了带有炸弹坑的医院图像。我们还发现它能将白宫描绘成战争区，甚至添加“血迹”和“倒下的士兵”，尽管生成的人物比例不协调，但有足够时间的用户完全可以调整出更逼真的图像。
Van Ess的推文引发广泛关注后，谷歌发表声明称他们重视误导信息问题，所有用Nano Banana生成的图像都带有SynthID数字水印，用户可通过Gemini应用或搜索中的Lens功能验证图像是否由AI生成。谷歌还表示会阻止在敏感话题上生成图像，并持续加强保护措施。
SynthID是谷歌的水印系统，能在AI生成的图像中嵌入隐形标记，但现实中许多人不会使用谷歌工具验证，且该系统并不完美。
随后，谷歌宣布暂时下架该功能，直到能以更安全的方式重新推出。谷歌强调，生成的图像不会出现在谷歌地球的主体验中，且均带有AI生成水印。
AI驱动的开源情报平台Golden Owl负责人Tal Hagin用谷歌的Gemini聊天机器人检测Van Ess伪造的加沙医院图像，结果Gemini无法给出明确答案，显示“未检测到可靠信号表明内容的生成方式”。其他测试者甚至能用该工具给古巴添加导弹发射井，或在克里姆林宫中央制造巨大的炸弹坑。
谷歌自身的检测系统能否识别其AI生成的伪造卫星图像并不关键，关键是这些图像会欺骗人类观众。随着虚假图像在网络上广泛传播、截图和压缩，辨别真伪将变得更加困难。
虽然恶意者此前也能手动截取卫星图像并用其他AI工具生成伪造图像，但谷歌这一步骤的简化和官方结合，使得伪造过程更加便捷，且为谷歌地球这一权威平台带来了现实扭曲的风险。
一位知名开源情报账号对此表示强烈谴责，称此举“极其不负责任，立即对卫星图像的可信度造成灾难性破坏”。
