随着关于人工智能未来可能通过生物武器毁灭人类的讨论不断升温,许多人似乎忽视了AI当前带来的现实灾难性风险。

CNN最新报道揭露了一起惊险事件:美国太平洋特种作战司令部因AI生成的虚假情报,差点引发第三次世界大战。据报道,美国军方原计划对一艘在西亚航行的中国船只进行突袭,但行动因情报报告被证实是AI幻觉而被取消。

事件经过如下:一名特种作战分析员使用一款未公开的AI聊天机器人生成关于该中国船只货物的报告。该聊天机器人错误地“幻觉”出船上携带核武器的虚假信息。

随后,分析员再次利用AI将这些错误信息整理成标准的军事情报报告,这类报告通常被高级军官用来做出关键决策。

根据多方消息,军方官员已准备甚至可能已经启动拦截和扣押该船的行动。美国飞机已升空,武装士兵正准备登船时,才发现了AI的错误幻觉。

一位消息人士告诉CNN,这份情报“完全是假的”,并且“差点引发与中国的战争”。

此事引发了对美国政府各部门迅速引入AI的质疑,从交通监管到五角大楼,AI的应用无处不在。

国防部长皮特·赫格塞斯特别积极推动在美军各级部署“军事AI”。这类工具已被用于伊朗的空袭行动,以及加勒比海地区针对渔船的无人机打击。

随着赫格塞斯推动的AI军事实验持续推进,未来几个月内可能会出现更多类似的险情和情报失误。

一位军方消息人士向CNN表示:“AI在目标锁定上的应用确实在加速发展,但目前尚无明确指导说明如何通过人工干预避免平民伤亡或误伤友军。”

更多关于AI的报道请关注相关资讯。