今年春天，在與伊朗的戰爭期間，這份情報報告在美國軍方流傳，立即敲響了警鐘：一艘中國船隻在中東運送核武計畫的零件。

據四位知情人士透露，美國軍方立即採取行動，計劃攔截這艘船。據兩名消息人士稱，美軍武裝人員正準備登船。其中一位消息人士和另一位熟悉事件的消息人士稱，當時有軍用飛機在空中飛行。

就在計劃行動之前，官員們對特種作戰指揮分析師整理的報告進行了更深入的挖掘，發現該報告是在人工智慧（AI）的幫助下生成的，而且分析師使用的聊天機器人錯誤地識別了該船攜帶的材料。 CNN (CNN) 無法得知被誤認的貨物是什麼。

據一位消息人士稱，這份報告「完全是錯誤的」。但消息人士稱，這也「幾乎引發了一場戰爭」。美國針對中國船隻的任何行動都有可能升級為兩國之間的武裝衝突。

在美國軍方和情報界，官員們正在推動將人工智慧融入他們工作的幾乎每個方面，從分析美國收集的大量原始情報和選擇打擊目標，到管理預算、物流和供應鏈等更普通的應用。

但這事件凸顯了在戰爭中使用這種強大的、新的且相對知之甚少的技術進行瞄準的巨大風險。分析人士長期以來一直擔心，如果民族國家依賴不良或損壞的數據，人工智慧可能會導致災難性的誤判——這種誤判可能導緻美國根據不準確的資訊向中國船隻開火。

在这个特殊的例子中，分析师向聊天机器人询问了有关该船清单的一些情报报告，这些情报报告源自总部位于夏威夷的美国太平洋特种作战司令部。目前尚不清楚該聊天機器人是商用機器人還是美國政府產品。

一位熟悉軍事和情報分析師使用的人工智慧系統的前美國高級官員說：“內部工具大多只是商業工具的複製品。”

該機器人將開源情報與政府掌握的秘密信號情報融合在一起，並就該船所攜帶的材料得出了致命的結論。

然後，分析師再次使用人工智慧將調查結果打包成標準情報報告（軍方官員信任的那種）並進行傳播。

美國太平洋特種作戰司令部和五角大廈沒有回應置評請求。

人工智慧快速採用的理由是，它可以幫助軍隊更快做出戰場決策，例如攻擊哪些目標或將哪些軍事資產移動到哪裡。官員表示，美國在人工智慧整合方面不能落後，以防有一天它必須與中國或其他可能領先美國一步的對手作戰。

今年一月，國防部長皮特·赫格斯（Pete Hegseth）發布了該機構的“人工智慧加速戰略”，以加快軍隊對人工智慧的使用。

Hegseth在宣布该战略的演讲中表示： “我们将开展实验，消除官僚障碍，集中投资，并展示确保我们领导军事人工智能所需的执行方法。”

一份宣布該戰略的備忘錄稱，該戰略還推動其在軍隊中的廣泛使用，命令國防部透過多個項目提供人工智慧，目的是「透過將美國世界領先的人工智慧模型直接交到我們所有級別的 300 萬文職和軍事人員手中，實現整個國防部的人工智慧實驗和轉型民主化」。

但多位熟悉情況的美國官員表示，這項工作是分散的，政府不同部門根據不同的命令和安全標準使用不同的工具。對於美國如何驗證這些工具產生的信息，沒有一套標準。軍事和情報界不同部門部署的不同人工智慧系統意味著其相對可靠性和功能差異很大。

數週以來，在矽谷工程師和科技執行長發出一系列可怕警告後，華盛頓政策制定者一直在激烈討論人工智慧問題，並表示人工智慧可能會擺脫人類的束縛，並可能帶來毀滅文明的後果。

但中国船只的事件凸显了一种不同的、更直接的风险：人类根据人工智能或其他自动化系统生成的不准确或误导性信息做出灾难性决定。消息人士称，军方正在迅速转向人工智能来帮助瞄准目标，这是一个明显存在致命错误风险的领域。

另一位熟悉軍方當前政策的消息人士表示：“人工智慧在瞄準方面肯定正在加強，但目前還沒有真正的指導來說明如何讓人類參與其中，以防止平民傷亡或自相殘殺。”

一位消息人士稱，自從這些工具開始在政府中擴散以來，分析師在本案中使用的工具所引發的這種「幻覺」並不是整個情報界的孤立事件。

對於一些年長的情報官員來說，甚至是那些廣泛支持在軍隊內部使用人工智慧的人來說，人工智慧給分析人員帶來了壓力，要求他們更快地產生和傳播情報，從而為錯誤打開了大門。幾位消息人士稱，尤其是年輕分析師，他們是這些工具的本地人，更有可能不加批判地信任它們。

“人工智能可以让你更快地找到一个坏主意，”其中一位消息人士说。