今年春季美伊冲突期间，一份在美军内部流传的情报报告拉响了警报：一艘位于中东的中国货船正在运送核武器项目相关零部件。
据四名知情人士向CNN透露，美军随即启动拦截计划，武装人员准备登船，军用飞机已经升空。
就在行动即将展开前，官员们对这份由特种作战司令部分析师整理的报告进行了深入核查，发现它是在人工智能的协助下生成的——而分析师使用的聊天机器人错误识别了船上装载的货物。
一名消息人士称，这份报告“完全是虚假的”，却“几乎引发了一场战争”。
AI聊天机器人如何得出错误结论
事件源于一名隶属于美国特种作战司令部的分析师，他使用聊天机器人查询了来自驻夏威夷美国太平洋特种作战司令部的船只舱单情报。
该AI工具将公开来源情报与政府掌握的机密信号情报融合分析，最终得出了该船货物与核武器项目相关的错误结论。
随后，分析师再次借助AI，将这一结论整理成美军标准情报报告格式，并在军中广泛分发。这类格式的报告通常被军方官员视为可信依据。
CNN未能确认实际货物内容，也未说明所使用的聊天机器人是商业产品还是政府自建工具。一名前美国高级官员形容，美军内部工具“大多是商业产品的翻版，只是涂了口红”。
险些引爆中美冲突
任何针对中国船只的美军行动，都可能升级为两国之间的武装冲突。此次事件发生之际，正值美军和情报界大力推动将AI融入几乎所有工作层面之际——从分析海量原始情报、选定打击目标，到预算管理、后勤与供应链。
国防部长赫格塞思于今年1月发布了《人工智能加速战略》，旨在消除官僚障碍、加速AI在军事领域的应用，确保美国在军事AI领域保持领先。
但这一事件凸显了在战争中使用这种强大、新颖且相对尚未被充分理解的技术进行目标锁定所带来的深远风险。
并非孤立事件
AI“幻觉”问题在美国情报界并非首次出现。一名消息人士向CNN表示，自AI在政府内部普及以来，类似情况已多次发生。
更早的案例发生在今年2月。美军对伊朗米纳卜一所学校发动袭击，造成包括123名儿童在内的近200人死亡。
彭博社援引参与内部调查的官员报道称，五角大楼调查发现，过时情报、陈旧卫星图像以及对AI系统的过度依赖共同导致了这一悲剧。
美国中央司令部部分人员过度依赖Palantir的Maven智能系统，原本期望该系统能识别过时或矛盾的情报，但这一期望落空了。
参议院要求调查
9月19日，参议员马克·华纳、杰克·里德和克里斯·库恩斯致信国防部长赫格塞思和国家情报总监杰伊·克莱顿，要求监察长立即展开调查。
信中写道：“公开报道显示，AI目标平台反复产生虚假输出——基于过时输入数据或纯粹的幻觉——这可能导致严重的操作失误，同时损害美国公众和国际伙伴对美国情报及动能行动准确性和可靠性的信心”。
参议员们要求赫格塞思和克莱顿“立即调查此事”，并给予相关监察长“不受限制地访问”今年两起媒体已报道的AI目标工作流重大错误事件，以及任何尚未公开的类似情况。
这场围绕AI在军事决策中角色的争论，正在国会山持续升温。民主党人加大了对AI监管的呼吁，而包括特朗普总统和众议院议长迈克·约翰逊在内的共和党人则警告，放缓开发速度可能让美国在AI竞赛中落后。
一名消息人士的评论或许最能概括这一事件的警示意义：“AI能让人更快得到答案，但也可能让人更快走向错误的结论”。
（智算芯能前沿网综合）
本文由智算芯能前沿网编辑整理，转载请注明出处。