据媒体9月19日援引美国有线电视新闻网(CNN)最新爆料称,在今年春季美国对伊朗发动战争期间,美军居然被一份用人工智慧(AI)生成的不实军情报告误导,险些派兵全副武装地冲上一艘中国船只。

报导称,据知情人士透露,今年春季在美军内部传阅的一份情报声称,“中国一艘船只正在中东地区向伊朗运输核武器相关零部件”。

这引起美军强烈关注。美军当即开始围绕这份军情报告制定“作战计划”,包括让全副武装的美军士兵冲上那艘中国船只,还出动了美军战机。

美军人员最终发现,这份所谓的情报,是一个聊天机器人给出的虚假判断。

CNN认为,在美国军方和情报界全方位推进人工智慧应用的当下,这起事件证明了反对者们一个长期且巨大的担忧,即在人工智慧技术还不成熟的情况下,仓促将之用于作战军情分析,很可能会导致灾难性的后果。

今年1月,美国国防部发布“人工智慧加速战略”,旨在加快军队对人工智慧的使用。

知情人士指出,美军在人工智慧应用方面普遍缺乏协调性与一致性,甚至连各个军种或具体作战单位在特定时刻使用的是何种工具或系统都缺乏统一规范。

美伊冲突爆发以来,美军被指在军事行动中广泛使用了AI技术。这引起了广泛争议。甚至,错误情报+AI决策已导致美军在袭击中酿成惨祸。

据此前报导,2月28日,一所位于伊朗南部米纳卜市的小学被美军飞弹夷为平地。3月12日,美军欧洲司令部司令格林克维奇承认,伊朗小学遭袭是美军所为。

据美国方面披露,美军依据的错误情报叠加人工智慧(AI)决策,双重失误酿成了这场悲剧。

相关系统能高速处理海量情报数据,将数周的作战规划压缩为实时战场决策,但这反而让大量未经核查更新的陈旧目标,被AI自动筛选并列为“高优先级”打击对象。

层层疏漏叠加,最终让无辜孩童沦为战争牺牲品。

一名消息人士指出,自这类工具在美政府内迅速增加以来,本次事件中分析师所使用AI工具产生的这种 “幻觉”,在整个情报界并非个案。

多名消息人士称,年轻分析师尤其熟悉这类工具,更容易不加鉴别地信任AI输出的结果。

其中一名消息人士说:“AI会让你更快得出一个糟糕的想法。”

声明:转载此文是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益,请作者持权属证明与本网联系,我们将及时更正、删除,谢谢。