切换到宽版
 找回密码
 立即注册

QQ登录

只需一步,快速开始

西秦会馆

爆料、咨询:18909006163
广告、合作:13990030637
查看: 18802 | 回复: 48

[盐都杂谈] 银河号事件差点重演,美军准备拦截中国商船,才发现自己被AI骗了

  [复制链接]

1051

主题

1088

帖子

0

听众

Rank: 10Rank: 10

积分
6809
威望
1051 点
铜板
3619 枚
西秦金币
0 个
鲜花
0 朵

在线时间
13 小时
注册时间
2023-10-21
发表于 昨天 12:20 | 显示全部楼层 |阅读模式 | 来自四川
银河号事件差点重演,美军准备拦截中国商船,才发现自己被AI骗了

一份"铁证如山"的情报,为什么在最后一秒被证明是彻头彻尾的胡编?美军战机已经升空、突击队员已经上枪,究竟是谁在中间悄悄按下了暂停键?

美国媒体最近爆出了一个惊天大乌龙,事情要从今年春天说起。那阵子美伊正打得热闹,中东海面上美军的战舰、侦察机像下饺子一样铺开。

就在这个节骨眼上,一份加急情报被推送到了指挥系统里。文件很短,但内容炸裂:一艘悬挂中国旗、在中东海域航行的商船,被判定为正在运输"核武器项目相关部件"。



这几个字一出,整条作战链条瞬间被点燃。按照CNN后来披露的说法,当时的反应几乎是本能的。

数架战机紧急升空,一支特种作战小队被派往目标海域附近,全副武装的登船人员已经在做最后的装具检查。指挥所里,各级军官盯着屏幕上那艘缓缓航行的商船,等的就是一声"上"。

用一位当事美军人员事后的话来讲,那一刻整个空气都是绷紧的,"报告要是真的,那就是一场直接和北京对撞的战争预备动作。"



可就在行动即将启动的最后关头,有人多问了一句。参与复核的官员翻出情报的原始来源,越翻越不对劲。

所谓"核部件"根本没有任何单一可靠来源支撑,那些引用像是被人硬拼起来的碎片。

再往下查,真相让所有人后背发凉——这份情报不是哪个特工冒死送出来的,而是驻夏威夷的一名情报分析师,把手上的资料一股脑扔进了一个AI聊天机器人,让机器"帮着"写出来的。问题就出在这里。



按照正常规程,公开来源的情报和秘密信号情报之间隔着厚厚一堵墙,需要人工比对、交叉验证,一层层过筛。可这位分析师嫌麻烦,直接让AI把两边的东西揉在一起做判断。

大模型最擅长的事,就是把毫不相干的碎片编成一个"看上去很合理"的故事。于是,一船普通货物,被机器"想象"成了核武器项目的零件。

更离谱的还在后头。得出结论之后,这位分析师又用AI偷了个懒,把结果一键套进五角大楼制式的情报报告模板里,格式漂亮、术语专业,看起来就像一份资深分析师熬夜写出来的成品。



报告顺着秘密渠道一路上传,各级指挥官谁也没意识到,自己看到的其实是一台机器"幻觉"出来的作品。作战决心,就这样被一段无中生有的算法推着走。

也正因为这份报告"太完美",才让最后复核的人起了疑。据知情人后来的说法,一句"这份东西完全是假的,但它差一点就点着了一场战争"的评价,把当时的惊魂概括得一清二楚。

行动被紧急叫停,战机悄悄返航,登船小队原地解散。这件事被死死压在军方内部,直到几个月后才通过CNN的报道漏出一角。



老一点的人看到这个故事,脑子里几乎立刻浮起另一个名字——"银河号"。1993年夏天,美国情报部门咬定中国货轮"银河号"载有制造化学武器的前体物资,运往伊朗。

美方要求中国召回船只,被拒绝后干脆动用军舰在印度洋公海上贴身跟踪,还让沙特等国拒绝其停靠。GPS信号被干扰,一艘正常跑商的货轮硬生生在海上晃了二十多天。

最后,中沙美三方联合登船检查,货舱翻了个底朝天,什么化学武器前体都没找到。所谓"多来源确凿情报",被证实是空气。



华盛顿事后不肯道歉,只丢下一句"我们是善意行事"。这件事在中国民间留下的印象深到什么程度?

三十多年过去,一提起"航母、公海、被拦",很多人第一个想到的还是"银河号"。它几乎成了那一代人对"霸权"两个字的具象记忆。

三十三年后,剧本换了一批演员,却又滑到同一个悬崖边。这一次同样是中国商船,同样在中东,同样被扣上"敏感物资"的帽子,甚至连"最后动手前差点开打"的紧张感都一模一样。



唯一不同的是幕后推手:当年是一群带着偏见的分析员和政治压力,如今换成了一台不会脸红的聊天机器人。而如果说AI造假只让美军虚惊一场,那么另一起早已发生的事件,就没有这么幸运了。

今年年初,美军在伊朗米纳卜地区的一次打击行动中,把一处建筑当作了伊朗革命卫队据点。导弹落下后,才发现那里其实是一所学校,遇难者以孩子居多。

事后的军方调查披露,正是Palantir公司提供的"梅文智能系统"(Maven Smart System)把这栋楼错误地打上了"高价值目标"的标签,并推给了指挥官。



围绕这起惨剧,五角大楼的内部结论相当扎心:负责生成目标清单的AI用的是过期数据,把一所学校当成了武装设施;而人类审核环节因为节奏被压缩到"分钟级",几乎沦为走过场。原本一个目标要花几小时研究,现在几十秒就出结论,谁还有心思一层一层扒开来看?

超过一百名美国众议员事后联名去信国防部长赫格塞斯,追问AI在这次打击中到底扮演了什么角色,但官方回应至今含糊其辞。问题是,这套系统还在越铺越广。

有独立研究者拿到过内部测试数据:晴天条件下,"梅文"识别一辆坦克的准确率只有六成左右,一旦碰上雨雾、烟尘、伪装,掉到三成都算正常;可它给自己评估的置信度,往往还挂着九成的高分。



一个自己给自己打分、还打得很高的系统,被塞进真实战场里做生杀判断,出事几乎是时间问题。推动这股狂热的关键人物,是国防部长皮特·赫格塞斯。

今年一月,他一口气签下三份备忘录,公开抛出所谓《人工智能加速战略》,要把五角大楼改造成"AI优先"的作战机器。战略里列了七个"节奏设定项目",从"蜂群锻造"到"智能体网络",每一个都在讲一件事:把决策速度压到极限,谁快谁赢。

他在演讲里甚至甩出一句话——"速度定义AI时代的胜利"。赫格塞斯的逻辑不难懂:大国竞争拼的就是反应时间,美国要是慢半拍,中国就赢了。



所以流程要砍、审批要减、监督要让路,最好把最前沿的大模型直接塞进三百万美军官兵的口袋里。至于安全评估、伦理审查、数据溯源这些"老规矩",在他看来都是拖后腿的官僚主义。

合作的公司里,Palantir、xAI这些名字反复出现,连马斯克旗下的Grok都被拉了进来。军事伦理里原本有条底线,叫"人在回路"——不管机器多聪明,最后按下开火键的必须是人。

可现实是,当AI一分钟能吐出几十份目标建议、几千行分析文本时,坐在屏幕前的军官根本来不及细看,只能一路点"确认"。人一旦被机器裹挟着走,就会不自觉地相信机器比自己更懂。



所谓"人在回路",慢慢变成了盖章仪式。这一次拦截行动能在悬崖边刹住车,某种程度上靠的是几名不肯偷懒的复核人员,也靠一点点运气。

可运气这东西,注册不了在花名册上。下一次AI再"幻觉"出一份看起来天衣无缝的战报,再撞上一位急着立功、又对机器盲信的指挥官,谁能保证还有人在最后一秒抬手喊停?

更麻烦的是,这类系统的黑箱特性让追责变得几乎不可能。米纳卜那所学校炸掉之后,Palantir的发言人一句"我们不对底层数据负责",把责任推得干干净净;军方则以"调查尚未结束"为由拖了大半年。



算法出错,公司甩锅,将领沉默,最后倒霉的是海面上那些不知情的水手,和地面上更加无辜的平民。回头再看这次"新银河号",最让人后怕的其实不是那份假报告本身,而是它顺畅穿过每一道关卡的过程。

格式对、术语对、来源标注也对,就是内容是假的。整套军事情报体系原本就是围绕"文件长什么样"建立起来的信任机制,如今被生成式AI轻易撬开了一个大口子。

要修补它,光靠加几行免责声明远远不够。三十多年前,"银河号"在印度洋上被围了二十多天,最后靠一场公开检查还了自己清白。



三十多年后的今天,若不是有人多看了一眼那份AI生成的情报,一艘中国商船很可能在毫无预警的情况下,被美军强行登船,甚至擦枪走火。历史没有重演,只是因为这一次剧本被中途抽走了一页。



算法没有良知,也不懂得敬畏战争。它不会因为船上有几十号船员而犹豫,不会因为可能引爆一场大国冲突而停顿,它只负责把碎片拼成一个"通顺的故事",然后交给人类去执行。

当"决策速度"被抬到高于一切的位置,"银河号"式的荒诞剧就永远不会真正落幕。区别只在于——下一次按下暂停键的那只手,还在不在。

#上头条 聊热点# 
广告

1789

主题

1824

帖子

0

听众

Rank: 10Rank: 10

积分
11717
威望
1789 点
铜板
6305 枚
西秦金币
0 个
鲜花
1 朵

在线时间
156 小时
注册时间
2021-6-28
发表于 昨天 12:20 | 显示全部楼层 | 来自四川
哎政策解读到位,铁证如山哈哈
回复

使用道具 举报

1940

主题

2172

帖子

0

听众

Rank: 10Rank: 10

积分
13309
威望
1940 点
铜板
7147 枚
西秦金币
0 个
鲜花
11 朵

在线时间
335 小时
注册时间
2021-8-3
发表于 昨天 12:20 | 显示全部楼层 | 来自四川
铁证如山了解了
回复

使用道具 举报

2422

主题

2758

帖子

0

听众

Rank: 10Rank: 10

积分
16561
威望
2422 点
铜板
8879 枚
西秦金币
0 个
鲜花
8 朵

在线时间
309 小时
注册时间
2021-7-26
发表于 昨天 12:20 | 显示全部楼层 | 来自四川
一份多来点这种通报
回复

使用道具 举报

2602

主题

2625

帖子

0

听众

Rank: 10Rank: 10

积分
16958
威望
2602 点
铜板
9069 枚
西秦金币
0 个
鲜花
6 朵

在线时间
281 小时
注册时间
2022-3-18
发表于 昨天 12:20 | 显示全部楼层 | 来自四川
看完美军准备拦截中国心里有数了
回复

使用道具 举报

247

主题

251

帖子

0

听众

Rank: 10Rank: 10

积分
1653
威望
247 点
铜板
908 枚
西秦金币
0 个
鲜花
0 朵

在线时间
0 小时
注册时间
2024-11-16
发表于 昨天 12:20 | 显示全部楼层 | 来自四川
话说银河号事件差点重啥时候能见成效
回复

使用道具 举报

1051

主题

1088

帖子

0

听众

Rank: 10Rank: 10

积分
6809
威望
1051 点
铜板
3619 枚
西秦金币
0 个
鲜花
0 朵

在线时间
13 小时
注册时间
2023-10-21
 楼主| 发表于 昨天 12:20 | 显示全部楼层 | 来自四川
才发现自己被AI希望能落实到位
回复

使用道具 举报

2602

主题

2625

帖子

0

听众

Rank: 10Rank: 10

积分
16958
威望
2602 点
铜板
9069 枚
西秦金币
0 个
鲜花
6 朵

在线时间
281 小时
注册时间
2022-3-18
发表于 昨天 12:20 | 显示全部楼层 | 来自四川
看完一份心里有数了
回复

使用道具 举报

9

主题

9

帖子

0

听众

Rank: 10Rank: 10

积分
0
威望
0 点
铜板
0 枚
西秦金币
0 个
鲜花
0 朵

在线时间
0 小时
注册时间
2026-6-4
发表于 昨天 12:20 | 显示全部楼层 | 来自四川
哦美军战机已经升空信息挺及时嗯
回复

使用道具 举报

9

主题

9

帖子

0

听众

Rank: 10Rank: 10

积分
0
威望
0 点
铜板
0 枚
西秦金币
0 个
鲜花
0 朵

在线时间
0 小时
注册时间
2026-6-4
发表于 昨天 12:20 | 显示全部楼层 | 来自四川
突击队员已经上枪这块再跟进就好
回复

使用道具 举报

1451

主题

1489

帖子

0

听众

Rank: 10Rank: 10

积分
10137
威望
1451 点
铜板
5736 枚
西秦金币
0 个
鲜花
1 朵

在线时间
307 小时
注册时间
2020-9-17
发表于 昨天 12:20 | 显示全部楼层 | 来自四川
先码住,回头再看才发现自己被AI
回复

使用道具 举报

1317

主题

1370

帖子

0

听众

Rank: 10Rank: 10

积分
8690
威望
1317 点
铜板
4686 枚
西秦金币
0 个
鲜花
0 朵

在线时间
97 小时
注册时间
2023-6-21
发表于 昨天 12:20 | 显示全部楼层 | 来自四川
铁证如山对老百姓挺重要
回复

使用道具 举报

7

主题

7

帖子

0

听众

Rank: 10Rank: 10

积分
0
威望
0 点
铜板
0 枚
西秦金币
0 个
鲜花
0 朵

在线时间
0 小时
注册时间
2026-6-4
发表于 昨天 12:20 | 显示全部楼层 | 来自四川
铁证如山这块再跟进就好
回复

使用道具 举报

2323

主题

2454

帖子

0

听众

Rank: 10Rank: 10

积分
15401
威望
2323 点
铜板
8301 枚
西秦金币
0 个
鲜花
0 朵

在线时间
181 小时
注册时间
2023-4-2
发表于 昨天 12:20 | 显示全部楼层 | 来自四川
有人试过吗,铁证如山
回复

使用道具 举报

2323

主题

2454

帖子

0

听众

Rank: 10Rank: 10

积分
15401
威望
2323 点
铜板
8301 枚
西秦金币
0 个
鲜花
0 朵

在线时间
181 小时
注册时间
2023-4-2
发表于 昨天 12:20 | 显示全部楼层 | 来自四川
哈哈突击队员已经上枪确实该重视嗯
回复

使用道具 举报

    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    快速回复 返回顶部 返回列表