当机器开始自己决定打谁，人类战争会变成灾难吗？

有一件事挺吊诡的。
人类花了几千年搞战争伦理，从古代的骑士精神到现代的日内瓦公约，核心逻辑其实只有一条：打人这件事，得由人来拍板。
哪怕是战场上最残酷的杀戮，背后也得有一个活生生的人类说，"打"。
这不只是道德感情用事，是整个战争问责体系的地基。

然后无人机来了。

5月7日，两架乌克兰无人机出现在拉脱维亚上空，把当地一处石油设施给炸了。
这是北约盟国的领土。
基辅的第一反应是甩锅给俄罗斯电子干扰。
西方官员倒是讲了另一个版本：
这些无人机原本锁定的是俄罗斯境内某个油料设施，结果被干扰信号一搅，自主系统识别混乱，看见另一个"匹配目标"就扑上去了。

瞧瞧，机器自己做了决定。
没有人下命令。
没有人在屏幕前按确认键。
目标选错了，炸的是自己人的盟友。

这一幕发生在拉脱维亚里加举行的无人机行业峰会前后，时机微妙得像是被安排过的。

英国武装部队大臣艾尔·卡恩斯就在里加。
他的一段发言，随后在整个北约圈子里流传开来。
他说：
"我一直强调系统中必须有人类参与。但你也必须具备在必要时将人从决策环节中移除的能力，因为我们的对手根本不会在意是否有人类参与。"

听着好像很有道理。
再细品一下，这句话的意思其实是：因为对手不讲规矩，所以我们也准备不讲了。
这个逻辑当然有现实依据，但你得意识到，它同时在做一件事，就是把"人类必须参与目标选择"这条底线，从原则降格成了选项。

英国2022年的国防政策文件写得很清楚，能够识别、选定并打击目标的武器，必须有人类在具体情境下进行适当介入。
2024年英国向联合国提交的文件也说，不拥有、也无意研发完全自主武器系统。

所以卡恩斯的表态算什么？
他坚持说自己没有违背现行政策。
这里有个词值得注意，他说的是"在必要时"将人移除决策环节。
问题是谁来界定"必要"？必要的标准在哪里写着？

国际法副教授杰西卡·多西说得很清楚，这样做可能会对现有关于责任、可预见性以及平民保护的法律框架造成重大压力。
翻成大白话就是：
一旦机器打错了，打死了不该死的人，你去找谁问责？找算法？找芯片？

问题是，乌克兰战场上已经在跑这套东西了。
利沃夫的Twist Robotics造的"Saker Scout"，通过计算机视觉搜索目标，能自主定位并打击47类预设军事装备和步兵。
俄罗斯的"柳叶刀"无人机，据信也在自主打击乌克兰目标，只是人类介入的程度到底有多少，目前没人说得清。
美军在伊朗战场部署的"Maven智能系统"，也在用AI辅助目标选择。

可以说整个俄乌战争，正在以肉眼可见的速度变成一场算法竞赛。

战场上的速度压力是真实的。
无人机群来袭时，人类反应速度根本跟不上，你硬要在每次拦截前等人类点头，代价可能是来不及。
这个困境不是卡恩斯造出来的，是技术演进逼出来的。

但这里有一个错位，就是防御端的速度压力，和进攻端的目标选择，是两件事。
拦截来袭的导弹，和主动出击决定打谁，伦理分量截然不同。
前者是被动防御，后者是主动杀伤。
把两件事混在一起谈"必须将人移出决策环节"，有点偷换了问题。

拉脱维亚那两架无人机飞错地方这件事，还在调查中。
但它提供了一个真实预演：
自主系统在被干扰、被欺骗、识别混淆的情况下，会做什么？
答案是，它会继续执行任务逻辑，找一个它认为匹配的目标，然后打下去。

没有人类在那一刻踩刹车。

问题是，如果炸的不是一个空置的油库，而是一栋住着平民的楼呢？
算法会生成一份报告，然后各方开始互相推责任。

卡恩斯被问到政治抱负时说，人们误解了"抱负"这个词，他的职责是为国家服务，无论担任何种职务都乐于去做。
瞧瞧，一个把人从战争决策链条里往外推的人，顺口提了一句自己不在乎职位高低。

也许真的不在乎。

但那条正在被讨论要不要拿掉的原则，一旦拿掉，就很难再装回去了。
不是因为技术，是因为先例。
第一个这样做的国家，会让第二个国家的门槛低很多，然后是第三个。

某种意义上，拉脱维亚那两架迷路的无人机，已经替所有人演示了一遍"没有人类在场"是什么感觉。
感觉就是，炸了，然后大家开会讨论是谁的锅。