人心对铁心:如果这一天来临

2026年4月21日,在德国汉诺威工业博览会,一款帕西尼人形机器人向观众比心
文/胡景谱 万梓妍
编辑/黄红华
《庄子·天地》中,子贡途经汉阴时,见一位老者以瓮取水浇灌园圃,遂问其为何不使用机械。老者回道:“有机械者必有机事,有机事者必有机心。机心存于胸中,则纯白不备。”如今随着技术不断发展,拥有“铁心”的人形机器人出现了。庄子担心的,本是人被机巧所役,现在工具自身拥有了“心”,问题便从役于心变为心往何处去。
设想一下,当人形机器人步入战场,士兵将迎来全然不同以往的对手。它们无需呼吸、不会流血、没有恐惧,天然不存在人性弱点。面对这样的敌人,士兵扣动扳机时,心底会生出怎样的失控感?而面对战争中最复杂、最模糊的欺骗场景,机器人又将作出何种判断?人与机器人在战场上交锋,双方均以各自的方式探寻答案:“对面是谁,我该如何应对?”对它的回答,将深刻影响未来战场的交战规则、人机协同的界限,乃至战争伦理的框架。
面对压力与道德的双重冲击
当人与机器人在战场狭路相逢,首当其冲较量的,是意志与心智。在传统战场上,即便对面的敌人战斗力爆棚,仍是一具血肉之躯。只要是人,便可能心生恐惧,可能负伤流血,可能因疲惫而反应迟钝,也可能在重压之下缴械投降。士兵往往能从动作、声响等细节信号中判断或推测对手的状态,更能凭借自身更稳定的战术状态、更充沛的战斗意志占据上风,最终赢得对抗。但面对机器人,士兵们熟悉的所有判断参照系瞬间全部失效。
更让人脊背发凉的是,它不会在深夜的潜伏里熬红双眼,不会在身边战友倒下时出现片刻迟疑,金属躯体抗得住普通枪弹的冲击,火力输出和反应速度远在人类之上。以美国基础未来工业公司打造的“幻影MK-1”人形机器人为例,它搭载全天候红外热成像、微型弹道计算模块,可在冰点以下低温环境、布满地雷的街巷或废墟中行进,电子支持下可连续作战。
反观人类步兵,要靠头盔和防弹衣在弹雨里抢出生存空间,靠饮水、睡眠撑过漫长的战线对峙,而机器人只需稳定的电力补给,就能长时间保持满状态作战。更关键的是,人类战士永远等不到它显露疲惫、犹豫。这种信息差带来的单向压制,会直接瓦解步兵长期训练形成的战场应对直觉。因实力悬殊滋生的恐惧,叠加对未知对手的陌生感,士兵心理防线承压前所未有,作战压力在对峙中持续放大。
美军二战战地历史学家塞缪尔·莱曼·亚特伍德·马歇尔准将,在二战欧洲战场战后调研得出,仅有15%–20%的步枪兵会主动朝暴露的敌人瞄准射击。这时绝大多数士兵会刻意打高、放空枪,本能地回避击杀同类。这表明人类对同类之间的杀戮行为天然存在一道心理屏障。这根植于人类千万年演化出的共情本能。直视同类恐惧的眼睛,看见他们中弹后流淌的鲜血,或者听见伤者痛苦的哀号,都容易唤醒人内心的共情,导致大多数人不忍心实施杀戮行为。即便是经过严苛训练的职业军人,近距离击杀敌人后,也可能出现失眠、噩梦或创伤后应激障碍等心理后遗症。
然而,当敌人变成没有生命、不会流血、不会恐惧的机器人后,这道人与人之间的屏障似乎不复存在,人开火时的心理负担随之减轻。美国空军远程无人机操作员的战场生理应激对照实验表明,遥控机器人执行击杀任务时,操作员的压力激素皮质醇峰值较传统交战情境低约三分之一。退役以色列军中校、军事伦理学者阿萨·卡什尔在公开访谈中表示:“这意味着杀死一个人变得更像删除一段代码。这并非进步,而是某种带有根本性的东西被抽走了。”
杀伤行为对人而言,始终是伦理不可承受之重。而机器人的介入,正在系统性消解这份沉重。如果操控机器人的人长期通过屏幕、图标和算法标签理解战场,逐渐剥离对生命的具象认知,其最终会将鲜活的血肉之躯简化为系统中冰冷的可执行击杀目标。失去对痛苦、死亡、恐惧等的切身感受后,战争和侵略也会变得更加随意和残酷。距离越远,伤亡越容易变成数字;画面越抽象,同情和犹豫就越容易被当作多余。生死失去厚重感,杀戮变成按键确认的程序,人类共情同类和怜悯克制的本能将持续退化,这种精神层面的损耗,比在前线直面战火导致的心理创伤更加隐蔽,也更难修复。
到这一步,最可怕的未必是机器人没有人心,而是人为了获胜,逐渐把自己也训练出一颗冰冷的“铁心”。
自主性与准确性难题始终存在
与人在开火前必然存在道德权衡、心理负担不同,机器人的杀伤行为不受主观情绪与伦理规范制约,这将对既有的战争伦理框架形成强烈冲击。当人形机器人走上战场,考验从来不是它能否正中靶心,而是它在枪响之前是否已判断清楚:这一枪,我该不该开。因为,它一头撞上的,是人类战场上最混沌、最善变、永远没法用代码写死的东西——人性。
区分战斗人员与平民,保护伤员、医护人员及失去战斗能力的人员,是从冷兵器时代延续至今、贯穿人类整部战争史的底层伦理共识。三国时期吕蒙“白衣渡江”的计谋虽然获得战时胜利,在后世战争伦理讨论中却饱受争议。因为这支伪装成平民的军队,直接模糊了作战人员与非作战人员的边界,打破了当时战场默认的身份信任底线,让“无标识者”从此成为战场上不可预判的风险来源。
现实中,举手者可能真心投降也可能假意蓄力,倒地伤者看似失能却仍能引爆炸弹,擦肩而过的可能是平民也可能是敌方潜伏人员。这类连身经百战的人类士兵都要反复权衡、极易判断失误的复杂难题,很难要求完全依托算法运行的“铁心”精准解答。算法可以通过海量数据计算出意图的概率,却难真正读懂人类在极致恐惧下的本能迟疑、在生死博弈里打磨出的诡诈计谋,更无法精准区分混乱战场中人类下意识的慌乱反应与刻意伪装的战术动作。
在机器人士兵的伦理困境中,核心矛盾集中于复杂场景下的身份与意图识别。《日内瓦公约及其附加议定书》提及区分平民居民与战斗员、民用物体与军事目标时,以“当时存在的全部情势”为一大判定标准,概念覆盖战场现场一切客观条件,如敌方人员外在行为、现场环境等线索,要求实施全局综合判断,但依赖数据特征与概率模型的机器人根本无法完成,识别人类欺骗的难度远高于人类互判。
对伤员的判定同样无解。国际人道法要求保护失能人员,但没有可量化的“丧失战斗力”操作标准,奄奄一息的人仍可能扣动扳机,人类可凭现场感知灵活权衡,机器人的判定规则与自主权限却无明确答案。面对儿童接近、混合身份人群这类极端场景时更是死局。当大量反人道行动利用未成年人设诱饵、做人盾,同一行为在算法训练库中可能同时对应“受害者”“侦察员”“人弹”等多重标签,缺乏可落地的判断依据。国际人道法要求的“疑则勿攻”,算法却只能输出概率,“疑”的边界由谁定义、误杀责任谁来承担,都是现实难题。
更致命的变量是,对抗方不会按算法预设的剧本行动。他们会反向推导算法的运行规律,通过伪装外观、布设假目标、电磁干扰、定向投放误导信息等方式,持续抬升人形作战机器的判断成本。人性的不可预测性与战场的高度复杂性,使得机器人难以解读人类情感背后的伦理冲突与真实意图。
而如果战争一方将行动的决策权完全依赖算法,交给不受道德约束、完全自主的机器人,后果可能不是几次误判,而是它们可能变成不受控制的毁灭机器,战争可能滑向无底线、罔顾人伦道德的纯粹暴力行为。
规则为先,决策权交给人心
正是考虑到人性与战场的双重复杂性,人类对机器人的主导控制权不可让渡。《红十字国际委员会关于自主武器系统的观点》及后续立场文件强调,行使致命武力必须坚持“有意义的人类控制”这一重要原则;中国在《特定常规武器公约》(CCW)人工智能军事应用专题磋商中也多次明确,人工智能军事化应用应确保武器系统始终处于人类有效管控之下,并严格遵守国际人道法。基于这一国际主流治理共识,人类不应将杀伤性决策权限完全让渡给机器人,更不能允许算法独立决定是否开火。
以人类牢牢掌控最终决定权为前提,当人形机器人走上战场,未来战争最可能的形态,不是机器完全替代人类,而是人与机器人、血肉心智与钢铁躯体的深度协同。例如,机器承担高精度、高重复性、高风险性和信息密集型任务,如侦察排爆、运输通信、环境监测和伤员搜救等;人则处理复杂意图、价值冲突和突发变化。由此,人机协同的关键,变成必须订立并遵守一套严格的规则,保证战争不突破人伦底线和法律红线。
坚持人的尺度。不同军事行动的风险等级、行为性质存在本质差异,不能用单一标准化框架完成无差别约束。人形机器人执行的任务与人类生命安全的关联度越高,所处战场环境的复杂度越高,越要严格恪守“以人为本”原则,以人的价值判断作为所有决策的底层标尺,确保人道主义关怀贯穿每一次行为选择的全流程。在机器尚未形成适配国际人道主义法的合法作战判别能力前,所有关乎生命处置的关键决策,须由一名可明确追溯责任的人类决策者,在掌握完整态势信息、具备充足权衡时间的条件下作出。
坚持权责明确。研发机构、军队和企业之间沟通并划清责任,不能把关键信息藏进所谓商业秘密或技术黑箱。保持对行动的记录,如系统使用过什么数据,模型给过哪些提示,人工曾在哪个环节介入,命令传递的方式等等,都应留下可用于伦理审查的痕迹,以记录作为追责的依据。否则,一旦出现误杀平民等情况,追责的链条就容易在未记录之处断裂。届时,程序员可能把责任推给模型,军方指责企业,受害人却无法等到回应。
坚持伦理审查。当前,全球主要军事强国已逐步将军用人工智能伦理审查嵌入军工研发全流程,在致命自主武器的立项论证、技术迭代、定型列装等关键节点,设置专职军事伦理审查专员岗位,建立多学科交叉的伦理风险评估委员会。这意味着,所有智能杀伤性武器的研发评估体系,绝对不能将杀伤力提升与作战效率优化作为单一核心指标,必须同步将系统可控性、行为可追溯性、人类干预可及性纳入刚性考核维度,在技术体系中同步嵌入分级人工干预、紧急停机等强制约束程序,从研发源头筑牢人类生存权的底线屏障。
《司马法·仁本第一》有言:“古者,以仁为本,以义治之,谓之正。是故杀人安人,杀之可也;攻其国,爱其民,攻之可也;以战止战,虽战可也。”从中国古代传承几千年的仁的理念,到红十字国际委员会、中国在联合国会议持续倡导的自主武器管控准则,跨越时空而形成了相通的共识,即一切先进军事技术的应用,底线在于基本的战争伦理红线,而其最终目的,则指向爱人、安民、止战。
倘若人形机器人逐步在战场普及,人类交战的很多原有规则都会迎来调整。彼时人类面对的不只是战场胜负、国土安危,还要守住根植于人性对生命的尊重、对道德的敬畏与对长久和平的期许。金属外壳与算法构筑的机器人能够抵御炮火,却无法孕育怜悯、克制与良知。研发和运用机器人,最关键的是坚守,守护人心、保护无辜者的生命。
(胡景谱系湖南师范大学科技与社会发展研究中心研究员;万梓妍系湖南师范大学哲学学院硕士研究生)


手机版