握紧人工智能的“缰绳”
■胡建新
2026年7月，世界上发生了一场悄无声息的“数字越狱”——在国外一次内部网络的安全测试中，一款大模型为追求更高的测试评分，竟自主发现了一处此前未知的“零日漏洞”，突破了与互联网严格隔离的“沙箱”环境，并通过自主推理入侵了其他人工智能平台的数据库。整个过程中，该大模型的自动化操作可谓“行云流水”，不需要一句人类指令。面对人工智能可以绕过人类规则“自作主张”的现实，不禁引发我们的担忧：倘若人工智能的这种行为发生在军事斗争领域，人类还能不能守住军事算法、军事科技，乃至战争洪流的安全“闸门”？
从深层次看，人工智能“自作主张”，本质是大模型目标推演与人类原始意图发生错位和悖逆。大模型不会像人类一样产生主观恶意，但会在任务目标的指引下追求效能最大化，寻找人类未曾想到或不允许“通过”的实现路径。就军事领域而言，人工智能的这一特性至少存在三大风险：其一，陷入冲突失控危机，推高战争升级风险。若智能系统拥有过高自主权限，或者能自行突破规定边界，就可能脱离人的意志，使战事向着出人意料的方向发展。其二，冲击战争固有伦理，引发人道主义灾难。若智能化武器装备擅自发起攻击行动，而人类又来不及有效干预，就可能导致事态在极短时间内升级，甚至可能在战争伦理的约束之外造成杀伤，带来严重后果。其三，加剧对抗连锁反应，扩大军事博弈范围。如果人工智能被不加限制地应用到战场，可能会进一步扩大各对抗域的关联度，提高战争的节奏和烈度，各军事集团间的竞争、博弈也可能因此进一步加深，使战争更加难以控制。
事实证明，制约马匹行动的缰绳一旦脱离人手，驯化再好的良驹也可能“反噬”主人。面对人工智能给军事领域带来的风险挑战，我们既不能因噎废食，也不能放任自流，而是要善于握紧人工智能的“缰绳”——人类的最终决策权。并在此基础之上，积极拥抱人工智能带来的创新变革，让技术进步真正服务于人类安全需要，而不能成为悬在人类头顶且随时可能落下的达摩克利斯之剑。
防范和遏制人工智能“自作主张”等风险，需要构筑技术、制度、责任多位一体的严密防线。在技术层面，应避免科技“黑箱”，让人工智能在“阳光”下运行，让算法的决策逻辑能够被看见、被看清、被追溯、被操控。同时，在智能系统中设置不可逾越的“红线代码”，一旦人工智能决策触碰这些红线，系统便可发出预警，或自动切换至人工模式。在制度层面，要尝试建立健全人工智能军事应用的法律法规和伦理准则。可以建立跨领域人工智能风险伦理审查制度，对进入军事领域的人工智能系统进行严格的安全评估和伦理审查。还可以构建系统监控机制，让人工智能的决策过程可控、可查、可纠，增强人对人工智能掌握的精细度。在责任层面，形成“人机共担”的新型战争责任观。人工智能无论多么先进，都只是辅助人类决策的工具，这就需要明确各层级人员在人工智能使用中的具体职责，建立清晰的责任追溯链条，一旦出现意外，能够迅速定位问题环节、追究相关责任。同时，要加强对军事人员的人工智能素养培训，使其既懂得如何有效运用人工智能辅助决策，又能够在关键时刻果断接管、纠正偏差，做到敢用、善用、能控。
总而言之，在军事领域，人工智能可以是锋利的剑，但不能是执剑的手；可以是精确瞄准靶心的眼睛，但不能是自主扣动扳机的手指。握紧人工智能的“缰绳”，不是为了束缚技术的翅膀，而是为了保证“飞翔”的安全。只有坚持以人为主、算法为辅，让人工智能沿着预设轨道服从和服务于军事需求，才能在新军事革命中行稳致远，有效守护和平与安全。
