荷兰学者：人工智能武器缺少监督，增加不稳定因素

新华社北京9月16日电 题：守好新兴技术军事应用的安全边界——第十三届北京香山论坛新兴技术军事应用的风险与管控平行分组会议侧记

新华社记者李萌萌

北京国际会议中心5号会议厅内，气氛格外热烈。9月16日下午，第十三届北京香山论坛新兴技术军事应用的风险与管控平行分组会议举行。这是北京香山论坛8个分组议题中颇有“技术含量”的一场，持续近4个小时的会议，讨论十分热烈。

第十三届北京香山论坛新兴技术军事应用的风险与管控平行分组会议现场。韩启扬 摄

与会专家围绕人工智能、无人作战系统、军民两用前沿技术军事应用的安全风险、法理困境、国际管控体系建设等展开深度思辨。现场跨区域、跨领域的不同观点碰撞，充分彰显出新兴技术军事治理已然成为全球安全领域高度关注的重要议题。

会议伊始，本场会议主持人、军事科学院军事法制研究院院长赵海涛便抛出人工智能、无人系统等新兴军事技术高速发展与管控措施存在大量空白之间存在的矛盾。紧贴现实的问题，引发与会嘉宾深入思考。

第十三届北京香山论坛新兴技术军事应用的风险与管控平行分组会议现场。新华社记者李萌萌 摄

荷兰海牙应用科技大学人工智能与数据科学教授兰普罗斯·斯特吉乌拉斯提出，人工智能可能导致生物武器、网络攻击等不稳定因素，尤其在军事方面缺少日常监管。

针对“问责真空”的现状，阿根廷国防部前副国务秘书马可为表达了担忧。他表示，近年来的一些军事行动，是在新兴技术的支持下完成的。从拉美国家安全视角来看，马可为表达了对拉美国家在新兴技术军事应用管控领域参与国际合作的期待。

“国际合作”是本场会议的高频词，也是大家的共同期待。“没有一个国家能单独应对风险。”阿联酋外交与国际合作部前助理部长奥拜伊德·凯特比建议，建立人工智能管控的国际标准，尊重各国合法权益。

在本届论坛的另一场会议上，奥拜伊德·凯特比从中东中小国家视角，分享了中小国家希望借助新兴防务技术巩固国土防御能力，以及对陷入技术依附的担忧。

“人工智能的技术垄断可能进一步加剧安全困境，引发全球军备竞赛，重构战略权力格局。”清华大学战略与安全研究中心教授肖茜延续了去年在第十三届世界和平论坛上的观点。她表示，人工智能发展存在的规模、速度、自主性风险可能导致军事危机升级。

第十三届北京香山论坛新兴技术军事应用的风险与管控平行分组会议现场。新华社记者李萌萌 摄

面对人工智能风险管控的难题，肖茜建议推动建立“基础红线”和国际“基本信任”。同时，她表示中国在人工智能监管方面一直在行动。就在前一天，全国网络安全标准化技术委员会发布了《人工智能安全治理框架3.0》，以促进提升人工智能安全治理共识和风险防范应对能力。

兰普罗斯·斯特吉乌拉斯表达了对中国在人工智能治理方面作出贡献的赞赏，并特别提及由中国发起的《全球人工智能治理倡议》。他表示，法规往往比技术进步慢，但我们需要付诸行动，尤其是集体合作。

本届北京香山论坛的会议议程已过半。作为今年的热门话题，新兴技术军事应用等议题备受关注，分组会议的热烈研讨，折射出世界各国面对技术变革的共同担忧，也彰显出共护全球安全的共同愿望。

高端访谈活动中，当被问到对人工智能带来的挑战的看法时，北约总部国际军事参谋部合作与地区安全司前司长卡洛斯·布兰科给出一个关键词——信任。他表示，人工智能可以帮助我们建立更好的军备控制。他的观点，带来关于人工智能与军事变革的辩证关系的思考。

第十三届北京香山论坛新兴技术军事应用的风险与管控平行分组会议现场。新华社记者李萌萌 摄

各方立足的安全场景、利益诉求虽各不相同，但整场研讨形成了普遍共识：新兴技术本身无优劣之分，技术进步的终极价值是守护和平，而非加剧对抗。面对智能化军事变革浪潮，各国唯有坚持多边协商、协同共治，明确技术应用红线、完善风险管控机制，才能遏制技术滥用风险，让前沿技术服务于全球战略稳定。

新兴技术浪潮滚滚向前，安全监管任重道远。在全球安全治理赤字持续扩大、技术军备风险不断攀升的当下，北京香山论坛以平等开放的对话模式，推动各国消弭认知分歧、凝聚合作共识，为规范新兴技术军事应用、防范化解新型安全风险、维护全球和地区长治久安注入重要正能量。