智源研究院院长王仲远谈人工智能：大象不屑于踩蚂蚁，但不代表不会误伤

2024年4月26日，中美两国政府共同宣布，双方达成五点共识，包括将举行中美人工智能政府间对话首次会议。

一个多月前，图灵奖得主约书亚·本吉奥、杰弗里·辛顿、姚期智等近二十位中外专家，就曾在北京联合签署了由智源研究院发起的《北京AI安全国际共识》（以下简称北京共识），涉及人工智能“风险红线”和“路线”两大板块。

这是就人工智能安全达成的首份专家共识，未来也将成为政府间对话的重要参考。

图灵奖得主约书亚·本吉奥、杰弗里·辛顿、姚期智等近二十位中外专家，曾在北京联合签署了由智源研究院发起的《北京AI安全国际共识》，为超级人工智能划定红线。（图片来源：受访者供图）

中美两国政府为何如此关注人工智能？当前人工智能安全面临着哪些挑战？南方周末记者近日采访了智源研究院院长王仲远。

王仲远曾在微软研究院、美团、快手任职，负责人工智能相关业务。在他看来，一个属于AGI（通用人工智能）的大时代正在靠近，而智源研究院是离大时代最近的地方。

智源研究院是成立于 2018 年的一家非营利机构，也是国内最早的大模型研究机构，为这一波国内人工智能大模型产业的发展作出了独特的贡献，炙手可热的 OpenAI CEO 山姆·奥特曼在中国唯一一次公开演讲就是出席2023年的智源大会。

当务之急是进行体系化的设计

南方周末：智源发起北京共识的背景是什么？

王仲远：智源是国内最早做大模型研究的，一开始就非常坚定地选择了大模型这条技术路线，认知上我们是领先的。

智源是一个非营利性的第三方机构，本身也承担着这样一个责任、使命，有义务让政府、社会意识到这种风险。

形成监管政策的方式有两种，一是威胁还没有实质发生之前，越来越多技术专家开始呼吁，逐渐影响政府制定政策。另一种是，现实威胁实实在在发生之后，政府也会迅速行动。我们希望促成第一条路而不是第二条。

南方周末：北京共识中，不少国外顶尖专家都参与了签署，他们为什么会认可“北京共识”？

王仲远：过往这5年，他们很认可智源的学术水平、学术生态的代表性，以及在中国AI领域的代表性。大家也都有充分共识，AI安全需要国际间合作，可能智源是与中国建立合作最好的选择。

南方周末：北京共识形成的过程是怎么样的？大家是怎么讨论的？

王仲远：不是先有一个共识，再让大家签署，参会的专家基于各自的技术背景，提出主张，这个持续两天的闭门讨论会中，有技术的分享、产业界的分享、学术界的分享，还进行了分组讨论，包括最后一天晚上，还有和科技部、北京市政府的对话。

为了让大家能够充分讨论，也采用了国际对话的一些规则，大家充分发表观点，这些观点都不进行任何记录，也不会对外透露具体某个人的发言内容，就是为了让大家能