生存或者毁灭：

AlphaZero通过自己与自己对弈来提高技能，在开始学习围棋几天后，它的水平就超过了人类最好的棋手。 （资料图/图）

（本文首发于2019年10月10日《南方周末》）

当人工智能在越来越多的领域超越人类时，我们不得不思考它到底会发展成什么样，又会对人类社会产生哪些影响。

人工智能领域的科学家已经取得了一项惊人的成就。戴维·希尔弗（David Silver）是DeepMind团队的负责人，他和团队共同研发的AlphaZero从掌握初步规则开始，通过自己与自己对战，独立学会了国际象棋、围棋和将棋（日本棋类游戏）。对于这三种棋类游戏，AlphaZero已经超过了最好的人类棋手。

这一进步非常了不起。1997年，计算机深蓝（Deep Blue）打败了国际象棋世界冠军加里·卡斯帕罗夫（Gary Kasparov），它结合了优秀的算法与对棋局的出色理解。最好的人类棋手也贡献了关于开局、残局和局面评估的专业知识，从某种意义上来说，是人类将这些知识“教”给了程序。

而AlphaZero不同，不需要由人类专家向它传授自己掌握的知识。对于这样的棋类游戏，AI可以独立学习，快速达到人类需要几个世纪才能累积的高度。AlphaZero的研发人员表示：“无论对于国际象棋、将棋还是围棋， AlphaZero使用的都是同样的算法，同样的网络结构。结果表明，通用强化学习算法（即能够胜出的决策将被算法优先选择）能够从一块白板出发，学会任何事物。它不需要依靠知识，也不需要来自人类的特定经验。”

随着人工智能快速发展，这个领域也开始面临越来越迫切的问题。研究人员、哲学家还有技术预言家纷纷开始辩论，设想未来可能出现的种种矛盾。无论是感到期待还是恐慌，没有人会怀疑人工智能将主导我们的未来。这种主导作用也许是通过互联网，也许是与人类融合。

许多思想家都曾经深入思考过超级人工智能（以及它对人类的态度），试图以此预测未来的趋势。我们将探讨尼克·博斯特罗姆（Nick Bostrom）、雷·库兹韦尔（Ray Kurzweil）、本（Ben）和泰德·戈尔泽尔父子（Ted Goertzel）、汉斯·莫拉维克（Hans Moravec）、弗朗西斯·海利根（Francis Heylighen）、雨果·德·加里斯（Hugode Garis）和克莱蒙·维达尔（Clement Vidal）的思考。

评论的风口浪尖

当我们还不了解一件事物时，往往会作出夸张的设想，讨论它的性质时也会出现两极分化的观点。但是，正如剧作家拉辛（Racine）借他笔下人物所说，AI无法承担我们过分施加的荣耀，也不至于因为它引发的忧虑而遭受羞辱。

尽管我们对AI取得的成就感到震惊，也意识到它可能会造成巨大的影响，但不能被狂热冲昏头脑。AI在许多高度专业化的任务中都取得了惊人的成绩，但它仍然难以胜任所有需要常识