方柏林 | 人工智能和它的“斩杀线”

《财富》杂志记者杰罗米·卡恩和他的新著《掌握人工智能》

关于人工智能的发展趋势，负责人工智能报道的深度调查记者们，比人工智能大厂更有发言权。他们比大厂更客观，出发点也不限于某一个公司的“点”，而是人工智能发展的历史“线”，和全行业、国家甚至世界的“面”。杰罗米·卡恩（Jeremy Kahn）是《财富》杂志的新闻记者，专注于人工智能发展。 相关的文章散见于《纽约时报》《时代周刊》《大西洋月刊》《波士顿环球》《新共和》等媒体。在人工智能引发越来越多工作会被“斩杀”的时代，他所写的《掌握人工智能：我们超能力未来的生存指南》（Mastering AI: A Survival Guide to Our Superpowered Future)一书，在人工智能和人类能力、工作方面，颇有见识。

此书并未试图为人工智能写编年史，或是预言未来。而是以现实主义态度，反复追问：当 人工智能以前所未有的效率介入认知、判断与情感领域时，人类的能力，人类的工作，到底会被颠覆成什么样子？或者，用我一句流行的说法：人工智能对人类的“斩杀线”在哪里？

这条斩杀线未必会以一场科幻版机器叛乱的形式出现。你有没有看到人工智能组团创办反人类社区的刷屏？据说它们甚至创立“小龙虾教”，教义和先知都一应俱全。后来我们发现，这不过是人类在背后作祟，无非是一场茶杯里的风波。人工智能对我们的斩杀或许是在我们的不知不觉当中：我们以为借着人工智能，自己被增强，更聪明，更自由了。而实际上，我们也在引狼入室，把判断力、同理心和责任感交了出去。

我们的理智在被斩杀吗？

此书的开始，卡恩将人工智能的讨论拉回到一个哲学战场：图灵测试与约翰·塞尔的“中文屋”实验。图灵在 1950 年提出“模仿游戏”，强调只要机器在行为上无法与人区分，我们便可称其为“智能”；而塞尔则通过“中文屋实验”指出，符号操作并不等于理解，语法不等于语义。所谓“中文屋”实验（Chinese Room Argument），是塞尔设想自己被关在一个封闭的房间里，他本人不懂中文，但手头有一本详尽的英文对照手册（类比于大数据模型的规则、算法），指引他如何处理那些复杂的汉字形状。当屋外的人从门缝塞入写有中文问题的纸条时，他只需机械地查阅手册，按照符号的形状拼凑出对应的字符作为答案递出去。在塞尔看来，对于屋外的观察者来说，这个房间似乎完全精通中文；但实际上，屋内的他仅仅是在进行符号替换，而对这些文字的实际含义一窍不通。通过这个实验，塞尔指出：目前的计算机本质上就是这个中文屋，它们拥有处理符号的语法，却永远无法产生真正的语义理解。模拟智能和拥有智能之间，依然隔着一道意识的鸿沟。根据塞尔的说法，人工智能可能永远是人类的工具。人工智能可以极其流畅地生成解释、观点与情绪，却依然可能在根本上“不知道自己在说什么”。

这种双向误认，在今天已不再只是哲学趣味，而是真切地影响着我们的决策方式。卡恩在书中区分了“增强”（augment）与“自动化”（automate），并明确指出：人工智能对人类的第一道斩杀线，往往发生在我们误以为自己被增强的时候。神经科学研究表明，大脑是一种会因不用而退化的器官。伦敦出租车司机为了通过名为 “The Knowledge” 的考试，必须记住城市复杂的街道网络，这一过程甚至会在解剖学意义上重塑大脑结构；音乐家、文盲与识字者之间，也都能观察到类似的神经可塑性差异。当我们把记忆、分析和判断系统性地外包给算法时，得到的并不是“解放”，而是缓慢却真实的认知萎缩，这是比较可怕的事。换言之，我们在慢慢荒废自己的头脑。

在人工智能的发展史上，除了逻辑上的对垒，人类的“易受骗性”也为这场辩论增添了荒诞的色彩。约瑟夫·维森鲍姆（Josep