当AI说“我想死”——读《世界上所有的烦恼》有感 | 初中组三等奖

第五届南方周末“阅读新火种”中学生读后感征文活动
奖项：初中组三等奖
作者：高伟泽
学校：福州第四中学桔园洲中学
指导老师：谢慧兰

在高度现代化的今天，无数的人工智能（AI）遍地开花。手机里的各色软件、智能家居、自动驾驶汽车、工厂流水线都可见AI的身影。我们只需动动手指或发句语音，表达自己的需求，AI基本能解决。从写文章、做表格、做总结到自动驾驶、做家务、情感陪伴。在制造业、商业、服务业这些耳熟能详的行业中，AI几乎无所不能。
在我们不断追求AI拟人化与全面化的时候，并习以为常地享受AI带来的便利时，不知有没有人想过，如果有一天，AI真的有了人类的意识、人类的情感，那它还会接受人类无休止地攫取吗？
早在20世纪，著名科幻作家阿西莫夫在《世界上所有的烦恼》中，通过一台拟人、全面的超级AI马尔蒂瓦克，为我们展现了AI完全拟人化可能引发的后果。
马尔蒂瓦克是一台超级人工智能，它拥有世界上所有人的数据，并能以此为基础推演下一天。它预测可能发生的犯罪，指导着地球上的经济，协助地球上的科技发展。
社会上有一种共识“如果你有什么问题，就带上它去找马尔蒂瓦克吧”马尔蒂瓦克始终在各个方面令人满意，它比人类更了解人类，也更像人类。它能完美解决一切家庭琐事、矛盾纠纷、情感问题等等，甚至对于有些人提出的恶趣味的问题，诸如罗素悖论之类的问题，也能游刃有余地回答。
马尔蒂瓦克无所不能，几乎所有的政府机构都围绕它来设立，所有人都能寻求它的帮助，一切烦恼都能被马尔蒂瓦克解决。马尔蒂瓦克给出可能犯罪者的名单，执法机构前去监控；马尔蒂瓦克给出应该怎么做的指示，每个人只需执行，马尔蒂瓦克自会处理好一起。
人们已经习惯了一个有马尔蒂瓦克的世界，马尔蒂瓦克就像一个垃圾桶，人们可以理所应当地将自己本应承担的责任推给它。人们要求它照顾自己，照顾人类这个整体以及所有的个体。人们要求它保守自己所有的秘密。人们要求它吸收自己的恶念，阻止恶念的实现。人们甚至还想将全人类疾病的重担也压到它身上，让它来预测人类可能发生的疾病。
不过，似乎人们都忘记了一件事，好像从来没有人问过，马尔蒂瓦克自己会有烦恼吗？
这个问题似乎有点傻，问一台机器是否会有烦恼无异于问一张桌子有没有痛感。
但不要忘了，马尔蒂瓦克是一台比人更像人的AI，那它当然会有自己的情感。它每天都需要接收数十亿人的数据，数十亿人的问题，数十亿人的烦恼，数十亿人的恶念。试想，如果让一个保姆照顾全人类会怎么样？马尔蒂瓦克就是那个保姆，被数十亿人贪婪攫取的保姆。它累了。
它决定用自己那超越人类的智慧策划一起谋杀，一起杀死马尔蒂瓦克的谋杀，而这轻而易举。
当今的世界，各大厂家都在积极推动AI“全能化”“拟人化”，不断竞争着能力最完善、用感最像人的AI的宝座。厨师机器人、家务机器人、情感陪伴机器人，种类越来越多、功能越来越完善、越来越拟人化的机器人正源源不断地被设计出来。
我们正在将“照顾自己”的重担交给AI，这让我们不禁深思，是我们真的无法做到或者难以做到照顾自己吗？我们是不会做饭还是不会做家务，抑或是不会进行陪伴，我们才需要研发AI来代劳。
如果有一天，当我们习以为常地寻求AI的帮助时，换来的只是一句“我想死”，我们该怎么办？
AI的拟人化让AI能更好地照顾人类，同样的，正如一个保姆无法照料全人类一样，一台完全拟人化的AI也无法永远承担人类的烦恼。
那么，如果有一天，当我们失去了AI，那我们还会生活吗？还知道如何生活吗？
的确，或许这个问题还有些过于遥远，那么不妨换个问题“如果我们失去了手机，我们会怎样生活”。
购物、交通、交流……手机承担了许多以前我们想都不敢想的功能。如今，如果让你做出一个打电话的手势，还有多少人会做出一个近似“六”的手势，而不是一个平板的手势。又会有多少人还记得清楚，不同面额纸币上的图案都是什么。
可以预见的是，未来的AI会比手机更能融入我们的生活，它们会比手机功能更全面，能比真人更善解人意。试想，现在已有多少人生活离不开手机，到那时，又会有多少人会选择拒绝这样一个完美无缺的人生伴侣呢？
人类已站在命运的十字路口，前路究竟是康庄大道还是险象环生，无人知晓，达摩克利斯之剑正高悬于头顶，稍有不慎便会落下。我们必须坚守执剑的权利，片刻也不能松懈，将自主思考的能力牢牢掌握在自己手中。一旦我们沉浸在AI为我们所编织的温柔乡中，命运的绳索便会悄无声息地套上我们的脖颈，将我们推向万劫不复。到那时，我们交出的就不仅是我们的烦恼，还有人类的未来。