市面上许多关于所谓人工智能的书籍和文章,读来都有些乏味。它们或许准确、专业、有价值,甚至颇有智慧,却往往缺少让文字引人入胜的戏剧要素:冲突与化解、期待与意外、宏观与细节、喜剧与悲剧。它们长于阐述、分析和预测,却鲜有故事,仿佛是为课堂而写,而不是为海滩闲读所备。
幸好,最近两部备受瞩目的AI著作却与这类作品不同,它们分别是郝珂灵(Karen Hao)的《AI帝国:一场不计后果、志在通吃一切的疯狂竞赛》(Empire of AI: Inside the Reckless Race for Total Domination),以及塞巴斯蒂安·马拉比(Sebastian Mallaby)的《无限机器:德米斯·哈萨比斯、DeepMind与追寻超级智能》(The Infinity Machine: Demis Hassabis, DeepMind, and the Quest for Superintelligence)。从副标题就能看出,这两本书在许多方面大不相同。
郝珂灵讲述了萨姆·奥尔特曼(Sam Altman)与OpenAI的故事。这本书本质上是一个悲观的故事:金钱战胜了理想,夸张得近乎戏剧人物的反派轮番登场,硅谷精英像青春期少年一样争吵不休,而西方技术帝国主义则给全球南方的社群带来毁灭性的影响。在马拉比笔下,理想主义的境遇要好得多。他追随国际象棋神童、诺贝尔奖得主德米斯·哈萨比斯(Demis Hassabis)的足迹,从伦敦北部一路写到剑桥,再到谷歌DeepMind(Google DeepMind)。一位英国知名记者最近甚至称哈萨比斯为“当今在世最伟大的英国人”。
两本书中的人物、公司、模型、抱负、技术、动机,都有显著差别。它们对两个关键问题给出的答案也不同:通用人工智能(AGI)有可能实现吗?总的来说,这究竟是好事还是坏事?
但两本书有一个共同的成功秘诀,故事讲得精彩,因此读来引人入胜,常常让人手不释卷。原因很简单,它们讲述了一个十分精彩的故事。当然,书中也有大量细致的讲解(这项技术究竟如何运作?谁想让它做什么?),也有严谨的分析(它正在怎样发展?会带来哪些后果?),还有深思熟虑的预测(下一步可能走向何方?这对人类意味着什么?)。但归根结底,两本书都在用最传统的方式讲一个好故事:一个个鲜活的人,以及他们的天赋与缺陷、希望与恐惧、成功与失败,还有内心深处的渴望。正是这些故事串起了论证,也抓住了读者。
《无限机器:德米斯·哈萨比斯、DeepMind与追寻超级智能》(The Infinity Machine: Demis Hassabis, DeepMind, and the Quest for Superintelligence)
塞巴斯蒂安·马拉比(Sebastian Mallaby)著
即使在天才云集的科技行业,德米斯·哈萨比斯也是一个非同寻常的人物。他出生于伦敦北部一个贫困的移民家庭,五岁时已是国际象棋神童,十几岁便展现出惊人的编程才华。他还没满 18 岁,就拒绝了一份七位数的邀约,前往剑桥深造,满足自己无穷的科学好奇心。后来,他在计算机科学之外又取得神经科学博士学位,继续追逐通用人工智能的梦想。他的终极目标是解开生物学与理论物理学的奥秘,开启物质丰裕的时代。今天,他仍与一小群志同道合者走在这条路上,领导谷歌的AI研究,这期间还获得了诺贝尔奖。他所构想的机器,将大幅拓展甚至取代人类对宇宙的理解。
企鹅出版社,480 页。中译参考:《哈萨比斯:谷歌AI之脑》,浙江科学技术出版社;《無限機器:Gemini推手哈薩比斯的超級智慧長征》,天下文化。
《AI帝国》(中译参考:浙江人民出版社,2026)以 2023 年的一场董事会会议开篇。OpenAI首席执行官、ChatGPT背后的关键推手奥尔特曼,在会上被告知自己遭到解雇。但这个决定连一个周末都没有持续。负责监督公司的董事会认为,他一再误导董事会,沟通时“并非始终坦诚”,因此对他失去了信任。可是,强烈的反对声浪、微软的介入,以及员工集体辞职的威胁,很快就让他重返原位。
在郝珂灵笔下,这场失败的罢免如同一则寓言,揭示了OpenAI内部乃至奥尔特曼本人身上的重重矛盾:利他的人道理想与逐利的商业现实之间的矛盾,独立的非营利监督与财力雄厚的企业利益之间的矛盾,以及公司最初愿景中的“开放”(Open),与打造“人工智能”(AI)所需的数十亿美元和大片土地之间的矛盾。当然,这些矛盾也普遍存在于整个AI行业。
接下来的叙述沿着三条线展开。第一条是技术线,介绍大型语言模型(LLM)如何崛起,成为 2020 年代AI的主流形态。即使在 2020 年,也没人能断定这种技术会像过去五年那样广受欢迎,而且能如此逼真地模拟人类智能;改变局面的ChatGPT问世后,这一点尤其明显。
郝珂灵把这个过程讲得十分清楚。她既没有用空泛的说法含糊带过,也没有让一串串技术缩写把读者淹没。我读的是文科,对技术还有点发怵,她却能让我读懂这项极其复杂的技术是怎样一步步发展起来的,实在难得。
第二条线是商业与个人恩怨。故事围绕一群人及其相互竞争展开:他们有的才华横溢,有的令人恼火;有的自负,有的富可敌国;有的富于远见,有的疑心重重,而有些人则兼具其中多种特质。这正是副标题“一场不计后果、志在通吃一切的疯狂竞赛”的由来。郝珂灵毫不怀疑,在利他理想与金钱势力的较量中,后者目前占了上风,至少OpenAI的情况如此。她的论证也很有说服力。但她又是一位出色的记者和故事讲述者,能帮助读者从每个当事人的角度理解事情,即便其中一些人(最明显的是奥尔特曼与马斯克)在书中显然充当了反派角色。
第三条线可以称为帝国扩张。本书由此得名,其最独特的贡献也在这里。叙述从波哥大转到内罗毕,再到圣地亚哥,揭露人们为AI付出的代价,有些甚至令人不寒而栗。郝珂灵写道:
AI帝国并没有采取[殖民]历史上那种公然的暴力与残酷手段。但它们同样在攫取、榨取珍贵资源,以实现自己的人工智能愿景:艺术家和作家的作品;无数人在网上分享经历与见闻时留下的数据;以及容纳和运行庞大数据中心与超级计算机所需的土地、能源和水……
如今,OpenAI正带着我们加速走向这种现代殖民世界秩序。
郝珂灵描绘的前景令人不安,却有充分依据。
如果你觉得前面的描述太像末日图景,也许会想换换口味,读一读AI的另一面:一个更高尚的人、一家更有理想的公司,以及一种更能造福人类的技术。马拉比在《无限机器》中讲述的正是这样的故事。(我在咖啡馆写这篇书评时,邻座的一位年轻女士问起这两本书。我分别向她介绍后,看见她拍下了马拉比那本,却没拍郝珂灵的。“这项技术的发展不可避免,所以我想读这本。”她说。)
哈萨比斯无疑比奥尔特曼更容易赢得好感,而且我想,这不只是我的爱国情结在作祟。他确实非同寻常。我们在书中认识的他,是国际象棋神童、游戏设计师、理论物理学家、神经科学研究者、计算机科学家、世界智力运动冠军和诺贝尔奖得主,而不是企图支配世界的商业巨头。在马拉比笔下,哈萨比斯之所以创业,是因为这是实现科学与人道目标的最佳途径。直到今天,他关心科学,仍远胜于科学可能带来的财富与权力。
因此,《无限机器》更多谈的是游戏设计与蛋白质折叠的可能性,而不是融资和挖角。这使全书显得乐观得多:
好消息是,为竞争对手开辟了道路的德米斯·哈萨比斯,为人正派,热心公益,也真心希望人类过得更好。他当然也有自负的一面。他的好胜心强得惊人;他认定自己肩负着开发AI的使命,那种天命感近乎救世主心态。但他追求的是科学上的发现与认识,而不是金钱或权力……那些最爱高谈阔论的科技巨头,傲慢自大又自以为是,让人难以相信,怀着救世主心态的创新者,也可能真心想造福人类。但在硅谷赚得巨额财富,与自我膨胀到失去约束,并没有必然联系;把整个科技行业描绘成无政府自由至上主义的堡垒,也不公平……在这样动荡的环境中,哈萨比斯努力坚守个人价值的故事,正是我们这个时代的代表性故事。
也可以换个方式说。《AI帝国》有些地方读起来像罗伯特·卡罗(Robert Caro)笔下的林登·约翰逊(Lyndon Johnson)。贯穿全书的问题大致是:“这样一个不择手段的人,到底是怎么攫取如此大权的?”故事靠权谋和操弄推进。读者明知这些人物最终会成功,却仍抱着一丝渺茫的希望,盼望他们失败。
相比之下,《无限机器》更像沃尔特·艾萨克森(Walter Isaacson)写本杰明·富兰克林(Benjamin Franklin)。读者不断追问的是,“这个才华横溢的人,到底是怎么想出这么多好点子的?”吸引我们的,是理论与思想,而不是政治或经济。哈萨比斯更侧重深度学习和掌握复杂游戏,而不是大型语言模型与词语预测。我们会希望,他的AI路线能抢在OpenAI之前取得突破,尽管我们知道,至少最初几个回合并非如此。
这种更积极的眼光也塑造了马拉比对整个AI发展的叙述。郝珂灵格外重视的道德与伦理代价,比如数据中心的环境成本,或标注露骨内容给工作人员造成的伤害,在马拉比书中基本没有展开。他谈得更多的是益处,从医学突破到清除微塑料等等。
这部分源于哈萨比斯与奥尔特曼的性格差异。如果你认为,引领AI发展的是心怀理想的科学家,自然会比那些认为幕后主导者是一群精于算计的亿万富翁的人,对AI的看法自然会更乐观一些。另一部分则源于DeepMind与OpenAI在研究路线和成果上的不同。毕竟,AlphaFold在预测蛋白质结构方面取得了突破,哈萨比斯也因此获得诺贝尔奖;相比之下,ChatGPT还没有拿出同样有用的成果。
马拉比也比郝珂灵更愿意相信,超级智能确有可能实现,一个重要原因就是哈萨比斯本人对此深信不疑。全书最精彩的章节,也许是介绍哈萨比斯的AlphaGo程序如何首次击败顶尖人类围棋选手的那一章。围棋是一种古老的策略游戏,棋盘上有 324 个方格;与它相比,国际象棋简直像弹子片游戏一样简单。比赛中,AlphaGo下出了一步完全违背直觉、出人意料的棋,后来人们只需说“第 37 手”,就知道指的是哪一步。当时,观战者百思不得其解,人类对手整整用了 12 分钟才作出回应;但事后证明,这一步目光长远得惊人,对整个战局起了决定性作用。
马拉比毫不犹豫地用“直觉”,甚至“超级智能”来描述这一幕。郝珂灵则谨慎得多,部分原因在于,人们连智能究竟是什么都没有共识。她解释说:“所以,‘人工智能’这个名称从一开始就是一种营销工具。”
那么,到底谁是对的?通用人工智能真有可能实现吗?它是否会成为过去 7 万年来最具变革性的创新,由一群古怪、执着、才华横溢的科学家引领,解决人类束手无策的问题,从而改善我们所有人的生活?还是说,它不过是一个幻梦,是科技圈那些自负男人的面子工程,是给大规模文字预测取了个好听的名字,让富人更高效地工作,甚至更高效地作弊,却让贫困社群来埋单?
Claude大概会告诉我,这是个很有意思的问题,两个说法各有道理,具体还要看各种变量。我就没有这么模棱两可了。论性情,我是个乐观的人;但说到这项技术的发展方向,郝珂灵的判断比马拉比的更能说服我,更不用说背后那些金融、技术,甚至地缘政治层面的驱动力了。
我希望自己错了。我希望,未来必然出现的科学发现,能弥补、甚至消除其中许多弊端。但至少在 2026 年,我们看起来更接近一个AI帝国,而不是一台无限机器。
原文刊载于福音联盟英文网站:AI: Empire or Infinity Machine?.