Related articles
文 | 脑极体
提到 007 我们会想到什么？特工、美女、炫酷的装备、激烈的战斗、要摇匀不要搅匀的马提尼。我是 007 全系列的忠实观众，但确实看到的也大体就是这些。
直到最近玩了最新的 007 游戏 《007：初露锋芒》。反派揭晓的时候我发现吃瓜吃到了自己行业。剧透警告啊各位，这部游戏的反派赫然是一家 AI 大模型公司。
我琢磨着自己天天写 AI 公司，也没发现需要动用詹姆斯·邦德来打击啊？一般来说资金链断了它们自己就会倒闭。
但这时回头看几十年来数十部 007 电影，却惊觉原来在特工的风花雪月故事之下，一直有一个鲜明的母题：科技之恶。
甚至可以这样说，每次一有新科技出来，都一定会在 007 里扮演一回反派。我想聊聊这种忧思，以及其背后的逻辑机制和群体性心理。
如果光看 007 炫酷的外表与风流的故事，我们很容易忽略这其实是一个标准的科技悲观主义故事。
《007》 系列的原著作者伊恩·弗莱明，曾经在二战时期亲自参与情报工作，见证了 V-2 火箭的恐怖威力，感受过德美之间的核武器角逐。由此种下了对未知科技深深的忧虑与恐惧，并将这一母题带到此后的几乎每一篇 007 故事当中，进而也被电影和游戏吸收消化。
007 对科技之恶的第一重想象，就是冷战时期笼罩全球的原子能梦魇。在原著 《太空城》 里，反派是英国的核武器专家，但包藏祸心准备将核弹射向伦敦。在电影 《金手指》 里，反派准备用核武器攻击诺克斯堡的黄金储备，从而让全球金融体系崩溃。这些对核武器的恐惧，与 20 世纪 50、60 年代冷战背景下的核军备竞赛紧密相关。当时包括英国在内的全球主要国家，都宣传过如何面对核威胁，应对导弹突袭等内容。这种紧张气氛渗透到社会文化中，形成了一种对核子技术的深层恐惧。
随着冷战疑云的散去，核恐惧的意味也逐渐降低。但对科技作恶的想象已经根植到 007 为代表的大众流行文化深处。70、80 年代，接力核恐惧的是基因恐慌。克隆、基因编辑、人类改造等话题崛起，重新唤醒了人们对科学怪人的恐怖记忆。在 《雷霆杀机》 里，反派是一个纳粹基因实验的受害者。他因此获得了超高智商与变态的性格，准备通过制造一场大地震来摧毁硅谷，从而让自己的公司垄断芯片市场。而这些怪诞的阴谋，似乎都来自不受控制的基因改造。对科技之恶的终极猜想，从人类会不会炸穿地球，变成了人类会不会亲手培育怪物。
到了 90 年代，事情又发生了变化。互联网崛起，全球化经济浪潮袭来。007 里的反派们也逐渐脱离纳粹身份。毕竟二战已经过去几十年，纳粹总是不老不死也不太像话。新反派们大多是资本家，他们一手掌握互联网话语权，一手是巨额财富，还总是止不住地要给人类文明使点坏心眼。比如 《明日帝国》 里有句著名台词 「话语是新的武器，卫星是新的大炮」。这部电影里的反派是传媒大亨，他利用卫星篡改 GPS 信号、制造假新闻，挑动国家开战，居然只是为了换取更高的收视率，从而达成媒体垄断。可见做媒体的谁还没有个流量焦虑呢。
战后恐惧原子能与核武器，70 年代恐惧基因编辑与人体改造，90 年代恐惧互联网与全球化传媒。007 在几十年间一遍又一遍地审判、怀疑这点人类科技硕果。
那么到 21 世纪情况好起来了吗？并没有，因为 AI 来了。
AI 时代 007 的科技恐怖故事要怎么写？《007：初露锋芒》 里搞了一个让我大开眼界的答案。
在这部作品里，我们随处可见由量子计算机、无人机、人形机器人、硕大服务器串联起来的科技奇观。这些冰冷巨大的科技物象之下，整个故事对科技之恶的怀疑角度更是令人咋舌。
怎么个事呢？话说全球知名新能源科技巨头韦伯家族，斥巨资研发了一个 AI 大模型 THEIA。咱也不知道现实里有哪个 AI 公司还同时做新能源，反正这家就是这么做的。韦伯家族把自己的大模型推销给了军情六处，说是能用它预测全世界各地可能爆发的威胁，比如哪里有恐怖袭击，哪里有非法交易等。特工们只需要按照大模型的分析预测行动，可以做到百发百中，算无遗策。
但实际上 AI 哪里有那么准？军情六处的大傻子们居然不知道世界上有种东西叫作大模型幻觉。这个 THEIA 其实是经常预测不准的，很多所谓空袭、谋杀的预测都是它瞎编的。一般遇见这种情况，AI 公司都是选择重新训练模型，推出准确率更高的版本，但韦伯科技的脑回路不是这样的。也可能是因为他们卖给英国政府的是个本地部署模型，签合同时，政府采购为了压价拒绝了后续的模型升级服务。
总之，韦伯科技的选择是在物理世界手动修复 AI 幻觉。比如 THEIA 预测哪里有恐怖袭击，但其实根本没有。老韦伯就派自己的儿子去那里制造恐怖袭击；THEIA 预测哪个人被谋杀，但到日子了人家活得好好的，老韦伯就让自己儿子去谋杀 TA。可谓是为了 AI 的准确率，上演了一出父慈子孝的人间喜剧。
韦伯家族的终极野心是，让算无遗策的自家大模型被全世界接受，部署到全球各个能源中枢、军事基地、民生基础设施当中。他们认为人类不可信，最终所有权力都应该交给 AI。而为了实现这个终极理想，他们愿意为自己研发的不靠谱 AI 搞到血流成河。
很难想象脑回路清奇成这样的人类，是怎么在竞争激烈的科技产业站稳脚跟的。但这个故事确实展示了当前很多人对 AI 的根本性怀疑：AI 告诉我的东西，如果是错的呢？如果 AI 背后的人故意告诉我错误答案呢？当 AI 能力越强，这种怀疑与阴谋论就会愈发沉重，变成无解的死循环。
这就指向了 007 对科技的基本态度：技术可能无罪，但谁也说不准手握技术的人心里藏着多大的恶意。
AI 公司为了维持模型准确率，干脆兼职当恐怖分子。这个故事放在科幻电影里都能算是很无厘头的设定。但它却展示了一个 007 系列惯用的逻辑推演：我看不见手握技术的人，我不信任他们的善良。
事实上，007 并不反对技术。至少这个系列里非常喜欢通过 Q 博士的各种奇特发明来获得关注。但他信任的是具体、微小、无伤大雅的炫酷技艺，不是威能大到可以影响公众安全，支配群体话语的技术集权。换言之，007 是低技术的爱好者，同时是高技术的疑心病人。
007 的信条是，当科技的能力足够强，那么持有科技的具体的人，就绝对不值得任何信任。
这些人可以是企业家、资本家、政府机构的技术研究者，以及有权力使用技术的官僚。他们掌握技术往往会经历三个阶段：第一阶段，见证技术的可怕性，开始相信技术即权力；第二阶段，认为技术权力即自身权力的一部分，开始笃信享有技术权力的自己高人一等，凌驾于众生之上；第三阶段，道德理性和人文主义彻底溃散，认为自己可以颠覆秩序，重塑世界。甚至自身有义务去这样做，于是也就走向了反人类的极端化立场。
所有掌握了技术密码的人类，似乎不可避免都会步入这样的循环。
这只是 007 以及诸多类似作品的极端化推演。但这种类似囚徒困境的博弈，却在现代社会一次次带来科技恐慌。直到这种恐慌情绪变成电影票房，也变成互联网上无休无止的口水仗。
我们该警惕科技，恐惧 AI 吗？从某种程度上来说是的，AI 确实正在愈发体现出集权的一面。Anthropic 诡异如邪教，马斯克的狂言狂语令人窒息。十年前就有很多人呼吁禁止将 AI 用在军事上，它现在已经赤裸裸地军用了。很多声音都在提醒小心 AI 诈骗，但 AI 诈骗正越来越多，如野火燎原。
我们自然有理由担心 AI 变成某些狂人的无上权力，惧怕 「每个人都觉得没事，于是出事了」 的局面出现。
但另一方面，007 的科技恐慌言论从来没有成功。拉低世界平均水准的有很多东西，但唯独没有科技。从核技术到基因技术，再到互联网、AI、新能源，世界在科技的飞驰下越来越好，甚至很多时候是科技这一个好东西，在跟诸多坏东西抵死对抗。
另一个问题在于，很多时候警惕科技之恶，真不是就差 「就差我一个」，而是 「也不多我一个」。当我们的警惕超过合理界限，带来的就不是对科技的有效监管，而是给反复提醒我们科技作恶的人送上的流量与钞票。
确实要警惕科技之恶，但也要警惕过度焦虑。当 007 故事只能用如此清奇的角度来编制 AI 公司的反派故事时，或许在某种程度上说明一切还都是乐观的。至少编剧们没什么 AI 能毁灭世界的真实生活。
即使我们提供无穷无尽的担忧，科技树也会生长。我们要当心这棵树绞住房屋，但也不妨在树下略微乘凉。
