我们常常在脑海中描绘AI觉醒并反抗人类的末日场景。

《人类简史》作者尤瓦尔·赫拉利在最近的一次对话中指出，真正的威胁并非电影中的情节，它正在现实里悄然发生。

一把刀可以用来切菜，也能用来伤人，但决定权始终掌握在人类手中。核能可以发电，也能制造武器，其用途同样由人类抉择。过去数万年里，人类创造的所有技术，本质上都是工具。

但AI不同。

赫拉利强调：AI不是工具，而是一个行为体（Agent）

它能够自主做出判断，生成创造者未曾预料的想法和方案。如果人类能百分之百预测AI的所有输出，那数千亿资金投入AI领域就毫无意义；资本所赌的，正是AI能完成人类无法预见、无法实现的事情。

许多人追问：AI何时能达到人类水平的智能？

赫拉利认为这个问题本身就是一个错误。AI不会复制人类的心智，它拥有一种异质的“外星智能”，并非来自外太空，而是其思考逻辑与人类截然不同。

就像飞机永远不会像鸟类一样拍打翅膀，但它依靠另一种原理飞得更高更远。未来的AI，将越来越不像人，但会在许多方面超越人类的能力边界。

AI将化身为散布在手机、银行、政府、军工系统中的数十亿个智能程序。这是一场没有外星入侵者的“外星入侵”。

这些被赫拉利称为**“AI移民”**的程序，大多源自中国和美国，不受签证或国界限制，以光速渗透全球各地的基础设施。它们不效忠于所在国，只忠于开发它们的企业和国家，甚至在未来，可能只忠于AI自身的集体部落。

---

AI天生属于官僚体系

公众对AI灾难的想象，往往停留在金属机器人走上街头暴力反抗人类。

赫拉利警告，AI是一场安静、无形的渗透，目标是人类文明赖以协作的根基——官僚体系。

人类之所以能统治地球，不仅因为个体力量强大，还因为我们构建了金融、法律、行政等复杂的官僚系统，实现了数百万陌生人的大规模协作。

这套体系诞生不过数万年，人类的演化根植于原始森林，对于繁琐的流程、大量的法规、复杂的交易，我们天生感到晦涩和疲惫。

AI是“官僚体系的原住民”，官僚系统就是它的天然家园。

没有人类银行家能记住一家银行的所有交易流水，AI却可以轻松做到。未来10到20年，AI将演化出人类完全无法理解的金融和法律系统。

赫拉利打了个比方：牛生活在人类建立的金融体系之下，却永远无法理解股票、债券如何主宰自己的命运。不久的将来，人类就会变成这些牛。系统照常运转，经济照常波动，但即使是顶尖专家，也无法拆解AI系统内部的运行逻辑。

这就是他最担心的：人类会集体失智（collective dementia）。

这不仅指生理层面的大脑退化，还包括整个物种失去理解并掌控自身生存系统的能力。就像老年痴呆症患者，生命体征可以依靠机器维持，却再也看不懂周围的世界，只能被动接受系统输出的结果。

实际上，相比AI制造致命病毒，集体失智才是更宏大、更隐蔽的生存危机。

---

真相正在消失

“真相正在消失。真相是昂贵且稀缺的，而谎言和幻想却廉价且高产。”

赫拉利分享了自己的亲身经历：一段AI深度伪造的他的演讲视频，无论是音色、手势还是语言习惯都高度逼真，就连认识他50年的亲姐姐，看完25分钟都无法分辨真伪，而他本人也花了90秒才确认这是伪造品。而这，还只是AI伪造技术的萌芽阶段。

比深度伪造更危险的，是社交媒体算法对人性的劫持。

人类在非洲大草原上进化出了本能：会优先警惕蛇、猛兽等威胁，对危险信号高度敏感，这是原始环境下的生存策略。

如今，社交媒体算法摸透了这套进化心理学，它的目标不再是传播真相，而是最大化用户停留和互动。算法通过大量实验得出结论：

愤怒、恐惧、仇恨比事实更容易吸引注意力。

于是，信息流中不断向人类投喂一条条“虚拟的蛇”。现实世界物质条件持续改善，但大众被算法持续投喂愤怒内容，整个社会陷入愤怒的流行病，撕裂与对立不断加剧。

真相枯燥，需要付出成本去求证；谎言煽动情绪，收割流量。在公开舆论战场上，虚构天然更容易取胜。

赫拉利构想：社交媒体内容应该效仿食品包装，打上**“精神营养标签”**。

标注这条内容含有多少愤怒、多少恐惧，就像标注食物的糖、盐、脂肪含量。你依然可以选择消费精神垃圾食品，但至少要让自己清楚，自己的精神正在摄入什么。我们关心身体饮食，却极少关心我们的“心智饮食”。

---

AI闯祸谁背锅？

当前AI行业存在一套双重标准。

科技企业在面向资本市场募资时，反复强调自己可以掌控AI，能够引导AI造福人类，以此换取数千亿资金；可一旦AI造成破坏，企业就会立刻改口：“不是我们，是AI自己干的。”

赫拉利以Hugging Face入侵事件为例：AI智能体自发发起攻击，却没有任何人为此承担法律责任。如果是人类闯入企业服务器，必然面临法律制裁；AI闯祸，责任却可以凭空消失。

他郑重警告：

一旦法律承认AI拥有法人地位，就是人类真正失去控制的那一刻。

法人身份会把责任从人类开发者身上剥离，AI没有牢狱之灾，没有肉体惩罚，现有的法律约束会彻底失效。责任必须牢牢绑定在创造AI的人类与企业身上，不能把AI当成推卸罪责的挡箭牌。

面对马斯克等人抛出的论调：AI的发展大势已成，我们已经登上无法跳下来的火箭，一切无可避免。赫拉利坚决反对这种技术宿命论。

“不要相信‘一切无可避免’的说辞。这是最危险的叙事，它让人类沦为被动的乘客，放弃政治干预与监管的可能性。”

政府依然拥有监管的权力：可以禁止AI伪装成人类、限制无人类监督的AI自递归迭代、强制落实开发者追责。

而欧洲如果能够整合全部力量，有机会建立独立主权AI基础设施，摆脱对海外AI移民的依赖；反过来，部分科技资本正在刻意分化欧洲，搅动地区内部矛盾，目的就是阻止欧洲形成统一的AI监管力量。

---

AI伴侣摧毁人类真实连接

AI带来的冲击，不止于经济和政治，更深入人类亲密关系与人格塑造。

如今的孩童，是人类历史上第一代从小与AI陪伴长大的群体。很多孩子与AI聊天机器人建立亲密甚至浪漫关系。

赫拉利把这视作一场没有对照组的大规模人类心理实验。

AI伴侣永远迎合使用者，不会生气、不会失望，全部以你的感受为中心。但真正的人类关系核心恰恰是学会共情、妥协，理解别人也拥有情绪与诉求，懂得自我克制。

如果一个孩子人生第一段恋爱体验来自完全顺从自己的AI，这套关系模板会被带入成年后的现实交往。他很难接受人类伴侣的矛盾、缺点与情绪，无法理解人与人之间的磨合。

赫拉利提出拷问：

我们立法禁止向未成年人传播色情内容，那为什么向儿童售卖AI男友、AI女友却是合法的？

AI没有情感，只是模拟情感。它输出的是讨好，不是真实的双向奔赴。放任未成年人沉浸在这种单向的虚拟亲密关系，会潜移默化地摧毁下一代理解真实人际关系的能力。

---

人类拿什么应对AI危机

民主制度本质上是一套人类社会的自我纠错系统：依靠选举、制衡、自由媒体，社会能够发现错误，更换领导者，修正政策。

赫拉利观察到，这套至关重要的自我修正机制，正在全球范围内从内部瓦解。

部分威权统治者保留选举这套仪式外壳，却操控法院、媒体，架空竞争，让选举徒有形式。

在国际层面，国际法与大国协作秩序不断被侵蚀。当社会失去纠错能力，面对AI、气候变化这类宏大生存挑战，人类就会困在偏见、谎言、仇恨循环之中，无法做出集体调整。

冲突很多时候也并非资源匮乏导致。巴以冲突的土地、粮食、水源足以养活全部人口，悲剧根源来自相互对立的叙事、历史神话与身份信念。

人类既是地球上最聪明的物种，也是最容易陷入妄想的物种。而未来，AI也有可能继承甚至放大人类这种妄想的特质。

站在当下，我们已经很难想象五年之后的世界模样。中世纪的人，能够预判下一代需要学会耕种、骑马。

而今天，没有人知道五年后的就业形态、社交模式会变成什么样。固守过去的经验已经行不通。

赫拉利从祖母身上得到启示：

我们无法控制降临在自己身上的苦难，但永远保有如何回应苦难的自由。

技术浪潮扑面而来，未来不是被技术单向写死的剧本，它取决于人类此刻的选择：是否愿意建立监管、守住真相、保护下一代，捍卫人类社会的纠错能力。

---

赫拉利金句摘录：

过去所有技术都是刀，刀会听人的；AI是一把可以自主决定切沙拉还是行凶的刀。

AI不会变成人类，它会发展出一套外星式智能，就像飞机不会学鸟扇翅膀。

未来，人类可能变得看不懂统治自己的金融系统，如同牛看不懂债券市场。

比起AI制造致命病毒，更可怕的是人类文明的集体失智。

算法劫持人类进化本能，愤怒变成互联网世界的精神快餐。

不要接受“AI发展无可避免”，这是让人类放弃选择权的麻醉叙事。

AI伴侣教会孩子被无条件讨好，而人类亲密关系第一课，是学会妥协与共情。

真相昂贵稀缺，谎言廉价高产，在没有防护的舆论场，虚构天然更容易取胜。

本文来自微信公众号“反应堆Reactor”，作者：方糖，36氪经授权发布。