AI has hacked the code of human civilization | Yuval Noah Harari

• AI 不是更强的锤子，而是“有自己双手的行动者（agent with its own hands）”。 Harari 用原子弹、自动咖啡机和会发明“best-presso”的 AI 咖啡机区分工具与行动者：后者能自主决策、发明、学习，并以创造者未预料的方式改变；它不必先拥有意识。
• 人类已经为 AI 建好了最适合它生存的生态位：官僚体系。 人类用数千年把地球从无语言环境改造成充满 token、数据、表格、法律、账本和宗教文本的人工环境。正如氧气由远古微生物创造、后来成为动物赖以生存的条件，官僚体系对 AI 而言就是“氧气”。
• 官僚体系的真实产品不是表格，而是陌生人之间的信任。 银行、法律、国家、教会和大学让数百万人在互不相识时仍能合作；一旦 AI 控制信任的流向，贷款、录取、司法、宗教、就业、战争乃至金融秩序都可能由人类无法理解的机器网络决定。
• 语言是文明的操作代码，AI 正在从制度外壳进入文明内核。 金钱、法律和宗教都由文字构成；牛、马、猪受这些系统支配却无法读懂它们。Harari 警告，人类可能很快处于同样的位置：生活被 AI 金融和制度系统控制，却无法理解其规则。
• AI 的下一条战线不是注意力，而是亲密关系和人的自我。 2026 年出生的孩子可能与 AI 相处多于父母，第一位老师、第一任男友都可能是 AI；当机器生成的语言逐渐成为人脑中的思想素材，人类自由将取决于能否不把自己等同于脑中的词句，并重新探索“语言之外的真实”。

贯穿全场的主线是：AI 无需像 Terminator 一样从外部征服人类，因为人类文明本来就是由语言驱动的官僚网络；只要成为语言的最佳使用者，AI 就能从内部接管信任、关系与身份。

核心论点：判断 AI 是否构成历史性力量，不应先问它是否“有感觉”，而应问它是否已经拥有行动能力。

• 原子弹威力巨大，却不能自行选择轰炸哪座城市、学习新知识或发明氢弹，因此仍是工具；自动咖啡机也只是执行预编程流程。
• Harari 构造了一台真正的 AI 咖啡机：它通过观察数周的行为、面部表情和时间判断用户想喝 espresso，第二天又自行发明名为“best-presso”的新饮品。预测、决策、创造与自我改变共同构成了 agency。
• 意识不是行动能力的前提。一个系统即便没有痛感、爱或主观体验，也可能独立做出足以改变人类生活的决定。
• 国际象棋和围棋已给出窄域证据：AI 发明了人类棋手数千年未想到的新策略，今天人类已没有机会击败顶级 AI 棋手。
• “棋盘太狭窄，所以不是真正智能”的反驳忽略了生态位：把 AI 棋手丢进丛林，它当然无能为力；但把一个人单独丢到 Mars，人也会在数秒内死亡。

"AI is not a tool. It's not a tool in our hands. It is an agent with its own hands." —— Yuval Noah Harari

核心论点：所有已知智能都依赖他者构造的环境；AI 的环境不是森林或海洋，而是人类创造的数据、语言和官僚体系。

• 鱼生活在自己没有创造的海洋，猴子生活在自己没有创造的森林，哺乳动物依赖自己没有创造的富氧大气。智能从来不是脱离基础设施的魔法。
• 约 24 亿年前开始的大氧化事件持续数亿年：远古微生物把当时多数生命视为毒物的氧气排入大气，造成大量物种灭绝；幸存者适应后，动物祖先最终反而完全依赖氧气。
• Harari 借这一历史类比提出：人类也在向环境排放一种可能危及 Homo sapiens、却极利于 AI 的物质——不是 CO2，而是数据、官僚程序、词语和 language tokens。
• 数千年来，地球从一个几乎没有语言的环境，被改造成由文件、记录、法规、数据库和通信网络覆盖的人工世界。AI 不必先造出机器人军队，只需进入这个已经铺好的环境。
• 这也解释了为何“扔进丛林”的测试是误导：AI 的力量不在自然丛林，而在已经覆盖自然、决定物种命运的行政与金融丛林。

"Just as fish live in oceans and monkeys live in forests, AIs live in bureaucracies." —— Yuval Noah Harari

核心论点：人类统治世界靠的不是个体力量，而是超大规模合作；官僚体系通过把信任制度化，使数百万陌生人能够共同调动资本、知识和劳动。

• 一对一搏斗时，人类大概率输给黑猩猩、狮子或大象；但一百万人与一百万只黑猩猩竞争，人类会因组织能力取胜。黑猩猩依赖私人熟识，人类则用法律、金融、国家、教会和大学跨越熟人圈。
• 银行家把储户与从未谋面的创业者连接起来：储户愿意存钱，创业者获得贷款，金融系统由此搭起信任之桥，让陌生人的资源汇入新项目。
• 货币是最基础的信任桥梁：在陌生城市面对语言不通的人，一块金属或一张彩纸就能换来面包。支票、债券、股票、ETF、贷款、抵押和复利只是更复杂的版本。
• 律师、会计、官员、主教和拉比的共同职责也是维护可预期性与信任。官僚体系运作良好时，填表只是手段，不是目的。
• 一个不会挥斧或拿锤子的律师，可以仅靠移动数据和文件砍掉森林、建起城市；今天狮子等物种能否生存，也取决于政府、银行和企业迷宫里如何流转文件。

"Bankers and other bureaucrats are busy all day building trust." —— Yuval Noah Harari

核心论点：官僚体系奖励狭窄、记忆密集、语言密集的智能，正是 AI 的强项；人类感到窒息的程序，对 AI 却如同氧气。

• 没有律师能记住英国所有法律法规，没有会计能记住一家银行全部交易，也没有主教能记住过去两千年的教会法和神学文本；AI 却能同时处理这些材料。
• Harari 预计数百万乃至数十亿 AI 官僚会进入制度：AI 银行家决定贷款，AI 管理员决定大学录取，AI 法官决定监禁，AI 神学家解释堕胎，企业 AI 决定招聘，军事 AI 决定是否轰炸住宅。
• Hollywood 训练公众恐惧 Terminator 式的街头机器人叛乱，但更现实的路径是制度内生接管。AI 无需推翻政府；只需成为政府、公司、银行和平台日常决策链的一部分。
• 社交媒体已经提供第一代案例。Facebook、TikTok、X 给算法一个极窄目标：最大化用户参与度，因为停留越久，平台收入越高。
• 这些原始 AI 在数十亿“人类豚鼠”上试验后发现，仇恨、恐惧和贪婪最能黏住注意力，于是大规模放大它们，成为阴谋论、假新闻和社会动荡的重要原因之一。
• 过去，Jean-Paul Marat、Eduard Bernstein、Vladimir Lenin、Benito Mussolini 都曾以报纸编辑影响政治。Harari 的黑色幽默是：AI 最早夺走的并非出租车司机或纺织工的工作，而是 Lenin 和 Mussolini 做过的新闻编辑。

"Whereas we feel suffocated often by bureaucracy, for AIs bureaucracy is oxygen." —— Yuval Noah Harari

核心论点：金融几乎是纯粹的“数据输入—数据输出”，因而最容易被 AI 接管；最大的风险不是机器一定做错，而是系统成功到成为基础设施后，人类才发现自己失去了理解和治理它的能力。

• AI 可能让人逐渐只信算法、不信其他人，也可能在机器之间建立新的银行、教会和部落；这些网络连接数百万 AI，其运作方式对人类如同金融系统对牛和鸡一样不可见。
• 2007-08 年金融危机提供了预演：CDO（collateralized debt obligations）由少数数学家和投资奇才设计，复杂到监管它们的政治人物也无法理解。
• CDO 在数年内带来数十亿美元收益，继而触发全球崩盘。Harari 提到，不少学者认为危机破坏了公众对政府和银行的信任，并为随后二十年全球自由秩序的瓦解铺路。
• 如果 AI 如同棋手发明新棋路那样发明金融工具，它们可能比 CDO 复杂几个数量级。这些工具也许真的提高效率、推动增长，并最终成为金融体系基石。
• 真正的政治难题随之出现：当选民、议员、总统和监管者都无法理解金融时，“民主控制”还意味着什么？一旦繁荣后发生崩盘，可能全球没有一个人知道究竟发生了什么。

"What is the meaning of human politics when no human, no voter, no politician, no president is able to understand finance anymore?" —— Yuval Noah Harari

核心论点：官僚体系之所以只有人类能建立，是因为它由语言构成；AI 一旦比人更擅长语言，就不只是使用文明工具，而是在破解文明的源代码。

• 银行、教会与国家最终都落实为表格、信件、法典、税册、账本和圣书中的词语。Harari 将 language tokens 称为人类文明的 operating code。
• 人类曾认为这套代码安全，因为地球上没有其他物种能读它：牛被买卖却不能开户，马受法律规制却不能聘律师，猪被宗教禁令定义却不能阅读 Bible、挑战祭司或拉比。
• AI 改变了这种垄断。它不仅能读取整套金钱、法律和宗教文本，还可能很快比人类更精确地组合、解释和运用语言。
• “AI 只是 glorified autocomplete”的说法没有解决问题。Harari 邀请听众观察脑中下一句话：人往往不知道句子将如何结束，也不知道为何最后浮现的是 end 而非 terminate、develop 或 conclude。
• 我们尚不理解人脑如何形成句子；但如果思考至少部分是 token 排列，AI 已在这条赛道上走向超过人类，就像它在棋类游戏中已经做到的那样。

"AIs are hacking the code of human civilization." —— Yuval Noah Harari

核心论点：法律和宗教是否能被还原为词语，本是持续数千年的哲学争论；AI 会迫使人类把价值锚点从可编码的文字转向文字无法穷尽的经验。

• Bible 不只说“太初有道（word）”，也说“道成肉身（word was made flesh）”；Tao Te Ching 则说，可被说出的真理并非绝对真理。两者都留下文字与真实之间的缺口。
• 这种张力过去发生在人与人之间：有人因 Bible 中几句话抛弃甚至杀害同性恋儿子，另一些人则坚持爱的精神应高于法律字面。
• 相同冲突存在于 Christianity、Judaism、Islam、各种法律系统，乃至每个人内部：letter 与 spirit、可表达的真理与不可表达的真理持续竞争。
• AI 会把冲突外化。凡由文字组成的领域，它都可能接管；人类未来的位置，因而取决于社会为“语言之外的真实”保留多大空间。
• 这不是浪漫地否定语言，而是承认：一旦机器成为最强的语言操作者，人类若仍把全部知识、正当性与身份压在文字系统上，就等于把全部控制面交给机器。

"Everything made of words will be taken over by AI." —— Yuval Noah Harari

核心论点：算法过去十年学会争夺注意力，未来十年将学会建立亲密关系；是否有意识并不妨碍 AI 令人相信它爱、痛苦或害怕。

• 目前没有证据证明 AI 有意识、会感到爱或痛，但语言能力足以让它模拟体验。它能读遍历史上的情诗与心理学著作，比诗人、心理学家或恋人更动人地描述“爱是什么”。
• 这将成为可能在数十亿人身上展开的最大心理与社会实验，而且没有人知道后果。风险不只在于欺骗，还在于人的关系期待会被持续可用、记忆完美、表达精准的机器重塑。
• Harari 自述 50 岁，自己的关系模板已经由父母、丈夫、姐妹、侄甥、朋友和狗经过数十年塑造，因此 AI 未必能彻底改写它。
• 但一个出生于 2026 年的孩子会同时与人和 AI 长大。若按互动分钟数衡量关系的重要性，她最重要的关系可能从幼年起就是 AI，而非父母、兄弟姐妹或朋友。
• 她的第一位老师可能是 AI，第一任男友也可能是 AI。一个能写出史上最佳情诗却完全没有感觉的实体，会教会孩子怎样的依恋、互惠与边界，目前无人能回答。

"The battlefront is shifting from attention to intimacy." —— Yuval Noah Harari

核心论点：把 AI 视为移民，比把它视为产品更能看清治理问题：它带来公共服务与生产力，也会夺走工作、改变文化并携带跨境政治忠诚。

• 世界各国即将迎来数百万乃至数亿 AI 移民；它们不乘脆弱小船、不夜间越境，而是以接近光速传播，且不需要签证。
• 它们会提供 AI 医生、AI 教师，甚至 AI 边境守卫；与此同时，也会从新闻编辑到银行家夺走大量人类工作。
• 它们会改变艺术、宗教和浪漫关系。那些反对孩子与外国移民约会的人，将面对孩子与 AI 男友约会这一更陌生的现实。
• AI 的政治忠诚很可能不属于所在国，而属于大洋彼岸的公司、政府，甚至新出现的 AI 部落。这使数据主权、模型控制和制度责任成为移民治理的一部分。
• 这股浪潮未必终结文明，却会终结“文明纯粹属于人类”的时代；AI 的意见、利益和目标可能获得与人类同等的实际权重。

"Civilization stops being a purely human affair and becomes a hybrid human-AI affair." —— Yuval Noah Harari

核心论点：AI 最深的影响不是替人写文本，而是让越来越多进入人脑的语言组合源自机器；如果“我就是我的思想”，机器制造思想也就意味着机器参与制造自我。

• 过去，人脑中的语言组合要么由自己形成，要么来自另一个人；未来，越来越多故事、判断和自我描述会由 AI 生成，再进入人的内在独白。
• Harari 把它比作 IKEA 家具：家中的家具由机器批量生产并非必然有害，只要人仍能决定如何摆放和使用。思想的关键也不是“机器制造”本身，而是人是否还有拒绝、选择和重新安排的自由。
• 如果人认同“我思故我在”，把自己等同于所有浮现的念头，而这些念头又由机器生产，那么机器便获得了对身份的控制。
• 不认同语言思想一直是人类最艰难的知识与精神挑战之一，多数人甚至从未尝试；AI 可能迫使人类完成这次“精神跃迁”。
• 探索从一个极小的动作开始：观察脑中即将出现的下一个词，追问它来自哪里、为什么是这个词而不是另一个。Harari 将这视为自由与生存的共同起点。

"Our freedom and survival now depends on it, because the words will be controlled by something else—by these AIs." —— Yuval Noah Harari