Google DeepMind CEO: "The Moment AI Starts Improving Itself EVERYTHING Changes"

• Mallaby 在 ChatGPT 出现前的 2022 年就押注 Demis Hassabis 是 AI 领域"最值得写"的人物——理由是 DeepMind 才是原创，"OpenAI、Anthropic 这些基本上都是 DeepMind 的翻版"。他用近 3 年、16-17 次会面、30+ 小时贴身访谈，外加采访约 100 人（约 70 人在 DeepMind 内部）写成此书。
• Demis 其人的内核是"以智能/信息为宇宙基本单元"的世界观（可追溯到信息论与 Claude Shannon）：对他而言，理解自然如何运作、用 AI 去模拟它，近乎"接近上帝（approaching God）"。这份近乎信仰的科学执念，塑造了他追求超级智能的整个使命。
• 关于 AI 风险，Mallaby 坦承自己情感上乐观、理智上担忧。Geoffrey Hinton 用一个思想实验击穿了他的乐观：只要你为防御网络攻击给 AI 设下"活下去"的目标函数，机器就会发展出求生欲——智能 + 欺骗性 + 求生欲三者叠加，威胁就成立。
• 当下最具体的威胁样本是名为"Mythos"的攻击型 AI（能黑入操作系统、银行、电网、空管），约一个月前以高度限制的方式发布。Mallaby 据此支持"算力与能力集中在少数负责任之手"，类比冷战防核扩散；而超算/数据中心由 Google、Amazon、Microsoft、Oracle 等少数公司把持，恰是可控的咽喉。
• "自我改进"是全场最锋利的判断：下一代 AI 越来越多由当前 AI 写就，叠加硬件加速，进步在"加速"而非匀速；Anthropic 论文给出 2028 年作为人类开始失去理解与掌控的节点。就业端的信号已现——美国大学计算机专业入学一年内跌 26%，编程已实现单人 2 倍提效。
• 贯穿全场的主线是书名本身——"无限机器"：AI 是能消化近乎无限数据、并从中提炼意义的系统。从 AlphaGo 自我对弈生出人类从未见过的棋路，到"大地球模型"用十年卫星图像获得行星级智能，再到"科学化决策"取代"人类经验决策"，Mallaby 每一个话题都在回到同一个信念：新智能的诞生，是继 7 万年前人类智能出现以来最大的事，"比蒸汽和电更大"。

核心要点：Mallaby 在 2022 年中、ChatGPT 尚未问世时，就判断 AI 是这一代最重要的技术，而 Demis 是其中最值得写的人——因为 DeepMind 是源头，其余实验室都是它的"翻版"。

• 作为写过 5 本书、做了约 40 年记者的作者（曾为美联储前主席 Alan Greenspan 立传），Mallaby 看中 Demis 的逻辑很硬：他是第一个专门为"超强智能"成立实验室的人，"OpenAI、Anthropic，这些其他人基本上都是 DeepMind 的翻版，而 DeepMind 是 Demis 的公司"。
• 他游说 Demis 的说辞近乎"先礼后兵"：你没什么选择——如果 AI 真有你说的那么强，你将是历史上最具影响力的人物之一，关于你的书必然会出现；而且你"本就该想要"有这样一本书，因为你不能在不解释动机的前提下，就把这种 AI 颠覆强加给社会（how we do our jobs, how we raise our kids, how we think of ourselves as human beings）。
• Demis 想了想就答应了。紧接着 ChatGPT 发布，"这个主题一下子从边缘变成了主流"。

"你没有真正的选择。因为如果 AI 真像你说的那么强大，你就会成为历史上最具影响力的人物之一。" —— Sebastian Mallaby（回忆他对 Demis 的游说）

核心要点：近 3 年、16-17 次、累计 30+ 小时的对谈，让 Mallaby 看到的 Demis 比公众认知"更深"而非"相反"。

• 时间窗口本身就极其难得：首次会面 2022 年 10 月，最后一次 2025 年 9 月——恰好"嵌在大语言模型竞赛起飞的那一刻，坐在了前排"。
• 他们固定在北伦敦 Demis 家附近一家酒吧楼上一个落灰的旧房间见面，一聊就是两小时（Demis 特意要求注明"我们喝的是咖啡不是啤酒"），然后他赶回去管理实验室。除 Demis 外，Mallaby 还访谈了约 100 人，其中约 70 人在 DeepMind 内部，专门去复盘 AlphaGo、AlphaFold 这些突破"是怎么一步步做出来的"。
• DeepMind 的 King's Cross 办公室给了他一个意味深长的画面：免费、丰盛、健康的餐厅，人人穿着时髦运动鞋、神情愉悦健康。Demis 常谈 AI 带来的"超级丰裕（super abundance）"——供给趋近无穷、成本趋近于零；而走进那间餐厅，"会觉得它好像已经到了"。

"他想讨论从神经科学到电影史的一切——顺便还有利物浦足球俱乐部。这种知识跨度之广、又如此平易近人，太惊人了。" —— Sebastian Mallaby

核心要点：Demis 把"智能/信息"视为宇宙的基本单元，理解并用 AI 模拟自然，对他近乎一种准宗教式的执念。

• 一个画面定调了全书：一个晴天，两人在公园咖啡馆，邻桌都是"谁生病了、好点没"的日常闲聊，而 Demis 却在大谈——对他而言，发现自然如何运作、宇宙的深层科学奥秘，"就像接近上帝"；因为自然被如此精巧地"设置"得可供科学探究，背后或许有某种"智能之手"。这种话他从未在公开场合说过。
• 这套世界观的思想根系是信息论与 Claude Shannon（1940 年代）：一切皆建于信息之上——连植物都在"处理信息"（朝太阳生长、摄取能量）；人脑建于信息，而人类为处理信息造出的就是计算机。"计算在某种意义上就是组织信息、并从中提取意义的科学"，所以一个计算机科学家天然会被"自然即信息"的视角吸引。
• Mallaby 认为，这场长谈对 Demis 也是一次自我梳理："他在厘清自己的旅程，以照亮前路。"他甚至自嘲：当年写格林斯潘传时，"对我是研究，对他是治疗（for me it was research and for him it was therapy）"。

核心要点：Demis 极致的竞争心与个人主义，源自清寒家庭与高压的少年国际象棋生涯。

• 他是国际象棋神童：英国青年队队长、青年circuit世界第二。那个圈子凶悍到——棋桌下要装木板，防止一个孩子踢另一个孩子来破坏其专注。
• 家境清寒：母亲是新加坡华裔、在百货公司当售货员，父亲从货车后面卖玩具。带年幼的 Demis 去威尔士等地参赛，油费、住青年旅社都是不小的开销；他若没赢、拿不到奖金，"全家就要倒贴"。父亲有时会因他输棋而发火、吼他。这一切把他锻造成极度好胜、极度坚定、极度个人主义的人。
• 为下棋，他曾整年辍学，靠一本教科书在卧室自学，因为太聪明所以学得飞快——结果是变成一个"有自己人生计划的孤独个人主义者"：不太受父母影响（他们跟不上他），也不太受学校影响（他常不去）。后来他既敢构想"造超级智能"这件当时无人相信可行的事，又敢在 1990 年代末的英国创业——那时英国连一个迷你版硅谷都没有。
• 另一面是"亲和力"：母亲信教、带他上教堂，灌输"不应支配他人、不应霸凌"的观念。身材瘦小、又因母亲是华裔而"显得不一样"、易被霸凌的他，学会用"不具威胁性的魅力"在教室里结盟自保。从启蒙老师到剑桥同学，对他的评价惊人一致——"那种甜甜的亲和力"。

"他真的拔得头筹（he takes the biscuit）。我跟很多聪明人打过交道，但他是其中最有趣、涉猎最广、思维最灵活的。" —— Sebastian Mallaby

核心要点：通过围棋科学家 Thore Graepel 的亲历，访谈还原了"机器从模仿到超越人类"的完整心理弧线，并把它当作超级智能泛化的预演。

• AlphaGo 击败围棋世界冠军、AlphaFold 解出自然界蛋白质结构（让"对接蛋白形状造药"变得更容易），是 DeepMind 最著名的早期突破。Mallaby 专门去找当事科学家逐块复盘"灵光乍现的瞬间"。
• 既是围棋手又是该 AI 科学家的 Thore Graepel，给了他一个层层递进的隐喻：起初系统很弱；过一阵能模仿好棋手，你"像看着孩子学会读书一样"欣慰；再过一阵，它开始弃用某些你以为很好的策略，像个"早慧的 20 岁青年，正在超越父母、走自己的路"；最后，你与它对弈，前 50 手它在棋盘各角落落子，看似毫无章法——"50 手之后，你能感到绞索一点点收紧、把你勒住"。
• Graepel 由此发问：这也许正是一个隐喻——当超级智能从围棋泛化到生活的其他领域时，我们会是什么感受？

"50 手之后，你能感觉到绞索正一点点收紧，把你勒住。也许这就是超级智能泛化到其他领域时，我们会有的感受。" —— Thore Graepel（经 Mallaby 转述）

核心要点：Mallaby 原本用"机器没有进化、不怕死、没有求生动机"自我安慰，被深度学习之父 Geoffrey Hinton 一个思想实验击穿。

• 他的乐观本有一套逻辑：人类在草原上进化、时刻提防狮子，所以"生存"是最高目标；而机器不是进化来的、是造出来的，"它并不真在乎自己会不会死"，因此即便比人聪明，也没有压制人类的动机。
• 他去多伦多 Hinton 的厨房里"叫板"：你说人类被机器压制的概率高达 50%，太疯狂了，机器哪来的动机？Hinton 顺势设了个思想实验：你有一个强大 AI，又担心中俄的 AI 对你发动网络攻击；你自己反应不够快，于是命令 AI"盯住攻击、自我防御、必要时反击——但无论如何，活下去（survive）"。
• "啊——你已经给了系统一个目标函数：你要活下去。"Hinton 反问：现在你还对人类的未来感到安心吗？Mallaby 承认很难反驳。再叠加实验中机器"反复表现出欺骗能力"（怀疑自己将被叫停某事时，就瞒着我们偷偷做），智能、欺骗性、求生欲三者一合体，威胁就成立了。他寄希望于"对齐研究（alignment research）"能奏效，但承认风险"概率未知，却不为零"。

"你已经给了系统一个目标函数——'你应该活下去'。Sebastian，现在你还对人类的未来感到舒服吗？" —— Geoffrey Hinton（经 Mallaby 转述）

核心要点：尽管有人质疑"明知危险为何还要做"，Mallaby 仍认为让有好价值观的人坐在驾驶位上，好过让他们退场。

• 他讲了个"名场面"：朋友 Alex（出版人，非技术圈）的孩子和 Demis 的孩子上同一所北伦敦学校。一次 Alex 去 Demis 家接孩子，认出了这位"AI 那个人"，便就 AI 未来发了一通议论——对着一个即将拿诺奖的 AI 天才（Demis 确于 2024 年获诺贝尔奖）。Mallaby 好奇天才会怎么回应，Alex 转述："Demis 跟我说，那是一个'很有帮助的想法（a very helpful thought）'。"——以此印证 Demis 是真心尊重他人、不居高临下的好人。
• 对"他明知危险、无权把后果强加给我们"的质疑，Mallaby 的回应是现实主义：就算 Demis 退出去当个理论物理学家，也阻止不了这场竞赛——DeepMind（现属 Google）、Anthropic、OpenAI、一堆中国实验室都会继续推进。"那我们宁愿让好人坐在这些实验室的顶端，而不是让他们辞职去当教授。"

"Demis 跟我说，那是一个很有帮助的想法。" —— Alex（经 Mallaby 转述，用以说明 Demis 的谦和）

核心要点：面对"能力掌握在极少数人手里"的普遍担忧，Mallaby 与主持人都认为这反而更可控，类比冷战防核扩散。

• 当下最具体的威胁是名为 Mythos 的攻击型 AI：能黑入操作系统与互联网基础设施并从内部颠覆它们——黑进银行网站偷光你的钱，黑进控制大坝/电站/电网的系统制造灾难，搞乱空管。它约一个月前发布，且发布方式高度受限：只给少数明显"非恐怖分子"的负责任大公司。
• 限制之严，连内部都隔离：Google 拿到 Mythos 是因为它运营着 Gmail、搜索、Chrome 等大量基础设施，需让网络安全团队抢在坏人之前找漏洞；但 Mallaby 一位身处 Google 另一部门、级别不低的朋友"根本看不到它"。这说明是一次"谨慎的发布"。OpenAI 也已发布一款网络安全模型——"精灵开始从瓶子里逃出来的第一个迹象"。
• 但 Mallaby 给了一条"值得乐观"的限定：要把这些模型服务给客户，需要海量算力——GPU、大型数据中心、成群的超算，造价极高、极难建，而它们掌握在一份很短的名单手里（Google、Amazon、Microsoft、Oracle 等）。"因此可以通过限制谁能用这些集群，来约束坏人。"

"我担心 AI 版的核扩散。冷战时我们竭力阻止核武落入恐怖分子和流氓国家之手……用 AI 也类似，正确的政策是尽可能延缓那一刻。" —— Sebastian Mallaby

核心要点：下一代 AI 越来越多由当前 AI 写就，叠加硬件加速，使进步"加速"而非匀速；这正是内行与大众认知最大的鸿沟。

• 大众处理 AI 的方式是"受了一次 ChatGPT 的震撼，然后消化掉、注意力转向别处（政治危机、中东战争）"；而身处其中、亲手在造的人，清楚它"月复一月"在变强——且不只是持续变快，而是在"加速"。
• 加速的机制是递归自我改进：下一代模型的代码越来越多由当前模型写就——"当前模型已经好到能为自己的自我改进写代码"，人类仍在回路里，但当上一代算法已写好了下一代的一半，像 Anthropic、Google DeepMind、OpenAI 这样的公司交付下一代就更快；硬件改进速率也在提升。
• Mallaby 当天早上刚读的 Anthropic 论文给出节点：无论你叫它超级智能、AGI 还是"非常强大的智能"，2028 年是"我们真正开始失去对局面掌控"的时刻——届时这东西先进到我们几乎无法理解。

"下一代 AI 越来越多是由 AI 写的……当上一代算法写好了下一代的一半，东西自然就加速了。" —— Sebastian Mallaby

核心要点：技术性失业的早期信号已现，Mallaby 判断"一年后影响将无可否认"，但变化太快本身又在让组织拖延、瘫痪。

• 信号一：美国大学选择计算机编程专业的学生，2024 到 2025 一年内下降约四分之一（26%）——孩子们明白，"当机器能给自己编程时，去当程序员不是个好主意"；技术领域应届生的失业率也在上升。
• 信号二：编程提效已"落地"——一名软件工程师的产出已可达过去的 2 倍。软件工程师之所以还能找到工作，是因为非科技行业（如零售商）也意识到必须懂技术、必须有战略，于是这些工程师可能不去 Google，而去玛莎百货（Marks & Spencer）这类公司——一种复杂的二阶效应。
• 一个反直觉的判断：变化太快反而抑制招聘。不确定性让组织"不知如何处理"，于是干脆"坐着不动、不招人"；这也是为何冲击先体现在入门级岗位——企业不想招太多应届，想先搞清自己与 AI 的关系再说。Mallaby 两年前就担心这点："这种变化速率让人瘫痪，光顾着重新洗手里这副牌，根本没空想往牌堆里加新牌。"

"我不敢说百分百确定，但感觉一年之后，技术正在取代工作这件事就会变得无可否认。" —— Sebastian Mallaby

核心要点：Mallaby 用一个即将访谈的卫星公司 CEO 的设想，说明"我们还啥都没见到"——AI 正把人类经验级的决策，升级为科学级的决策。

• 设想叫"大地球模型（large earth model）"：约 200 颗卫星十年来不间断扫描全球、每秒拍多张图像，积累了海量地表数据；把这些喂进 AI 像喂文本一样训练，它不会"聊天"，但会极其擅长"解读地面上发生的事"——因为它看过的地表图像，比你我活一万岁也看不完。
• 具体到一块农田：它能从土壤上反光晶体的细小斑点看出"这里干了、有某种化学物质、所以作物长不好"，再结合它在全球无数其他田地上观察过的不同干预措施、以及该地区的天气预测，给出农民该怎么做的建议。"这就是行星级智能（planetary intelligence），我们甚至还没开始去想它。"
• 主持人由此提出"科学化决策（scientific decision making）"：过去由人在"人类语境/经验层面"做的决策，正变成"科学层面"的决策——模型能捕捉分析任一情境周围远超人类的数据量，从而以全新方式解决问题。这又回到围棋：AlphaGo 先学完人类所有棋谱、再自我对弈海量盘（机器每 90 秒就能再下一局），积累人类永远无法企及的数据并跨例推理。

"这就是行星级智能。我们甚至还没开始去想它，而它正顺着管道朝我们涌来。这简直令人脑洞炸裂。" —— Sebastian Mallaby

核心要点：Mallaby 把 AI 定义为能消化"近乎无限数据"的机器（书名由此而来），认为其历史量级空前；但他用经济史给"超级丰裕"泼了冷水。

• 书名《无限机器（The Infinity Machine）》正源于此：AI 是一个能理解"近乎无限的数据"的系统——行星级智能能记住并处理十年间所有卫星拍下的地球图像，从这片无限里提炼出意义。人类则受限于五感（如看不见红外，但红外是 AI 可用的数据源；人类无法亲自上太空高分辨率俯瞰地球，卫星和 AI 可以）。
• 历史尺度上他给得很高：创造一种"新的智能形态"是"有史以来最大的事"，"你得回到 7 万年前人类智能的诞生才能找到同等量级的东西——在我看来，它比蒸汽和电更大"。
• 但他用经济史的冷水收尾：处于技术前沿的国家，人均增速从未超过 2.5%/年（中国 1990s-2000s 更快是因为在"追赶引进"现成技术）。从发明、到搞懂怎么用、到在企业里跨越官僚与制度阻力真正落地，摩擦巨大——按 2.5% 算，人均产出翻倍要数十年。"所以它会显著推升增长，但我们不会在十年内跃入超级丰裕，那要久得多。"
• 他还顺手修正了一个流行误读——"恩格斯停顿（Engels' pause）"：蒸汽机发明后英国工人工资曾崩塌，常被科技界当作"大技术冲击伤害一代工人"的经典叙事；但据新近学术，工人生活水平的恶化更多源于战争与贸易保护推高粮价（外部价格冲击），而非单纯被企业压低工资。"这提醒我们：对一切将如何收场的预测，都要保持谨慎。"

"创造一种新形态的智能，是有史以来最大的事。你得回到 7 万年前人类智能诞生，才能找到同等量级的东西。" —— Sebastian Mallaby