Demis Hassabis, Alison Noble and Paul Nurse discuss the future of science with AI

• "数字速度的科学"（science at digital speed）有三层含义，且第三层正在到来：AlphaFold 既让"解"本身极快（几秒折叠一个蛋白）、又让"解的传播"极快（几个月放进数据库，现 190 国超 300 万研究者用过），而真正的拐点是 AI 直接加速发现本身——Demis 称"我们正处在奇点的山脚下（foothills of the singularity）"，并判断 AGI"只剩几年"。
• AI 擅长的问题有清晰画像，但工程已跑在科学前面：可被攻克的问题需同时具备"巨大组合空间（无法暴力穷举）+ 明确目标函数 + 数据/模拟器"三要素；但 Demis 坦言商业化聊天机器人让"工程进度远超科学理解"，他希望科学能追上工程，把系统从黑箱变成真正被理解的对象。
• 三位都把"创造性思考"和"提对问题"置于 AI 之上：Paul 直言湿实验"极度无聊"（大半时间在转移液体），AI 应把时间还给创造性思考；Demis 强调"提对问题比解题难得多"，而当前 AI 系统做不到；这构成科学家在新时代必须具备的新"品味（taste）"。
• 最大的风险不在技术本身，而在缺乏理解与治理：Paul 批评高影响力期刊（点名 Cell）沉迷"诱人却空洞"的技术、堆数据不下结论；Demis 列出四类担忧——坏人滥用、AGI 对齐风险、利益分配、意义与目的，并认为对齐研究应交给学术界而非让大厂"自批作业（marking their own homework）"。
• 给学术界与年轻人的务实建议：别追前沿模型，去屏蔽噪音、做独特的事：Demis 说造前沿模型该留给少数巨头（美国 5 家、中国 3 家），学术界应研究黑箱、做监控与 benchmark——这些用开源小模型（Gemma 4 能在单台笔记本跑）即可；最好的科学家"屏蔽噪音"，就像 2010 年没人看好 AI 时他们坚持的那样。
• *贯穿全场的主线，是"工具 vs 理解"的张力：从 AlphaFold 到虚拟细胞、从大数据到黑箱、从加速发现到意识与哲学，三位反复回到同一判断——AI 是人类造过的第一个能超越其创造者知识的工具，但科学的根本仍是好奇心驱动的"理解"，而非数据的堆积；用得好，未来 10–20 年将是科学的"新文艺复兴"。*

核心论点：Demis 用 AlphaFold 定义了"science at digital speed"的三层含义——解的速度、解的传播、以及 AI 直接加速发现本身——而第三层正是当下的拐点。

• 这个说法源自 2020–2021 年：DeepMind 用约一年时间折叠了科学已知的全部约 2 亿个蛋白质结构，Demis 由此意识到他们正把科技/工程领域的方法用到一个科学课题上。
• 第一层"解的速度"：AlphaFold 几秒就能折叠一个普通蛋白，且准确到"虽不完美但足够供实验生物学家使用"。
• 第二层"解的传播"：换作 CRISPR 这类实验方法，从重大发现渗透进湿实验室、成为博士生标配工具往往要 10 年以上；而 AlphaFold 与 EMBL 旗下的 European Bioinformatics Institute 合作，几个月就放进可关键词搜索的数据库——如今 190 个国家、超 300 万研究者用过这些结构，无需自有湿实验室即可在其上构建。
• 第三层"AI 加速发现本身"：Demis 称"现在正处于这个阶段的开端"，上周在 Google 年度大会上说"我们在奇点的山脚下"引起轰动；他认为 10 年后回看，当下这个"agentic（智能体）时代"的开端将是"里程碑式"的改变。
• 他把毕生投入 AI 解释为"对科学的一种元贡献"——造出帮助科学发现的终极工具，"AGI 就是它"；AGI 一词由其联合创始人 Shane Legg 提出。

"I think we're in the foothills of the singularity ... when we look back, I think it's going to be monumental." —— Demis Hassabis

核心论点：商业化的聊天机器人让"工程性能"远远跑在"科学理解"前面；Demis 希望科学能追上，把 AI 系统从黑箱变成被真正理解的对象。

• 上周 Nature 发了两篇 AI 自己做实验、提假设的论文（一篇来自 Google DeepMind）。主持人借此追问：科学的优势之一是"花时间评估真伪"，如今还有这个时间吗？
• Demis 回应：他希望领域能更严谨地把科学方法用到 AI 本身上——理解我们造的系统、而不只是当黑箱用；但这项工作"落后于性能进步的速度"，而 LLM/聊天机器人的商业化"火上浇油"，让工程进一步甩开科学。
• 时间感知的双重性："我们没多少时间了，AGI 只剩几年"；但社会其实早有预警——AlphaFold 2020 已完成（"AI 的远古时代"），AlphaGo 已 10 年（他刚去韩国见总统、纪念对局 10 周年），那是现代 AI 时代的标志性起点。"问题是这五六年我们作为社会有没有明智地用好。"
• Alison 补充学术界的结构性病灶：不奖励"慢下来"——尤其在学界，不第一就发不了论文；应改革奖励机制，鼓励人深入理解方法论。

"It would be better if we understood the systems we're building — that they're not just black boxes — but it's lagging behind the pace of the actual progress." —— Demis Hassabis

核心论点：从 AlphaGo 到 AlphaFold 再到 Isomorphic，能被这套方法攻克的问题有清晰画像——巨大到无法暴力穷举的组合空间、一个明确的目标函数、以及可靠的数据或模拟器。

• 三要素：①巨大组合空间（围棋走法比宇宙原子还多，蛋白构象约 10^300，都无法暴力穷举）；②明确目标函数（赢棋、找最优招、最小化系统自由能）；③数据来源（真实数据或精确模拟器，理想是两者兼有）。
• 合成数据的实战：AlphaFold 训练时 PDB 里约 15 万个蛋白不够，团队先用早期版本折叠 100 万个、再挑约 30 万个"AlphaFold 自认高置信、准确"的结构回灌——但要非常小心合成数据的分布匹配。
• 方法本质：用深度学习模型学到该领域的一个模型，再用它引导搜索过程，把本来无法处理的组合空间变得可处理，找到"大海捞针"的那根针。
• Isomorphic Labs（重塑药物发现，Paul 任顾问）是这套思路的延续：药物化合物空间约 10^50；AlphaFold 只是其中一个组件（蛋白结构），公司在做"半打个 AlphaFold"，还要预测毒性、ADME 等性质。

"You have a huge combinatorial space ... you need a clear objective function ... and you need some source of data." —— Demis Hassabis

核心论点：Paul 以"湿实验科学家"的视角给出务实清单——从简单机器学习到 AlphaFold——并指出下一步是把 AI 整合进实验的"闭环"，而这卡在生物数据的特殊形态上。

• 已落地的实惠：机器学习让图像分析从几天变几分钟；文献综述一两分钟搞定（"LLM 给的挺无聊，但能让你起步"）；AlphaFold 尤其惊艳——做完实验后把结构丢进去，立刻能产生关于机制的想法和假设。
• 公共资助科学的价值：Paul 强调"没有公共数据库就根本不可能有 AlphaFold"——海量、以同一方式采集、curated 的数据是前提；Demis 接话"所以我们之后把它开源了"，Paul 评"他们做得很体面"。
• 下一步是"连接的闭环"：让 AI 在实验室每个环节都帮上忙——数据→假设→检验→新想法→产生更多数据，循环往复，最终服务于"理解生命、从理解细胞开始"这一终极目标。
• 难点在数据形态：生物数据不是 AlphaFold 那种海量同质数据，而是"不同地方、不同深度的井（depth not breadth）"，如何把这些异质数据连起来，目前还很 tricky，方法尚未到位。

"AlphaFold would have been totally impossible without [public funded data]." —— Paul Nurse

核心论点：Alison 指出，各领域都已解决了一个个孤立小任务，真正的前沿是把它们整合起来——而最难的是人类凭经验完成的"细粒度信息"。

• 以超声为例：拿起探头扫描需要人的专业手感——机器人做不了；现在人们想的是如何把"移动探头、施加特定压力"等步骤整合起来，但其中很多是"人就那么做了"的细粒度信息，目前极难建模。
• 时间标尺的变化：让机器人完成并整合所有这些任务，"五年前我们会说这是梦想，现在人们认为它是可能的"。

"Five years ago we would say that's the dream; now people think that's possible." —— Alison Noble

核心论点：三位一致认为 AI 应把科学家从枯燥劳动中解放出来，专注于创造性思考与"提对问题"——而这恰恰是当前 AI 做不到的部分。

• Paul 的"无聊论"：湿实验"极度无聊"，大半时间在把液体从一个管转到另一个管，"无法点燃任何人的智力"；可以让机器人去做，关键是保留并发展创造性思考——而 LLM"在思想上不具创造性"，只能把你往某些方向推。
• "提对问题比解题难"：Demis 说"提对问题、把它具体地陈述出来、设好对照，当前 AI 系统完全做不到"；Alison 与 Paul 都强烈认同——"提问的能动性"、那些"从某个角落突然冒出来的问题"，现有方法交付不了。
• 一段有趣的交锋：Paul 说移液时盯着液面弯月正好用来想实验；Paul 回忆 70 年代"我连那都不做，就盯着显微镜看，有大把时间思考"——但他也警告：用复杂技术时，你会把全部时间耗在"让该死的技术跑起来"上，反而不再思考你要研究的生物过程；"如果机器人来做，也许我们又有足够时间思考了。"
• Demis 的判断：AI 会带来工程式的快速迭代（快速原型→测试→前进），把博士生/博后从写 support vector machine 这类底层分析中解放（他当年在 UCL 做 fMRI 神经科学）；未来一个博士生能做的，相当于过去一整个实验室。
• 对年轻人的建议："猫已经放出袋子，AI 回不去了"；但要像他 90 年代拥抱家用电脑和互联网那样 lean into 新技术、并理解其原理——继续学 STEM，"即使你不怎么写代码，懂原理才能把编程工具用得更好"；而且工具全球分布，最有天赋、最有动力的学生在任何国家都能做前沿科学，"这在今天还做不到"。

"Asking the right question is much harder than solving [it] ... the current AI systems have no way of doing that today." —— Demis Hassabis

核心论点：Demis 希望真正强大的 AI 助手能帮人"用技术更少"——替你过滤信息洪流、守护注意力与心智空间。

• 现状诊断：今天我们被"不智能、试图劫持注意力"的系统（社媒等）轰炸，却又不得不"潜入这股洪流"去捞有用的信息。
• 理想形态：等 Gemini 这类助手真正强大（约几年后），你可以把信息收集"委托"给它——"我 10 点到 6 点深度思考，别打扰我，傍晚把我关心的世界大事总结给我"，并能真正信赖它。这样能保护科学家的思考时间，也保护普通公民做自己感兴趣之事的空间。
• Paul 的玩笑："想象我的研究生说——我现在去做深度思考了。"（全场笑）

"I would love it that we can then use technology less, not more ... so you've got more time to think." —— Demis Hassabis

核心论点：Paul 警告技术变得"危险地诱人"——堆昂贵数据、不下结论；Demis 则提出"大数据是问题、AI 是解"，并把 AI 视为"生物学的描述语言"。

• Paul 点名批评：高影响力期刊"发明花哨的看问题方式、堆一大堆昂贵数据，却得不出任何有趣结论"；他直言"有本叫 Cell 的期刊，曾经很伟大，现在我没法读了，全是这种东西、没有结论"——根子是人不思考，"这一切的目标应是理解，而不只是收集数据"。
• Demis 呼应：连接组学（connectomics）早期也曾如此（他在 MIT 做博后时质疑"这对理解大脑功能到底说明什么"）；并复述他向早期 VC 推销 DeepMind 的说法——"big data 是问题，AI 是解"。
• "AI 是生物学的描述语言"：就像数学之于物理。Demis 认为不会有"细胞的牛顿三定律"——生物太涌现、太动态——所以更像一个模拟（这正是做虚拟细胞的理由）；经济学同理，是以"人"为原子单位的涌现动态系统。
• 天气案例佐证：DeepMind 的飓风路径模型，过去要超算做两周流体动力学计算，现在几小时给出同等甚至更准的结果，Met Office 已在用，去年用于 Hurricane Melissa——对提前预警一个国家而言是巨大差别。
• 又一个 taste 问题：很多 CEO 这两年急着"给业务加点 AI"，但 Demis 常对他们说"你只需要用统计就行、不需要 AI"——用错方法反而碍事；能不能用对工具去服务对的问题，同样靠科学家的品味。

"Big data is the problem, AI is the solution ... AI is the perfect description language for biology, just like maths was for physics." —— Demis Hassabis

核心论点：Paul 对当前虚拟细胞路线高度怀疑，主张用"黑箱分域"逼近；他实验室一个"细胞调控其实很松垮"的发现，或许指向理解生命的新角度。

• 泼冷水：有人把细菌细胞简化到 4–500 个基因、建 400 个微分方程去预测——"有 400 个微分方程还预测不了你想要的任何东西，那是你微分方程没学好"；况且这些动力学多在体外（in vitro）测定，体内（in vivo）未必成立。"我们离解决这个问题还很远。"
• 他的替代思路：把细胞切成若干"黑箱"域，不管箱内细节，只抓关键输入与输出，看这种简化能否产出有用结果。
• 关键实验（保留完整叙事）：测细胞蛋白合成速率——同一培养的均值完全相同，但群体内变异极大（有的细胞只有正常水平的 50%、有的高出 50%）；更怪的是，偏离的细胞 10 分钟后会回到均值。生物学家总以为一切被紧密调控，但事实是"很松垮、很 sloppy"。Paul 的猜想：也许正因为松垮，细胞才不会卡在错误的控制状态里——就像电脑出问题我们"关机再开机"，细胞做不到，但松垮让它永远不会卡死。"这可能全是胡扯，但这就是我会用 AI 辅助去逼近这个问题的思路。"
• Demis 的致敬与玩笑：Paul 的诺奖工作是"把人类基因撒到不复制的酵母细胞上"，看似疯狂却成功了——"需要恰到好处的疯狂，也许该给模型加个'craziness（疯狂度）旋钮'"。

"We biologists think everything is tightly regulated. Actually it isn't ... it's very floppy or very sloppy." —— Paul Nurse

核心论点：Demis 解释了一个本质区别——直接编程的系统很难超越创造者的知识，而学习型通用系统有潜力（在人类专家帮助下）走到人类现有知识之外，这是人类造过的工具里独一份的。

• 本科时的顿悟：用微分方程/规则（如 Deep Blue 那类）走不到通用智能；剑桥教的 first-order logic 显然错了——"我们说话半数不合语法，却仍能互相理解"，人脑显然在做别的事。
• AlphaGo 的证明：围棋无法像国象那样写"子力价值"启发式（每个子价值相同），必须从经验和自我对弈中直接学；结果它发明了人类下了 2000 多年都没发现的新棋路。
• 由此得出的关键洞察：直接用已知方程编程的系统，很难超越其创造者的知识；而学习型、通用的现代系统"有潜力在人类专家帮助下超越我们当前的知识水平——这是人类作为物种造过的任何工具都不曾具备的"。"你的车不会自己突然学会飞。"
• 回到模拟：①除非把整个星球模拟到量子级，否则必须圈定一个可近似外部的自包含系统；②内部要建到什么粒度才对预测有价值。化学很神奇——介于物理和生物之间，能把量子物理抽象掉单独研究；Demis 当前在试以细胞核为起点的子单元（和合作者在做），Paul 笑评"还是太复杂"，他也承认"可能还是太复杂"。

"It can actually potentially go beyond what we currently know as humans ... which was never true of any other tools we've ever built as a species." —— Demis Hassabis

核心论点：算力/能源是真实壁垒，但 Demis 认为更是"创造力问题"——学术界不该追前沿模型，而应研究黑箱、做监控与 benchmark，用开源小模型就能做大量好科学。

• 壁垒侧（Alison）：联邦分析（federated analysis）可共享算力再汇总结果；也要换不依赖大算力的计算方式 + 提供访问。
• Demis 的算账："能源基本上就等于智能"（芯片/数据中心近乎一对一相关），而英国能源是全球最贵之一，给规模化带来麻烦。
• 但他的核心主张是"创造力与想象力问题"：造前沿模型需几百亿美元算力，学术界"根本不该想这事，追不上、也没意义"——"美国 5 家、中国 3 家在做就够了"。
• 学术界该做什么：研究黑箱的分析与理解、压力测试、能力极限、上监控工具、做 benchmark——这些不需要大算力；用开源模型即可，Gemma 4 能在单台笔记本上跑，中国的小模型也很好，"只落后前沿 6 个月到 1 年，去年这时候还是前沿水平"。
• "屏蔽噪音"：最好的科学家会屏蔽 FOMO，就像 2010 年没人做 AI（学界视为死路，"90 年代试过，没用"）时他们坚持的那样；真信就走自己有独特优势的路。新时代做真正的跨学科前所未有地容易——用 AI 能比以往快得多地上手别的领域。

"There's open-source models like Gemma 4 ... built to run on a single laptop. The best scientists block out the noise." —— Demis Hassabis

核心论点：Demis 把担忧分为坏人滥用、AGI 对齐风险、利益分配、意义与目的四类；他对"对齐"谨慎乐观，但强调这是未解问题，且最好别让大厂"自批作业"。

• 四类担忧：①坏人重新利用通用技术作恶（个人/生物恐怖分子→流氓国家）；②技术性 AGI 风险（系统更自主更强大后，护栏能否约束到原本意图）；③经济问题（如何尽可能广泛分享好处）；④哲学问题（意义与目的）。他仍乐观——"相信人类智慧，急难时人类总能挺身而出"，但惊讶于"没有更多经济学家认真研究后 AGI 的经济系统"。
• "对齐（alignment）"问题：不是"关机开关在哪"那么简单；Asimov 的机器人三定律不管用、加第零定律也会被误读——这正是他写那些机器人故事的警示。从当前系统的可引导性（steerable）看 Demis 偏乐观，但"这是未解问题"。
• 治理建言：这类研究"也许更适合在学术界或公民社会做，而不是大科技公司自批作业（marking their own homework）"。
• 商业化改变了一切：本来希望先用 AlphaFold 这类应用快速推进（甚至在 AGI 到来前就治愈癌症），等社会准备好再面对存在性问题；但语言模型变得可能且高度商业化，"装不回盒子里"。现在需要国际合作/标准/认证——但偏偏地缘政治和国际机构碎片化正处低谷（nadir），"恰恰在最需要强国际机构与合作的时候，我们处在那个阶段的谷底"。

"It might be better to be done [in academia or civil society] rather than the big tech companies sort of marking their own homework." —— Demis Hassabis

核心论点：Demis 假设大脑"在极限上一切可计算"，并主张把"智能"与"意识"分开——先跨过 AGI 这条河，给社会时间，再去问"要不要主动创造有意识的实体"。

• 立场：他的终身偶像是 Turing；与 Roger Penrose、Stuart Hameroff 讨论过"大脑量子"假说，但"至今没有任何证据"（"把两个我们不懂的奇怪东西凑一起"）；从他全部神经科学经验看，假设"大脑中一切在极限上可计算"。
• 智能 ≠ 意识：当年用"AGI"而非旧词"strong AI"，正因后者暗示意识、把通用智能与意识混为一谈；二者很可能是可分离的属性——"宠物猫狗看着挺有意识，却没人聪明，存在一个梯度"；当前工具"还没有任何意识的迹象"，但将来可能有。
• 他的建议：先跨过 AGI 这条河（造出精准、超能力的工具），用它给社会争取时间、并更好地研究"意识是什么"（"给我们 10 年这种工具，就能更好地提出这个问题"）；至于"要不要主动跨第二条河、去创造有意识的实体"——他个人认为不要，"那本身就是足够大的挑战，何必同时跨两条河"。Paul 补充：我们甚至还不知道意识是什么，"它都不是一个良定义（well-posed）的问题"。

"Let's cross one Rubicon first — AGI ... I don't think we want to [also] create conscious entities." —— Demis Hassabis

核心论点：不存在单一"黄金标准"的科学方法，物理、生物、气候各不相同；而 AI 时代恰恰需要更新的科学哲学，以及新一代谈伦理与意义的哲学家。

• Paul（认同 Popper）：科学只能证伪、不能证明对，纠结于演绎 vs 归纳；该教"如何做科学"的思维（数据可靠、可复现、挑战自己的想法），但要警惕被哲学家牵着走。
• 没有单一方法："物理的做法不同于生物或气候学"——一些顶尖物理学家在气候问题上很糟，因为非要"从 A 到 Z 完全理解"才肯接受，于是用做物理的方式去苛求别的领域。
• Demis："哲学家的时代到了"——既需要更新的科学哲学（如何用模拟、如何逆向工程黑箱、什么算"理解"，黑箱也许还能反推成数学方程，可能是个两步过程），也需要新的 Kant / Wittgenstein / Spinoza 来谈后 AGI 的伦理、美德与目的；"如果是 Wittgenstein，那我们就全程沉默了。"（玩笑）

"Philosophy's time has come. If I was a philosopher right now, this would be the most exciting time ever." —— Demis Hassabis

核心论点：面对"AI 会否改善对年轻科学家的压力"，Paul 主张别妖魔化科研文化、质量远比数量重要；而对"科学是否已变样"，三位的答案是——工具变了，但好奇心驱动的"理解"这一根本没变。

• 研究文化（观众提问）：Paul——科学家也是普通人偶尔失范，但"很罕见，文化没那么糟，媒体爱夸大，别太苛责自己"；Alison——发表压力大（怕被人在 arXiv 抢先发），要资深者站出来说"我要你成为最好的科学家，不看论文数量"。Paul："数量根本不重要，重要的是质量——令人惊讶人们居然意识不到。"
• 收尾之问"科学还是同一个游戏吗"：Demis 以 AlphaGo 2016 击败 Lee Sedol（赛后退役、称"已不是同一个游戏"）作引——他近期在韩国见了 Lee Sedol（状态很好，对"AI 侵入自己领域"有切身体会，"全世界都能从中学习"）；Lee 是"围棋界的费德勒"、18 次世界冠军，但生涯已近尾声，这点被混淆了。
• 但"游戏"并未消亡：国际象棋如今观赏比以往更火，"没人想看电脑互下，就像我们看博尔特百米、而非看比人快的汽车——我们想看同类能做到什么"。围棋在亚洲被视为承载宇宙奥秘的神秘艺术，但"棋手真想知道奥秘吗？"——科学同理。
• 三位的共识：Demis 有"近乎病态、无法满足的好奇心"，驱动他一生想理解自然法则与现实本质，AI 一定会帮上忙"但会有代价"；Paul——科学的根本动力是"理解此前不理解之物"，工具重要但不改变这一根本性质；Demis 乐观收尾：未来 10–20 年将是"新文艺复兴、科学发现的新黄金时代"，AlphaFold 只会是 AI 帮我们攻克的众多例子之一。

"We still care about the 100m sprint and Usain Bolt, even though we have cars that go faster ... we want to see what our fellow human beings can do." —— Demis Hassabis