Sam Altman On AI Revolution, Superintelligence & Future Of Humanity | FO583 Raj Shamani

• Altman 没有把“逆共识”讲成一种人格勋章。OpenAI 在 2015 年押注 AGI 时，外界把这件事看成低地位、低概率的选择；团队也并不知道自己一定正确。支撑他们继续投入的，是神经网络随规模扩大持续变强的观察，以及新证据不断提高的确信程度。
• 2022 年 8 月，GPT‑4 完成训练。团队尚未向外界发布模型，却已经从内部使用中看到新的研究路径。OpenAI 随后决定大幅增加算力投入；Altman 说，如果当时模型只是“GPT‑3.8”的水平，他们不会下注那么重。
• ChatGPT 上线前，内部原型的留存率据他回忆只有约 5%，多数同事认为产品太早、也不够好。Altman看到的却是另一件事：留下来的少数人使用得非常频繁，而且真的喜欢它。YC 的两条经验——早点上线、先找到少数热爱产品的人——最终压过了平均留存数据。
• 他把 AI 的严重风险分成两类：人类把未来的控制权交给能力远超自身的系统；或者某个人、公司、国家获得相对其他人的压倒性权力。前者要求安全与对齐，后者要求竞争、制衡和多种路线并存，不能用“唯一安全的组织”消除多中心格局。
• 对创业者，他不相信一套成功人格能解释所有公司。把 YC 最成功的十位 CEO 随机互换，即便每个人都优秀，也可能让公司陷入灾难。比“成功模板”更稳定的是失败信号：缺乏驱动力、专注、清晰度、愿景，以及反复解决难题的能力。

这场访谈最有价值的地方，不是提供一套“相信自己”的口号，而是让几组互相拉扯的经验同时存在：敢在证据不足时开始，也要随着证据更新；允许少数人反对多数，也把全体反对视为昂贵信号；让技术更快进步，也持续追问谁掌握权力、哪些风险不能承担。

Raj Shamani 从一句常被引用的话问起：如果一个人愿意承受短期的低地位，去换取长期的高地位，那么在结果出现之前，他怎么知道自己只是“被误解”，而不是“判断错了”？

Altman 的第一句回答不是方法论，而是承认：你其实不知道。 能做的是先有一定确信，再让确信随着证据增加；结果未明，本来就是下注的一部分。

2015 年的 OpenAI 在他记忆里是一件“地位非常低”的事。AGI 被许多人视为一百年后的问题，甚至可能永远不会发生；团队年轻，也没有一批外界熟悉的学术权威为其背书。他们知道一旦成功会很有价值，却没有把成功当成必然。Altman 后来仍用“期望值不错”来描述那次选择，而不是把它改写成天才早已看清终局的故事。

“You can have an increasing degree of conviction as you get more evidence.” —— Sam Altman

他反复使用的一条经验来自“规模”。在公司、城市、个人职业、网络和 Y Combinator 中，他观察到：小规模上已经有效的东西，扩大后有时会产生超线性回报。早期神经网络不仅能工作，而且随着规模增加表现更好，这使他想继续放大实验。当时还没有后来精确的 scaling laws，更多是一组连续出现、方向一致的观察。

反对者的论证并不愚蠢。Altman 回忆，有人曾非常有说服力地解释：模型只是在学习训练集中“下一个词最可能是什么”，因此最多重组已知知识，不可能创造训练集里不存在的新知识。今天回看，这个判断漏掉了模型可能学到一般推理能力；但在当时，它听起来足够合理。访谈保留了这一点：错误意见也可能逻辑完整，不能靠对方“听起来保守”就自动驳倒。

当主持人要求他给出一次“50% 确信、50% 妄想”的具体决策时，Altman 把时间拉回 2022 年 8 月。

GPT‑4 刚完成训练，距离公开发布还有七八个月。外界没有见过它，OpenAI 内部也花了一段时间，才意识到这个模型会打开哪些研究方向：模型还会继续多快地提高，链式思考与推理模型可能走到哪里。团队能使用模型，因此他们与外界面对的并不是同一组信息。

接下来有两个选择：较保守地购买算力、放慢扩张；或者把公司押在更大的算力投入上。OpenAI 选择了后者。转录在“购买大量什么”处存在缺字，但决策对象和方向很清楚——大幅增加计算资源。

这段回忆最有分量的细节，是 Altman 给出的反事实：如果 GPT‑4 当时只比前代强一点，像一个“GPT‑3.8”，他们就不会有足够确信下这么大的注。也就是说，这并非“无论模型表现怎样都要规模化”的宗教式信念；下注强度取决于刚刚拿到的模型证据。

“If GPT‑4 had come out at, like, the GPT‑3.8 scale, we would not have had the conviction.”

随着权力和成功增加，领导者更难听到真实反对。Altman 说，长期朋友和共事十年以上的人很有价值；组织也需要主动奖励强硬的反驳，让指出领导者错误变得容易。这里的“主动”很重要：过去多次判断正确，会逐渐抬高别人提出异议的心理成本。

但主持人继续追问：如果老朋友、聪明同事和导师都反对，究竟应该听他们，还是坚持自己？Altman 的回答与常见的创业英雄叙事相反。他说，自己违背所有人意见的次数非常少；如果身边聚集的是聪明人，大多数时候就应该听。

“The number of times that I do something against everyone else’s advice is very small.”

他见过一些创始人，以“所有人都说错、我偏要做”为荣。Altman 认为这种决定只能勉强、少量地做：它成本高、胜率低、后果重，需要异常强的理由。非共识不是证据本身。

他给了一个较朴素的检验方法。把想法讲给一个热情、聪明但有思维纪律的非专家：说明已经看到什么、为什么可能成功、成功后为什么有价值。如果不是人人都被说服，但有一部分人听完证据会更新判断，说明想法至少不是纯粹的愿望。反过来，若一个人完全无法让任何可信对象理解自己的理由，就该提高怀疑程度。说完这些，Altman 又补了一句：历史上必然也有无法说服任何人、最终仍然正确的例子。这个检验提供信号，不提供证明。

访谈中最完整的一段产品故事，来自 2022 年 ChatGPT 上线前。

大多数 OpenAI 领导者并非反对做聊天机器人，而是认为当时发布太早、产品还不够好。Altman 推动上线，很大程度来自他在 YC 反复告诉创业者的经验：如果第一版产品没有让你略感尴尬，通常说明发布得太晚；没有真实用户，就拿不到真正的反馈。

内部数据并不好看。据 Altman 回忆，早期 ChatGPT 原型的留存率约 5%。这组数据也并不干净：内部人员可以接触更好的模型和其他界面，不能简单等同于外部市场。即便如此，正常的产品判断仍会是“5% 太差，不能发布”。

Altman 去看那 5% 的人。他发现，其中一些人不是偶尔回来，而是高频使用，而且非常喜欢产品。这对应 YC 的另一条经验：早期更值得寻找的，是少数真正热爱产品的人，而不是大量觉得“还可以”的人。最终，少数用户的行为强度改变了他对平均留存的解释。

“A small number of people that really love something” mattered more than many people liking it a little.

这段经历不能被简化成“任何低留存产品都应立即上线”。Altman 也明确说，今天面向整个 ChatGPT 用户群发布功能，需要更高门槛；企业已经把某些能力当作接近关键基础设施的东西，企业产品的发布标准尤其高。OpenAI 仍会做小范围实验，但实验入口、核心体验和企业级发布承担的后果不同。

Raj 追问：如果超级智能是对人类延续的重大威胁，为什么由 OpenAI 来做就更安全？Altman 没有回答“因为我们更值得信任”。他说自己相信多元主义，也不认为只有 OpenAI 掌握能力是好结果。

他把严重失败先画成两个简化版本：

1. 人类有意或无意地把未来控制权交给能力远超自身的系统，随后无法拿回；

2. 一个人、一家公司或一个国家获得相对其他人的过度权力，系统因此变得不稳定。

“I don’t think only us having it is good either.”

第一种风险来自系统能力，第二种风险来自社会权力结构。它们可能要求不同、甚至互相拉扯的应对方式。集中资源可能让安全标准更一致，却也把决定权集中在极少数人手中；多家机构竞争能形成制衡，同时也可能加快能力扩散。Altman 的选择是让多种 AI 努力并存、采用略有差异的方法、相互竞争。访谈没有给出可以消除两类风险的制度答案。

到访谈后段，他仍把“进步的节奏”列为自己当下最难的问题：进入快速自我改进阶段后，AI 相对人的能力可以高到什么程度、提升可以多快；安全、监控、对齐和治理怎样跟上；哪些地方可以承担风险，哪些地方不能。这里没有一条已完成的 OpenAI 政策，只有 CEO 对问题范围的描述。

谈到 OpenAI 的优势时，Altman列出用户规模、从芯片和数据中心到模型与产品的完整栈、品牌，以及他所描述的价值取向。这是公司 CEO 的竞争判断，并非独立市场比较。

主持人随后提到 2023 年领导层危机：约 700 名员工曾威胁辞职支持他。Altman 没有把这件事主要归功于个人忠诚。他认为，自己能做的是选择领导团队、设定工作方式；更重要的是，一群人围绕同一使命形成了特殊的研究文化。

OpenAI 创立时直接说“尝试构建 AGI”。当时敢公开这样表述的机构很少，很多人觉得他们疯狂，也不愿与其关联；但清晰目标反而聚集了那些同样相信问题重要的人。这个组织对目标保持高确信，对技术路径却不要求忠诚：初始方向错了就换。

“If our initial direction turns out to be wrong, we’ll change.”

Altman 并不建议创业者随便挑一个听起来遥远的目标。他把“far-fetched”纠正为“真正重要、能吸引优秀人才投入的问题”。表达时不要因为害怕被叫作疯狂或愚蠢而含糊其辞；执行时也不要把最初方法变成信仰。

当 Raj 提到 Ilya、Dario、Elon 等人分别走向不同组织和路线时，Altman 的解释是：技术 stakes 越高，人越容易相信只有自己的方法可信；对别人的方法不信任，又会变成对权力集中在别人手中的不安。这个解释来自 Altman，不能替代离开者各自的说法，但它呈现了研究组织分裂时“方法”和“信任”如何纠缠。

Altman 在 YC 会先问产品是什么、用户为什么需要、如何获得更多用户。护城河和长期竞争优势当然需要回答，但不是创立第一天最先问的几个问题。一个尚未证明需求的产品，先讨论如何避免利润被竞争压到零，顺序是反的。

三四十分钟的会面不足以准确预测一家公司，但他仍会观察几类信号：

• 能不能把复杂事情讲清楚，让别人容易跟上；
• 谈话结束后，是否让他产生“我愿意和这个人一起工作”的感觉；
• 能不能快速产生新想法，并迅速改进刚刚提出的想法；
• 是否对世界有别人没讲过、同时推理充分的看法。

他特别看重“布道”能力，因为早期创始人要不断让联合创始人、客户、候选员工和投资者相信同一件尚未成立的事。沟通在这里不是舞台表现，而是获取资源的一部分。

“能吃苦”反而很难在半小时内判断。候选人可以讲过去如何承受困难，但评估者不知道故事是否完整，也看不到当时真实的内心活动。Altman 也没有声称自己的最大优势是比 99% 的人更能忍痛；他只说，自己愿意在相信的事情上持续做下去。

随后，他用一个反事实拆掉“成功创始人模板”：把 YC 最成功的十家公司和它们的十位 CEO 随机重配。每个人可能都很优秀，每家公司也都很好，但结果大概率是灾难。成功依赖人与具体问题、产品和阶段的匹配。

失败信号倒更稳定：缺乏驱动力、专注、清晰度和愿景；不能一次又一次解决难题，还要保持愿意继续做的状态。Altman 对成功类型保持开放，对失败反模式更有把握。

YC 给 Altman 的一个意外，是看到一部分人真的变得更有雄心。他不认为每个人都能被同样改变，也难以提前预测谁会发生变化；但他见过两种机制组合在一起：

• 与一群正在经历类似挑战、也在做高难度事情的同伴一起工作；
• 连续完成难度逐步上升的任务，亲身发现自己的能力边界比原先估计得更远。

Paul Graham 曾强调 Demo Day 临近、害怕失败所产生的压力。Altman 认为，更强的作用来自正向信心：大家同时进入 YC，看见身边的人做成原先认为不可能的事，就会产生“他们能做到，我也可能做到”的更新。一次更难的任务完成后，再进入稍难的下一次，信心与能力一起累积。

主持人问，他是否相信“你会成为最亲近五个人的平均值”。Altman 的回答很克制：“不完全是，但有一些道理。”同伴环境会影响人，但不是一个精确的人格公式。

“创业者收到过最糟糕的建议是什么？”Altman 一时挑不出来，因为他认为几乎所有泛化建议都很差。他给出的元建议只有四个词：listen to less advice。

YC 也许能从大量公司经验中提炼出五到十条高确信规则。“做出人们想要的东西”接近早期创业的一条基本戒律；再往后，建议迅速依赖具体产品、团队、市场和时点。听第八百期创业播客，不能替代自己真正去做。

谈到他曾写过的“13 条规则”，Altman 甚至记不起全部内容，只说今天大概会写得更短。他还愿意保留的一条是复利。

“You have 20 years of experience, but you have 20 times the same one year of experience.”

职业年限不会自动累积成能力。每个阶段只有建立在前一阶段之上，持续进入不舒服、非显然的新任务，才会形成复利。许多人很早就停止增加难度，之后只是熟练地重复已经会做的事。

同一段访谈里，Altman 也解释了自己怎样怀疑自己：从不同角度反复想同一个问题，先抛出一些坏主意，尝试在脑中拆掉它们；再去找别人，加入新信息，换一个版本继续测试。行动上保持一致，直到找到改变判断的理由；确信不等于停止内省。

OpenAI 刚成立时，Altman 说自己的生活很轻松：有很多爱好，随机一个周二晚上，朋友临时约饭也可能有空。现在他的日程精确到很少有自发安排。

有人问他最怀念旧生活的什么，他想到的是一个很小的场景：周六下午，拿着一大杯咖啡和电脑坐进咖啡馆，看人来人往，慢慢处理邮件，大部分时间只是浏览互联网。他已经多年没这样做过。

Raj 问：“现在不能去吗？”Altman 说当然可以，只是旁边会坐着两名安保人员，他也不再是世界上的一个匿名者。失去的不是物理上进入咖啡馆的能力，而是无人注意地消磨半天。

他没有把这些代价讲成受难。工作令人疲惫、压力很大，许多人的焦虑也会投射到他身上；但这已经是他的日常，旧生活反而像遥远记忆。早年他没有真正体会到：如果 OpenAI 成功，自己的生活必然变得混乱；后来逐渐确认技术可能成功时，才在情感上接受这一点。

最近一次让他心跳加快的时刻，是准备公布 Navier–Stokes 结果。他过去曾每天冥想数小时，现在不再保持这个习惯；如果需要，仍能在几十秒内进入冥想状态。他把这次紧张描述成“AI 正在做过去人类做不到的难题”的真实时刻。

访谈结束前，他把下一件最想建造的东西指向科学发现：让机器帮助理解更深的物理规律、找到新疗法和新能源，甚至打开今天还想象不到的方向。与孩子相处时，他尽量只做父亲；对孩子将进入的 AI 世界，他没有保证安全，只说自己仍相信人类能适应、协作，并让社会继续改善。

主要核验来源

• OpenAI, “Introducing OpenAI for India,” 2026-02-18: https://openai.com/index/openai-for-india/
• OpenAI, “GPT-4 Technical Report,” 2023: https://cdn.openai.com/papers/gpt-4.pdf
• OpenAI, “On the Navier–Stokes Millennium Prize Problem,” 2026-09-08: https://openai.com/index/navier-stokes-solution/
• OpenAI, “Our Structure,” current page: https://openai.com/our-structure/