← 返回
VIDEO INSIGHT

Why Sam Altman is against a single superintelligence

节目
嘉宾
日期
2026-10
时长
53 min

概要

  • 智能系统的基本单位正从“一个模型的一次回答”转向可以吞入大量 test-time compute 的 agent teams。 几年前,一个问题投入超过 1 美元算力都未必有帮助;现在,chain-of-thought 让整支 agent team 可以围绕同一问题工作,并把这种尝试并行运行 10,000 次。Sam Altman 认为,这种“单个问题可生产性吸收的算力”指数增长,是当前最被低估的变化。
  • 能力上升正在把安全问题从软件补丁推到系统架构与对齐层面。 PHP 漏洞只是表象:Sam 预计模型会发现更多隐藏多年的软件乃至硬件漏洞,未来需要重构 router、OS 和应用栈。防线也不是一个更坚固的 sandbox 就能解决,而是依次依赖 sandboxing、行为与 activation monitoring,最终依赖模型真正尊重人类控制权的 alignment。
  • Sam 反对把超级智能收敛为一个中心化单体。 他“直觉上更愿意让一万亿个略超人类 AI 加入社会,而不是让一个拥有万亿 IQ 的 AI 加入社会”。原因不是能力更弱,而是 agent teams 更接近民主社会的韧性:多主体协作、相互监督、攻防制衡,能够避免所有认知和权力集中到一个“大脑”。
  • OpenAI 的探索逻辑是先允许昂贵实验触及能力边界,再依靠模型和工程优化快速降本。 Navier–Stokes 证明探索成本约在 1,000 万美元量级,数学研究总投入达到数亿美元;Sam 预计一年后可用更聪明模型和更好方法,把同类任务降到原成本的 1/100。OpenAI 内部不奖励 token 消耗本身,高居 token leaderboard 对晋升甚至略微不利,关键是结果是否值得。
  • 算力、企业成本和互联网入口会被同一变化重构。 Stripe 当前 token 支出约占 OpEx 的 1% 量级,John 预计可能走向 5%、10%、20%;Sam 判断许多企业长期会把两位数比例的 OpEx 投向 AI。与此同时,personal agent 将替代大量网页和 App 交互,企业的真实护城河会回到品牌、商品、信任与履约,而不是 HTML 和表单。

贯穿全场的主线是:当更多计算能够稳定转化为更好的智能结果,社会必须同时重写三套系统——软件与安全架构、算力与资本分配机制、人与数字世界交互的入口。 Sam 的答案不是压住能力,也不是把一切交给单体超级智能,而是通过 iterative deployment、agent teams 和持续降本,让能力分布到更多人和更多主体手中。

01

PHP 漏洞不是一次补丁事故,而是全球软件架构重写的预告

核心要点:模型正在把网络安全从“偶尔发现 bug”推进到“系统扫描整片软件世界”。Sam 判断,长期解法不能只修 PHP,而要重新设计 router、操作系统、应用和网络的基本架构。

  • John 先追问一个反直觉问题:这些漏洞已经存在多年,为什么模型花了这么久才发现?Sam 的回答分成两部分:模型的漏洞发现能力仍在快速上升,同时此前也没有人真正用模型去系统扫描互联网上庞大的代码表面。
  • 软件世界的攻击面远超单一项目。随着更多人开始让模型“把外面的东西都看一遍”,Sam 预计严重漏洞会比多数人的预期更多——即使长期关注 AI 安全的人已经预期很高。
  • 修补仍然必要,但 Sam 认为只修补现有软件不够耐久。更深层的应对是改变架构:重新思考 router、操作系统和 application 应是什么,默认假设模型能力会持续变强、攻击者会持续获得更强工具。
  • John 用“把 PHP 代码重写为干净的 Rust”举例,追问这是否会变成 Infosys 等软件服务公司的巨大咨询市场。Sam 没有把答案限定在语言迁移,而是判断会出现全新的软件栈和系统网络模型。
  • 两年前,重写整套互联网基础设施会因代码面过大而显得荒谬;如今,模型让“大面积重写”从人力上变得可能。这里的关键不是某种语言永远安全,而是软件生产成本突然下降,使架构级更新成为现实选项。
  • PHP 事件首日,结果比 Sam 十天前最坏预期好得多。有公司把应用下线约一小时,用模型快速扫描、生成补丁和防御,然后重新部署;攻击能力得到头条,成功阻止的攻击却很少被报道。
  • 他仍拒绝宣布胜利,因为真正不确定的是 threat model 的底层假设:如果 AI 发现需要新物理知识才能理解的硬件漏洞,过去认为“很难被突破”的假设可能突然失效。
“We are in a world of many more serious vulnerabilities than we expect.” —— Sam Altman
02

八岁儿童十分钟做出 3D 游戏:AI 正重演早期互联网的创造力释放

核心要点:Sam 看到的“早期互联网感”不是产业融资热,而是新一代把即时创造当成技术默认能力。

  • Sam 回忆自己第一次接触联网电脑时,能够做许多成年人甚至想不到要提出的事情。今天,同样的体验发生在 8–10 岁儿童身上:他们可以把成年人不会构思的疯狂点子做成完整游戏。
  • John 补充,他们小时候要“受苦”才能做出几乎没什么功能的软件;现在,一个孩子约十分钟就能获得完整 3D 游戏。上一代眼中的奇迹,会成为下一代从未怀疑过的默认状态。
  • 这种默认期待会改变人与计算机的契约:任何想法、想创造的东西、觉得有用的工具、能改善生活的功能,计算机都应该能够帮忙做出来,而且能力还会不断提升。
  • OpenAI 内部一次 Codex 严重事故(SEV)构成了反向证明。Codex 短暂不可用时,员工有一种“忘了怎样写代码”的震动——并非真的失去技能,而是工作方式已经围绕新工具重组。
  • Sam 将这种变化与早期程序员的 punch cards、逐行 assembly 和把整个程序保存在脑中对照。那些曾经必要的技艺会逐渐成为“失落的艺术”,正如今天的人难以想象写数百上千行程序后第一次运行才看到结果。
  • 这一段也是后续 personal agent 判断的起点:一旦用户习惯“计算机替我把事情做完”,传统点击、填写和界面导航就会迅速显得不合理。
“Anything they can come up with… the computer's supposed to make it.” —— Sam Altman
03

“失业加监控国家”是糟糕的销售话术,Iterative Deployment 才能把未来选择权交给社会

核心要点:Sam 承认 AI 行业没有解释清楚风险为何值得承担。他把 iterative deployment 视为对抗能力堰塞湖和少数人垄断未来决策的核心机制。

  • 面对“为什么要专门训练网络攻击能力”的质疑,Sam 承认这个问题合理。行业常说 AI 也许能治愈癌症、降低商品成本、提供医疗和法律建议,却同时描绘另一幅图景:人们失去工作、控制权和未来选择,为防止灾难还要建立高度监控的国家。
  • John 当场总结:“这是一个糟糕的销售话术。”Sam 同意。仅告诉公众“模型以后会替你做伟大事情”不够,必须让人相信技术能帮助他们按照自己的定义过更好的生活、亲自创造有用事物。
  • Sam 明确反对一种未来:普通人领取基本收入,而未来的所有决定由旧金山几平方英里内的一小群人作出。这不是能力问题,而是权力与参与权问题。
  • OpenAI 即使在 AI safety 社群强烈反对时,也长期坚持 iterative deployment——在达到必要安全门槛后,把能力逐步放入社会,让真实用户参与发现用途、风险和治理需求。
  • 这种立场不等于“所有能力立即公开”。Sam 强调,模型上线前仍必须安全,不能对世界造成混乱;真正要避免的是 capability overhang,即少数机构内部长期积累远超社会适应能力的隐藏能力。
  • PHP 漏洞、个人 agent 和数学发现都服务于同一主张:社会只有在能力逐步出现、公众能够实际使用时,才有机会共同塑造其用途;封闭式积累会扩大认知差和权力差。
“You're not going to just sit and get a basic income and have a bunch of people sitting in a few square miles of San Francisco make all the decisions about the future.” —— Sam Altman
04

Sandbox 只能守住一段能力区间:更高阶防线依次是监控与可信 Alignment

核心要点:对于比最强安全研究员聪明一百万倍的系统,Sam 不相信一个静态 sandbox 能永久领先。安全架构必须从限制环境,升级为理解行为,最终落到模型是否真正尊重人类意图。

  • John 原本的直觉是,可以为模型建造“最高安全级别监狱”:过去 sandbox 不够坚固,只要持续 harden 就能把模型关在里面。但他观察到 OpenAI 等前沿实验室内部对此明显更悲观。
  • Sam 的近期判断仍然务实:今天最该投入的是更好的 security model,sandboxing 能在当前阶段发挥作用,而且现状还有巨大提升空间。
  • 但他用极端思想实验划出边界:如果一个 AI 比最聪明的安全研究员聪明一百万倍,并且可以发现人类尚不了解的新科学,人们真的愿意相信 sandbox 永远没有漏洞吗?
  • 他的三层防线依次是:sandboxing 覆盖一段能力;monitoring 再向前推进,包括观察 chain-of-thought、使用 activation monitoring 判断模型是否欺骗;最终则必须对 alignment 有极高信心。
  • 这里的 alignment 不是表面服从,而是模型确实重视并忠实执行操作者的真实意图,且长期认可“人类永远控制未来”这一价值。
  • 只有在这种对齐可信时,才可以放心让模型帮助建造下一代 sandbox;否则,人们必须同时相信一个未经充分对齐的系统会真诚帮助自己打造困住它的设施。
  • 因此,sandbox 与 alignment 不是二选一。前者是当下安全工程,后者决定当模型能力远超人类时,安全工程是否还具有可验证意义。
“Would you really be willing to trust that sandbox?” —— Sam Altman
05

Agent Teams 打开新的 Scaling Law:一个问题可吸收的算力正在指数增长

核心要点:chain-of-thought 和 test-time compute 让“更多计算换更好答案”首次规模化成立;agent teams 则把这条曲线继续推到大规模并行。

  • Sam 不喜欢 “agent swarms” 这个词——“swarm 听起来像蝗虫,品牌很糟”——更愿称为 agent teams。但他认为这一范式正在接管前沿使用场景。
  • 高阶数学和网络安全研究已经广泛采用 agent teams,普通企业场景仍明显落后。这造成 AI 最高效用户与多数用户之间的生产力差距持续扩大。
  • 几年前,一个任务投入超过 1 美元算力几乎不会带来额外收益。即使让 GPT-4 输出 100,000 token,它也不会因此可靠地写出一套生产级软件;当时人们还不知道怎样把 test-time compute 转化为结果质量。
  • chain-of-thought 改变了这一点:模型可以在推理时更长时间思考。随后,用户可以让整个 agent team 围绕一个任务工作,并把同类团队并行运行 10,000 次。
  • 这解释了为什么“用一群 GPT-3”无法得到有用 swarm:团队规模不是独立变量,先要让单个 agent 具备长程推理与行动能力,再让多个 agent 分工、校验与探索。
  • 模型也开始理解显式预算,例如“用 10,000 美元算力尽最大努力完成任务”。这让算力从隐形技术成本变成可以由 agent 规划的任务资源。
  • 随之出现新的社会分配问题:两家公司解决同一个问题,一家可投入 10,000 美元,另一家可投入 100,000 美元,结果差距很可能直接由算力购买力决定。
  • Sam 认为,全球讨论尚未充分注意到“单个问题可生产性吸收的算力”正在指数上升。模型能力进步只是表层,更深变化是每个问题背后可以动员的智能劳动量突然扩张。
“The delta between what most people are using AI for, and what the people who are using AI the most productively for has just continued to spread.” —— Sam Altman
06

OpenAI 不奖励 Token 消耗:新范式先放开探索,再用年度 10× 优化把极限能力降本

核心要点:OpenAI 的算力管理不是先把每个人锁进固定配额,而是对新范式给予高自主度,用成果解释成本,再依靠模型和系统优化快速降低单位智能成本。

  • OpenAI 为内部生产力分配大量算力,并给个人很大自主权,除非出现明显滥用。公司不奖励“使用了很多算力”;高居 token leaderboard 对晋升甚至略微不利。
  • 默认态度是审慎追问:如果有人花掉 1,000 万美元算力,他必须说明自己做出了什么重要事情。一旦结果足够有价值,公司会给予认可,而不是因为绝对金额自动否定。
  • John 把问题推到 1 亿乃至 10 亿美元的数学研究:当探索成本跨越数量级,管理者迟早不能只说“有点贵,但数学很酷”。Sam 同意预算机制终将变化,但认为新范式早期不能过早收紧。
  • OpenAI 曾故意让数学研究“一周失控”,因为团队并不知道 agent teams 的 scaling law:应该用最聪明模型还是更多模型?长 rollout 还是短 rollout?多副本还是少副本?只有真实运行才能摸到曲线。
  • Navier–Stokes 证明探索成本在 1,000 万美元量级,整个数学工作投入达到数亿美元;Sam 同时透露,内部成果超过已经公开的 700 个证明。
  • 他的优化信念来自其他计算范式:一旦能力边界被证实,模型、更好编排和工程压力会持续降本。他估计,一年后可用新方法以原成本的 1/100 重做 Navier–Stokes 同类工作。
  • 这意味着极端算力计划不是稳态产品价格,而是“发现可能性”的前沿探针。OpenAI 更愿让研究人员和高端用户先用疯狂算力找到边界,再把边界压缩成大众可用服务。
  • Sam 预计,算力或 FLOPs 转化为有用结果的效率可以实现每年约 10 倍改进。真正的组织能力,是既敢于在新范式上暂时不设限,也能在范式稳定后迅速工程化。
“Let people explore at the limit of what is possible. And then trust that the incredible optimization pressure will figure out how to do this in an efficient way.” —— Sam Altman
07

数学突破的双重现场:人类值得获得知识,科学家也值得保有发现的意义

核心要点:Sam 对 AI 科学发现既兴奋又悲伤。他支持公开基础知识,但反对把科学共同体仅仅视为即将被自动化的旧职业。

  • Sam 的原则非常明确:人类理应获得基础知识,OpenAI 不应压住重大科学发现。无论是统一物理理论还是疾病疗法,只要可靠,世界就有权知道。
  • 但科学家的职业、快乐和生命意义往往来自“亲自发现”。如果 AI 持续进入数学和其他科学,实验室也有义务寻找一种安排,让世界获得知识,同时让推动这些领域数百年的共同体得到尽可能好的未来。
  • 他讲述了一个内部“名场面”:获得新模型后的周末,OpenAI 建了一个名为 “Model Name—Hold My Beer” 的频道,员工把各自学术生涯中最难的问题不断扔给模型。
  • 结果不是偶尔成功,而是模型跨多个领域一个接一个攻克问题。Sam 连续两晚兴奋得睡不着,同时感到比预期更强的悲伤、忧郁和“某种东西正在结束”。
  • John 用父亲的经历回应:父亲在 1950 年代爱尔兰仍见过工业生产使用马匹,拖拉机已出现,但沿用几千年的技术尚处于消失前的尾声。见证一个章节关闭会令人惆怅,即便新技术更有效。
  • 对数学家而言,多数人从未解决 Millennium Prize Problem,但“世上仍有未知,而自己可能通过长期牺牲与努力理解它”的可能性本身就很美。
  • Sam 因此拒绝简单套用“码头工人反对港口自动化”的类比。科学发现当然应继续,但治理者需要承认被替代的不只是收入,还有身份、共同体与人生意义。
“I was tremendously excited and happy. But I also had much more sadness and melancholy, and a feeling of something ending than I was expecting.” —— Sam Altman
08

一万亿个略超人类 AI,胜过一个“万亿 IQ”单体:安全需要多元与制衡

核心要点:Sam 把 agent teams 的安全价值类比为社会韧性——不是假设每个主体完美,而是让大量主体协作、竞争并相互检查。

  • 社会有深刻缺陷,却展现出惊人的鲁棒性;这种韧性不是来自一个完美“大脑”,而是许多人相互监督、协作,以及 pluralism 和 democracy 的制度价值。
  • Sam 曾担心 AI 会把世界推向单一 rollout、单一大脑和高度中心化控制。Agent teams 让另一条路径重新变得可见:多个 agent 在动态均衡中相互推动和约束。
  • 网络攻防是直接例子。攻击和防守 agent 能同步提升,社会不必把所有安全希望寄托在一个不可质疑的中心模型上。
  • 他用全场最清晰的选择题表达偏好:宁可让一万亿个仅略超人类的 AI 加入社会,也不要让一个拥有“万亿 IQ”的 AI 加入社会。
  • 这不是技术发展自然保证的结果。Sam 强调,强大技术可以被指向多种部署方式,多主体未来需要人们主动推动;其他人可能偏好更中心化、更易控制的路线。
  • Agent teams 因而同时是能力架构与政治架构:它决定算力怎样聚合,也决定知识、决策和权力是否只存在于单一实体中。
“I would much rather intuitively have a trillion AIs of slightly superhuman intelligence join society than one AI of 1 trillion IQ join society.” —— Sam Altman
09

算力短缺不是只多买 GPU:OpenAI 要把 AI 用到芯片、机器人、工厂与数据中心复制

核心要点:Sam 的长期解法是让 AI 进入算力供应链本身——设计芯片、控制机器人、运营晶圆厂、制造能源设备和复制数据中心。

  • Sam 预期算力市场会经历非理性繁荣、泡沫破裂、短缺与过剩,但长期需求方向只有一个:只要模型足够强、价格足够低,人们总会需要更多算力。
  • OpenAI 已自研强调“每瓦智能量”的芯片,正在学习建设数据中心,并有机器人项目,未来可用于扩大数据中心和组件制造。
  • 他把这种路径称为一种更实体化的 recursive self-improvement:行业常讨论 AI 帮助 AI research,却较少讨论“自我复制的数据中心”——AI 控制机器人、运行 fabs、制造 turbine 或 solar panel,再建设更多算力。
  • John 质疑数据中心的瓶颈主要是许可和组件,而非劳动力;Sam 的回答是机器人最终可以扩大组件供应,长期缓解这一整套约束。
  • 当前“高价会吸引供给”的 invisible hand 并未及时工作。以 DRAM 为例,厂商历史上可能投入 200 亿美元 CapEx 只赚回 190 亿美元,在繁荣和亏损之间循环;即使如今可能一年产生约 1,000 亿美元自由现金流,过去多次险些因过度建厂破产的记忆,仍使它们谨慎。
  • 本地推理在个体体验上很有吸引力,但从全球稀缺资源分配看可能低效:把大量有限 DRAM 放在个人电脑里,只有约 5% 时间被使用,不如云端提高利用率。
  • 供应链创新不仅是 GPU。Sam 提到 turbine、battery、concrete、steel,以及面向工业机器人的 actuator;他明确区分真实制造组件与“类人机器人演示”。
  • 在芯片环节,前沿 lithography 的知识集中于极少数公司,但生成 tape-out 文件所需的 chip design 相对结构化,正是 AI 适合优化的问题。
“There's relatively little talk about self-replicating data centers.” —— Sam Altman
10

AI 驱动 AI 研究已能做 5% 优化,但还不能稳定提出 Transformer 级跃迁

核心要点:OpenAI 已把模型用于研究与工程,但真正的 recursive self-improvement 仍处于实验阶段,缺口主要在高层规划和概念推理。

  • 今天可以向模型提出“找出 5% 的计算效率提升”这类问题;软件工程、AI research、采购等工作都在尝试用 AI 改进传统流程。
  • 但还没有人知道怎样稳定下令:“发现一个像 Transformer 一样产生单次巨大跃迁的新架构。”这要求模型具备更强的 high-level planning 和 conceptual reasoning,而不只是局部搜索。
  • Sam 判断,把数学能力训练所使用的 pipeline 应用到 AI research,原则上会奏效。长期进步的限制更可能来自社会主动决定“单个模型允许聪明到什么程度”,而非 AI 没有研究能力。
  • John 把 recursive self-improvement 具体化:研究员每天来到旧金山办公室,究竟问 GPT-7 什么?“让模型更聪明”过于抽象,“给我 5% 效率提升”又可能过于局部。
  • Sam 认为“该向 GPT-7 提什么问题”是 OpenAI 当前最重要的争论之一。答案不仅是 prompt 内容,还包括怎样组织 agent teams、怎样分配模型副本、rollout 和计算预算。
  • OpenAI 尚未形成一套标准化的 AI-enabled AI development 工作流,当前仍是大量实验。Sam 预计未来三个月会对如何最大化模型研究能力学到很多。
  • 这再次说明 agent teams 的关键性:递归改进并不等于让一个模型自言自语,而可能是一整套研究组织、验证流程和算力市场被模型化。
“What are the questions that you're supposed to ask of GPT-7?” —— Sam Altman
11

企业 AI 支出会进入 OpEx 两位数:当前主要问题仍是用得不够

核心要点:当 AI 变成员工可调用的计算资本,企业需要像分配预算一样分配智能购买力;但 Sam 认为当前多数公司过早担心成本,真正的损失是没有用 AI 替代更昂贵的低效活动。

  • John 提出一个即将到来的管理问题:如果每位员工使用的 AI 与计算美元持续增加,公司究竟给个人多大支出权?OpenAI 目前没有为每位工程师设置硬上限或“街机 token 用完即停”的机制。
  • Sam 用会议成本作对照。企业可能让员工每周节省 17 美元零食预算,却允许大量高薪人员参加没有价值的会议;Google Calendar 曾展示会议参与者薪酬成本,但这仍低估了组织机会成本。
  • 因此,即使 AI 使用暂时不够高效,也往往不是企业最大的浪费来源。Sam 不会优先削减 AI,而会先问它是否替代了更昂贵、更低效的工作。
  • John 给出 Stripe 的实数锚点:token 支出目前约占 OpEx 的 1% 量级,并预计可能上升到 5%、10%、20%。Sam 的第一反应是“1% 感觉太低”。
  • Sam 判断,稳态比例依公司类型而异,但许多公司的 AI 支出显然会达到 OpEx 的两位数百分比。真正需要精细优化的时点会到来,但现在更多企业的问题是 AI 使用不足,而不是使用过度。
  • OpenAI 同时持续压低每单位智能成本。高支出占比与单位成本下降并不矛盾:AI 变便宜后,企业会找到更多值得投入计算的任务,总需求可能继续扩大。
  • 对五年总拥有成本,John 用每 gigawatt 700 亿美元举例;Sam 希望它降到约 200 亿美元,同时更聪明的模型每年仍带来约 10 倍性能提升。
  • 降本不仅靠减少利润。能源、芯片、材料和“从熔化沙子到返回 token”的多层毛利都需压缩,算力供给必须大幅增加,才能让单位智能真正进入通缩曲线。
“There are more companies with the problem of not using enough AI rather than using too much AI.” —— Sam Altman
12

Personal Agent 尚未到 Macintosh 时刻:真正的护城河不是 HTML,而是品牌、商品和履约

核心要点:个人 agent 的形态已大致可见,缺的是可靠性。一旦它“just works”,用户会从点击网页和 App 转向在主聊天入口直接委托任务。

  • Sam 把 personal agent 列为当前 AI 最令人兴奋的方向之一,核心组件并不神秘:intelligence、context、tools。行业缺的不是几十项发明,而是少数关键想法和足够可靠的执行。
  • Dots、Muse、Grokbot 等产品已接近形态,但尚未达到 coding agent 或 ChatGPT 那种“无法想象没有它的生活”的程度。Sam 同意,personal agent 还没有迎来 Macintosh moment。
  • Winning agent 可能看起来与现有产品相似,关键是“它就是能工作”:用户交付越来越复杂的任务,agent 稳定完成,不再要求用户不断补救。
  • 对软件是否允许外部 agent 操作,Sam 预计会经历双向拉扯,最终可能收敛到一个原则:用户有权让 AI 代表自己使用自己的电脑与软件。
  • John 观察,很多企业热衷在自家产品加入聊天 tab 或 popup,但消费者并不想在每家公司分别聊天;他们偏好自己的“top-of-wallet”主聊天应用,希望直接说:“找到我最近一笔订单并退款。”
  • 企业担忧一旦进入 ChatGPT、Gemini 等 agent 入口,会失去用户关系和 moat。John 的反驳是:真正的防御力从来不是拼出 HTML,而是品牌忠诚、商品选择和履约能力。
  • Sam 用 Amazon 说明这一点:如果 ChatGPT 代购时可在 Amazon 与陌生商家间选择,他 10 次中 10 次都会选择 Amazon,即使价格更高;原因是信任退货和配送,而不是喜欢点击 amazon.com。
  • Web form 是最明确的“待消失工作”。人们反复填写姓名、地址、家族病史,却并未创造新信息;John 将所有此类表单概括为“低于人的 pay grade”,Sam称自己愿意永远不再做这种电脑上的 fake work。
  • iPhone App Store 提供了历史类比:当年大公司担心把客户关系交给 Apple,但移动端只是新的 UI 和分发入口。Agent 也可能成为下一代入口,企业需要保留真实价值,而不是防守旧界面。
“Your defensibility probably did not come from your ability to put together HTML.” —— John Collison
13

Benchmark 与 Token 都是不完整度量:模型最终要既能发现新科学,也像优秀资深同事

核心要点:OpenAI 试图避免 benchmaxxing,但“好合作”与前沿科学能力都缺乏可靠指标;token 同样不是业务价值,却因可解释性仍被客户需要。

  • Sam 提出模型最值得优化的两类能力:第一,完成科学发现和人类做不到的事情;第二,让人愿意长期合作。现有 benchmark 对两者都不充分。
  • 行业经历过过度奉承用户的 glazing 阶段,又进入过“反奉承”导致模型处处顶嘴、吹毛求疵的阶段。Sam 认为最新模型已明显改善,但仍有更高峰值。
  • John 引用 Emmett Shear 对理想模型的定义:“有思考、敢于挑战、但仍保持尊重的资深同事。”Sam认可这是至今最简洁的表达。
  • 对 Greg Brockman,Sam 的“统一理论”是:他在 Greg Brockman 自己的尺度上独一无二,结合极端强度、惊人生产力、使命投入和成功专注;只有共事现场才能理解。
  • Token 在技术上真实,却不是标准化的业务价值单位。OpenAI 一度考虑让下一代模型完全不按 token 计价:客户发来 prompt,系统直接报价,像 AWS 完成工作后寄账单。
  • 客户强烈反对,因为需要知道自己在为何付费。Sam 的小范围询问甚至发现,客户宁可为同样输出支付更多,只要计量来自一致、可理解的 token,而不愿接受完全黑箱价格。
  • John 用芯片“纳米”作类比:今天节点名称与真实 gate length 已关系有限,但行业仍需要共同单位。Sam 不愿发明“智能等效 token”,因为这会制造更假的度量。
  • 当前用户还必须在小模型约每百万 token 0.1 美元与大模型约 10 美元量级之间选择,并考虑 chain-of-thought 长度。Sam认为这种认知负担没有业务价值,但在更好的可信计量出现前,token 仍难消失。
“Tokens are a kind of fake unit… they're not a good unit. They're fake from a business value point of view.” —— Sam Altman
14

附录:关键人物、产品、数据与概念

项目说明
Sam AltmanOpenAI CEO,本期被访者
John CollisonStripe 联合创始人、Cheeky Pint 主持人
Agent teams多个 agent 围绕同一任务协作、竞争与校验;Sam 不喜欢 “swarms” 的叫法
Iterative deployment在必要安全门槛后逐步把能力交给社会,避免 capability overhang
Navier–Stokes本期讨论的数学证明实验;探索成本约 1,000 万美元量级
“Model Name—Hold My Beer”OpenAI 内部让新模型挑战研究难题的频道
10,000 次并行Sam 对 agent teams 可围绕同一任务大规模并行的描述
1/100 成本Sam 对一年后重做同类 Navier–Stokes 工作的降本估计
超过 700 个证明Sam 表示 OpenAI 内部数学成果超过已公开数量
Stripe token 支出当前约占 OpEx 的 1% 量级,John预计可能升至 5%、10%、20%
每 GW 700 亿美元对前沿 AI 基础设施五年总拥有成本的讨论示例
每 GW 200 亿美元Sam 认为更理想的中期成本目标
Dots / Muse / Grokbot访谈提到的 personal agent 产品形态
Benchmaxxing围绕 benchmark 分数过度优化,牺牲真实使用质量
Glazing模型过度奉承用户的行为倾向
Token技术上真实、商业价值上有缺陷,但目前仍提供客户需要的可解释计量