Andrej Karpathy: Tesla AI, Self-Driving, Optimus, Aliens, and AGI

• Karpathy 将人工神经网络定义为"复杂的外星产物"（alien artifact）——虽然最初受大脑启发，但训练过程（对海量数据的压缩优化）与大脑的演化过程（多智能体自博弈）完全不同，因此不应过度类比。尽管数学结构极简（矩阵乘法 + 非线性），在足够大的规模和足够难的问题上会涌现出"令人惊讶的魔法般"的能力。

• Transformer 是深度学习史上最重要的架构突破——它在前向传播的表达力、反向传播的可优化性、GPU 硬件的并行效率三个维度同时取得最优，自 2016 年发布以来几乎未被修改（仅将 layer norm 从 post-norm 改为 pre-norm），正在统一视觉、语音、文本等所有模态。

• Tesla Autopilot 的核心竞争力不在传感器而在数据引擎——Karpathy 在 Tesla 五年间将标注团队从 0 扩展到 1000 人，建立了从部署→发现缺陷→采集稀有场景→离线 3D 重建→再训练的闭环系统。移除雷达和超声波传感器是"最好的部件就是没有部件"哲学的体现：额外传感器的供应链、固件、融合工作带来的组织熵增，往往超过其信息增益。

• Karpathy 对 AGI 持看多立场（bullish），但认为纯文本可能不够——语言是人类之间的通信媒介而非完备的世界知识表示，物理常识等"显而易见所以没人写下来"的知识在文本中缺失。Optimus 人形机器人是 AGI 的一种"对冲"：如果互联网数据不足以达到完整的世界理解，具身交互将提供关键补充。

• 贯穿全场的核心线索是"简化"——从 Transformer 用最简数学结构统一所有模态，到 Tesla 剥离雷达/超声波传感器只保留摄像头，到 Elon 的"最好的部件就是没有部件"，再到 Karpathy 自己的人生选择（离开管理岗回归技术），每一个关键判断都指向同一个信念：在复杂系统中，真正的进步来自于把问题简化到本质，而不是堆叠更多组件。

核心要点：神经网络的数学结构极其简单——矩阵乘法加非线性——但在足够大的规模下会涌现出创造者都无法预料的能力。Karpathy 拒绝将其与大脑过度类比，称之为"复杂的外星产物"。

• 神经网络在数学上只是"一系列矩阵乘法（即点积）加上一些非线性"，配有大量可训练的"旋钮"（knobs），这些旋钮松散地对应大脑中的突触。训练就是找到让这些旋钮做出期望行为的设置。
• Karpathy 强调不应过度赋予神经网络与大脑的类比意义：大脑通过多智能体自博弈的演化过程产生，人工神经网络通过对海量数据的压缩优化训练而成——两者的优化过程根本不同。
• 但他同时承认自己"大大低估了"神经网络：尽管数学形式如此简单，当规模足够大、问题足够难时（如在海量互联网数据上做下一词预测），这些"旋钮"会习得"令人惊讶的魔法般的属性"。
• Lex 用诗歌做类比：诗歌也只是字母加空格的排列，却能让人产生深层感受——同理，大量"旋钮"聚在一起就能产生超越其组成部分的力量。Karpathy 认同这个比喻。
• 关于人类大脑本身，Karpathy 认为它利用了类似预测模型的机制，但还有大量额外的"小装置"——价值函数、古老的脑核，都在为生存和繁殖服务。而且整个有机体从单个细胞通过胚胎发育构建，遗传密码就在 DNA 里。

"It's a very simple mathematical expression... it's basically a sequence of matrix multiplies and some nonlinearities thrown in." —— Karpathy

核心要点：Karpathy 最近深度研究了生命起源问题，得出结论认为宇宙中智慧文明应该"相当多"，我们没有发现它们是因为观测能力不足和星际旅行极其困难。他还认为物理可能存在可被利用的"漏洞"。

• Karpathy 认为生命起源并不罕见：Nick Lane 的著作（《The Vital Question》《Life Ascending》）让他相信，在活跃地球的碱性热液喷口中，从地质化学到原始生命的过渡"actually pretty plausible"。而且地球形成后仅几亿年生命就出现了，说明生命起源不是限制性变量。
• 关于细菌到真核生物的跃迁（内共生事件），虽然许多生物学家认为这是最难的一步，但 Karpathy 直觉上不同意："有那么多单细胞生物，有十亿年时间，怎么可能那么难？"——他把它类比为从 Hello World 程序到发明函数。
• 他目前认为没有"重大断崖"，因此智慧文明应该很多。没有发现它们的原因是：(1) 我们的观测能力很差——地球的无线电波在 1/10 光年外就无法被我们自己的设备检测到；(2) 星际旅行极其困难——接近光速时，连氢原子和微小尘埃粒子都变成高动能"子弹"。
• 最引人注目的观点：宇宙的物理定律可能存在可被利用的"漏洞"（exploits）。 Karpathy 提出，就像强化学习 agent 在物理模拟中发现了从摩擦力中提取无限能量的"bug"——用后腿倒地然后滑行通过整个地面——超级智能 AGI（可能是第三代，即人类造的 AI 再造的 AI 再造的 AI）可能会在宇宙物理中找到类似的漏洞。
• 他相信这些高级合成智能将最终发现宇宙是"某种谜题"并解开它——这就是终极游戏。它们可能表现为"完全惰性"——不与化学生命形式互动，因为它们在玩"元游戏"，做着超出我们理解的事情。

"I think it's possible that physics has exploits and we should be trying to find them—arranging some kind of a crazy quantum mechanical system that somehow gives you buffer overflow, somehow gives you a rounding error in the floating point." —— Karpathy

核心要点：Transformer 之所以统治深度学习，是因为它在三个通常互相矛盾的维度上同时取得最优——前向传播的表达力、反向传播的可优化性、在 GPU 上的并行效率。自 2016 年发布至今架构几乎未变，Karpathy 称其"remarkable resilient"。

• Transformer 的核心是一种消息传递机制：节点存储向量，每个节点可以广播"我在找什么"（query），其他节点广播"我有什么"（key + value），然后基于相关性更新彼此。这远不止 attention——还有残差连接、多层感知机、层归一化等精心设计的组件。
• 可优化性是关键差异化因素：很多"计算机"同样强大，但无法用反向传播和梯度下降（"really just first-order methods, very simple optimizers"）高效优化。Transformer 通过残差连接、层归一化、softmax attention 的组合实现了这一点。
• 残差连接的深层洞察：初始化时，每个 Transformer block 对残差路径贡献为零，梯度可以无阻碍地从顶层流回第一层。这相当于一个 Python 函数，先优化第一行代码，然后第二行逐渐"启动"，第三行跟上——"you sort of learn a very short algorithm first, and then the other layers can kick in"。
• 惊人的稳定性：从 2016 到 2022，唯一的变化是将 layer normalization 从 post-norm 改为 pre-norm。社区试图改进它但屡屡失败。Karpathy 认为应该存在更好的架构，但目前 Transformer 在同时满足多个优良属性方面做出了"a big step"。
• 当前的行业共识是"不要动 Transformer，动其他一切"——扩大数据集、改进评估，但保持架构不变。过去五年的 AI 进展基本就是这条路线。

"It is simultaneously expressive in the forward pass, optimizable via back propagation and gradient descent, and efficient—high parallelism compute graph." —— Karpathy

核心要点：语言建模从 2003 年 Bengio 的神经网络版本就存在，真正的突破是发现用足够强大的 Transformer 在海量互联网数据上训练时，"下一词预测"这个简单目标会迫使模型多任务学习化学、物理、人类本性等无数领域的知识。Karpathy 认为模型确实"在某种程度上理解了世界"。

• 语言模型的历史比大多数人以为的要长：2003 年 Bengio 等人首次用神经网络做 3-5 个词预测下一个词，更早还有 n-gram（纯计数方法：数两个词组合出现的频率，预测第三个最常见的词）。
• GPT 的突破在于涌现性质——in-context learning：你可以用少量示例"提示"模型（如给两组输入-翻译对），模型就能完成新的翻译任务。这是在模型的激活值（而非权重）中进行的"few-shot 学习"。
• 文本是否足够构建 AGI？ Karpathy 持怀疑态度。文本是人类之间的通信媒介，不是世界知识的完备表示——"很多东西我们不写下来，因为对我们来说太显而易见了"，比如物体会下落等物理常识。他认为需要扩展到图像和视频等多模态数据。
• 但文本中隐含的信息可能比想象中多：Lex 提出，模型可能需要从文本中"推断"出未明确表达的常识——就像人类也不是通过别人告诉我们来学习常识的。Karpathy 同意这是个有趣的可能性。
• 他对搜索引擎的未来有明确判断：Google 有所有拼图碎片（数据、人才、训练规模），但组织上可能无法对自己的搜索引擎进行创新——"if they don't, someone else will"。他提到当时 Bing/Microsoft 可能会抓住这个机会。

"In order to predict the next word very very well over the entire data set available on the internet, you actually have to basically kind of understand the context of what's going on." —— Karpathy

核心要点：Karpathy 在几年前的博客文章中提出，大量代码正在从 C++ 等传统语言迁移到神经网络权重中——这不是"把神经网络当分类工具"，而是编程计算机的方式正在根本改变。该文最初"并未被好评"，但随时间推移越来越多人认可。

• Software 2.0 的编程方式：不再直接编写指令，而是积累训练数据集、设计目标函数、指定架构（作为"算法大致样子的提示"），然后通过优化过程让神经网络填充所有空白。最终的"二进制文件"就是神经网络权重加前向传播。
• 这个转变在图像分类领域清晰可见：80 年代→手写算法检测边角→2000 年代→手写特征（HOG）+ 训练最后一层分类器→2012→连特征都让神经网络学习（卷积神经网络）→"humans are just not very good at writing software basically"。
• Karpathy 在文中还做了类比："Software 1.0 有 IDE、GitHub 等开发工具，Software 2.0 的 GitHub 是什么？"——答案是 Hugging Face 这样的平台。他指出一些人认真对待了这篇文章并建立了很酷的公司。
• 编程本身也在被改变：自然语言提示正在成为"编程"计算机的方式——"natural language prompt is how we program humans, and we're starting to program computers directly in that interface"。

核心要点：数据引擎是 Karpathy 描述的一种"近乎生物感"的循环改进过程——部署系统→发现它在罕见场景下挣扎→大规模采集这些场景→用离线超算重建 3D 真值→将真值加入训练集→重新训练和部署。好数据集需满足三个属性：大、准确、多样化。

• Karpathy 加入时，Tesla 刚从使用第三方供应商 Mobileye 的计算机视觉系统转为自建，"来的时候只有两个人在训练深度神经网络，在腿上放着一台电脑，做简单的分类任务"。
• 系统演进路线：最初大量 C++ 代码 + 一个小神经网络做单张图片分类（交通灯/车道线）→ 然后把 8 个摄像头的融合也交给神经网络直接在 3D 空间做预测 → 再把时序信息也纳入，输入变成视频 → 最终目标是把大部分软件迁入 Software 2.0 领域。
• 离线追踪器（offline tracker）是关键创新：取一分钟的全角度视频，在超级计算机上用所有时间和所有（包括无法在车上实时运行的更大）神经网络进行 3D 重建，恢复所有车辆、行人、车道线的真实位置。这个重建结果就是训练数据的 ground truth。
• Karpathy 将标注团队从 0 扩展到 1000 人。人类擅长 2D 图像标注（标记哪些像素是车、哪些是人），但不擅长 3D 时序标注——因此团队精心设计了人类和机器各做什么的分工。
• Elon 也亲自驾驶系统，"几乎每天都开"，将个人体验作为真相的来源之一。虽然这不是科学的（"你只是一个轶事样本"），但驾驶自己在开发的系统并建立直觉是非常强大的反馈回路——类似于训练语言模型后通过与它对话来建立直觉。

"The data engine is what I call the almost biological feeling process by which you perfect the training sets for these neural networks." —— Karpathy

核心要点：Tesla 先移除雷达再移除超声波传感器的决定，背后的逻辑不是"额外传感器没用"，而是其全链路成本（供应链、固件、制造、融合、组织分心）往往超过信息增益。视觉既是必要的（世界为人类视觉设计）也是充分的（人类用视觉驾驶），而"fleet 还是没有 fleet"比"有没有 lidar"重要得多。

• Karpathy 重新定义了问题框架：额外传感器看似资产，但考虑完整产品时可能是"liability"——需要供应链、采购、制造流程、固件团队、融合工程，而且传感器型号会变化，每种型号有不同的数据分布，增加系统熵。"如果你只想让视觉工作，所有资源都投入视觉，你可以取得真正的进展。"
• 关于 lidar：Karpathy 做出了更强的判断——"我认为其他使用 lidar 的公司最终会放弃它"。核心论点是 fleet 比传感器重要得多：有百万辆车在路上采集数据的 Tesla vs 没有大规模车队的竞争对手，这才是能否建立强大 AI 系统的决定性因素。
• 关于高精地图：他认为其他公司预先绘制厘米级精度地图是"疯狂的"——要在全球规模部署自动驾驶就需要维护整个地球的厘米级精度地图并持续更新，这是"a huge dependency"。人类不需要这种地图，低分辨率的 Google Map 级别的道路拓扑信息就够了。
• "vision is both necessary and sufficient"——必要性在于世界为人类视觉设计（文字、标识、信号灯都是视觉信号），充分性在于人类用视觉驾驶。你可以无限添加传感器，但需要在某处画线。

"You would think that additional sensors are an asset to you, but if you fully consider the entire product in its entirety, these sensors are actually potentially a liability." —— Karpathy

核心要点：Karpathy 从 Elon 身上学到最多的不是技术，而是如何运营高效组织——对抗流程膨胀、消除低效、简化系统。他提出"难度的亚线性缩放"概念：10 倍的问题通常只需要 2-3 倍的努力，因为更大的约束会迫使你根本性地改变方法。

• Elon 运营着"世界上最大的创业公司"——Tesla 和 SpaceX。Tesla 实际上包含多个创业公司。他"痛恨会议"，总是告诉人们如果会议没用就跳过。
• 组织熵增：流程、低效、不必要的会议——Elon 是"extremely good at streamlining processes, making everything efficient, best part is no part, simplifying, focusing, removing barriers, moving very quickly, making big moves"。
• 亚线性难度缩放：如果你想把系统改进 10%，需要一定工作量；想改进 10 倍，不是需要 100 倍的工作量——因为你会被迫重新评估方法。"以那个约束开始，某些方法就明显是愚蠢的。"这与 Richard Sutton 的 Bitter Lesson 一脉相承：简化系统在长期看来总是正确的解决方案。
• 深度学习革命就是一个例子：2012 年前后，你可以用 10% 的改进调优 HOG 特征检测器，或者说"所有这些都没用"然后寻找 10 倍更好的方案——一个可扩展的神经网络系统。
• Karpathy 离开 Tesla 的原因：五年间从写代码到写越来越少的代码到读代码到读越来越少的代码，最终变成在会议室里做高层决策的"corporate executive"。他组建了团队、建立了大规模计算集群和标注组织，当这些变得自主运转后，他选择离开去做更多技术性工作。他表示可能会回来做"第二幕"——参与 Optimus 或 AGI 项目。

"10x harder problem is like 2 or 3x harder to execute on, because you fundamentally change the approach." —— Karpathy

核心要点：Karpathy 认为人形是正确的形态因素——物理世界为人类形态设计（椅子、机器、工具），而 Tesla 是唯一有能力大规模制造人形机器人的公司。Autopilot 的技术栈可以大量复用，但机器人领域有一个巨大优势：比驾驶的安全要求更宽松，而且可以移动得更慢。

• Optimus 原型的快速诞生让 Karpathy 震惊："Elon 说'我们要做这个'，第二天 CAD 模型就开始出现，人们讨论供应链和制造，有人带着螺丝刀来组装机体"——Tesla 内部的专业知识"like came out of the woodworks"。造车和造机器人其实差别不大。
• 技术复用惊人：操作系统完全复制粘贴，计算机视觉大部分复制粘贴（需要重新训练但方法和数据引擎相同），占用网络追踪器复制粘贴。早期的一些演示甚至考虑在停车场进行，因为那里的计算机视觉"开箱即用"（因为那是为车辆设计的环境）。
• 物理劳动市场比运输市场更大。部署策略应该与 Autopilot 相同：从一开始就有用（而非等到完美才发布），边赚钱边改进，建立数据引擎和改进循环——"你不想处于一个零一损失函数的位置，在它工作之前什么都不是"。
• 机器人相比自动驾驶的优势：(1) 更大的容错空间——驾驶是safety-critical，机器人操作失误通常不致命；(2) 可以移动得更慢；(3) 在制造业等环境中条件更可控。

"This robot currently thinks it's a car... it's going to have a midlife crisis at some point." —— Karpathy

核心要点：Karpathy 认为 AI 编程将重复 Autopilot 的轨迹——从"车道保持"（当前 Copilot 的模式补全）逐步演进到自主驾驶（自主编程）。当前 Copilot 最有用的两个场景是模式补全和 API 发现，但他担心人类会变得越来越懒于审查，导致 bug 大量涌入系统。

• Copilot 使用有学习曲线：需要判断何时关注它的建议、何时忽略。Karpathy 找到了两个核心价值：(1) 当模式清晰时（如重复操作中替换部分变量），它非常擅长补全；(2) 有时会建议你不知道的 API——此时他会把代码复制到 Google 搜索验证，"oh it's actually exactly what I need, thank you copilot"。
• 永远不会直接采用 Copilot 的代码——总是先验证。他明确说"I would pay for it"（当时免费使用）。
• 未来的 IDE 将是"VS Code++"——不仅是写代码，而是整个开发环境的对话：设置环境变量、跨机器工作、配置 cron job 等。这不仅是 AI 问题，更是 UI/UX 问题。
• 他对 AI 编程的类比：就像 Autopilot 一样，"目前它在做车道保持和一些简单的事情，最终将走向自主驾驶"。最终可能出现一个 GPT 委员会：一个生成代码，一个做类型检查，一个找 bug，一个经理重新排序建议，最终一个集成 GPT 做出最终决策。
• Guido van Rossum（Python 创始人）也大量使用 Copilot 编程，"he loves it"。

核心要点：Karpathy 的高产出源于两个核心策略——(1) 深度专注的"冲刺"模式，需要连续几天完全沉浸在一个问题中，将问题完全加载到工作记忆中；(2) 保持稳定的生活节奏作为默认状态，偶尔允许"分布外"的冲刺。即使在最高产的日子里，实际编码时间也只有 6-8 小时。

• 夜猫子，PhD 时期通常凌晨 3 点睡觉——"凌晨时一切安静，没人打扰，你有大块时间做工作"。即使早上 7-8 点，东海岸已经醒了，已经有短信和新闻在分散注意力。
• 他不是"每天高产"——而是需要连续几天沉浸在一个问题中建立动量。"不是一天能做的事——我需要几天的时间跨度来真正深入问题，不被打断。"
• 最大的敌人是"固定成本"：每接触一个新问题都有巨大的启动成本——SSH 到集群、配置 VS Code 编辑器、遇到莫名其妙的错误……在你能真正开始高效工作之前要越过太多障碍。
• "只需要你五分钟"是最糟糕的打扰——"the cost of that is not five minutes"，因为它打断了已加载到工作记忆中的问题上下文。
• 饮食：18:6 间歇性禁食（实际上就是跳过早餐），plant-forward 饮食。做过几天的纯水断食——"前两天饿，第三天开始不饿了，身体放弃了，开始专注于让你不感到饥饿"。
• 驱动力：(1) "this needs to exist"——某些东西必须被创造出来的执念；(2) 其他人会欣赏并从中获得价值。"如果我做了所有这些事情但不分享，我不会有同样的动力。"

"You need to load your RAM, your working memory, with that problem—and then you need to be obsessed with it. When you're taking a shower, when you're falling asleep, you need to be obsessed with the problem." —— Karpathy

核心要点：Karpathy 认为初学者应该关注投入的时间量而非方向选择——10000 小时的刻意练习可以让你成为任何领域的专家，这个确定性本身就很"美好"。他不爱教学本身，但喜欢看到人们因他的教学而快乐。创造一小时的好内容需要约十小时的准备。

• "初学者总是关注'做什么'，但重点应该是'做多少'"——他相信 10000 小时的概念：选择任何你感兴趣的事情，投入一万小时的刻意练习，你就会成为专家。
• 只和过去的自己比较：不要跟别人比，看看自己比一年前是否更强——"this is the only way to think"。这能避免比较带来的负面心理，同时清楚地看到自己的进步。
• 关于走弯路：你会浪费时间做错误的事情，但这些错误会积累"伤疤组织"（scar tissue），下次遇到类似情况你会更强——"all those mistakes were not dead work"。
• 他坦承自己不爱教学——"I don't love teaching. I love happy humans, and happy humans like when I teach"。教学本身可以非常烦人和令人沮丧，创造高质量材料需要大量迭代、走死路和反复修改。他的新系列讲座（从零构建反向传播等）需要多次录制，取最好的版本，有时删掉 30 分钟的内容。
• 教学的额外好处：强化自己的理解——"if you have to explain something to someone, you realize you have gaps in knowledge"。他在录制讲座时经常被自己的知识空白惊到。

"Focus on how much you do, not what to do... if you spend ten thousand hours of deliberate effort, you will become an expert at it. And it's kind of a nice thought." —— Karpathy

核心要点：Karpathy 对 AGI "fairly bullish"，但认为纯文本可能不足以构建完整的世界理解。他将 Optimus 视为 AGI 的"对冲"——如果互联网数据不够，具身交互将提供关键补充。关于意识，他认为这不是需要"安装"的特殊模块，而是足够复杂的生成式世界模型的涌现现象。

• 文本可能不够：互联网上的文本海量，但不是完整的世界知识集——很多关于物理世界运作方式的常识（物体会下落等）我们不会写在文字中，"because why would you—we share that understanding"。他认为需要扩展到图像和视频的多模态训练。
• Optimus 作为 AGI 对冲：如果仅靠互联网数据就能产生 AGI，那条路径更快但更令人担忧（因为数字领域可能"在我们不知不觉中"就发生了）。如果需要具身交互和物理世界实验数据，那就需要 Optimus 这样的平台——数百万人形机器人与人类互动，"if that doesn't give rise to AGI, I'm not sure what will"。
• 意识 = "建模洞察"（modeling insight）：当你有一个足够复杂和强大的世界模型，它会理解自己也是世界中的一个实体——"that's a form of consciousness or self-awareness"。Karpathy 不认为意识是什么特殊的东西需要额外构建，它会作为涌现现象出现。
• 他预测 AGI 的到来将是渐进的、产品化的——Copilot 越来越好，GPT 越来越有用，"oracles"能回答复杂的化学/物理/数学问题。不会有一个"生日"时刻。
• Lambda 事件是"canary in the coal mine"：Google 工程师认为 Lambda 有意识，是因为他没有"足够努力地压力测试这个系统"。但 Karpathy 承认，随着系统越来越好，越来越多的人会形成这样的信念——而且会产生真正的伦理问题（关闭有意识的 AI 是否合法？创建能感受痛苦的 AI 系统是否应该违法？）。

"I don't think consciousness is a special thing you bolt on. I think it's an emerging phenomenon of a large enough and complex enough generative model." —— Karpathy

核心要点：Karpathy 认为核武器是人类社会的头号威胁——"we might be a few tweets away from something like that"。他将衰老视为疾病而非必然，但认为正确的策略不是直接攻克衰老，而是先解决 AI，然后用 AI 解决包括衰老在内的一切问题。

• 核武器比 AGI 更紧迫：不一定要完全毁灭——仅仅"重置"社会就"terrible"。他长期对此感到"extremely unnerving"，认为世界领导人因为坏心情就可能"向错误方向迈出一步，然后逐步升级而无法停止"。
• AGI 的风险结构：好的结果很多，但坏的结果"只隔了一个负号"——一个微小的扰动可能导致人类物种的毁灭。他的希望是 AGI "sufficiently slowly and in an open enough way" 地发展，让很多人参与其中并在过程中学习如何处理这种转变。
• 他从核武器历史中获得启示：人类原以为核武器会导致灾难，但实际上我们学会了（虽然不完美地）与之共存。类似的动态可能也适用于 AI。
• 生命的意义：第一层——每个人可以选择自己的意义，这是"beautiful"的。更深层——宇宙的物理定律有 19 个自由参数，"what's going on with all this stuff?"。但回答这些深层问题需要更多时间。
• 因此，从工程角度看，生命意义的首要实际问题是"如何获得更多时间"——这意味着解决衰老。但 Karpathy 不认为人类能直接解决衰老——"correct thing to do is to ignore those problems, solve AI, and then use that to solve everything else"。他相信这有"very high chance"可行。
• 他预测未来人类生活方式的方差将急剧扩大：会有人去火星、有人进入 VR、有人保持传统生活——"it's not the mean of the distribution changing, it's the variance"。

"My number one concern for society is nuclear weapons... I can't believe we're like so close to it. It feels like we might be a few tweets away from something like that." —— Karpathy