Dylan Patel：AI真正的100倍，不是模型，而是软硬件共设计

当所有人都在讨论大模型参数、GPU数量和AGI时，SemiAnalysis 创始人 Dylan Patel 给出了一个更激进的判断：未来 AI 最大的突破，不会来自单一模型，也不会来自单一芯片，而是“硬件—软件—模型”三层同时协同优化。一旦真正打通，2x、2x、2x 不会只变成 8x，而可能直接变成 100x。

一个修 Xbox 的小孩，怎么成了 AI 圈最可怕的“情报头子”

很多人第一次听 Dylan Patel，会以为他是典型硅谷精英：名校、芯片背景、大厂履历。但真实故事完全相反。

他小时候住在父母经营的汽车旅馆里，家里还有加油站。他最早训练的“神经网络”，居然是靠观察顾客长相和年龄，提前把脚凳移动到对应香烟货架旁边——因为自己太矮，来不及现爬。

真正改变他的，是 Xbox 360 的“红环故障”。为了不在表哥面前丢脸，他拆开主机，研究硬件，最后靠短接温度传感器修好了机器。从那之后，他彻底掉进硬件世界。

12 岁开始，他就在 Reddit 和各种硬件论坛当版主，天天看 Intel、AMD、NVIDIA、Android、Apple 的技术帖。最离谱的是，别的中学生在讨论显卡跑分时，他已经开始分析 NVIDIA 为什么“利润率更好”。

他后来总结自己最大的优势，不是技术，而是“同时理解技术和经济学”。

这也是 SemiAnalysis 最特殊的地方：公司里一半是工程师，一半是前对冲基金人士。内部天天吵架。

“工程师会说：这个技术太酷了。”
“金融背景的人会说：但成本不成立。”

Dylan 说，他最享受这种冲突。

因为 AI 世界正在进入一个以前从未出现过的阶段：技术正确，不代表商业正确；商业正确，也未必能跑赢架构变化。

DeepSeek 真正震撼行业的，不是模型，而是“共设计”

整场访谈里，最重要的一句话，其实是这句：

“AI 真正的突破，是 software-hardware co-design（软硬件共设计）。”

Dylan 直接反驳了主持人的一个观点。

主持人认为，过去几年 AI 效率提升，主要来自硬件升级，比如 Hopper 到 Blackwell。

但 Dylan 的回答非常狠：

“不，模型层的进步更大。而真正最重要的是三层同时优化。”

他举了 DeepSeek 的例子。

很多人以为 DeepSeek 的效率来自 kernel 优化、推理框架或者工程技巧。但 Dylan 认为，真正关键的是：

DeepSeek 的模型结构，本身就是按 NVIDIA Hopper GPU 的特性设计的。

到了 V4，又开始针对 Blackwell 和华为芯片重新优化。

这意味着什么？

过去行业默认逻辑是：
模型先设计好 → 再想办法适配 GPU。

现在正在反过来：
GPU 特性、网络结构、注意力机制、专家结构、通信方式，从第一天就一起设计。

这也是为什么 Dylan 说 TPU 和 GPU 根本不存在“谁绝对更强”。

Google TPU 很强，但跑 DeepSeek 类模型反而可能很差；而某些 TPU 优化模型，又会比 NVIDIA 更高效。

原因不是芯片本身，而是：

模型和芯片是否一起出生。

这也是他提出“AI 的真正 100x”来源的原因。

传统思维里：
硬件提升 2x
软件提升 2x
模型提升 2x

最后得到 8x。

但如果三层一起协同优化，结果可能直接跳到 100x。

这其实已经解释了为什么 AI 行业越来越像“封闭军备竞赛”：

真正的优势，不再只是模型权重。
而是整个系统级协同。

CUDA 护城河正在松动，但 NVIDIA 反而可能更危险

过去几年，整个行业都默认：NVIDIA 最大护城河是 CUDA。

但 Dylan 透露，一个巨大变化已经发生。

模型公司现在越来越不在乎“兼容 CUDA”了。

原因很简单：AI 已经能自己写优化代码。

他说得很直接：

“模型现在太会写代码了，软件最终会被商品化。”

这意味着，以前让开发者痛苦的“重写 kernel”“适配新芯片”，正在被 AI 自动化。

于是行业开始出现一个新趋势：

OpenAI、Anthropic、Google 不再执着于只跑一种芯片。

他们会同时使用 GPU、TPU、Trainium，甚至不同架构混搭。

而且不同模型路线，也会把公司带向不同硬件。

比如 Dylan 认为：

• OpenAI 的模型更稀疏，更适合 GPU 路线
• Anthropic 和 Google 的路线，则更适合 TPU
• NVIDIA 是“万能型”
• TPU 是“定制型”

这也是为什么 Google 一边大量部署 TPU，一边又疯狂租 NVIDIA GPU。

因为没人知道一年后模型架构会怎么变。

他说了一个特别重要的观点：

“所有实验室都不知道自己一年后的模型架构是什么。”

这句话的信息量极大。

因为它意味着：
今天看似最优的 AI 芯片，很可能只是“局部最优”。

未来真正的赢家，不一定是单一芯片公司，而是那些能持续做跨层协同优化的人。

未来 AI 最大瓶颈，已经不是模型，而是电力

访谈后半段，话题开始越来越疯狂。

Dylan 预测：

到 2030 年，仅 OpenAI 和 Anthropic 的推理电力需求，就可能超过 100GW。

这是一个极其夸张的数字。

作为对比，一个大型核电站通常只有 1GW 左右。

也就是说，他认为 AI 推理最终会变成“国家级能源工程”。

更离谱的是，他还认为：

2040 年以后，新增算力里超过一半可能部署在太空。

原因并不科幻，而是现实。

地球电网、土地、散热都会越来越贵。
而 AI 推理需求会指数级增长。

所以 SpaceX、轨道数据中心、太空能源，在他眼里并不是玩笑，而是长期必然。

他甚至提到一个关键变化：
现在 AI 模型能力增长速度，已经超过全球算力扩张速度。

这导致一种前所未有的局面：

GPU 再贵，也有人买。

因为像 Anthropic 这样的公司，已经能把每一块 GPU 立刻转化成高利润 Token。

如果单 Token 毛利超过 80%，那即使 GPU 租赁价格翻倍，公司依然赚钱。

这也是为什么 NVIDIA 不希望世界只有 OpenAI、Google、Anthropic。

Dylan 认为，黄仁勋真正想要的是“多极世界”。

所以 NVIDIA 会疯狂支持 NeoCloud、支持新模型公司、支持各种 AI 实验室。

因为只要生态够分散，GPU 的需求就永远不会被某一家自研芯片彻底吞掉。

真正被低估的，不是 AI，而是“系统能力”

整场访谈最容易被忽略的一点，是 Dylan 对“系统”的执念。

他过去几年几乎处于“流浪状态”：

一年跑 40 多场半导体会议，全球飞；住汽车旅馆；在国家公园看半导体教材；跑去日本化学会议听只有几个英语使用者的分享。

他说，第一次去 SPIE 光刻会议时，90% 内容根本听不懂。

第二次懂一半。
第三次懂 75%。

直到现在，依然有很多地方没完全看懂。

这其实解释了 SemiAnalysis 为什么越来越像 AI 世界里的“情报机构”。

因为真正的壁垒，不是知道某个模型。
而是理解：

• 某种化学材料为什么会影响 HBM 供应
• 某种网络拓扑为什么适合某类注意力机制
• 某种 GPU 为什么适合长上下文推理
• 某种数据中心为什么能卖出更贵的算力

AI 产业已经不再是单点竞争。

它变成了一个横跨模型、芯片、网络、电力、供应链、金融、能源的超级系统。

而 Dylan 最核心的价值，恰恰是把这些原本分裂的世界，拼成一张完整地图。

总结

这场访谈最重要的启发，可能不是某个具体预测，而是一个认知升级：AI 竞争已经从“谁模型更强”，进入“谁系统协同能力更强”。未来真正拉开差距的，不会只是参数量，而是模型、芯片、网络、电力、数据中心、推理框架之间的整体优化能力。

对于 AI 从业者来说，一个很现实的问题正在出现：你研究的是“单点技术”，还是开始理解整个系统？未来最值钱的人，很可能不是最懂 Transformer 的人，而是能把 Transformer、GPU、电力成本和商业模式同时串起来的人。

关键词： Dylan Patel， SemiAnalysis， 软硬件共设计， AI推理， NVIDIA

事实核查备注： 需核查：1）SemiAnalysis 是否已突破1亿美元营收；2）Anthropic Q2 是否已实现净利润为正；3）OpenAI 与 Anthropic 2030年100GW推理需求为个人预测而非公司官方数据；4）Google 向 xAI 租 GPU 价格“11美元/小时”与 SpaceX GPU 租赁价格相关表述；5）InferenceX 获得超过5000万美元硬件捐赠、未来超过1亿美元的说法；6）Thinking Machines ARR 数亿美元的数字来源；7）Dylan 关于 Google TPU 三条不同设计路线的说法属于行业观察，需谨慎引用。