Aidan Gomez谈AI规模化边界、PMF与Transformer之后的世界

Cohere联合创始人Aidan Gomez在这次长谈中，系统反思了大模型规模化的真实瓶颈、企业级AI落地的PMF标准，以及在Transformer逐渐逼近极限后，下一代模型形态可能出现的方向。

Transformer之后会发生什么？结构创新正在酝酿

作为Transformer论文的作者之一，Aidan被问到“Transformer之后的世界”时，态度出人意料地开放。他并没有宣称某种确定的替代架构已经出现，而是强调，我们正处在一个探索期。

他提到，一些新的基础模型设计正在尝试突破当前注意力机制在效率和长上下文上的限制，其中有些进展“has really surprised me”（真的让我感到惊讶）。但他同时保持克制，认为任何新架构都必须在真实任务中证明自己，而不仅仅是在理论或小规模实验中表现良好。

这段讨论的价值在于，它传递了一个重要信号：即便是Transformer的创造者，也并不认为现有架构会永久统治AI世界。结构创新，仍然是未来十年的核心变量之一。

总结

这场对话最大的价值，不在于给出确定答案，而在于重新校准了行业的关注点：从盲目规模化，转向数据质量、产品价值和结构创新。对于从业者而言，这意味着需要更冷静地看待参数竞赛，更务实地定义PMF。正如Aidan所展现的那样，真正推动AI前进的，往往不是最响亮的口号，而是对限制的诚实面对。

关键词： Aidan Gomez， Cohere， Transformer， 合成数据， AI产品PMF

事实核查备注： Aidan Gomez 为 Transformer 论文作者之一；视频中明确出现的原话包括“an overwhelming majority is synthetic”“data generation problem”“has really surprised me”“we're going to make it happen”；PMF 指 Product-Market Fit；Synthetic Data 指模型生成用于训练的数据。