微软CTO凯文·斯科特:规模定律还远未走到尽头

AI PM 编辑部 · 2024年07月09日 · 5 阅读 · AI/人工智能

正在加载视频...

视频章节

在这期《Training Data》中,微软CTO凯文·斯科特系统讲述了他对AI规模定律、训练数据、成本曲线和产业节奏的判断。他认为,当下看似“昂贵、脆弱”的模型,会像过往每一代技术一样,在规模化中迅速变得更便宜、更稳定,并持续解锁更复杂的能力。

微软CTO凯文·斯科特:规模定律还远未走到尽头

在这期《Training Data》中,微软CTO凯文·斯科特系统讲述了他对AI规模定律、训练数据、成本曲线和产业节奏的判断。他认为,当下看似“昂贵、脆弱”的模型,会像过往每一代技术一样,在规模化中迅速变得更便宜、更稳定,并持续解锁更复杂的能力。

为什么“现在很脆弱的东西”,未来一定会变好

这一整场对话,其实可以浓缩成斯科特反复强调的一句话:我们正处在一个“看起来不够可靠、也不够便宜”的阶段,但这恰恰是规模定律开始发挥作用的前夜。这一点很重要,因为它直接决定了企业是否敢下注、开发者是否敢长期投入。

斯科特在开场就点出了当下很多人对大模型的真实感受:太贵了,也太脆弱了。“你会觉得,天哪,这东西现在用起来有点太贵,或者有点太不稳定了。”但他紧接着给出的判断非常明确——这种状态不会持续,“它会变得更便宜,系统也会变得没那么脆弱,然后更复杂的事情就会变得可能。”

他把这描述为一种几乎在每一代模型中都会重复出现的模式:一开始,能力看似惊人,但工程化成本极高;随后,随着规模扩大、基础设施成熟、训练和推理效率提升,原本不可接受的成本和风险迅速下降;最后,这些能力被当成“基础设施”来使用,人们甚至不再意识到它们曾经有多前沿。

这个判断并不是抽象的乐观主义,而是斯科特长期参与大规模系统建设后的经验总结。他强调,正是这种“先脆弱、后稳定”的节奏,解释了为什么规模化如此关键。如果你只盯着当下的体验,很容易低估接下来一到两代模型的变化幅度。

从乡村少年到微软CTO:押注“增长最快的东西”

理解斯科特为何如此笃信规模,还离不开他的个人经历。节目中,主持人用一个略带戏剧性的问题开场:一个来自弗吉尼亚乡村的孩子,如何成为微软的CTO?斯科特自己也承认,这“不是一个可复制的计划”。

但他给出的线索很清晰:职业生涯中,他反复选择去做“增长最快的事情”。无论是在早年做系统和基础设施,还是后来投身机器学习,他总是优先关注那些还不成熟、但增长曲线极其陡峭的领域。

他在对话中提到,真正有意思的工作,往往出现在“正在高速生长的东西”上。原因很简单:在这种领域里,个人决策的杠杆效应被放大,技术路线和基础设施选择,会在几年后产生数量级差异的结果。这种判断方式,也直接影响了他后来在微软内部对AI的推动方式。

这段经历之所以重要,是因为它解释了微软在AI上的战略气质:不是押注某一个短期炫目的应用,而是持续、系统性地投入到底层能力和规模上。斯科特本人,就是这种思路的长期践行者。

微软的AI策略:不是炫技,而是把技术送到用户手里

当话题转向微软的AI战略时,斯科特刻意淡化了“野心”这个词,而是反复强调“落地”。在他看来,真正有意义的AI战略,不是展示模型有多聪明,而是能否把技术稳定地交付给真实用户。

他明确表示,微软的核心策略是把这些模型能力,通过产品和平台持续推向用户端。这意味着,很多决策并不是围绕单次训练的指标,而是围绕长期可持续的工程体系:包括算力、数据、部署、以及成本控制。

在这个语境下,“规模”再次成为关键词。斯科特提到,微软在投资和执行上,会非常有意识地围绕规模展开:哪些地方值得不计短期成本地放大,哪些地方必须保持克制。这并不是简单地“多花钱”,而是有原则地把资源集中在能产生长期复利的部分。

这种思路也解释了为什么微软在外界看来,始终能在基础设施和应用之间保持相对平衡——既不脱离真实用户需求,又不会被短期产品反馈牵着鼻子走。

规模定律是否会失效?他的答案比“会或不会”更重要

在后半段讨论中,话题不可避免地来到一个行业最关心的问题:规模定律是否正在接近极限?斯科特的回答并不是简单的肯定或否定。

他强调,至少到目前为止,他们并没有看到明显的“收益递减”信号。相反,在多个维度上,持续扩展规模仍然带来可预期的改进,只是这种改进并不总是以同一种形式出现。有时体现在能力边界,有时体现在稳定性和可用性。

他还特别区分了“训练价值”和“推理价值”。在他看来,训练阶段的投入逻辑,和最终交付给用户的价值,并不完全对称。也正因为如此,外界常用的一些简单成本—收益对比,往往低估了长期规模化的回报。

在接近尾声时,斯科特用一种非常克制的方式总结了自己的立场:这是一个成本极高的方向,但它仍然值得。正是这种冷静而持续的投入,而不是短期情绪,决定了哪些公司能真正穿越这一轮技术周期。

总结

这场对话最有价值的地方,不在于具体模型参数,而在于斯科特对技术演进节奏的判断:昂贵和脆弱并不是失败信号,而是规模化前的常态。对开发者和企业来说,真正的挑战不是预测终局,而是判断自己是否站在了那条正在加速的曲线上。


关键词: Kevin Scott, 微软CTO, 规模定律, AI战略, 训练数据

事实核查备注: 人物:Kevin Scott(微软CTO);公司:Microsoft、Google;节目:Training Data(Sequoia AI Ascent);核心概念:规模定律、模型脆弱性、训练与推理价值区分;引用观点均来自视频对话的概括与直译语义。