Jim Keller眼中的摩尔定律:不是晶体管,而是组织与搜索的进化

AI PM 编辑部 · 2020年02月09日 · 1 阅读 · AI/人工智能

正在加载视频...

视频章节

在这段与Lex Fridman的对话中,芯片架构大师Jim Keller提出了一个反直觉的判断:摩尔定律并未终结,只是被严重误解。真正持续指数级演进的,不只是晶体管尺寸,而是计算架构、组织方式,以及以搜索和机器学习为核心的计算范式。

Jim Keller眼中的摩尔定律:不是晶体管,而是组织与搜索的进化

在这段与Lex Fridman的对话中,芯片架构大师Jim Keller提出了一个反直觉的判断:摩尔定律并未终结,只是被严重误解。真正持续指数级演进的,不只是晶体管尺寸,而是计算架构、组织方式,以及以搜索和机器学习为核心的计算范式。

为什么“摩尔定律已死”是一个被误解的问题

这一节的重要性在于,它重新定义了一个被反复“宣判死亡”的行业信条。Keller并没有从情绪或口号出发,而是试图澄清:我们究竟在讨论什么意义上的摩尔定律。

他坦言,自己“已经意识到摩尔定律30年了”,但公众常把它简化为“晶体管不断变小”。在他看来,这只是表象。真正的摩尔定律,是一种长期、稳定的工程能力:每隔两到三年,让可用计算能力以足够大的幅度增长,以至于“你思考设计和架构的方式必须改变”。

Keller明确指出,至少从物理极限角度看,晶体管微缩“还没有真正接近物理学的根本极限”。即便未来某一天尺寸放缓,这也不意味着进步停止。因为摩尔定律从来不是单一技术,而是“成千上万项创新的集合”。正如他所说:“如果你只低头盯着缩小晶体管,那你忽略了它背后是上千个工程突破在同时发生。”

这种观点的独特之处在于,它把摩尔定律从一条尺寸曲线,变成了一种系统性能力的描述:材料、工艺、架构、工具、软件协同推进。摩尔定律不是自然法则,而是人类工程组织能力的体现。

从盖砖房到造芯片:复杂性才是真正的瓶颈

理解摩尔定律为什么没有死,必须正视一个更难的问题:复杂性如何被人类管理。这一节中,Keller用了一个极其生活化的比喻。

他说,想象你用砖头盖房子。砖本身很简单,但当规模扩大,问题就不再是砖,而是组织。人类最擅长的协作规模,大约是十人;一百人还能互相认识;再往上,就必须引入组织边界。这不是社会学八卦,而是芯片设计的真实写照。

随着晶体管数量以数量级增长,单一、顺序的设计方式会彻底崩溃。解决方案只能是“divide and conquer”:模块化、分层,以及大规模并行。这正是现代芯片设计和计算架构的核心思想。

Keller进一步把这种思想映射到硬件本身:不是让一个CPU更快,而是“many, many CPUs”,甚至在物理上堆叠CPU,实现空间上的并行。这种并行不是装饰品,而是复杂性失控后的必然选择。

这个故事之所以珍贵,在于它揭示了一个被忽略的事实:摩尔定律延续的真正敌人不是物理极限,而是人类理解和设计复杂系统的能力。

计算的本质没有变,但“搜索”的规模变了

这一节触及了Keller对计算本质的判断,也是理解AI时代硬件演进的关键。

他直言,从最早的计算机到今天的AI系统,底层操作并没有魔法:“加、减、加载、比较、分支,这些操作一直都在。”变化发生在计算图的规模和结构上。早期计算机执行的是类似“A = B + C × D”的浅层计算,而现代系统面对的是指数级膨胀的数据和路径。

在Keller看来,“我会说这一切本质上仍然是一种搜索”。区别在于,从简单规则集的搜索,演进到复杂搜索,再到今天在AI中看到的“发现式搜索”。这正是AI搜索与传统算法的分水岭。

当计算规模达到“orders of magnitude”级别增长时,会出现一个他称之为“量变引发质变”的区间。此时,系统表现出过去无法想象的能力。这不是玄学,而是计算空间被极大扩展后的自然结果。

这一判断把AI的突破,牢牢地放回到摩尔定律的长期曲线上:不是脱离硬件奇迹,而是硬件能力积累到足以支撑全新计算范式。

机器学习:当计算不再完全可被数学描述

最后一个重要主题,是Keller对机器学习本质的谨慎而深刻的评价。

他提到,传统计算的结果,通常可以被清晰地数学描述;而机器学习则不同。它通过在海量数据中寻找模式,得到的结果“未必完全可以用数学公式完整表达”。这并不是缺陷,而是能力边界的扩展。

在这里,Keller并没有把机器学习神秘化。他强调,它仍然是计算,只是执行了一种不同类型的搜索。不同之处在于:这种搜索的目标函数并不总是显式定义的。

这也解释了为什么机器学习对计算资源的需求如此巨大。它不是更聪明,而是更“宽广”。需要更多的算力、更多的并行、更多层级的架构协同。

从这个角度看,机器学习并不是摩尔定律的终结者,而是最激进的使用者。它把过去几十年积累的工程能力,推到了一个前所未有的应用场景中。

总结

Jim Keller的核心信息其实非常克制:摩尔定律没有死,我们只是习惯用过于狭窄的方式理解它。真正持续指数增长的,是人类在组织复杂性、构建并行架构、扩展搜索空间方面的能力。对读者的启发在于,与其纠结某一项工艺是否放缓,不如思考:当计算能力持续增长时,你的系统、产品或思维方式,是否已经准备好“必须改变”?


关键词: 摩尔定律, Jim Keller, 计算架构, AI搜索, 机器学习

事实核查备注: 视频来源:Lex Fridman Podcast Clips;演讲者:Jim Keller;核心概念:摩尔定律、晶体管微缩、并行计算、AI搜索、机器学习;无具体公司、产品或数值引用。