AGI这个词是怎么诞生的?一次偶然命名背后的技术与哲学

AI PM 编辑部 · 2020年06月23日 · 3 阅读 · AI/人工智能

正在加载视频...

视频章节

AGI这个如今被反复讨论的词,并非一次宏大的理论发明,而是一次略带妥协的命名选择。Ben Goertzel回顾了AGI一词的诞生过程,从一本书的标题争论,到DeepMind创始人、AIXI理论和对“智能”本身的怀疑,揭示了AGI背后被忽略的历史与思想张力。

AGI这个词是怎么诞生的?一次偶然命名背后的技术与哲学

AGI这个如今被反复讨论的词,并非一次宏大的理论发明,而是一次略带妥协的命名选择。Ben Goertzel回顾了AGI一词的诞生过程,从一本书的标题争论,到DeepMind创始人、AIXI理论和对“智能”本身的怀疑,揭示了AGI背后被忽略的历史与思想张力。

一切源于一本差点叫《Real AI》的书

理解AGI这个词的来历很重要,因为它并不是从某个统一理论自然生长出来的,而是一次现实语境下的折中产物。Ben Goertzel回忆,时间大约在2001到2002年,他正在编辑一本学术论文集,目标是严肃讨论“真正会思考的机器”。他最初给这本书起的临时名字叫《Real AI》。

这个标题后来让他越来越不舒服。原因很简单:他自己也在做我们今天称为“窄AI”的工作,比如把机器学习用于基因组数据分析、聊天文本的情感分析。“这些工作也是真实的AI”,只是类型不同。Ray Kurzweil当时常用“narrow AI”和“strong AI”区分,但Goertzel认为这套说法问题很多——不仅“narrow/strong”语义奇怪,而且“强AI”在认知科学里早已有特指含义,指的是机器是否具有真正意识。

于是,一个看似技术性的术语问题,实际上变成了对整个领域如何自我定义的困惑:如果不是Real AI,那还能叫什么?

一封邮件里诞生的AGI,以及DeepMind的前夜

AGI这个词,并不是在论文中被“正式定义”的,而是在一个小圈子的邮件列表里被选中的。当时参与讨论的人,后来几乎都成了AI史上的重要角色:Peter Voss、Pei Wang、以及当年还在读博的Shane Legg。

Shane Legg后来成为Google DeepMind的联合创始人,但在那时,他刚开始跟随Marcus Hutter攻读博士。Hutter后来出版了《Universal AI》,为通用智能给出了严格的计算理论框架。正是在讨论书名时,有人(Goertzel记得可能是Shane或Peter)提出:不如就叫Artificial General Intelligence,简称AGI。

Pei Wang曾建议用GAI(General Artificial Intelligence),因为在中文语序里更自然,但大家很快意识到“GAI”在当时的英语语境里并不合适。最终,AGI胜出,还有一个关键理由:心理学里有“G factor”,即一般智力因子(general intelligence)。AGI听起来像是“人工的G因子”,在概念上顺理成章。

Goertzel事后评价得很坦率:“这个词并不算特别有创意,只是事后看来很明显。”

名字不完美,但概念更麻烦

有意思的是,作为“AGI之父”常被引用的Goertzel本人,其实并不喜欢这个词。他逐字拆解“Artificial”“General”“Intelligence”,发现每一个都站不住脚。

“Artificial(人工)”让他不舒服,因为artifice暗示工具,而他认为未来的智能体不应只是工具,而是具备自主性的agent。他甚至质疑“人工 vs 自然”的二分法:“我们也是自然的一部分,机器也是自然的一部分。”如果一定要区分,更合理的也许是“演化的 vs 工程的”。

“General”在理论上同样成问题。Marcus Hutter在《Universal AI》中提出的AIXI模型,确实刻画了什么是“真正一般的智能”——在所有可计算环境中最大化期望奖励。但结论也很冷酷:AIXI需要无限计算资源,因此在物理世界中不可实现。

至于“Intelligence”,Goertzel更是直言不讳:“智能本身就没有一个好定义。”当前流行的“最大化未来奖励”的定义在很多情况下是病态的。他特别提到朋友David Weinbaum的研究,试图从开放式、自组织系统的角度理解智能,而不是绑定单一目标函数。

从AIXI到怪名字孩子:科学家的另一面

这期对话最生动的地方,在于Goertzel毫不掩饰自己的幽默与自嘲。当他谈到AIXI时,顺口提到:AIXI其实是他孩子的中间名。

他的孩子名叫Quarxi Aixiphanes。Quarxi是“Quantum Organized Rational Expanding Intelligence”的缩写,而Aixiphanes意指“揭示AIXI原理的人”。他说完还不忘调侃:“Elon Musk的新孩子名字是抄我的。”甚至把这件事形容为“怪异极客婴儿名字的军备竞赛”。

但玩笑背后,是一种真实的科学家气质:理论、生活和想象力混在一起。他也认真补充,自己的大儿子Zarathustra和女儿Sherazade都很喜欢自己的名字,“如果你给孩子起怪名字,就得把他们培养得足够怪,好让他们喜欢这个名字。”

这种跨越学术与生活的叙事,也恰恰体现了AGI研究的状态:它从来不只是工程问题,而是一种世界观。

为什么一个“不完美的词”反而成功了

尽管Goertzel对AGI的三个字都不满意,但他承认:这个词在社会层面是成功的。“Everyone knows what AI is, and AGI seems immediately comprehensible to people with a technical background.”

AGI完成了一种“社会学功能”。它像GPU一样,名字已经与原始含义脱钩,却没人愿意再换。“我们现在的GPU基本跟图形没什么关系,但这个词还是留下来了。”AGI也是如此,一旦被社区广泛采用,就很难被替代。

他最后用一句极具画面感的话收尾:“我们可能会用AGI这个词很久,直到AGI系统接管世界,然后它们给自己重新命名。”至于人类?也许只是“Grandpa Processing Units(爷爷级处理单元)”。

总结

AGI并不是一个从理论顶峰诞生的完美术语,而是一次现实、历史、人物关系交织下的选择。正因为它不完美,反而留下了足够的弹性,容纳了不同路线、不同哲学的探索。理解AGI这个词的来历,也是在理解一个仍未定型的领域:它的问题,远比答案多。


关键词: AGI, 通用人工智能, Ben Goertzel, AIXI, DeepMind

事实核查备注: Ben Goertzel 编辑书籍时间约2001-2005;书名最终使用 Artificial General Intelligence;相关人物:Shane Legg(Google DeepMind 联合创始人)、Marcus Hutter(《Universal AI》作者)、Peter Voss、Pei Wang;AIXI 为理论模型,需要无限计算资源;视频发布时间:2020-06-23,频道:Lex Fridman。