从外星文明到神经网络：Wojciech Zaremba谈AI的极限与人类未来

在这期与Lex Fridman的长谈中，OpenAI联合创始人Wojciech Zaremba从费米悖论聊到神经网络，从机器人失败经验谈到人类意识与AI的边界。这不是一场技术发布，而是一位一线研究者对AI长期走向的深度自省。

为什么我们看不到外星人：AI视角下的费米悖论

这个话题的重要性在于，它揭示了Zaremba思考AI未来时的时间尺度——不是五年，而是文明级别的跨度。谈到Sam Altman曾向他提起费米悖论时，Zaremba并没有给出科幻式答案，而是从“智能系统如何扩展自身行动空间”这个角度切入。

他提出一种可能性：高度发达的文明未必会选择向外扩张，尤其是在其内部世界已经足够丰富的情况下。Zaremba认为，无论是生物文明还是人工智能，一旦在某个“局部最优解”中获得极高回报，就可能停止对外探索。他用近似考古学的比喻说，人类今天理解过去文明，是因为它们留下了物理痕迹，而高度智能的存在，未必会留下我们能理解的信号。

他有一句颇具代表性的判断：“也许宇宙中最稀有的，不是智能，而是持续向外扩张的冲动。”这背后其实是对AI的一种警惕——能力的提升，并不自动带来价值观或目标的外推。

神经网络不是符号机器：为什么“理解”来自内部结构

这一部分是整场对话中技术密度最高、也最容易被误解的内容。Zaremba反复强调，现代神经网络并不是通过显式符号或规则来“推理”，而是通过内部高维表示完成任务。

当Lex Fridman追问“网络内部是否存在类似符号的结构”时，Zaremba给出了一个微妙的回答：某些中间表示“看起来像符号”，但它们并不是人类设计的逻辑单元，而是训练过程中自然形成的有用抽象。他直言：“这更像是一种工程上的hack，而不是认知层面的解释。”

他还提到，许多能力并非来自单一模块，而是乘法式（multiplicative）的组合——感知、记忆、动作空间的耦合，决定了系统的上限。这也是为什么单纯堆算力并不能保证出现真正通用的智能。这里的洞见在于，Zaremba并不迷信“规模即一切”，而是强调结构与训练过程的协同。

OpenAI Robotics的挫折：现实世界为什么如此之难

Zaremba曾领导OpenAI的机器人团队，这段经历为他提供了与纯语言模型完全不同的视角。他坦言，机器人研究不断逼迫研究者面对一个事实：真实世界远比模拟复杂，噪声、延迟和不可控因素会迅速放大错误。

他回忆道，很多在仿真中表现良好的策略，一旦进入现实就会失败，因为系统必须“持续证明自己能安全地行动”。在他看来，这也是AI部署必须循序渐进的原因之一——不是因为研究者保守，而是因为现实反馈过于残酷。

有一句话很能代表他的态度：“现实世界不是benchmark，它会反击你。”这段经历也解释了为什么他对‘逐步部署系统’格外重视，而不是一蹴而就地追求完全自主的通用机器人。

意识、迷幻药与人类连接：AI无法回避的问题

在对话的后半段，话题转向意识与主观体验，这看似偏离AI工程，却恰恰是Zaremba认为无法回避的部分。他讨论了迷幻药带来的意识变化，并谨慎地区分“主观报告”和“可验证的功能提升”。

他提出一个关键问题：当一个人声称自己的意识被扩展了，我们该如何判断？这同样适用于AI——系统是否真的“理解”，还是只是更复杂的行为拟合？Zaremba并未给出答案，而是强调人类连接、价值和心理结构，可能是比算力更稀缺的资源。

他的一句总结意味深长：“技术会不断放大能力，但不会自动告诉我们该成为什么样的存在。”这也许正是他反复思考意识问题的原因。

总结

这次对话的价值，不在于具体技术路线的预测，而在于Zaremba展现的一种研究者心态：对能力保持野心，对意义保持怀疑。从费米悖论到机器人失败，从神经网络内部结构到人类意识，他始终在提醒我们——AI的未来不是一条直线，而是一连串关于选择、边界与责任的难题。对读者而言，最大的启发或许是：理解AI，最终也在逼迫我们重新理解自己。

关键词： Wojciech Zaremba， OpenAI， 神经网络， 费米悖论， 人工智能未来

事实核查备注： 人物：Wojciech Zaremba（OpenAI联合创始人）、Sam Altman；节目：Lex Fridman Podcast #215；公司：OpenAI；技术概念：神经网络、机器人学习、行动空间（action space）、逐步部署系统；话题：费米悖论、意识、迷幻药