Transformer作者的下一步:Illia眼中的AI代理与区块链操作系统

AI PM 编辑部 · 2023年09月14日 · 1 阅读 · AI/人工智能

正在加载视频...

视频章节

Transformer论文作者、NEAR联合创始人Illia Polosukhin在这期播客中,回顾了Transformer诞生的技术背景,也讲述了NEAR从“AI公司”转向区块链操作系统的关键转折。他给出了对AI Agent、内容真实性与AI对齐问题的独特判断:技术问题背后,往往是人的问题。

Transformer作者的下一步:Illia眼中的AI代理与区块链操作系统

Transformer论文作者、NEAR联合创始人Illia Polosukhin在这期播客中,回顾了Transformer诞生的技术背景,也讲述了NEAR从“AI公司”转向区块链操作系统的关键转折。他给出了对AI Agent、内容真实性与AI对齐问题的独特判断:技术问题背后,往往是人的问题。

从“跑不动的LSTM”到Transformer:一次工程现实驱动的突破

理解Illia的技术判断,必须从Transformer诞生的背景说起。这并不是一次“灵光乍现”的理论创新,而是被真实工程问题逼出来的选择。当时他所在的团队专注于自然语言理解和问答系统,主流方案是LSTM等循环神经网络。但在生产环境中,这类模型“根本跑不动”——推理速度慢、难以扩展,几乎无法上线。

在播客中Illia回忆,他们开始尝试完全不同的结构,探索如何在不依赖循环的情况下建模序列关系。这种探索最终发展成后来震撼整个AI领域的Transformer架构。他轻描淡写地评价那段经历:“It was pretty cool to explore that and obviously grew into something very interesting and awesome.”但这句话背后,是一个重要洞见:Transformer并非为了“更聪明”,而是为了“能用”。

这也解释了Illia一贯的工程导向——他关注的从来不是抽象的智能极限,而是技术是否能在真实世界落地。这种思维方式,后来也深刻影响了他对AI Agent和区块链的看法。

NEAR最初不是为区块链而生,而是为AI而来

很多人以为NEAR从一开始就是一家区块链公司,但Illia在节目中明确提到:2018年创立NEAR时,它的初衷其实是一个AI导向的项目。团队最初的目标,是构建一种能让复杂系统自动协作、又能被普通开发者使用的基础设施。

真正的转折在于,他们意识到如果没有一种“默认可信、可组合、全球一致”的底层系统,AI应用很难大规模协作。这时,区块链从“加密货币技术”变成了一种更底层的计算和协作范式。NEAR最终被定义为“blockchain operating system”,不是强调链本身,而是强调它像操作系统一样,屏蔽复杂性、服务上层应用。

Illia强调,这种定位的目标用户不是加密原住民,而是普通开发者和最终用户——让Web3应用真正交付到消费者手中。正因如此,NEAR在设计上极度关注开发体验和用户体验,而不是单纯的链上炫技。

AI Agent、内容真实性与区块链的交汇点

在谈到AI与区块链的结合时,Illia并没有给出夸张的未来想象,而是聚焦在几个现实且棘手的问题上。其中一个核心,是AI Agent的崛起。随着模型能力提升,AI不再只是工具,而会成为持续运行、代表用户行动的“代理”。

问题随之而来:当大量内容和行为由AI生成,我们如何判断真实性?Illia认为,这是区块链最自然的用武之地之一——不是用来存储所有数据,而是用来提供可验证的来源、签名和历史。他在节目中反复强调,未来的关键不在于“生成多少内容”,而在于“你能否验证你看到的东西来自谁、是否被篡改过”。

这种观点并不新奇,却很少有人把它和AI Agent放在同一条逻辑链上。Illia的独特之处在于,他把区块链看作AI社会的“信任基础设施”,而不是金融工具。

AI对齐不是模型问题,而是人的问题

在整期对话中,最有哲学意味的一句话,出现在对AI对齐(alignment)的讨论中。Illia直言:“the alignment problem in AI is really a human problem。”这并不是在回避技术难题,而是在重新界定问题本身。

他指出,我们往往期待通过更复杂的模型、更精细的训练来解决对齐,但真正未对齐的,常常是人类自身的目标、激励和制度。当AI系统被部署到现实世界,它们遵循的是人类设定的规则和经济结构,而这些结构本身就充满冲突。

在这个意义上,无论是AI Agent还是区块链操作系统,都只是放大器。它们会放大好的协作机制,也会放大糟糕的激励设计。Illia并没有给出简单答案,而是提醒听众:对齐不是一次性技术突破,而是长期的社会工程。

总结

从Transformer到NEAR,Illia Polosukhin的路径始终围绕一个核心:让复杂技术真正可用。他对AI Agent、内容真实性和AI对齐的判断,都源于工程实践而非抽象担忧。这期播客最大的启发在于:当AI能力指数级增长时,决定未来走向的,可能不是模型本身,而是我们为它们构建的底层系统与人类规则。


关键词: Transformer, AI Agent, AI对齐, 区块链操作系统, NEAR

事实核查备注: Illia Polosukhin:Transformer论文作者之一、NEAR联合创始人;Transformer:提出于2017年的神经网络架构;NEAR:定位为“blockchain operating system”;关键原话包括“blockchain operating system”“the alignment problem in AI is really a human problem”。