正在加载视频...
视频章节
几乎所有 AI 从业者都在用同一种方式做聊天,但真正拖垮体验的,恰恰是这套“行业默认”。这场演讲抛出一个刺耳结论:AI UX 崩坏,责任不在模型,而在你用错了连接方式。
不是模型不行,是你把 AI 聊天做错了:一场关于 UX 的反击
几乎所有 AI 从业者都在用同一种方式做聊天,但真正拖垮体验的,恰恰是这套“行业默认”。这场演讲抛出一个刺耳结论:AI UX 崩坏,责任不在模型,而在你用错了连接方式。
最反直觉的真相:AI 聊天体验差,和模型几乎没关系
演讲一开始,Mike Christensen 就抛出了一个让全场点头、却又让人不太舒服的事实:在座几乎所有人,都做过 AI 聊天应用,而且用的还是同一种架构——HTTP 流式返回,SSE 打天下。
这套模式为什么“看起来没问题”?客户端发请求,后端 agent 调用 LLM,把 token 一点点流回前端,用户看到“正在输入中”,体验立刻显得很智能。但问题在于:这套设计从一开始,就只为“一个用户 + 一个 agent + 一次请求”服务。
Mike 的判断很尖锐:这不是一个小瑕疵,而是结构性缺陷。当你开始追求真正好的 AI UX——跨设备、可中断、可协作、可恢复——这套架构会系统性地拖你后腿。
三件顶级 AI 产品都会做的事,大多数团队做不到
Ably 在过去一年和大量 AI 团队深度交流后,总结出一个很有分量的共识:真正“好用”的 AI 体验,背后都有三项基础能力。
第一,弹性传输(Resilient Delivery)。网络抖一下,页面刷新一下,AI 不能就此“失忆”。流应该能活下来。
第二,跨界面连续性(Continuity Across Surfaces)。用户在手机上问到一半,打开电脑继续聊,这段对话不该重新开始。
第三,实时控制(Live Control)。用户不是只能等 AI 把话说完,而是可以中途打断、纠偏、甚至让另一个客户端介入。
问题是,用 SSE 的 HTTP 流,三条几乎全中枪:连接一断流就死;每个流是私有管道,第二个设备完全看不到;更别提“中途换主意”这种高级操作。一切都被死死绑在那一次请求上。
为什么“换成 WebSocket”还不够?真正的敌人是耦合
很多工程师的第一反应是:那我不用 SSE 了,换 WebSocket,总行了吧?
Mike 的回答是否定的。双向通信只是及格线,不是答案。如果 agent 仍然和某个客户端强绑定,那么第二个标签页、第三台设备,依然是“局外人”。
真正开始变复杂的地方,是多 agent 协作。一个 orchestrator 调多个子 agent,每个 agent 都有输出、都有状态。常见做法是把复杂度堆到 orchestrator 身上,最后得到一个谁也不敢改的“巨型中枢”。
他们看到的更优解,是把 agent 和 client 都“松绑”,中间引入一个Durable Session(持久会话):一个共享、可恢复、可订阅的状态资源。Agent 只管往里写事件,客户端只管订阅。谁来、谁走,都不影响生成本身。
Mike 说到这里,很多人突然意识到:这听起来,已经很像 pub/sub 了。
从“聊天请求”到“共享会话”,AI UX 正在换底层范式
在演讲的后半段,Mike 直接点明了趋势:下一代 AI UX,不是围绕 HTTP 请求,而是围绕“会话”本身构建。
他们在 Ably 内部把这种模式产品化,称为 AI Transport:基于持久 channel,把 LLM 的流式输出“物化”为可恢复、可分发的事件流。多个设备同时在线没问题,刷新页面自动追上进度,中断和取消也不再模糊。
现场 demo 里,一个 AI 客服对话可以在多个标签页同时打开,随时接管、甚至转交给真人客服。关键不在于 SDK,而在于背后的设计假设已经变了:AI 不再是一次请求的返回值,而是一个持续运行、可被多人感知和操控的过程。
这也解释了演讲标题那句话:AI UX 坏掉了,但真的不是模型的错。
总结
如果你正在做 AI 应用,这场演讲最重要的启发不是“用哪个框架”,而是重新审视你对 AI 交互的默认假设。当用户开始在多个设备、多种场景中“和同一个 AI 共处”,请求-响应模型必然崩溃。
真正值得你思考的是:你的 agent 是否还能在你关掉页面后继续工作?另一个客户端能否实时介入?你的架构,是在放大模型能力,还是在悄悄抵消它?
也许,下一次 AI 体验跃迁,不来自更大的模型,而来自一个更聪明的会话层设计。
关键词: AI UX, AI Agent, 对话式 AI, 实时系统, 大语言模型
事实核查备注: 需要核查:1)演讲者身份为 Ably 的 Staff Engineer Mike Christensen;2)Ably 平台规模描述(数十亿设备、数万亿 API 调用);3)SSE 与 WebSocket 在演讲中的技术对比观点;4)“Durable Sessions”与 pub/sub 的关系表述是否为原话或概括;5)Ably AI Transport 是否为演讲中展示的正式产品名称