正在加载视频...
视频章节
在这场超过一小时的技术演讲里,Kevin Madura 抛出一个足够“刺耳”的观点:如果你还在手调 Prompt、堆规则、修模板,你可能已经走在一条注定维护地狱的老路上。DSPy 给出的不是又一个 LLM 框架,而是一种彻底不同的思维方式。
他用一场演讲告诉你:写 Prompt 的时代,可能真的要结束了
在这场超过一小时的技术演讲里,Kevin Madura 抛出一个足够“刺耳”的观点:如果你还在手调 Prompt、堆规则、修模板,你可能已经走在一条注定维护地狱的老路上。DSPy 给出的不是又一个 LLM 框架,而是一种彻底不同的思维方式。
最反直觉的开场:Prompt Engineering 不是核心竞争力
演讲一开始,Kevin Madura 就在做一件“劝退式”的事情:他说他希望今天能“转化”更多人——转化的对象,正是那些已经在 LangChain、各种 Prompt 模板里投入大量精力的工程师。
他的核心判断很简单,也很刺耳:手写 Prompt 并不是一个可扩展、可复用、可优化的工程方法。当应用从 Demo 走向生产,Prompt 会迅速变成一团难以维护的隐性逻辑:谁也说不清它为什么有效,更没人敢随便改。
DSPy 的出发点,正是把“我想让模型做什么”从“我该怎么写 Prompt”中剥离出来。这不是语法糖,而是一次认知层级的上移:从“写提示词”,变成“声明意图”。
DSPy 到底是什么?不是框架,而是一套工程哲学
在官方定义里,DSPy 被称为一个 declarative framework。但如果你只把它理解成“又一个 LLM 框架”,那基本就错过了重点。
DSPy 的核心,是 Signature(签名)。Signature 用极其克制的方式描述输入和输出:你告诉系统你要什么结果,而不是你希望模型怎么一步步思考。这一步听起来抽象,但影响极其现实:Prompt 不再是代码资产,Signature 才是。
一旦意图被结构化,后面的事情就交给系统:如何生成 Prompt、如何组合上下文、如何适配不同模型,甚至如何在失败时自动调整。这也是 Kevin 一再强调的:DSPy 不是替你写 Prompt,而是让你不再需要关心 Prompt。
真正的杀手锏:优化器、指标和“自动找路”
如果说 Signature 是 DSPy 的入口,那么 Optimizer 才是它最具工程价值的部分。
在传统 LLM 应用里,优化几乎等同于“人工试错”:换几句话、调几个示例、加点规则,全靠经验和感觉。而在 DSPy 里,优化是显式的、可重复的流程:你定义 Metrics(评价标准),系统通过 Optimizer 自动探索更优的 Prompt 结构和参数组合。
Kevin 用了一个很形象的比喻:这就像是在复杂地形中找一条通往目标的路。你不需要手绘每一步,DSPy 会在约束条件下不断尝试,直到找到更好的路径。对工程团队来说,这意味着 Prompt 首次具备了“可回归、可对比、可进化”的属性。
从 OCR 到多模态:DSPy 并不只服务于“文本玩具”
演讲中一个容易被低估的部分,是 Kevin 展示的实际案例:包括 OCR 场景、多模态输入,以及复杂文档(如 PDF)的处理流程。
这些例子有一个共同点:模型不是孤立工作的。图像先被 OCR,结构化结果进入后续 Signature,模型再完成推理和生成。DSPy 在这里扮演的角色,不是“大一统框架”,而是把每一步的意图和评价标准显式化。
这也解释了为什么他会在演讲中顺带提到 LangChain 等工具——不是否定它们,而是指出一个分野:当系统复杂度上升,仅靠链式调用和手工 Prompt,很快会触顶。DSPy 更像是为“下一阶段”的 LLM 应用准备的基础设施。
这意味着什么?LLM 工程正在变成真正的工程
整场演讲的潜台词,其实是一个趋势判断:LLM 应用正在从“技巧驱动”走向“系统驱动”。
当 Signature 成为接口、Metrics 成为目标、Optimizer 成为常态,LLM 工程师的角色也在变化:不再是写出最漂亮 Prompt 的人,而是能定义问题、约束系统、评估结果的人。
DSPy 不一定会成为唯一标准,但它清晰地指向了一个方向:Prompt 不该是玄学,而该是可以被工程化管理的资产。
总结
如果你正在做的 LLM 项目已经开始出现这些信号——Prompt 越来越长、修改越来越谨慎、效果好坏说不清原因——那么这场关于 DSPy 的演讲值得你反复看。
它未必要求你立刻“全盘切换”,但至少提供了一种新的思考框架:把注意力从“怎么写 Prompt”转移到“我真正想让系统学会什么”。下一步你可以做的,是挑一个最不稳定的 Prompt,用 Signature + Metric 的方式重构它,亲眼看看工程复杂度是如何下降的。
真正的分水岭,往往不是模型升级,而是你是否愿意升级自己的工程方法。
关键词: DSPy, Prompt Engineering, LLM工程化, 多模态, LangChain
事实核查备注: 需要核查:1)演讲者姓名 Kevin Madura 及其公司 AlixPartners;2)视频发布时间 2026-01-08;3)DSPy 的官方定义为 declarative framework;4)演讲中对 LangChain 的定位为对比而非否定;5)案例涉及 OCR 与多模态示例是否均来自视频展示。