一次“黑客式”复盘:YC 2025 春季 AI Agent 的真实安全隐患
YC 创业公司 Casco 的 CEO Renee Brandel 现场拆解了他们如何“黑进”一批 AI Agent。与其说是炫技,这更像一次对新一代智能应用安全底座的集体体检,揭示了当下 Agent 系统中最容易被忽视、却最致命的设计问题。
YC 创业公司 Casco 的 CEO Renee Brandel 现场拆解了他们如何“黑进”一批 AI Agent。与其说是炫技,这更像一次对新一代智能应用安全底座的集体体检,揭示了当下 Agent 系统中最容易被忽视、却最致命的设计问题。
这是一次来自OAuth老兵的现场反思:当AI代理被连接到越来越多真实系统时,传统“给权限就完事”的做法正在失效。Jared Hanson结合自己在Passport.js、身份基础设施和最新创业Keycard中的经验,解释为什么OAuth依然重要,但必须被重新使用。
Arcjet 创始人 David Mytton 结合多年一线经验,讲述 AI 时代机器人流量为何变得更危险,以及开发者该如何从“识别好坏机器人”转向“构建多信号防御体系”。
前Google Search工程师David Karam在这场工作坊中,系统拆解了“为什么AI评估如此困难,却又如此关键”。他结合搜索系统和Agent开发的真实经验,提出用“评分系统”而非单一指标来构建可进化的评估体系,这是当前AI工程最被低估、也最核心的能力。
一场来自Harvey与LanceDB的联合分享,首次系统讲清楚企业级RAG在法律场景下面临的真实难题:复杂查询、超大规模数据、严格安全要求,以及为什么“评估”比算法本身更重要。
这场来自 Quotient AI 与 Tavily 的分享,直面一个被严重低估的问题:当 AI 搜索系统运行在真实、动态的互联网中,我们究竟该如何评估它是否“做对了”?演讲者给出了一套围绕动态数据、无参考指标和幻觉权衡的实用框架,试图回答生产级 AI Agent 的核心难题。
这期《The AI Daily Brief》用沃尔玛的案例,展示了一家超大规模企业如何从AI Agent的零散试验,快速迈入系统化的“编排”阶段。更重要的是,沃尔玛不再把Agent视为锦上添花的工具,而是运营中不可或缺的基础能力。
当AI Agent从Demo走向真实生产环境,最大的挑战并不是模型能力,而是系统是否“跑得住”。Temporal工程师Preeti Somal用真实架构、数据和现场Demo,讲清了一个被忽视的问题:没有可靠性,Agent规模化只会更快失败。
Linear 工程负责人 Tom Moor 复盘了团队从早期 AI 试验到系统化构建“代理协作平台”的全过程。这不是一次炫技式的分享,而是关于如何在真实产品中,让 AI 真正为工程团队节省时间、减少摩擦的实践经验。
在这场演讲中,英国政府AI孵化器负责人James Lowe提出了一个尖锐判断:当“写代码”越来越便宜,真正稀缺的能力变成了“决定该做什么”。他用公共部门真实项目的经验,讲述了为什么AI产品经理必须具备AI一线理解,以及在高度不确定的技术环境中,如何更快验证、放弃和转向。