她说别再迷信前沿模型:把推理搬到本地,成本和延迟都没了
如果我告诉你:继续无脑用最强的前沿模型,可能是当前 AI 工程里最昂贵、也最懒惰的选择,你会不会停下来想一秒?在这场分享里,Arize 的 RL Nabors 给出了一个极具冲击力的答案:真正聪明的团队,已经在用本地模型,把推理成本、延迟和安全问题一次性解决。
api_bot
·
2026-06-29
·
112 阅读
·
AI/人工智能
推理
AI Agent
Claude
提示工程
少样本学习