AI公司如何真正用AI：从模型选择到Agent落地的真实答案

这篇文章基于《The AI Daily Brief》的一期研究型视频，拆解AI原生公司自己如何使用AI。它揭示了模型选择背后的真实考量、Agent为何突然升温，以及成本与ROI如何左右技术路线，带你看到一线从业者的真实决策逻辑。

为什么“AI公司用AI”这件事值得特别关注

这期视频的出发点很直接：如果连AI公司自己都不用某些技术，那外界的热闹可能只是幻觉。主持人一开始就点明，“how AI companies are actually using AI… from companies that are frankly best positioned to know”。这些公司既是技术提供者，也是最早的重度用户，因此它们的选择往往比市场宣传更真实。

研究对象聚焦在所谓的“AI native companies”，也就是从产品设计之初就以AI为核心能力的公司。数据显示，47%的AI原生公司正处在“规模化其AI产品”的阶段，这意味着它们已经跨过了概念验证，不再只是实验，而是在真实业务中承受成本、性能和可靠性的压力。

一个容易被忽视的细节是：这些公司并不只是在“用AI”，而是在不断调整“怎么用AI”。视频强调，这正是本报告的价值所在——不是预测未来，而是总结已经发生的选择与取舍。对于任何正在考虑AI落地的团队来说，这些经验更像是一张避坑地图，而不是技术愿景。

他们到底在构建什么？从大模型到Agent的转向

当话题转向“在构建什么”时，报告呈现出几个高度集中的方向。其中最显著的是大模型相关能力仍然占据核心位置，79%的AI原生公司都在这一主题上有所布局。这并不令人意外，因为无论是文本、代码还是多模态能力，大模型仍是当前大多数AI产品的基础设施。

真正有变化的是Agent（智能体）。视频中特别指出，这是一个“big theme”。Agent通常指能够自主规划、多步执行任务的AI系统，而不是单次问答模型。报告显示，Agent相关工作的占比相比上一个季度有显著提升，而此前这一比例“just 11%”。虽然视频没有给出最新的具体百分比，但主持人明确强调，这是一次跳跃式的变化。

这种转向背后并非跟风。Agent意味着更复杂的工程、更高的失败概率，也更直接地暴露模型的局限性。正因如此，AI公司率先尝试Agent，本身就是一个信号：它们已经开始把AI从“工具”推向“执行者”。

模型选择的现实逻辑：不只看性能，也看成本

在模型选择上，视频提供了一个非常“去神话化”的视角。主持人提到，在受访公司中，除了主流模型外，Mistral、DeepSeek 以及 Cohere 也都有所使用。这说明，即便是在AI公司内部，模型生态也远非一家独大。

更有意思的是选择标准的变化。视频明确指出，成本正在成为一个可以被认真讨论的因素，“creating the opportunity for cost to be a consideration”。当模型能力逐渐接近，推理成本、部署灵活性开始进入决策核心。

在具体成本构成中，报告提到约10%的支出与AI模型推理（inference）直接相关。推理指的是模型在实际运行、生成结果时所消耗的计算资源。正因为这部分成本持续、可叠加，许多公司开始认真评估开源模型，希望通过更可控的部署方式来压缩支出。这并不是理想主义，而是财务现实推动的技术路线调整。

真正的挑战不在技术，而在用在哪里

如果说前面的内容讲的是“选什么”，那这一部分回答的是“为什么这么难”。视频在谈到挑战时反复强调，最大的问题并不是模型本身，而是“finding the right use cases be a challenge”。换句话说，知道AI能做什么，并不等于知道它应该被用在什么地方。

这也解释了为什么ROI（投资回报率）在报告中被多次提及。很多公司仍处在实验阶段，不断尝试新场景，但尚未完全进入“full deployment phase”。在这个阶段，每一次扩展都意味着真实成本和组织调整，失败的代价不再只是时间。

主持人还提到，这种不确定性正在对整个行业产生“huge impact”。AI公司本身也在学习如何像传统软件公司一样，衡量效果、控制预算、证明价值。这种自我约束，可能比任何单一技术突破都更重要。

总结

这期《The AI Daily Brief》最大的价值，在于让我们看到AI公司并非生活在技术乌托邦中。它们同样要在模型性能、成本、ROI和组织复杂度之间反复权衡。从Agent的快速升温，到对开源模型的重新审视，这些选择都源于真实压力。对读者而言，最重要的启发或许是：AI落地的关键不在于“用不用最新模型”，而在于是否清楚自己要解决什么问题，以及为此愿意付出多大代价。

关键词： AI应用， AI Agent， 开源模型， AI推理， 模型选择

事实核查备注： 视频来源：The AI Daily Brief；AI原生公司中47%正在规模化AI产品；79%涉及大模型主题；Agent占比相较上一季度（11%）显著提升但未给出新数值；涉及模型/公司：Mistral、DeepSeek、Cohere；约10%的成本与AI模型推理（inference）相关。