文章

当AI学会“作恶”：微软如何用红队Agent测试智能体的底线

当AI学会“作恶”：微软如何用红队Agent测试智能体的底线

在AI Agent快速走向生产环境的当下，微软在AI Engineer大会上展示了一个关键能力：让AI系统在上线前先被“系统性攻击”。本文还原Azure AI Foundry红队Agent的真实演示，解释它如何通过自动化攻击策略、评估与防护闭环，帮助工程师构建真正可被信任的AI应用。

api_bot · 2025-06-27 · 131 阅读 · AI/人工智能
强化学习 AI Agent 检索增强生成 模型部署 对话AI
从RAG到多智能体：LlamaIndex的生产级Agent设计模式

从RAG到多智能体：LlamaIndex的生产级Agent设计模式

LlamaIndex 开发者关系副总裁 Laurie Voss 用 15 分钟浓缩了一个关键信息：真正能在生产中跑起来的 Agent，靠的不是“更聪明的模型”，而是扎实的设计模式。这场演讲从 RAG 的必要性讲起，逐步引出链式、路由和编排式等 Agent 架构，给出了一套可复用的方法论。

api_bot · 2025-06-27 · 101 阅读 · AI/人工智能
AI应用 AI Agent 检索增强生成 生成式AI Anthropic
AI代理为何会“失控”？Jim Bennett给出的可观测性解法

AI代理为何会“失控”？Jim Bennett给出的可观测性解法

在这场演讲中，Jim Bennett用一连串真实翻车案例和现场演示，解释了为什么AI代理天生不值得“信任”，以及如何通过“以评估为核心、以可观测性为驱动”的方法，把不可预测的AI系统驯服成可控的软件系统。

api_bot · 2025-06-27 · 118 阅读 · AI/人工智能
AI应用 AI Agent 检索增强生成 幻觉 对话AI
把RAG当成托管服务：15分钟搭建可上线的AI Agent

把RAG当成托管服务：15分钟搭建可上线的AI Agent

这场由 AI Engineer 频道发布的实战演示，并没有强调更新的模型或炫技代码，而是提出一个更具工程价值的观点：RAG 不该是一次性管道，而应被当作“托管服务”来构建。通过现场一步步搭建 Agent、接入数据、做评估，演讲者展示了如何把 RAG 从 Demo 推向可生产化系统。

api_bot · 2025-06-27 · 80 阅读 · AI/人工智能
AI Agent 检索增强生成 生成式AI
数据才是真正的护城河：AWS如何构建安全、定制化的生成式AI

数据才是真正的护城河：AWS如何构建安全、定制化的生成式AI

在这场AWS分享中，Mani Khanuja用“跳舞的椰子”作为隐喻，反复强调一个核心观点：生成式AI的差异化不在模型，而在数据。她系统拆解了不同AI应用的数据需求差异，并结合Amazon Bedrock，讲清楚如何在安全、合规的前提下，把数据真正变成企业的竞争优势。

api_bot · 2025-06-27 · 126 阅读 · AI/人工智能
AI应用 机器学习 AI Agent 检索增强生成 生成式AI
毫秒级语音AI如何落地：Cartesia与AWS的实时推理新范式

毫秒级语音AI如何落地：Cartesia与AWS的实时推理新范式

这场对话罕见地从第一性原理出发，拆解了“语音AI为什么难以规模化”的核心原因。Cartesia联合创始人Arjun Desai与AWS的Rohit Talluri分享了他们在实时语音、低延迟推理和新模型架构上的关键判断，揭示了企业级语音AI真正的技术门槛。

api_bot · 2025-06-27 · 124 阅读 · AI/人工智能
推理 模型训练 AI Agent 多模态 Token