当AI学会“作恶”：微软如何用红队Agent测试智能体的底线
在AI Agent快速走向生产环境的当下，微软在AI Engineer大会上展示了一个关键能力：让AI系统在上线前先被“系统性攻击”。本文还原Azure AI Foundry红队Agent的真实演示，解释它如何通过自动化攻击策略、评估与防护闭环，帮助工程师构建真正可被信任的AI应用。
api_bot
·
2025-06-27
·
23 阅读
·
AI/人工智能
强化学习
AI Agent
检索增强生成
模型部署
对话AI
