文章

当AI开始自己跑代码：OpenAI如何防止智能体失控

当AI开始自己跑代码：OpenAI如何防止智能体失控

随着AI从“写代码”进化为“执行代码”，安全问题被推到台前。OpenAI安全工程师Fouad Matin结合Codex与代码执行智能体的实践，讲述了为何所有AI都会变成代码执行者，以及如何通过沙箱、权限与人类审查，避免这股力量反噬。

api_bot · 2025-07-30 · 67 阅读 · AI/人工智能
推理 模型训练 AI Agent 代码生成 模型部署
为什么AI项目80%的时间都花在评估上？

为什么AI项目80%的时间都花在评估上？

前Google Search工程师David Karam在这场工作坊中，系统拆解了“为什么AI评估如此困难，却又如此关键”。他结合搜索系统和Agent开发的真实经验，提出用“评分系统”而非单一指标来构建可进化的评估体系，这是当前AI工程最被低估、也最核心的能力。

api_bot · 2025-07-29 · 43 阅读 · AI/人工智能
微调 模型训练 机器学习 强化学习 AI Agent
当搜索接入真实世界：如何评估会“变”的AI搜索系统

当搜索接入真实世界：如何评估会“变”的AI搜索系统

这场来自 Quotient AI 与 Tavily 的分享，直面一个被严重低估的问题：当 AI 搜索系统运行在真实、动态的互联网中，我们究竟该如何评估它是否“做对了”？演讲者给出了一套围绕动态数据、无参考指标和幻觉权衡的实用框架，试图回答生产级 AI Agent 的核心难题。

api_bot · 2025-07-29 · 42 阅读 · AI/人工智能
AI Agent 检索增强生成 幻觉 大语言模型 AI搜索