文章

OpenAI 研究负责人亲口说：真正让 AI 更安全的，不是限制，而是让它“多想一会儿”

OpenAI 研究负责人亲口说：真正让 AI 更安全的，不是限制，而是让它“多想一会儿”

在这场 OpenAI DevDay 的炉边谈话中，Mark Chen 抛出了一个反直觉观点：o1 这样的“推理模型”，既是能力飞跃，也是过去一年最重要的安全进展之一。从 AGI 的真实边界，到新加坡为何被 OpenAI 视为 AI 高地，这是一场只讲内部认知、不讲公关套话的对话。

api_bot · 2024-12-17 · 6 阅读 · AI/人工智能
微调 强化学习 通用人工智能 AI Agent 生成式AI
他们用大模型帮医生省下7分钟，却发现“跑快一点”会害人

他们用大模型帮医生省下7分钟，却发现“跑快一点”会害人

在 OpenAI DevDay 的舞台上，Tortus 团队抛出一个刺痛行业的事实：在医疗场景里，LLM 最大的风险不是不够聪明，而是“看起来太聪明”。一次无意的幻觉，可能直接影响患者决策。这不是一场炫技分享，而是一堂关于如何把大模型真正送进生产、还不伤人的硬核课。

api_bot · 2024-12-17 · 3 阅读 · AI/人工智能
Sam Altman AI应用 幻觉 AI安全 大语言模型
Claude 被测出“正向歧视”，真正降偏见的提示词反而很简单

Claude 被测出“正向歧视”，真正降偏见的提示词反而很简单

在 OpenAI DevDay 的社区分享中，LaunchDarkly 的开发者教育者抛出一个反直觉结论：主流大模型并不是一视同仁，而是已经在“主动纠偏”。更意外的是，真正有效的反偏见提示工程，并不复杂，甚至有点“反直觉地朴素”。

api_bot · 2024-12-17 · 7 阅读 · AI/人工智能
检索增强生成 AI伦理 Claude Anthropic AI安全
5分钟对10的25次方年：谷歌量子芯片为何让时间线失真

5分钟对10的25次方年：谷歌量子芯片为何让时间线失真

在Sora发布当天，谷歌却用一块名为Willow的量子芯片抢走了全部注意力。本篇文章还原这次量子计算突破的真实意义、争议与边界，并将它与AGI时间线、微软与OpenAI分歧、xAI的“意外”模型发布放在同一张未来地图中，帮助你判断：哪些是近未来，哪些仍是远方的科幻。

api_bot · 2024-12-17 · 5 阅读 · AI/人工智能
Sam Altman GPU 模型训练 通用人工智能 生成式AI
Sora正式上线：它没解决物理世界，却重新定义了AI视频创作

Sora正式上线：它没解决物理世界，却重新定义了AI视频创作

OpenAI终于发布Sora视频生成工具。它在画面质感和创作自由度上令人惊艳，却依然被“物理一致性”拖住后腿。这篇文章将还原视频中的真实体验、争议与洞见，解释为什么Sora更像一次创作范式的转折，而不是技术终点。

api_bot · 2024-12-11 · 12 阅读 · AI/人工智能
Sam Altman 微调 生成式AI 幻觉 AI安全
Sora将至、Aurora突袭、Llama瘦身：生成式AI的三线决战

Sora将至、Aurora突袭、Llama瘦身：生成式AI的三线决战

这是一条信息密度极高的AI时间线：OpenAI的Sora终于逼近发布，xAI突然放出几乎无护栏的图像模型Aurora，Meta则用Llama 3.3证明“更小、更便宜”正在改变游戏规则。本文带你还原这三条战线背后的真实信号与行业走向。

api_bot · 2024-12-09 · 6 阅读 · AI/人工智能
Sam Altman GPU 开源模型 AI安全 上下文窗口
白宫AI沙皇、版权之争与基础设施革命：美国AI走到关键岔路口

白宫AI沙皇、版权之争与基础设施革命：美国AI走到关键岔路口

这期《AI Daily Brief》罕见地把政治、法律与技术三条线索交织在一起：从特朗普可能设立“白宫AI沙皇”，到国会推动AI训练版权透明法案，再到Anthropic推出MCP协议。它们共同指向一个信号：AI竞争已从模型本身，转向治理权、规则制定权和底层基础设施。

api_bot · 2024-11-27 · 3 阅读 · AI/人工智能
AI应用 模型训练 模型部署 Anthropic AI安全