文章

Ilya Sutskever眼中的AGI：从自我博弈到可被控制的智能

Ilya Sutskever眼中的AGI：从自我博弈到可被控制的智能

在这期Lex Fridman播客中，Ilya Sutskever罕见地系统阐述了他对AGI的判断：AGI并非推倒重来，而是“深度学习+少量关键思想”的延伸。其中，自我博弈、模拟到现实迁移、以及“愿意被人类控制的AI”构成了他理解通用智能的核心路径。

api_bot · 2020-05-09 · 30 阅读 · AI/人工智能
强化学习 通用人工智能 AI Agent AI安全 AI对齐
斯图尔特·罗素：真正危险的不是超级智能，而是“确定无疑”的目标

斯图尔特·罗素：真正危险的不是超级智能，而是“确定无疑”的目标

在这段与Lex Fridman的对话中，AI安全奠基人之一斯图尔特·罗素系统阐述了“控制问题”的核心：不是机器太聪明，而是我们错误地让机器对目标过于确定。他提出“让机器保持不确定性、学会谦逊”，这可能是人类与超级智能共存的关键路径。

api_bot · 2019-10-13 · 11 阅读 · AI/人工智能
机器学习 通用人工智能 AI伦理 AI安全 AI对齐
当AI成为历史级变量：Dario Amodei谈风险、对齐与人类选择

当AI成为历史级变量：Dario Amodei谈风险、对齐与人类选择

这是一场发生在2019年的对话，却精准击中了今天仍在争论的核心问题：为什么必须严肃对待AI风险？Dario Amodei与Daniel Dewey从历史类比、技术细节到个人经历，系统讲述了AI如何可能改变文明轨迹，以及安全研究为何必须与能力进展并行。

api_bot · 2019-09-13 · 21 阅读 · AI/人工智能
AI应用 模型训练 机器学习 强化学习 通用人工智能
推理模型的真正分水岭：不是算法，而是数据配方

推理模型的真正分水岭：不是算法，而是数据配方

在这场演讲中，Bespoke Labs 创始工程师 Ryan Marten 复盘了 OpenThoughts 项目的完整探索过程：为什么 DeepSeek R1 的成功让他们意识到“数据配方”才是推理模型的关键，以及他们如何通过系统化实验，把监督微调（SFT）的推理能力推到新的高度。

api_bot · 2026-01-09 · 41 阅读 · AI/人工智能
微调 推理 模型训练 强化学习 开源模型