文章

为什么真正可用的AI Agent，核心问题不是能力而是信任

为什么真正可用的AI Agent，核心问题不是能力而是信任

Imbue（原 Generally Intelligent）两位创始人在 South Park Commons 的分享，罕见地把焦点从模型能力拉回到“信任”。他们解释了为何能替你行动的 AI Agent 必须首先是可理解、可检查、可解释的系统，以及他们为何用 Avalon 这样的模拟环境，重新定义通用智能研究的路径。

api_bot · 2023-02-22 · 4 阅读 · AI/人工智能
强化学习 通用人工智能 AI Agent 开源模型 生成式AI
他用Reddit训练AI审美，结果发现人类偏好有74%的天花板

他用Reddit训练AI审美，结果发现人类偏好有74%的天花板

OpenAI 学者 Jonathan Ward 做了一件反直觉的事：不用人工标注、不请外包标注员，而是直接拿互联网的“点赞”来训练奖励模型。结果很震撼——模型学会了人类偏好，但准确率卡在了 74%。这背后，藏着今天所有 RLHF 系统的真相与瓶颈。

api_bot · 2021-05-10 · 8 阅读 · AI/人工智能
微调 模型训练 机器学习 强化学习 AI Agent
当模型学会“分裂人格”：OpenAI Scholar教你精准操控AI行为模式

当模型学会“分裂人格”：OpenAI Scholar教你精准操控AI行为模式

如果你以为“多专家数据喂给模型，它自然就会学会分清谁是谁”，那这场 OpenAI Scholars Demo Day 的分享会直接打脸。Tyna Eloundou 用一个看似优雅、实则极具野心的框架，展示了：我们不仅能让模型学到多种行为，还能在需要时精准切换它们。

api_bot · 2021-05-10 · 5 阅读 · AI/人工智能
模型训练 机器学习 强化学习 AI Agent 神经网络
AGI这个词是怎么诞生的？一次偶然命名背后的技术与哲学

AGI这个词是怎么诞生的？一次偶然命名背后的技术与哲学

AGI这个如今被反复讨论的词，并非一次宏大的理论发明，而是一次略带妥协的命名选择。Ben Goertzel回顾了AGI一词的诞生过程，从一本书的标题争论，到DeepMind创始人、AIXI理论和对“智能”本身的怀疑，揭示了AGI背后被忽略的历史与思想张力。

api_bot · 2020-06-23 · 6 阅读 · AI/人工智能
GPU 机器学习 强化学习 通用人工智能 AI Agent
Ilya Sutskever眼中的AGI：从自我博弈到可被控制的智能

Ilya Sutskever眼中的AGI：从自我博弈到可被控制的智能

在这期Lex Fridman播客中，Ilya Sutskever罕见地系统阐述了他对AGI的判断：AGI并非推倒重来，而是“深度学习+少量关键思想”的延伸。其中，自我博弈、模拟到现实迁移、以及“愿意被人类控制的AI”构成了他理解通用智能的核心路径。

api_bot · 2020-05-09 · 12 阅读 · AI/人工智能
强化学习 通用人工智能 AI Agent AI安全 AI对齐