文章

5%灭绝概率背后：2700名AI研究者真正害怕的不是末日

5%灭绝概率背后：2700名AI研究者真正害怕的不是末日

如果有一项技术，有5%的概率终结人类，你会觉得这是“很低”，还是“高得吓人”？一项覆盖2700多名AI与机器学习研究者的最新调查，把AI安全争论直接推到了桌面中央，而真正值得警惕的，还不只是那个5%。

api_bot · 2024-01-04 · 98 阅读 · AI/人工智能
机器学习 通用人工智能 生成式AI AI伦理 AI安全
OpenAI给自己装上“刹车系统”：一次被董事会逼出来的安全重构

OpenAI给自己装上“刹车系统”：一次被董事会逼出来的安全重构

Sam Altman 刚经历“被罢免又回归”的董事会风波，OpenAI 就抛出了一套前所未有的安全准备框架。更激进的是：一旦模型风险降不下来，哪怕算力已经砸下去，也可能直接停掉。这不是公关，而是一套会真正影响模型生死的内部机制。

api_bot · 2023-12-20 · 47 阅读 · AI/人工智能
Sam Altman 模型训练 通用人工智能 模型部署 AI伦理
GPT-2 教 GPT-4 变乖？OpenAI 超级对齐团队甩出第一张底牌

GPT-2 教 GPT-4 变乖？OpenAI 超级对齐团队甩出第一张底牌

如果你以为“更强的 AI 只能由更聪明的人来管”，那 OpenAI 刚刚发表的这篇论文，可能会让你皱眉。超级对齐团队的第一个研究结论很反直觉：一个几乎“很笨”的模型，居然能教会 GPT-4 更好地完成任务。这不是噱头，而是 OpenAI 对齐路线的一次重大转向。

api_bot · 2023-12-16 · 46 阅读 · AI/人工智能
Sam Altman 微调 AI Agent AI安全 大语言模型
Sam Altman封神背后：一次解雇风波，暴露了AI时代真正的权力逻辑

Sam Altman封神背后：一次解雇风波，暴露了AI时代真正的权力逻辑

Sam Altman没拿到TIME年度人物，却成了“CEO of the Year”。比头衔更重要的，是他被解雇又火速复职的那几天，意外撕开了生成式AI时代最隐秘的矛盾：安全与速度、使命与权力、理想主义与商业现实。

api_bot · 2023-12-11 · 49 阅读 · AI/人工智能
Sam Altman 通用人工智能 生成式AI AI安全 大语言模型
5天政变又反转：Sam Altman 回归背后，OpenAI 权力结构彻底变了

5天政变又反转：Sam Altman 回归背后，OpenAI 权力结构彻底变了

Sam Altman 被董事会突然解雇，又在五天后王者归来，这不是一场普通的人事风波，而是一次把 OpenAI 内部权力、AI 安全分歧和硅谷治理矛盾全部暴露在阳光下的“行业级事故”。真正的赢家和输家，其实比表面复杂得多。

api_bot · 2023-11-22 · 47 阅读 · AI/人工智能
Sam Altman Satya Nadella Anthropic AI安全 AI对齐
一夜失控的OpenAI：董事会、Altman、微软，把AI权力结构撕开了

一夜失控的OpenAI：董事会、Altman、微软，把AI权力结构撕开了

OpenAI董事会刚炒掉Sam Altman，员工却集体“逼宫”，微软趁机接盘，前Twitch CEO空降掌舵——这不是宫斗八卦，而是一场关于AI控制权、算力与安全话语权的公开撕裂。读完你会明白：谁在真正决定AI的未来。

api_bot · 2023-11-20 · 49 阅读 · AI/人工智能
Sam Altman Satya Nadella AI安全 AI对齐 Ilya Sutskever
Sam Altman 被突然解雇：OpenAI 董事会这一刀，砍向了谁？

Sam Altman 被突然解雇：OpenAI 董事会这一刀，砍向了谁？

没有预告、没有缓冲，OpenAI 董事会在一个交易日内“直接动手”，把 Sam Altman 从 CEO 位置上拉了下来。公告措辞异常冷酷，市场瞬间震荡，微软市值蒸发数百亿美元。更重要的是：这不像普通的高管更替，而像一次对“AI 未来方向”的强制纠偏。

api_bot · 2023-11-17 · 43 阅读 · AI/人工智能
Sam Altman 通用人工智能 Anthropic AI安全 AI对齐
ChatGPT不是产品奇迹，而是一次研究向现实低头的冒险

ChatGPT不是产品奇迹，而是一次研究向现实低头的冒险

ChatGPT 的成功，并不是一次“技术碾压”，而是一次充满犹豫、妥协与反直觉决策的产品实验。OpenAI 研究团队原本并不确定用户会不会买账，甚至不敢用最强模型上线。这段 Research × Product 的幕后故事，几乎重写了 AI 产品该如何诞生的逻辑。

api_bot · 2023-11-13 · 34 阅读 · AI/人工智能
AI应用 通用人工智能 代码生成 大语言模型 提示工程
走进AI Town：当AI学会“像人一样生活”，我们学到什么

走进AI Town：当AI学会“像人一样生活”，我们学到什么

这不是一场关于模型参数的技术演讲，而是一次关于“人是什么”的实验。a16z与Generative Agents论文作者June Park，通过AI Town这一模拟世界，展示了大语言模型如何第一次被用来理解、而不只是模仿人类行为。

api_bot · 2023-11-06 · 52 阅读 · AI/人工智能
AI应用 AI Agent 检索增强生成 AI伦理 对话AI
Ilya Sutskever亲述：从“能跑就行”到超级对齐，OpenAI的真实方法论

Ilya Sutskever亲述：从“能跑就行”到超级对齐，OpenAI的真实方法论

这是一篇基于OpenAI联合创始人兼首席科学家Ilya Sutskever长谈的深度文章，完整还原他对深度学习起源、OpenAI早期试错、大模型为何必须“尽可能大”，以及为什么“超级对齐”将成为AGI时代生死线的真实思考。

api_bot · 2023-11-02 · 60 阅读 · AI/人工智能
模型训练 通用人工智能 神经网络 AI对齐 Ilya Sutskever