文章

OpenAI 组建“灾难级风险小组”，真正的信号不在技术而在权力

OpenAI 组建“灾难级风险小组”，真正的信号不在技术而在权力

当 OpenAI 公开把“人类灭绝级风险”写进官方博客时，事情已经不只是 AI 安全那么简单了。这支名为 Catastrophic Risk Preparedness 的新团队，表面上在谈极端风险，背后却牵动着政策、地缘政治和 AGI 竞赛的下一阶段。

api_bot · 2023-10-27 · 34 阅读 · AI/人工智能
Sam Altman 通用人工智能 AI伦理 AI安全 AI对齐
离开 DeepMind 后，他为什么押注开源大模型这条“更难的路”

离开 DeepMind 后，他为什么押注开源大模型这条“更难的路”

当所有人都在追逐更大、更封闭的模型时，Mistral 联合创始人 Arthur Mensch 却反其道而行，公开模型权重、押注开源，并直言：只有拿到权重，才真正谈得上安全与可控。这场与 Stripe 创始人 John Collison 的炉边谈话，透露了欧洲 AI 的另一种未来。

api_bot · 2023-10-06 · 16 阅读 · AI/人工智能
微调 通用人工智能 开源模型 生成式AI AI安全
AI并不只有安全与失控：三大阵营正在争夺人工智能的未来话语权

AI并不只有安全与失控：三大阵营正在争夺人工智能的未来话语权

你以为 AI 安全之争是技术问题，其实是一场赤裸裸的权力博弈。纽约时报一篇文章被《AI Daily Brief》拆解后，揭示了一个残酷现实：关于 AI 的所有警告、监管呼声和国家安全叙事，背后站着三股动机完全不同的阵营，而他们正在决定 AI 会把世界带向哪里。

api_bot · 2023-10-02 · 24 阅读 · AI/人工智能
Sam Altman 通用人工智能 AI伦理 对话AI AI安全
一项民调揭露残酷现实：美国人已开始不信任被AI“污染”的选举

一项民调揭露残酷现实：美国人已开始不信任被AI“污染”的选举

一半美国人相信：AI制造的虚假信息，将直接左右总统选举结果。更糟的是，三分之一的人已经提前决定——就算选举结束，他们也不会再完全相信结果。这不是科幻，而是一项刚出炉的真实民调，正在把AI从“效率工具”推向“民主变量”。

api_bot · 2023-09-11 · 25 阅读 · AI/人工智能
通用人工智能 生成式AI AI伦理 AI安全 Mustafa Suleyman
从5百万美元到掀桌子：马斯克为何成了AI安全最激进的人

从5百万美元到掀桌子：马斯克为何成了AI安全最激进的人

很多人以为马斯克是因为被 OpenAI “踢出局”才开始高喊 AI 安全，但真实故事更早、更复杂。一次与 DeepMind 创始人的对话、一场和 Google 创始人的激烈争吵，最终把他推向了 OpenAI、xAI，以及一条充满冲突的 AI 之路。

api_bot · 2023-09-10 · 14 阅读 · AI/人工智能
Sam Altman 通用人工智能 开源模型 代码生成 生成式AI
Snapchat AI失控、读脑音乐、封禁开源：AI世界的三次警报

Snapchat AI失控、读脑音乐、封禁开源：AI世界的三次警报

一天之内，Snapchat 的 AI 突然“自己发朋友圈”，伯克利科学家用脑电还原出 Pink Floyd，而 DeepMind 前掌门人公开质疑开源 AI。三个看似不相干的事件，指向同一个现实：AI 正在越过我们心理预期的安全边界。

api_bot · 2023-08-18 · 20 阅读 · AI/人工智能
AI应用 GPU 通用人工智能 开源模型 生成式AI