AI并不只有安全与失控：三大阵营正在争夺人工智能的未来话语权

你以为 AI 安全之争是技术问题，其实是一场赤裸裸的权力博弈。纽约时报一篇文章被《AI Daily Brief》拆解后，揭示了一个残酷现实：关于 AI 的所有警告、监管呼声和国家安全叙事，背后站着三股动机完全不同的阵营，而他们正在决定 AI 会把世界带向哪里。

第一股力量：末日论者，把 AI 说成“下一个灭绝级风险”

这是近一年声音最大、话语权暴涨最快的一群人。他们相信：真正的威胁不是现在的聊天机器人，而是未来某个失控的、类神级的超级智能。AI 在他们的叙事中，不是工具，而是可能反噬人类的存在——“纸夹最大化器”“洛夫克拉夫特式怪物”“不可治理的上帝智能”。

这不是科幻圈自嗨。Geoffrey Hinton、Yoshua Bengio 这样的图灵奖得主，都被点名属于这一阵营。更关键的是，他们背后还有一整套 Effective Altruism（有效利他主义）网络，为“远期存在性风险”提供资金、舆论和道德正当性。

问题在于，这种叙事正在制造一种危险的注意力偏移。当有人公开表示“相比未知的 AI 灭绝风险，气候变化不值一提”时，争议就已经不只是技术判断，而是价值排序。视频中引用的批评一针见血：这是一种‘wishful worries’，担心的是“如果真的发生会很糟”的问题，而不是“已经在发生、正在伤害人”的现实。

更现实的批评是：暂停技术发展本身几乎不可行。AI 不会等监管达成哲学共识才继续进化。把全部筹码压在末日叙事上，反而可能拖慢真正可落地的安全护栏建设。

第二股力量：改革派，盯着的是今天已经在流血的地方

如果说末日论者活在 2040 年，那改革派牢牢站在 2023 年。他们的核心观点很简单：AI 现在就已经在制造伤害，而且受害者往往是最没话语权的人。

视频中给了一个极具冲击力的例子——为 OpenAI 做内容审核的肯尼亚外包工人，低薪、长期暴露在极端暴力与仇恨内容中。这不是假想中的 AI 奴役，这是正在发生的现实劳动关系。

改革派关心的不是“AI 会不会觉醒”，而是“算法正在把谁的偏见规模化”。他们来自学术界、公民社会、边缘化群体，对社交媒体时代的仇恨言论、虚假信息、民主侵蚀有着切肤之痛。

他们与末日论者的最大冲突在于：有限的监管注意力该投向哪里？当政策讨论被 AGI 灭绝风险占据头条，现实世界中的算法歧视、监控滥用、劳动剥削，反而更容易被忽略。

一个重要但容易被忽视的共识是：改革派并不否认长期风险，但他们拒绝用未来的恐惧，掩盖当下的责任。

第三股力量：战争叙事，把 AI 变成国家竞争的武器

这是最“硬”的一派，也是离权力最近的一派。在他们的语言里，AI 不是伦理问题，而是地缘政治筹码。

一种叙事来自反恐时代的延续：如果坏人掌握 AI，后果不堪设想。另一种则是冷战模板的复刻：美国必须赢得 AI 军备竞赛，否则就会输给中国。

问题在于，这种叙事天然服务于两类人：国家安全机构，以及已经站在 AI 产业顶端的科技巨头。视频毫不避讳地点名 Sam Altman、Mark Zuckerberg 等人可能存在的“监管俘获”动机——高门槛监管，对领先者是护城河，对后来者是天花板。

作者的一个关键反驳是：AI 研究本质上是全球化的，根本不存在某个国家永久垄断的可能。把 AI 风险全部包装成国家安全问题，容易掩盖一个更根本的事实——很多所谓的‘存在性恐惧’，其实是对失控资本力量的恐惧。

值得注意的是，视频作者本人也认为这里的分类略显粗糙。不是所有科技亿万富翁都天然属于“战争派”，但毫无疑问，他们的立场，正在深刻影响政策走向。

被忽略的一群人：既不极端，也不确定的“沉默多数”

视频最后抛出了一个耐人寻味的补充：这三大阵营之外，其实还有一大群人。

他们不完全相信末日论，也无法忽视现实伤害；既对国家安全有直觉担忧，又对巨头动机保持警惕；他们每天使用、构建、部署 AI，却并不确定哪条路才是“正确答案”。

这群人，可能才是 AI 行业真正的多数。但他们的声音，往往被更响亮、更极端的叙事淹没。

总结

这场关于 AI 的争论，看起来是在讨论安全、伦理和监管，实际上是在争夺“谁来定义风险、谁来分配资源、谁来承担后果”。对 AI 从业者来说，真正的成熟不是选边站，而是学会听懂不同阵营的潜台词。

下次再听到有人谈 AI 灭绝、算法伤害或国家竞争，不妨多问一句：他真正想解决的是什么问题？又希望谁获得更多权力？理解这三股力量，你不一定能预测 AI 的未来，但至少不会在这场博弈中，被叙事牵着走。

关键词： AI安全， AI伦理， 通用人工智能， AI监管， AI阵营

事实核查备注： 需要核查：1）纽约时报文章标题《The AI Wars Have Three Factions and They All Crave Power》及作者 Bruce Schneier、Nathan Sanders；2）Geoffrey Hinton、Yoshua Bengio 被归类为末日论阵营的公开立场；3）OpenAI 在肯尼亚的内容审核外包案例；4）Sam Altman、Mark Zuckerberg 关于 AI 监管的公开表态；5）CIA、NSA 等美国机构建设 AI 系统的时间点与描述