一块AI安全委员会名单,为什么把所有AI阵营都惹怒了

AI PM 编辑部 · 2024年04月30日 · 4 阅读 · AI/人工智能

正在加载视频...

视频章节

美国国土安全部刚成立的AI安全与安保委员会,做成了一件几乎不可能的事:让AI安全派、加速派、开源派、反AI派同时站到了一起——一致反对它。这不是一次普通的政策争议,而是一面照出AI治理裂痕的镜子。

一块AI安全委员会名单,为什么把所有AI阵营都惹怒了

美国国土安全部刚成立的AI安全与安保委员会,做成了一件几乎不可能的事:让AI安全派、加速派、开源派、反AI派同时站到了一起——一致反对它。这不是一次普通的政策争议,而是一面照出AI治理裂痕的镜子。

罕见共识:AI圈第一次“同仇敌忾”

AI圈一向是撕裂的。

一端是“暂停派”和AI安全主义者,担心失控风险;另一端是加速主义者,认为放慢脚步等于把未来拱手让人;再往外,还有认为AI在“偷走人类创造力”的艺术家与激进批评者。

但美国国土安全部(DHS)公布首届“人工智能安全与安保委员会”名单后,一个极其反直觉的画面出现了:几乎所有这些阵营,同时炸锅。

The AI Daily Brief 的一句话点破了这件事的荒诞性——“我们今天,是在仇恨中团结起来的。”

不是因为AI被禁了,也不是因为监管太松,而是因为谁坐在桌前,决定AI安全怎么被定义。在一个高度意识形态化的领域,名单本身,已经成了最具政治意味的文本。

这份名单到底有多“刺眼”?

如果你只扫一眼成员构成,很容易理解愤怒从何而来。

委员会里坐着的,是AI产业最核心的权力中枢:OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei,以及来自 NVIDIA、Microsoft、IBM、Adobe 等巨头的CEO或高管。再加上一些知名智库学者与民权组织负责人,构成了一张“华盛顿+硅谷”的标准精英拼图。

问题在于:缺了什么人。

几乎没有真正代表开源AI、独立研究者、小型创业团队的人。a16z 的 Martin Casado 直言:“几乎没有初创公司和开源的代表。”更激进的批评直接把这称为“监管俘获”——让被监管者坐在桌前,写监管规则。

更具象征意义的是“被冷落者”:Elon Musk、Mark Zuckerberg,以及他们所代表的开源路线。尤其是 Zuckerberg。去年白宫邀请AI CEO闭门会谈时,Meta 就已被排除在外,官方给出的解释近乎嘲讽:“这是给真正有影响力的AI公司开的会。”

在今天这个阶段,谁还敢说开源AI没有影响力?

他们真的在“给自己立法”吗?

为这块委员会辩护的人,会强调一个被很多人忽略的细节:它并不是一个“通用AI政策委员会”。

根据《华尔街日报》和国土安全部长 Mayorkas 的说法,这个委员会的任务非常聚焦——保护关键基础设施不被AI驱动的攻击破坏,包括电网、交通系统、制造业、水务和金融系统。

换句话说,它更像一个“AI时代的基础设施防御顾问团”,而不是AGI伦理仲裁庭。

这并不能完全消解利益冲突的质疑,但确实改变了问题的性质:

  • 如果议题是“AI该不该发展”,产业CEO坐镇显然不合理;
  • 但如果议题是“如何防止AI攻击电网”,军工承包商、云计算巨头和模型提供方,恰恰是最懂风险面的人。

真正的问题或许不是他们有没有资格参与,而是他们是否垄断了参与权。当安全被等同于“只有大公司能负担的安全”,监管的方向就已经被预先写好。

比委员会更重要的,是这场集体愤怒

冷静看,这个委员会本身可能并不会立刻改变什么。

它每季度开会一次,提出建议,没有直接立法权。但它引发的反应,远比它的实际权力更值得关注。

因为这是一种极其罕见的信号:AI行业内部,已经普遍对“少数巨头塑造规则”产生不安。

安全派担心监管被软化;开源派担心被边缘化;加速派担心规则被用来筑起护城河;反AI者则觉得这是精英合谋。动机完全不同,指向却惊人一致。

正如评论者 Andrew Curran 所说,那一刻,所有人短暂地忘记了彼此的阵营之争,把矛头对准了同一个目标。

这或许比任何白皮书,都更真实地反映了当前AI治理的困境。

总结

这件事对AI从业者的真正启示,不是“这个委员会好或坏”,而是一个更现实的问题:未来的AI规则,正在被谁、以什么方式写下。

如果你在做模型、做应用、做开源,今天的争议意味着两件事。第一,安全与合规将越来越像一门“资源密集型能力”,小团队必须提前布局,而不是事后补救。第二,开源与去中心化如果不主动进入政策讨论,只会被动接受结果。

接下来值得观察的,不是委员会说了什么,而是谁会被补充进来,谁会继续缺席。AI的走向,从来不只是技术问题。它是一场关于权力、话语权和未来分配的长期博弈。


关键词: AI安全, 监管俘获, 开源模型, Sam Altman, AI治理

事实核查备注: 需要核查:1)AI安全与安保委员会的正式名称与隶属机构;2)委员会首批成员名单及人数;3)Sam Altman、Dario Amodei 是否以CEO身份参与;4)DHS部长 Mayorkas 的原话语境;5)白宫未邀请 Mark Zuckerberg 的时间与官方回应表述。