白宫拉200家公司组AI安全联盟,芯片股却先疯狂了

AI PM 编辑部 · 2024年02月10日 · 8 阅读 · AI/人工智能

正在加载视频...

视频章节

一边是白宫史无前例地把200多家公司拉进AI安全同盟,试图给生成式AI立规矩;另一边,芯片公司股价因AI一路狂飙,甚至被质疑“涨过头”。监管、风险与资本回报,正在同一时间全面加速。

白宫拉200家公司组AI安全联盟,芯片股却先疯狂了

一边是白宫史无前例地把200多家公司拉进AI安全同盟,试图给生成式AI立规矩;另一边,芯片公司股价因AI一路狂飙,甚至被质疑“涨过头”。监管、风险与资本回报,正在同一时间全面加速。

白宫亲自下场:这次不是喊口号,而是拉了200多个玩家

如果你还觉得“AI安全”只是学者和伦理委员会的小圈子话题,那这次真的要更新认知了。拜登政府刚刚宣布成立“美国AI安全研究院联盟(AI Safety Institute Consortium)”,直接把AI安全拉进了国家级基础设施的讨论框架。

这个联盟的阵容非常不寻常。你不仅能看到熟悉的名字——Microsoft、Google、Apple、Meta、OpenAI、AMD、Qualcomm——还会看到Northrop Grumman、BP、Mastercard 这样的“非典型AI公司”。官方说法很直白:这是一个“用于安全开发和部署生成式AI的联盟”,规模超过200家机构。

美国商务部长Gina Raimondo在声明里点得很清楚:政府要做两件事——一是制定安全标准,二是保护创新生态。这句话的潜台词是:AI不能野蛮生长,但也不能被一刀切扼杀。

值得注意的是,目前这个联盟“要做什么”讲得不少:红队测试、能力评估、风险管理、内容水印;但“怎么做”“谁拍板”“优先级怎么排”几乎都还没定。这并非官僚低效,而更像是现实本身——连政府也意识到,AI安全这件事,没有现成答案,只能边跑边定规则。

英国给了另一种范本:直接盯着最危险的能力

对比美国的“广结盟友”,英国AI安全研究院的路径更像是“技术内核优先”。在刚发布的第三份进展报告中,他们明确了一件事:安全不是抽象伦理,而是具体能力。

英国团队正在快速扩张,计划在2024年底把技术研究人员规模拉到50-60人,并且已经启动对“潜在有害能力”的部署前测试。测试重点非常硬核:

第一,滥用风险——AI是否显著降低了人类发动现实世界攻击的门槛,尤其是化学、生物和网络攻击;
第二,社会影响——长期与高级AI系统互动,人会被如何改变;
第三,自主系统——模型是否具备自主复制、欺骗人类、甚至制造更强AI的能力;
第四,安全防护本身是否可靠。

这套框架背后站着的人也不简单。国际高级AI安全科学报告汇集了包括图灵奖得主Yoshua Bengio在内的顶级研究者。相比之下,美国联盟更像“把所有人先拉进一个房间”,英国则是“先把最危险的刀具锁起来”。两种路径,正在形成微妙竞争。

从假拜登电话到芯片狂飙:AI的副作用已经落地

监管压力并不只来自“未来风险”,而是已经发生的现实问题。美国FCC刚刚一致通过裁决:AI生成语音的自动拨号电话(Robocall)正式违法。这直接回应了前阵子那通“AI版拜登”电话误导新罕布什尔州选民的事件。

FCC主席Jessica Rosenworcel说得很直白:这些技术正在被用来诈骗家庭成员、冒充名人、误导选民。这一次,州检察长也被赋予了新的执法工具。对语音AI创业者来说,这是一个清晰信号:技术成熟得越快,红线也会来得越早。

但就在监管不断加码的同时,资本市场却在用真金白银投票。英国芯片设计公司ARM刚公布财报:单季收入8.24亿美元,下一季指引接近9亿美元,远超预期,股价随后暴涨48%。高管毫不避讳:AI是关键推手。

问题来了。华尔街日报给出一组对比:NVIDIA的远期市盈率约35,AMD约45,而ARM已经逼近100。ARM真的比NVIDIA“好三倍”吗?这正是市场分歧的核心——AI确实已经开始改变公司业绩,但这并不妨碍市场同时存在一丝“理性亢奋”。

总结

把这些线索放在一起,你会发现一个清晰但不那么舒适的现实:AI正在同时被国家机器、监管机构和资本市场全速推动。安全联盟不是为了踩刹车,而是为了让油门踩得更久;芯片股的狂欢不是幻觉,但也未必线性增长。

对AI从业者来说,有三个直接takeaway:第一,安全与合规正在成为“基础能力”,而不是加分项;第二,真正被监管盯上的,往往是已经产生现实影响的能力,而不是抽象概念;第三,市场可能会短期过热,但长期机会只会留给既能交付价值、又能控制风险的团队。

接下来值得持续观察的是:美国这种“超大联盟式安全治理”,会不会在效率上输给英国这种“小而狠”的技术审查路径?答案,很可能决定下一阶段AI创新的边界。


关键词: AI安全, 生成式AI, 语音AI, AI芯片, ARM

事实核查备注: 需要核查:1)AI Safety Institute Consortium 的正式名称与隶属机构;2)联盟成员数量“200+”的官方表述;3)Gina Raimondo 的原始发言措辞;4)英国AI安全研究院团队规模与时间节点;5)FCC 对AI语音Robocall裁决的具体法律效力;6)ARM 单季收入8.24亿美元、股价上涨48%、市盈率对比数据来源。