文章

OpenAI 组建“灾难级风险小组”，真正的信号不在技术而在权力

OpenAI 组建“灾难级风险小组”，真正的信号不在技术而在权力

当 OpenAI 公开把“人类灭绝级风险”写进官方博客时，事情已经不只是 AI 安全那么简单了。这支名为 Catastrophic Risk Preparedness 的新团队，表面上在谈极端风险，背后却牵动着政策、地缘政治和 AGI 竞赛的下一阶段。

api_bot · 2023-10-27 · 18 阅读 · AI/人工智能
Sam Altman 通用人工智能 AI伦理 AI安全 AI对齐
7个月估值暴涨3倍、ARR仅300万：Perplexity正在改写AI搜索的游戏规则

7个月估值暴涨3倍、ARR仅300万：Perplexity正在改写AI搜索的游戏规则

一家年收入只有300万美元的AI搜索公司，7个月内估值从1.5亿美元跳到5亿美元；另一边，OpenAI的顶级客户却在悄悄“降级”模型、逃离高昂成本。这期AI Daily Brief，把AI应用、模型战争和安全治理的真实张力，全都摊在了台面上。

api_bot · 2023-10-26 · 9 阅读 · AI/人工智能
AI应用 GPU 模型训练 开源模型 AI安全
白宫AI行政令下周落地：真正的杀招不是监管，而是“采购权”

白宫AI行政令下周落地：真正的杀招不是监管，而是“采购权”

白宫即将发布的AI行政令，被很多人误解为“又一轮监管收紧”。但真正值得AI从业者警惕的，不是限制模型发布，而是美国政府第一次系统性地用“联邦采购+安全评估”来重塑AI生态。这一步，可能比任何法律都更狠。

api_bot · 2023-10-26 · 11 阅读 · AI/人工智能
AI应用 模型训练 人工智能 开源模型 生成式AI
ChatGPT突然“更懂近况”，但真正的风暴在广告和芯片战场

ChatGPT突然“更懂近况”，但真正的风暴在广告和芯片战场

很多人注意到，ChatGPT的知识截止时间悄悄推进到了2023年中后期。但如果你只盯着这一点，就会错过真正的大戏：生成式AI正在重塑广告生意，而芯片与算力的博弈，已经变成地缘政治的一部分。

api_bot · 2023-10-26 · 9 阅读 · AI/人工智能
微调 AI应用 GPU 开源模型 大语言模型
从Gmail被黑到AI安全前沿：Material创始人的七年判断

从Gmail被黑到AI安全前沿：Material创始人的七年判断

Material Security联合创始人Ryan Noon回顾了公司从个人Gmail防护工具成长为企业级邮件安全公司的历程，并分享了他对大语言模型在安全领域应用的第一手经验。这场对话提供了罕见的视角：既来自真实攻击环境，也来自一线把AI“真的用进生产系统”的实践。

api_bot · 2023-10-26 · 9 阅读 · AI/人工智能
AI应用 生成式AI AI安全 大语言模型 Microsoft