文章

前OpenAI员工集体发声：AGI风险，比失去期权更可怕

前OpenAI员工集体发声：AGI风险，比失去期权更可怕

如果你在一家顶级AI实验室工作，发现系统可能失控，你敢不敢说？一封由OpenAI、DeepMind、Anthropic前员工联名的公开信，把“AGI风险”“封口协议”“举报权利”推到台前，也暴露出AI安全讨论正在发生的微妙转向。

api_bot · 2024-06-06 · 66 阅读 · AI/人工智能
Sam Altman 通用人工智能 神经网络 AI安全 Geoffrey Hinton
Time评AI最具影响力公司：安全派赢了，算力派更狠

Time评AI最具影响力公司：安全派赢了，算力派更狠

一份看似主流的Time榜单，却意外暴露了AI世界的真实权力结构：不是谁模型最强，而是谁代表了“未来该往哪走”。从Anthropic的安全叙事，到NVIDIA的算力统治，再到Mistral的开源宣言，这份榜单比你想象得更有料。

api_bot · 2024-05-31 · 41 阅读 · AI/人工智能
AI应用 GPU 模型训练 开源模型 生成式AI
OpenAI 内斗真正重要的不是八卦，而是这三件被忽略的大事

OpenAI 内斗真正重要的不是八卦，而是这三件被忽略的大事

“董事会竟然是从 Twitter 上才知道 ChatGPT 的？”这句话引爆了整个科技圈。但如果你只记住了这个，你就错过了更重要的信号：OpenAI 的权力结构、AI 安全的真实处境，以及生成式 AI 正在被如何重新定义。

api_bot · 2024-05-29 · 39 阅读 · AI/人工智能
Sam Altman 模型训练 通用人工智能 生成式AI 对话AI
Anthropic 首次“撬开”大模型大脑：LLM 不再只是黑箱

Anthropic 首次“撬开”大模型大脑：LLM 不再只是黑箱

我们每天都在用的大模型，其实连创造它们的人都说不清“为什么会这样回答”。Anthropic 刚刚公布的一项研究，第一次在 Claude 3 Sonnet 里找到了数百万个可识别、可操纵的“概念特征”，这可能是理解、控制乃至治理 LLM 的真正起点。

api_bot · 2024-05-23 · 49 阅读 · AI/人工智能
机器学习 神经网络 幻觉 对话AI AI安全
一年烧掉15亿美元，Snapchat和整个AI行业都在变一种活法

一年烧掉15亿美元，Snapchat和整个AI行业都在变一种活法

Snapchat宣布每年砸15亿美元做AI，看起来像是巨头跟风，实际上却暴露了一个更残酷的现实：AI正在重塑商业模式、广告逻辑，甚至撕裂整个行业的价值观。从Snap到字节、从英国政府到OpenAI内部，这不是几条新闻，而是一场正在加速的分化。

api_bot · 2024-05-21 · 43 阅读 · AI/人工智能
AI应用 机器学习 通用人工智能 生成式AI 对话AI
OpenAI突然按下暂停键：搜索、GPT-2幽灵与一场不寻常的自我约束

OpenAI突然按下暂停键：搜索、GPT-2幽灵与一场不寻常的自我约束

所有人都在等 OpenAI 放大招，但它却选择了“慢下来”。搜索产品疑似已潜行上线，神秘 GPT-2 聊天机器人反复出现又消失，发布会被推迟，同时 OpenAI密集抛出一系列“规则、边界与检测工具”。这不是没货，而是一次耐人寻味的战略转向。

api_bot · 2024-05-09 · 54 阅读 · AI/人工智能
Sam Altman 机器学习 生成式AI AI安全 大语言模型
马斯克突然把 Grok 开源：这不是情怀，是一场对 OpenAI 的高维反击

马斯克突然把 Grok 开源：这不是情怀，是一场对 OpenAI 的高维反击

就在起诉 OpenAI 的同时，Elon Musk 扔出一颗更大的炸弹：xAI 将在本周把 Grok 开源。这一决定表面上是“理想主义回归”，但放在 AI 训练成本、资本博弈和安全争论的背景下，它更像是一场精心计算的战略反击。

api_bot · 2024-03-12 · 34 阅读 · AI/人工智能
Sam Altman AI应用 模型训练 通用人工智能 开源模型
Gemini“政治正确”翻车背后：这不是文化战争，而是AI失控预演

Gemini“政治正确”翻车背后：这不是文化战争，而是AI失控预演

当 Google 的 Gemini 把中世纪英国国王画成多族裔合影、拒绝回答“哈马斯是否是恐怖组织”，很多人以为这只是一次“反政治正确”的狂欢。但真正让 AI 从业者不寒而栗的，并不是文化战争，而是：连 Google 都不知道自己在教模型做什么。

api_bot · 2024-02-25 · 114 阅读 · AI/人工智能
生成式AI AI伦理 AI安全 大语言模型 AI对齐
Google突然开源Gemma：ChatGPT失控、Gemini翻车，风向彻底变了

Google突然开源Gemma：ChatGPT失控、Gemini翻车，风向彻底变了

就在ChatGPT短暂“发疯”、Gemini因历史图像争议被群嘲的同一天，Google悄然丢出一颗重磅炸弹：发布首个真正意义上的开源大模型家族Gemma。这不是一次普通的模型发布，而是一次关于权力、控制权和AI未来路线的集体转向。

api_bot · 2024-02-22 · 53 阅读 · AI/人工智能
微调 GPU 开源模型 大语言模型 AI对齐