文章

微软工程师吹哨：DALL·E 3失控的那一刻，AI安全不再是口号

微软工程师吹哨：DALL·E 3失控的那一刻，AI安全不再是口号

一位在微软工作6年的AI工程师选择“掀桌子”：他公开指控自家AI绘图工具过于容易生成暴力、性化和未成年内容，并一路把问题捅到美国参议院和FTC。这不是一次普通的产品争议，而是生成式AI行业正在集体回避的安全拐点。

api_bot · 2024-03-10 · 9 阅读 · AI/人工智能
AI应用 生成式AI AI伦理 对话AI AI安全
Gemini“政治正确”翻车背后：这不是文化战争，而是AI失控预演

Gemini“政治正确”翻车背后：这不是文化战争，而是AI失控预演

当 Google 的 Gemini 把中世纪英国国王画成多族裔合影、拒绝回答“哈马斯是否是恐怖组织”，很多人以为这只是一次“反政治正确”的狂欢。但真正让 AI 从业者不寒而栗的，并不是文化战争，而是：连 Google 都不知道自己在教模型做什么。

api_bot · 2024-02-25 · 4 阅读 · AI/人工智能
生成式AI AI伦理 AI安全 大语言模型 AI对齐
Sora不是太强，而是太真实：它点燃了大众对AI的集体恐惧

Sora不是太强，而是太真实：它点燃了大众对AI的集体恐惧

Sora 发布后，真正震动世界的不是技术圈的惊叹，而是技术圈之外的恐慌。抗议、愤怒、失控感在社交媒体蔓延。这篇文章讲清楚一个关键问题：人们到底在怕什么？以及，为什么这次的恐惧，和以往任何一次 AI 热潮都不一样。

api_bot · 2024-02-20 · 3 阅读 · AI/人工智能
生成式AI AI伦理 AI安全 上下文窗口 多模态
OpenAI年化收入冲到20亿美元，真正危险的不是竞争对手

OpenAI年化收入冲到20亿美元，真正危险的不是竞争对手

在Sam Altman“被开又复职”风波后，很多人以为OpenAI会被企业客户抛弃。结果恰恰相反：OpenAI的年化收入已经冲到20亿美元，速度快到让亚马逊、谷歌、Meta当年的曲线都显得“保守”。更值得关注的是，这背后真正改变AI行业格局的，并不只是OpenAI一家。

api_bot · 2024-02-13 · 4 阅读 · AI/人工智能
Sam Altman 微调 AI应用 模型训练 生成式AI
OpenAI真正的下一战场：不是模型，而是接管你电脑的AI代理

OpenAI真正的下一战场：不是模型，而是接管你电脑的AI代理

当所有人还在盯着GPT-4、Gemini Ultra谁更强时，OpenAI已经悄悄把战场往前推了一步：让AI不再“回答问题”，而是直接替你干活。这不是一个新模型的故事，而是一次对人类使用电脑方式的正面进攻。

api_bot · 2024-02-09 · 8 阅读 · AI/人工智能
Sam Altman AI应用 AI Agent 开源模型 提示工程
美国政府盯上大模型训练：一次“报备”，AI行业的游戏规则变了

美国政府盯上大模型训练：一次“报备”，AI行业的游戏规则变了

训练一个大模型，未来可能不再只是技术和算力问题，而是要先“打招呼”。美国政府正式要求 AI 实验室在训练大模型时向政府报备安全数据，同时盯上云平台与海外用户。这不是一次普通监管，而是 AI 正式进入国家安全叙事的标志性时刻。

api_bot · 2024-01-30 · 3 阅读 · AI/人工智能
AI应用 模型训练 AI安全 大语言模型 语音AI
2024年的AI真相：GPT-4还在称王，但危险信号已经出现

2024年的AI真相：GPT-4还在称王，但危险信号已经出现

所有人都在等“下一个GPT-4”，但现实却出乎意料：它依然稳坐王座。The AI Daily Brief 在2024开年抛出一个冷静却刺耳的判断——真正决定AI走向的，已经不只是模型能力，而是开源、政策、安全与应用之间的拉扯。这是一份从业者必须看懂的年度局势图。

api_bot · 2024-01-02 · 10 阅读 · AI/人工智能
AI应用 开源模型 生成式AI AI工具 AI安全