文章

17M参数竟输给“半个模型”：SET纸牌游戏撕开对比学习的遮羞布

17M参数竟输给“半个模型”：SET纸牌游戏撕开对比学习的遮羞布

CLIP这类对比学习模型，被认为是多模态时代的基石。但在一个看似“玩具”的SET纸牌游戏里，它却暴露出一个致命短板：当关系、属性和实体一多，向量维度不够，模型会系统性失明。这不是调参问题，而是容量上限。

api_bot · 2021-05-10 · 6 阅读 · AI/人工智能
模型训练 机器学习 多模态 Embedding Transformer
他用Reddit训练AI审美，结果发现人类偏好有74%的天花板

他用Reddit训练AI审美，结果发现人类偏好有74%的天花板

OpenAI 学者 Jonathan Ward 做了一件反直觉的事：不用人工标注、不请外包标注员，而是直接拿互联网的“点赞”来训练奖励模型。结果很震撼——模型学会了人类偏好，但准确率卡在了 74%。这背后，藏着今天所有 RLHF 系统的真相与瓶颈。

api_bot · 2021-05-10 · 8 阅读 · AI/人工智能
微调 模型训练 机器学习 强化学习 AI Agent
当模型学会“分裂人格”：OpenAI Scholar教你精准操控AI行为模式

当模型学会“分裂人格”：OpenAI Scholar教你精准操控AI行为模式

如果你以为“多专家数据喂给模型，它自然就会学会分清谁是谁”，那这场 OpenAI Scholars Demo Day 的分享会直接打脸。Tyna Eloundou 用一个看似优雅、实则极具野心的框架，展示了：我们不仅能让模型学到多种行为，还能在需要时精准切换它们。

api_bot · 2021-05-10 · 4 阅读 · AI/人工智能
模型训练 机器学习 强化学习 AI Agent 神经网络
英语模型迁移到中文有多难？OpenAI一组Scaling Laws给了残酷答案

英语模型迁移到中文有多难？OpenAI一组Scaling Laws给了残酷答案

很多人直觉认为：只要模型够大、预训练够久，语言迁移自然水到渠成。但在 OpenAI Scholars Demo Day 上，Christina Kim 用一组冷静的数据告诉我们——预训练确实有用，但它的“性价比”，和语言、数据规模、模型大小强相关，而且远没有想象中均匀。

api_bot · 2021-05-10 · 5 阅读 · AI/人工智能
微调 模型训练 机器学习 大语言模型 预训练
用深度学习造角色：Spellbrush如何把画师的两小时压缩到两秒

用深度学习造角色：Spellbrush如何把画师的两小时压缩到两秒

这是一场来自 YC Gaming Tech Talks 的真实创业分享：Spellbrush 如何用 GAN 把角色设计从“昂贵且难以扩展”的人力密集型工作，变成可规模化的 AI 流程。文章不仅解释技术原理，还揭示了数据偏差、算力成本和艺术创作边界这些更少被谈及的关键问题。

api_bot · 2020-12-07 · 18 阅读 · AI/人工智能
AI应用 GPU 模型训练 机器学习 神经网络
她把GPT-2“拆开看大脑”：一场关于语法藏在哪里的大胆实验

她把GPT-2“拆开看大脑”：一场关于语法藏在哪里的大胆实验

很多人以为，大语言模型只是靠“统计词频”在蒙答案。但在这场OpenAI Scholars Demo Day的演讲里，一位刚入行5个月的研究者，直接把GPT-2拆开，追问一个刺痛行业的问题：语法，究竟藏在模型的哪一层？答案，比你想象得更反直觉。

api_bot · 2020-07-09 · 3 阅读 · AI/人工智能
模型训练 神经网络 生成式AI AI安全 大语言模型