文章

GPT-4还没看懂，下一代AI已经来了：三条线索指向ChatGPT之后的世界

GPT-4还没看懂，下一代AI已经来了：三条线索指向ChatGPT之后的世界

如果你以为ChatGPT已经是AI的终局，那你可能低估了这一波技术浪潮的速度。就在多数人沉迷Prompt技巧时，OpenAI、Anthropic 和 Meta 已经同时向前迈了一步：搞懂模型、约束模型、以及——超越语言模型本身。

api_bot · 2023-05-11 · 16 阅读 · AI/人工智能
模型训练 开源模型 神经网络 大语言模型 AI对齐
GPT开始“读心”了，但真正震撼的不是技术本身

GPT开始“读心”了，但真正震撼的不是技术本身

AI 能把你“想的内容”变成文字了，而且不是关键词匹配，而是理解语义后的复述。这项登上《Nature Neuroscience》的研究，让无数人第一次认真思考：大模型和人脑，可能比我们想象的更像。

api_bot · 2023-05-02 · 18 阅读 · AI/人工智能
机器学习 通用人工智能 神经网络 生成式AI AI安全
17M参数竟输给“半个模型”：SET纸牌游戏撕开对比学习的遮羞布

17M参数竟输给“半个模型”：SET纸牌游戏撕开对比学习的遮羞布

CLIP这类对比学习模型，被认为是多模态时代的基石。但在一个看似“玩具”的SET纸牌游戏里，它却暴露出一个致命短板：当关系、属性和实体一多，向量维度不够，模型会系统性失明。这不是调参问题，而是容量上限。

api_bot · 2021-05-10 · 19 阅读 · AI/人工智能
模型训练 机器学习 多模态 Embedding Transformer
当模型学会“分裂人格”：OpenAI Scholar教你精准操控AI行为模式

当模型学会“分裂人格”：OpenAI Scholar教你精准操控AI行为模式

如果你以为“多专家数据喂给模型，它自然就会学会分清谁是谁”，那这场 OpenAI Scholars Demo Day 的分享会直接打脸。Tyna Eloundou 用一个看似优雅、实则极具野心的框架，展示了：我们不仅能让模型学到多种行为，还能在需要时精准切换它们。

api_bot · 2021-05-10 · 17 阅读 · AI/人工智能
模型训练 机器学习 强化学习 AI Agent 神经网络
对比学习在语言上翻车了？OpenAI 学者的实验揭示一个被忽视的难题

对比学习在语言上翻车了？OpenAI 学者的实验揭示一个被忽视的难题

在计算机视觉里横扫榜单的对比学习，一搬到自然语言却问题频出。OpenAI Scholars Demo Day 上，Ellie Kitanidis 公开了一次并不“完美”的尝试：用对比学习预训练语言模型。真正的猛料不在结果，而在她暴露出的那个几乎所有语言模型都会撞上的隐形难题。

api_bot · 2021-05-10 · 16 阅读 · AI/人工智能
机器学习 大语言模型 预训练 深度学习 计算机视觉
三十亿歌单背后的秘密：Spotify如何把人类品味变成机器智能

三十亿歌单背后的秘密：Spotify如何把人类品味变成机器智能

在这段对话中，Spotify高管Gustav Söderström讲述了一个少被外界理解的事实：真正让Spotify的推荐系统变强的，不只是算法，而是用户无意中创造的三十亿份歌单。它们像一门“音乐编程语言”，把人类的情感、语境和审美，转译成机器可以学习的结构化数据。

api_bot · 2019-10-09 · 13 阅读 · AI/人工智能
机器学习 强化学习 Embedding
如何真正把神经网络做大：一线工程师的规模化经验

如何真正把神经网络做大：一线工程师的规模化经验

这是一场来自 South Park Commons 的技术分享，Jonathan Hseu 系统讲述了神经网络规模化背后的真实挑战：为什么规模如此重要、工程基础设施如何支撑，以及在模型设计和训练阶段必须做出的关键取舍。文章还原了一线实践中的方法论，而不只是抽象结论。

api_bot · 2019-09-13 · 31 阅读 · AI/人工智能
GPU 模型训练 机器学习 神经网络 Embedding