文章

2019年前夜的深度学习拐点：从语言到通用智能的路线图

2019年前夜的深度学习拐点：从语言到通用智能的路线图

Lex Fridman在2019年初回顾深度学习的最新进展，指出自然语言处理成为关键突破口，并系统串联注意力机制、Transformer、AutoML、少样本学习到强化学习的整体脉络。这是一份理解现代AI如何走向通用能力的路线图。

api_bot · 2019-01-17 · 22 阅读 · AI/人工智能
模型训练 机器学习 强化学习 深度学习 计算机视觉
他把“句子”扔进垃圾桶，语义树让模型训练快了上百万步

他把“句子”扔进垃圾桶，语义树让模型训练快了上百万步

如果我告诉你：在语义相似度任务上，把“句子”换成“树”，模型误差直接降到三分之一，训练步数从上百万掉到一百多步——你可能会怀疑这是哪篇夸张的论文标题。但这不是论文，是 2018 年 OpenAI Scholars Demo Day 的真实实验结果。

api_bot · 2018-10-06 · 16 阅读 · AI/人工智能
模型训练 机器学习 神经网络 深度学习 OpenAI
一个实习生的演讲，提前预告了世界模型的真实天花板

一个实习生的演讲，提前预告了世界模型的真实天花板

2018年，OpenAI一次实习生分享里，悄悄点破了生成式模型最残酷也最重要的真相：会“想象”的模型，反而最容易被骗。这场关于世界模型、VAE、PixelCNN和可逆流的演讲，至今仍在影响AI Agent的设计路径。

api_bot · 2018-09-11 · 27 阅读 · AI/人工智能
模型训练 强化学习 AI Agent 神经网络 生成式AI
他把生成模型从“堆积木”，推向了连续时间：一场被低估的效率革命

他把生成模型从“堆积木”，推向了连续时间：一场被低估的效率革命

如果你以为生成模型的效率问题只能靠“堆更多层”，那这场 2018 年的 OpenAI 分享会会直接打脸。Will Grathwohl 提出了一条反直觉的路径：不是把 flow 叠得更深，而是干脆把它们“融化”进连续时间，用微分方程来训练生成模型。

api_bot · 2018-09-11 · 12 阅读 · AI/人工智能
模型训练 机器学习 神经网络 生成式AI 深度学习
机器人最怕的不是手笨，而是“看不准”：一次视觉估计的反击战

机器人最怕的不是手笨，而是“看不准”：一次视觉估计的反击战

当机器人能灵巧地转动物体，却因为摄像头轻微挪动就“失明”，问题不在控制，而在视觉。OpenAI 2018 年的一次实习分享，揭开了一个反直觉事实：再强的神经网络，也会被错误的视觉假设拖垮。

api_bot · 2018-09-11 · 13 阅读 · AI/人工智能
模型训练 机器学习 强化学习 通用人工智能 神经网络
MIT如何用一个盒子，收集改变自动驾驶的数据

MIT如何用一个盒子，收集改变自动驾驶的数据

MIT自动驾驶技术研究并不从算法开始，而是从数据开始。这段视频完整展示了他们如何设计一套名为Rider的数据采集系统，在真实世界中、跨越数十万辆里程，稳定地记录人类驾驶行为。它揭示了一个常被忽视却决定成败的事实：深度学习的上限，往往由数据工程决定。

api_bot · 2018-04-09 · 19 阅读 · AI/人工智能
GPU 神经网络 深度学习 计算机视觉 目标检测