已收录完整度 0% 12

Quoc Le

机器学习研究员

✨ AI贡献：他作为第一作者提出的序列到序列学习及神经机器翻译的奠基性论文，为现代大语言模型的核心架构Transformer奠定了基础。来源：arXiv论文《Sequence to Sequence Learning with Neural Networks》等公开资料。

研究员

员工

谷歌

2013 - 至今

学生

斯坦福大学

2007 - 2013

学生

Australian National University

2002 - 2006

🏆 成就

大规模无监督学习可自动发现高级语义特征

Quoc Le 在2012年的开创性工作中证明，仅使用大规模无标签数据（1000万张网络图片）和巨大的神经网络（10亿连接），可以在无人工标注的情况下，自动学习到如人脸、猫脸、人体等高级语义特征检测器。这一发现挑战了当时普遍认为需要标注数据才能学习高级特征的直觉，为无监督预训练奠定了基础。

无监督学习特征学习计算机视觉自编码器

深度学习是使用神经网络架构的算法集合

Quoc Le 在其教程中明确指出，对于许多研究者而言，深度学习就是使用神经网络作为架构的一系列算法的代名词。其近年来的成功主要得益于廉价并行硬件（GPU、计算机集群）和海量数据的出现。这一定义强调了神经网络架构的核心地位以及硬件和数据对领域发展的关键推动作用。

深度学习神经网络机器学习定义

📝 简介

指导后辈开发出超越BERT的ELECTRA模型

根据Kevin Clark的简历，他在2017年作为学生研究员在谷歌大脑工作期间，由Quoc Le指导。在Quoc Le的指导下，Kevin Clark开发了ELECTRA模型，这是一种基于类似GAN的损失函数来预训练Transformer网络的新方法。该模型训练速度远超之前的BERT等模型，即使在单GPU上训练也能表现良好，并在SQuAD 2.0问答数据集上创造了新的state-of-the-art。这个故事体现了Quoc Le作为导师对前沿研究方向的把握和对年轻研究者的有效指导。

导师角色 ELECTRA Transformer 预训练模型谷歌大脑

从机器人研究到深度学习先驱的跨界之路

Quoc Le 的早期研究涉及机器人技术，他曾展示机器人通过深度分割和多个接触点抓取物体、清理桌子、识别人类命令、开门和取物等能力。这段在斯坦福AI实验室（师从Andrew Ng）的机器人研究经历，为他后来在深度学习，特别是将神经网络应用于序列和感知问题奠定了实践基础。

职业生涯机器人斯坦福 Andrew Ng

📰 新闻

Quoc Le：从斯坦福博士到谷歌大脑研究科学家

Quoc V. Le 在斯坦福大学人工智能实验室获得博士学位，师从 Andrew Ng。他曾在澳大利亚国立大学和NICTA完成本科，并在德国马克斯·普朗克生物控制论研究所访问。自2013年起，他一直是谷歌（Google Brain）的研究科学家，在深度学习、序列模型和高效模型架构等领域做出了多项重要贡献。

人物背景谷歌大脑斯坦福大学 Andrew Ng

暂无 YouTube 视频