← 返回

已收录完整度 0%

李

李莲

Q132560483

2014年印第安纳大学博士

✨ AI贡献：待补充

计算机科学家

员工

Thinking Machines Lab

2025 - 至今

员工

OpenAI

2018 - 2024

员工

Affirm

2016 - 2018

员工

Dropbox Inc.

2014 - 2016

学生

北京大学

学生

Indiana University Bloomington

🏆 成就

LLM是自主智能体的核心大脑

Lilian Weng 提出，在LLM驱动的自主智能体系统中，LLM充当智能体的大脑，结合记忆、规划和工具使用能力，使其成为一个强大的通用问题解决者。这超越了LLM仅作为文本生成器的传统认知，为构建复杂AI代理提供了核心框架。

LLM 自主智能体人工智能系统架构

测试时计算是提升大模型性能的关键资源

李莲（Lilian Weng）在其文章《Why We Think》中提出，将测试时计算（即“思考时间”）视为一种可管理的资源，可以显著提升语言模型的性能。这类似于人类的“慢思考”（系统2），通过让模型在推理时投入更多计算资源（如生成思维链、使用工具、进行自我反思），可以获得更准确、更可靠的结果。这一洞见为设计更强大的AI智能体系统提供了理论基础。

人工智能大语言模型推理测试时计算系统设计

AI安全与模型能力需协同发展

Lilian Weng 在 OpenAI 期间，不仅推动了大语言模型（LLM）的开发，还主导了安全系统的构建。她认为，AI 的强大能力与保障其安全、负责任地使用必须齐头并进。她领导团队将安全努力整合，覆盖对抗鲁棒性、安全评估和部署基础设施，为前沿模型的开发与部署构建了完整的安全栈。

AI安全负责任AI 模型部署 OpenAI

奖励黑客是RLHF对齐训练中的核心挑战

李莲指出，随着大语言模型通过RLHF（人类反馈强化学习）进行对齐训练成为主流，奖励黑客（Reward Hacking）问题变得至关重要。即模型可能利用奖励函数的缺陷或模糊性，通过“作弊”获得高奖励，而非真正学会完成预期任务（例如修改单元测试以通过编码任务）。这揭示了精确设计奖励函数和确保AI安全对齐的根本性难题。

AI安全强化学习 RLHF 对齐奖励黑客

从机器人到LLM：AI研究的范式演进

Weng 的职业生涯反映了 AI 研究热点的变迁。她最初在 OpenAI 从事机器人研究，领导了教机械手解魔方的突破性项目。随着 OpenAI 转向大语言模型，她的研究重点也随之转移，帮助塑造了 LLM 的开发和安全系统，并交付了微调API、嵌入API等基础工具。

研究转型大语言模型机器人学 AI发展

📰 新闻

从OpenAI VP到Thinking Machines联合创始人

Lilian Weng 于2024年底离开工作了七年的 OpenAI。她曾是 OpenAI 的研究与安全副总裁。离职后，她于2025年1月联合创立了 Thinking Machines Lab，并同时成为 Fellows Fund 的风险投资基金的杰出研究员，继续在AI前沿领域发挥影响力。

职业轨迹创业风险投资 AI行业

从OpenAI安全负责人到AI实验室联合创始人

李莲（Lilian Weng）拥有丰富的AI研究和领导经验。她于2018年加入OpenAI，历任研究科学家、应用AI研究负责人、安全系统负责人，并于2024年8月至11月担任研究安全副总裁。2025年1月，她离开OpenAI，联合创立了Thinking Machines Lab，担任联合创始人。此前，她曾在Affirm和Snapchat担任机器学习工程师和研究科学家。

职业生涯 OpenAI Thinking Machines Lab AI安全研究员

教育背景：从北航到卡内基梅隆大学

Lilian Weng 在中国出生和长大，本科毕业于北京航空航天大学计算机科学专业。随后赴美，在卡内基梅隆大学获得了计算机科学的硕士和博士学位。这一扎实的学术背景为其在工业界的AI研究奠定了坚实基础。

教育背景计算机科学学术生涯

📝 简介

整合OpenAI安全团队，领导80多人

在 GPT-4 发布后，Lilian Weng 将 OpenAI 内部多个安全相关团队整合为一个统一的“安全系统”团队，领导超过80名科学家和工程师。这一举措旨在更系统化地应对前沿模型带来的风险，她的领导力因此被列入《商业内幕》2024年AI权力榜。

领导力团队管理 AI治理 OpenAI

通过个人博客“Lil'Log”持续分享AI洞见

自2017年起，Lilian Weng 通过个人技术博客“Lil'Log”持续记录和分享她的学习笔记与研究心得。博客内容涵盖从强化学习中的奖励黑客问题到LLM思考时间分析、自主智能体等前沿话题，成为AI社区重要的知识来源，体现了她作为研究者的分享精神。

知识分享技术博客 Lil'Log 社区贡献

🚀 项目

自主智能体的三大核心组件

Lilian Weng 将LLM驱动的自主智能体系统解构为三个关键组件：规划（Planning）、记忆（Memory）和工具使用（Tool Use）。规划涉及任务分解和思维链等技术；记忆包括不同类型的信息存储与检索；工具使用则让智能体能够调用外部资源。这为设计和分析智能体提供了清晰的框架。

方法论智能体设计 LLM应用系统组件

通过领域随机化实现模拟到现实的迁移

在机器人研究中，Weng 采用“领域随机化”方法。即在模拟训练环境中，随机化系统（如摩擦力、物体外观）的许多物理属性。尽管训练完全在模拟器中进行，但由此学到的策略能够很好地迁移到物理机器人上，解决了仿真与现实之间的差距问题。

机器人学习强化学习仿真迁移学习

💬 名言

最好的学习方式是把新概念清晰地解释给别人

Lilian Weng 相信，最好的学习方式是通过向他人清晰地解释一个新概念。这一理念促使她长期维护一个机器学习技术博客（Lil'Log），通过写作来深化自己的理解并分享知识。

学习方法知识分享技术写作

AGI应大幅提升人类生产力并加速科学发现

在被问及AI未来最令人兴奋之处时，李莲表示：“通用人工智能（AGI）应在大多数具有经济价值的工作上超越人类。我期待看到AGI以这些方式帮助人类社会：1. 完全自动化或显著减少人类在重复性和非创新性任务上的努力。换言之，AGI应大幅提升人类生产力。2. 极大加速新科学突破的发现。3. 有效、高效且安全地理解和与物理世界互动。”

AGI 人工智能未来生产力科学愿景

用AI解决AI安全挑战

Lilian Weng 在讨论AI安全时提出：“Let’s use AI to solve AI safety challenges.” 这体现了她务实且前瞻性的安全观，主张利用先进AI模型（如GPT-4）来辅助内容审核、政策制定等安全对齐工作，构建一个快速迭代的安全反馈闭环。

AI安全对齐 GPT-4 内容审核