Dan Hendrycks谈AI安全:真正的风险不只在模型里
在这期 No Priors 播客中,AI Safety Center 主任 Dan Hendrycks 解释了他为何早早投身 AI 安全研究,并提出一个反直觉观点:实验室里的“对齐”和“安全”远不足以决定 AI 的结局,真正的风险更多来自地缘政治、竞争压力与结构性博弈。
在这期 No Priors 播客中,AI Safety Center 主任 Dan Hendrycks 解释了他为何早早投身 AI 安全研究,并提出一个反直觉观点:实验室里的“对齐”和“安全”远不足以决定 AI 的结局,真正的风险更多来自地缘政治、竞争压力与结构性博弈。
一则看似普通的爆料,却揭示了苹果在AI时代的系统性失速:真正的对话式Siri要等到2027年。与此同时,谷歌内部进入“战时状态”,SoftBank则押上资产负债表豪赌AI。这期《AI Daily Brief》把三种截然不同的AI命运,放在了同一条时间线上。
在这期对话中,一位长期深耕自动驾驶与大模型的专家回顾了行业过去十多年的关键突破,并坦率地拆解了仍然卡住落地的核心瓶颈。比起单点算法创新,他更强调规模、数据与“世界模型”正在如何重塑自动驾驶的技术路径。
一个开发者,用Next.js、GPT-4o和一堆“过度工程”,真的做出了会记得你生活细节、能隔三天接着聊的AI朋友。这不是情感噱头,而是一套可复用的AI应用范式:记忆、人格、结构化输出、真实感对话,全都落地了。
一边是前OpenAI CTO Mira Murati高调成立Thinking Machines Labs,却几乎不透露具体产品;另一边是曾被寄予厚望的AI硬件Humane Pin在一年内宣告失败。视频通过这两个对比鲜明的故事,揭示了当下AI创业中理想、资本与现实之间的张力。
Google 发布的 AI Co-Scientist 不只是一个科研辅助工具,更像是一张多智能体系统的未来蓝图。它展示了 AI 不靠“更聪明的模型”,而是通过分工协作、竞赛进化的方式,开始真正参与科学发现,并已在药物再利用等真实实验中得到验证。
这不是一场教你用框架的Agent演讲,而是一位工程师带你从最原始的循环、判断和工具调用开始,亲手“跑起来、弄坏它”,直到真正理解Agent为何会像一个能自主行动的系统。
这场来自 AI Engineer 频道的演示,展示了一种不同于传统 API 自动化的新路径:AI 网页代理直接在浏览器中工作,接管大量“没人愿意为之写接口”的长尾知识劳动。通过 Retriever 这一 Chrome 扩展,演讲者用多个现场用例说明:未来的自动化,正在从后端走向真实网页。
在这期Y Combinator访谈中,Perplexity CEO Aravind Srinivas回顾了公司从一次次失败实验走到AI搜索的过程。他分享了一个反直觉的判断:Perplexity的目标并非“杀死Google”,而是用更聪明的方式,帮助用户问出他们原本不会问的问题。
如果你还在把模型、推理、函数调用、Demo 工程拼成一条脆弱的 AI 工具链,这个视频可能会让你有点不舒服。Google 的 AI Studio 正在把这些东西收进一个界面里,而且已经不是 PPT。Greg Isenberg 直接让 Google AI Studio 负责人现场演示,很多从业者看完都会意识到:AI 基础设施的游戏规则,正在被重写。