把200B模型搬到桌下:Jetson Spark让本地LLM不再是玩具
如果你还觉得大模型只能在云端跑,这场NVIDIA的实测会直接打脸:14B模型本地20 token/s,首token快3.4倍。更重要的不是跑得多大,而是开发者终于能在自己桌边,摸清真实的工程边界。
如果你还觉得大模型只能在云端跑,这场NVIDIA的实测会直接打脸:14B模型本地20 token/s,首token快3.4倍。更重要的不是跑得多大,而是开发者终于能在自己桌边,摸清真实的工程边界。
你可能以为,大语言模型变强靠的是更多数据、更大参数。但这场演讲抛出一个反直觉结论:真正的突破,来自让模型在强化学习环境里“自由游走”。从 OpenAI o1 到可验证的推理环境,LLM 训练正在换一套底层逻辑。
当所有人都在谈更强的模型、更自动的代理,AIE Europe Day 2 却用诗歌、摩擦和失败案例不断提醒:真正失控的不是 AI,而是工程师的判断力。这不是一场炫技大会,而是一场对“代理时代”的集体降温。
当全行业还在迷信更大的模型、更贵的算力时,NLP 教父 Chris Manning 却在这期播客里反复强调一件事:真正卡住 AI 的不是规模,而是“有没有结构化的世界模型”。Moonlake 的出现,正是对 Scaling Laws 的一次正面挑战。
一档看似“什么都聊”的节目,却在同一天把苹果50周年、SpaceX登月、AI推理、Snap生死局和潜在超级IPO串成了一条暗线:科技正在从“讲故事”阶段,进入“拼执行、拼现金流、拼算力”的硬核时代。这期TBPN,是AI从业者必须认真消化的一次信号汇总。
当市场在问“英伟达是不是到头了”,这场长访谈却给出一个反直觉答案:真正的增长引擎才刚启动。AI推理、Agent、上下文窗口、算力供给,这些被低估的变量,正在把英伟达推向一个更难被复制的位置。
如果你以为这期 TBPN 只是一次科技八卦拼盘,那你会错过三个正在重塑行业共识的信号:一家“声名狼藉”的顶级VC是否还有第二次机会;Sora为何从现象级产品迅速走向终局;以及SpaceX IPO 为什么可能成为AI时代最重要的金融事件之一。
Oracle 财报一出,股价单日暴涨 10%,很多人只看到“云收入超预期”,却忽略了更恐怖的信号:AI 的用户增长在放缓,但算力消耗正在双重指数级爆炸。这不是一家公司逆袭的故事,而是整个 AI 基础设施逻辑被改写的开始。
如果你以为“AI写歌”只是又一个玩具,那你可能低估了谷歌这一步的深意。这期《AI Daily Brief》表面在聊音乐、条款争议和可穿戴设备,实际上串起了一个更大的信号:AI竞争,正在从模型能力转向“谁拥有完整平台”。
如果你还在把注意力放在“更大的模型”,那这期 Latent Space 可能会让你不太舒服。NVIDIA 的工程师们在这次对话中反复强调:决定 AI Agent 能否规模化的关键,不是训练,而是推理系统、执行边界和工程化细节。这是一次少见的、站在“行星级规模”视角的内部复盘。