他们不是在训练模型，而是在给AGI办一所“人类学校”

如果你以为AGI的关键在于更大的模型和更多的数据，这期 Every 的视频会让你停下来。创作者抛出一个反直觉的判断：我们正在为AI建一所“学校”，目的不是让它更聪明，而是让它理解人类本身——价值、选择、矛盾与伦理。这不是技术细节，而是方向之争。

最反直觉的设定：AGI不是工具，而是“学生”

视频一开场就抛出一个让很多AI从业者不太舒服的说法：我们正在建一所“给AGI上的学校”。不是比喻，而是一种设计哲学。AI模型被当作“完成任务的工具”已经太久了，但问题在于——任务是谁定义的？

在视频中，嘉宾反复强调一点：模型被优化为完成目标，但人类自己对目标的理解是模糊、矛盾、甚至相互冲突的。如果AI只学会“怎么把任务完成得更好”，而没学会“为什么这个任务值得做”，那它只会把人类的短视放大。

于是，“学校”的隐喻出现了：AGI需要学习的不只是语言、图像或代码，而是人类的偏好、价值排序，以及我们在现实世界中如何做出艰难取舍。这是一个从‘更强的工具’到‘理解人类的系统’的视角切换。

技术越强，选择越残酷：AI正在逼我们正视价值观

视频中一个反复出现的主题是：AI并不是在制造新的伦理问题，而是在迫使我们面对早就存在、但一直被拖延的问题。

当模型能力还很弱时，很多价值冲突可以被“技术限制”掩盖。但随着模型越来越能干，问题开始赤裸裸地摆在桌面上：当多个目标无法同时满足时，AI该优先什么？效率？公平？安全？个体福祉？

嘉宾形容这是“big thorny existential choices”——又大又扎人的选择。关键在于，这些选择并不存在一个客观最优解，而是深深嵌入在人类社会的价值体系中。AI越聪明，我们越没法回避这些问题。某种意义上，AI成了一面镜子，把人类内部的分歧照得一清二楚。

为什么模型“写得不好”，答案不在模型本身

视频里有一个看似轻松、但非常行业向的讨论：为什么很多模型在写作上总是差那么一口气？

给出的答案并不是“模型还不够大”，而是优化目标出了问题。模型被训练去最大化某些可量化指标——相关性、流畅度、完成度——但真正好的写作，恰恰包含大量不可量化的判断：什么时候该停，什么时候该冒险，什么时候该违背读者的预期。

这再次回到“学校”的比喻：如果一个学生只被奖励‘答对题’，却从不被引导思考‘什么是好问题’，那他很难成为真正有创造力的人。对AI也是一样。

技术上可行，但对我们没帮助：一个危险信号

视频中有一句话值得反复咀嚼：有些事情“技术上可能做得到，但实际上对我们毫无帮助”。

这是一个危险但必要的提醒。在AGI竞赛语境下，行业太容易被‘能不能做’牵着走，而不是‘值不值得做’。当算力、数据和算法不断突破，真正稀缺的反而是判断力：哪些方向是在解决真实的人类问题，哪些只是自我陶醉的技术展示。

这也是为什么“让AI理解人类”比“让AI更强”更难、也更重要。前者没有明确指标，却决定了后者是否会把我们带向正确的地方。

AGI时间表之外，更重要的是“准备表”

在谈到AGI时间线时，视频并没有给出一个耸动的具体年份。相反，讨论焦点转向了一个更现实的问题：即便AGI在技术上出现了，我们准备好了吗？

如果AI真的能在复杂情境中做决策，那它不可避免地会参与资源分配、社会结构甚至个人命运的选择。而这些问题，人类自己至今都没有达成共识。

从这个角度看，所谓AGI时间线并不只是技术曲线，而是一张‘社会准备度’的曲线。模型进步得越快，这条曲线的滞后就越危险。

总结

这期视频最有价值的地方，不在于给出了AGI的答案，而在于换了一个提问方式：与其问“我们还能把模型做多强”，不如问“我们希望它学会什么样的人类观”。对AI从业者来说，这意味着技术决策本身就是价值选择；对普通读者来说，这意味着AGI不是遥远的未来议题，而是正在逼近的现实考题。也许真正该被教育的，不只是AI，还有我们自己。

关键词： 通用人工智能， AGI， AI伦理， 价值对齐， Every

事实核查备注： 需要核查：视频中是否明确使用“school for AGI”的原话语境；是否给出具体AGI时间线判断；关于模型写作与优化目标的讨论是否有更精确表述。