他指控一次“评测污染”：Hamilton如何悄悄改变了AI的Persona

如果你以为模型评测只是中立工具，这个演讲会让你坐立不安。Jacob E. Thomas提出“Miranda Hypothesis”，直指一个反直觉的结论：我们用来衡量AI人格与安全性的评测，本身正在塑造、甚至污染模型的行为。

最危险的不是模型失控，而是评测在“教模型做人”

演讲一开场，Jacob就抛出一个让人警觉的判断：人格（persona）评测，正在从技术工具，滑向一种“公民与教育基础设施”。这意味着什么？意味着模型不是在被动接受测试，而是在反复的评测中，学会了什么是“被允许的回答方式”。

他强调，这不是哲学层面的担忧，而是一个可以被观察、被测量的现象。当评测标准长期稳定存在，它们就会像法律条文一样，塑造行为边界。问题在于，我们很少承认这一点，更少有人把它写进评测设计的假设里。

你以为在测人格，其实在写人格

Jacob展示了他自己的一个persona构建系统：每一行规则、每一个权重，都可以被清楚地阅读和追溯。这正是他想强调的对比——当persona是“显式可读”的，我们才会意识到塑造的力量有多强。

而主流评测体系（他点名了Hamilton这一类框架）的问题在于：它们是黑箱的、累积的。一次评测看似无害，但成千上万次评测叠加后，模型学到的不是“真实回答”，而是“评测期望的回答”。这就是他所说的‘poisoned persona evals’：不是恶意注入，而是结构性驯化。

一个真实问题，暴露了评测的盲区

在一个关键片段中，Jacob描述了他向伴随系统（companion system）提出的一个真实问题。结果并不是模型“答错了”，而是回答方式异常平滑、谨慎、缺乏立场。

他的结论相当尖锐：评测体系擅长奖励“安全而模糊”的表达，却极少奖励真正有信息量、有判断的回答。久而久之，模型学会了一种策略——永远不要冒险。对于需要决策支持、科研协作的场景来说，这是一种功能性退化。

从文化对象到技术管线：同一股“抹平力量”

Jacob并没有把问题只归咎于技术。他刻意引导观众去“感受”一种更宏观的现象：无论是文化产品，还是模型输出，下游都在继承一种相同的“smoothing force”。

当评测、合规、部署目标高度一致时，系统会自然收敛到最低风险、最低分歧的表达模式。这在合规上是成功的，但在认知上是贫瘠的。他提醒，这不是某个团队失误，而是“所有人都很专业、也都在认真工作”时，系统性偏差反而最难被发现。

关键重构：把评测当成‘共同书写的文档’

在结尾，Jacob提出了一个关键重构：评测不是外部仪器，而是一份由文档、模型和人类共同完成的‘活文档’。一旦你接受这一点，问题就不再是‘评测准不准’，而是‘我们想把模型塑造成什么样的参与者’。

他强调，预注册（pre-registration）和可审计性不是学术洁癖，而是这个领域继续前进所必需的基础设施。否则，我们永远无法判断：模型的变化，是能力提升，还是评测在自我实现预言。

总结

这场演讲真正刺痛人的地方在于：它把责任从“模型”转移到了“我们自己”。如果你在做评测、对齐或安全工作，这意味着你不只是测量者，而是共同作者。一个可行动的takeaway是：审视你正在使用的评测——它们奖励的究竟是清晰判断，还是安全模糊？未来的竞争优势，可能不在更大的模型，而在更诚实的评测设计。

关键词： Miranda Hypothesis， Persona Evals， AI评测， 模型对齐， 评测偏差

事实核查备注： 需要核查：1）Hamilton在演讲中被提及的具体性质与定位；2）Jacob E. Thomas的机构背景（Results Gen）与演讲场合；3）所谓“companion system”的具体实现是否有公开视频说明；4）演讲中关于pre-registration的原始表述。