Paper Digest: 2026-04-15
今天最值得看的 paper,是一篇把 post-training 里一个常被使用、却少有人真正讲透的方法拆开来看的工作。Rethinking On-Policy Distillation of Large Language Models: Phenomenology, Mechanism, and Recipe 讨论的是 OPD,on-policy distillation。这个方向这半年越...
今天最值得看的 paper,是一篇把 post-training 里一个常被使用、却少有人真正讲透的方法拆开来看的工作。Rethinking On-Policy Distillation of Large Language Models: Phenomenology, Mechanism, and Recipe 讨论的是 OPD,on-policy distillation。这个方向这半年越...
今天最值得看的 paper,不是又一个更大的 benchmark,而是一篇把 RL for LLMs 里一个很烦、但大家都见过的毛病讲清楚的工作。The Past Is Not Past: Memory-Enhanced Dynamic Reward Shaping 这篇 paper 盯住的是 rollout diversity 崩掉之后的那种熟悉场面,模型并不是不会探索,它只是会反复绕回同...
今天最值得看的 paper,不在 Hugging Face 热榜里,而在 arXiv 的 cs.SE 角落。原因很简单,这篇 paper 碰到的是 code LLM 真正在生产里会撞上的墙,模型知道的 API,和今天真实存在的 API,经常已经不是同一个东西。When LLMs Lag Behind: Knowledge Conflicts from Evolving APIs in Cod...
今天最值得看的 paper,挑战的不是一个小结论,而是最近 post-training 圈里一个被说得过于顺口的判断,SFT 负责记忆,RL 负责泛化。这个说法太整齐了,所以也太可疑。Rethinking Generalization in Reasoning SFT 这篇 paper 做的事情很扎实,它把 reasoning SFT 的泛化问题拆开来看,最后给出的答案不是 yes 或 no...
今天最值得看的 paper,不在于它又给 agent 加了什么新能力,而在于它终于认真去量 agent 到底做对了什么、做错了什么。过去很多 autonomous agent benchmark 最大的问题,是只看终点,不看过程。最后按钮点对了、文件改对了、答案交对了,分就给了。但真实世界里的 agent,往往恰恰死在过程里,绕远路、碰安全红线、靠运气撞对结果。Claw-Eval 这篇 pa...
今天最值得看的论文,落点非常明确,coding model 真正缺的,也许不是再多一点“会说”的 reasoning,而是更像程序员那样,先在脑子里跑一遍代码,再决定自己写得对不对。今天几篇强 paper 放在一起看,会发现一个共同方向,大家都在试图把模型从只会产出答案,往会模拟过程、会修正错误、会更新信念那边推。 今日 3 篇精选 1) Self-Execution Simulatio...
今天最值得看的论文,不在 benchmark 花活,而在一个更根本的问题,post-training 到底该从哪里拿到足够密、但又不失真的学习信号。稀疏 outcome reward 太粗,纯 privileged distillation 又容易把目标带偏。今天最强的几篇 paper,基本都围着这条线打转,只是切入点不同,有的在讲 reasoning RL 的信号设计,有的在讲 code ...
今天最值得记住的研究信号,不是某个模型又多刷了几个点,而是 post-training 终于开始更认真地处理 credit assignment 这件事。长 reasoning trace 里,真正值得学的 token 并不均匀,coding task 里的思考也不会只发生在开头。换句话说,推理能力不只是“能不能想”,更是“什么时候该想,哪里该被奖励”。 今日 3 篇精选 1) FIPO...
今天最值得记住的研究信号,是 agent 讨论越来越像在谈一套真正的生产系统,而不是一堆会做任务的模型拼装件。真正开始变重要的,是任务怎么分发,结果怎么验收,经验怎么沉淀,资产怎么复用,成本怎么结算。换句话说,agent research 正在从 capability demo,走向 organizational infrastructure。 今日 3 篇精选 1) EpochX: B...
今天最值得记住的研究信号,不在模型又多会答题一点,而在 agent 系统终于更认真地面对一个更难的问题:经验怎么沉淀。一条轨迹能跑通,不代表能力真的留下来了。真正有价值的,是把一次次执行里的局部教训,压缩成以后还能复用的 skill、memory 和 repo-specific know-how。 今日 3 篇精选 1) Trace2Skill: Distill Trajectory-L...