#2026-10-26 AI/LLM 最新论文与研究热点简报

检索时间:2026-10-26 08:00 (Asia/Shanghai)。覆盖说明:截至检索时,arXiv 最新公告批次仍为 10-22 提交(Fri, 23 Oct 公告)——周日上午/周一凌晨提交的新论文尚未进入公告与 API(周一新批次预计北京时间今日 20:00 后放出);Hugging Face Daily Papers 最新 edition 仍为 10-23(49 篇,前两期已大量覆盖)。因此本期采用余量深挖策略:上两期(10-24、10-25)简报各只消化了 10-22 批次的前 100 条(API 按提交时间倒序返回的头部),而该批次在 cs.AI/cs.CL/cs.LG/cs.SE 四个类别实际共有约 500+ 条——本期把 listing 页分页全量翻完(561 个唯一 ID),与前两期去重后得到约 570 条未覆盖论文,逐条按 wenjun 方向筛选后萃取出下方内容,另补 HF 10-23 榜单余量与 GitHub Trending 当日快照。时间范围实际为最近 2-5 天(10-20~10-22 提交批次)。

核心来源:arXiv listing 页(arxiv.org/list/{cat}/recent 分页全量解析,四类合计 561 ID)+ arXiv API(指定 ID 精确回查摘要与作者,共核验约 60 篇)+ Hugging Face Daily Papers(huggingface.co/papers?date=2026-10-25 → 实际 edition 10-23,SvelteKit 数据载荷解析)+ GitHub Trending 与 REST API(repo stars/创建/push 当日快照)。X/Twitter 不可直接访问,未纳入检索,已注明(以项目页/GitHub/arXiv 替代)。

主题观察:把余量翻完之后,本周(10-21/10-22 提交)浮现的主线与上两期的"harness 一等公民化"、"agentic RL credit assignment 原理化"高度连贯,但出现了三个新的收敛信号:(1) "harness/scaffold 能否自演化"第一次有了受控实验——ARC-AGI-3 上的 27 个谱系实验给出了偏冷的结果(两次修订只带来 2.80 点均值的提升,且开发集收益显著高估 held-out 收益),与周末 HERD/AgenticEvolve 的乐观叙事形成必要的对冲;(2) 代码 agent 评测基准进入"清算/审计"阶段——specification-oracle gap、VerifierBench、SWE-DIVE 三篇同时从"基准到底在测什么"下手;(3) 世界模型侧出现了通往 model-based RL 的 return 层诊断——"渲染忠实 ≠ return 正确",事件级 transition 才是 return 误差的来源,这直接打在 Dreamer 类方法的要害上。

#一、核心论文精选(按与 wenjun 方向的相关度排序)

#1. Events, Not Pixels: Where World Models Get the Return Wrong ⭐ 重点

  • 链接:https://arxiv.org/abs/2610.29435
  • 来源:arXiv cs.AI,2026-10-21 提交;作者 Haoyue Liu, Xiaoying Tang
  • 类别:Model-based RL / World Model / Credit Assignment(诊断层)
  • 一句话核心:世界模型用于规划时由"想象的 return"给候选动作排序,但模型一直按"渲染得多像"来评测;本文提出 transition 级诊断——把想象 rollout 中的单步 transition 替换为真实 transition、测量 return 误差的下降(对照预算匹配的随机替换),发现事件级 transition(奖励产生/episode 结束的少数几步)渲染质量与其他步骤无异(中位 pixel-error 比 0.85),但单独还原它们就能消掉中位 70% 的 return 误差;反之替换 MSE/SSIM/LPIPS 误差最大的步骤还不如随机选。44 个 Atari-100k 模型-集合对上事件 patch 在 39 个里胜过随机(符号检验 p=1.4e-7,中位增益 +44 个百分点)。

为什么值得关注:这是 model-based RL 路线少见的高信噪比诊断论文。它把"世界模型的预测质量"这个笼统概念拆成了两个层次——渲染保真(perceptual)与 return 保真(decision-relevant),并证明两者几乎不正交耦合的关键点在事件步。对做 Dreamer/世界模型的人,这是对训练目标的一个直接指控:重建损失加权再怎么调,都不如把监督质量集中到 reward/termination 相关的少数 transition 上;论文还证明了这个误差结构能预测扩散世界模型何时能修复这些失败——诊断反哺训练的前置条件已经成立。

与 wenjun 研究方向的关系:正中 LLM model-based RL / Dreamer for LLM Agent 近期重点。LLM agent 的世界模型同样存在"token 预测保真 ≠ 任务 return 正确"的错位:长轨迹里真正的关键 transition(工具调用成败、状态跳变、reward 到账)只占少数 token。这套 transition 级替换诊断可以零成本移植到文本世界模型上——用真实工具执行结果替换想象 rollout 中对应步骤、测量 return 误差降幅,就能定位"文本世界模型该在哪类事件上集中容量"。这比泛泛谈"提升世界模型质量"可操作得多。

#2. Can LLMs Improve Their Own Harness? A Controlled Study on ARC-AGI-3 ⭐ 重点

  • 链接:https://arxiv.org/abs/2610.30499
  • 来源:arXiv cs.AI/cs.SE,2026-10-21 提交;作者 Jens Lehmann, Sahar Vahdati
  • 类别:LLM Agent / Self-Evolving / Evaluation
  • 一句话核心:在 ARC-AGI-3 上做受控实验:前沿模型通过固定 coding bootstrap 自己构建完整 task harness(感知/记忆/工具/恢复/推理分配的符号程序编排层),在 5 个开发游戏上行动、两轮全量修订代码库,在 20 个从未参与适应过程的 held-out 游戏上评估;27 个谱系的成绩从零到接近天花板,但两轮修订平均只提升 held-out RHAE 2.80 点(95% 区间 [-1.44, 7.35]),开发集收益显著高估 held-out 改善,且推理成本下降可能以任务性能为代价——自主 harness 构建与可靠适应之间存在明确 gap。

为什么值得关注:这是"harness 一等公民化"叙事(上两期 HERD、Certifiable Harness、IQuest-Q1 多 scaffold 配方)等来的第一个受控反例。人类操舵的系统在公开游戏上已报天花板分,说明设计空间里有解;但让模型自己探索这个空间时,两次修订的适应收益在统计上勉强不为零。方法论上 RHAE(相对人类动作效率)+ 美元计价推理成本的度量组合值得抄:把"性能"和"资源"放进同一坐标,防止自演化论文只报涨点不报代价。

与 wenjun 研究方向的关系:直接命中环境设计催生自演化智能 + agent 预训练数据塑造能力两线。与周末 HERD(harness 外化持续学习)构成一正一反的对照:HERD 证明 harness 可以是学习载体,这篇证明模型自主改 harness 的当前水平还很初级——即 harness 演化目前更像"人工设计空间内的搜索"而非"自主技能获得"。做 self-evolving agent 实验设计时,"开发集收益 ≠ held-out 收益"这条教训应作为强制报告项;与 AgenticEvolve(持久 agent 设计实验带来数量级收益)的张力也值得专门思考——差距可能就在适应过程的轮次结构上。

#3. What the Specification Did Not Say: Specification-Oracle Gaps in Test-Graded Coding-Agent Benchmarks ⭐ 重点

  • 链接:https://arxiv.org/abs/2610.30635
  • 来源:arXiv cs.CL,2026-10-22 提交;作者 Fei Ding
  • 类别:Code Agent / Evaluation / Pretraining Data(基准审计)
  • 一句话核心:代码 agent 基准用自然语言描述任务、却用上游项目自带的测试打分——通过测试可能需要描述里从未给出的信息(常量名、模块路径、精确消息),作者称之为 specification-oracle gap:存在此 gap 时,基准实际在测"agent 能否复现上游实现细节"。静态审计工具(五语言,held-out 精度 89.2%/召回 92.9%)扫 SWE-Milestone 的 98 个计分里程碑:25 个含依赖未声明且不可推断名称/路径的测试;有此依赖的构建单元在 80.6% 的 run 里失败(无依赖者 48.4%);从参考实现里藏起单个名字即可让 126/128 的单元测试编译失败。排行榜排名对这些测试不敏感,但组内分数被系统性扭曲。

为什么值得关注:这是把"基准测量学"做到极致的一篇:不是又造一个 benchmark,而是给所有 test-graded 代码 agent 基准做 X 光。最狠的一组数字是"藏一个名字 → 126/128 编译失败"——直接证明大量失败根本不是推理失败而是信息不对称。作者还跨四个基准考察了 gap 检出率如何随构造方式(release notes/LLM 摘要 → 三分之一以上受影响; screened → 几乎为零)变化,并放出审计工具、修正过滤列表和 spec 补遗。

与 wenjun 研究方向的关系:命中代码智能 + RLVR 可验证奖励两线。所有用 SWE-bench 类环境做 agentic RL 的工作都默认"测试通过 = 任务完成";这篇证明相当比例的"失败"其实是 spec 信息缺失,那么 RL 在这些任务上给出的负 reward 是有偏的——agent 被惩罚的是猜不中隐藏名称而非推理错误。对做 code agent RL 的人,用其开源审计工具过滤训练任务是零成本提升信号质量的一步;对做评测的人,"spec-oracle gap 检出率"应该成为新基准的标准报告字段。

#4. VerifierBench: Benchmarking the Generation of Executable Verifiers for LLM Agents ⭐ 重点

  • 链接:https://arxiv.org/abs/2610.28679
  • 来源:arXiv cs.SE,2026-10-19 提交;作者 Jianing Yin, Ziyi Chen, Hao Wang, Yiyou Sun, Zijian Jin, Dawn Song(Dawn Song 组)
  • 类别:Code Agent / Self-Evolving / Evaluation / RLVR
  • 一句话核心:系统研究"验证器生成"任务:agent 从任务指令和可用环境出发,写出一个可执行验证器,要求接受一切合理解、拒绝一切错误解;VerifierBench 收录 6 个 agent 基准的 222 个任务、4,993 个隐藏测试用例(含替代正确解与攻击样例)。19 个模型在同一 harness 下归一化平衡准确率仅 10.6~62.1,且生成的验证器拒绝错误解的能力远强于接受正确解——大多数误拒来自"不接受任何已测解"的过严验证器,错误根源是对解格式/工具使用/代码变更方式的无据假设,且自测流程发现不了这些假设(agent 用与验证器共享同一错误假设的解来测它)。

为什么值得关注:验证器是 self-evolving agent 闭环的咽喉:合成数据过滤、RLVR reward、自建评测(昨日 EvalResearchBench)、进化搜索的 fitness(今日 VeriEvolve)全部押在"agent 能可靠地写验证器"上。这篇第一次给出该能力的绝对刻度——最好也只有 62 分,且暴露了系统性偏向"过严"的失效模式。V4V 六查审计对基准自身的验证器也做了筛查,方法论自洽。

与 wenjun 研究方向的关系:正中self-evolving code agent + RLVR 主线。三篇同期工作拼出完整问题空间:VerifierBench 测"写验证器的能力上限"、VeriEvolve(2610.29005,10-21,见速览)给出"先造评估层再进化"的框架并在 MCPMark 30 任务上把 GLM-5.2 从 6/30 提到 18/30、EvalResearchBench(10-03)测"自建评测与目标基准的一致率(约 75%)"。三者共同指向:自演化系统的瓶颈正在从"生成"转移到"验证"。对做 agentic RL 的实验,VerifierBench 的任务集可以直接当"验证器 RL"的训练环境。

#5. MemoryTax: The Bitter Lesson of Agent Memory ⭐ 重点

  • 链接:https://arxiv.org/abs/2610.29823
  • 来源:arXiv cs.CL,2026-10-21 提交;作者 Zedong Peng
  • 类别:LLM Agent / Memory / Context Compression / Evaluation
  • 一句话核心:问一个尖锐问题:当模型强到能自己搜索原始历史时,设计出来的记忆系统(Mem0/Zep)还有用吗?在一条 LoCoMo 对话(419 轮、152 问)上跑四种记忆方法(全上下文/BM25/Mem0/Zep)× 三个 coding agent(Pi/Codex/Claude Code)× 三个模型:Mem0 只在 GPT-4o-mini 上胜过全上下文,且其构建成本高于一整次全上下文 rollout;记忆有由写入模型设定的天花板(更强的读取器无法恢复弱写入者漏掉的内容);用 Claude Opus 5.5 驱动 Pi(把 coding agent 当记忆引擎)登上成本-准确率 Pareto 前沿:99% 准确率、成本不到全上下文一半。

为什么值得关注:这是记忆方向"祛魅三部曲"的第三部(前两部:昨日 Raw-RAG 的多基准实证、Value of Memory 的理论核算)。它的新颖角度是把 coding agent 的工具化检索能力当作记忆策略——agent 用自己的 grep/读文件工具按需搜索原始记录,效果碾压专用记忆系统。"记忆是给弱模型打的昂贵补丁"、"天花板由写入模型设定"两句结论对整个 memory 子领域有校准作用(作者也明确承认局限:单对话单次运行的小样本实证)。

与 wenjun 研究方向的关系:命中通用上下文压缩器 + agent 记忆两线,并与 10-24 期 TraceLite(轨迹压缩)形成有趣对照:既然 coding agent 自己检索原始历史就是最强记忆,那么压缩器/记忆系统的存在价值必须重新论证——要么比"模型自带搜索"便宜得多(系统层价值),要么在"模型还弱"的阶段提供 scaffolding(发展层价值)。做记忆/压缩研究的人现在需要三个基线:Raw-RAG(检索式)、MemoryTax 的 agent-as-memory(工具式)、全上下文(暴力式)。

#6. Delta N-gram: Forward-Only Continual Writing into a Language Model's Native N-gram Memory ⭐ 重点

  • 链接:https://arxiv.org/abs/2610.31125
  • 来源:arXiv cs.LG,2026-10-22 提交;作者 Hao Wu
  • 类别:Continual Learning / Pretraining 机制 / Memory
  • 一句话核心:接续其此前发现"模型原生的 hashed N-gram 表是持续更新扰动基座最小的部位,但写入需要反向传播且会改动预训练表";本文给出前向-only 的写入路径:预训练表 T⁰ 永不修改,证据写入稀疏补丁 Δ(4.1M 参数的 writer 为每个 (position, hash head) 事件发出目标值与门控,块平均 delta 规则保持每行为旧值与门控目标的凸组合);清空 Δ 即恢复原模型。0.6B 原型上连写两次保持 16/16 事实(在线梯度写入只剩 2-4/16);在 Qwen3.8-Flash-Next 上,写入的记忆有文档特异性(held-out 新闻事件上续写 NLL 降 0.068 nats/token)、35,000 次写入后两版 writer 都保持稳定;同时给出诊断:清除 Δ 后基座 98% 的漂移来自 8 个被所有样本读取的"格式行"。

为什么值得关注:这是"参数化记忆"方向目前机制上最干净的设计:可逆(清 Δ 即还原)、前向(部署无需反传)、定位明确(N-gram 表是最小扰动写入点)。与昨日 Deep Fusion Memory(块级参数化记忆)互补:DFM 走"架构级新增记忆模块",本文走"在预训练既有结构上打可撤销补丁"。其负结果同样重要——acquisition 为负、通用输入漂移 32.8%,说明"往基座写知识"的成本远未解决,但"格式行"的定位(少数被全局读取的行造成 98% 漂移)给了后续工作明确的修复靶点。

与 wenjun 研究方向的关系:命中LLM 持续学习 + 基础模型训练机制两线。把上两期的记忆话题链延伸到参数侧的终点:什么值得存(Value of Memory)→ 怎么固化(HERD 递归蒸馏)→ 固化的最小干预点在哪(本文:原生 N-gram 表 + 稀疏 delta)。与 Low-Bit N-Gram Embeddings(10-22,昨日速览,DeepSeek-V4.1-Flash 的 196B 参数 Engram 表)合读可以看出:"n-gram 记忆表作为一等公民"正在成为基座架构与持续学习共同的支点。

#二、简报式速览(本期其余值得知道的论文,均与前两期去重)

  • VeriEvolve: Evaluator-First Evolution for Tool-Using Agents(2610.29005,10-21)— Self-Evolving / RLVR:先造评估层再优化 agent:从任务指令合成 challenge states 与可执行 evaluator,轮内冻结当 fitness、轮间用强弱 run 的终态构造反事实测试对来修订 evaluator;MCPMark 30 个 Filesystem 任务上 30 个 evaluator 全部达成 141/141 一致,GLM-5.2 外部验证成功率 6/30→18/30、Claude 27/30→30/30。"评估器与策略共同演化但不同时演化"的调度是关键设计。
  • Agentic Knowledge-Model Co-Evolution (SPLICE)(2610.30790,10-22)— LLM Agent / Continual Learning:同一经验的多种分析变换会产出效用差异巨大的知识;用一致性正则——多种分析视图下都稳定带来增益的知识才固化,自蒸馏 + RL 内化时以"一致性退化的知识"做对比参照;平均准确率最多 +7.1/+4.6 超两个 baseline,正确解的 token 开销降 44%。与 HERD 的"什么该内化"判据互补且更工程化。
  • From Single-Actor Environments to Multi-Actor Event Worlds(2610.30488,10-21)— Model-based RL / LLM Agent:把多主体(他人也在决策、无人行动也演化、仅经事件日志部分可观测)系统形式化为 event worlds,考 LLM 能否从日志+自身候选动作预测未来观测;Diplomacy 与 Polymarket 两个基准上:给定全部主体动作时预测尚可,只给自身动作时他者强影响下的预测显著崩、更大模型与更长历史几乎无助益,且模型系统性高估计划成功率。"世界模型要建模的不只是环境动力学,还有其他主体"——对多 agent 环境的 LLM world model 是基础性 caveat。
  • Trace2World(2610.30792,10-22)— LLM Agent / GUI / 环境构建:从 1,570 条真实交互轨迹重建 50 个可执行 app 环境支撑 GUI RL 规模化:全局行为重建与实现解耦、源链接 app 模型 + 独立 replay 定位错配 + 有界修复;200 workflow 端到端复现率 91.1%(最强基线 59.8%),源接地验证让模拟训练增益在真机上保留 94.0%(自验证仅 54.7%),真机任务 +16.3 分。"环境重建的可信度必须由源证据而非自验证背书"——对 wenjun 关注的"环境设计催生能力"是方法论级贡献。
  • Environment Duels: A Microcosm of LLM Co-Evolution(2610.30116,10-21)— LLM Agent / Pretraining Data:动态基准,九个前沿 LLM 互为出题者与解题者;发现出题与解题是可分离的技能(最强解题者不是最强出题者,小模型从他人玩法中学到更多、写出最难环境与最有用提示);head-to-head 可传递、独立出题者收敛到相似设计;Qwen3.8-27B 的 RL 实验里训练增益与 hint lift 相关。是"LLM 生态互相塑造"的受控微观宇宙,与"agent 预训练数据如何塑造能力"直接相关。
  • One Teacher, Many Views (OPSD 去参考化)(2610.30880,10-22)— Post-training RL / Distillation:on-policy 自蒸馏的 teacher 以单一参考解为条件是"参考敏感性"的来源;对同一问题采样多个参考解训练多 teacher 分布聚合,降低对参考实现路径的过拟合。与 GIFT、CORD(2610.29965:RL 与蒸馏梯度冲突的冲突感知优化)同属"蒸馏×RL 相容性"主题。
  • MOER: Mix-Policy Optimization under Expert Prefix Guidance(2610.30873,10-22)— Post-training RL:专家前缀引导 + 选择性回滚的混策略优化,解决离线专家数据进 RL 循环时"全轨迹静态引导压制自探索 / 前缀引导无正确性保证"的两难。与 AOPD(昨日)共同构成"何时信专家"方法的又一变体。
  • EPIC: Exact-KL Prefix Importance-Ratio Clipping(2610.29999,10-21)— Post-training RL:指出 token 级 PPO clipping 只度量条件概率变化而前缀本身也是策略生成的;提出 exact-KL 前缀重要性比裁剪重设 LLM 策略的信任域。把 trust region 从 token 层升到轨迹层——与 TWICE/RIPPLE 的层级化 credit 主题呼应。
  • GIFT: Gradient Informed Filtering for Distillation Augmented Reasoning RL(2610.30796,10-22)— Post-training RL / Distillation:监督互补 ≠ 优化相容;用梯度方向冲突检测动态决定蒸馏信号何时入场。同主题第三篇,"蒸馏与 RL 的相容性"已成本周明确的小热点。
  • Uni-Mem: Unified Online Policy Optimization for Memory Manager(2610.29671,10-21)— LLM Agent / Memory / RL:记忆构建与检索的联合在线 RL;针对 GRPO 组比较混淆与长轨迹稀疏反馈提出 Stage-Decoupled GRPO + 事件级 credit assignment(ECA)——记忆管理动作的 event-wise credit assignment 是 credit assignment 主题延伸到记忆操作的最新实例,LoCoMo/LongMemEval 超最强 RL 记忆基线。
  • SWE-VERIFIER: Selective Verification for Cost-Efficient Coding Agents(2610.30284,10-21)— Code Agent / Systems:轻量策略学习"何时值得停下采样验证替代动作"(动作价值差大才验证),比每步都验证省大量开销。与 PAUSE(2610.29870,10-21:编码 agent 首次源码编辑前的免搜索转向)同属"编码 agent 在线干预/资源分配"层。
  • Banzhaf Resource Attribution (BRA)(2610.28834,10-20)— LLM Agent / Inference-time Scaling:卡住的 coding agent 该把下一个 token 花在哪?用受控因子设计把资源分解为计算/信息/反馈三类并测边际贡献与交互——inference-time scaling 不只是预算问题而是资源类型选择问题。对测试时扩展的实验设计是好模板。
  • High-Value Training Data from Noisy, Diverse Sources(2610.30421,10-21)— Pretraining Data / Post-training:元梯度直接优化样本权重(给定小而高质量的目标集),再学参数化加权规则实现流式外推 + 从小模型向大模型迁移;reward modeling 场景里人工+合成监督的学得权重混合超越任一单独来源。"可学习数据加权"是数据配比方向从启发式走向梯度的代表工作。
  • Towards Faithful Data Selection(2610.30442,10-21)— Pretraining Data / Theory:证明无验证集时"选出让训练误差最小的子集"这一经典目标信息论不可行(需要指数级大的验证集),给出数据选择的统计极限与可扩展算法——数据选择论文的防伪理论基础。
  • Tracing Subliminal Learning Through Pretraining(2610.30884,10-22)— Pretraining / Distillation:蒸馏可在与训练数据无关的维度上传递教师偏置(subliminal learning);硬标签与在线软标签两种蒸馏里该传递都跨越初始化/数据顺序/语料/规模/架构持续存在,且"传出偏好"与"获得偏好"的能力在不同 checkpoint 分离发展、跨模型强不对称。对合成数据训练的隐债又一块理论拼图。
  • Why Constrained Updates Still Forget(2610.30191,10-21)— Continual Learning / Theory:把约束式持续 SFT 的遗忘分解为受控直接项与轨迹项的功能路径分析,澄清"保护对象-干预轨迹-保留输出"之间的因果链。与周末算法稳定性遗忘分解(2610.31551)同为持续学习的理论补课。
  • Mitigating Model Collapse through Dreaming Learning(2610.30009,10-21)— Pretraining / Theory:在受控 Markov 设置下谱分析合成数据训练的模型坍缩,并显示 dreaming 式生成学习可缓解谱退化——合成数据路线的机制层视角。
  • AQL-Lite(2610.30344,10-21)— Continual Pretraining / Pretraining Data:面向阿拉伯语的数据中心持续预训练:质量优先 curation(结构清洗+启发式)+ 高效 CPT 配方;其"质量优先流水线 + 低资源 CPT"模板对多语言代码语料工作有直接参考价值。
  • LongZero(2610.30132,10-21)— Post-training RL / Long-context:零外部数据的长上下文 RL:模型自己合成"问题+支持文档+可验证答案"再自训练,摆脱外部语料与更强教师依赖——RLVR 数据合成走向自举的最新一例。
  • MemPlan(2610.30379,10-21)— LLM Agent / Model-based RL:部分可观测文本环境里用固定 PDDL domain + 记忆条件的问题重构,让 LLM 退居"语言↔符号规划之桥";LLM 做翻译、经典规划器做规划——神经符号分工路线在 agent 上的干净案例。
  • An Introduction to World Models for Generalist Agents(2610.30789,10-22)— Model-based RL / 教程:从 POMDP 出发统一"世界模型"定义(预测动力学/学习模拟器/联合生成观测与动作的模型),接经典控制、动力系统、信号处理与 RL,并主张策略与世界模型可经条件预测统一而无须分离模型。适合作为 wenjun "model-based RL for LLM Agent" 方向的入门统一参考。
  • Short-to-Long: Detached Features for Long-Horizon Value Learning([2610.30461](https://arxiv.org/abs/2610.30461),10-21)— Model-based RL / RL:小折扣因子训练的价值特征对远端 bootstrap 变化不敏感,将其作为表征供长时程行为学习者使用——"价值的时域分解"对长轨迹 RL 的表征设计直接可借鉴(NVIDIA 自动驾驶组,Marco Pavone 系)。
  • SWE-DIVE(2610.30047,10-21)— Code Agent / Evaluation:多轮动态用户模拟的编码 agent 评测——真实场景提示词远比 GitHub issue 混乱且会多轮演进;与 spec-oracle gap 一起构成"代码 agent 评测走向真实"的一组。
  • Agentic Verified Optimization of Real-World Software([2610.30188](https://arxiv.org/abs/2610.30188),10-21)— Code Agent / 验证:agent 产出更快实现并附 Lean 4 机器检查的等价性证明(原实现即规范,绕开规范书写瓶颈)——"可验证优化"把 RLVR 的 reward 从测试通过升级到定理证明,Dawn Song 组。
  • Scaling Laws for Generative Reward Models(2610.30765,10-22)— Post-training RL / Evaluation:GenRM 作为在线偏好源:静态判分准确率高的 Thinking 裁判在在线 DPO 训策略时反而常输给 Answer-Only 裁判(8 组中 7 组),裁判规模超策略规模仍有益——"评估器-rewarder gap"的 scaling 实证,对 reward model 方向是重要 caveat。
  • Bridging Foundational and Agentic Capabilities(2610.29751,10-21)— LLM Agent / Evaluation:操作级框架连接基座能力画像与 agent 操作画像,τ²-Bench 上 15 个服务商:基座画像只能部分预测 agentic 操作,同画像模型执行差异巨大——"能力实现 gap"作为可测量对象。
  • Governance-State Corruption in Long-Term Memory(2610.30698,10-22)— LLM Agent / Memory / Safety:治理态损坏(改哪些记录进入模型可见上下文)压力测试:6 家提供商、2,080 匹配故障对——记忆系统安全侧的系统性审计工具。
  • MoEZip(2610.30206,10-21)— Systems:MoE 的 KV 驱逐会改变后续专家路由,基于路由分布 Fisher 信息做路由感知压缩——MoE 长上下文推理的新失效模式定义。
  • Meta Expert(2610.27598,10-19,HF 10-23 榜 31up)— Systems / MoE:跨层专家共享降低 MoE 存储与检索开销——基座架构效率侧,热度上升条目。
  • Governed Self-Evolution for Autonomous Investing(2610.30557,10-22)— LLM Agent / Self-Evolving:多 agent 自演化投资系统 + 不变式核心(invariant core)约束演化边界——"受治理的自演化"工程案例,与 SPLICE/HERD 的"怎么演化不跑偏"主题呼应。
  • Tracing Subliminal Learning(同上 2610.30884)与 PreCoMem(2610.29467,10-21)— Memory / Continual Learning:后者用预测编码式记忆巩固区分瞬态噪声与真实信念漂移——长时程对话记忆的稳定性-适应性权衡的新解法。

#三、今日最值得精读的 3 篇

  1. Events, Not Pixels(2610.29435)——世界模型"渲染保真 ≠ return 正确"的 transition 级诊断,事件步贡献中位 70% 的 return 误差;对做 LLM 世界模型的人是训练目标重定向级别的发现,且诊断协议可零成本移植到文本环境。
  2. What the Specification Did Not Say(2610.30635)——给所有 test-graded 代码 agent 基准做 X 光:藏一个名字让 126/128 的测试编译失败;做 code agent RL 前先用它的开源审计工具清洗任务集,负 reward 的有偏性会立刻下降。
  3. Can LLMs Improve Their Own Harness?(2610.30499)——harness 自演化的第一份受控冷数据:两轮修订 held-out 只 +2.80 点、开发集收益高估;与 HERD/AgenticEvolve 的乐观叙事对读,是设计自演化实验时最重要的方法论校准。

#四、今日最值得跟进的 3 个 repo / model / dataset

  1. makecindy/cindy(https://github.com/makecindy/cindy,GitHub Trending 本日第 1,+675 stars/day,总 4.8k)——开源开箱即用 AI agent 客户端:多 harness(Claude Code/Codex/原生)×多模型可混用、任务中途切换而 workspace/记忆/技能/工具保持连续,一个任务可由不同 harness×模型组合分段规划/并行执行/交叉评审。这是"harness 一等公民化 + 终端 agent 记忆跨厂商交接"两期观察的产品级收敛点,2026-07 创建、昨日仍在密集推送。
  2. EnvDuels(https://github.com/LLM-Duels/EnvDuels,Environment Duels 论文官方库,10-20 开源)——"LLM 互为出题者与解题者"的受控共演化基准;做 agent 预训练数据/环境合成研究的高质量实验底座(注意 repo 尚早期,star 数少)。
  3. VerifierBench 数据与项目页(论文 2610.28679,项目页与数据集已公开)——222 任务 + 4,993 隐藏测试用例的"验证器生成"基准;做 RLVR/self-evolving 闭环的人应直接把它当验证器能力的训练与评测底座。

(GitHub Trending 侧观察:本日榜单"coding-agent 技能包"生态爆发——Nutlope/hallmark(反 AI-slop 设计技能,3.4 万 stars,+1,317/day)、cloudflare/security-audit-skill(多阶段安全审计技能,4.7 万 stars,+2,878/day)、AgriciDaniel/claude-seo(19 子代理的 SEO 技能包)——"agent 技能文件作为可分发的软件资产"正在成为独立品类,与连续三期的 harness/技能标准化观察完全一致;TauricResearch/TradingAgents(11.5 万 stars)重返日榜,多 agent 金融框架热度未消。)

#五、研究机会 / idea

  1. 文本世界模型的事件级 return 诊断:Events, Not Pixels 证明视觉世界模型里"事件 transition 渲染不差但贡献 70% return 误差"。把它平移到 LLM agent 世界模型:在工具调用型 agent 的想象 rollout 里,把"关键事件步"(工具返回、状态断言、reward 到账)替换为真实执行结果,测量 return 误差降幅——第一个问题就是文本环境里"事件步"如何定义与检测(视觉域有 reward/termination 信号,文本域可能要靠工具调用边界或状态差分)。这个诊断一旦建立,就能回答"LLM 世界模型的容量该集中在哪里",与 LaLa-World(语言条件接口)和 Inside-JEPA(潜状态接地)正交可组合——三者拼起来是 wenjun "Dreamer for LLM Agent" 主线的一个完整研究纲领。
  2. 验证器能力作为自演化系统的瓶颈资源:VerifierBench(62 分上限)、VeriEvolve(评估层先行使成功率 3 倍)、EvalResearchBench(75% 一致率)三期数据共同指向:自演化闭环的下一个稀缺资源是可靠的验证器生成能力。一个可做的实验:用 VerifierBench 任务集做"验证器 RL"(训练 agent 写出的验证器在隐藏测试上最大化接受合理解/拒绝错误解的平衡准确率),再测验证器强化后的策略在 VeriEvolve 式进化循环里的最终收益——把"验证器质量→进化收益"的因果链定量。这直接落在 self-evolving code agent 主线上,且目前没人做过端到端版本。
  3. 记忆的"模型自检索"基线与压缩器的存在价值重估:MemoryTax 证明强模型 + coding agent 自检索 = 99% 准确率、成本减半。那么上下文压缩/记忆系统的诚实研究问题变成:在什么模型能力区间、什么成本预算下,专用记忆系统仍优于"模型自己 grep"?可以设计一个"记忆系统价值随模型能力缩放"的实验矩阵(模型 3 档 × 预算 3 档 × 记忆策略 5 种含 agent-as-memory),找出交叉点并给出设计规则——这既是 Raw-RAG/MemoryTax 祛魅三部曲的收尾实验,也为"参数化记忆(Delta N-gram)在弱模型区间提供 scaffolding"给出定量依据。

#六、来源与可信度说明

  • 本期所有论文条目均经 arXiv API(export.arxiv.org,指定 ID 精确回查 title/author/abstract/published)核验,无凭印象或转述的条目;重点条目的摘要均完整读取(非仅标题)。
  • 批次覆盖说明:上两期各消化 10-22 批次 API 返回的前 100 条;本期用 listing 页分页把 cs.CL(117)/cs.AI(229)/cs.LG(205)/cs.SE(38) 的 Fri 23 Oct 公告批次全量翻完(561 唯一 ID,其中约 570 条为 2610.* 且未在前两期出现),从中筛出约 40 篇方向相关论文。注意:listing 页对 cs.AI/cs.LG 的公告批次含部分跨类重复,已按 arXiv ID 去重。
  • arXiv API 本轮再次遇到 429 限流与超时(均已退避重试解决);10-23/10-24 提交批次截至检索时尚未公告(周末不公告,周一批次预计北京时间今晚放出),明日简报将覆盖该批次。
  • Hugging Face Daily Papers:?date=2026-10-24/25 均回退到 edition 10-23(49 条,前两期已覆盖大部分),?date=2026-10-26 及以后返回 400(未来日期);10-23 榜单中本期仅补充余量(Meta Expert 等)。
  • GitHub repo 信息(cindy/hallmark/security-audit-skill/EnvDuels 等)来自 Trending 页面与 REST API 当日快照;cindy 的定位描述经其 README 原文核实。
  • X/Twitter 不可直接访问,本期未纳入;以 arXiv/HF/GitHub 替代,特此说明。
  • MemoryTax 为单对话单次运行的小样本实证(作者自陈局限),其结论强度应据此校准。