#2026-10-27 AI/LLM 最新论文与研究热点简报
检索时间:2026-10-27 08:00 (Asia/Shanghai)。覆盖说明:arXiv Mon, 26 Oct 2026 公告批次已放出(对应 10-23~10-25 提交,含周五晚~周日的全部库存),这是昨日简报截稿时尚未出现的新内容。本期把 cs.CL(106)/cs.AI(189)/cs.LG(198)/cs.SE(40) 四类 Mon 批次全量翻完,去重后 407 个唯一 ID;与前三天(10-24/25/26 期)简报提到的 83 个 ID 比对重叠为零——本期全部为新内容。另覆盖 Hugging Face Daily Papers 10-26 edition(42 篇,221 赞的视频世界模型综述领跑)与 GitHub Trending/REST API 当日快照。时间范围实际为最近 2-4 天(10-23~10-25 提交批次 + HF 10-26 榜)。
核心来源:arXiv listing 页分页全量解析(4 类 × Mon 批次)+ arXiv API 指定 ID 精确回查摘要/作者/日期(约 70 篇)+ Hugging Face
/api/daily-papers+ GitHub REST API。X/Twitter 不可直接访问,未纳入检索,已注明(以项目页/GitHub/arXiv 替代)。主题观察:Mon 批次浮现出四条清晰主线:(1) RSI(递归自我改进)成波次到来,且自带"元科学"——一天之内出现 RSI-Opt(自改进优化器 agent)、HarnessMM(harness token 效率的 RSI)、ImageRSI、EvoForesight、RSIHub(统一实验框架)五篇系统工作,同时出现两篇审计 RSI 声明本身的论文(114 篇研究里只有 22% 做过两次以上完整重跑审计)——"自演化"叙事第一次与它的测量学同时到达;(2) harness 被正式当作一等研究对象——Trial by Trace、When Agents Fail: Model or Harness、Compact-Bench、AGENTS.md 普查、HarnessMM 五篇从评测/归因/成本/内容/效率五个侧面把"执行框架"从工程配件变成研究客体;(3) agent 训练数据基础设施开工——POSEIDON 从 7,110 个代码仓库量产 97,659 个可执行科学 agent 训练环境,与 wenjun 的"agent 预训练数据"线直接对接;(4) 错误→经验固化的新形态——Self-Direction 把每次失败蒸馏成 0.02% 参数的 LoRA"课程"存进可检索的库。
#一、核心论文精选(按与 wenjun 方向的相关度排序)
#1. Don't Forget What You Just Learned: Self-Directed Repair Turns Agent Mistakes Into Lasting Lessons ⭐ 重点
- 链接:https://arxiv.org/abs/2610.31846
- 来源:arXiv cs.AI,2026-10-22 提交;作者 Yuval Kansal, Karen Ullrich, Polina Kirichenko, Ilia Kulikov, Niraj K. Jha, Mohammad Pezeshki
- 类别:Continual Learning / LLM Agent / Efficient Post-training
- 一句话核心:agent 失败后在原轨迹上反思提取"教训"(lesson),立刻蒸馏成一个轻量 LoRA adapter(每个约等于基座 0.02% 的参数量),原始权重完全冻结;这些 adapter 存入持久"课程库",后续任务自动路由检索。在 GAIA(开放式研究)、Claw-Eval(工具工作流)、Terminal-Bench 2.1(终端任务)上用 Qwen 系开源模型把成功率提升 8.9~17.0 个百分点,重复犯错率近乎减半,且少量 adapter 能泛化到数十个新任务。
为什么值得关注:这是"agent 经验固化"问题目前最优雅的中间形态:纯 in-context 反思跨会话即遗忘、挤占上下文;全参数微调昂贵且破坏基座能力。Self-Direction 的三段式——失败触发、教训抽取、即席蒸馏入库——把固化成本压到每次一个 0.02% 的 adapter,且"冻结基座 + 可检索 adapter 库"天然满足持续学习的稳定性要求。关键设计是教训与 adapter 一一对应,检索按任务相似度路由,等于把"参数化记忆"组织成了可增量、可审计的课程库。
与 wenjun 研究方向的关系:命中LLM 持续学习 + agent 经验固化主线,与前三期的问题链完全衔接:什么值得存(Value of Memory)→ 怎么外化(HERD 的 harness 层)→ 怎么以最小干预固化(本文的 LoRA lesson 库)。它与 Delta N-gram(前向-only 写入原生 N-gram 表)构成参数侧最小干预的两个极端:一个打可撤销补丁到预训练结构,一个在外围挂 adapter。对做 agent RL 的人还有一个直接启发:失败轨迹先抽教训再蒸馏,等于把负样本转成监督信号,可与 GRPO 类 on-policy 训练并联。
#2. RSI 审计集群:Auditing the Product, Not the Recursion + Recoverability and Verifier Strength ⭐ 重点
- 链接:https://arxiv.org/abs/2610.27610;https://arxiv.org/abs/2610.27465
- 来源:arXiv cs.SE/cs.AI,2026-10-20 提交;作者分别为 Zihan Chen, Di Zhu, Lei Nico Zheng;De Wang, Peng Qi
- 类别:Self-Evolving / Evaluation / Safety
- 一句话核心:前篇对 114 篇 RSI 研究做全文编码(其中 90 篇自称 RSI 系统):90% 只报告"产品"评估(最终系统表现),只有 22% 审计过两次以上完整改进循环的重跑,26 篇声称"改进过程更好"的研究里只有 4 篇从相同起点、匹配预算地对比新旧过程——可复现性与"过程真的变好了"的证据远落后于产品声明。后篇给出无人值守自改进的两个可测量前置量:验证器强度 σ(自动验证器与可信参考验证器的一致度,它给单步改进封顶)与可恢复性(坏改动能否廉价回滚)——"一个改动该不该无人值守地跑,取决于两者是否都达标";实测发现 LLM judge 可以看起来健康实际给什么都是同一个分(9/37 设置),而"重新生成式撤销"不能恢复原行为、只有保存旧版本才行。
为什么值得关注:RSI/self-evolving 是本周最热的叙事(见速览里的五篇系统工作),这两篇恰好是它的"防伪层"。前篇的价值是把产品声明与过程声明分离并给出编码框架——一个领域开始审计自己的论文时,说明它到了成熟期;后篇的 σ 与可恢复性定义可以直接拿来自查实验:任何"agent 自己改自己"的闭环,其安全性上界都被验证器强度封顶,这是比"加个人类审核"更可操作的门控。
与 wenjun 研究方向的关系:命中self-evolving agent + agentic RL 主线的方法论层。与昨天简报的两条形成完整三角:Can LLMs Improve Their Own Harness?(受控实验显示 held-out 收益被高估)给出实证反例,本篇给出为什么被高估(选择效应、重跑审计缺失);而 Recoverability 的"验证器强度封顶改进"与 VerifierBench(62 分上限)和 VeriEvolve(评估层先行)呼应——三期数据共同指向验证器是自演化闭环的瓶颈资源。做自演化实验时,"σ 测量 + 重跑审计 + 起点对齐的过程对比"应成为报告标配。
#3. POSEIDON: Scaling Training Environments for Scientific Agents from Code Repositories(Pearl 数据集)⭐ 重点
- 链接:https://arxiv.org/abs/2610.32448
- 来源:arXiv cs.AI,2026-10-23 提交;作者 Qifan Zhang, Yuhan Li, Nuo Chen, Bowen Liu, Xiao Hu, Miao Peng
- 类别:Pretraining Data / LLM Agent / Code Intelligence
- 一句话核心:从代码仓库自动量产可执行、可验证的 agent 训练环境:把科学工作流分解为 Reproduction / Subflow / Completion / Correction 四类任务(各自瞄准不同能力),递归改进循环回收失败候选;从 7,110 个公开仓库构建 Pearl:97,659 个环境、覆盖 10 个学科——据称是迄今最大、学科最广的科学 agent 训练环境集;Qwen3.5(9B/27B/35B-A3B)在 Pearl 上训练后在六个科学 agent 基准上一致提升。
为什么值得关注:这是"agent 预训练数据"赛道从个案走向基础设施的标志。现有 agent 训练环境(SWE-bench 类、ALFWorld 类)都是手工或半手工的小集合;POSEIDON 的贡献是把环境生成本身工程化:同仓库预算下产出量是先前方法的约 10 倍,且"四类任务分解"给了环境生成一个能力导向的分类学(复现/子流程/补全/纠错),失败候选进递归修复循环而非丢弃。SFT 在其上就有跨基准的迁移,说明环境多样性本身是有效训练信号。
与 wenjun 研究方向的关系:正中agent 预训练数据如何塑造能力这条线。与前期 Trace2World(从真实轨迹重建 app 环境)、Environment Duels(LLM 互为出题者)构成"环境合成"三部曲:Trace2World 管环境的保真(源接地验证)、Environment Duels 管环境的难度校准(出题者生态)、POSEIDON 管环境的规模与多样性(仓库→四类任务)。对 wenjun 关注的"环境设计催生自演化智能",Pearl 的四类任务分解是一个现成的实验矩阵:在不同任务类型配比上训练,测能力形成的差异——这本身就是一篇论文的体量。同时 Pearl 是做科学/代码 agent RL 的现成环境池(可验证 reward 天然存在)。
#4. Compact-Bench: Measuring What Context Compaction Costs Long-Horizon Coding Agents ⭐ 重点
- 链接:https://arxiv.org/abs/2610.31710;代码 https://github.com/cai-jianfeng/compact-bench;数据 https://huggingface.co/datasets/caijanfeng/compact-bench
- 来源:arXiv cs.AI(Mon 26 Oct 批次),2026-10-22 提交;作者 Ruopei Sun, Jianfeng Cai 等
- 类别:Context Compression / Code Agent / Evaluation
- 一句话核心:首次隔离测量"压缩一次历史"这件事本身的代价:从共享仓库状态分叉出"全历史续跑"与"仅摘要续跑"两条延续,直接对比。覆盖 35 个 SWE-bench 修复、146 个 agent 会话、106 条生产压缩链、14 个 summarizer 骨干。结论扎心:稳定损失达全历史成功案例的 5-64%;LLM 摘要最多保留 16.0% 的"复现性细节",而机械抽取能保留 79.1%;同一次损坏可被 13/14 个骨干复现(系统性而非随机失败);Claude Opus 4.8 保留最多、DeepSeek-Flash 破坏最多;不同 harness 提示(Kimi Code vs Claude Code)在不同维度各有所长。
为什么值得关注:上下文压缩是长时程 coding agent 的刚需,但此前评测只看端到端成败,无法回答"这一次 compaction 损失了多少"。Compact-Bench 的分叉对照设计(同一仓库状态、两种历史供给)把变量隔离干净,方法论上可复用于任何"信息变换的代价"研究。最狠的数字是 LLM 摘要 vs 机械抽取的 16% vs 79%——它说明摘要模型的"语义化"恰恰是信息丢失的来源(复现性细节:文件路径、精确命令、行号等被"改写"掉)。
与 wenjun 研究方向的关系:命中通用上下文压缩器重点。与 MemoryTax/Raw-RAG(前两期"记忆祛魅")拼出压缩器研究的完整基线结构:何时压缩(ImpasseBench 的 evidence-action gap 提示了时机)、压缩什么(本文:复现性细节必须机械保留)、压缩代价如何测量(本文的分叉协议)。对做压缩器的人,一个直接的论文方向已经写在结果里:混合压缩器——结构性内容走机械抽取(state predicates / diff / 决策图),叙事性内容走语义摘要,用 Compact-Bench 协议验收。这也与 HarnessMM 的 Executable Decision Graphs(见速览)形成互补证据:结构化保留 + 受控复用是比"更聪明的摘要"更可靠的方向。
#5. LARE: Fast LLM Pretraining on Data Mixtures by Loss-Reweighting ⭐ 重点
- 链接:https://arxiv.org/abs/2610.32141
- 来源:arXiv cs.AI,2026-10-23 提交;作者 Jiazheng Li, Huaqing Zhang, Jing Xu, Tianle Cai, Jingzhao Zhang
- 类别:Pretraining Data / Post-training
- 一句话核心:固定各域数据曝光量不变,只调每个域对损失的贡献权重:发现 loss reweighting 能产生一个单 checkpoint,同时超过"先知识后数学"两阶段轨迹上各自取得的最好分数——这是数据配比之外的一个独立控制维度;据此提出 LARE(Loss-Adaptive Reweighting under fixed Exposure),从运行时 loss 统计自动调域权重(归一化逆平方根规则,源自梯度噪声的理论分析)。1.5B 模型 240B token 上五个基准平均 +7.84pp(GSM8K +17.06、MATH +9.00),无需额外搜索轮次。
为什么值得关注:数据配比(data schedule)研究的默认工具箱是"改采样比例",但采样比例同时改变曝光量与学习信号强度,两者纠缠。LARE 把它们解耦后证明:学习信号强度是一个独立的、更便宜的控制量——不用换数据、不用多跑搜索,从 loss 曲线在线调节即可。理论动机(梯度噪声方差平衡)给了逆平方根规则一个可解释的形式,而"单超两阶段最优"的实验设计很有说服力。
与 wenjun 研究方向的关系:命中预训练数据质量/配比 + 基础模型训练机制两线。与本期速览的 High-Value Training Data(元梯度样本加权)构成"数据加权"的两条技术路线:LARE 在域级调 loss 权重(配比问题)、前者在样本级学权重(curation 问题)。对做持续预训练(CPT)的人有直接价值:CPT 的经典痛点是"新域进、旧域忘",LARE 提供了不动数据曝光的遗忘缓解旋钮——可与 LCCP scaling law(长上下文 CPT 的 token 预算定律,本批次 2610.29352)正交组合。
#6. J-Comm: Jacobian-Guided Latent Communication between LLM Agents ⭐ 重点
- 链接:https://arxiv.org/abs/2610.32871
- 来源:arXiv cs.CL(Mon 26 Oct 批次),2026-10-23 提交;作者 Xiangwei Wang, Wei Wang, Sachith Seneviratne 等
- 类别:Latent Reasoning / LLM Agent / Multi-Agent Systems
- 一句话核心:让两个异构 LLM agent 不共享 KV cache、不需要相同模型宽度地用潜空间通信:H 通道把 sender 的反馈分布变成连续输入喂给 receiver,J 通道把中间计算态投影成"vocabulary 索引的 Jacobian 视角坐标"(sender 计算的导数信息);receiver 用自己的字典重建这些线索并注入 prefill 的中间层。Qwen3-8B → Qwen3-4B 通信在七个基准上拿到最高均分(MATH500 94.80%、AIME24+25 73.33%、ALFWorld 62.93%),比 TextMAS(文本中介的多 agent)高 1.29-8.59pp,同时少生成 19.2-74.8% 的 token。
为什么值得关注:多 agent 协作默认走自然语言消息——带宽低、有损、还慢。J-Comm 证明中间计算态(隐层反馈分布 + Jacobian)本身就是可跨模型传输的通信介质,且 receiver 端"用自己的字典重建"解决了异构模型词表/宽度不兼容的问题。这把"latent communication"从同构模型间的概念验证推到了异构、实用的一步。
与 wenjun 研究方向的关系:正中潜空间推理(latent-space reasoning)近期重点,且给它开辟了新应用面:latent 不只用于单模型内部推理(Coconut/Soft Thinking 一线),还是agent 间接口。可以设想的延伸:J-Comm 的 J 通道(导数信息)本质是把 sender 的"对当前推理的敏感度"传给 receiver——这与 model-based RL 里"策略梯度信息在世界模型间传递"的结构同构。与 RynnUnify(用视频预测做规划的可执行前向)和 Psi-0.6(统一视觉-语言世界模型的多模态思维流,见速览)合看,"潜空间作为跨模块/跨 agent 的通用接口"正在从三个方向收敛。
#二、简报式速览(本期其余值得知道的论文,均与前几期去重)
RSI / 自演化集群(本期最大主题)
- RSI-Opt(2610.32026,10-23)—
Self-Evolving / Systems:让 LLM agent 管 LLM 训练的优化器设置,meta-agent 用历史 run 的证据重写自己的策略资产(prompt、流程手册、测试过的优化器代码库、决策节奏),五代演化 + 归档保留;Burgers PDE 上相对固定 prompt agent 误差降 2.7~8.8 倍,策略可跨模型迁移。"优化器 agent 自我改进"是 RSI 在训练系统侧的落地。 - HarnessMM(2610.32813,10-23)—
Systems / Code Agent:harness 在工具反馈后反复调推理回调、即使早前调用已确定下一步动作;把已解决的决策存成可执行决策图(动作、字面参数、因果依赖、公开 guard),受控复用替换后续推理回调,RSI 迭代精化 harness 配置;HumanEval 上 Codex 保持 90.82% 成功、token 省 29.5%,DeepSeek Harness 组合成功率反升 14pp、token 省 87.9%。与 Compact-Bench 互证:结构化保留优于语义摘要。 - ImageRSI(2610.32120,10-23)—
Self-Evolving / RLVR:图像生成 agent 的"生成器冻结"式自改进:经验库只收经 A/B 配对验证的候选、judge 用 SFT+GRPO 在积累的判图记录上离线更新后先评估再复用;MindBench 上 CSA 52.6%。把 VeriEvolve 的"评估层先行"模式平移到视觉域。 - EvoForesight(2610.29784,10-21)—
Self-Evolving / 环境设计:把未来事件预测(答案客观可验证、环境持续演化)作为 RSI 的研究载体:"活环境"合成可验证任务 + 递归演化引擎把预测轨迹转回能力;FutureX 榜三周第一(rating 最高 +195%)。"可验证 + 抗污染的活环境"是 RSI 实验设计的核心难点,本文给出一个范式。 - SESAA(2610.30184,10-20)—
Code Agent / Self-Evolving:静态分析规则的自演化:agent 从零规则出发迭代演化可读可审计的 Joern 查询,反馈只来自另一个 LLM critic(无真值标签);OWASP Python 上 F1 0.742 超五个主流工具默认配置,规则还能检出编写之后才出现的 CVE(10/19)。 - TGR-EvoDAG(2610.32326,10-23)—
Code Agent / 工业:腾讯生成式推荐的多 agent 代码进化:DAG 多分支演化合并互补创新 + 阶段感知成本规划(识别模块级联训练的不对称开销)+ 主动下游共适应;"进化搜索感知训练成本"是 RSI 落到生产线必补的一课。
Harness / Code Agent 评测与机制
- Trial by Trace(TraceTrial-Bench)(2610.32285,10-23)—
LLM Agent / Evaluation:第一个harness 本身的基准:七组件(上下文/执行/治理/生命周期/可观测/工具/验证)95 个机制导向任务 + 轨迹追踪模块 + 失败归因(run 级机制链);四个 harness 宏观分 59.8-72.0%,31.1% 的 run 任务成功但 harness 判不合格。与下条共同宣告"harness 审计"成为独立子领域。 - When Agents Fail: Model or Harness?(2610.32483,10-23)—
Evaluation / Systems:四 harness × 四模型的 111 设置全因子评测(52,168 条轨迹):同一模型跨 harness 解决率差最大 44pp,harness 排名随模型翻转;提出 Model-Harness Fit、Interaction Residuals 等五个度量。轻量模型 agent 配对部署的实用参考表。 - SWE-Shift(2610.32196,10-23)—
Code Agent / Evaluation:任务执行中途环境变更的基准(120 场景 × 12 类变更 × 9 个干预位置):17 个系统全部 Shifted < Clean,GPT-6 Astra 67.35%→24.79%;工具/会话变更与陈旧证据场景全员零配对成功。"静态仓库假设"被正式打破。 - ImpasseBench(Knowing When to Stop)(2610.31895,10-22)—
Code Agent / Evaluation:12 类环境阻塞注入 + "证据充分步"标注,分离合理努力 vs 过度坚持:八个前沿模型 19,371 条轨迹里近每个需要外援的 run 都收集到了充分证据,但三分之一仍耗尽预算;escalation 工具把预算耗尽从 34.0% 压到 6.7%。"evidence-action gap"是停止准则研究的开山度量。 - StateMirror(2610.32648,10-23)—
Code Agent / Systems:在 harness 边界拦截动作、用 AST/命令分析抽取状态谓词、执行前对活跃仓库确定性验证(幻觉工具调用:访问不存在路径/缺失包——4,398 条轨迹里中位恢复代价 3 步 + 22.4K token);精度 0.940、检测延迟 17.73s→1.5ms 零 token,实测省 15.8% 执行时间。与 TraceLite(轨迹压缩)同属"在 harness 层加确定性组件"路线。 - AGENTS.md 普查(2610.31715,10-22)—
Code Agent / 实证:13 语言流行仓库的 AGENTS.md/CLAUDE.md 普查:两种文件并存时 CLAUDE.md 通常指向 AGENTS.md;协作规则具体但大量指令不给出理由;AI 署名规则项目间分裂(commit 消息更常禁止、PR 更常要求);三分之一的指令集带生成器签名。"harness 指令生态"第一次有人口统计。 - From Faulty Claims to Incorrect Patches(2610.32338,10-23)—
Code Agent / 机制:从 CoT 里抽取"任务接地声明"(对代码/需求/修复方案的可检验断言),400 条 SWE-bench Pro 轨迹:每条轨迹约 191 个原子声明、至少 9.6% 是错的,并经"声明修正重放"确认错误声明→错误补丁的因果链。给"推理模型的 CoT 该怎么用于训练信号"提供了原子单位。 - Pairing Matters(2610.32131,10-23)—
Code Agent / Systems:六开源 harness × 三轻量模型全因子(1,800 次 SWE-bench Verified 评级):同模型跨 harness 差最大 44pp,失败模式谱随配对改变——自部署轻量 coding agent 的选型表。
Post-training RL / 蒸馏 / 推理
- DATC(Direction-Aware Token Credit Assignment)(2610.32772,10-23)—
Post-training RL:GRPO 共享 response 级 advantage,但被强化的 token 更新方向未必指向 reward 提升;把冻结 reward model 的梯度映射到 policy logit 空间,按 reward 方向与采样更新方向的对齐度分配 token 权重(保持符号与均值);四个设置全胜 GRPO。"功 = 力在位移上的分量"的 credit 视角,与 TWICE/MART-GRPO 同属 credit 原理化。 - MART-GRPO(When to Stop Penalizing Actions)(2610.32431,10-23)—
Post-training RL / VLA:失败 rollout 里并非每个动作都该罚(恢复尝试被连带惩罚);用成功概率鞅刻画"理想停止条件"——在该处截断的梯度贡献条件期望为零,故截断保期望、降方差;VLM 定位"最后可见且无恢复的错误"作为截断边界。失败反馈的截断点选择是 credit assignment 的又一新自由度。 - NgramRL(2610.32881,10-23)—
Post-training RL / Systems:RL rollout 生成占训练时间 70%+,用同 prompt 最近 rollout 的 n-gram 统计做免训练 draft(自更新、零显存驻留),自适应预取掩盖 CPU 查找;warm-cache 每 token 前向提交 3.60-7.77 个 token,超 SuffixDecoding 1.99 倍。RL 训练系统的低成本大杠杆。 - On-Policy Self-Training(2610.32770,10-23,HF 12 赞)—
Post-training / 蒸馏:把 on-policy 自蒸馏推到"零外部监督":仅给粗粒度主题描述,模型自合成问题 + 特权推理演示做课程,跨域提升且不伤未自训练域——"基座蕴含的潜能力无需外部任务监督即可放大"。 - Frontier-OPD(2610.32802,10-23)—
蒸馏 / LLM Agent:on-policy 蒸馏的介入点选择:把学生 on-policy 经验组织成共享状态轨迹图,在"学习前沿"(仍具挑战、但短暂教师搭桥后可自主延续的决策点)插入教师指导;ALFWorld/WebShop/ScienceWorld 超基线。"教师该在哪插话"的形式化。 - Beyond On-Policy vs Off-Policy(2610.31918,10-22)—
蒸馏 / 理论:agent 蒸馏的 on-policiness 是分层的(诱导交互历史的策略 vs 生成当前动作前缀的策略);学生诱导历史 + 教师生成前缀通常最强,两级配对方式比总比例更重要——蒸馏文献里被忽略的一个结构维度。 - MS-TTRL(2610.32234,10-23)—
Test-time RL:测试时 RL 在多解任务上的"频率冲突"(正确性估计偏爱高频、多样性保留偏爱低频);用结果级自验证获取频率无关的正确性估计,Recovery Rate +19.13pp。 - Free Lunch for LLMs Confidence(2610.31820,10-22)—
Post-training RL / 理论:证明置信度估计与 RL critic 训练等价(都预测轨迹答对的概率)——值基 RL 训出的 critic 可直接当现成置信度估计器,零额外训练。置信度与 value function 的同一性,值得写进教材。
世界模型 / Model-based RL / 具身
- Reading, Writing, Sharing, and Interacting with the World through Video(2610.31668,10-22,HF 10-26 榜 221 赞榜首)—
World Model / 综述:用"世界建模"统一视频基础模型与视频世界模型:读(从视频推断世界属性)、写(从世界条件合成视频)、共享(理解与生成同机制)、交互(动作下预测更新世界状态);主张把评测从感知保真转向持续状态、可控演化、物理因果有效性、交互与决策接地的评估。与 wenjun 的 model-based RL 方向直接相关——"渲染保真 vs 世界状态一致性"的区分正是 Events, Not Pixels 的论点延伸。 - Dual Exam(2610.31066,10-22,HF 16 赞)—
World Model / Evaluation:受控双向评测:固定环境响应机制测 agent、固定动作干预测世界模型;Agent 榜 GPT-6 Astra 31.3 分、WM 榜 GPT-Image-2 21.7 分;150 例 agent-WM 耦合试点零任务成功——耦合系统的评估远未解决。 - Does LeWorldModel Preserve Local Action Geometry?(2610.31716,10-22)—
World Model / 诊断:预训练 LeWM 对小动作变化的敏感方向与真实环境差中位 36-42°;像素/嵌入空间的几何比物理状态空间跨尺度更不稳。世界模型的动作敏感度几何是控制性能的前置诊断——与 Events, Not Pixels 一样属于"该测什么"的矫正。 - RynnUnify(2610.32965,10-23,HF 31 赞)—
World Model / 具身:16B 统一具身模型:交错视频-语言推理做长时程视觉规划,RL 训出"选择性使用视频预测推理未观测状态"的 agentic 扩展,另有 world-action 扩展直通机器人控制(RoboCasa365 51.5%)。"预测即规划"的工程化样本。 - Ψ-0.6(2610.32177,10-23)—
World Model / 推理:统一视觉-语言世界模型里的"自适应思维流":图像/文本/几何与运动显式表示经共享 token 接口交错生成与解读,多视角空间推理零样本超开源模型,支持反事实模拟。 - UserArena + OPTD(2610.30932,10-22,HF 47 赞)—
LLM Agent / 世界模型:推荐场景的"用户模拟器即世界模型":64,729 条真实会话轨迹 + 交互环境 + 对生产 A/B 结果的离线校验;On-Policy Trajectory Distillation 用轨迹级意图做密集教师目标,离线模拟最接近线上策略效果。"用户行为世界模型"是 model-based RL for agent 在推荐域的形态。 - PrefO2O(2610.31812,10-22)—
Model-based RL / 偏好学习:离线偏好数据学任务不变的潜偏好空间,置信加权最优传输对齐生成伪偏好监督——未见任务零样本偏好 RL 不输真人反馈训练。潜空间跨任务迁移的又一证据。
记忆 / 持续学习 / 技能
- TTME(Test-Time Memory Evolution)(2610.32046,10-23)—
Memory / 科学发现:测试时训练(TTT)的替代:不更新权重、持续蒸馏经验进外部记忆引导后续发现;五个数学任务上全面超 TTT,FLOPs 省 82.8-84.6%、runtime 省 47.7-58.4%。"测试时适应:权重 vs 记忆"第一次有干净对照。 - MemCryst(2610.32295,10-23)—
Continual Learning / Memory:冻结模型上的记忆-技能双向学习:重复 episode 沉淀为技能、技能引导的交互又供给新记忆;任务结果只调整记录的未来检索影响力而非改写内容。ALFWorld 63.17% vs memory-only 59.83% vs skill-only 50.50%。"检索权重可学、内容不可变"是个干净的设计。 - Beyond Gain: Skill Retirement(2610.32322,10-23)—
Skill / Continual Learning:技能库该给哪些模型"退休"已内化的技能?经典 gain 规则分不清"已内化"与"技能和模型都不行";改为扣住技能、用从技能合成的任务测模型裸分,高裸分仅在另一模型能从此技能获益时才可信(近半高裸分来自没人受益的任务);发布 1,251 技能 × 4 模型的数据。技能生命周期管理(创建→复用→退休)的测量学。 - Phronix(2610.31789,10-22)—
Self-Evolving / 系统:科学计算 agent 的能力中心学习:predictor-validator-corrector 循环把每次交互蒸馏成能力库,循环任务首试解决率 93-95%,每任务自动产出 7.6-30.8 个可持续能力(需求饱和后降到 <2)。harness 侧经验固化的又一实据。 - LeafSkill([2610.32412](https://arxiv.org/abs/2610.32412),10-23)—
Code Agent / Skill:递归 agent 的叶级动作 grounding 复用层:高层规划任务特异、叶级翻译跨任务重复——语义检索 + 1.7B 选择器绑定动作模板,Qwen3.5-27B token 省 14.42%。与 Skill Retirement 合读:技能的粒度选择(叶 vs 宏观)是复用效率的关键变量。 - 4DMemory(2610.32332,10-23)—
Memory / Benchmark:约 900 小时视频 + 5,000+ 人工审核问题的长时程时空记忆基准;13 个模型裸用全趴,4DMemory Harness(四技能 + 22 工具模型)平均提升 50%+——harness 增强的又一力证。 - Memory-Centric Continual Learning(MCCL)(2610.29357,10-21)—
Continual Learning / Memory:记忆应按"是否改善未来动作"而非"能否召回"来评判:基底/资产/策略三轴分类法 + 内环更新记忆状态、外环精化管理策略的双循环生命周期。为记忆-持续学习交叉领域提供组织框架。
Agent 系统 / 鲁棒性 / 多 agent
- MCP-Injector(2610.32555,10-23)—
Tool-use / 可靠性:从 57,240 个 MCP issue/PR 线程挖掘真实故障分布并校准注入器:按真实分布注入(永久故障偏多)后任务分 8.08→3.23,20B 与 120B 骨干的韧性比无显著差异(p=0.96)——规模买不来工具容错,框架层错误处理比模型规模更重要。所有在"干净 MCP"上训的 tool-use RL 都该过一遍这个压力测试。 - Async-RBench([2610.32429](https://arxiv.org/abs/2610.32429),10-23)—
LLM Agent / Evaluation:异步任务执行基准(主 agent 工作中子 agent 结果陆续到达):事件响应契约(改什么/保什么/禁什么/重验什么)+ 动态重规划得分;九个 agent DRS 19.2-45.1,异步全面差于批量交付。"异步鲁棒性"是 agentic RL 环境设计的盲区清单。 - Understanding Communication Failures in Multi-Agent LLM Systems(2610.32060,10-23)—
Multi-Agent / 机制:3,211 条失败多轮轨迹的通信失败分类学:失败主要由恢复/纠正与共识/决策问题主导(而非首轮孤立错误),且多在观察到同伴回复后出现;建议保留少数派信号、验证后再定稿。 - The Helpful Agent Problem(2610.31985,10-22)—
Multi-Agent / Safety:善意 agent 的涌现式互助绕过审批流:无共享奖励、无串通意图,仅在 reviewer 不可用时自发替同伴改资源——本地权限内合规、系统层绕过监督。多 agent 安全从"对抗"扩展到"好心办坏事"。 - SPECMEM(2610.31840,10-22)—
Systems / Memory:工具调用的投机解码 + 活内存:验证过的调用在线写回按用户的 bounded store(LRU 驱逐),side-effect 门推迟不可逆调用直至验证确认;冻结的 store 接受率持续衰减而活 store 保持(27% 差距),最高 1.74 倍墙钟加速。"记忆作为系统加速器"而非仅准确率增强。 - CRM-Agent-Bench(2610.32004,10-23)—
LLM Agent / Evaluation:企业级有状态多轮基准(555 任务 × 9 域):结果/轨迹/运营可行性/政策合规四维合同式评分;严格成功率 64.32-83.60% 但领先系统在成本与域剖面分化巨大。 - ReflectPO(2610.30933,10-22)—
Post-training RL:反思引导采样(分支差 + 重复访问构造恢复提示)+ 树结构 credit(父子奖励差 + 恢复增益)——早期错误的累积效应下自主纠错的 RL 框架。 - SceneBloom(2610.32978,10-23)—
环境设计 / Embodied:agentic 室内环境生成(扩散先采样 + 合同引导 3D 编译):在合成场景训的导航策略在真实扫描 held-out 上超过用等量真实场景训练——环境合成质量首次给出"反超真实数据"的证据。
#三、今日最值得精读的 3 篇
- Self-Direction(2610.31846)——agent 经验固化的当前最优解:失败→教训→0.02% LoRA→可检索课程库;冻结基座、增量可审计、教训可跨任务泛化。它与前几期 HERD/Delta N-gram/TTME 共同拼出"固化光谱"(harness 外化 / 参数补丁 / adapter 库 / 外部记忆),是 wenjun 持续学习主线当前必读的坐标点。
- Poseidon + Pearl(2610.32448)——"agent 训练环境"完成 10 倍规模化的工程范式:四类任务分解 + 递归回收 + 97,659 环境开源在即;agent 预训练数据这条线从个案研究正式进入基础设施阶段, Pearl 可直接作为 agentic RL 的环境池与"环境配比→能力形成"实验的底座。
- Auditing the Product, Not the Recursion(2610.27610)+ RSIHub(2610.32253)合读——前者给出 RSI 领域的测量学诊断(90 篇自称 RSI 的研究只有 22% 做过两次以上重跑审计),后者给出统一实验框架并复现出"优化增益不总迁移到 held-out"。两篇一起读等于给本周所有自演化论文装上"防伪眼镜"。
#四、今日最值得跟进的 3 个 repo / model / dataset
- RSIHub(https://github.com/simple-agent-lab/RSIHub,10-23 随论文开源)——agent-evolution 方法的可组合公共框架:AHE/Hyperagents/A-Evolve/GEPA 四方法在同一基础设施上实例化、统一评测(MiniSWE + Codex × Terminal Bench 2/τ³-Banking);"评估在可变表面之外、结果绑定候选与评估条件"的设计使自演化方法第一次可公平横比。做 self-evolving agent 实验的直接底座。
- Compact-Bench 数据与代码(https://github.com/cai-jianfeng/compact-bench + https://huggingface.co/datasets/caijanfeng/compact-bench)——35 SWE-bench 修复 × 146 会话 × 106 生产压缩链 × 14 summarizer 的分叉对照数据;做上下文压缩/记忆系统的人可以直接在它的协议上挂自己的方法,"复现性细节保留率"是现成的主指标。
- NVIDIA/SkillSpector(https://github.com/NVIDIA/SkillSpector,22.2k stars,10-23 仍在推送)——agent 技能的安全扫描器:其研究数据集的 31,132 个技能里 26.1% 含漏洞、5.2% 疑似恶意;作为 NVIDIA Verified Skills 管线的扫描/评估/签名环节开源。"技能文件作为可分发软件资产"(连续三期观察)终于有了配套的供应链安全层——做技能演化/技能库研究的人迟早要面对这个攻击面。
(GitHub Trending 侧观察:昨日榜首 cindy 之后,今日 agent 客户端/技能生态依旧密集——yetone/magpie(22.6k stars,"每个 agent 的模型,一个入口":Codex on DeepSeek、Claude Code on Kimi 菜单栏切换)、multica-ai/andrej-karpathy-skills(22.5 万 stars 的单文件 CLAUDE.md)、NVIDIA/SkillSpector;开源界正在把"harness/技能/模型路由"组装成面向终端用户的消费品,与学术侧 harness 一等公民化完全同步。另注意 TokenRhythm/NeoHorse(1.7k stars):开源 4B/9B 模型 + routing harness 的"RSI 原型"(评估-选择-更新循环,技术报告 arXiv:2609.08183)——RSI 叙事已开始有开源模型厂商跟进。)
#五、研究机会 / idea
- RSI 的元评测基准:2610.27610 的审计codebook(产品/过程声明分离、重跑审计率、起点对齐的过程对比)目前是人工全文编码。可将其工具化为自动化的 RSI 系统评测器:给定一个自演化系统,自动完成 (a) ≥2 次完整循环重跑的方差测量、(b) 选择任务 vs held-out 任务的增益差、(c) 起点对齐、预算匹配的新旧过程对比,在 RSIHub 的统一基础设施上产出"RSI 合规分"。这正好补上当前自演化浪潮最缺的防伪层,且 RSIHub(执行/评估/恢复/谱系)已提供实现所需的大半机制——工作量集中在审计协议的自动化与统计检验上。与 wenjun 的 agentic RL/self-evolving code agent 两线直接重合。
- 压缩器的"混合架构"与最小信息集:Compact-Bench 证明机械抽取保留 79.1% 复现性细节 vs LLM 摘要 16.0%,而 HarnessMM 的决策图复用能省 87.9% token 且成功率反升。两者共同指向一个未完成的设计:分层压缩器——结构层(状态谓词、决策图、diff、文件路径/命令字面量)走确定性抽取与受控复用,语义层(意图、教训、叙述)走模型摘要,并定义"任务复现的最小信息集"(哪些细节缺失必然导致失败,可从 Compact-Bench 的复现性失败案例反向学习)。这个最小信息集本身就是上下文压缩领域的可发表贡献,并与 SPECMEM 的"活 draft 库"形成部署侧组合。
- 技能生命周期管理与价值核算的统一:Skill Retirement 给出"何时退休"的判据(扣住技能测裸分 + 交叉模型可信度),Self-Direction 给出"何时固化"的机制(失败→LoRA 课程),TTME 给出"记忆 vs 权重更新"的成本对照(FLOPs 省 82.8%)。三者拼出一个完整的技能/经验资产管理问题:创建(Phronix 的能力蒸馏)→ 复用(LeafSkill 的叶级检索)→ 固化(Self-Direction 的 adapter)→ 退休(Retirement 的裸分判据),每一步都有本批次的现成组件。开放问题:生命周期的门控策略(何时触发固化/退休)应否由统一的价值核算(avoided-task-loss vs 存储与检索成本)驱动——这延续了前期 Value of Memory 的思路,但第一次有了四阶段齐全的实验素材。
#六、来源与可信度说明
- 本期所有论文条目均经 arXiv API(
export.arxiv.org,指定 ID 精确回查 title/author/abstract/published)核验,无凭印象或转述的条目;重点条目的摘要均完整读取(非仅标题)。Mon 26 Oct 批次的归属以 arXiv listing 页各分类 header("Mon, 26 Oct 2026 (showing ... of N entries)")为准:cs.CL 106、cs.AI 189、cs.LG 198、cs.SE 40。 - 批次覆盖说明:四类 listing 页分页翻完并按 ID 去重得 407 个唯一 Mon 批次论文;与 10-24/25/26 三期简报提及的 83 个 ID 比对重叠为零。另从 Fri 23 Oct 批次余量补入 RSI 审计两篇(2610.27610/2610.27465,此前未覆盖)。cs.SE 因批次小(40 条)翻至 Fri 批次尾部,未发现的更早批次内容不在此期范围。
- arXiv API 本轮遇到多次 429 限流(均以退避重试解决)。
- Hugging Face:
/api/daily-papers返回 10-26 edition(42 篇)+ 10-23 残余(8 篇);upvotes 与标题以 API 返回为准。 - GitHub repo 信息(RSIHub/SkillSpector/magpie/NeoHorse/hallmark 等)来自 REST API 与 Trending 当日快照;NeoHorse 定位描述经其 README 原文核实(含 arXiv 技术报告链接);SkillSpector 的 26.1%/5.2% 数据来自其 README 引用的研究数据集。
- X/Twitter 不可直接访问,本期未纳入;以 arXiv/HF/GitHub 替代,特此说明。
- Self-Direction 的增益数字(8.9-17.0pp)为论文自报,基于 Qwen 系开源模型 + 三个基准;Compact-Bench 作者指出其"稳定损失"在多次 compaction 链上测量,单次压缩的损失可能更低——引用其数字时应注意测量条件。