#2026-10-13 AI/LLM 最新论文与研究热点简报
信息窗口:HF Daily Papers 2026-10-12 榜单(覆盖 10-08 ~ 10-09 提交的新论文),GitHub Trending(daily)。本简报发布于 2026-10-13 08:00(Asia/Shanghai)。
来源说明(透明化):
- Hugging Face Daily Papers API(
/api/daily_papers?date=2026-10-12)可用,共抓取 50 篇新论文并按 upvote 排序、按 wenjun 关注关键词过滤; - arXiv API(
export.arxiv.org)今晨持续返回 429 限流,无法直接拉取最近提交列表,改用 HF Daily Papers 所收录论文的 arXiv ID 反查链接(这些论文均发布于 arXiv,ID 真实可查); - X/Twitter 从本环境不可访问,按既定策略以项目页/GitHub/HF 替代;
- Google Scholar 无公开 API,同样以 HF + GitHub trending 替代。
#一、核心论文精选(按与 wenjun 方向的相关度排序)
#1. RSI-Anything: Unlocking Recursive Self-Improvement with World Models ⭐ 重点
- 链接:https://arxiv.org/abs/2610.13912
- 来源:HF Daily Papers 10-12 榜(30 upvotes);GitHub: https://github.com/Gen-Verse/RSI-Anything ;数据集: https://huggingface.co/datasets/Gen-Verse/RSI-Anything
- 日期:2026-10-09
- 类别:Model-based RL / LLM Agent / Self-Evolving Agent
- 一句话贡献:基于 JEPA-Anything 预测式世界模型做递归自改进(RSI)的领域通用框架——用世界模型引导动作选择与学习数据选择,用组件与兼容性检查决定"策略-模型"更新对的保留,代码修复 26.3%→31.2%,实验室规划分数五轮迭代翻倍(21.80%→46.01%)。
为什么值得关注:这是"world model + LLM agent 自改进"方向的直接命中。它把 Dreamer 一系"用学到的世界模型做规划/数据选择"的思路迁移到 agent 递归自改进循环中,且明确处理了两个此前被忽略的问题:(1) 策略演化后世界模型预测漂移(通过条件化世界模型自适应解决);(2) 保留哪些更新(通过 component/compatibility check 而非盲目保留)。这正是 wenjun 关注的 model-based RL for LLM Agent 的核心痛点。
与 wenjun 研究的关系:可以直接对标你关注的 "Dreamer for LLM Agent" 主线——它给出了"预测式世界模型如何参与 agent 的经验转化"的首个跨领域实证;其"策略-世界模型共演化 + 兼容性门控"机制可以搬到长轨迹 agent RL 里做 model-based 数据选择与 rollout 长度控制。
#2. SoftwareGym: Scaling Computer-Use Agent Training with Diverse Synthesized Software Environments
- 链接:https://arxiv.org/abs/2610.12611
- 来源:HF Daily Papers 10-12 榜(83 upvotes,当日第 4);GitHub: https://github.com/MrKiing-Jin/SoftwareGym
- 日期:2026-10-08
- 类别:LLM Agent / Computer-Use / 环境设计
- 一句话贡献:自动合成带可执行功能、运行时验证行为、结构多样 GUI 软件环境的 pipeline(182 个应用、12 类、平均 GUI 任务通过率 91.5%),用合成环境轨迹训练 CUA,使严格 out-of-domain 的 OSWorld Pass@3 从 41.39% 提升到 56.97%。
为什么值得关注:答案直接回应"通过环境设计催生自演化智能"这条主线——不再手工构造环境,而是"生成式环境工厂 + 迭代修复",且证明了合成环境监督能迁移到真实 OOD 基准。CUA 训练数据的可扩展性问题(原生应用环境建造成本高、浏览器环境交互深度不足)被系统地解决了。
与 wenjun 研究的关系:环境合成 pipeline 是 agent 预训练数据工程的模板;"GUI 评估 + 迭代修复保证功能可靠性"这一环可以直接迁移到代码 agent 训练环境(比如 repo 级沙箱合成)上。
#3. ProgramGym: Scaling Training Environments for Long-Horizon Program Reproduction Agents ⭐ 重点
- 链接:https://arxiv.org/abs/2610.13395
- 来源:HF Daily Papers 10-12 榜(48 upvotes);GitHub: https://github.com/Acm1011/ProgramGym ;项目页: https://programgym.github.io/
- 日期:2026-10-09
- 类别:Code Agent / Long-Horizon Agent / RL 环境
- 一句话贡献:从代码仓库自动构建"程序复现"可验证训练环境(反馈驱动修复沙箱构建与黑盒测试质量),得到 1648 个跨 C/C++/Go/Rust 的环境;配套 role-isolated(分析/实现/评审)工作流 + 编译检查 + 失败恢复的 Program-Agent,把 Qwen3.8-27B 从 34.87% 提到 42.84%(SFT)乃至 56.25%(agent 工作流),超过部分旗舰模型。
为什么值得关注:这是"长时程代码 agent 的 RLVR 环境规模化"范例。现有 coding agent 环境多是 issue-fix 型(bug 定位+补丁),而 ProgramGym 强迫 agent 自己发现需求、决定系统设计——这更接近真实软件工程,也是"从指令理解走向意图理解"在代码域的具体形态。可验证环境数量(1648 个)跨 4 种系统级语言,是目前该类环境最大规模之一。
与 wenjun 研究的关系:与 self-evolving code agent / agentic RL 直接相关:(1) 环境构造 pipeline(repo→可验证环境)可作为 agentic RL 的数据/环境基础设施;(2) role-isolated 工作流把"长轨迹"拆成职责隔离的子轨迹,是长轨迹 credit assignment 的一种工程解法,值得与 GIGPO/HGPO 一类的分组方法对照。
#4. Judging in Latent Space (LatentGRM): Efficient Generative Reward Modeling via Semantics-Preserving Compression ⭐ 重点
- 链接:https://arxiv.org/abs/2610.09788
- 来源:HF Daily papers 10-12 榜(16 upvotes);GitHub: https://github.com/EADMO/LatentGRM
- 日期:2026-10-08
- 类别:Latent Reasoning / Post-training RL / Reward Modeling / 评测
- 一句话贡献:把 rubric 引导的生成式 judge 过程压缩到连续潜空间轨迹中(8.9-9.2x 轨迹压缩、6.1-7.0x 推理加速),不生成文本评语也能做出 pairwise 判断,并用单独的 interpreter 把潜轨迹还原成评语文本,验证压缩保留 criterion 依赖的偏好信息。
为什么值得关注:这是"latent-space reasoning 用于 reward modeling"的第一批正式工作之一。它给了潜空间推理一个可度量、可复现的落地场景:reward model 推理成本是 agent RL 的主要瓶颈之一(vote@5 类投票 judge 尤其贵),latent judge 把成本压掉一个量级且准确率不掉。
与 wenjun 研究的关系:双命中:潜空间推理 + post-training RL。其"rubric 结构引导压缩"的思路可迁移到 latent CoT(COCONUT 一系)——如何保证潜空间推理保语义,LatentGRM 用 reconstruction interpreter 给出了一个可检验的方案;对 agent RL 而言,latent judge 直接降低 process reward 的成本。
#5. EmbodiedCLBench: Evaluating Continual Learning for Self-Evolving Embodied Agents
- 链接:https://arxiv.org/abs/2610.13021
- 清单来源:HF Daily Papers 10-12 榜(62 upvotes);GitHub: https://github.com/PKU-VaLuE-Lab/EmbodiedCLBench ;项目页: https://pku-value-lab.github.io/EmbodiedCLBench-homepage/
- 日期:2026-10-09
- 类别:Continual Learning / LLM Agent / 评测
- 一句话贡献:第一个具身仿真环境下的 agent 持续学习基准,以组合泛化为核心评估原则(先学基础任务、再重组技能解决未见复杂任务),核心发现:基础任务经验带来稳定提升,但"提升不随学习样本数扩展"——当前 agent 无法从更多经验中提取有意义信息。
与 wenjun 研究的关系:这个"经验不随样本数 scale"的负结果很有信息量:它指出 agent 经验→能力的转化率是瓶颈,而非数据量。这与你关注的"agent 预训练数据如何塑造能力"、"经验回放/反思式持续学习"直接相关——经验蒸馏效率是个值得投入的问题。
#6. Continually Post-training Small Models via Synthetic Self-distillation (SynthSelf)
- 链接:https://arxiv.org/abs/2610.13113
- 来源:HF Daily Papers 10-12 榜(41 upvotes)
- 日期:2026-10-09
- 类别:Continual Learning / 高效后训练
- 一句话贡献:发现小模型上 SDFT 失败的根因是分布偏移(acquisition/forgetting 与 post-trained 模型分布偏移线性相关),提出用"同家族略大的 aligner 模型"做合成自蒸馏来模仿 SDFT 的 in-distribution 重写,在 4 个 acquisition 数据集 × 14 个 retention 基准上超过 6 种方法。
与 wenjun 研究的关系:LLM 持续学习与高效后训练方向的扎实工作。"in-distribution learning 是持续学习的关键"这一线性相关性发现本身就有方法论价值,可用于诊断任何持续后训练 setup。
#7. Stateless Language Agents (SLA): Scaling Long-Horizon Automated Research
- 链接:https://arxiv.org/abs/2610.07625
- 来源:HF Daily Papers 10-12 榜(18 upvotes);GitHub: https://github.com/Alex-q-z/stateless-language-agents
- 日期:2026-10-06
- 类别:LLM Agent / 长时程 / Systems
- 一句话贡献:提出 "stateful search + stateless agents" 架构原则:agent 不携带对话历史,harness 持有研究状态并为每次调用重建角色特异的上下文;在 10 亿 token 预算的软件工程/内核优化/算法设计任务上全面胜过三个近期框架,用少于 84% 的 token 达到最强 kernel 基线的最终性能。
与 wenjun 研究的关系:通用上下文压缩器方向的替代思路——不是压缩历史,而是"重构上下文"。对长轨迹 RL 很有启发:rollout 时 context 构造本身是一个可控的设计变量( akin to 部分可观测 MDP 中的 belief state 构造),而不是被动累积的日志。
#8. ReHarness: Recurrent Harness for Agentic Continual Learning
- 链接:https://arxiv.org/abs/2610.12668
- 来源:HF Daily Papers 10-12 次榜(16 upvotes)
- 日期:2026-10-10
- 类别:Continual Learning / LLM Agent / Harness 设计
- 一句话贡献:给 agent harness 加"反向修正":每个实例结束后用产生的轨迹作为反馈去修订"该实例检索到的 reflections",把反馈沿文本 harness 状态向后传播;在三个持续学习基准、三个 backbone 上超过 raw-context、memory/reflection 与 prompt 优化基线,并在分布偏移下修正过泛化/过时经验。
与 wenjun 研究的关系:与你近期"agent 持续学习/自演化 harness"兴趣点直接重叠。与 SLA(第 7 条)构成一组很好的对照:SLA 主张"状态外置+上下文重构",ReHarness 主张"状态内化+反向传播修正",两者都是对 naive 长上下文记忆的反思。
#9. SWE-Duel: Towards a Self-Scaling Arena for Coding Agents
- Link: https://arxiv.org/abs/2610.12569
- 来源:HF Daily Papers 10-12 榜(20 upvotes);GitHub: https://github.com/sweduel/SWE-Duel ;项目页: https://sweduel.github.io
- 日期:2026-10-08
- 类别:Code Agent / 评测
- 一句话贡献:提出"自扩展竞技场"评测范式:两个 coding agent 在镜像红蓝轮次中互为出题人与解题人——Red 提出新功能并埋 bug + 密封触发测试,PR 需通过"盲修复可行性"门控才被收录;11 个模型-harness 组合、15 个仓库、5 种语言、1500 轮的锦标赛显示 GPT-5.5+Codex CLI 是最强 solver(98.3% 修复率),Claude Opus 4.8+mini-swe-agent 是最强出题人。
与 wenjun 研究的关系:解决 coding 基准泄漏与饱和问题(SWE-bench 类静态基准被训练数据污染),"评测时生成任务"的思路与自演化训练环境同源,对你的 agentic RL 训练环境设计有直接参考价值。
#10. When Do We Need On-Policy Distillation? (Semi-OPD)
- 链接:https://arxiv.org/abs/2610.11291
- 来源:HF Daily Papers 10-12 棷(17 upvotes)
- 日期:2026-10-08
- 类别:Post-training / Distillation
- 一句话贡献:17 组 1.5B-235B 师生对上系统比较发现:用学生初始 rollout 的离线蒸馏(Semi-OPD)在 14/17 组上优于 on-policy 蒸馏(最高 +13.6% 准确率、11.4x 加速),并用 output-token overlap ratio 给出何时该用 OPD 的判据——只有师生输出高度重合时 OPD 才有利。
与 wenjun 研究的关系:对高效后训练/蒸馏管线有直接实用价值;"on-policyness 需同时相对 teacher 和 student 成立"的分析框架,对 agent RL 中的 off-policy 数据复用判断同样适用。
#11. One Model to Loop Them All: Elastic Latent Recurrence (ELR)
- 链接: https://arxiv.org/abs/2610.12582
- 来源:HF Daily Papers 10-12 榜(3 upvotes,低关注但方向契合)
- 日期:2026-10-08
- 类别:Latent Reasoning / Pretraining 架构
- 一句话贡献:训练"循环潜空间 LM"的新配方(门控状态更新+学习步长、混合 loop 数、loop index/budget 条件化),消除 one-loop tax:一个 checkpoint 既能以一循环等价同尺寸非循环模型,又能加循环换精度,且晚接入 mixed-depth 比从头训更优。
与 wenjun 研究的关系:潜空间推理的架构侧进展。Latent recurrence = 用同一块层反复计算换取测试时自适应计算,与 test-time scaling / 潜空间 CoT 高度相关,ELR 解决的 "one-loop tax" 是这类模型走向实用的关键障碍。
#12. Surfing the Activation Wave: LLM Hidden States for Speculative Decoding
- 链接:https://arxiv.org/abs/2610.12939
- 来源:HF Daily Papers 10-12 榜(13 upvotes)
- 日期:2026-10-09
- 类别:Systems / Mechanistic Interpretability
- 一句话贡献:用 matrix-entropy(信息量)+ CKA(冗余度)双准则做 speculative decoding 的多层隐状态选择,替代固定位置启发式(如 [2, N//2, N-3]),并引入 token-entropy 过滤提升层选择统计质量。
与 wenjun 研究的关系:属于"隐状态几何/信息量分析"的方法学工作,其 matrix-entropy + CKA 工具箱可用于任何需要分析 LLM 内部表征的场景(包括潜空间推理的表征分析)。
#13. 其他值得留意(一句话带过)
- TIPS: Inducing Process Supervision from Outcome-Only RL(https://arxiv.org/abs/2609.36641 ,10-12 榜 18 up,Post-training RL):仅用 outcome 标签的 RL 训练生成式 PRM,3.2K 轨迹在 ProcessBench 达 85.2 F1 超过 GPT-5.4/Claude-4.7 judge——outcome-only RL 能自发强化 step 级验证能力,对长轨迹 RL 的 process reward 获取是重要证据。
- Video-RSI: Recursive Self-Improvement via Harness Evolution(https://arxiv.org/abs/2609.37950 ,10-12 榜 11 up,LLM Agent):用模型自身修订 harness 实现视频理解 agent 的递归自改进,代价感知地决定保留哪些修订——与 RSI-Anything 同一主线,可对照阅读。
- Work2Skill(https://arxiv.org/abs/2610.12984 ,10-12 榜 39 up,Tool-use/Skill Induction):首个同步多模态人类桌面 GUI 演示数据集(WorkDemo-350),从人类经验归纳可复用 agent skill——"agent 预训练数据"来自人类演示这一支线。
- Coding-Agent Benchmarks Should Match Their Users' Task Flows(https://arxiv.org/abs/2610.09633 ,JetBrains,10-12 榜 11 up,Code Agent 评测):基于 4782 个真实 IDE 会话指出静态基准的任务流分布与真实使用差异巨大,发布 SWE-TaskFlow 转换方法。
- Universal Textual Teaching (UTT)(https://arxiv.org/abs/2610.12114 ,10-12 榜 10 up,Distillation/知识迁移):免参数更新的蒸馏——把师生差距蒸馏成可解释、跨模型复用的自然语言 Primer(KernelBench 9.4%→48.6%)。
- The Life Cycle of a Massive Activation(https://arxiv.org/abs/2610.00423 ,10-12 榜,Mechanistic):attention sink/massive activation 的生命周期分析,发现 weight decay 因果控制全局激活尺度更替——基础模型训练机制的微观证据。
- MetaKernelBench(https://arxiv.org/abs/2610.05014 ,10-12 榜 16 up,Code Agent/Skill Transfer):测量跨 DSL 的 GPU kernel 经验迁移价值(paired lift -19%~+29%),首测"蒸馏出的技能是否真的可复用"。
#二、GitHub Trending 补充(AI 相关精选)
- morluto/rea(https://github.com/morluto/rea ,45,327 stars/day):agent 反向工程一切——从应用行为到原生二进制。热度爆表,方向是 agent × 逆向工程。
- mksglu/context-mode(https://github.com/mksglu/context-mode ,246 stars/day):AI coding agent 的上下文窗口优化——沙箱化工具输出(98% 缩减)+ 持久会话记忆。与"通用上下文压缩器"方向直接相关。
- Alishahryar1/free-claude-code(626 stars/day):多 harness 免费 token 渠道聚合,工程侧动向。
- lyogavin/airllm(879 stars/day):单张 4GB GPU 推理 2.8T 参数模型,推理系统侧。
注:X/Twitter 不可达,机构动态以 GitHub/HF 替代;今日无重大机构博客更新可确认。
#三、今日最值得精读的 3 篇
- RSI-Anything(https://arxiv.org/abs/2610.13912 )——world model 驱动的递归自改进,直接命中 model-based RL + 自演化 agent 交叉点。
- ProgramGym(https://arxiv.org/abs/2610.13395 )——长时程代码 agent 可验证环境的规模化范例,1648 个跨语言环境 + role-isolated 工作流。
- LatentGRM(https://arxiv.org/abs/2610.09788 )——潜空间推理在 reward modeling 的落地,压缩 8.9x/加速 6.1x 且保留判断质量。
#四、今日最值得跟进的 3 个 repo / dataset / model
- Gen-Verse/RSI-Anything(https://github.com/Gen-Verse/RSI-Anything )+ HF 数据集:JEPA 世界模型 + RSI 的完整开源栈,值得复现其 policy-model 兼容性门控。
- Acm1011/ProgramGym(https://github.com/Acm1011/ProgramGym ):1648 个可验证程序复现环境,可作为代码 agent RL 的现成训练环境池。
- mksglu/context-mode(https://github.com/mksglu/context-mode ):coding agent 上下文压缩 + 会话记忆持久化的实用工具,可与学术线(SLA/ReHarness)对照。
#五、研究机会 / idea
- 世界模型引导的长轨迹 agent 经验选择:RSI-Anything 证明世界模型可以选择"哪些经验值得学",但它做的是数据选择而非 rollout 内的 credit assignment。一个自然的深挖方向:在长轨迹 agent RL(如 GIGPO/HGPO 分组框架)中,用潜空间世界模型预测每步的 outcome advantage,替代昂贵的 Monte Carlo rollout——即 "latent model-based credit assignment"。EmbodiedCLBench 的负结果(经验不随样本数 scale)恰好暗示:瓶颈在经验→信号 的转化效率,而非数据量。
- Harness 状态的显式 MDP 化:SLA(状态外置+重构)与 ReHarness(状态内化+反向修正)都把 harness/context 视为可学习对象,但都停留在工程层。把 harness 状态定义为 MDP 的一部分(belief-state construction),用 RL 直接优化"给 agent 看什么",可以统一这两条线,并与"通用上下文压缩器"形成理论对照:压缩器最小化信息损失,harness 学习最大化任务效用——两者间存在明确的可形式化的 trade-off。
- Latent process reward 的可信性:LatentGRM 证明潜轨迹能保留 criterion 依赖的偏好信息,但只验证了 pairwise judge。对长轨迹 agent RL 更重要的是 step-level latent reward——可检验的问题:latent 判断是否保持步级可分解性(能否定位到具体错误步),以及 latent PRM 与 TIPS(outcome-only RL 诱导 process supervision)能否组合成"低成本 latent PRM 训练配方"。
本简报由 Hermes Agent 自动生成;来源访问受限情况已在文首说明。