每日调研 2026-10-25 ★★★★☆ daily AI LLM Agent Code Intelligence Research Briefing

#2026-10-25 AI/LLM 最新论文与研究热点简报

检索时间：2026-10-25 08:00 (Asia/Shanghai)。覆盖说明：今日为周日，arXiv API 公开的最新全量批次仍为 2026-10-22 提交（10-23/10-24 批次尚未通过 API 公开，周日常有此延迟），Hugging Face Daily Papers 页面（?date=2026-10-24）最新条目对应 10-14～10-22 批次论文。因此本期时间窗口为最近 2-3 天，策略是：与昨日（2026-10-24）简报去重——昨日已详述的 TWICE、RIPPLE、LaLa-World、Raw-RAG、Value of Memory、AOPD、IQuest-Q1、RouteWeaver、Inherited-Not-Invented、TTR-Compressor、Cola2、Inside-JEPA、State Integrity Collapse 等不再重复展开；本期聚焦 10-22 批次中昨日未覆盖的论文 + HF 榜单今日可确认的新上榜/热度上升条目。
核心来源：arXiv API（export.arxiv.org，cs.AI/cs.CL/cs.LG 按提交时间倒序 100 条全量过滤 + 指定 ID 精确回查摘要与作者）+ Hugging Face Daily Papers 页面（huggingface.co/papers?date=2026-10-24，解析 SvelteKit 数据载荷获得 id/标题/upvotes）+ GitHub Trending 页面解析。X/Twitter 不可直接访问，未纳入检索，已注明（以项目页/GitHub/arXiv 替代）。
主题观察：昨日简报的主线是"agentic RL credit assignment 原理化 + 记忆方向的清算时刻"。今天从昨日未覆盖的余量里浮现出三条新信号：(1) 持续学习正在向"harness 外化"收敛——HERD 把 harness（执行框架本身）当作持续学习的载体，与参数化方法互补蒸馏；(2) 自演化代码智能的实验侧证据——AgenticEvolve 证明"持久 agent 设计并运行实验"这一环节本身带来数量级收益，是 self-evolving code agent 的一块拼图；(3) agentic 审计进入预训练数据质量——"用 agent 调试语料库"在 Slovak FineWeb2 上以约 3 美元成本挖出 5.32% 的机器生成内容农场，对数据质量/去重路线是方法论的直接移植。

#一、核心论文精选（按与 wenjun 方向的相关度排序）

#1. HERD: Harness-Evolving Recursive Distillation for Continual Learning ⭐ 重点

链接：https://arxiv.org/abs/2610.31401
来源：arXiv cs.CL/cs.AI，2026-10-22 提交；作者 Xun Sun, Thanh Thi Nguyen, Thuy-Trang Vu
类别：Continual Learning / LLM Agent / Efficient Post-training
一句话核心：混合式持续学习框架：在harness（执行框架/提示/技能等非参数资产）里高效学习，再通过递归蒸馏把经验内化为累积的参数化知识——外化层（harness）负责不遗忘地快速吸收，参数层负责把高频经验固化，两者递归交替，规避纯参数方法的灾难性遗忘/可塑性损失与纯非参数方法（prompts/skills/harness）的上下文长度和有损压缩限制。

为什么值得关注：它给出的是持续学习的一个架构级答案而非损失函数级补丁。此前该方向的两个失败模式各有针对性工作（参数侧的遗忘/塑性损失、非参数侧的上下文受限），HERD 把两者放进同一个闭环：harness 先吸收（无遗忘风险），蒸馏再选择性地沉淀（参数化收益），并且蒸馏是"递归"的——每一轮内化后的模型成为下一轮 harness 学习的底座。这个"外化学习 → 内化固化"的循环结构与 self-evolving agent 的经验固化问题同构。

与 wenjun 研究方向的关系：命中LLM 持续学习与高效后训练主线。与昨日简报的两个条目形成三角：Raw-RAG（复杂记忆变换不如保留原始证据）说明非参数侧的"变换"有代价，Value of Memory（记忆价值 = 避免的任务损失）给出了"什么值得固化"的核算单位——HERD 恰好补上"怎么固化"的机制。若做 agent 经验固化为参数的实验，HERD 的 harness→蒸馏循环可直接作为 baseline 框架。

#2. AgenticEvolve: Evolutionary Program Search with Persistent LLM Agents ⭐ 重点

链接：https://arxiv.org/abs/2610.31326
来源：arXiv cs.NE/cs.AI/cs.LG，2026-10-22 提交；作者 Ze-Yu Peng, Qing-Yu Lan, Zhan-He Wang, Jun Zhang（港大 Jun Zhang 组）
类别：Code Agent / Self-Evololving / LLM Agent
一句话核心：在 LLM 进化程序搜索里，把"每个 candidate 由一次性 prompt 生成"改为每个 island 由一个持久 LLM agent 运营：agent 在两次评估之间主动设计并运行实验来检验候选程序的行为，而不是只看分数做变异；对照实验（关闭实验环节的 No-analysis 配置）分离出"agent 主动实验"这一环节的独立贡献。

为什么值得关注：这是给 self-evolving code agent 补上的一块关键实证："agent 设计并运行实验"本身就是变异算子的升级。传统 LLM 进化搜索里模型只做"父代+分数→子代"的映射，AgenticEvolve 让 agent 在生成前先做小规模受控实验理解程序行为，搜索效率显著提升（在两个启发式设计任务、三个 LLM 上验证）。它把"实验设计能力"从研究者的隐性劳动变成了 agent 的显式组件。

与 wenjun 研究方向的关系：直接命中self-evolving code agent 重点。与昨日 EvalResearchBench（agent 自建评测器的一致率约 75%）构成同一问题的两面：EvalResearchBench 量化"自建评测"的上限，AgenticEvolve 证明"自运行实验"在搜索循环里的净收益。做代码 agent 自演化闭环（生成→验证→反思→再生成）时，"持久 agent + 主动实验"是比"一次性变异"更强的基线设计。

#3. METTA: Memory-Enhanced Test-Time Adaptation for Meta-RL ⭐ 重点

链接：https://arxiv.org/abs/2610.31656
来源：arXiv cs.LG/cs.AI，2026-10-22 提交；作者 Ali Najar, Hosein Hasani, Amir Kooshan Fattah, Yasamin Rajabi
类别：Model-based RL / LLM Agent / Memory（跨领域可迁移）
一句话核心：把 meta-RL 的快适应阶段分解为两个时间尺度：一个因果神经记忆（causal neural memory，线性序列复杂度）做 episode 内细粒度适应，紧凑的 episode 级摘要支持跨 episode 长程适应——用"记忆模块 + 双时间尺度"替代 transformer 轨迹检索的二次内存与计算开销。

为什么值得关注：它针对的正是 wenjun 关注的"长轨迹 RL 中如何表示任务证据"问题在 meta-RL 语境下的形态：循环网络压缩进隐状态（信息瓶颈）、transformer 检索全轨迹（二次代价），METTA 给出第三条路——线性复杂度的因果记忆 + 分层摘要。这个分解与 LLM agent 的需求结构同构（agent 的"当前任务是什么"证据散布在长交互历史里）。

与 wenjun 研究方向的关系：命中 model-based RL / 长 trajectory 表征两线。METTA 的"within-episode 因果记忆 + cross-episode 摘要"与昨日 TWICE（credit assignment 噪声耦合）、RIPPLE（恢复阶段 credit）是长轨迹 RL 的三种正交组件：TWICE 管"哪一步该得 credit"，RIPPLE 管"恢复行为的 credit"，METTA 管"任务证据如何在长历史里低成本存取"。三者理论上可组合进一个长时程 agent RL 系统。

#4. Can an Agent Debug a Web Corpus? Agentic Auditing of Slovak FineWeb2 ⭐ 重点

链接：https://arxiv.org/abs/2610.31636
来源：arXiv cs.CL，2026-10-22 提交；作者 Marek Šuppa, Ivan Vykopal, Jaroslav Kopčan
类别：Pretraining Data / LLM Agent / Evaluation
一句话核心：把 LLM 当语料库调试器（而非分类器）：一个 tool-using agent 通过只读、预算受限的 API 探索语料库，把每个发现编译成可执行测试，再由母语者验证——在 Slovak FineWeb2（2650 万文档）上三轮各 2.21-2.84 美元的运行发现 7 项问题，最大的是140 万文档（5.32%）的机器生成内容农场穿透了全部流水线过滤器，其中 86.6% 甚至通过了更严阈值。

为什么值得关注：这是"预训练数据质量/去重"路线的方法论升级：不是设计更强的过滤器，而是用 agentic 探索事后审计过滤器漏掉了什么，且把"发现"形式化为可执行测试（可复现、可回归）。多语言流水线（FineWeb2 千语言一配方）的单语言失效模式此前几乎无人检查——3 美元一次的审计成本意味着这件事可以规模化做。

与 wenjun 研究方向的关系：命中预训练数据质量 + agent 预训练数据线。方法可直接移植到代码预训练语料：用同样的"agent 探索 + 发现编译为可执行测试"审计代码语料的失效模式（生成代码占比、编译失败率、license 污染、重复配方残留）——这正是 wenjun 关注的"code data quality / Nemotron code data"方向的空缺点：现有工作都在"配比与过滤"，缺少"审计过滤器本身"的 agentic 工具。

#5. Deep Search in Real-World Web Environments（OpenDS）⭐ 重点

链接：https://arxiv.org/abs/2610.30181；代码 https://github.com/Yu-xm/OpenDS
来源：arXiv，2026-10-22（HF Daily Papers 10-24 页面热度前列）
类别：LLM Agent / Evaluation / Tool-use
一句话核心：指出现有 Deep Search/Deep Research agent 评测的系统性缺口——静态检索设定 vs 真实开放 Web（信息分布在异构源、多模态、需要自主搜索/登录/交互才能获取）；构建真实 Web 环境中的端到端深度搜索评测，检验 agent 在"要自己找到并访问信息"而非"给定语料检索"下的能力。

为什么值得关注：Deep Research agent 是当前产品化最热的 agent 形态之一，而评测大多停留在静态 retrieval QA。该工作把评测推到真实交互环境（与昨日简报 GlobeBench、video-centered deep research 属同一"评测走向真实环境"的潮流），且开源了环境与基准。

与 wenjun 研究方向的关系：命中 LLM Agent / Evaluation 线。对做 agent RL 的人，真实 Web 环境意味着环境动态性、非确定交互与长 horizon——恰是 credit assignment（TWICE 类方法假设环境确定性）与记忆（Value of Memory 类框架）两条线都需要面对的更难测试床。可作为 agentic RL 实验的候选环境。

#二、简报式速览（本期其余值得知道的论文，均与昨日简报去重）

EpiSEM-Bench（2610.31650，10-22）— LLM Agent / Evaluation / Safety：研究工具使用 agent 的"证据缺失"失效：工具响应遗漏安全相关事实时，agent 会对良性请求执行被禁止动作（每条返回语句都为真仍不安全）；可执行基准评测不安全执行、安全边界与证据恢复行为。对 tool-use agent 的可靠性刻画是新的角度。
Multi-Token Prediction 改善潜空间多跳图搜索（2610.31439，10-22）— Latent Reasoning / Pretraining：LM 在"生成未见过的图上 s→t 最短路"上随规模失败，作者证明失败源于监督信号与 tokenization两因，且两因正交；MTP 理论+实证有效且拓扑无关，替代 tokenization 打破了前人观察到的 scaling wall——MTP（DeepSeek 式多头）作为预训练机制对多跳结构化推理任务的价值证据。
Fine-Grained Analysis of Catastrophic Forgetting via Algorithmic Stability（2610.31551，10-22）— Continual Learning / Theory：不预设模型/任务结构的算法稳定性框架，把遗忘分解为 intra-task/cross-task 泛化 gap 与经验遗忘，追踪样本扰动在 SGD 更新中的传播——持续学习的理论补课，与 HERD 的机制设计互补。
AfterDeleteBench（2610.31366，10-22）— LLM Agent / Memory / Privacy：审计 agent 外部持久记忆的"删除后信息残留"：删除原始记录不会移除其派生物（摘要等）携带的信息；对固定权重 agent 的受控行为审计——记忆系统的删除合规问题第一次被系统测量。
Muffin: Shared Memory Buffer for Asynchronous Agents（2610.31355，10-22）— LLM Agent / Systems：异步多 agent 的共享内存缓冲，解决目标驱动推理任务中失效常源于"低效信息交换"而非推理能力——多 agent 系统的通信基础设施侧。
DIAL: Steerable Models with Distilled Instruction-Adherence（2610.31438，10-22）— Post-training RL / Intent Understanding：把"指令遵循程度"做成可数值调节的旋钮（蒸馏不同 adherence 等级），细粒度控制而非 prompt 赌运气——"从指令理解走向意图理解"的一个工程化中间形态：adherence 本身被谱系化。
Low-Bit N-Gram Embeddings（2610.31646，10-22）— Pretraining / Systems：披露 DeepSeek-V4.1-Flash 的 Engram n-gram 记忆占 196B 参数，提出低比特 n-gram 嵌入压缩——大厂基座正在把"n-gram 记忆表"做成一等公民，基座架构与"记忆"融合的信号。
Certified Execution Harness（Petri-Net Supervisory Control）（2610.31376，10-22）— LLM Agent / Systems / Safety：把 LLM 与工具之间的执行 harness 形式化为 Petri 网监督控制：迁移需要 token（能力/审批/预算）才点火，注入请求因前置条件不满足而无法执行——"harness 作为可验证安全层"的形式化路径，与 HERD 的"harness 作为学习载体"是同一对象的两个视角。
Deep Fusion Memory（2610.25100，10-18，HF 10-24 页面 41 upvotes）— Continual Learning / Memory：块级参数化记忆（昨日简报速览已提及，今日 HF 榜热度上升再确认）：因果记忆预测器 + 门控交叉注意力融入中间隐层，训练数据构建成本比已有参数化记忆低 32× 检索查询——参数化记忆路线目前最完整的开源案例。
Direct Pass@ $k$ Optimization for Thought Pruning（2610.31667，10-22）— Post-training RL / Test-time Scaling：测试时扩展的候选剪枝：短前缀后剪枝候选池、只对幸存者投计算，直接优化 Pass@ $k$ 以平衡质量与多样性——test-time scaling 的计算分配层。
BrickWright（2610.31651，10-21，HF 榜）— Code Agent / Embodied：给 coding agent 提供装配与物理可行性验证工具，即可从文本/图像生成物理有效的乐高积木模型——"代码智能 × 物理可验证 reward"的小而美案例：可验证性来自工具而非标注。
RIDAR（2610.31372，10-21，HF 榜）— LLM Agent / Evaluation：自主科研 agent 的研究诚信违规检测与运行时干预（14 类 RIV 分类法）——自主科研 agent 评测的诚信侧基础设施。

#三、今日最值得精读的 3 篇

HERD（2610.31401）——持续学习从损失函数补丁走向"harness 外化 + 递归蒸馏内化"的架构级方案；与 Raw-RAG、Value of Memory（昨日）拼成"存什么/值多少/怎么固化"的完整问题空间。
AgenticEvolve（2610.31326）——"持久 agent 设计并运行实验"作为进化搜索变异算子的独立贡献被干净分离；self-evolving code agent 实验侧的关键实证。
Can an Agent Debug a Web Corpus?（2610.31636）——agentic 审计方法论进入预训练数据质量；3 美元发现 5.32% 内容农场穿透过滤器的案例值得逐行读其"发现编译为可执行测试"的协议设计。

#四、今日最值得跟进的 3 个 repo / model / dataset

OpenDS（https://github.com/Yu-xm/OpenDS）— 真实 Web 环境的深度搜索 agent 评测环境+基准；agentic RL 实验的高动态性候选测试床。
NVIDIA/OpenShell（https://github.com/NVIDIA/OpenShell，GitHub Trending 本日上榜）— "面向自主 agent 的安全私有执行 runtime"：agent 执行环境（harness）标准化正在成为大厂开源投注方向，与本期 Certifiable Harness、HERD 的"harness 一等公民化"主题互证。
Deep Fusion Memory 论文与实现（2610.25100，HF 页 https://huggingface.co/papers/2610.25100）— 块级参数化记忆的最完整开源实现（构建成本低 32× 检索查询），做参数化记忆/持续学习实验的现成底座。

（GitHub Trending 侧观察：本日榜单 agent 执行/runtime 类项目密集——除 OpenShell 外还有 aws/agent-toolkit-for-aws、cloudflare/security-audit-skill 等；与连续两期"harness 标准化"观察一致，终端 agent 安全执行层正成为开源新热点。）

#五、研究机会 / idea

Agentic 语料审计移植到代码预训练数据：Slovak FineWeb2 审计的核心是"agent 探索 + 发现编译为可执行测试 + 人工抽验"，全程预算数美元。把这套协议照搬到代码语料（The Stack / Nemotron / StarCoder 类）：审计目标换成"生成代码占比、不可编译率、重复配方残留、测试泄漏"——现有代码数据工作全部押在"过滤与配比"，没有人做"过滤器失效模式的 agentic 审计+回归测试集"。产出天然是论文+开源审计工具，且与 wenjun 的代码数据质量关注完全重合。
Harness 闭环 × 记忆价值核算：HERD 证明 harness 外化学习 + 递归蒸馏内化可行，Value of Memory（昨日）给出"以避免任务损失计价"的固化判据。组合问题：蒸馏固化应该由价值核算触发——只有当某类 harness 经验的 avoided-task-loss 超过蒸馏（参数更新）成本时才内化。这个"何时固化"的门控策略目前没有人做，且 HERD 的框架刚好留了这个决策为自由度。
双时间尺度记忆进入 LLM agent RL：METTA 的"within-episode 因果记忆（线性复杂度）+ cross-episode 摘要"若移植到 LLM agent 的长轨迹 RL：当前轨迹的任务证据在线性内存里维护（替代 quadratic 的全轨迹 attention），episode 摘要供跨任务迁移。与 TWICE 的同噪声反事实、RIPPLE 的恢复阶段 credit 正交可叠加——三者拼起来是一个完整的长时程 agent RL 系统设计，其中"记忆模块如何与 credit assignment 交互"（记忆偏差是否污染孪生世界的噪声耦合）本身就是一个新问题。

#六、来源与可信度说明

本期所有论文条目均经 arXiv API（export.arxiv.org，原子级 title/author/abstract/published 字段）核验，无凭印象或转述的条目；作者与提交日期以 API 返回为准。HF 榜单条目经 huggingface.co/papers?date=2026-10-24 页面数据载荷解析核验（含 upvotes）。
arXiv API 本轮检索再次遇到间歇性 429 限流（已通过退避重试解决）；HF /api/daily-papers 接口今日返回认证错误（"Invalid username or password"），已改用 papers 页面 HTML 数据载荷解析替代，结果一致。
与昨日简报的去重：昨日已详述的 10-22 批次论文（TWICE、RIPPLE、LaLa-World、Raw-RAG 等 13 篇重点 + 14 篇速览）本期不再重复；仅在其构成上下文需要时以链接形式引用。
X/Twitter 不可直接访问，本期未纳入；以 arXiv/HF/GitHub 替代，特此说明。
GitHub repo 信息（OpenDS、OpenShell 等）来自当日页面快照；OpenShell stars 数因页面渲染限制未能精确提取，仅确认其 Trending 上榜与项目定位。