1The Teacher Is a Direction, Not a Destination: Extrapolating RL-Induced Representation Residuals in On-Policy Distillation教师是方向而非终点:在同策略蒸馏中外推 RL 引发的表征残差教師は到達点ではなく方向である: オンポリシー蒸留におけるRL由来の表現残差の外挿221 UPVOTES · HAO LI ET AL. · ARXIV 2609.36484On-policy distillation trains a student to match a teacher's next-token distributions along the student's own trajectories, and generalized variants push past the teacher by extrapolating a reward in output space. The authors argue the language-model head attenuates most of what the teacher's hidden states encode, and work on representation residuals instead.同策略蒸馏让学生在自己生成的轨迹上拟合教师的下一词分布,其推广变体则通过在输出空间外推隐含奖励来超越教师。作者指出,语言模型头会削弱教师隐藏状态所编码的大部分变化,因此主张转而在表征残差上做外推。オンポリシー蒸留は、学生自身の軌跡の上で教師の次トークン分布に合わせるように学習させ、その一般化版は出力空間で報酬を外挿して教師を超えようとする。著者らは、教師の隠れ状態が符号化した変化の多くを言語モデルヘッドが減衰させると指摘し、代わりに表現残差を外挿する。
2False Frontiers: Diagnosing and Mitigating Co-Cheating in Self-Evolving Search Agents虚假前沿:诊断并缓解自进化搜索智能体中的合谋作弊偽りのフロンティア: 自己進化型検索エージェントにおける共謀的ごまかしの診断と緩和172 UPVOTES · MEIJIA CHEN ET AL. · RUTGERS UNIVERSITY · ARXIV 2609.39102Self-evolving search agents build their own curricula by training a question proposer against a solver, and this paper names a failure mode in that loop: the pair converge on shared errors, so the internal reward rises without real gains. Audits against source evidence show the problem deepening over rounds as pseudo-label correctness stalls or declines.自进化搜索智能体通过让出题器与解题器互相训练来自建课程,本文为这一闭环命名了一种失效模式:两者逐渐在相同的错误上达成一致,内部奖励上升而真实正确率并未提高。对照原始证据的事后审计显示,随着轮次增加问题不断加深,伪标签正确率停滞甚至下降。自己進化型の検索エージェントは、問題を作る側と解く側を同時に学習させて自前のカリキュラムを作る。本論文はこの閉ループで両者が同じ誤りに合意し、内部報酬だけが上がる失敗様式を指摘する。原典に照らした事後監査では、擬似ラベルの正確さが頭打ちや低下となる一方で、この現象が周回ごとに悪化していた。
3Rethinking Latent Visual Reasoning: Grounding Latent Reasoning in Visual Evidence重新审视潜在视觉推理:让潜在推理扎根于视觉证据潜在的視覚推論の再考: 潜在推論を視覚的証拠に接地させる148 UPVOTES · XI XIAO ET AL. · AMAZON · ARXIV 2609.34563Latent visual reasoning lets multimodal models compute in continuous latent tokens rather than spelling out every step, which also makes those tokens hard to supervise. The authors measure a latent evidence-credit gap: the tokens barely react to image perturbations that change the correct answer, which they trace to the absence of explicit visual grounding.潜在视觉推理让多模态模型在连续的潜在词元中完成中间计算,而不必把每一步都写成文字,这也使这些词元难以监督。作者量化出一种潜在证据归因缺口:即便图像扰动已改变正确答案,潜在词元的反应依然微弱,他们将其归因于缺少显式的视觉接地。潜在的視覚推論では、マルチモーダルモデルが推論の各段階を言葉にせず連続的な潜在トークン上で計算するため、そのトークンを監督するのが難しい。著者らは、正解が変わるような画像の摂動に潜在トークンがほとんど反応しないという「潜在証拠の帰属ギャップ」を測定し、明示的な視覚的接地の欠如に原因を求めている。
4AREX-2: Advancing Self-Improving Agents through Long-Horizon Reflective TasksAREX-2:通过长程反思任务推进自我改进智能体AREX-2: 長期的な省察タスクによる自己改善エージェントの前進109 UPVOTES · HONGJIN QIAN ET AL. · BEIJING ACADEMY OF ARTIFICIAL INTELLIGENCE · ARXIV 2609.38288AREX-2 targets self-improving agents, defined here as the ability to refine a solution repeatedly at test time. The team splits that into reflection, which makes each round better than the last, and long-horizon execution, which keeps many rounds productive, and trains both on synthesized improvement trajectories from machine learning and algorithmic work.AREX-2 面向自我改进智能体,作者将其定义为在测试时反复打磨同一个解的能力。团队把这种能力拆成两部分:让每一轮都优于上一轮的反思,以及让多轮迭代持续有效的长程执行,并用从机器学习和算法任务中合成的改进轨迹同时训练二者。AREX-2は、テスト時に解を繰り返し磨き上げる能力として定義される自己改善エージェントを対象とする。著者らはこれを、各周回を前より良くする省察と、多数の周回を有効に保つ長期実行に分け、機械学習やアルゴリズムの課題から合成した改善軌跡で両方を学習させる。
5Mid-Harness: Scaling Actions Between Model and Harness for Terminal AgentsMid-Harness:在模型与框架之间扩展终端智能体的动作Mid-Harness: 端末エージェントのアクションをモデルとハーネスの間でスケールさせる90 UPVOTES · MINKI KANG ET AL. · NVIDIA · ARXIV 2609.39982A terminal agent can generate a good command and still execute a bad one, and a single wrong action such as a botched package install can leave the environment worse for every later step. Mid-Harness spends test-time compute at the model-harness boundary, sampling and verifying candidate actions before they reach the shell.终端智能体可能生成了好命令却执行了坏命令,而一次错误动作,比如装错依赖包,就会让后续每一步都更难推进。Mid-Harness 把测试时算力花在模型与框架的交界处,在候选动作送达 shell 之前先采样并校验。端末エージェントは良いコマンドを生成できても実際には悪い行動をとることがあり、依存パッケージの誤インストールのような一度の失敗が、その後のすべての手順を難しくする。Mid-Harnessはモデルとハーネスの境界にテスト時計算を割き、候補となる行動をシェルに渡す前にサンプリングして検証する。
2026-09-30 · WEDNESDAY · 13:10 PDT
1In-Context Learning for Robots: Methods and Applications机器人的上下文学习:方法与应用ロボットのための文脈内学習: 手法と応用251 UPVOTES · HAOJIAN HUANG ET AL. · KNOWIN AI · ARXIV 2609.36012A 39-author survey organizes the literature on in-context learning for robots around the interfaces that connect contextual evidence to physical action, with neural parameters held fixed during deployment. It distinguishes four families: context-conditioned policies, geometric demonstration transfer, world-model-based control, and skill- and agent-based execution. It is the day's most upvoted paper at 251.这篇由 39 位作者合写的综述,围绕把上下文证据连接到物理动作的各类接口,梳理了机器人上下文学习的研究文献,其中神经网络参数在部署期间保持固定。文章区分出四个流派:上下文条件化策略、几何示范迁移、基于世界模型的控制,以及基于技能与智能体的执行。该文以 251 票成为当日得票最高的论文。39 名の著者による本サーベイは、文脈的な手がかりを物理的な行動へつなぐインターフェースを軸に、ロボットの文脈内学習の研究を整理する。運用時にニューラルパラメータは固定されたままである。文脈条件付きポリシー、幾何的な実演転移、世界モデルに基づく制御、スキルおよびエージェントによる実行の 4 系統に分類している。251 票で当日最多の支持を集めた論文だ。
2Omni-IO Skills: Harnessing Your Agent Omni-NativeOmni-IO Skills:让你的智能体原生支持全模态Omni-IO Skills: エージェントをオムニネイティブにする136 UPVOTES · YANLIN LI ET AL. · NATIONAL UNIVERSITY OF SINGAPORE · ARXIV 2609.31847A National University of Singapore team presents Omni-IO Skills, a plug-and-play agent harness that makes an existing agent omni-native through hierarchical skills instead of model updates. They argue that adding modalities to a foundation model ties capability growth to costly retraining, while assembling specialist tools leaves procedures, dependencies, intermediate assets and cross-turn revisions uncoordinated.新加坡国立大学的研究者提出 Omni-IO Skills,这是一套即插即用的智能体框架,通过分层技能而非更新模型,让现有智能体原生支持全模态。作者指出,为基础模型增加模态会把能力扩展绑定在高成本的再训练上;而拼装专用模型与工具的做法,则无法协调流程、依赖关系、中间产物以及跨轮次的修改。シンガポール国立大学の研究チームは、既存のエージェントをモデル更新なしに階層的なスキルでオムニネイティブ化する、プラグアンドプレイのエージェントハーネス Omni-IO Skills を提案した。基盤モデルにモダリティを追加する方法では能力の拡張が高コストな再学習に縛られ、専用モデルやツールを組み合わせる方法では手順や依存関係、中間成果物、ターンをまたぐ修正の調整が未解決のまま残ると論じている。
3VoxMem: Benchmarking Multimodal Memory in Large Audio Language ModelsVoxMem:评测大型音频语言模型的多模态记忆VoxMem: 大規模音声言語モデルのマルチモーダル記憶を評価する114 UPVOTES · YANG XIAO ET AL. · THE UNIVERSITY OF MELBOURNE · ARXIV 2609.32607VoxMem benchmarks memory in large audio language models, testing what a system recovers from earlier speech beyond the words: who spoke, how it was said and what was audible, none of which survives in a transcript. It also separates memory operations, from retrieving a single fact to integrating evidence across turns and tracking an evolving state, spread across distinct sessions rather than one conversation.VoxMem 用于评测大型音频语言模型的记忆能力,考察系统除了话语内容之外还能从先前语音中恢复多少信息:谁在说、以何种方式说、现场有哪些可听见的声音,这些都无法从文字转录中还原。该基准还区分不同的记忆操作,从检索单一事实,到跨轮次整合证据、追踪不断变化的状态,并把它们分散到多个独立会话而非一段连续对话中。VoxMem は大規模音声言語モデルの記憶を評価するベンチマークで、先行する発話から語られた内容以外に何を復元できるかを試す。誰が話したか、どのように話されたか、何が聞こえていたかは、いずれも書き起こしには残らない情報だ。さらに、単一の事実の検索からターンをまたぐ証拠の統合、変化する状態の追跡まで記憶の操作を切り分け、一続きの会話ではなく複数の独立したセッションに分散させている。
4VisionHOPE: Visual Backbones as Self-Modifying Learning SystemsVisionHOPE:把视觉骨干网络构造为自我修改的学习系统VisionHOPE: 視覚バックボーンを自己改変する学習システムとして捉える77 UPVOTES · SIRAN PENG ET AL. · MININGLAMP TECHNOLOGY · ARXIV 2609.33325VisionHOPE is put forward as the first generic visual backbone formulated as a self-modifying learning system. The paper traces the progression from convolutional networks to vision transformers, state-space models and test-time training layers, and notes that visual computation has grown steadily more adaptive to each input while the rules governing that adaptation remain prescribed by the trained backbone.VisionHOPE 被提出为首个以自我修改学习系统形式构建的通用视觉骨干网络。论文梳理了从卷积网络到视觉 Transformer、状态空间模型以及测试时训练层的演进,并指出视觉计算对每个输入的适应性不断增强,但支配这种适应的规则仍由训练好的骨干网络事先规定。VisionHOPE は、自己改変する学習システムとして定式化された初の汎用視覚バックボーンとして提示されている。論文は畳み込みネットワークから Vision Transformer、状態空間モデル、テスト時学習層への流れをたどり、視覚計算が入力ごとに適応的になってきた一方で、その適応を支配する規則は学習済みバックボーンによって定められたままだと指摘する。
5LEGO-Anything: Coding Agents for 3D Scene ReconstructionLEGO-Anything:用编码智能体重建三维场景LEGO-Anything: 3D シーン再構成のためのコーディングエージェント77 UPVOTES · XIRUI LI ET AL. · AMAZON WEB SERVICES · ARXIV 2609.36380LEGO-Anything reconstructs a 3D scene from a single image as an explicit scene program rather than a rendering or a fixed 3D output, so the result can be inspected, edited and queried. A coding agent iteratively writes and runs Blender code, examines the scene and its renderings, and revises the program. They also introduce LEGO-Bench, a simulator-grounded benchmark of 208 images from 104 indoor and outdoor scenes.LEGO-Anything 从单张图像重建三维场景,输出的不是渲染图或固定的三维结果,而是一段显式的场景程序,因此结果可被检查、编辑和查询。一个编码智能体反复编写并执行 Blender 代码,查看场景及其渲染结果,再修改程序。作者还提出 LEGO-Bench,这是一个以模拟器为基准的评测集,包含取自 104 个室内外场景的 208 张图像。LEGO-Anything は 1 枚の画像から 3D シーンを再構成する際、レンダリング結果や固定的な 3D 出力ではなく、明示的なシーンプログラムとして表現する。そのため結果を検査し、編集し、問い合わせることができる。コーディングエージェントが Blender のコードを繰り返し記述して実行し、シーンとそのレンダリングを確認してプログラムを修正する。著者らはシミュレーターに基づくベンチマーク LEGO-Bench も公開し、屋内外 104 シーンから集めた 208 枚の画像を収録する。
2026-09-29 · TUESDAY · 13:08 PDT
1Post-Training Leaves Behavioral Shadows on Unrelated Decisions后训练会在无关决策上留下行为阴影事後学習は無関係な判断にも行動の影を残す249 UPVOTES · ZIYANG ZHANG ET AL. · PEKING UNIVERSITY · ARXIV 2609.29233The paper reports that capabilities added by post-training leak into a model's answers on task-unrelated prompts. Active Taskless Distillation transfers capability using only a single word from the teacher per prompt, chosen at prompts where teacher and student diverge. Earlier subliminal-learning work needed extensive teacher outputs and targeted traits rather than skills.论文发现,后训练新增的能力会渗入模型在与任务无关的提示上的回答之中。作者提出的主动无任务蒸馏(ATD)每条提示只取教师模型的一个词即可完成能力迁移,这些提示专门选在教师与学生分歧之处。此前关于潜意识学习的研究需要大量教师输出,且针对的是性格倾向而非具体能力。事後学習で付与された能力が、課題と無関係なプロンプトへの応答にも漏れ出すことを示した論文。提案手法 Active Taskless Distillation は、教師と生徒の応答が食い違うプロンプトを選び、教師から 1 語だけを取り出して能力を移す。従来のサブリミナル学習の研究は大量の教師出力を必要とし、対象も能力ではなく性質や嗜好にとどまっていた。
2Self-Evolving Coding Agents: From Digital Programs to Physical-World Intelligence自进化编程智能体:从数字程序走向物理世界智能自己進化するコーディングエージェント: デジタルなプログラムから物理世界の知能へ90 UPVOTES · HONGCHENG GAO ET AL. · HEXAFUTURE · ARXIV 2609.35432Vision-language-action models map observations straight to robot actions, so small changes in layout or viewpoint break the policy. The authors trace that fragility to representation: task requirements, progress and failure recovery stay implicit in action sequences and cannot be inspected or revised. They borrow the coding-agent pattern of explicit state and executable code instead.视觉-语言-动作模型与世界-动作模型把观测直接映射为机器人动作,因此布局或视角的细微变化就会让策略失效,指令也难以泛化。作者把这种脆弱性归因于表示方式:任务要求、前置条件、执行进度与失败恢复都隐含在动作序列里,既无法检查也无法修改。他们转而借鉴数字编程智能体的做法,用显式状态和可执行代码来表达。視覚・言語・行動モデルや世界・行動モデルは観測を直接ロボットの行動へ写像するため、配置や視点がわずかに変わるだけで方策が破綻し、指示の汎化も弱い。著者らはその脆さの原因を表現に求める。課題の要件や前提、進捗、失敗からの復帰がすべて行動系列の中に暗黙に埋め込まれ、検査も修正もできないからだ。代わりに、明示的な状態と実行可能なコードというコーディングエージェントの様式を持ち込む。
3Duplex-MPE: Benchmarking Multi-Party Interaction in Full-Duplex DialogueDuplex-MPE:全双工对话中多方交互的基准Duplex-MPE: 全二重対話におけるマルチパーティ相互作用のベンチマーク81 UPVOTES · CHENGQIAN MA ET AL. · PEKING UNIVERSITY · ARXIV 2609.31948Full-duplex speech models can listen while speaking, but existing benchmarks assume one designated user rather than an assistant sitting inside a conversation among several people. Duplex-MPE tests when such an assistant should answer, stay silent or stop speaking, across 2,000 scenarios with three or four human speakers. Each scenario is paired across explicit and implicit forms of addressing.全双工语音模型可以边听边说,但现有基准大多假定只有一位指定用户,而非助手置身于多人共同参与的对话之中。Duplex-MPE 专门考察这类助手何时该回答、何时该保持沉默、何时该停下不说,共包含 2000 个场景,每个场景有三到四位真人说话者。同一场景还配有显式称呼与隐式称呼两种版本。全二重の音声モデルは話しながら聞くことができるが、既存のベンチマークは指定された 1 人のユーザーを前提としており、複数人の会話の中に入るアシスタントを想定していない。Duplex-MPE は、そうしたアシスタントがいつ答え、いつ黙り、いつ話すのをやめるべきかを検証する。3〜4 人の話者を含む 2,000 のシナリオから成り、各シナリオは明示的な呼びかけと暗黙の呼びかけの両形態で対になっている。
4Groupwise Agentic Grading and Advantage Redistribution for Code Agent RL面向代码智能体强化学习的分组式评分与优势再分配コードエージェントの強化学習に向けたグループ単位の採点と優位性の再配分69 UPVOTES · JINHAO DONG ET AL. · XIAOMI MIMO · ARXIV 2609.32577Reinforcement learning for code agents usually rewards a trajectory by whether executable tests pass, so GRPO hands every passing rollout in a group the same advantage regardless of implementation quality. GAGAR redistributes credit within the group according to a quality grade, giving the policy a reason to prefer clean, in-scope implementations over ones carrying unnecessary changes.代码智能体的强化学习通常以可执行测试是否通过作为奖励,于是 GRPO 会给同组内所有通过测试的轨迹赋予相同的优势值,忽略了实现质量的差异。GAGAR 改为依据质量评分在组内重新分配信用,从而让策略有理由偏好干净、切题的实现,而不是那些夹带多余改动的版本。コードエージェントの強化学習では、実行可能なテストの合否で軌跡に報酬を与えるのが一般的だ。そのため GRPO は、グループ内で合格したロールアウトすべてに実装の質を問わず同じ優位性を割り当ててしまう。GAGAR は品質の採点に応じてグループ内で信用を再配分し、余計な変更を含む実装より、簡潔で要件に沿った実装を方策が選ぶ理由を与える。
5MassAlloc Attention: Let Attention Allocate Its Own ComputeMassAlloc 注意力:让注意力自行分配算力MassAlloc Attention: アテンションに自ら計算資源を配分させる64 UPVOTES · JINGZE SHI ET AL. · BEIJING ACADEMY OF ARTIFICIAL INTELLIGENCE · ARXIV 2609.32712Dense attention kernels run the full post-score path for every QK tile, even where normalized mass is negligible. MALA is a fused primitive that keeps score access to every legal causal interaction but allocates post-score computation by normalized contribution, using the evolving online-softmax normalizer on the forward pass and the finalized one backward. A single tolerance governs training and inference.稠密注意力算子会对每一个 QK 分块执行完整的后置计算路径,即便该处归一化后的权重质量可以忽略不计。MALA 是一个融合算子,它保留对所有合法因果交互的打分访问,但按归一化贡献度来分配后置计算:前向使用在线 softmax 不断更新的归一化因子,反向则复用最终确定的那一个。训练与推理由同一个容差参数控制。密なアテンションカーネルは、正規化後の重みがごくわずかな領域でも、QK タイルごとにスコア計算後の処理を丸ごと実行する。MALA は融合プリミティブで、因果的に許されるすべての相互作用へのスコアアクセスは保ちつつ、スコア後の計算を正規化された寄与度に応じて配分する。順伝播では逐次更新されるオンライン softmax の正規化子を、逆伝播では確定済みのものを用いる。訓練と推論は単一の許容値で制御される。
2026-09-28 · MONDAY · 13:08 PDT
1Disaggregated Quantization: Specializing LLM Prefill and Decode解耦量化:为大模型的预填充与解码阶段分别定制分離量子化: LLM のプリフィルとデコードを個別に最適化する29 UPVOTES · ANDREI PANFEROV ET AL. · IST AUSTRIA DISTRIBUTED ALGORITHMS AND SYSTEMS LAB · ARXIV 2609.26333The paper proposes disaggregated quantization, which gives an LLM's prefill and decode phases their own numeric formats, weights and storage placement. On Qwen 3 and Gemma 3, dropping activation quantization only during decode improves accuracy on decode-heavy tasks without raising inference cost, while separate compute-native prefill weights speed up prompt processing.论文提出解耦量化,为大模型的预填充与解码两个阶段分别设定计算格式、权重与存储放置方式。在 Qwen 3 与 Gemma 3 上,仅在解码阶段去掉激活量化,可在不增加推理成本的前提下提升解码密集型任务的准确率;同时,单独训练面向计算的预填充权重可加快提示处理速度。本論文は、LLM のプリフィルとデコードのそれぞれに専用の数値形式・重み・配置を割り当てる「分離量子化」を提案する。Qwen 3 と Gemma 3 では、デコード時にのみ活性値の量子化をやめることで、推論コストを増やさずにデコード主体のタスクの精度が向上した。さらに演算向けのプリフィル用重みを別途学習することでプロンプト処理も高速化する。
2Tactile-JEPA: Topology-Aware Self-Supervised Representation Learning for Distributed Tactile SensorsTactile-JEPA:面向分布式触觉传感器的拓扑感知自监督表示学习Tactile-JEPA: 分散型触覚センサに向けたトポロジーを考慮した自己教師あり表現学習10 UPVOTES · ELIZAVETA KOVTUN ET AL. · ARXIV 2609.24385Tactile-JEPA learns representations from distributed electronic skin, whose sensing elements are sparse and irregularly arranged. Existing self-supervised work on touch targets camera-based sensors, leaving these skins to encoders trained from scratch on raw noisy signals, so the authors build the sensor topology into the learning objective instead.Tactile-JEPA 面向分布式电子皮肤学习表示,这类传感器的感测单元稀疏且排布不规则。现有的触觉自监督研究多针对基于视觉的传感器,电子皮肤往往只能用原始含噪信号从头训练编码器;为此作者把传感器拓扑结构直接纳入学习目标。Tactile-JEPA は、感知素子が疎で不規則に配置された分散型電子スキンから表現を学習する手法である。触覚の自己教師あり学習は視覚ベースのセンサが中心で、電子スキンはノイズの多い生信号からエンコーダをゼロから学習させることが多かった。著者らは代わりに、センサのトポロジーを学習目的そのものに組み込んでいる。
3Jev in the Wild: A Data-Driven Analysis of the Jev Model's Functionality, Applications and EcosystemJev 实地观察:对 Jev 模型功能、应用与生态的数据驱动分析Jev in the Wild: Jev モデルの機能・応用・エコシステムのデータ駆動分析8 UPVOTES · GUOMING LING ET AL. · THE CHINESE UNIVERSITY OF HONG KONG · ARXIV 2609.30216Researchers at the Chinese University of Hong Kong analysed 2,170 public GitHub projects built on the Jev decision model, collected as of September 22, 2026. The study maps how the model is used across domains and how public attention relates to project distribution, and reports rapid early growth in both new projects and integrations into existing repositories.香港中文大学的研究者分析了截至 2026 年 9 月 22 日收集的 2,170 个基于 Jev 决策模型的公开 GitHub 项目。研究梳理了该模型在各领域的使用方式,以及公众关注度与项目分布之间的关系,并指出其生态早期增长迅速,既有新建项目,也有并入既有仓库的集成。香港中文大学の研究者らが、2026 年 9 月 22 日時点で収集した Jev 決定モデル利用の公開 GitHub プロジェクト 2,170 件を分析した。分野ごとの使われ方と、注目度とプロジェクト分布の関係を整理し、新規プロジェクトと既存リポジトリへの統合の双方で初期の成長が速いことを報告している。
4Enhancing Photogrammetric Digital Surface Models with Pretrained Diffusion Models and Multimodal Conditioning用预训练扩散模型与多模态条件增强摄影测量数字表面模型事前学習済み拡散モデルとマルチモーダル条件付けによる写真測量デジタル表面モデルの高精度化8 UPVOTES · ANTOINE LORENTZ ET AL. · THALES · ARXIV 2609.31199Thales researchers use diffusion models to refine digital surface models derived from satellite stereo imagery, which are cheap to produce but carry noise, outliers and voids. Their modified Stable Diffusion 3 conditions on both the photogrammetric model and Pleiades imagery, with a pruned text stream and patch-wise normalization to keep training stable.泰雷兹的研究者用扩散模型优化由卫星立体影像生成的数字表面模型,这类模型成本低,但常带有噪声、离群点与空洞。他们改造了 Stable Diffusion 3,同时以摄影测量模型和 Pleiades 影像作为条件,并通过裁剪文本分支与分块归一化来保持训练稳定。Thales の研究者らは、衛星ステレオ画像から作られるデジタル表面モデルを拡散モデルで精緻化する。安価に生成できる一方、ノイズや外れ値、欠損を含むためだ。改変した Stable Diffusion 3 に写真測量モデルと Pleiades 画像の双方を条件として与え、テキスト経路を削減しパッチ単位の正規化を導入して学習を安定させている。
5TrackEverything: Long Horizon Dense Tracking via De-Duplicating 3D Scene RepresentationsTrackEverything:通过去重三维场景表示实现长时程稠密跟踪TrackEverything: 3D シーン表現の重複排除による長時間の密なトラッキング7 UPVOTES · AYUSH JAIN ET AL. · CARNEGIE MELLON UNIVERSITY · ARXIV 2609.30222TrackEverything is a 3D point tracker from Carnegie Mellon that represents a video as persistent scene tracks in world coordinates. Treating video as a projection of an underlying 3D world ties model complexity to scene geometry rather than clip length, breaking the usual trade-off between tracking few points for long or all points briefly.TrackEverything 是卡内基梅隆大学提出的三维点跟踪方法,把视频表示为世界坐标系下持续存在的场景轨迹。将视频视为底层三维世界的投影后,模型复杂度取决于场景几何而非视频时长,从而打破了以往“长时跟踪少量点”与“短时跟踪全部点”之间的取舍。TrackEverything は、動画を世界座標系における持続的なシーントラックとして表現するカーネギーメロン大学の 3D 点追跡手法である。動画を 3 次元世界の投影とみなすことで、モデルの複雑さは動画の長さではなくシーン形状に依存するようになり、少数の点を長く追うか全点を短く追うかという従来のトレードオフを解消する。
2026-09-26 · SATURDAY · 13:09 PDT
1Rufus-Air: An Open LLM Post-Training RecipeRufus-Air: 一套开放的大模型后训练配方Rufus-Air: オープンなLLM事後学習レシピ12 UPVOTES · CHIA-YUAN CHANG ET AL. · AMAZON · ARXIV 2609.29421Amazon published a reproducible eight-stage post-training recipe for GLM-4.5-Air-Base (106B-A12B), running from SFT through reasoning, coding, instruction-following and agent RL to RLHF. It documents the data, reward design, infrastructure and stage order, built on open components and public data with no new human annotation. The result improves on the official GLM-4.5-Air post-trained release.亚马逊公开了一套针对 GLM-4.5-Air-Base(106B-A12B)的可复现八阶段后训练配方,从 SFT 依次走到推理、代码、指令跟随与智能体强化学习,最后到 RLHF。论文记录了数据、奖励设计、基础设施和阶段顺序,全部基于开源组件与公开数据,且没有新的人工标注。最终效果优于官方发布的 GLM-4.5-Air 后训练版本。AmazonがGLM-4.5-Air-Base(106B-A12B)向けに、再現可能な8段階の事後学習レシピを公開した。SFTから推論、コーディング、指示追従、エージェントRLを経てRLHFへと進む構成で、データ、報酬設計、インフラ、段階の順序を文書化している。オープンな部品と公開データのみを使い、新規の人手アノテーションは行っていない。結果は公式のGLM-4.5-Air事後学習版を上回った。
2IterSynth: Rethinking Deep Search Agents via Role-Decoupled Iterative SynthesisIterSynth: 以角色解耦的迭代综合重新审视深度搜索智能体IterSynth: 役割分離型の反復統合による深層検索エージェントの再考9 UPVOTES · XINGYU WU ET AL. · REAL LAB · ARXIV 2609.29444IterSynth splits a deep-search agent into a Planner that identifies information needs and a Synthesizer that folds evidence into an evolving summary, replacing the single ReAct policy. Role-Decoupled Policy Optimization adds turn-level rubrics and role-specific advantages to the outcome reward. IterSynth-8B averages 50.7 on five long-horizon benchmarks, 4.2 percent over the best prior agent at 8B or under.IterSynth 把深度搜索智能体拆成两个角色:负责识别信息需求的 Planner,和把证据汇入不断演进摘要的 Synthesizer,以此取代单一的 ReAct 策略。配套的角色解耦策略优化(RDPO)在终局结果奖励之外,加入逐轮评分标准与角色专属优势值。IterSynth-8B 在五个长程基准上平均得分 50.7,比此前 8B 及以下最强智能体高出 4.2%。IterSynthは深層検索エージェントを、必要な情報を見極めるPlannerと、証拠を更新中の要約に統合するSynthesizerに分割し、単一のReActポリシーを置き換える。役割分離型方策最適化(RDPO)は、最終成果報酬にターン単位のルーブリック評価と役割別のアドバンテージを加える。IterSynth-8Bは5つの長期ホライズンのベンチマークで平均50.7を記録し、8B以下の従来最強エージェントを4.2%上回った。
3ExplorationBench: Measuring AI Systems' Exploration in Verifiable Alien WorldsExplorationBench: 在可验证的异界环境中衡量 AI 系统的探索能力ExplorationBench: 検証可能な異世界環境でAIシステムの探索能力を測る9 UPVOTES · MING ZHANG ET AL. · TENCENT HUNYUAN · ARXIV 2609.30199Tencent Hunyuan's ExplorationBench tests whether AI systems discover rules or merely recall them, using Alien Worlds whose rules are executable, so answers check exactly, and which clash with familiar knowledge. AlienCode and AlienLogic hold 55 discovery targets and 140 tasks. Across 10 systems the strongest acquire unfamiliar rules, but scores swing by trajectory and further exploration can stall or reverse gains.腾讯混元的 ExplorationBench 用于检验 AI 系统是真在发现规则,还是只在回忆已有知识:其“异界”规则可执行,因而答案能被精确校验,且刻意与常识相冲突。AlienCode 与 AlienLogic 两个沙盒共有 55 个发现目标、140 项任务。在 10 个系统的评测中,最强者确实能习得陌生规则,但成绩随轨迹大幅波动,继续探索还可能停滞甚至倒退。Tencent HunyuanのExplorationBenchは、AIシステムが規則を本当に発見しているのか、単に想起しているだけなのかを検証する。ルールが実行可能なため解答を厳密に照合でき、しかも既知の常識と矛盾する「異世界」を用いる。AlienCodeとAlienLogicには55の発見目標と140のタスクがある。10システムの評価では上位のものは未知の規則を獲得できたが、スコアは試行ごとに大きく揺れ、探索を続けると停滞や後退も起きた。
4Coding Agents for Generalized Task and Motion Planning Problems用编程智能体求解广义任务与运动规划问题汎化タスク・モーションプランニング問題に挑むコーディングエージェント9 UPVOTES · MATTEO MERLER ET AL. · FONDAZIONE BRUNO KESSLER - NLP UNIT · ARXIV 2609.30233Coding agents given only a task description and simulator access were asked to synthesize programs that generalize across task-and-motion-planning instances, work that normally needs hand-built TAMP engineering. Over 980 programs and 98,000 evaluation episodes, all three agent configurations beat hand-engineered planners, at 56 to 95 percent mean success against 47 percent, on an order of magnitude less compute.研究者只给出任务描述和仿真器访问权限,要求编程智能体合成能跨实例泛化的程序,而这类工作通常需要大量手工的任务与运动规划(TAMP)工程。在 980 个生成程序、共 98,000 次评测回合中,三种智能体配置全都胜过手工规划器:平均成功率为 56% 至 95%,而规划器为 47%,且每个实例的计算量低一个数量级。タスクの説明とシミュレータへのアクセスだけを与え、コーディングエージェントにタスク・モーションプランニング(TAMP)の事例横断で通用するプログラムを合成させた。通常は手作りのTAMP工学を要する作業である。980本のプログラムと98,000回の評価エピソードを通じ、3種のエージェント構成すべてが手作りのプランナーを上回り、平均成功率は56~95%(プランナーは47%)、1事例あたりの計算量は一桁少なかった。
5Learning to Discover Interesting Mathematics学习发现有趣的数学興味深い数学を発見することを学ぶ8 UPVOTES · NIKET PATEL ET AL. · NEW YORK UNIVERSITY · ARXIV 2609.28603The paper defines a theorem's intrinsic interestingness as the ratio of proof length to statement length, and shows the measure correlates strongly with an extrinsic measure of downstream usefulness. A 27B model trained to predict proof difficulty beats frontier general-purpose models, and optimizing for the metric cut substantial or full overlap with Mathlib from 91.9 to 30.6 percent.论文把一条定理的内在趣味性定义为其证明长度与陈述长度之比,并证明该指标与衡量下游有用性的外在指标高度相关。作者训练的 27B 模型在预测证明难度上优于前沿通用模型;以该指标为优化目标后,与 Mathlib 大量或完全重叠的比例从 91.9% 降到 30.6%。本論文は定理の内在的な興味深さを、証明の長さと命題の長さの比として定義し、この指標が下流での有用性を測る外在的な尺度と強く相関することを示す。証明の難しさを予測するよう学習した27Bモデルはフロンティアの汎用モデルを上回り、この指標を最適化するとMathlibとの大幅または完全な重複が91.9%から30.6%へ下がった。
2026-09-25 · FRIDAY · 13:11 PDT
1Your Transformer Can Hold Two Thoughts at Once: Evidence of Linear Superposition in LLMs你的 Transformer 能同时装下两个念头:大语言模型中线性叠加的证据Transformer は二つの思考を同時に保持できる: LLM における線形重ね合わせの証拠53 UPVOTES · PAVEL TIKHONOV ET AL. · ARXIV 2609.29845When two separate text streams are linearly combined at the input, a language model's output approximates a superposition of the two next-token distributions, a behaviour the authors name the Superposition Linearity Hypothesis. They argue it is a property of the Transformer architecture rather than something learned, and report that it weakens as pretraining goes on.把两段互不相干的文本在输入端做线性叠加后,语言模型的输出近似于两者各自下一词分布的叠加,作者将这一现象称为“叠加线性假设”。他们认为这源自 Transformer 架构本身,而非训练习得,并观察到随着预训练推进,这种线性反而会减弱。異なる二つのテキストを入力側で線形に足し合わせると、言語モデルの出力はそれぞれの次トークン分布を重ね合わせたものに近づく。著者らはこれを重ね合わせ線形性仮説と名付け、学習によって生じたものではなく Transformer の構造そのものに由来すると論じ、事前学習が進むほど弱まると報告している。
2HappyWorld-Bench40 UPVOTES · ZHIQI BAI ET AL. · ALIBABA · ARXIV 2609.24308A benchmark for world models that scores not only the quality of the world a model generates but whether it stays consistent and responsive while an agent explores, interacts with and edits it. Six world capabilities are arranged in a hierarchy and run across three separate tracks covering video, spatial and embodied world models.一套面向世界模型的评测基准,衡量的不只是模型生成世界的质量,还包括智能体在探索、交互和修改过程中该世界能否保持一致并作出响应。基准把六项世界建模能力排成层级,并分别在视频、空间和具身三条独立赛道上进行评测。世界モデル向けのベンチマークで、生成された世界の品質だけでなく、エージェントが探索・操作・改変を行っても一貫性と応答性を保てるかを評価する。六つの世界能力を階層として整理し、動画・空間・身体性という三つの独立したトラックで測定する。
3WanPE: Towards Cinematic Prompt Enhancement for Modern Text-to-Video GenerationWanPE:面向现代文生视频的电影化提示词增强WanPE: 現代のテキスト動画生成に向けた映画的プロンプト強化24 UPVOTES · YUBO ZHU ET AL. · ARXIV 2609.30221WanPE is a 397-billion-parameter prompt enhancement model trained on 1.05 million real videos to turn a short prompt into a shot-level plan for action, camera movement, lighting and sound. The plans are built by reverse-constructing them from video, and the target is generators that now run to 30 seconds across multiple shots.WanPE 是一个 3970 亿参数的提示词增强模型,基于 105 万条真实视频训练,可把一句简短提示扩写成镜头级的拍摄方案,涵盖动作、运镜、灯光与声音。这些方案通过从视频反向构建得到,目标是服务于如今已能生成 30 秒、多镜头内容的视频模型。WanPE は 3,970 億パラメーターのプロンプト強化モデルで、105 万本の実写動画で訓練され、短いプロンプトを動作・カメラワーク・照明・音までを含むショット単位の演出プランへ展開する。プランは動画から逆向きに構築して用意され、30 秒・複数ショットにまで伸びた最新の動画生成モデルを想定している。
4Schrödinger's Code Repository: Have LLMs Learned SWE-bench or Memorized It?薛定谔的代码仓库:大模型是学会了 SWE-bench,还是背下了它?シュレーディンガーのコードリポジトリ: LLM は SWE-bench を理解したのか、暗記したのか16 UPVOTES · SILIN CHEN ET AL. · SHANGHAI JIAO TONG UNIVERSITY · ARXIV 2609.27891Repository-level coding benchmarks are built on popular open-source projects that models have already trained on, so a high score may reflect memorized cues rather than reasoning. The authors propose SchrodingerRepo, which evaluates coding agents against dynamically instantiated versions of a test repository instead of its one canonical static form.仓库级编码评测基准大多建立在模型早已训练过的热门开源项目之上,因此高分可能只是记住了固定线索,而非真正的推理。作者提出 SchrodingerRepo,用动态生成的仓库表示来考核编码智能体,取代一成不变的单一静态版本。リポジトリ単位のコーディングベンチマークは、モデルが学習済みの人気オープンソース資産の上に作られているため、高得点は推論力ではなく手掛かりの暗記を映している可能性がある。著者らは、固定された一つの静的表現ではなく動的に作り直したリポジトリでエージェントを評価する SchrodingerRepo を提案する。
5PACT: From Credit Assignment to Critic AlignmentPACT:从信用分配到评论家对齐PACT: クレジット割り当てから批評家の整合へ15 UPVOTES · JIAYAN FU ET AL. · ALLSPARK RESEARCH · ARXIV 2609.26355The paper gives token-level credit in reinforcement learning for language models a formal definition, proving that three conditions - completeness, prefix consistency and neutrality - determine it uniquely. That characterization is then used to explain behaviour seen in existing post-training algorithms and to derive an improved actor-critic procedure.论文为语言模型强化学习中的词元级信用给出了严格定义,并证明完备性、前缀一致性与中立性这三条正则条件足以唯一确定它。作者据此解释了现有后训练算法中观察到的种种现象,并推导出一套改进的 actor-critic 训练流程。言語モデルの強化学習におけるトークン単位のクレジットに形式的な定義を与え、完全性・接頭辞整合性・中立性という三つの条件がそれを一意に定めることを証明した論文。この特徴づけを用いて既存の事後学習アルゴリズムで見られる挙動を説明し、改良版の actor-critic 手順を導いている。
2026-09-24 · THURSDAY · 13:10 PDT
1SpeakerMem-R1: Speaker-Centered Dual-Track Memory for Multi-Party DialogueSpeakerMem-R1:面向多方对话的以说话人为中心的双轨记忆SpeakerMem-R1: 多者対話のための話者中心デュアルトラック記憶76 UPVOTES · HAOBO ZHENG ET AL. · ZHEJIANG UNIVERSITY · ARXIV 2609.26780SpeakerMem-R1 proposes a speaker-centered dual-track memory for multi-party dialogue, where a system must track who said what, whom each statement concerns and how those relations change over time. The authors argue existing general-purpose LLM memory systems lose person and group relations and fail to combine clues spread across members and time.SpeakerMem-R1 提出一种面向多方对话、以说话人为中心的双轨记忆结构,用于追踪谁说了什么、每句话涉及谁,以及这些关系如何随时间变化。作者指出,现有通用大模型记忆系统往往丢失人物与群体关系,也难以整合分散在成员和时间上的线索。SpeakerMem-R1 は、多者対話向けに話者を中心に据えたデュアルトラック記憶を提案する。誰が何を言い、各発言が誰に関するもので、その関係が時間とともにどう変わるかを追跡する狙いだ。著者らは、既存の汎用 LLM 記憶システムは人物や集団の関係を取りこぼし、メンバーや時間にまたがる手がかりの統合に苦労すると指摘する。
2Spatial-Interactor: Learning Spatial Reasoning through Interaction with the Observable Physical WorldSpatial-Interactor:通过与可观测物理世界的交互学习空间推理Spatial-Interactor: 観測可能な物理世界との相互作用から空間推論を学ぶ41 UPVOTES · KAIXIANG YAO ET AL. · ZJU-OMNIAI · ARXIV 2609.23038Spatial-Interactor trains vision-language models on interaction trajectories rather than static question answering, so they learn the local state transitions caused by object motion and viewpoint change. The authors argue current spatial training supervises object attributes and relations but gives little signal for tracking state over long trajectories.Spatial-Interactor 用交互轨迹而非静态问答来训练视觉语言模型,使其学习物体运动和视角变化带来的局部状态转移。作者认为,现有空间训练主要监督物体属性与空间关系,对长轨迹上的状态更新几乎没有提供直接信号。Spatial-Interactor は、静的な質問応答ではなく相互作用の軌跡で視覚言語モデルを訓練し、物体の運動や視点変化が生む局所的な状態遷移を学習させる。著者らは、現行の空間学習が物体の属性や位置関係の教師信号に偏り、長い軌跡にわたる状態の更新をほとんど教えられていないと論じる。
3Circuit Hypernetworks for Quantum-Augmented Diffusion Language Models面向量子增强扩散语言模型的电路超网络量子拡張された拡散言語モデルのための回路ハイパーネットワーク26 UPVOTES · XIAOQIANG WANG ET AL. · UNIVERSITE DE MONTREAL · ARXIV 2609.24657HyperQ attaches token-conditioned quantum residual branches to a frozen masked-diffusion language model. Each branch sits inside a transformer block, reads a token's hidden state, emits the coordinates of that token's quantum circuit, executes it, and adds the measured values back through a residual connection, leaving the backbone unchanged.HyperQ 在冻结的掩码扩散语言模型上加装以 token 为条件的量子残差分支。每个分支位于一个 transformer 块内,读取该 token 的隐状态,生成对应量子线路的参数,执行线路后再把测量结果通过残差连接加回主干,主干本身保持冻结。HyperQ は、凍結したマスク拡散言語モデルにトークン条件付きの量子残差分岐を追加する。各分岐は Transformer ブロック内に置かれ、トークンの隠れ状態を読んでそのトークン用の量子回路のパラメータを出力し、回路を実行して測定値を残差接続で戻す。バックボーンは凍結したままだ。
4JEV-as-a-Judge: Accept When Confident, Escalate When UnsureJEV 充当评判者:有把握就采纳,不确定就升级JEV-as-a-Judge: 確信があれば採用し、不確かなら上位に委ねる25 UPVOTES · YUBO LI ET AL. · CARNEGIE MELLON UNIVERSITY · ARXIV 2609.26550The paper tests whether a decision-only judge can serve as a cheap first pass for LLM evaluation and flag the cases that need a stronger model. Against sixteen generative and reward-model judges with blinded human adjudication, jev-as-a-judge lands within three percentage points of the strongest comparator on preference and evidence-grounded factuality at 0.36 percent of its fee.论文考察仅输出决策的评判器能否作为大模型评测的廉价第一道关卡,并挑出需要更强模型复核的样本。在与十六个生成式及奖励模型评判器的对比中(辅以盲测人工裁定),jev-as-a-judge 在偏好判断和有证据支撑的事实性上与最强对照相差不到三个百分点,费用却只有其 0.36%。本論文は、判定のみを返すジャッジが LLM 評価の安価な一次審査として使えるか、そしてより強力なモデルに回すべき事例を選別できるかを検証する。生成型と報酬モデル型の 16 種のジャッジと比較し、盲検の人手裁定を交えた評価で、jev-as-a-judge は選好判断と証拠に基づく事実性において最強の比較対象との差が 3 ポイント以内、費用はその 0.36% にとどまった。
5StableVQ: Practical Guidelines for Stable Vector-Quantized Tokenizer TrainingStableVQ:稳定训练向量量化分词器的实用指南StableVQ: ベクトル量子化トークナイザを安定に学習するための実践指針25 UPVOTES · BAO TANG ET AL. · KOLORS TEAM, KUAISHOU TECHNOLOGY · ARXIV 2609.26774StableVQ examines why vector-quantized visual tokenizers are unstable to train and traces the problem to entanglement between encoder-decoder and codebook training. Because neither module can fulfill its own role in isolation, the authors argue, the system only works when the two happen to cooperate. The paper sets out practical guidelines for stable training.StableVQ 研究向量量化视觉分词器训练不稳定的根源,认为问题出在编码器-解码器与码本训练之间的纠缠。作者指出,由于两个模块都无法独立完成各自职责,整个系统只有在二者恰好配合时才能运转。论文据此给出稳定训练的实用准则。StableVQ は、ベクトル量子化による視覚トークナイザの学習が不安定になる原因を、エンコーダ・デコーダと符号帳の学習が絡み合っている点に求める。著者らは、どちらのモジュールも単独では役割を果たせないため、両者がたまたま協調したときにしか系が機能しないと論じ、安定した学習のための実践的な指針を示す。