Kimi K2.5: Visual Agentic Intelligence

Source

Title: Kimi K2.5: Visual Agentic Intelligence
arXiv: https://arxiv.org/abs/2602.02276
HTML: https://arxiv.org/html/2602.02276v1
PDF: https://arxiv.org/pdf/2602.02276v1
TeX Source: https://arxiv.org/e-print/2602.02276
Code/Project: https://huggingface.co/moonshotai/Kimi-K2.5
OpenReview / Review page: 未发现 official public review；检索 OpenReview 与 arXiv id 只发现引用该报告的其他论文。
Authors: Kimi Team: Tongtong Bai and 324 other authors; appendix lists contributors alphabetically by last name.
Submitted: 2026-02-02
Current version read: v1, 2026-02-02
arXiv DOI: https://doi.org/10.48550/arXiv.2602.02276
Subjects: Computation and Language (cs.CL); Artificial Intelligence (cs.AI); Machine Learning (cs.LG)

作者与关系

Kimi Team / Moonshot AI: Kimi Team / Moonshot AI.
已建档作者重叠：Ruoyu Qin、Weiran He、Weixiao Huang、Yangkun Zhang、Yikai Zhao、Bo Pang、Xinran Xu 出现在 contributor appendix 中，并且此前均出现在 2511.14617。
外部机构线索：contributor appendix 中 Tao Yu 标注 The University of Hong Kong 脚注，显示该报告存在 Moonshot AI 之外的高校协作节点；标题页没有为 325 位作者逐一列出 affiliation 和贡献角色。

阅读目标与判断边界

本笔记关注：

Kimi K2.5 为什么把视觉、文本、工具和并行 agent 放在同一条 post-training pipeline 中。
zero-vision SFT、joint multimodal RL、Agent Swarm / PARL、Toggle token-efficient RL 和 DEP 分别解决什么问题。
这篇报告和本目录已有 RLVR、agentic RL、serving、long-context、train-rollout consistency 论文之间的关系。

判断边界：

这是 tech report，覆盖面很广，许多训练细节、数据构成、reward model 训练、ablation granularity 和开源 checkpoint 对齐信息没有完全展开。
论文评测结果非常强，但报告没有提供完整第三方复现实验环境；对于 Agent Swarm 这类系统性能力，外部复现需要同等工具环境、浏览环境、长上下文服务和 sub-agent orchestration。
大团队作者列表按字母序组织，本笔记避免推断个人贡献，只记录标题页、附录和已存档作者重叠。

论文脉络

1. 研究问题、背景和价值

当前 frontier model 的能力边界正在从“单模型回答问题”转向“模型作为 agent 完成长上下文、多模态、多工具、多阶段任务”。这带来三类同时存在的压力：

视觉输入和长视频让 context window、vision encoder、patch packing 和多模态 token budget 成为系统瓶颈。
browser / coding / OS / search 任务要求模型能在工具环境中多轮行动，训练信号从单轮答案扩展到长轨迹。
宽搜索类任务需要并行探索，单个 agent 的上下文和时间都会成为瓶颈。

Kimi K2.5 的核心价值在于把这些压力合并成一条工程闭环：先用大规模 joint text-vision training 形成通用多模态基座，再用 SFT 和 RL 激活工具与视觉推理能力，最后用 Agent Swarm 把单 agent 的串行执行改造成可训练的并行任务分解。

2. 已有解决方案与不足

已有方案通常分别处理以下问题：

多模态模型训练：把 vision tokens 注入 language model，解决 image/video understanding。
RLVR / long-CoT RL：用 outcome reward 提升数学、代码、推理。
agentic RL：让模型在浏览器、代码环境、工具 API 中交互。
serving / rollout 系统：用 vLLM、SGLang、Megatron、VERL/slime 等系统降低 rollout 和训练成本。
multi-agent / swarm inference：推理时手工组织多个 agents 并行搜索。

K2.5 的问题设定更综合。它希望一个开源 checkpoint 同时覆盖文本推理、视觉推理、视频、agentic coding、浏览搜索、OS 操作和并行 agent orchestration。这样的目标要求训练侧、模型侧和系统侧共同改变：模型需要能理解视觉和工具轨迹，训练需要能产生可验证 reward，系统需要能承载长上下文和多 agent rollout。

3. 作者可能的思考路径

从已有背景出发，作者可能会先看到一个矛盾：agentic tasks 已经明显需要视觉和工具，但如果直接把大量人工设计的 visual tool-use trajectories 放入 SFT，模型容易学习特定轨迹模板，泛化受限。一个更稳的入口是先用强文本 SFT 激活模型的 reasoning、tool use 和代码能力，再让视觉能力通过预训练和 RL 接入这些已有能力。

这解释了 zero-vision SFT 的设计：SFT 阶段只用文本数据，图像操作通过 IPython 等工具调用形式代理。它把“会不会按轨迹格式行动”和“有没有视觉输入泛化能力”拆开处理。随后，outcome-based visual RL 再把视觉 grounding、chart/document understanding、vision-critical STEM 等任务纳入 reward loop，使视觉能力在可验证任务上被强化。

第二个 intuition 来自 agentic search 的时间结构。很多任务天然可以拆成多个互相独立的子问题，例如网页信息搜索、长文档多处检索、批量下载、跨页面事实核验。单个 agent 按顺序做这些事会把 latency 串起来，并且上下文持续膨胀。把子任务交给多个 frozen subagents，同时训练一个 orchestrator 学会分解、调度和汇总，可以把“模型能力”转化为“任务 critical path 缩短”。

第三个 intuition 来自训练工程：多模态训练和 agentic RL 会让视觉 encoder、LLM backbone、tool environment、reward、rollout logprob 和权重同步互相牵连。K2.5 因此在报告中给出 DEP、Token Efficient RL、Unified Agentic RL Environment、LLM Gateway 等工程模块，说明它的贡献由一组互相配合的训练系统组件构成，范围超过单个模型结构变体。

4. 核心假设或切入点

K2.5 的方法建立在几个关键假设上：

早期低比例视觉-文本混合比晚期高比例视觉注入更稳。视觉能力需要在基座形成早期进入 representation learning，但视觉 token 占比过高会挤压文本和推理能力。
文本 SFT 足以激活一部分视觉 agentic 行为的脚手架。视觉输入可以先由工具代理，后续让 RL 把真正视觉任务接回来。
视觉 RL 可以反哺文本 reasoning。视觉任务中的 grounding、spatial reasoning、chart/document inference 和 STEM 推理会提供额外结构化训练信号。
并行 agent 能力需要进入训练目标。仅在 prompt 中要求并行搜索很难稳定学到任务分解，PARL 用辅助 reward 和 critical steps 把并行性纳入可优化信号。
长输出效率需要在 RL 中训练。硬性长度预算会诱发 length overfitting，Toggle 通过预算阶段和标准阶段交替，让模型同时学到简洁输出和保留 test-time token 扩展能力。

5. 方法 / 系统 / 理论框架

5.1 模型基础：Kimi K2 + MoonViT-3D

Kimi K2.5 建在 Kimi K2 上，Hugging Face model card 给出的结构是：

Component	Description
LLM backbone	MoE language model
Total parameters	1T
Activated parameters	32B
Layers	61
Experts	384 total, 8 selected per token
Context length	256K
Attention	MLA
Vision encoder	MoonViT, about 400M parameters

论文正文补充：backbone 是 1.04T total / 32B activated / 384 experts / 8 activated per token 的 MoE；optimizer 使用 MuonClip with QK-Clip。

MoonViT-3D 是视觉侧关键模块：

initialized from SigLIP-SO-400M。
使用 NaViT-style patch packing 支持 native-resolution images。
把最多 4 个连续视频帧视为 spatiotemporal volume。
图像和视频共享 encoder 与 embedding space。
对 patch-level features 做轻量 temporal pooling，在相同 context window 下支持约 4 倍更长视频。

这个设计的核心是减少视频 token 压力。长视频任务中，视觉 token 进入 LLM context 后会直接挤压文本推理空间，因此 K2.5 用 3D packing 和 temporal compression 先在视觉侧降低序列长度。

5.2 Joint text-vision optimization

论文给出三阶段预训练：

Stage	Data	Sequence length	Tokens	Trainable modules
ViT Training	alt text, synthetic captions, grounding, OCR, video	4,096	1T	ViT
Joint Pre-training	text, knowledge, interleaving, video, OS screenshots	4,096	15T	ViT + LLM
Joint Long-context Mid-training	high-quality text/multimodal, long text, long video, reasoning, long-CoT	32,768 -> 262,144	500B -> 200B	ViT + LLM

关键 ablation 是 vision injection timing 和 vision:text ratio：

Setting	Vision injection timing	Vision:Text	Vision Knowledge	Vision Reasoning	OCR	Text Knowledge	Text Reasoning	Code
Early fusion	0%	10%:90%	25.8	43.8	65.7	45.5	58.5	24.8
Mid fusion	50%	20%:80%	25.0	40.7	64.1	43.9	58.6	24.0
Late fusion	80%	50%:50%	24.2	39.0	61.5	43.1	57.8	24.0

在固定 token budget 下，early low-ratio fusion 最强。直观解释是：视觉信息早进入 representation learning，模型可以在低占比视觉 token 下形成稳定对齐；晚期大量视觉 token 注入更像局部适配，对通用文本和代码能力的保护较弱。

5.3 Zero-Vision SFT

K2.5 的 SFT 阶段先使用 text-only data。论文称 image manipulations are proxied via IPython，也就是把图像处理相关动作以工具调用形式放入文本轨迹中，让模型学习：

如何提出操作计划。
如何调用工具。
如何读取工具返回。
如何把中间观测转化为下一步行动。

作者的经验观察是：人工设计的 visual SFT trajectories 在 preliminary experiments 中损害泛化。zero-vision SFT 的作用是先训练 agentic scaffold，再通过后续视觉 RL 接入真实视觉输入。

这个设计和 2606.00135 的 harness 讨论相通：模型 tool use 能力与训练时看到的 schema、history serialization、tool return format 强相关。K2.5 选择让文本 SFT 学工具行为，再让视觉 RL 处理视觉 grounding，属于把 harness 学习和视觉泛化分阶段处理。

5.4 Outcome-Based Visual RL

视觉 RL 任务覆盖：

visual grounding and counting。
chart / document understanding。
vision-critical STEM reasoning。

reward 设计包括：

grounding IoU / point distance。
polygon segmentation IoU。
OCR edit distance。
counting absolute error。
visual puzzle verifier based on Kimi K2。
general open-ended tasks 的 GRM reward，覆盖 helpfulness、readiness、relevance、detail、aesthetics、instruction following。

视觉 RL 还反哺文本指标：

Metric	Before visual RL	After visual RL	Gain
MMLU-Pro	84.7	86.4	+1.7
GPQA-Diamond	84.3	86.4	+2.1
LongBench v2	56.7	58.9	+2.2

这里的解释是：视觉任务训练 perception 的同时，很多 visual STEM、chart/document 和 grounding 任务要求模型进行结构化推理、证据定位和长上下文整合，这些训练信号会迁移到文本 reasoning。

5.5 RL objective and clipping

论文的 RL objective 可概括为 token-level clipped ratio 加 outcome advantage，再加 log-ratio penalty：

\mathcal{L}_{\mathrm{RL}}(\theta)= \mathbb{E}_{x}\left[ \frac{1}{N}\sum_{j=1}^{K}\sum_{i=1}^{|y_j|} \operatorname{Clip}\left( \frac{\pi_{\theta}(y_{j,i}\mid x,y_{j,<i})} {\pi_{\mathrm{old}}(y_{j,i}\mid x,y_{j,<i})}, \alpha,\beta \right) \left(r(x,y_j)-\bar r(x)\right) -\tau \left(\log \frac{\pi_{\theta}}{\pi_{\mathrm{old}}}\right)^2 \right].

其中 $N=\sum_{j=1}^{K}|y_j|$ ， $\bar r(x)$ 是同一 prompt 下 responses 的平均 reward。

这里的 clipping 更接近对 token contribution range 的限制。论文描述中，out-of-range tokens 的梯度会被 zeroed；它和 PPO 原始 min/clip surrogate 的思想有联系，但具体形式更贴近长输出 RL 中对 token-level logprob drift 的控制。和 2506.13585 的 CISPO 一样，这类 objective 的重点是让长 response 中每个 token 的更新贡献有稳定边界。

5.6 Token Efficient RL / Toggle

长输出 RL 中常见问题是：模型分数提升后输出越来越长，导致 inference cost 上升。直接加入硬 budget 可以压缩长度，但容易让模型对训练时 budget 过拟合，推理时给更多 token 也不会继续提升。

K2.5 的 Toggle 在 RL 中交替两个阶段：

Budget-limited phase：当一个问题的平均准确率超过阈值 $\lambda$ 后，对超过 budget 的正确 response 置零 reward。
Standard scaling phase：恢复正常 reward 和最大 token limit，让模型保留使用更多 token 解决难题的能力。

budget 固定在训练开始时从正确 responses 的长度分布中取 percentile：

B(x)=\operatorname{Percentile}(\{|y_j|:r(x,y_j)=1\},\rho).

在 K2 Thinking 的实验中，Toggle 将平均输出 token 减少 25-30%，性能影响很小，并且从 math/programming 训练迁移到 GPQA、MMLU-Pro 等任务。这个结果说明长度控制可以作为 RL 目标训练，而不用完全依赖推理时截断。

5.7 Agent Swarm and PARL

Agent Swarm 是 K2.5 最有辨识度的部分。它把一个主 agent 变成 trainable orchestrator，允许它动态实例化多个 frozen subagents。sub-agent 输出被当作 environment observation，训练目标只更新 orchestrator。

PARL reward：

r_{\mathrm{PARL}}(x,y)=\lambda_1 r_{\mathrm{parallel}}+\lambda_2 r_{\mathrm{finish}}+r_{\mathrm{perf}}(x,y).

$r_{\mathrm{parallel}}$ ：鼓励主 agent 真正实例化并行子任务，避免 serial collapse。
$r_{\mathrm{finish}}$ ：鼓励 subagents 完成任务，避免无效并行。
$r_{\mathrm{perf}}$ ：最终 task-level outcome reward。
$\lambda_1,\lambda_2$ 会 anneal to zero，让最终策略主要由任务表现驱动。

论文还引入 critical steps。每一阶段可以是主 agent 单步行动，也可以是一组并行 subagents；并行阶段的 duration 由这一组 subagents 中最长 step count 决定。总 critical steps 类似并行计算中的 critical path。训练目标因此鼓励缩短端到端 latency，并控制无效 agent 数量增长。

Agent Swarm prompt distribution 强调：

wide search。
deep search。
long-context document analysis。
batch download。

这些 prompt 没有显式命令模型并行化，训练信号推动 orchestrator 自己学会何时分解、何时汇总、何时继续搜索。

5.8 Decoupled Encoder Process

多模态训练的工程瓶颈在视觉 encoder。传统 pipeline 把 vision encoder 放在 pipeline parallel stage 0，会导致：

image count / resolution 差异造成 stage 0 负载波动。
stage 0 额外占用显存。
纯文本训练并行配置无法直接复用。

DEP 把 vision encoder 从主 backbone training pipeline 中拆出来：

Balanced Vision Forward：在所有 GPUs 上复制小型 vision encoder，按 image / patch count 做负载均衡 forward，丢弃中间 activations，只把最终视觉 embedding 发回 PP Stage 0。
Backbone Training：主 transformer 按文本训练配置 forward/backward，在 vision encoder output 处累积 gradient。
Vision Recomputation & Backward：重新计算 vision encoder forward，再对 vision encoder 做 backward。

报告称该方案使多模态训练效率达到 text-only training 的约 90%。这部分和 2205.14135、2307.08691、2606.04101 的系统视角一致：真正的 frontier model 训练瓶颈来自 data movement、pipeline balance、expert/encoder load balance 和 memory hierarchy。

5.9 Unified Agentic RL Environment

appendix 描述了统一 agentic RL environment：

Gym-like interface。
pluggable Toolset、Judge、prompt diversification 和 instruction-following modules。
每个 agent task 是 independent async coroutine。
tasks 可以递归触发 sub-task rollouts，支持 PARL 和 Agent-as-Judge。
Rollout Manager 可调度最高 100,000 concurrent agent tasks。
支持 partial rollout。
token-in-token-out paradigm。
记录 inference engine outputs 的 log probabilities，用于 train-inference mismatch correction。
LLM Gateway proxy 让黑盒环境也可以通过标准 LLM API 接入，并记录 rollout requests / responses。

这部分和 2602.15763、slime 官方项目的 TITO / async RL / gateway 设计非常接近，也和 2605.14220 的 rollout logprob correction 形成直接关系。

6. 结论链条

K2.5 的结论链可以拆成六步：

Kimi K2 的 MoE backbone 和 256K context 提供文本、代码和长上下文基础能力。
MoonViT-3D + early low-ratio joint text-vision pretraining 让视觉能力进入通用表示，同时控制视觉 token 对文本能力的挤压。
zero-vision SFT 先激活 tool-use / reasoning scaffold，随后 visual RL 用可验证视觉任务训练 perception-to-reasoning loop。
Toggle token-efficient RL 控制长输出成本，同时保留 test-time scaling 空间。
DEP、Unified Agentic RL Environment、logprob recording 和 LLM Gateway 承载多模态 agentic RL 的工程复杂度。
Agent Swarm / PARL 把单模型能力扩展为可训练的并行任务分解和调度能力，在 wide search / browse / document analysis 上提升 F1 并降低 latency。

关键实验/定理

结果 1：early low-ratio vision fusion 最优

设置：固定 token budget，比对 early / mid / late 三种视觉注入时机和不同 vision:text ratio。
Baseline：mid fusion 20%:80%、late fusion 50%:50%，以及同一 budget 下的不同视觉注入时机；这是较直接的训练策略 ablation。
指标：Vision Knowledge、Vision Reasoning、OCR、Text Knowledge、Text Reasoning、Code。
结果：early fusion, 10%:90% vision:text 在所有列上整体最好，OCR 65.7、Text Reasoning 58.5、Code 24.8。
解读：视觉训练需要尽早进入 representation learning，但视觉 token 比例要受控。晚期高比例视觉注入没有带来更强视觉指标，还拖累文本与代码。

结果 2：视觉 RL 反哺文本 reasoning

设置：在 visual grounding、counting、document/chart、vision-critical STEM 上做 outcome-based visual RL。
Baseline：visual RL 之前的同一 K2.5 checkpoint；该对照能观察视觉 RL 前后变化，但仍混合 reward mixture、训练 token 和 curriculum 影响。
指标：MMLU-Pro、GPQA-Diamond、LongBench v2。
结果：MMLU-Pro 从 84.7 到 86.4，GPQA-Diamond 从 84.3 到 86.4，LongBench v2 从 56.7 到 58.9。
解读：视觉任务中的结构化证据定位、跨模态约束和 STEM reasoning 可能提升通用推理表示。该结论仍需要更多 ablation 排除训练 token、reward mixture 和 curriculum confound。

结果 3：Agent Swarm 提升 wide search 并降低 latency

设置：比较 Kimi K2.5 single-agent、Kimi K2.5 Agent Swarm、Claude Opus 4.5、GPT-5.2、GPT-5.2 Pro 等模型在 BrowseComp、WideSearch 和 in-house Swarm Bench 上的表现。
Baseline：Kimi K2.5 single-agent 是最关键的内部 baseline；Claude/GPT 系列提供 frontier 外部对照，但工具环境、sub-agent orchestration 和 sampling budget 不完全可比。
指标：任务分数和 WideSearch execution time。
结果：BrowseComp 上 Agent Swarm 78.4，高于 K2.5 single-agent 的 60.6；WideSearch 上 Agent Swarm 79.0，高于 single-agent 的 72.7；论文称 WideSearch 执行时间最高加速约 3x-4.5x。
解读：对于可并行搜索任务，训练 orchestrator 分配 subagents 能同时提升准确率和降低 critical path。它的价值集中在任务可拆分、子任务可独立推进、汇总成本可控的场景。

结果 4：Toggle 降低输出 token

设置：在 K2 Thinking 上训练 token-efficient RL，交替 budget-limited phase 和 standard scaling phase。
Baseline：标准 long-output RL / K2 Thinking 原始策略；Toggle 的关键对照是只压缩长度和保留 standard scaling phase 的差别，论文公开粒度仍不足以完全分离。
指标：平均输出 token、任务性能、跨任务泛化。
结果：平均输出 tokens 降低 25-30%，性能影响很小，并能从 math/programming 迁移到 GPQA 和 MMLU-Pro。
解读：长度控制可以作为可训练能力嵌入策略，和推理时截断形成互补。Toggle 的关键是保留标准阶段，避免模型学习“短输出即目标”。

结果 5：整体 benchmark surface

设置：K2.5 在 general, reasoning, coding, agentic, multimodal, video, OS/web tasks 上评测；温度 1.0，top-p 0.95，context length 256K。
Baseline：闭源 frontier models、开源/开放权重 multimodal 和 agentic models，以及 Kimi K2/K2.5 single-agent/Agent Swarm 内部对照；强度高，但 harness、工具环境、context management 和 release timing 会显著影响结论。
解读：K2.5 的定位是 broad agentic model，强项不只在静态文本 benchmark，也包括工具、视频、网页和 OS 操作。

结果摘录：

指标	Kimi K2.5
HLE-Full	30.1
HLE-Full with tools	50.2
AIME 2025	96.1
GPQA-Diamond	87.6
MMLU-Pro	87.1
SWE-Bench Verified	76.8
Terminal Bench 2.0	50.8
MMMU-Pro	78.5
VideoMMMU	86.6
OSWorld-Verified	63.3

实验设置与 baseline 审计

维度	记录
模型与初始化	Kimi K2 text MoE backbone + MoonViT-3D；约 1T total / 32B activated；256K context
数据与任务	text / vision joint pretraining、long-context mid-training、zero-vision SFT、visual RL、agentic RL、Agent Swarm prompts；完整数据 mixture 和过滤规则公开有限
RL / 训练配置	outcome-based visual RL、token-level clipped ratio objective、Toggle token-efficient RL、PARL；batch、rollout width、reward weights、sub-agent checkpoint policy 和 KL/penalty 配置披露有限
系统配置	DEP、Unified Agentic RL Environment、LLM Gateway、rollout logprob recording、partial rollout、100,000 concurrent agent tasks
技术报告训练配置	披露 vision injection ablation、DEP efficiency、Toggle 25-30% token reduction、Agent Swarm 对照；未给完整训练硬件和成本账本
未披露项	训练 GPU 数、硬件型号、并行方式、训练 tokens 分项、wall-clock、GPU hours、美元成本、完整 reward / rollout 超参
评测协议	覆盖 general / reasoning / coding / multimodal / video / browser / OS / Swarm；Agent Swarm 和 OS/web 任务对 tool environment 与 prompt protocol 高敏感
统计报告	主表多数为单点结果，缺少多 seed、误差线和第三方复验
Baseline 强度	覆盖强闭源和强开源模型，并有 K2.5 single-agent 内部对照；跨模型 compute matching、tool matching 和 scaffold matching 仍难以确认
结论边界	K2.5 可作为 Moonshot multimodal agentic RL pipeline 的主来源；组件级因果结论需要更多公开 ablation

证据链强度评估

强证据

early/mid/late vision injection ablation 直接支持“早期低比例视觉融合更优”的工程选择。
Agent Swarm 的 BrowseComp / WideSearch / Swarm Bench 对比直接支持“并行 orchestrator 在可拆分搜索任务上有效”。
DEP 的 pipeline 设计清楚解释了多模态训练中 stage-0 bottleneck，并给出接近 text-only 90% efficiency 的系统指标。
Token Efficient RL 的 Toggle 设计和 25-30% token reduction 结果直接对应长输出成本问题。

中等强度证据

视觉 RL 提升 MMLU-Pro、GPQA-Diamond、LongBench v2 说明存在 cross-modal transfer，但需要更细的数据 mixture / compute / curriculum ablation。
Unified Agentic RL Environment 的 100,000 concurrent tasks 能力说明系统规模，但外部复现依赖 Moonshot 内部环境和 workload。
K2.5 相对其他 frontier models 的 benchmark 对比覆盖广，但不同模型的 tool settings、context management、sampling 参数和 release timing 需要统一基准进一步确认。

需要谨慎的推论

“visual RL improves textual reasoning” 目前可作为经验结论，机制层还需要 disentangle：可能来自额外 reasoning data、reward mixture、curriculum、long-context training 或视觉任务本身。
Agent Swarm 的提升可能与 prompt distribution、工具环境、sub-agent checkpoint 选择、context management 策略共同相关，不能简化为“多开 agent 必然提升”。
K2.5 开源 checkpoint 能否完全复现报告中的全部 agentic / swarm results，需要独立验证部署代码、工具环境和 prompt protocol。

OpenReview / 审稿意见吸收

Venue status: arXiv technical report；未发现 official OpenReview review forum。
Public reviews: 检索 OpenReview 与 arXiv id，结果主要是引用 Kimi K2.5 的其他 OpenReview 论文，未发现 Official_Review、Author_Response、Meta_Review 或 Decision。
Ratings / confidence: 未发现。
Reviewer consensus: 未发现。
Main criticisms: 无公开 reviewer comments；本地审计重点放在工具环境、Agent Swarm baseline、视觉 RL 因果拆解、长度控制、rollout logprob consistency 和安全/监控风险。
Author response: 未发现。
可信度影响: 适合作为 Moonshot multimodal agentic RL pipeline 的技术路线来源；正式 peer review 信号缺失，agentic/swarm 结论需要统一 harness 和第三方复验。

本地讨论补充

1. 讨论收敛点

这篇报告的核心是 multimodal pretraining、text-only SFT、visual RL、agentic RL environment 和 swarm orchestration 的组合。
zero-vision SFT 的关键价值在于先训练 tool-use scaffold，降低人工视觉轨迹带来的格式和任务模板过拟合风险。
Agent Swarm 的训练目标应理解为 critical path optimization：让 orchestrator 学会把宽搜索、批量检索、长文档分析拆给多个 frozen subagents。
Token Efficient RL 的 Toggle 说明长度本身也可以被后训练塑形，但要保留标准阶段，使模型在难题上仍能使用更多计算。

2. 修正后的理解

K2.5 的 multimodal 能力包含 1T ViT training、15T joint pretraining，以及长上下文 mid-training。
Agent Swarm 属于训练目标的一部分。PARL 把并行实例化、finish rate 和 task reward 写入训练目标，训练对象是 orchestrator policy。
DEP 的重要性在于让多模态训练复用文本 MoE backbone 的并行配置，避免 vision encoder 绑定 PP stage 0 后造成负载失衡。

3. 后续复验指标

对 open checkpoint 做同一 prompt protocol 下的 multimodal、browser、coding、OS task 复测。
对 Agent Swarm 分别记录 sub-agent 数量、critical steps、总 tool calls、latency、answer quality，检查收益来自并行分解还是额外 compute。
对 visual RL 的文本收益做 ablation：移除视觉输入、只保留同等 token 数的文本 reasoning RL、只保留 document/chart tasks、只保留 STEM visual tasks。
记录 rollout/trainer logprob mismatch，尤其是 MoE routing、视觉 encoder precision、tool trace serialization 对 RL stability 的影响。

主要启发

多模态 agentic model 的训练要同时处理表示学习、工具轨迹、reward、长上下文和系统调度。只优化单个模块很难覆盖真实任务。
zero-vision SFT 是一个很值得关注的训练策略：先用文本轨迹学习行动结构，再用视觉 RL 对齐真实感知任务。
Agent Swarm 把“多 agent 协作”从 prompt engineering 推进到可训练 objective，关键变量是 critical path、subtask finish rate 和最终 outcome。
DEP 展示了多模态训练中的一个通用系统模式：小 encoder 可复制和重算，大 backbone 保持成熟文本并行策略。
K2.5、GLM-5、slime、MiniMax-M1、Seer、Bebop 都指向同一趋势：frontier post-training 的瓶颈正在从单个 RL objective 扩展到 rollout service、tool environment、context management、logprob correction 和 weight sync 的整体闭环。

局限

论文没有给出完整训练数据、reward model、prompt set、tool environment 和 sub-agent checkpoint 的可复现配置。
大量 benchmark 对比依赖具体 tool settings 和 context management，跨模型比较需要统一 agent harness。
Agent Swarm 的额外计算量、sub-agent 成本、失败恢复、信息汇总偏差和安全监控没有充分展开。
视觉 RL 反哺文本 reasoning 的因果机制还需要更细 ablation。
大团队作者列表缺少逐作者贡献和 affiliation 表，作者关系只能记录组织与已知重叠。

跨论文关系

与 2511.14617：两者共享 Moonshot/Kimi 生态和多位已建档作者。Seer 优化 synchronous RL rollout 的 context learning、KVCache 和 long-tail latency；K2.5 报告展示 agentic/multimodal RL 的上层任务和环境需求。
与 2602.15763 和 slime 官方项目：都将 agentic RL 做成 production pipeline，关注 TITO / LLM Gateway / async rollout / tool environment / logprob recording。K2.5 强调 visual agentic intelligence 和 Agent Swarm，GLM-5/slime 强调 RL framework 与异步数据流。
与 2605.14220 和 2025-09-10：K2.5 appendix 明确记录 rollout log probabilities 用于 mismatch correction，说明 train-inference consistency 已经进入 production agentic RL 环境设计。
与 2506.13585：两者都是 long-context / long-output / agentic RL 系统型报告。MiniMax-M1 侧重 Lightning Attention、CISPO 和 1M context；K2.5 侧重 MoonViT-3D、joint multimodal RL、Toggle 和 Agent Swarm。
与 2503.14476、2501.12948、2505.24864：K2.5 延续 verifiable/outcome reward 和 token-level policy update 的 long-CoT RL 主线，并将 reward domains 扩展到视觉和 agentic tasks。
与 2606.00135：tool-use harness、工具 schema、多轮 history 和工具返回都是训练分布的一部分。K2.5 的 zero-vision SFT 和 Unified Agentic RL Environment 可以视为对 harness-dependent tool use 的 production 级处理。
与 2506.10947 和 2510.20270：K2.5 的 Agent Swarm / visual RL reward 需要警惕 proxy exploitation。尤其是 sub-agent finish rate、parallel reward、tool-based judge 和 visual verifier 都可能成为新的 proxy。
与 2205.14135、2307.08691、2405.17381、2606.10650：K2.5 的 256K context、长视频和多模态 agentic workload 继续放大 attention / memory / token compression 的系统价值。
关系状态：本笔记的 跨论文关系 已记录 Kimi K2.5、Multimodal Agentic Intelligence 与 Agent Swarm。

Reference Intake Brief

Target

Intended target system: 新增 Kimi K2.5 独立论文笔记，更新索引行和 Moonshot/Kimi、agentic RL、multimodal RL、swarm orchestration 关系章节。
Existing related assets: content/utility/papers-index.md；2511.14617；2602.15763；2506.13585；2605.14220。
Proposed form: 维护 2602.02276-kimi-k2-5-visual-agentic-intelligence.md，并同步索引行与已有作者条目。

Reusable Elements

Kimi K2.5 架构摘要：1T MoE、32B activated、384 experts、8 experts/token、256K context、MoonViT-3D。
训练链条：ViT Training -> Joint Pre-training -> Joint Long-context Mid-training -> zero-vision SFT -> outcome-based visual RL -> Agent Swarm / PARL。
系统链条：DEP、Unified Agentic RL Environment、LLM Gateway、rollout logprob recording、partial rollout、100,000 concurrent agent tasks。
关系链条：Kimi K2.5 和 Seer 的 Moonshot 作者重叠；和 GLM-5/slime/MiniMax-M1 的 agentic RL 系统对照；和 TIM/determinism 的 train-rollout consistency 关系。

Risks

Copyright/over-copying: 本笔记使用概括、表格重组和公式转写，没有复制大段原文。
Unsourced or unverifiable claims: 作者 affiliation 和贡献角色只记录可从 arXiv、appendix、Hugging Face model card、已建档作者页验证的信息。
Tone/brand mismatch: 采用论文存档目录的分析语气，避免宣传式表达。
Safety/compliance issues: 论文涉及 agentic tool use 和 web/OS task，本笔记保留机制、风险和评测启发，不记录可直接滥用的操作流程。
Overlap with existing assets: 与 Seer、GLM-5、MiniMax-M1 有明确 overlap，已在跨论文关系中合并；slime 仅作为外部工程参照。

Skipped

Material	Reason
325 位 contributors 的完整逐人作者页	v1 缺少逐人 affiliation / contribution；大团队列表自动拆分会引入低质量条目
具体 prompt / tool environment 复现脚本	论文未公开完整配置
全部 benchmark 表逐项复刻	本笔记保留代表性结果和系统判断，避免表格堆叠

Recommendation

Decision: merge

Why: Kimi K2.5 是 Kimi/Moonshot 多模态 agentic RL 的核心技术报告，和本目录已有 Seer、GLM-5/slime、MiniMax-M1、TIM、DAPO/RLVR、FlashAttention/long-context 多条主线存在强关系，值得作为独立节点存档。

Source #

作者与关系 #

阅读目标与判断边界 #

论文脉络 #

1. 研究问题、背景和价值 #

2. 已有解决方案与不足 #

3. 作者可能的思考路径 #

4. 核心假设或切入点 #

5. 方法 / 系统 / 理论框架 #

5.1 模型基础：Kimi K2 + MoonViT-3D #

5.2 Joint text-vision optimization #

5.3 Zero-Vision SFT #

5.4 Outcome-Based Visual RL #

5.5 RL objective and clipping #

5.6 Token Efficient RL / Toggle #

5.7 Agent Swarm and PARL #

5.8 Decoupled Encoder Process #

5.9 Unified Agentic RL Environment #

6. 结论链条 #

关键实验/定理 #

结果 1：early low-ratio vision fusion 最优 #

结果 2：视觉 RL 反哺文本 reasoning #

结果 3：Agent Swarm 提升 wide search 并降低 latency #

结果 4：Toggle 降低输出 token #

结果 5：整体 benchmark surface #

实验设置与 baseline 审计 #

证据链强度评估 #

强证据 #

中等强度证据 #

需要谨慎的推论 #

OpenReview / 审稿意见吸收 #

本地讨论补充 #

1. 讨论收敛点 #

2. 修正后的理解 #

3. 后续复验指标 #

主要启发 #

局限 #

跨论文关系 #

Reference Intake Brief #

Target #

Reusable Elements #

Risks #

Skipped #

Recommendation #