SPORK: Self Speculative Forking to Accelerate Agentic LLM Inference

Source #

• Workflow version: v2
• Material type: research-paper
• Canonical source: https://arxiv.org/abs/2607.03333
• Title: SPORK: Self-Speculative Forking to Accelerate Agentic LLM Inference
• Authors: Huajun Bai, Weiwei Lv, Huichuan Zheng, Youyou Lu, Jiwu Shu
• Responsible organization: Tsinghua University; Meituan
• arXiv: https://arxiv.org/abs/2607.03333
• PDF: https://arxiv.org/pdf/2607.03333
• Code/Project: https://github.com/baihuajun24/spork
• OpenReview / Review page: 未发现可可靠匹配的公开投稿或审稿页（核验于 2026-07-15）
• Submitted: 2026-07-03 13:51:32 UTC
• Published / updated: 2026-07-03（arXiv v1）
• Current version read: arXiv v1；TeX source；PDF；官方代码仓库 main commit 31d5ab6f0740d5b5aa26e6a745dc97bcff5139a3
• Version / revision read: arXiv:2607.03333v1
• Accessed: 2026-07-16
• Subjects: cs.DC（primary）；cs.AI；cs.LG

作者与关系 #

• Huajun Bai: Tsinghua University.
• Weiwei Lv: Meituan.
• Huichuan Zheng: Tsinghua University；历史机构：Shandong University.
• Youyou Lu: Tsinghua University.
• Jiwu Shu: Tsinghua University.

作者关系上，Huajun Bai、Huichuan Zheng、Youyou Lu 与 Jiwu Shu 位于同一清华大学存储研究组。Huajun Bai 是联系人作者和代码仓库 owner，也是 Jiwu Shu 指导的博士生；Huichuan Zheng 是该组博士后，公开主页记录 Jiwu Shu 为合作导师；Youyou Lu 为副教授；Jiwu Shu 为通讯作者、教授和课题组负责人。Weiwei Lv 形成 Meituan 与清华系统研究团队之间的机构桥接；该姓名存在较高同名风险，当前只保留论文作者块支持的机构事实。当前本地档案未发现五位作者与已存档论文作者重叠。

阅读目标与判断边界 #

本笔记关注：

1. 同一个模型如何同时承担主生成、未来工具调用预测和失败分支验证。
2. D1、D2、D3 分别改变哪一项延迟成本，以及 break-even 条件如何使用。
3. 论文的端到端速度、质量保持、baseline 可比性和公开代码复现边界。

判断边界：

• 分析对象是 inference-time controller 与 serving integration；SPORK 不训练模型，也没有 RL、SFT 或额外 predictor 参数。
• “无 correctness penalty”直接覆盖 strict call match、目标模型 token verification 与论文限定的只读工具。对时间敏感的外部读取、API 返回漂移和生产环境副作用，仍需额外定义 observational equivalence。
• 论文正文的 D3 数字来自 paper engine mode；公开 SPORK-HTTP 通过 runtime monkey patch 把同一 D3 机制注入 vLLM engine。现有材料可以确认机制关系，尚未建立两条路径的实现与性能等价性。
• 实验以 temperature 0、seed 42 为主；网络搜索和 serving batching 仍可能产生轨迹差异，所以真实工具上的质量结论来自 aggregate EM/F1。

证据写法：

• 论文事实：正文、附录、图表、TeX source、官方仓库直接给出的设计、数字和限制。
• 作者主张：摘要、引言、结论与 README 对适用范围和正确性的解释。
• 本地分析：对成本式、并发资源、工具语义和配置可比性的重建与校准。
• 关键判断附 证据定位，使用章节、图、表、附录或代码路径。

论文脉络 #

1. 研究问题、背景和价值 #

典型 ReAct agent turn 的关键路径为：

$$\text{(re)prefill} \rightarrow \text{reasoning decode} \rightarrow \text{tool-call decode} \rightarrow \text{tool execution}.$$

工具调用只有在模型完整生成 Action 后才能启动，下一轮又要等待 Observation 返回。论文测得工具执行占端到端 wall time 的 16%（tau2-bench，2 秒模拟 floor）、19%（GAIA）和 37%（BrowseComp）；BrowseComp 的工具延迟中位数为 1.19 秒，$P_{95}$ 达 70 秒。只优化 token generation 会保留这段串行等待。

若系统能在模型完成 reasoning 前预测同一轮最终工具调用，就可以让工具执行与后续 decode 并行。这个问题的价值集中在交互延迟和 tail latency：模型输出、网络检索与数据库操作可以在同一 turn 内形成 overlap，无需改变 agent policy 或工具协议。

证据定位：Section 2.1；Figure 2；Appendix D（BrowseComp Timing Decomposition）。

2. 已有解决方案与不足 #

• Token-level speculative decoding 用 draft model、MTP head 或 n-gram proposal 缩短 decode；工具仍在 Action 完整生成后启动。
• Parallel tool calling 需要模型提前识别相互独立的工具；论文引用的 GAIA 与 SWE-bench 统计显示，只有 15% 到 25% 的调用可与前序调用并行。
• Workflow prewarming 依赖已知 execution graph；开放式 agent 的工具和参数在运行时生成。
• Action-level speculation 已有 auxiliary predictor、verifier policy、历史 trace replay 或小模型 drafter 路线；它们需要额外模型、离线数据或长期模式积累。

SPORK 将预测源约束为当前正在运行的 target model，并利用该请求已经生成的 prefix KV。这个约束消除了额外训练和第二模型部署，同时把探针请求引入同一 serving engine 的资源竞争问题。

证据定位：Sections 2.1、7；官方 README Why it works 与 Serving the model。

3. 作者可能的思考路径 #

以下为本地分析的受约束重建：

1. 先把 agent turn 分解为 decode 与 tool wait，确认工具等待已经进入 16% 到 37% 的可优化区间。
2. 尝试在 decode 早期强制补上 tool-call prefix，观察模型是否会暴露最终 Action。Qwen3-32B 在五个 benchmark 上的 tool-name accuracy 达到 74.6% 到 99.6%，说明 next-tool intent 往往早于完整 arguments 稳定。
3. 继续测量 probe logprob，发现正确 tool-name span 的概率显著高于错误 span；于是可以用模型自身置信度选择提交时间。
4. 检查严格拒绝的 probe，发现其 tool-call body 仍与最终输出共享较长 token prefix；于是把失败分支转入 speculative verification，回收一部分 decode 成本。
5. 将三项观察分别映射到低 probe overhead、高 accepted overlap 和低 miss cost，形成 D1、D2、D3。

4. 核心假设或切入点 #

SPORK 依赖四个可测条件：

1. Early intent：目标模型在 reasoning 早期已经形成较稳定的 next-tool identity。
2. Calibrated local confidence：tool-name token logprob 能区分高质量和低质量 probe。
3. Prefix recoverability：即使完整 arguments 不同，被拒 probe 仍与最终 greedy output 共享可验证前缀。
4. Overlap budget：剩余 decode 时间足以覆盖 probe 与部分 tool execution，且服务端有容量并发处理 probe。

前三项主要决定接受率和失败开销，第四项决定系统层面能否兑现预测价值。

5. 方法 / 系统 / 理论框架 #

5.1 成本模型：先判断是否值得 speculate #

定义：

• $T_{\mathrm{dec}}$：prefill 后的主生成时间，包含 CoT 与 tool-call decode。
• $T_{\mathrm{tool}}$：工具执行时间。
• $T_{\mathrm{base}}=T_{\mathrm{dec}}+T_{\mathrm{tool}}$：串行 baseline。
• $\alpha$：按 tool-call turn 统计的 strict speculation 接受率。一次 turn 可以发出多个 retry probes，probe 数量不能作为分母。
• $t_{\mathrm{overlap}}$：accepted turn 上实际隐藏的平均工具时间。
• $T_{\mathrm{oh}}$：rejected turn 的额外 probe compute 与错误 speculative execution 映射到 wall time 后的开销。
• $T_{\mathrm{base}}^{*}=T_{\mathrm{base}}-T_{\mathrm{D3}}$：miss 分支通过 D3 回收 verified prefix 后的实际 base cost；未启用 D3 时二者相等。

Appendix A 给出的 hit/miss 期望成本为：

$$T_{\mathrm{hit}}=T_{\mathrm{base}}-t_{\mathrm{overlap}},$$

$$T_{\mathrm{miss}}=T_{\mathrm{base}}^{*}+T_{\mathrm{oh}},$$

$$\mathbb{E}[T] =T_{\mathrm{base}}-\alpha t_{\mathrm{overlap}} +(1-\alpha)\left(T_{\mathrm{base}}^{*}-T_{\mathrm{base}}+T_{\mathrm{oh}}\right).$$

因此精确 speedup 为：

$$S=\frac{T_{\mathrm{base}}} {T_{\mathrm{base}}-\alpha t_{\mathrm{overlap}} +(1-\alpha)\left(T_{\mathrm{base}}^{*}-T_{\mathrm{base}}+T_{\mathrm{oh}}\right)}.$$

主文用以下简化式校准 operating envelope：

$$\mathrm{Ratio}=\frac{T_{\mathrm{base}}} {T_{\mathrm{base}}^{*}-\alpha t_{\mathrm{overlap}}+T_{\mathrm{oh}}}.$$

未启用 D3 时，精确 break-even 条件化为：

$$\alpha t_{\mathrm{overlap}} \geq (1-\alpha)T_{\mathrm{oh}},$$

主文进一步近似为 $\alpha t_{\mathrm{overlap}} \geq T_{\mathrm{oh}}$。这个式子强调两个工程方向：提高 strict accepted overlap，或降低 rejected-turn overhead。

若所有工具时间都能被完全隐藏，speedup ceiling 由工具时间占比 $f_{\mathrm{tool}}=T_{\mathrm{tool}}/T_{\mathrm{base}}$ 决定：

$$S_{\max}=\frac{1}{1-f_{\mathrm{tool}}}.$$

BrowseComp 的 $f_{\mathrm{tool}}=0.366$ 对应 $1.58\times$ 理论上限。现实系统还会损失 probe dispatch lag、短工具 turn、低接受率和并发争用。

证据定位：Section 2.2；Appendix A。

5.2 “同一个模型”的准确含义 #

主生成与 probe 使用同一 checkpoint、同一组参数和同一 serving backend。系统会创建两个逻辑 request：

• main request 按正常 chat template 自由生成 reasoning 与 tool call；
• probe request 复用 main 的 prompt/history 与已生成 prefix，并在 assistant continuation 中强制加入 tool-call opener，让同一模型直接补全 name 与 arguments。

两个分支共享 prefix KV cache，但各自拥有独立的 decode state。这里的 self-speculation 指参数身份一致和 prefix state 同源；probe 仍会占用额外 decode slots、KV pages 与调度资源。D3 随后由同一 target model 验证 probe tokens，因此 greedy 路径只接受目标模型本身认可的前缀。

5.3 D1：Prefix-cache fork #

朴素 probe 需要重新 prefill 完整 system、user 与 history。论文在 15K context、Qwen3-32B 上测得约 1.3 秒 prefill 加 0.3 秒短 decode，总计约 1.6 秒；与 main 同时启动还会造成 $2.5\times$ prefill contention。

D1 先启动 streaming main request，等 main 返回首个 token 后再发出 raw completion probe。此时 prefix KV 已进入 vLLM/SGLang cache，probe prefill 约 0.05 秒，连同 0.3 秒 decode 后总开销约 0.35 秒。主流 TPOT（Time Per Output Token）增加 0.22%，落在论文测得的 0.3% batching noise 内。

这个设计需要服务端同时支持：streaming /v1/chat/completions、可携带任意 assistant prefix 和 token logprobs 的 /v1/completions，以及跨请求 prefix KV reuse。

证据定位：Section 4.1；Figure 7；Section 5。

5.4 D2：Adaptive confidence gate #

probe 的工具名通常只有 1 到 4 个 tokens。D2 对 name span 使用保守的 minimum probability：

$$c=\min_{i=2}^{L}\exp(\ell_i),$$

其中 $\ell_i$ 是论文定义的第 $i$ 个 name token 的 top-1 logprob。论文解释从 $i=2$ 开始是为了跳过 opening quote；这个解释与公开 prompt / code 不一致：Qwen 强制前缀已经以 {"name": " 结束，completion 的首 token 应进入工具名。对单 token 工具名，论文公式还会产生空集合。

公开 commit 的默认 Qwen runner 也没有按论文所述精确截取 tool-name span。QwenToolCallAdapter.extract_probe_logprobs() 先调用 extract_full_logprobs(max_positions=16)，span_min_prob(skip_first=True) 再丢弃第一个生成 token，并对剩余固定窗口取最小概率；窗口可能已经进入 arguments。adaptive_scheduler.py 的另一条路径会按 probe_span_tokens 截短，但仍跳过首个生成 token。由此，论文的 name-span confidence 机制与公开默认 runner 应分开记录，复现 88% precision / 100% recall 前需要确认原实验的 span extraction。

当 $c\geq\theta$ 时，controller 提前执行工具；若当前 probe 未过阈值，main 继续 decode，D2 在 main 累积更多 CoT 后按 token cadence 发起一个使用更长 observed prefix 的新 probe。论文在 GAIA 的 997 个 probes 上用“tool name 是否匹配 main”作为标签，$\theta=0.90$ 达到 88% precision、100% recall、F1 0.937，并过滤 77% probes；阈值在同一批 probes 上按 F1 选择，没有 held-out calibration。D1 的 turn-level full-call strict acceptance 约为 0.22，D1+D2 提升至约 0.37，这个指标与 name-match classification 分属不同层级。

D2 的置信度只决定是否提前 dispatch。论文要求最终完整调用精确匹配；公开 runner 的 strict path 解析 arguments 后使用排序 JSON 比较参数字典等值，默认 D1/D2 retry runner 仍走 strict gate。仓库保留的 name_only_loose / confidence_name_loose 路径不具备完整调用保证，不能用来支持论文的 strict fallback 结论。

证据定位：Section 4.2；Figure 8；Section 6.4。

5.5 D3：把 rejected probe 作为 draft tokens #

严格匹配失败经常发生在 argument 后缀。论文给出两组不同数据：Section 3.3 的 GAIA 两个 seeds 共 657 个 rejected events，中位匹配前缀为 18 tokens、均值 21.1、$P_{25}/P_{75}=14/25$；BrowseComp Phase 0 的 1268 个 probe-baseline pairs 中，首次 mismatch 位置均值为 29.5 tokens、中位数 27、$P_{25}/P_{75}=17/35$，82% 的 pairs 至少匹配 10 tokens，61% 至少匹配 20 tokens。这两组数字分别说明不同 workload 的 miss prefix，不能把 27 tokens 作为通用值。

D3 在 vLLM speculative-decoding proposer path 中加入 SporkProposer：

1. main 到达 <tool_call> boundary 后，proposer 提交 probe body 作为 per-request draft。
2. target model 在同一 decode step 验证 draft，接受最长 exact greedy prefix。
3. 第一次 mismatch 后，main 只自回归生成剩余 suffix。

论文用 BrowseComp Phase 0 做离线算术估计：50-token tool call 约 1.5 秒，target verification 加剩余 20.5 tokens 约 0.9 秒，因此 rejected turn 约可少 0.6 秒 decode，并按 turn 摊销约 0.31 秒。这个数字没有由独立在线 D3 ablation 直接测得。回收只作用于 token generation；预测错误的工具结果不会被接受，必要时仍按 main 的最终 call 串行执行。

D3 的 token-level 保真来自 target verification。这里有两种带 HTTP 的配置：论文的 HTTP mode 调用 stock vLLM API，只运行 D1+D2；公开仓库的 SPORK-HTTP 启动一个经过修改的 vLLM 服务，可运行 D1+D2+D3。README 明确说明 paper D3 numbers 来自 engine mode。

公开仓库 commit 31d5ab6f... 提供的 SPORK-HTTP 路径同样是一种侵入式 engine integration：launcher 在 engine process fork 前给 vLLM GPUWorker 增加方法，首次设置 draft 时用 SporkProposer 替换原 n-gram drafter 的 propose()，并 monkey-patch FastAPI build_app 注册 /spork/* routes。HTTP endpoint 只承担控制面传输，draft 最终通过 collective_rpc 进入 worker 内部并参与 target verification。仓库使用的 sidecar 一词专指这些附加 routes；D3 仍在 vLLM engine 内运行。

公开路径已经完成 engine-side 注入；与论文性能协议尚未对齐的部分主要位于 request state 管理。Controller 虽然向 /spork/set_tokens 发送 request_id，worker 端仍会先执行 clear_all()，再固定调用 set_probe_tokens(0, ...)；proposer 源码也把稳定 vLLM request ID 标为 future explicit hook。两个 agent request 并发时，后写入的 draft 会覆盖前一个，slot 0 也可能对应当前 decode batch 中不同的请求。因此仓库要求 evaluation 使用 workers=1，含义是评测端一次只运行一个 agent request；tensor parallel 仍可配置为 TP>1。

默认启动脚本设置 NSPEC=20，SporkProposer 又只保存 token_ids[:self.k]，所以一次最多复用 probe 的前 20 个 tokens。论文在 BrowseComp Phase 0 观测到的首次 mismatch 位置均值为 29.5 tokens；若某次 probe 与 main 的前 30 个 tokens 一致，默认 sidecar 仍只提供前 20 个，余下部分由 main decode。这个差异限制公开默认路径能实现的 D3 speedup 上限；target-model verification 继续保证被接受 token 的正确性。调高 NSPEC 可以扩大 draft，但并发隔离、vLLM 版本兼容和资源开销仍需单独验证。

证据定位：Section 4.3；Appendix B；官方仓库 launch_vllm_spork_http.py、spork_unified_eval.py、spork_core/turn_runner.py。

5.6 Controller、接受路径与安全边界 #

公开实现用 asyncio 并发运行 main stream、probe scheduler 和 tool task，工具通过 asyncio.to_thread 执行。Controller 的 Python overhead 在论文中报告为每 turn 不超过 0.05 秒。

论文设计中的 accepted path 需要同时满足：

1. confidence gate 允许提前 dispatch；
2. main 结束时，tool name 与 serialized arguments 和 committed probe 完全一致；
3. 工具属于部署方 manifest 中允许 speculate 的 read-only 集合。

公开 commit 31d5ab6f... 没有提供通用 manifest enforcement layer：web backend 由调用方保证工具适合提前执行；Tau2ToolExecutor 在 speculative path 中 deep-copy environment，并且只在 strict acceptance 后 commit 该副本。通用工具策略、权限检查与 side-effect classification 仍由集成方实现。

reject path 会丢弃 speculative result，再执行 main 的最终 call；D3 可以保留目标模型验证过的 token prefix。论文要求写操作和非幂等工具走串行路径。这个策略控制了持久副作用，却仍留下两个工程语义问题：

• 时间敏感 read API 可能因“提前读取”而返回与串行时刻不同的值。
• 外部搜索服务和页面内容可能变化，完全相同 arguments 也可能得到不同 observation。

生产部署需要为每类工具定义可接受的时间窗口、cache policy、幂等键和审计记录，才能把 strict argument equality 扩展为端到端 observational equivalence。

5.7 三项设计分别优化什么 #

设计	直接动作	主要改善项	剩余代价
D1	首 token 后复用 prefix KV 发出短 probe	降低 $T_{\mathrm{oh}}$，扩大可用 overlap window	额外 request、decode slot 与 KV pages
D2	按 tool-name minimum probability 延后或重试	提高 turn-level $\alpha$，减少错误工具执行	probe 数增多，晚提交会缩短 $t_{\mathrm{overlap}}$
D3	target model 验证 rejected probe token prefix	降低 miss 分支的 $T_{\mathrm{base}}^{*}$	需要 engine proposer integration；只回收 token decode

6. 结论链条 #

论文的完整推理链为：

1. agent turn 中存在 16% 到 37% 的工具等待，形成可隐藏的串行成本。
2. 同一 Qwen3-32B 在 reasoning 早期已能高概率预测 next-tool name。
3. prefix KV reuse 将 probe overhead 降至约 0.35 秒，置信度 gate 提升 strict accepted turns，target verification 回收 rejected prefix。
4. 当 $\alpha t_{\mathrm{overlap}}$ 覆盖 $T_{\mathrm{oh}}$ 时，工具执行与剩余 decode 的重叠转化为端到端 latency reduction。
5. GAIA、HotpotQA 与 tau2 sweep 支持这个 operating-envelope 判断；短工具、短 CoT、格式分歧和高 batching pressure 会缩小或消除收益。

关键实验/定理 #

结果 1：模型在很早的位置已经暴露 next-tool identity #

Benchmark	Qwen3-32B fork-at-start tool-name accuracy
GAIA	98.3%
tau2-bench	74.6%
BrowseComp	83.7%
HotpotQA	99.6%
BFCL	99.2%

• 设置：GAIA、tau2-bench、BFCL 使用 position 0 replay；BrowseComp、HotpotQA 使用 online first-token probe。模型为 Qwen3-32B。
• Baseline：同一模型 unrestricted main generation 的最终 tool call。
• 指标：tool-name exact match；argument exact match。
• 结果：name accuracy 为 74.6% 到 99.6%；argument exact 只有 7.6% 到 83.9%。GAIA argument exact 从 CoT 0% 的 7.6% 上升到 80% 的 61.0%，think-end 达 97.5%。
• 证据定位：Section 3.1-3.2；Figures 3、4。
• 对照是否可比：预测与目标来自同一模型和同一 observation；部分 benchmark 使用 replay，部分使用 online first-token，跨 benchmark 数值只适合证明现象覆盖，精确差异还混有 protocol 差异。
• 支持的最窄结论：next-tool name 往往早于完整 arguments 稳定，支持先预测、后按置信度提交。
• 解读：SPORK 的主要信号来自 tool identity；系统仍需 strict argument check 和 fallback。

结果 2：D1 与 D2 把早期意图变成可用 speculation #

• 设置：Qwen3-32B，15K context 的 probe overhead 测量；GAIA N=127、997 probes 的 gate calibration；GAIA N=165 的端到端 ablation。
• Baseline：无 prefix reuse 的同时发起 probe；D1-only strict gate；vLLM n-gram speculative-decoding baseline。
• 指标：probe wall time、main TPOT overhead、precision/recall/F1、turn-level $\alpha$。
• 结果：probe 从约 1.6 秒降至 0.35 秒；main TPOT 增加 0.22%；$\theta=0.90$ 的 gate 为 88% precision、100% recall、F1 0.937；turn-level $\alpha$ 从约 0.22 提升至 0.37。
• 证据定位：Section 4.1-4.2；Section 6.4；Figure 7；Figure 8。
• 对照是否可比：D1 overhead 测量直接对比 cache miss/hit 路径；D2 同时引入多次 retry，发出 probe 数从 434 增至 2124，因此 $\alpha$ 必须按 turn 解释。
• 支持的最窄结论：prefix cache 能让短 probe 接近关键路径之外，tool-name confidence 能过滤一部分错误 dispatch。
• 解读：D2 适合慢或昂贵工具；短工具上，等待与 retry 可能抵消收益。

结果 3：端到端 tail latency 在有足够 overlap 的任务上下降 #

Model / benchmark	N	Baseline $P_{95}$	SPORK $P_{95}$	论文报告变化
Qwen3-32B / GAIA	165	131.9 s	108.1 s	-18%
Qwen3-32B / HotpotQA	200	约 44 s	约 42 s	-6% / 1.06x
Qwen3-32B / tau2	155	约 138 s	约 123 s	-10%
Qwen3.5-35B-A3B / GAIA	53	222.4 s	187.3 s	-16%
Qwen3.5-35B-A3B / HotpotQA	200	18.9 s	15.2 s	-20%
Qwen3.5-35B-A3B / tau2	155	59.4 s	49.8 s	-16%
Qwen3-4B / GAIA	165	29.95 s	28.67 s	1.03x aggregate
Qwen3-4B / HotpotQA	200	17.36 s	17.39 s	1.00x aggregate
Qwen3-4B / tau2	155	44.81 s	43.04 s	mean 21.2 s $\to$ 18.5 s，1.15x

• 设置：Qwen3-32B、Qwen3-4B、Qwen3.5-35B-A3B；NVIDIA H20-3e 143 GiB；bf16；temperature 0；seed 42；thinking mode；vLLM 0.19.1、TP=1。
• Baseline：dense engine runs 使用 vLLM n-gram speculative decoding；HTTP runs 使用 serial baseline。每个模型在同 serving mode 内比较；Qwen3-32B / tau2 行为 engine n-gram baseline 对 D1+D2+D3。
• 指标：per-query end-to-end wall time 的 $P_{95}$；tau2 4B headline 另报 mean speedup。
• 结果：最强主结果是 Qwen3-32B / GAIA 的 $P_{95}$ 下降 18%；短工具 HotpotQA 与快速 Qwen3-4B 接近 break-even。
• 证据定位：Section 6.1-6.2；Figure 10；Appendix E-G；Table 3-4。
• 对照是否可比：单个 model/benchmark pair 内相对可比；跨 panel 的 serving mode、baseline 与启用组件不同，不能把柱状图视为一个统一配置的 scaling curve。
• 支持的最窄结论：在 paper-tested Qwen 模型、think mode 和工具延迟分布内，self-speculative tool overlap 可降低部分真实工具任务的 tail latency。
• 解读：Qwen3.5 的 MoE 结果支持架构迁移线索；GAIA 只测 N=53，且使用 D1-only，证据强度低于 Qwen3-32B 主结果。

结果 4：质量大体持平，但真实工具轨迹不具备 token identity #

• 设置：同上；tau2 使用 deterministic canned results，GAIA/HotpotQA 使用真实搜索 API。
• Baseline：各模型同 serving mode baseline。
• 指标：GAIA/HotpotQA EM，HotpotQA F1，tau2 action/result consistency。
• 结果：论文报告所有测量设置的 accuracy 降幅均在 1 pp 内，部分设置高于 baseline；Qwen3-32B / HotpotQA 的 EM 增加 1.5 pp、F1 增加 0.012，Qwen3-4B / GAIA 为 29/165 $\to$ 36/165，增加约 4.2 pp。
• 证据定位：Section 6.3；Figure 11。
• 对照是否可比：temperature 0 仍受到 search API 与 vLLM batching nondeterminism 影响；GAIA/HotpotQA 比较 aggregate scores，无法证明逐轨迹相同。
• 支持的最窄结论：所有已测 aggregate quality 下降都落在 1 pp 内；部分 improvement 也可能混入 search 与 batching nondeterminism。
• 解读：strict serialized-call match 与 D3 target verification 提供机制级保护；外部 observation 漂移仍会造成合法轨迹差异。

结果 5：cost model 正确预测适用区间 #

• 设置：tau2 airline domain，工具 latency floor 从 0.5 秒扫到 5 秒；另将 GAIA 4.8 秒与 HotpotQA 0.9 秒均值投影到同一图。论文内部的 sweep 样本数记录不一致：Introduction 写 airline N=43，Figure 14 caption 写 N=155，Appendix E 的完整 tau2 benchmark 也为 N=155。
• Baseline：相同 serving mode 的 serial/ngram baseline。
• 指标：mean speedup；EQ1 prediction residual。
• 结果：D1+D2+D3 从 1.09x 增至 1.18x；cost model 的最大 residual 为 tau2 1.84%、GAIA 0.88%。
• 证据定位：Section 6.6；Figure 14。
• 对照是否可比：tau2 sweep 是模拟 floor，适合验证结构趋势；真实工具点同时包含不同 latency distribution 与 workload semantics；N=43/155 的冲突使样本规模与置信度无法完全复核。
• 支持的最窄结论：在当前测试点上，工具越慢，SPORK 可隐藏的绝对时间越多，直到剩余 decode window 饱和。
• 解读：仅看 mean tool latency 会高估收益。BrowseComp 虽然 mean tool time 为 8.92 秒，mean realized overlap 只有 1.03 秒；36% tools 短于 0.72 秒 probe dispatch，另有 47% 位于 0.72 到 2 秒，只有 17% 达到 2 秒以上。

结果 6：self probe 的高接受率能抵消更慢的 probe decode #

• 设置：同一 Qwen3-32B main、D1-only HTTP、相同 tasks/seed/parser/tool floor；对比 self probe 与独立 Qwen3-4B probe。
• Baseline：Qwen3-4B cross-model probe，独立 GPU、TP=1。
• 指标：probe latency、argument exact agreement、隐藏的工具时间、wasted speculative tools。
• 结果：4B probe 更快（tau2 0.315 s vs self 0.970 s），但 self 的 arguments exact 更高：tau2 0.792 vs 0.590、HotpotQA 0.296 vs 0.161、GAIA 0.109 vs 0.056；tau2 wasted tools 为 154 vs 317。
• 证据定位：Section 6.5；Figure 13。
• 对照是否可比：模型之外的 protocol 相同；cross arm 使用额外 GPU，尚未覆盖 colocated drafter 的资源竞争。
• 支持的最窄结论：probe 已经能在 tool floor 前完成时，接受率对 realized overlap 的作用可能高于进一步降低 probe latency。
• 解读：self-speculation 省去第二个 served model；同模型额外 request 的 capacity cost 仍需在高并发下计入。

实验设置与 baseline 审计 #

维度	记录
评测协议	Greedy decoding，temperature 0，seed 42，thinking mode；GAIA N=165（Qwen3.5 为 N=53）、HotpotQA N=200、tau2 N=155。Latency 为 per-query end-to-end wall time，主图报 $P_{95}$。
统计报告	报告 P50/mean/P95、部分分布与 ablation；未给 bootstrap CI、显著性检验或完整多 seed latency interval。GAIA rejected-prefix 统计覆盖两个 seeds。
Baseline 是否 tuned	使用 vLLM built-in n-gram speculative decoding 或 serial baseline；没有展示额外调参预算。
Baseline 是否 compute-matched	单 pair 内 main model、hardware 和 serving mode 对齐；SPORK 增加 probe compute 与并发请求。Cross-model probe 另占一张 GPU。
Baseline 是否 implementation-matched	每个 pair 内基本匹配；跨模型主图由 engine/HTTP、ngram/serial 和不同 D1/D2/D3 组合构成。
Baseline 是否覆盖强替代方案	包含 serial、vLLM n-gram spec-dec 和 Qwen3-4B cross-model probe；未与 Speculative Actions、DualSpec、PASTE 等 action-level systems 做同硬件端到端复现。
Baseline 是否存在弱化风险	Qwen3.5 GAIA 只有 N=53；部分真实工具由内部 backend 提供；heavy-batching baseline 与 production multi-tenant load 未覆盖。
结论边界	支持 training-free self-probe 在特定 Qwen think-mode workloads 上降低 latency；跨模型普适性、write tools 和高并发容量收益待复验。
模型与初始化	Qwen3-32B、Qwen3-4B dense；Qwen3.5-35B-A3B，3B active MoE。公开 checkpoint，未训练 SPORK 参数。
数据与任务	GAIA：2 tools、1-8 turns、4.8 s mean real tool；HotpotQA：1 tool、0.9 s mean real tool；tau2：两个 domain 共 30 tools、0.5-5 s simulated floors。
系统配置	vLLM 0.19.1，TP=1，NVIDIA H20-3e 143 GiB，bf16。BrowseComp appendix 另用 vLLM 0.18.1、TP=4、4x H20、max length 40960、4 workers。
框架基座 / paper base	Serving 与 token verification 基于 vLLM；模型为 Qwen3/Qwen3.5；benchmark harness 覆盖 GAIA、HotpotQA、tau2-bench；controller 基于 Python asyncio。
框架版本与证据来源	论文 Section 6.1 披露 vLLM 0.19.1；公开仓库 requirements.txt 没有 pin vLLM，因为 CUDA/GPU 安装依赖环境；本次读取 commit 31d5ab6f...。
框架改动范围	D1/D2 位于 application controller、model adapter 与 tool executor；paper D3 修改 vLLM speculative proposer path；公开 SPORK-HTTP 通过 /spork/* 控制接口、collective_rpc 和 runtime monkey patch 注入同一 engine-side 机制。
未披露项	production concurrency 下的吞吐、GPU utilization、KV memory 增量、probe scheduling fairness、完整 API 成本、每项 latency 的置信区间。

证据链强度评估 #

强证据 #

• arXiv v1 同时提供正文、附录和 TeX source，公式、配置、图表和失败边界可直接定位。
• D1 probe cost、D2 threshold、D3 prefix length 各有独立 measurement，三项设计与成本模型变量一一对应。
• GAIA Qwen3-32B 主实验覆盖 165 个任务，并给出 n-gram baseline、D1、D2、D3 ablation 和 $P_{95}$。
• 官方仓库公开 controller、benchmark adapter、tool executor 和 D3 HTTP reference，并明确写出可复现范围。

中等强度证据 #

• 三个模型和三类工具任务显示机制可以跨 dense/MoE 与 4B/32B 使用；每组配置存在差异，支持范围适合写成 transfer evidence。
• tau2 latency sweep 很好地支持 cost model 的方向性与 break-even 结构；模拟 tool floor 与真实网络工具仍有 distribution gap。
• aggregate quality 与 baseline 基本持平，符合 strict match 与 target verification 机制；真实搜索返回不可重复，无法证明 trajectory identity。

需要谨慎的推论 #

• “thin controller over standard APIs”准确覆盖 D1/D2；D3 需要 engine integration。公开 SPORK-HTTP 无需修改 vLLM 源码树或重新编译，运行时仍会 patch GPUWorker、FastAPI app builder 和 drafter，部署门槛更高。
• “no correctness penalty”依赖只读、可提前执行且时间差可接受的工具语义；strict arguments equality 不能单独处理时变 observation。
• 多租户 heavy batching 下，probe traffic 会竞争 decode slots、KV cache 与 memory bandwidth；当前 latency gain 不能直接外推为吞吐 gain。
• Qwen3.5 原生 XML tool format 的 fork name accuracy 只有 4.5%，尽管 parse success 为 97%；论文改用 JSON prompting 后得到主结果，说明 prompt/tool serialization 属于核心适用条件。
• no-think 模式只留下 0.3 到 0.9 秒 main decode，论文在 Section 6.6 报告 tau2 speedup 降至 0.79x；该点缺少独立样本数和完整配置，支持 reasoning 较短时可能出现净损失的定性边界。

OpenReview / 审稿意见吸收 #

• Page type: not-found
• Match confidence: high
• Observed at: 2026-07-15
• Venue status: arXiv preprint；正式投稿或录用状态 unknown
• Public reviews: 未发现与标题、作者和 arXiv id 可可靠匹配的公开 official reviews。
• Ratings / confidence: 无公开数据。
• Reviewer consensus: 无可吸收的正式 reviewer consensus。
• Main criticisms: 无公开正式审稿文本；本地审计重点放在配置异质性、真实工具 nondeterminism、高并发资源竞争和 read-only semantic boundary。
• Author response: 未发现公开 rebuttal。
• 对可信度的影响: 机制和主实验可由论文与代码交叉核验；novelty、baseline 完整性和统计充分性尚未获得公开同行评审校准。

本地讨论补充 #

1. SPORK 加速的是哪一层 #

SPORK 同时接触两个时间尺度：

• D1/D2 在 action level 提前启动外部工具，节省的是 decode 与 tool execution 之间的串行等待。
• D3 在 token level 验证 rejected probe，节省的是 tool-call suffix 的重复 decode。

主收益来自 action-level overlap，D3 主要改善 reject path。将 SPORK 简化为常规 speculative decoding 会遗漏工具执行并发；将它只描述为 speculative tool execution 又会遗漏 D3 的 target-verified prefix recovery。

2. 同模型 self-speculation 的资源账 #

同一参数 checkpoint 能提高 probe 与 main 的行为一致性，并省去第二个模型。它仍会生成两份逻辑 decode workload。评估生产价值需要同时记录：

1. main latency 的 P50/P95/P99；
2. request throughput 与 queueing delay；
3. probe token 数、retry 数和 canceled work；
4. KV cache 增量与 prefix-cache hit rate；
5. tool execution 的 canceled、wasted 与 accepted 次数；
6. 每个 accepted turn 的实际 $t_{\mathrm{overlap}}$。

低并发下的 spare capacity 可以把 probe compute 隐藏在空闲资源里；高并发下这部分 compute 会进入其他请求的排队时间。端到端 SLO 审计应把 foreground main 和 background probe 放在同一负载模型内。

3. 为什么长工具也不会无限增加收益 #

实际 overlap 满足：

$$t_{\mathrm{overlap}} \leq \min\left(T_{\mathrm{tool}},\ T_{\mathrm{main,remain}}\right),$$

其中 $T_{\mathrm{main,remain}}$ 是 probe dispatch 后剩余的 main decode 时间。工具超过这个窗口的部分仍位于关键路径，所以 tool latency 增长到一定程度后，相对收益会饱和。BrowseComp 的 8.92 秒 mean tool time 只转化为 1.03 秒 mean overlap，直观展示了这个限制。

4. “延后 probe”的具体时序 #

SPORK 用“独立 probe request + 更长 reasoning prefix”实现延后决策。每个 probe 都是一次新的短 decode，请求之间没有可恢复的暂停状态：

1. main 先按正常 chat template 流式生成；首 token 返回后，prefix KV 已由 serving engine 建立。
2. controller 截取此刻的 observed_main_prefix，把原始 messages、已生成 CoT 与强制 tool-call opener 拼成 probe prompt。以 Qwen3.5 路径为例，prompt 会关闭 thinking span 并追加 <tool_call> / <function= 前缀，使同一模型从当前 reasoning 状态直接补全工具名和参数。
3. 当前 probe 置信度低时，controller 保留 main 的连续生成，不 dispatch 工具；随后等待 main 再生成一段 tokens，并从更新后的 prefix 发起下一次 probe。公开 runner 的默认 retry step 为 50 tokens，后续 probe 默认还会等待句号或换行边界，最多越过目标 30 tokens 后强制触发。
4. 首个通过阈值且可解析的 probe 会启动异步工具任务；默认 continue_after_dispatch=false，此后停止 retry。main 仍继续生成自己的最终 tool call。
5. main 到达 Action 后，论文要求完整 tool call 精确匹配；公开 strict runner 检查 tool name 与规范化后的参数字典等值。匹配时接收预执行结果；不匹配时走串行工具调用，D3 仅尝试复用 probe tool-call body 的可验证 token prefix。

单个 turn 内的并发边界是 1 main + 至多 1 个 active probe。retry probe 彼此串行：runner 会等待当前 probe completion 返回并完成 gate 判断，再等待 main 跨过下一段 token cadence，随后发起新 probe；端到端 CLI 默认最多尝试 5 次，这表示累计 attempts 上限。main decode 与 active probe 并行；probe commit 后，异步工具任务与剩余 main decode 并行。开启 continue_after_dispatch 时，系统还可在旧工具任务执行期间串行地产生后续 probe，因此同一时刻可能出现 main + 1 probe + 1 speculative tool task。多条 agent request 各自维护这一组 turn-local 状态，服务端全局 probe 数会随活跃请求数增长。

因此，“延后”主要指延后 speculative tool dispatch，并把下一次预测移到信息更充分的 CoT 位置。首个 probe 本身只延后到 main 的首 token 之后，以获得 prefix-cache hit。可选的 continue_after_dispatch=true 会在已启动工具后继续 probe；后续高置信候选发生变化时，controller 取消旧 asyncio task 并提交新候选。公开实现把同步工具包装在 asyncio.to_thread 中，task cancellation 对已运行外部调用的实际中止能力取决于 executor，因此 supersession 更适合可取消、幂等或隔离执行的工具。

证据定位：Section 4.1–4.2；Appendix H；spork_core/turn_runner.py:1082-1425；spork_core/qwen.py:216-244；spork_unified_eval.py:959-976（official repository commit 31d5ab6）。

5. Agentic RL trajectory 与 rewards 边界 #

• Canonical trajectory 只记录 main 最终提交的 Action 与对应 Observation。Rejected probe tokens、被丢弃的 speculative tool result 和 retry probes 进入 observability，不作为额外 model actions，也不单独获得 rewards。
• Accepted speculative result 在 trajectory 中仍对应 main 的最终 Action；执行时间提前可能改变时变 read API 的 Observation。训练对照需要固定 backend snapshot、record/replay 或显式记录 observation timestamp。
• D3 接受的 token 已由 target model verification，rollout 系统还需保存 target-path logprobs；probe logprobs 不能替代 trainer 所需的 behavior logprobs。
• Rewards 与 credit assignment 绑定 committed trajectory ID。Branch ID、tool attempt ID 和 acceptance event 用于 lineage，避免重复记入同一轮 Action 或 tool cost。

6. 复验优先级 #

• 用同一个 production trace 同时测 serial、D1、D1+D2、D1+D2+D3，保持 model、server、batch policy 和 tool backend 一致。
• 分 bucket 报告 $T_{\mathrm{tool}}$、remaining decode、probe wall、strict acceptance 与 speedup，避免只看全局 mean。
• 对 read APIs 增加时间敏感性分类，比较提前执行结果与串行时刻结果的 observation drift。
• 施加不同并发度，测 probe 对 foreground TPOT、queueing、KV eviction 和 throughput 的影响。
• 复验原生 XML、JSON schema 和不同 chat templates，确认 early intent 来自模型行为还是 serialization alignment。

7. 分享阶段的收束判断 #

SPORK 的三项设计适合沿同一成本模型理解。D1 让 probe 尽量在关键路径之外完成，主要降低 rejected-turn overhead；D2 用更多 reasoning 信息换取更高 strict acceptance，同时缩短剩余 overlap window；D3 降低 miss 分支的 token decode。端到端收益最终取决于 $\alpha t_{\mathrm{overlap}}$ 能否覆盖 probe、错误工具执行和 serving contention。

这条关系也给出部署前的最小验证顺序：先测 early tool identity 与完整调用接受率，再测 probe wall time 和 remaining decode，最后在目标并发度下测 queueing、KV footprint 与 wasted tools。Qwen3-32B / GAIA 的 $P_{95}$ 下降 18% 是当前最清晰的整体证据；其它 16%–20% 结果来自不同模型、serving mode 与组件组合，适合作为迁移线索。

8. Figure 6 的时序边界 #

Figure 6 可以沿三步读取：main 首 token 后 fork probe；probe 通过 D2 gate 后提前执行工具；main 完整生成 tool call 后做严格匹配，匹配时复用结果，失配时串行执行 main 的调用。图中的 commit 指 D2 dispatch，紫色 verify + accept 才是 main stop 处的最终比对。D3 更早发生在 main 的 tool-call decode 内，用 target verification 接受 probe 的一致 token 前缀；这一细节见 Figure 9。工具若在 main stop 后才完成，accepted path 仍需等待剩余时间。证据定位：Figure 6（PDF p.6）；Figure 9 与 Algorithm 1（PDF p.8）；Section 4–5。

主要启发 #

• agent serving 可以从模型的中间生成状态提取未来 Action，并把外部 I/O 安排进剩余 decode window。
• 同模型 probe 的价值来自更高行为相关性与共享 prefix KV，probe latency 达到工具 floor 以内后，接受率往往成为更重要的变量。
• action-level speculation 需要同时优化 accepted branch、miss branch 和资源开销；D1、D2、D3 给出一套清晰的三分法。
• correctness 需要跨 token、tool call、tool semantics 和 external observation 四层定义；strict serialized match 只覆盖其中一部分。
• 适用性可以先通过小规模 trace 测量 $\alpha$、$T_{\mathrm{oh}}$、remaining decode 与 $T_{\mathrm{tool}}$，再代入成本式决定是否部署。

局限 #

1. 当前只对 read-only tools 开启 speculation；write、支付、消息发送和其他非幂等操作需要 sandbox、transaction、checkpoint/rollback 或幂等键。
2. D1/D2 依赖 open-weight serving endpoint 的 streaming、arbitrary-prefix completion、per-token logprobs 与 prefix cache；多数 closed-source chat API 无法直接运行 self-fork。
3. 公开 SPORK-HTTP 路径会 monkey-patch vLLM worker 与 drafter，属于 HTTP 控制的 engine-side D3。它固定使用 slot 0 并在每次设置 draft 前清空全局 state，因此 workers=1 表示评测端只运行一个并发 agent request；它仍可使用 TP>1。默认 NSPEC=20 还会把更长 probe 截为前 20 tokens，而论文的 BrowseComp Phase 0 平均可复用前缀为 29.5 tokens。公开路径需要补齐 stable request ID 映射和版本验证后，才能检验它与 paper engine path 在并发行为和完整 D3 收益上的等价性。
4. 主图混合不同 baseline、serving mode 与组件组合；跨模型百分比适合展示迁移线索，统一 scaling claim 需要 common protocol。
5. 统计报告缺少置信区间和系统化多 seed latency analysis；Qwen3.5 GAIA 只有 53 个样本；tau2 sweep 在 Introduction 的 airline N=43 与 Figure 14 caption 的 N=155 之间存在记录冲突。
6. 真实搜索 backend 存在 nondeterminism；aggregate quality 持平无法证明每条 trajectory 与 serial execution 等价。
7. 公开仓库没有提供论文使用的 GAIA internal search backend；HotpotQA 公开路径使用 built-in MediaWiki backend，它与论文内部 Wikipedia service 的实现等价性尚未建立；tau2 harness 使用 single-turn、no-user-simulator action match，不能与官方 tau2 leaderboard reward 比较。
8. 论文以 latency-oriented serving with spare capacity 为目标；heavy batching 下 probe contention 会缩小收益，吞吐和 GPU 成本没有完整披露。
9. no-think、快速 4B decode、低延迟本地工具和 native-format mismatch 都可能使 $\alpha t_{\mathrm{overlap}}<T_{\mathrm{oh}}$。
10. 时间敏感 read tools 可能因提前执行而改变 observation；部署方需要补充工具语义与时间一致性约束。

跨论文关系 #

• 与已有论文的作者或机构关系：当前未发现作者重叠。论文把清华大学存储研究组的传统 systems 研究延伸到 agentic LLM inference，并由 Meituan 作者形成产业系统桥接。
• 与 2211.17192 Speculative Decoding：基础方法用 draft proposal 加 target verification 缩短 token decode；SPORK 的 D3 复用这条 correctness 路径，D1/D2 再把 speculation 提升到工具 Action 和外部执行时间尺度。
• 与 2602.13692 ThunderAgent：ThunderAgent 在 program/session 粒度管理 KV、tool lifecycle 与跨节点 placement；SPORK 在单个 turn 内提前 fork tool call 并重叠 decode。两者可以组合，scheduler 需要识别 probe priority、shared-prefix affinity 和 tool task cancellation。
• 与 2026-06-27 DSpark：两者都把 confidence 与系统调度结合；DSpark 调度 token drafter prefix，SPORK 用 tool-name min-prob 选择 action dispatch 时刻。
• 与 2606.12370 Bebop：Bebop 训练 MTP head 并以 rejection sampling 保持 target distribution；SPORK 不训练 draft 参数，D3 只把同模型 tool-call probe 的 matching prefix 交给 target model 验证。
• 与 2505.09388 Qwen3：SPORK 的 overlap window 直接利用 Qwen3 thinking mode 的多秒 CoT；no-think 结果说明 reasoning latency 在这里同时是可被隐藏的计算和工具并发窗口。
• 与 2405.19888 Parrot：Parrot 依赖应用暴露 Semantic Variable 与 DAG；SPORK 从运行中模型的 forced prefix 提取 next action。两者分别代表显式 application semantics 与在线 model-state signal。
• 与 Grape：Grape 提供预声明数据流 DAG 的跨 task 计算平面，SPORK 在 ReAct 运行时增加 action-level speculative branch。统一 runtime 需要让 probe、target decode、下游 prefill 和工具执行共享 admission budget，并把分支接受或拒绝转换为动态图状态变化。

Reference Intake Brief #

Target #

• Intended target system: 维护 SPORK 独立论文笔记与当前收录索引行，作者与跨论文关系保留在对应论文的关系章节；新增可直接用于 10–12 分钟分享的工作文档。
• Existing related assets: papers-index.md；2211.17192 Speculative Decoding；2602.13692 ThunderAgent；2026-06-27 DSpark；2606.12370 Bebop；2505.09388 Qwen3。
• Proposed form: 保留现有深度笔记与 3 张论文图，新增 Notes/spork-self-speculative-forking.md 作为分享工作文档；本轮来源核验没有发现版本、venue、审稿或作者稳定事实更新，索引核心信号保持不变。

Reusable Elements #

1. $\alpha$、$t_{\mathrm{overlap}}$、$T_{\mathrm{oh}}$ 与 miss recovery 构成的 action-speculation 成本模型。
2. same-model forced-prefix probe、prefix KV reuse 与 confidence-gated dispatch。
3. rejected action probe 转为 target-verified token draft 的跨层复用路径。
4. tool latency、remaining decode 和 serving contention 共同决定的 operating envelope。

Risks #

• Copyright/over-copying: 只缓存论文 TeX source 中 3 张高价值原图；正文采用机制重建、表格摘录与本地分析，没有长段复制原文。
• Unsourced or unverifiable claims: 关键数字定位到正文、附录或官方代码；Weiwei Lv 的同名身份保持论文级边界。
• Tone/brand mismatch: 使用仓库 v2 模板，区分论文事实、作者主张和本地分析。
• Safety/compliance issues: write-tool speculation 只保留风险与防御边界，没有沉淀可用于绕过事务或权限的操作流程。
• Overlap with existing assets: token-level correctness 关系链接到 Speculative Decoding；agent-serving 调度关系链接到 ThunderAgent，该笔记保留 action-level overlap 的独立贡献。

Skipped #

Material	Reason
公开 reviewer comments	未发现 OpenReview、ARR 或会议公开审稿页，无法吸收正式 reviewer 意见。
GAIA 论文同款 tool backend 复现	官方仓库明确要求 bring-your-own backend，论文使用的 internal search services 未发布。
完整 D3 paper-path 性能复现	需要 H20、Qwen3-32B 与 paper engine protocol；公开 SPORK-HTTP 可验证同一机制，当前材料尚未建立两条路径的性能等价性。

Recommendation #

Decision: merge

Why: SPORK 给出一个机制清楚、可公式化且部分开源的 agentic inference 优化：同模型 early-intent probe 将工具等待与 CoT decode 重叠，D1/D2/D3 分别控制 probe cost、accepted overlap 和 miss recovery。主结果支持其在慢工具、think mode 和可共享 prefix KV 的区域降低 tail latency；配置异质性、高并发资源竞争和工具时间语义已明确保留为复验边界。