Moonbridge on OHTLY Blog

四种 PageIndex 检索方案的 Token 消耗对比

Thu, 09 Jul 2026 15:21:34 +0800

背景链接到标题

PageIndex 是一个无向量（vectorless）、基于推理（reasoning-based）的 RAG 框架。核心思路是将文档解析为树状索引，让 LLM 通过推理来导航定位内容，而不是靠向量相似度搜索。

这次实验的数据源是一本人教版《物理必修第二册》扫描版 PDF。因为纯扫描件没有文字层，先用 MinerU（vlm-engine）OCR 提取了结构化文本，再插入  标记以使页码可追溯。最后用 PageIndex 对这份带页码的 markdown 建立树索引。

基于同一份数据，实现了四种检索方案，对比它们的实现差异和 Token 消耗。

四种方案的设计差异链接到标题

方案 A：简单查询链接到标题

两步走，两次独立 LLM 调用：

LLM #1 看树结构 → 返回行号范围
LLM #2 取内容 → 回答

没有验证步骤，LLM 一次定生死。

方案 B：手写 Agent 循环链接到标题

三步走，三次独立 LLM 调用：

LLM #1 identify_ranges → 返回候选行号列表
LLM #2 evaluate → 判断内容是否包含答案
LLM #3 final_answer → 基于内容给出最终回答

写了 for 循环遍历候选清单，显式 evaluate 确认命中后才回答。

DeepSeek V4 DSML 标记导致 Codex 任务中止

Fri, 26 Jun 2026 11:24:38 +0800

问题现象链接到标题

Codex 通过 Moon Bridge 使用 DeepSeek V4 Flash 时，任务执行中途突然终止。终端输出类似：

<｜｜DSML｜｜tool_calls> <｜｜DSML｜｜invoke name="exec_command"> <｜｜DSML｜｜parameter name="cmd" string="true">

然后任务就卡住不动了。

问题分析链接到标题

Moon Bridge 架构链接到标题

Moon Bridge 是一个 Go 编写的协议转换与模型路由代理，对外暴露 OpenAI Responses API（/v1/responses），对内支持 Anthropic Messages、Google Gemini、OpenAI Chat Completions 等多种上游协议。

当 Codex 发起请求时，Moon Bridge 负责把 OpenAI Responses 格式的请求转换为上游 Provider 需要的格式。

根因：DeepSeek V4 DSML 链接到标题

DeepSeek V4 在工具调用场景下，会将 DSML（DeepSeek Markup Language）标记直接输出到 content 字段，而不是作为结构化的 tool_calls 返回。这违反了 OpenAI API 契约——工具调用应该只在 tool_calls 字段中传递。

Codex CLI 用 DeepSeek 的协议转换方案

Wed, 24 Jun 2026 14:35:40 +0800

Codex CLI 是 OpenAI 出品的终端编码 agent。2026 年 2 月起，Codex 只支持 OpenAI Responses API（/v1/responses），不再兼容 Chat Completions（/v1/chat/completions）。DeepSeek 官方 API 只提供 Chat Completions 接口，两者协议不互通。

需要一个协议转换层。

方案对比链接到标题

方案	原理	评价
Chutes	云端 Responses→Chat 翻译	依赖第三方云服务
LiteLLM	全能 AI 网关	功能太多，对 Codex 场景大材小用
open-codex fork	用 Chat API 重写	已停更
Moon Bridge	本地 Go 代理，协议转换 + 路由	DeepSeek 官方推荐，轻量专注

Moon Bridge 是 Go 写的协议转换代理，对外暴露 POST /v1/responses，对内将请求转为 Anthropic Messages API 格式发给 DeepSeek（DeepSeek 兼容 Anthropic 协议）。支持多 Provider 路由、请求跟踪、Web Console 管理。

Moonbridge on OHTLY Blog

四种 PageIndex 检索方案的 Token 消耗对比

背景 链接到标题

四种方案的设计差异 链接到标题

方案 A：简单查询 链接到标题

方案 B：手写 Agent 循环 链接到标题