FlashLabs 发表日本独家提供之 LLM 路由器「OrcaRouter」研究论文，于独立基准测试「RouterArena」获得第二名（截至2026年5月提交时）

Q: 导入 OrcaRouter 需要什么？

只需要与 OpenAI 兼容的 API 密钥和 Base URL 设置，无需修改现有代码。

Q: OrcaRouter 适合哪类企业？

适合希望通过利用多个 LLM 来平衡成本降低与品质维护的中大型企业。

Q: OrcaRouter 的竞争对手是谁？

主要竞争对手包括 GPT-5 和 Microsoft Azure routers，但 OrcaRouter 以较低成本实现了高准确率。

FlashLabs 股份有限公司（总公司：东京都千代田区，代表董事：细井洋一，以下简称「FlashLabs」）宣布，其于日本独家销售的 AI 路由闸道「OrcaRouter」在 LLM 路由器评估的开放平台「RouterArena」中，于论文提交时（2026年5月20日）的公开排行榜上获得第二名。截至2026年5月20日提交时，OrcaRouter 记录了 75.54% 的准确率和 72.08 的 Arena 分数。 ## 背景 随着 AI 应用正式化，企业面临从超过 200 个 LLM 模型中选择最佳模型的压力。然而，对所有处理使用单一高性能模型，意味着即使是例行任务也需持续支付高成本，导致 AI 成本急剧增加。另一方面，手动选择模型会随着新模型的发布而使规则过时，为开发团队留下维护负担。 为了解决这个问题，OrcaRouter 被开发为一个结合「每个提示的难度判断」和「自动路由至最佳模型」的自适应推理闸道。此次在 RouterArena 获得第二名，客观证明了此技术方法的有效性。 ## 研究论文概要 发布日期：2026年5月20日（星期三） 论文标题：OrcaRouter: A Production-Oriented LLM Router with Hybrid Offline–Online Learning（arXiv:2605.30736） OrcaRouter-Adaptive 的成绩： 排名：第二名（截至2026年5月20日提交时） 准确率：每 1,000 次查找成本 1.00 美元，准确率 75.54% 集成准确率与成本的 Arena 分数：72.08 比较对象：GPT-5、Microsoft Azure routers 及其他主要 LLM 路由器 Arena 分数是同时考虑准确率和金钱成本的综合评估指针，证明 OrcaRouter 在维持高准确率的同时实现了极低的运营成本。 ※RouterArena 是首个用于全面评估和比较 LLM 路由器的开放平台。这是一个持续评估的即时排行榜，会随时添加和更新新的路由器，排名会随时间变动。最新排名请参阅官方排行榜。 ## OrcaRouter 的技术特点 主要功能： 1. 嵌入增强 LinUCB 强盗算法： OrcaRouter 将 LLM 路由表述为上下文强盗问题，并采用嵌入增强 LinUCB（线性上限置信区间）算法。这种方法在共享嵌入空间中表示提示与 LLM 的亲和性，实现结合脱机学习和在线学习的自适应模型选择。 2. 混合脱机/在线学习： 通过集成脱机的人类评估数据和在线的强盗反馈，从初始阶段就提供高精度路由，同时从实际流量中持续学习。这使其能够在避免过度拟合的同时适应真实环境。 3. 智能预热功能： 即使对于新模型或未知的提示模式，智能预热功能也能优化探索与利用的平衡。它在适应实际流量的同时，逐步进行优化并维持品质。 4. 将 200 多个模型集成到一个端点： 将来自超过 15 家公司（包括 OpenAI、Anthropic、Google、xAI、Meta、Mistral、DeepSeek、Alibaba、Moonshot、ByteDance）的总计 200 多个 LLM 的 API 调用集成到一个端点、一个 API 密钥和一张帐单中。 支持环境/URL： OrcaRouter 官方网站 OrcaRouter 官方文档 可用模型范例 Anthropic Claude Opus 4.8 API OpenAI GPT 5.5 API Gemini 3.5 Flash MiniMax M3 DeepSeek V4 Pro API Qwen3.7 Max ## 为企业带来的价值 1. 同时实现高精度与低成本： 正如在 RouterArena 获得第二名所显示的，OrcaRouter 在维持 75.54% 准确率的同时，实现了极低成本的路由。与 GPT-5 和 Azure routers 相比，它以显著更低的成本提供同等或更优的性能。 2. 持续适应实际流量： 嵌入增强 LinUCB 强盗算法从实际流量模式中学习，在避免过度拟合的同时持续优化。它能自动适应新模型的发布和业务模式的变化。 3. 提升开发者体验： 凭借与 OpenAI 兼容的 API，只需更改一行现有代码即可导入。只需重写 Base URL 和 API 密钥，现有的 OpenAI SDK 代码即可无需修改地运行。无需重新设计、采购周期或重写。 ## 技术背景：将 LLM 路由视为上下文强盗问题 传统的 LLM 路由依赖于预定义的规则或静态分类器。然而，这种方法无法适应新模型的发布或业务模式的变化，导致维护负担增加。 OrcaRouter 通过将 LLM 路由表述为「上下文强盗问题」解决了这个问题。上下文强盗是强化

常見問題