llm-router
活跃·★ 119·MIT·更新于 2026-10-22
LLM Router 是一个面向 AI 编程工具的 MCP 服务,附带一组 hook。它针对一种常见浪费:什么都用最好的模型,包括简单解释、查文件和小改动。每条提示在顶级模型看到之前先经过 UserPromptSubmit hook,路由器把简单任务交给便宜或免费的模型,把难任务留给 Claude 或其他高端模型。
README 描述了分层决策:对"好的""继续"这类回复沿用上一轮的路由,先用免费的启发式规则给提示打分,规则拿不准时询问本地 Ollama 模型,最后才回退到付费 API。订阅模式下遵循先免费的链路:Ollama,然后 Codex,再到付费 API。它列出 46 个 MCP 工具和 20 多个提供商,支持按提供商设置预算上限,并带有仪表盘、Prometheus 指标和 OpenTelemetry 追踪。一条命令即可为 Claude Code、VS Code、Cursor、Codex CLI 等安装,Claude Code Pro 或 Max 用户可以不配任何 API 密钥直接开始。
#ai-routing#Anthropic#Claude#Claude Code#cost-optimization#Gemini#litellm#大语言模型
01
功能特性
01智能路由,包含任务分类和成本优化
026 大类 46 个工具:智能路由、文本、代码、文件系统、媒体和监控
03支持 20+ 提供商,包括 Ollama、Gemini、OpenAI、Anthropic 等
04预算控制,支持按提供商的限额、仪表盘和执行模式
05通过 MCP 和钩子与多种主机无缝集成
02
为什么选择它
+按任务难度路由,并有先免费的回退链路,简单提示不必付高端模型的费用。
+支持众多宿主:Claude Code、Cursor、VS Code、Codex CLI、Gemini CLI、Windsurf、Zed 等,可一行安装。
+预算上限、仪表盘、Prometheus 指标和 OpenTelemetry 追踪让花费和路由决策都可见。
+hook、提供商或预算出问题时回退到安全默认值,不会卡住会话。
03
权衡点
!README 中的节省幅度(相对全部使用 Claude Opus 节省 60–80%)是项目自己的说法,实际取决于你的提示构成。
!它在每条提示前增加了一个 hook 和路由步骤,需要额外配置,也多了一个要排查的组件。
!本地模型这一层需要安装 Ollama,免费回退用的是 Gemini 密钥,要获得完整效果需要配置一些提供商。
04
维护状况检查
活跃检查日期: 2026-10-19
- 最近提交
- 2026-10-19
- 近 90 天提交数
- 100+
- 近 90 天发布数
- 30
- 最新发布
- v15.4.0 (2026-09-29)
- 未关闭 issue
- 12
- 近期 issue 至少有一条评论的比例
- —
近 12 周每周提交数
最早的一周在左边,最近 4 周为橙色。数据来源:GitHub 提交统计。
状态规则:GitHub 上已归档 = 已归档;最近提交在 90 天内 = 活跃;91 到 365 天 = 放缓;更久 = 停滞。所有数字来自所示日期的 GitHub API。
讨论最多的未关闭 issue
- #95 Suite flakiness recurs: 3 clean-rerun failures in one session across two known-flaky files0 条评论 · 2026-08-31
- #91 An -m slow run calls uv build three times — three files each define their own module-scoped 'built' fixture0 条评论 · 2026-08-31
- #39 Want to add your plugin to awesome-ai-plugins?0 条评论 · 2026-08-19
issue 标题引自 GitHub。请打开链接确认该问题是否仍适用于你使用的版本。
05
兼容性
Claude Code
Claude Code
已通过文档验证
Codex CLI
Codex CLI
已通过文档验证
VS Code
VS Code(MCP 原生)
已通过文档验证
Cursor
Cursor IDE
已通过文档验证
Gemini CLI
Gemini CLI
已通过文档验证
06
快速开始
1
$ pipx install claude-code-llm-router
2
$ llm-router install
07
使用场景
↳在 AI 编码助手中自动将简单查询路由到免费/便宜的模型
↳通过将低价值提示词卸载到更便宜的模型来降低 Claude Code 的成本
↳为使用多个 LLM 提供商的团队提供集中预算管理
08
同类工具
⚡热门对决:
评论
登录后发表评论
暂无评论,来发表第一条吧