rllm
★ 5.9k
vs
llm-router
★ 119
rllm vs llm-router
rllm:rLLM是一个开源框架,旨在使用强化学习对语言代理进行后训练。它使用户能够轻松构建、训练和部署自定义代理和环境,以应对实际工作负载。;llm-router:LLM Router 是一个 MCP 服务器和钩子集,它拦截提示词并将其路由到最便宜且能胜任任务的模型,可节省 60-80% 的成本。它适用于 Claude Code、VS Code、Cursor 等多种 AI 编码工具,自动将简单任务分配给更便宜的模型,同时为复杂工作保留高端模型。
01
简评
rllmLLM Infra · ★ 5.9k
训练用于代码生成和错误修复等任务的强大编码模型。
llm-routerLLM Infra · ★ 119
在 AI 编码助手中自动将简单查询路由到免费/便宜的模型
02
并排对比
03
功能特性
01基于强化学习的语言代理后训练开源框架。
02支持构建、训练和部署自定义代理和环境。
03提供包括'verl'和'tinker'在内的多种训练后端。
04支持LoRA和VLM训练,用于高级模型。
05包含AgentWorkflowEngine,用于训练任意代理程序。
01智能路由,包含任务分类和成本优化
026 大类 46 个工具:智能路由、文本、代码、文件系统、媒体和监控
03支持 20+ 提供商,包括 Ollama、Gemini、OpenAI、Anthropic 等
04预算控制,支持按提供商的限额、仪表盘和执行模式
05通过 MCP 和钩子与多种主机无缝集成
04
使用场景
↳训练用于代码生成和错误修复等任务的强大编码模型。
↳开发用于自动化任务的复杂软件工程代理。
↳使用强化学习技术构建和评估多代理系统。
↳在 AI 编码助手中自动将简单查询路由到免费/便宜的模型
↳通过将低价值提示词卸载到更便宜的模型来降低 Claude Code 的成本
↳为使用多个 LLM 提供商的团队提供集中预算管理
05
适合场景
时下流行
—
FAQ
常见问题
rllm 和 llm-router 有什么区别?
rllm 和 llm-router 都属于 LLM Infra 类别。rllm 有 5.9k Stars,llm-router 有 119 Stars。
rllm 和 llm-router 哪个更好?
最佳选择取决于你的具体需求。训练用于代码生成和错误修复等任务的强大编码模型。 时选 rllm,在 AI 编码助手中自动将简单查询路由到免费/便宜的模型 时选 llm-router。
rllm 是免费的吗?
是的,rllm 在 GitHub 开源(Apache-2.0)。
llm-router 是免费的吗?
是的,llm-router 在 GitHub 开源(MIT)。
推荐云部署
Ad在 DigitalOcean 上一键部署
为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器,新用户立享 $200 免费额度(60天有效)。
→