llmtrim
★ 255
vs
harnessrouter
★ 3.2k
llmtrim vs harnessrouter
llmtrim:llmtrim是一个本地代理,通过智能地移除冗余Token来压缩LLM API请求,显著降低计费成本,同时不影响LLM响应的质量。它提供多种部署方式,包括作为代理、命令行工具、MCP服务器或多种编程语言的库。;harnessrouter:HarnessRouter 提供了一个统一的基础设施层,将各种代理工具集(如 Codex 和 Claude Code)转换为即插即用的后端,使产品能够通过一个API运行任务、检索结果和切换代理工具集。它实现了统一工具集协议(UHP),并提供了一个与OpenAI Responses兼容的API,用于管理持久会话、流式进度、文件和任务生命周期,无需复杂的工具集工程。
01
简评
llmtrimLLM Infra · ★ 255
降低AI代理(如Claude Code, Cursor, Aider)的LLM API成本。
harnessrouterLLM Infra · ★ 3.2k
将不同的代理后端集成到单一产品API中
02
并排对比
字段
分类
大模型基础设施
大模型基础设施
Stars
★ 255
★ 3.2k
许可证
AGPL-3.0
Apache-2.0
安装方式
npm install -g @llmtrim/cli@latest && llmtrim setup
docker run -d --name harnessrouter -p 127.0.0.1:3000:3000 -v harnessrouter:/data harnessrouter/harnessrouter
更新时间
3天前
1天前
开源
是
是
标签
LLM代理, Token压缩, 成本优化
代理编排, LLM基础设施, API网关
03
功能特性
01通过本地代理透明压缩LLM API请求
02针对多种数据类型(日志、代码、上下文、JSON)的智能内容优化
03通过自动回滚无效压缩,确保响应质量和成本节省
04灵活的集成选项:命令行工具、多语言库(Python, Ruby, Swift, Kotlin)和MCP服务器
01为多种代理工具集(Codex, Claude Code 等)提供统一API
02兼容OpenAI Responses API,实现无缝集成
03处理持久会话、流式进度、文件和取消操作
04支持Docker自托管社区版,实现本地控制
05支持使用工具和技能配置自定义代理工具集
04
使用场景
↳降低AI代理(如Claude Code, Cursor, Aider)的LLM API成本。
↳在自定义LLM应用程序和SDK中优化Token使用。
↳为RAG系统压缩长上下文窗口(例如,粘贴的文档、对话历史)。
↳缩减发送给LLM的冗长工具输出,如构建日志、差异或大型JSON数组。
↳将不同的代理后端集成到单一产品API中
↳构建用于知识工作的代理功能,如内容创建和数据分析
↳通过切换不同的工具集/模型来优化成本和延迟
↳开发用于幻灯片、表格、仪表板或视频的代理驱动入门工具包
↳自托管代理基础设施,以保持对数据和凭据的控制
05
适合场景
—
必备神器时下流行
FAQ
常见问题
llmtrim 和 harnessrouter 有什么区别?
llmtrim 和 harnessrouter 都属于 LLM Infra 类别。llmtrim 有 255 Stars,harnessrouter 有 3.2k Stars。
llmtrim 和 harnessrouter 哪个更好?
最佳选择取决于你的具体需求。降低AI代理(如Claude Code, Cursor, Aider)的LLM API成本。 时选 llmtrim,将不同的代理后端集成到单一产品API中 时选 harnessrouter。
llmtrim 是免费的吗?
是的,llmtrim 在 GitHub 开源(AGPL-3.0)。
harnessrouter 是免费的吗?
是的,harnessrouter 在 GitHub 开源(Apache-2.0)。
推荐云部署
Ad在 DigitalOcean 上一键部署
为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器,新用户立享 $200 免费额度(60天有效)。
→