llmtrim
★ 255
vs
codex-pooler
★ 233
llmtrim vs codex-pooler
llmtrim:llmtrim是一个本地代理,通过智能地移除冗余Token来压缩LLM API请求,显著降低计费成本,同时不影响LLM响应的质量。它提供多种部署方式,包括作为代理、命令行工具、MCP服务器或多种编程语言的库。;codex-pooler:Codex Pooler是一个自托管网关,旨在聚合和共享跨代理、工具和团队的Codex账户容量。它根据账户可用性、模型支持和会话状态智能路由请求,为操作员提供稳定的API密钥和统一的管理仪表板。
01
简评
llmtrimLLM Infra · ★ 255
降低AI代理(如Claude Code, Cursor, Aider)的LLM API成本。
codex-poolerLLM Infra · ★ 233
为开发团队集中管理和分发Codex API访问。
02
并排对比
字段
分类
大模型基础设施
大模型基础设施
Stars
★ 255
★ 233
许可证
AGPL-3.0
NOASSERTION
安装方式
npm install -g @llmtrim/cli@latest && llmtrim setup
git clone https://github.com/icoretech/codex-pooler.git && cd codex-pooler && scripts/self-host/generate-env.sh && docker compose pull && docker compose up -d
更新时间
3天前
1天前
开源
是
是
标签
LLM代理, Token压缩, 成本优化
API网关, LLM代理, 负载均衡
03
功能特性
01通过本地代理透明压缩LLM API请求
02针对多种数据类型(日志、代码、上下文、JSON)的智能内容优化
03通过自动回滚无效压缩,确保响应质量和成本节省
04灵活的集成选项:命令行工具、多语言库(Python, Ruby, Swift, Kotlin)和MCP服务器
01一个稳定的API密钥管理多个Codex账户并实现动态容量池化。
02基于模型支持、限制和会话连续性的智能请求路由。
03兼容Codex后端客户端和OpenAI风格的SDK客户端。
04全面的操作员仪表板,用于账户、密钥和策略管理,并具备隐私保护的监控功能。
05可通过Docker Compose或Kubernetes自托管,实现容错和可扩展部署。
04
使用场景
↳降低AI代理(如Claude Code, Cursor, Aider)的LLM API成本。
↳在自定义LLM应用程序和SDK中优化Token使用。
↳为RAG系统压缩长上下文窗口(例如,粘贴的文档、对话历史)。
↳缩减发送给LLM的冗长工具输出,如构建日志、差异或大型JSON数组。
↳为开发团队集中管理和分发Codex API访问。
↳部署需要稳定API密钥并受益于后端池化容量的LLM代理。
↳通过统一的OpenAI兼容端点与各种AI开发工具(如Aider、Continue、Hermes Agent)集成。
↳运营商需要一个仪表板来监控多个Codex订阅的使用情况、审计日志和账户健康状况,而无需暴露原始密钥。
FAQ
常见问题
llmtrim 和 codex-pooler 有什么区别?
llmtrim 和 codex-pooler 都属于 LLM Infra 类别。llmtrim 有 255 Stars,codex-pooler 有 233 Stars。
llmtrim 和 codex-pooler 哪个更好?
最佳选择取决于你的具体需求。降低AI代理(如Claude Code, Cursor, Aider)的LLM API成本。 时选 llmtrim,为开发团队集中管理和分发Codex API访问。 时选 codex-pooler。
llmtrim 是免费的吗?
是的,llmtrim 在 GitHub 开源(AGPL-3.0)。
codex-pooler 是免费的吗?
是的,codex-pooler 在 GitHub 开源(NOASSERTION)。
推荐云部署
Ad在 DigitalOcean 上一键部署
为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器,新用户立享 $200 免费额度(60天有效)。
→