deltallm
★ 20
vs
llmtrim
★ 255
deltallm vs llmtrim
deltallm：DeltaLLM是一个自托管的AI网关，为100多个LLM提供商提供统一的OpenAI兼容API。它通过内置的路由、成本跟踪和安全防护等企业级功能，简化了LLM集成。；llmtrim：llmtrim是一个本地代理，通过智能地移除冗余Token来压缩LLM API请求，显著降低计费成本，同时不影响LLM响应的质量。它提供多种部署方式，包括作为代理、命令行工具、MCP服务器或多种编程语言的库。
01
简评
deltallmLLM Infra · ★ 20
集中式LLM访问管理：通过单一入口简化多个LLM提供商的API密钥管理和开发者集成。
llmtrimLLM Infra · ★ 255
降低AI代理（如Claude Code, Cursor, Aider）的LLM API成本。
02
并排对比
字段
deltallmllmtrim分类
大模型基础设施
大模型基础设施
Stars
★ 20
★ 255
许可证
MIT
AGPL-3.0
安装方式
MASTER_KEY=$(python3 -c 'import secrets; print("sk-" + secrets.token_hex(20) + "A1")') && SALT_KEY=$(python3 -c 'import secrets; print(secrets.token_hex(32))') && git clone https://github.com/deltawi/deltallm.git && cd deltallm && cp config.example.yaml config.yaml && echo "DELTALLM_MASTER_KEY=$MASTER_KEY" > .env && echo "DELTALLM_SALT_KEY=$SALT_KEY" >> .env && echo "OPENAI_API_KEY=sk-your-openai-key" >> .env && echo "[email protected]" >> .env && echo "PLATFORM_BOOTSTRAP_ADMIN_PASSWORD=ChangeMe123!" >> .env && docker compose --profile single up -d --build
npm install -g @llmtrim/cli@latest && llmtrim setup
更新时间
1天前
3天前
开源
是
是
标签
AI 网关, LLM 管理, OpenAI API 代理
LLM代理, Token压缩, 成本优化
03
功能特性
deltallm01统一的OpenAI兼容API，支持100多个LLM提供商。
02虚拟API密钥，具备预算、速率限制和模型限制等精细控制。
03先进的路由和故障转移策略，支持自动重试。
04内置安全防护措施，包括PII检测和提示注入保护。
05全面的开销跟踪，按密钥、团队和模型进行成本归属。
llmtrim01通过本地代理透明压缩LLM API请求
02针对多种数据类型（日志、代码、上下文、JSON）的智能内容优化
03通过自动回滚无效压缩，确保响应质量和成本节省
04灵活的集成选项：命令行工具、多语言库（Python, Ruby, Swift, Kotlin）和MCP服务器
04
使用场景
deltallm↳集中式LLM访问管理：通过单一入口简化多个LLM提供商的API密钥管理和开发者集成。
↳成本控制与优化：实施预算并跟踪开销，以优化团队和模型之间的LLM使用成本。
↳增强安全性和合规性：在LLM交互中应用PII检测和提示注入保护等安全防护。
↳多供应商LLM策略：根据性能、成本或可用性在不同LLM提供商之间路由请求，避免供应商锁定。
llmtrim↳降低AI代理（如Claude Code, Cursor, Aider）的LLM API成本。
↳在自定义LLM应用程序和SDK中优化Token使用。
↳为RAG系统压缩长上下文窗口（例如，粘贴的文档、对话历史）。
↳缩减发送给LLM的冗长工具输出，如构建日志、差异或大型JSON数组。
FAQ
常见问题
deltallm 和 llmtrim 有什么区别？
deltallm 和 llmtrim 都属于 LLM Infra 类别。deltallm 有 20 Stars，llmtrim 有 255 Stars。
deltallm 和 llmtrim 哪个更好？
最佳选择取决于你的具体需求。集中式LLM访问管理：通过单一入口简化多个LLM提供商的API密钥管理和开发者集成。 时选 deltallm，降低AI代理（如Claude Code, Cursor, Aider）的LLM API成本。 时选 llmtrim。
deltallm 是免费的吗？
是的，deltallm 在 GitHub 开源（MIT）。
llmtrim 是免费的吗？
是的，llmtrim 在 GitHub 开源（AGPL-3.0）。
推荐云部署
Ad在 DigitalOcean 上一键部署
为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器，新用户立享 $200 免费额度（60天有效）。
→