deltallm
★ 20
vs
llmkit
★ 15
deltallm vs llmkit
deltallm：DeltaLLM是一个自托管的AI网关，为100多个LLM提供商提供统一的OpenAI兼容API。它通过内置的路由、成本跟踪和安全防护等企业级功能，简化了LLM集成。；llmkit：LLMKit是一个开源AI网关和SDK套件，旨在衡量AI代理的成本并阻止请求超出预设预算。它提供成本归因、预算准入和请求证据，确保AI支出高效可控。
01
简评
deltallmLLM Infra · ★ 20
集中式LLM访问管理：通过单一入口简化多个LLM提供商的API密钥管理和开发者集成。
llmkitObservability · ★ 15
对现有Python/TypeScript AI SDK调用的本地成本监控
02
并排对比
字段
deltallmllmkit分类
大模型基础设施
可观测性
Stars
★ 20
★ 15
许可证
MIT
MIT
安装方式
MASTER_KEY=$(python3 -c 'import secrets; print("sk-" + secrets.token_hex(20) + "A1")') && SALT_KEY=$(python3 -c 'import secrets; print(secrets.token_hex(32))') && git clone https://github.com/deltawi/deltallm.git && cd deltallm && cp config.example.yaml config.yaml && echo "DELTALLM_MASTER_KEY=$MASTER_KEY" > .env && echo "DELTALLM_SALT_KEY=$SALT_KEY" >> .env && echo "OPENAI_API_KEY=sk-your-openai-key" >> .env && echo "[email protected]" >> .env && echo "PLATFORM_BOOTSTRAP_ADMIN_PASSWORD=ChangeMe123!" >> .env && docker compose --profile single up -d --build
pip install llmkit-sdk
更新时间
1天前
1天前
开源
是
是
标签
AI 网关, LLM 管理, OpenAI API 代理
AI网关, 成本管理, 预算控制
03
功能特性
deltallm01统一的OpenAI兼容API，支持100多个LLM提供商。
02虚拟API密钥，具备预算、速率限制和模型限制等精细控制。
03先进的路由和故障转移策略，支持自动重试。
04内置安全防护措施，包括PII检测和提示注入保护。
05全面的开销跟踪，按密钥、团队和模型进行成本归属。
llmkit01成本归因与估算
02预算准入与强制执行
03请求证据与分析
04多语言SDK和CLI支持
04
使用场景
deltallm↳集中式LLM访问管理：通过单一入口简化多个LLM提供商的API密钥管理和开发者集成。
↳成本控制与优化：实施预算并跟踪开销，以优化团队和模型之间的LLM使用成本。
↳增强安全性和合规性：在LLM交互中应用PII检测和提示注入保护等安全防护。
↳多供应商LLM策略：根据性能、成本或可用性在不同LLM提供商之间路由请求，避免供应商锁定。
llmkit↳对现有Python/TypeScript AI SDK调用的本地成本监控
↳零代码CLI追踪以快速获取成本摘要
↳为多个AI应用管理共享预算和提供商路由
↳在MCP客户端内检查会话数据以获取成本和预算洞察
FAQ
常见问题
deltallm 和 llmkit 有什么区别？
deltallm 和 llmkit 都属于 LLM Infra 类别。deltallm 有 20 Stars，llmkit 有 15 Stars。
deltallm 和 llmkit 哪个更好？
最佳选择取决于你的具体需求。集中式LLM访问管理：通过单一入口简化多个LLM提供商的API密钥管理和开发者集成。 时选 deltallm，对现有Python/TypeScript AI SDK调用的本地成本监控 时选 llmkit。
deltallm 是免费的吗？
是的，deltallm 在 GitHub 开源（MIT）。
llmkit 是免费的吗？
是的，llmkit 在 GitHub 开源（MIT）。
推荐云部署
Ad在 DigitalOcean 上一键部署
为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器，新用户立享 $200 免费额度（60天有效）。
→