deltallm
★ 20
vs
conduit
★ 235
deltallm vs conduit
deltallm：DeltaLLM是一个自托管的AI网关，为100多个LLM提供商提供统一的OpenAI兼容API。它通过内置的路由、成本跟踪和安全防护等企业级功能，简化了LLM集成。；conduit：Conduit 作为一个本地模型上下文协议（MCP）网关，旨在通过将服务器工具整合为少数元工具，显著减少AI代理使用多个工具时的令牌开销。它简化了各种服务的设置和身份验证，只需配置一次即可在所有连接的AI客户端中使用。
01
简评
deltallmLLM Infra · ★ 20
集中式LLM访问管理：通过单一入口简化多个LLM提供商的API密钥管理和开发者集成。
conduitLLM Infra · ★ 235
降低AI代理使用大量工具时的令牌成本并提高上下文窗口效率。
02
并排对比
字段
deltallmconduit分类
大模型基础设施
大模型基础设施
Stars
★ 20
★ 235
许可证
MIT
MIT
安装方式
MASTER_KEY=$(python3 -c 'import secrets; print("sk-" + secrets.token_hex(20) + "A1")') && SALT_KEY=$(python3 -c 'import secrets; print(secrets.token_hex(32))') && git clone https://github.com/deltawi/deltallm.git && cd deltallm && cp config.example.yaml config.yaml && echo "DELTALLM_MASTER_KEY=$MASTER_KEY" > .env && echo "DELTALLM_SALT_KEY=$SALT_KEY" >> .env && echo "OPENAI_API_KEY=sk-your-openai-key" >> .env && echo "[email protected]" >> .env && echo "PLATFORM_BOOTSTRAP_ADMIN_PASSWORD=ChangeMe123!" >> .env && docker compose --profile single up -d --build
git clone https://github.com/tsouth89/conduit.git && cd conduit && npm install && npm run build:gateway && npm run tauri dev
更新时间
1天前
1天前
开源
是
是
标签
AI 网关, LLM 管理, OpenAI API 代理
AI 代理, 工具管理, 令牌优化
03
功能特性
deltallm01统一的OpenAI兼容API，支持100多个LLM提供商。
02虚拟API密钥，具备预算、速率限制和模型限制等精细控制。
03先进的路由和故障转移策略，支持自动重试。
04内置安全防护措施，包括PII检测和提示注入保护。
05全面的开销跟踪，按密钥、团队和模型进行成本归属。
conduit01通过工具的惰性发现模式减少约90%的令牌消耗。
02所有AI客户端只需一次设置和身份验证。
03基于代理的作用域控制不同客户端的工具访问。
04内置治理功能，可开启/关闭工具并审计调用。
05内置的工具测试平台，可在集成前验证工具功能。
04
使用场景
deltallm↳集中式LLM访问管理：通过单一入口简化多个LLM提供商的API密钥管理和开发者集成。
↳成本控制与优化：实施预算并跟踪开销，以优化团队和模型之间的LLM使用成本。
↳增强安全性和合规性：在LLM交互中应用PII检测和提示注入保护等安全防护。
↳多供应商LLM策略：根据性能、成本或可用性在不同LLM提供商之间路由请求，避免供应商锁定。
conduit↳降低AI代理使用大量工具时的令牌成本并提高上下文窗口效率。
↳从单个网关为各种AI客户端管理和验证多个外部服务（例如 Stripe、Supabase、GitHub）。
↳对不同AI客户端或代理可以访问的工具提供精细控制，增强安全性和合规性。
↳在部署工具到代理之前，使用内置平台测试和验证AI工具（例如来自MCP服务器的工具）。
05
适合场景
deltallm—
conduit宝藏工具
FAQ
常见问题
deltallm 和 conduit 有什么区别？
deltallm 和 conduit 都属于 LLM Infra 类别。deltallm 有 20 Stars，conduit 有 235 Stars。
deltallm 和 conduit 哪个更好？
最佳选择取决于你的具体需求。集中式LLM访问管理：通过单一入口简化多个LLM提供商的API密钥管理和开发者集成。 时选 deltallm，降低AI代理使用大量工具时的令牌成本并提高上下文窗口效率。 时选 conduit。
deltallm 是免费的吗？
是的，deltallm 在 GitHub 开源（MIT）。
conduit 是免费的吗？
是的，conduit 在 GitHub 开源（MIT）。
推荐云部署
Ad在 DigitalOcean 上一键部署
为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器，新用户立享 $200 免费额度（60天有效）。
→