工具 MCP 服务HOT 分类热门最新选型清单对比指南

工具 MCP 服务HOT 分类热门最新选型清单对比指南

大模型基础设施/

deltallm

deltallm

活跃·★ 20·MIT·更新于 2026-10-22

DeltaLLM是一个自托管的AI网关，为100多个LLM提供商提供统一的OpenAI兼容API。它通过内置的路由、成本跟踪和安全防护等企业级功能，简化了LLM集成。

#AI 网关#LLM 管理#OpenAI API 代理#企业级控制#API 路由#安全防护#成本管理#多提供商集成

$ 安装

$ MASTER_KEY=$(python3 -c 'import secrets; print("sk-" + secrets.token_hex(20) + "A1")') && SALT_KEY=$(python3 -c 'import secrets; print(secrets.token_hex(32))') && git clone https://github.com/deltawi/deltallm.git && cd deltallm && cp config.example.yaml config.yaml && echo "DELTALLM_MASTER_KEY=$MASTER_KEY" > .env && echo "DELTALLM_SALT_KEY=$SALT_KEY" >> .env && echo "OPENAI_API_KEY=sk-your-openai-key" >> .env && echo "[email protected]" >> .env && echo "PLATFORM_BOOTSTRAP_ADMIN_PASSWORD=ChangeMe123!" >> .env && docker compose --profile single up -d --build

↗ 访问官网 ★ GitHub

01

功能特性

01统一的OpenAI兼容API，支持100多个LLM提供商。

02虚拟API密钥，具备预算、速率限制和模型限制等精细控制。

03先进的路由和故障转移策略，支持自动重试。

04内置安全防护措施，包括PII检测和提示注入保护。

05全面的开销跟踪，按密钥、团队和模型进行成本归属。

02

兼容性

Python

运行时

已通过文档验证

Docker

容器化

已通过文档验证

Kubernetes

编排

已通过文档验证

PostgreSQL

数据库

已通过文档验证

Redis

缓存/消息代理

已通过文档验证

03

快速开始

1

$ MASTER_KEY=$(python3 -c 'import secrets; print("sk-" + secrets.token_hex(20) + "A1")')

2

$ SALT_KEY=$(python3 -c 'import secrets; print(secrets.token_hex(32))')

3

$ git clone https://github.com/deltawi/deltallm.git

4

$ cd deltallm

5

$ cp config.example.yaml config.yaml

6

$ echo "DELTALLM_MASTER_KEY=$MASTER_KEY" > .env

7

$ echo "DELTALLM_SALT_KEY=$SALT_KEY" >> .env

8

$ echo "OPENAI_API_KEY=sk-your-openai-key" >> .env

9

$ echo "[email protected]" >> .env

10

$ echo "PLATFORM_BOOTSTRAP_ADMIN_PASSWORD=ChangeMe123!" >> .env

11

$ docker compose --profile single up -d --build

04

使用场景

↳集中式LLM访问管理：通过单一入口简化多个LLM提供商的API密钥管理和开发者集成。

↳成本控制与优化：实施预算并跟踪开销，以优化团队和模型之间的LLM使用成本。

↳增强安全性和合规性：在LLM交互中应用PII检测和提示注入保护等安全防护。

↳多供应商LLM策略：根据性能、成本或可用性在不同LLM提供商之间路由请求，避免供应商锁定。

05

同类工具

⚡热门对决:

VSbifrost★9.0k→VSllmkit★15→VStunnel-client★589→VSemisar★331→

bifrost★ 9.0k

Bifrost 是一个高性能的 AI 网关，通过单一的 OpenAI 兼容 API 统一访问 15+ 不同的 AI 提供商，提供自动故障转移、负载均衡和语义缓存。

LLMKit是一个开源AI网关和SDK套件，用于成本归因、预算准入和请求证据。

tunnel-client★ 589

tunnel-client 是一个客户运行的代理，旨在通过 OpenAI 托管的 MCP 隧道端点，将私有或本地的 MCP 服务器安全地连接到 ChatGPT、Codex 等 OpenAI 产品，同时保持 MCP 服务器的私有性。

emisar 为具备 MCP 能力的智能体提供一套声明式基础设施操作目录，而非直接的 shell 访问，并通过策略决定操作的执行、审批或拒绝。

agent-harness-generator★ 713

MetaHarness是一个命令行工具和浏览器工作室，能将任何GitHub仓库（或空白起点）转化为定制的AI智能体线束。

Conduit是一个本地MCP（模型上下文协议）网关，旨在通过将多个服务器工具整合为少量元工具，优化AI代理的工具使用和上下文管理，从而大幅减少令牌消耗并简化多服务器集成。

Lobu 是一个开源后端基础设施，用于构建和运行能观察、记忆和行动的自主AI智能体，支持多租户隔离和企业级工具集成。

llmtrim 是一个本地代理，用于智能压缩LLM API请求，从而降低成本，同时不改变响应结果。

查看全部替代品 →

评论

登录后发表评论

暂无评论，来发表第一条吧

本页内容

01功能特性 02兼容性 03快速开始 04使用场景 05同类工具

DeltaLLM是一个自托管的AI网关，为100多个LLM提供商提供统一的OpenAI兼容API，并内置路由、预算、防护和团队管理等企业级控制功能。

最后更新1天前

状态活跃

分类大模型基础设施

链接

文档↗讨论↗问题↗版本↗

推荐云部署

Ad

在 DigitalOcean 上一键部署

为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器，新用户立享 $200 免费额度（60天有效）。

立即领取 $200 免费额度

© 2026 AgentIndex.app|由十年 iOS 开发者构建。

按场景挑选关于我们联系我们广告合作隐私政策使用条款 QYS GitHub 请作者喝咖啡 ☕

按分类浏览

MCP 服务器代码助手工作流自动化 RAG / 知识库多智能体浏览器自动化大模型基础设施开发者工具可观测性

与 Anthropic, OpenAI 或 Microsoft 无关。