agentgateway

Agentgateway 是基于 AI 原生协议 MCP 和 A2A 构建的开源代理，README 称它是第一个完整的智能体 AI 连接方案。它把几种网关合在一起：LLM 网关，通过统一的、兼容 OpenAI 的 API 把流量路由到主要提供商（OpenAI、Anthropic、Gemini、Bedrock 等），带预算和花费控制、提示词增强、负载均衡和故障转移；MCP 网关，连接 LLM 与工具和数据，支持工具联合、stdio、HTTP、SSE 和 Streamable HTTP 传输、OpenAPI 集成和 OAuth；以及 A2A 网关，用于带能力发现和任务协作的安全智能体间通信。

它还提供通过 Kubernetes Inference Gateway 扩展路由到自托管模型的推理路由（依据 GPU 利用率、KV 缓存、LoRA 适配器和队列深度做决策）、多层护栏（正则、OpenAI 内容审核、AWS Bedrock Guardrails、Google Model Armor 和自定义 Webhook），以及安全和可观测性功能：JWT、API 密钥和 OAuth 认证、带 CEL 策略引擎的细粒度 RBAC、限流、TLS 和 OpenTelemetry 指标、日志与追踪。提供独立部署的快速开始，代码采用 Apache-2.0 许可证。