AI 可观测性工具，用于监控、日志、追踪和评估生产环境中的 AI 系统。
115 个工具
可观测性工具让你看清 AI 应用和 Agent 在生产环境中的实际行为：追踪每一次模型调用和工具使用、衡量延迟和成本、评估输出质量，以及通过网关管理流量。没有这些工具，多步骤 Agent 出了问题会非常难排查。
要确认工具默认支持哪些框架和服务商、能否自托管，以及如何处理敏感的提示词数据。网关提供跨服务商的路由、负载均衡和故障切换；评估工具帮助你在用户发现之前就发现质量退化。如果大量使用 MCP，能记录工具调用的网关和调试器尤其有用。
| 名称 | 简介 | 分类 | Stars | 许可证 | 更新 |
|---|
| keep最受欢迎时下流行··· | Keep是一个开源的AIOps和告警管理平台，用于统一和智能地处理所有告警和事件。 | 可观测性 | ★ 12.4k | NOASSERTION | 2026-09-28 |
| bifrost时下流行必备神器 | Bifrost 是一个高性能的 AI 网关，通过单一的 OpenAI 兼容 API 统一访问 15+ 不同的 AI 提供商，提供自动故障转移、负载均衡和语义缓存。 | 可观测性 | ★ 8.6k | Apache-2.0 | 2026-10-08 |
| mcp-context-forge时下流行必备神器 | 一个模型上下文协议网关与代理，它通过联邦、虚拟服务器、重试、安全和可选的管理UI来统一REST、MCP和A2A服务。 | 可观测性 | ★ 4.6k | Apache-2.0 | 2026-10-08 |
| lmnr时下流行必备神器 | Laminar 是一个专为 AI 智能体设计的开源可观测性平台。 | 可观测性 | ★ 3.4k | Apache-2.0 | 2026-10-08 |
| holmesgpt时下流行 | HolmesGPT 是一款用于云故障排除和告警调查的 AI 智能体，旨在发现根本原因并提供修复建议。 | 可观测性 | ★ 3.5k | Apache-2.0 | 2026-10-08 |
| golf必备神器时下流行 | Golf 是一个简化 MCP 服务器应用开发的框架，能够将工具、提示和资源定义为简单的 Python 文件。 | 可观测性 | ★ 840 | Apache-2.0 | 2026-09-09 |
| archestra时下流行必备神器 | Archestra 是一个 MCP 原生安全 AI 平台，通过用户友好的工具箱、可观测性和控制功能，简化企业内的 AI 使用，并提供强大的安全保障。 | 可观测性 | ★ 4.4k | AGPL-3.0 (enterprise parts under a commercial license) | 2026-10-08 |
| AgentBench时下流行必备神器 | AgentBench是一个旨在评估大型语言模型作为智能体在多样化环境中的表现的综合性基准测试平台。 | 可观测性 | ★ 3.8k | Apache-2.0 | 2026-02-08 |
| metamcp时下流行必备神器 | MetaMCP 是一个 MCP 代理，可以动态地将多个 MCP 服务器聚合到一个统一的 MCP 服务器中，并应用中间件。 | 可观测性 | ★ 2.7k | MIT | 2026-06-22 |
| covalent时下流行必备神器 | Covalent是一个Python库，旨在通过一行代码在任何云平台或本地集群上运行AI、ML和科学研究计算任务，实现基础设施抽象和无服务器部署。 | 可观测性 | ★ 868 | — | 2026-10-05 |
| openstatus时下流行必备神器 | 一个开源的状态页和正常运行时间监控平台，旨在帮助用户及时了解服务状态并确保服务的可靠性。 | 可观测性 | ★ 9.2k | AGPL-3.0 | 2026-10-08 |
| MCPJungle时下流行必备神器 | MCPJungle是一个自托管的MCP网关，用于您的私人AI代理。 | 可观测性 | ★ 1.3k | — | 2026-08-02 |
| Awesome-LLM-in-Social-Science时下流行宝藏工具 | 该存储库是一个Awesome列表，汇集了从社会科学视角评估和对齐大型语言模型，并利用LLM促进社会科学研究、解决问题和增强工具的优秀论文。 | 可观测性 | ★ 650 | — | 2026-09-24 |
| Agently-Daily-News-Collector时下流行 | Agently每日新闻收集器是一个基于LLM的开源自动化新闻收集工作流展示项目，由Agently AI应用开发框架驱动。 | 可观测性 | ★ 642 | — | 2026-03-10 |
| vespper时下流行 | Vespper 是一个开源的 AI 驱动的随叫随到工程师，能够自动响应事件和警报，并提供实时的上下文洞察和根本原因分析。 | 可观测性 | ★ 360 | — | 2025-04-24 |
| agentgateway时下流行必备神器 | Agentgateway 是一个为 Agentic AI 设计的开源代理，提供完整的连接解决方案。 | 可观测性 | ★ 5.2k | Apache-2.0 | 2026-10-08 |
| agentsilex时下流行宝藏工具 | 一个透明、极简、可定制的智能体框架，专为寻求完全控制的开发者设计。 | 可观测性 | ★ 456 | MIT | 2026-01-02 |
| lunar时下流行必备神器 | 一个开源平台，用于大规模管理、治理和优化跨应用和AI代理工作负载的第三方API消费。 | 可观测性 | ★ 504 | MIT | 2026-10-08 |
| palico-ai时下流行宝藏工具 | Palico AI 提供一套专为LLM应用迭代开发设计的技术栈。 | 可观测性 | ★ 343 | — | 2024-11-26 |
| axar时下流行宝藏工具 | AXAR AI 是一个轻量级框架，用于使用 TypeScript 构建生产级智能体应用程序。 | 可观测性 | ★ 165 | — | 2026-02-09 |
