llmkit
活跃·★ 15·MIT·更新于 2026-10-22
LLMKit是一个开源AI网关和SDK套件,旨在衡量AI代理的成本并阻止请求超出预设预算。它提供成本归因、预算准入和请求证据,确保AI支出高效可控。
#AI网关#成本管理#预算控制#LLM可观测性#API代理#开发者工具
01
功能特性
01成本归因与估算
02预算准入与强制执行
03请求证据与分析
04多语言SDK和CLI支持
02
兼容性
Python
软件开发工具包
已通过文档验证
TypeScript
软件开发工具包
已通过文档验证
CLI
工具
已通过文档验证
03
快速开始
1
$ pip install llmkit-sdk
04
使用场景
↳对现有Python/TypeScript AI SDK调用的本地成本监控
↳零代码CLI追踪以快速获取成本摘要
↳为多个AI应用管理共享预算和提供商路由
↳在MCP客户端内检查会话数据以获取成本和预算洞察
05
同类工具
评论
登录后发表评论
暂无评论,来发表第一条吧