deltallm logo
deltallm
★ 20
vs
lobu logo
lobu
★ 230

deltallm vs lobu

deltallm:DeltaLLM是一个自托管的AI网关,为100多个LLM提供商提供统一的OpenAI兼容API。它通过内置的路由、成本跟踪和安全防护等企业级功能,简化了LLM集成。;lobu:Lobu 是一个开源后端基础设施,旨在为自主AI智能体提供支持,使其能够在现有团队工作流中进行观察、记忆和行动。它提供多租户环境、沙盒执行、持久事件日志和类型化知识图谱,以连接公司工具并使智能体能在各种平台上运行。

01

简评

deltallm logo
deltallmLLM Infra · ★ 20

集中式LLM访问管理:通过单一入口简化多个LLM提供商的API密钥管理和开发者集成。

lobu logo
lobuLLM Infra · ★ 230

员工AI助手:在Slack上部署持久的沙盒智能体,与内部工具和文档集成。

02

并排对比

字段
deltallm logodeltallm
lobu logolobu
分类
大模型基础设施
大模型基础设施
Stars
★ 20
★ 230
许可证
MIT
Apache-2.0
安装方式
MASTER_KEY=$(python3 -c 'import secrets; print("sk-" + secrets.token_hex(20) + "A1")') && SALT_KEY=$(python3 -c 'import secrets; print(secrets.token_hex(32))') && git clone https://github.com/deltawi/deltallm.git && cd deltallm && cp config.example.yaml config.yaml && echo "DELTALLM_MASTER_KEY=$MASTER_KEY" > .env && echo "DELTALLM_SALT_KEY=$SALT_KEY" >> .env && echo "OPENAI_API_KEY=sk-your-openai-key" >> .env && echo "[email protected]" >> .env && echo "PLATFORM_BOOTSTRAP_ADMIN_PASSWORD=ChangeMe123!" >> .env && docker compose --profile single up -d --build
npx @lobu/cli@latest init my-bot && cd my-bot && npx @lobu/cli@latest run
更新时间
1天前
1天前
开源
是
是
标签
AI 网关, LLM 管理, OpenAI API 代理
自主智能体, AI基础设施, 多租户
03

功能特性

deltallm logodeltallm
01统一的OpenAI兼容API,支持100多个LLM提供商。
02虚拟API密钥,具备预算、速率限制和模型限制等精细控制。
03先进的路由和故障转移策略,支持自动重试。
04内置安全防护措施,包括PII检测和提示注入保护。
05全面的开销跟踪,按密钥、团队和模型进行成本归属。
lobu logolobu
01记忆与知识图谱:将数据摄取到持久事件日志中,定义自定义实体模式,并构建一个实时、组织范围的知识图谱,以实现共享组织记忆。
02多租户沙盒执行:在每个对话或通道的独立沙盒中运行智能体,确保安全性与凭据隔离,同时单个Node进程可服务多个智能体。
03跨平台通道支持:支持与Slack、Telegram、WhatsApp、Discord、Teams、Google Chat等多种通信平台集成,并为每个通道提供专用运行时。
04护栏与安全:实施秘密代理、出站策略强制执行和AI驱动的护栏等安全功能,以控制智能体行为和数据处理。
05灵活的智能体集成:允许用户通过MCP引入自己的智能体,通过CLI和TypeScript SDK进行交互,或运行Lobu内置的智能体,所有这些都由相同的组织范围图支持。
04

使用场景

deltallm logodeltallm
↳集中式LLM访问管理:通过单一入口简化多个LLM提供商的API密钥管理和开发者集成。
↳成本控制与优化:实施预算并跟踪开销,以优化团队和模型之间的LLM使用成本。
↳增强安全性和合规性:在LLM交互中应用PII检测和提示注入保护等安全防护。
↳多供应商LLM策略:根据性能、成本或可用性在不同LLM提供商之间路由请求,避免供应商锁定。
lobu logolobu
↳员工AI助手:在Slack上部署持久的沙盒智能体,与内部工具和文档集成。
↳自动化客户支持:处理多步骤工单解决,支持人工介入。
↳自主工作流:运行具有持久状态的长时间运行的计划后台作业。
↳托管基础设施:提供具有更新和扩展功能的私有Lobu部署,用于生产环境。
↳自定义工具和技能:开发定制的MCP服务器、Nix运行时和智能体技能,以满足特定需求。
05

适合场景

deltallm logodeltallm
—
lobu logolobu
宝藏工具
FAQ

常见问题

deltallm 和 lobu 有什么区别?
deltallm 和 lobu 都属于 LLM Infra 类别。deltallm 有 20 Stars,lobu 有 230 Stars。
deltallm 和 lobu 哪个更好?
最佳选择取决于你的具体需求。集中式LLM访问管理:通过单一入口简化多个LLM提供商的API密钥管理和开发者集成。 时选 deltallm,员工AI助手:在Slack上部署持久的沙盒智能体,与内部工具和文档集成。 时选 lobu。
deltallm 是免费的吗?
是的,deltallm 在 GitHub 开源(MIT)。
lobu 是免费的吗?
是的,lobu 在 GitHub 开源(Apache-2.0)。
推荐云部署
Ad

在 DigitalOcean 上一键部署

为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器,新用户立享 $200 免费额度(60天有效)。

立即领取 $200 免费额度
→

相关链接