工具 MCP 服务HOT 分类热门最新选型清单对比指南

工具 MCP 服务HOT 分类热门最新选型清单对比指南

大模型基础设施/

LLMCompiler

LLMCompiler

★ 1.9k·MIT·更新于 2024-07-10

LLMCompiler是一个框架，用于高效且有效地编排大型语言模型（包括开源和闭源模型）的并行函数调用。它通过自动识别可并行和相互依赖的任务来工作，从而在延迟、成本和准确性方面显著优于顺序执行方法。

#LLM编排#函数调用#并行计算#性能优化#Python

$ 安装

$ pip install -r requirements.txt

↗ 访问官网 ★ GitHub

01

功能特性

01高效且有效地编排并行函数调用

02自动识别可并行和相互依赖的任务

03实现显著的延迟加速

04降低LLM操作成本

05提高相较于顺序方法的准确性

02

兼容性

OpenAI GPT

OpenAI API

已通过文档验证

LLaMA

开源模型

已通过文档验证

LangChain LangGraph

集成支持

已通过文档验证

LlamaIndex

LlamaIndex可用

已通过文档验证

vLLM

自定义模型

已通过文档验证

Azure OpenAI

Azure 端点

已通过文档验证

03

快速开始

1

$ pip install -r requirements.txt

04

使用场景

↳解决需要多个相互依赖函数调用的复杂问题

↳执行多跳信息检索和问答任务

↳开发利用并行工具使用的高效AI代理

05

同类工具

⚡热门对决:

VSskrl★1.1k→VSMicrosoft AutoGen★61.6k→VSPraisonAI★9.3k→VSag2★5.0k→

skrl是一个用Python编写的开源模块化强化学习库，支持PyTorch、JAX和NVIDIA Warp，并专注于模块化、可读性、简单性和算法实现的透明性。

Microsoft AutoGen★ 61.6k

AutoGen是一个用于创建多智能体AI应用的框架，这些应用可以自主运行或与人类协作。

PraisonAI★ 9.3k

PraisonAI是一个生产就绪的、具备自反思能力的多AI智能体框架，旨在通过低代码解决方案自动化和解决从简单到复杂的各种问题，强调简洁性、可定制性和有效的人机协作。

AG2（前身为AutoGen）是一个开源编程框架，用于构建AI代理并促进多代理协作以解决任务。

Agently★ 1.7k

Agently是一个用于加速生成式AI应用开发的Python框架。

RLCard是一个用于扑克牌游戏中强化学习的工具包。

IR-SIM是一个基于Python的轻量级开源机器人模拟器，专为导航、控制和强化学习设计，提供用户友好的框架以快速原型开发。

code-act★ 1.7k

CodeAct提出使用可执行代码来统一大型语言模型代理的行动空间，从而提升LLM代理的性能。

查看全部替代品 →

评论

登录后发表评论

暂无评论，来发表第一条吧

本页内容

01功能特性 02兼容性 03快速开始 04使用场景 05同类工具

LLMCompiler是一个框架，通过自动识别可并行和相互依赖的任务，高效且有效地协调大型语言模型（LLM）的并行函数调用。

最后更新2年前

状态一年以上未更新

分类大模型基础设施

链接

文档↗讨论↗问题↗版本↗

推荐云部署

Ad

在 DigitalOcean 上一键部署

为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器，新用户立享 $200 免费额度（60天有效）。

立即领取 $200 免费额度

© 2026 AgentIndex.app|由十年 iOS 开发者构建。

按场景挑选关于我们联系我们广告合作隐私政策使用条款 QYS GitHub 请作者喝咖啡 ☕

按分类浏览

MCP 服务器代码助手工作流自动化 RAG / 知识库多智能体浏览器自动化大模型基础设施开发者工具可观测性

与 Anthropic, OpenAI 或 Microsoft 无关。