LLMCompiler

活跃·★ 1.9k·更新于 2024-07-10

LLMCompiler是一个框架，通过自动识别可并行和相互依赖的任务，高效且有效地协调大型语言模型（LLM）的并行函数调用。

LLMCompiler是一个框架，用于高效且有效地编排大型语言模型（包括开源和闭源模型）的并行函数调用。它通过自动识别可并行和相互依赖的任务来工作，从而在延迟、成本和准确性方面显著优于顺序执行方法。