llama-cpp-agent

活跃·★ 635·更新于 2026-03-09

专为 llama.cpp 模型设计的 LLM 交互框架，支持结构化函数调用和结构化输出。

llama-cpp-agent 是一个用于与 llama.cpp 模型交互的 Python 框架，提供聊天、结构化函数调用和 JSON 格式输出的统一接口。即使模型未专门针对函数调用微调，框架也能正常工作。开发者可以定义工具和可调用函数，由智能体直接调用，适合构建无需云端依赖的本地 Agent 工作流。