chinese-llm-benchmark
★ 6.5k
vs
llama-cpp-agent
★ 661
chinese-llm-benchmark vs llama-cpp-agent
chinese-llm-benchmark：ReLE评测（原名CLiB）是一个持续更新的中文AI大模型能力评测项目，已覆盖337个商用及开源大模型。它提供多维度能力评测和综合排行榜，并包含超200万的大模型缺陷库，以帮助社区研究和改进模型。；llama-cpp-agent：llama-cpp-agent 是一个用于与 llama.cpp 模型交互的 Python 框架，提供聊天、结构化函数调用和 JSON 格式输出的统一接口。即使模型未专门针对函数调用微调，框架也能正常工作。开发者可以定义工具和可调用函数，由智能体直接调用，适合构建无需云端依赖的本地 Agent 工作流。
01
简评
chinese-llm-benchmarkLLM Infra · ★ 6.5k
对比和选择特定应用场景下表现最佳的大模型。
llama-cpp-agentLLM Infra · ★ 661
基于开源 LLM 构建本地 Agent 流水线
02
并排对比
03
功能特性
chinese-llm-benchmark01广泛覆盖337+个商用及开源中文大模型。
02支持教育、医疗等7大领域及约300个细分维度的多维度能力评测。
03提供全面细致的各类能力排行榜。
04拥有超200万的大模型缺陷库，便于研究分析和改进大模型。
05为私有大模型提供免费评测服务和定制化选型支持。
llama-cpp-agent01支持 llama.cpp 模型的结构化函数调用
02即使模型未做函数调用微调也可输出 JSON 结构数据
03支持多轮对话的聊天接口
04Python 原生工具/函数定义与绑定
05完全本地部署，无需云端依赖
04
使用场景
chinese-llm-benchmark↳对比和选择特定应用场景下表现最佳的大模型。
↳发现并改进大语言模型的能力缺陷。
↳对私有或定制化大模型进行基准测试，以优化性能和成本。
llama-cpp-agent↳基于开源 LLM 构建本地 Agent 流水线
↳无需微调即可从 LLM 响应中提取结构化数据
↳在消费级硬件上快速原型化函数调用工作流
05
适合场景
chinese-llm-benchmark必备神器时下流行
llama-cpp-agent宝藏工具
FAQ
常见问题
chinese-llm-benchmark 和 llama-cpp-agent 有什么区别？
chinese-llm-benchmark 和 llama-cpp-agent 都属于 LLM Infra 类别。chinese-llm-benchmark 有 6.5k Stars，llama-cpp-agent 有 661 Stars。
chinese-llm-benchmark 和 llama-cpp-agent 哪个更好？
最佳选择取决于你的具体需求。对比和选择特定应用场景下表现最佳的大模型。 时选 chinese-llm-benchmark，基于开源 LLM 构建本地 Agent 流水线 时选 llama-cpp-agent。
chinese-llm-benchmark 是免费的吗？
是的，chinese-llm-benchmark 在 GitHub 开源。
llama-cpp-agent 是免费的吗？
是的，llama-cpp-agent 在 GitHub 开源（NOASSERTION）。
推荐云部署
Ad在 DigitalOcean 上一键部署
为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器，新用户立享 $200 免费额度（60天有效）。
→