chinese-llm-benchmark:ReLE评测(原名CLiB)是一个持续更新的中文AI大模型能力评测项目,已覆盖337个商用及开源大模型。它提供多维度能力评测和综合排行榜,并包含超200万的大模型缺陷库,以帮助社区研究和改进模型。;llama-cpp-agent:llama-cpp-agent 是一个用于与 llama.cpp 模型交互的 Python 框架,提供聊天、结构化函数调用和 JSON 格式输出的统一接口。即使模型未专门针对函数调用微调,框架也能正常工作。开发者可以定义工具和可调用函数,由智能体直接调用,适合构建无需云端依赖的本地 Agent 工作流。
对比和选择特定应用场景下表现最佳的大模型。
基于开源 LLM 构建本地 Agent 流水线