freellmpool
★ 129
vs
chinese-llm-benchmark
★ 6.5k
freellmpool vs chinese-llm-benchmark
freellmpool:freellmpool将19个LLM提供商的免费层聚合到一个OpenAI兼容的端点,部分提供商甚至无需API密钥即可访问。它支持提供商间的自动故障转移、每日使用量追踪,并提供命令行界面、Python库和本地代理等多种使用方式。;chinese-llm-benchmark:ReLE评测(原名CLiB)是一个持续更新的中文AI大模型能力评测项目,已覆盖337个商用及开源大模型。它提供多维度能力评测和综合排行榜,并包含超200万的大模型缺陷库,以帮助社区研究和改进模型。
01
简评
freellmpoolLLM Infra · ★ 129
在本地使用pooled的免费LLM模型运行编码代理(例如Claude Code, aider)
chinese-llm-benchmarkLLM Infra · ★ 6.5k
对比和选择特定应用场景下表现最佳的大模型。
02
并排对比
03
功能特性
01兼容OpenAI和实验性Anthropic API端点,用于LLM及其他服务
02在速率限制、超时或错误时,对多个免费LLM提供商进行自动故障转移和负载均衡
03对免费层进行每日使用量追踪和智能配额管理,以最大化可用性
04支持部分提供商免密钥运行,无需API密钥即可立即使用
05基于提示难度、延迟或使用情况的智能路由(例如,质量、快速、公平模式)
01广泛覆盖337+个商用及开源中文大模型。
02支持教育、医疗等7大领域及约300个细分维度的多维度能力评测。
03提供全面细致的各类能力排行榜。
04拥有超200万的大模型缺陷库,便于研究分析和改进大模型。
05为私有大模型提供免费评测服务和定制化选型支持。
04
使用场景
↳在本地使用pooled的免费LLM模型运行编码代理(例如Claude Code, aider)
↳实时基准测试并监控各种免费LLM提供商的健康状况和容量
↳通过简单的库API将免费LLM功能集成到Python应用程序中,用于摘要或嵌入等任务
↳作为现有工具和脚本的本地OpenAI兼容代理服务,将请求重定向到免费层
↳排队和管理缓慢、配额感知的LLM作业,用于后台处理和报告
↳对比和选择特定应用场景下表现最佳的大模型。
↳发现并改进大语言模型的能力缺陷。
↳对私有或定制化大模型进行基准测试,以优化性能和成本。
05
适合场景
—
必备神器时下流行
FAQ
常见问题
freellmpool 和 chinese-llm-benchmark 有什么区别?
freellmpool 和 chinese-llm-benchmark 都属于 LLM Infra 类别。freellmpool 有 129 Stars,chinese-llm-benchmark 有 6.5k Stars。
freellmpool 和 chinese-llm-benchmark 哪个更好?
最佳选择取决于你的具体需求。在本地使用pooled的免费LLM模型运行编码代理(例如Claude Code, aider) 时选 freellmpool,对比和选择特定应用场景下表现最佳的大模型。 时选 chinese-llm-benchmark。
freellmpool 是免费的吗?
是的,freellmpool 在 GitHub 开源(MIT)。
chinese-llm-benchmark 是免费的吗?
是的,chinese-llm-benchmark 在 GitHub 开源。
推荐云部署
Ad在 DigitalOcean 上一键部署
为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器,新用户立享 $200 免费额度(60天有效)。
→