freellmpool
★ 43
vs
osaurus
★ 37
freellmpool vs osaurus
freellmpool：freellmpool将19个LLM提供商的免费层聚合到一个OpenAI兼容的端点，部分提供商甚至无需API密钥即可访问。它支持提供商间的自动故障转移、每日使用量追踪，并提供命令行界面、Python库和本地代理等多种使用方式。；osaurus：Osaurus是macOS上的AI边缘运行时，利用Apple Silicon优化本地推理并连接各种云模型。它为AI应用提供原生基础，通过模型上下文协议（MCP）暴露工具，并支持自定义助手和自动化工作流。
01
简评
选 freellmpool 如果…在本地使用pooled的免费LLM模型运行编码代理（例如Claude Code, aider）
选 osaurus 如果…在macOS上本地构建和部署AI应用和工作流
02
并排对比
03
功能特性
freellmpool01兼容OpenAI和实验性Anthropic API端点，用于LLM及其他服务
02在速率限制、超时或错误时，对多个免费LLM提供商进行自动故障转移和负载均衡
03对免费层进行每日使用量追踪和智能配额管理，以最大化可用性
04支持部分提供商免密钥运行，无需API密钥即可立即使用
05基于提示难度、延迟或使用情况的智能路由（例如，质量、快速、公平模式）
osaurus01为Apple Silicon优化本地大型语言模型推理 (MLX)
02兼容OpenAI、Anthropic、Ollama及自定义远程AI API
03用于暴露工具的MCP服务器和可扩展的插件系统
04可定制的AI角色和自动化任务调度
05设备上语音输入、唤醒词激活和全局转录
04
使用场景
freellmpool↳在本地使用pooled的免费LLM模型运行编码代理（例如Claude Code, aider）
↳实时基准测试并监控各种免费LLM提供商的健康状况和容量
↳通过简单的库API将免费LLM功能集成到Python应用程序中，用于摘要或嵌入等任务
↳作为现有工具和脚本的本地OpenAI兼容代理服务，将请求重定向到免费层
↳排队和管理缓慢、配额感知的LLM作业，用于后台处理和报告
osaurus↳在macOS上本地构建和部署AI应用和工作流
↳通过独特角色自动化重复AI任务和定制AI助手
↳通过兼容API统一访问本地和云端AI模型及工具
05
适合场景
freellmpool—
osaurus时下流行必备神器
FAQ
常见问题
freellmpool 和 osaurus 有什么区别？
freellmpool 和 osaurus 都属于 LLM Infra 类别。freellmpool 有 43 Stars，osaurus 有 37 Stars。
freellmpool 和 osaurus 哪个更好？
最佳选择取决于你的具体需求。在本地使用pooled的免费LLM模型运行编码代理（例如Claude Code, aider） 时选 freellmpool，在macOS上本地构建和部署AI应用和工作流 时选 osaurus。
freellmpool 是免费的吗？
是的，freellmpool 在 GitHub 开源（MIT）。
osaurus 是免费的吗？
是的，osaurus 在 GitHub 开源（MIT）。
→