houtini-lm
★ 121
vs
osaurus
★ 8.1k
houtini-lm vs osaurus
houtini-lm：Houtini LM将Claude Code连接到本地LLM服务器或任何兼容OpenAI的API，将边界明确的任务卸载出去以减少令牌成本。它提供了工具、性能跟踪和模型路由以实现高效委托。Claude仍然负责复杂推理的编排，而廉价的本地模型处理琐碎工作。；osaurus：Osaurus 是一个适用于 macOS 的 AI 边缘运行时，旨在运行本地和云端模型，并通过其 MCP 服务器暴露共享工具。它为 Apple Silicon 上的 AI 应用程序和工作流提供了一个原生、始终在线的基础。
01
简评
houtini-lmLLM Infra · ★ 121
生成测试桩
osaurusLLM Infra · ★ 8.1k
何时选择它（优势与适用）：
- 你用 Apple Silicon 的 Mac，想在一个常驻应用里同时用本地 MLX 模型和云端服务商。
- 想要 OpenAI、Anthropic 和 Ollama 兼容的接口，让现有工具不改就能用。
- 想在同一个地方得到 MCP 服务器、远程 MCP 聚合、记忆、技能和定时任务。
何时考虑替代方案：
- 你用的不是 macOS 15.5 或更新版本的 Apple Silicon Mac。
- 你只想要一个简单的本地模型服务器：它的范围大得多。
- 你想要以语音为主的助手：语音不是它的重点。
02
并排对比
03
功能特性
houtini-lm01将边界明确的任务卸载到本地或云端LLM
02通过HuggingFace元数据丰富进行模型发现
03实时性能跟踪（TTFT、tok/s）
04通过基于语法的采样实现结构化JSON输出
05自动剥离GLM、Nemotron等模型的思考块
osaurus01基于 MLX 运行时为 Apple Silicon 提供本地大模型推理
02多 API 兼容性（OpenAI、Anthropic、Ollama 等）
03用于 AI 智能体工具的 MCP 服务器及远程 MCP 提供商聚合
04具备混合搜索功能的高级四层持久化内存系统
05集成设备端语音输入和转录功能，支持语音活动检测模式
04
使用场景
houtini-lm↳生成测试桩
↳代码审查和错误查找
↳起草提交信息
osaurus↳使用“工作模式”自动化 AI 智能体的复杂多步骤任务，例如代码重构、调试或研究。
↳创建具有自定义提示、工具和主题的个性化 AI 助手，以适应不同角色，如代码助手或创意作家。
↳自动化周期性 AI 任务和工作流，例如每日日志、每周报告或通过监视器进行文件整理。
↳通过兼容的 API 端点集成本地和云端大语言模型，用于开发和个人使用。
FAQ
常见问题
houtini-lm 和 osaurus 有什么区别？
houtini-lm 和 osaurus 都属于 LLM Infra 类别。houtini-lm 有 121 Stars，osaurus 有 8.1k Stars。
houtini-lm 和 osaurus 哪个更好？
最佳选择取决于你的具体需求。生成测试桩 时选 houtini-lm，使用“工作模式”自动化 AI 智能体的复杂多步骤任务，例如代码重构、调试或研究。 时选 osaurus。
houtini-lm 是免费的吗？
是的，houtini-lm 在 GitHub 开源（MIT）。
osaurus 是免费的吗？
是的，osaurus 在 GitHub 开源（MIT）。
推荐云部署
Ad在 DigitalOcean 上一键部署
为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器，新用户立享 $200 免费额度（60天有效）。
→