osaurus
★ 8.1k
vs
conduit
★ 233
osaurus vs conduit
osaurus:Osaurus 是一个适用于 macOS 的 AI 边缘运行时,旨在运行本地和云端模型,并通过其 MCP 服务器暴露共享工具。它为 Apple Silicon 上的 AI 应用程序和工作流提供了一个原生、始终在线的基础。;conduit:Conduit 作为一个本地模型上下文协议(MCP)网关,旨在通过将服务器工具整合为少数元工具,显著减少AI代理使用多个工具时的令牌开销。它简化了各种服务的设置和身份验证,只需配置一次即可在所有连接的AI客户端中使用。
01
简评
osaurusLLM Infra · ★ 8.1k
何时选择它(优势与适用):
- 你用 Apple Silicon 的 Mac,想在一个常驻应用里同时用本地 MLX 模型和云端服务商。
- 想要 OpenAI、Anthropic 和 Ollama 兼容的接口,让现有工具不改就能用。
- 想在同一个地方得到 MCP 服务器、远程 MCP 聚合、记忆、技能和定时任务。
何时考虑替代方案:
- 你用的不是 macOS 15.5 或更新版本的 Apple Silicon Mac。
- 你只想要一个简单的本地模型服务器:它的范围大得多。
- 你想要以语音为主的助手:语音不是它的重点。
conduitLLM Infra · ★ 233
降低AI代理使用大量工具时的令牌成本并提高上下文窗口效率。
02
并排对比
字段
分类
大模型基础设施
大模型基础设施
Stars
★ 8.1k
★ 233
许可证
MIT
MIT
安装方式
brew install --cask osaurus
git clone https://github.com/tsouth89/conduit.git && cd conduit && npm install && npm run build:gateway && npm run tauri dev
更新时间
1天前
3天前
开源
是
是
标签
AI 边缘运行时, macOS 原生, 本地大模型推理
AI 代理, 工具管理, 令牌优化
03
功能特性
01基于 MLX 运行时为 Apple Silicon 提供本地大模型推理
02多 API 兼容性(OpenAI、Anthropic、Ollama 等)
03用于 AI 智能体工具的 MCP 服务器及远程 MCP 提供商聚合
04具备混合搜索功能的高级四层持久化内存系统
05集成设备端语音输入和转录功能,支持语音活动检测模式
01通过工具的惰性发现模式减少约90%的令牌消耗。
02所有AI客户端只需一次设置和身份验证。
03基于代理的作用域控制不同客户端的工具访问。
04内置治理功能,可开启/关闭工具并审计调用。
05内置的工具测试平台,可在集成前验证工具功能。
04
使用场景
↳使用“工作模式”自动化 AI 智能体的复杂多步骤任务,例如代码重构、调试或研究。
↳创建具有自定义提示、工具和主题的个性化 AI 助手,以适应不同角色,如代码助手或创意作家。
↳自动化周期性 AI 任务和工作流,例如每日日志、每周报告或通过监视器进行文件整理。
↳通过兼容的 API 端点集成本地和云端大语言模型,用于开发和个人使用。
↳降低AI代理使用大量工具时的令牌成本并提高上下文窗口效率。
↳从单个网关为各种AI客户端管理和验证多个外部服务(例如 Stripe、Supabase、GitHub)。
↳对不同AI客户端或代理可以访问的工具提供精细控制,增强安全性和合规性。
↳在部署工具到代理之前,使用内置平台测试和验证AI工具(例如来自MCP服务器的工具)。
05
适合场景
—
宝藏工具
FAQ
常见问题
osaurus 和 conduit 有什么区别?
osaurus 和 conduit 都属于 LLM Infra 类别。osaurus 有 8.1k Stars,conduit 有 233 Stars。
osaurus 和 conduit 哪个更好?
最佳选择取决于你的具体需求。使用“工作模式”自动化 AI 智能体的复杂多步骤任务,例如代码重构、调试或研究。 时选 osaurus,降低AI代理使用大量工具时的令牌成本并提高上下文窗口效率。 时选 conduit。
osaurus 是免费的吗?
是的,osaurus 在 GitHub 开源(MIT)。
conduit 是免费的吗?
是的,conduit 在 GitHub 开源(MIT)。
推荐云部署
Ad在 DigitalOcean 上一键部署
为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器,新用户立享 $200 免费额度(60天有效)。
→