AgentIndex icon
AgentIndex
工具MCP 服务HOT分类热门最新选型清单对比指南
提交工具
工具MCP 服务HOT分类热门最新选型清单对比指南
首页/
大模型基础设施/
OGAM
OGAM logo

OGAM

活跃·★ 3.3k·MIT·更新于 2026-10-27
★ 时下流行

Off Grid AI 是在手机或 Mac 上离线运行 AI 的应用,README 声明数据不会离开设备。它整合了文本生成(Qwen 3、Llama 3.2、Gemma 3、Phi-4 以及你自带的任何 GGUF 模型)、本机 Stable Diffusion 图像生成、视觉模型(SmolVLM、Qwen3-VL、Gemma 3n)、本机 Whisper 语音输入、文档分析,以及能调用网页搜索、计算器、日期时间、设备信息和知识库搜索的工具。项目里可以放 PDF 和文本,它们会在本机用内置的 MiniLM 模型切块并生成向量,存进 SQLite。

它还支持 GPU 和 NPU 加速(Adreno 上的 OpenCL、Apple Silicon 上的 Metal、Snapdragon 的 Hexagon NPU),但 README 自己标注为实验性:只有 Q4_0 和 Q8_0 量化能加速,其他量化会回退到 CPU,个别架构会输出乱码。它可以连接局域网里兼容 OpenAI 的服务器,比如 Ollama 和 LM Studio,显示每个模型的内存占用,并带下载管理器。README 给出了性能范围,例如旗舰手机 CPU 上 15-30 token/秒,测试机型是骁龙 8 Gen 2/3 和 Apple A17 Pro。

应用在 Google Play 和 App Store 上架,也可以用 `git clone` 和 `npm install` 从源码构建。README 还推广了可选的 Pro 版(语音回复、角色、先起草后批准的操作、手机与 Mac 同步),价格是一次性 69 美元或每年 49 美元,所以免费应用和付费功能是分开的。代码为 MIT 许可,最近一次推送是 2026-10-12。本评测依据 README 和仓库数据,我们没有实际运行过它。

本文根据项目 README 和公开仓库数据整理,我们没有实际试用过该工具。数据截至 2026-10-27。

许可证
MIT
最新发布
v0.0.118 · 2026-10-23
最近提交
2026-10-27
贡献者
14
复刻数
324
未关闭的 issue 和 PR
143
首次发布
2026-01-29

来源:GitHub、npm 和 PyPI 的公开接口。

#设备端AI#离线大型语言模型#图像生成#视觉AI#语音转文本#工具调用#检索增强生成
$ 安装
$ git clone https://github.com/off-grid-ai/OGAM.git && cd OGAM && npm install
↗ 访问官网★ GitHub
01

功能特性

01设备端多模型文本生成
02本地稳定扩散图像生成
03基于摄像头的视觉AI,用于场景和文档分析
04支持内置工具(网页搜索、计算器、知识库)的函数调用
05设备端RAG,用于文档分析和知识检索
02

为什么选择它

+文本、图像生成、视觉、语音输入、工具和文档分析都在本机运行,按 README 所述数据不离开手机
+能运行任何 GGUF 模型,也可使用局域网里的 Ollama 或 LM Studio,并显示每个模型的内存占用
+本地知识库:PDF 在本机切块、生成向量并存入 SQLite
+可在 Google Play 和 App Store 下载,也能从源码构建;MIT;最近一次推送 2026-10-12
03

权衡点

!README 自己把 GPU 和 NPU 加速标为实验性:只有 Q4_0 和 Q8_0 量化能加速,个别架构会输出乱码
!模型有几个 GB,手机内存有限,较大的模型可能加载不了
!语音回复、角色、需批准的操作和同步属于付费 Pro 版(一次性 69 美元或每年 49 美元)
!速度数字来自项目在少数设备上的自测
05

维护状况检查

活跃检查日期: 2026-10-27
最近提交
2026-10-27
近 90 天提交数
100+
近 90 天发布数
18
最新发布
v0.0.118 (2026-10-23)
未关闭 issue
143
近期 issue 至少有一条评论的比例
1/3
近 12 周每周提交数
近 12 周每周提交数: 158, 219, 111, 37, 33, 305, 16, 12, 72, 69, 232, 2

最早的一周在左边,最近 4 周为橙色。数据来源:GitHub 提交统计。

状态规则:GitHub 上已归档 = 已归档;最近提交在 90 天内 = 活跃;91 到 365 天 = 放缓;更久 = 停滞。所有数字来自所示日期的 GitHub API。

讨论最多的未关闭 issue

  • #375 [Bug] v0.0.94 very slow31 条评论 · 2026-05-25
  • #364 [Bug] UI very slow to respond even when no model is loaded16 条评论 · 2026-05-18
  • #187 [Bug] web_search issue&model first token generation issue13 条评论 · 2026-03-16
  • #93 [Feature] Add Persistent Local RAG Knowledge Base10 条评论 · 2026-03-02
  • #23 Release on F-Droid10 条评论 · 2026-02-15

issue 标题引自 GitHub。请打开链接确认该问题是否仍适用于你使用的版本。

04

适合谁

适合选它的情况
  • 想在手机或 Mac 上离线使用对话、图像生成、视觉和语音输入,数据不离开设备。
  • 想使用任意 GGUF 模型,或者连接局域网里的 Ollama 或 LM Studio。
  • 想要本地知识库:PDF 在设备上做嵌入,存进 SQLite。
建议换别的情况
  • 你需要语音回复:它在付费 Pro 版里(一次性 69 美元或每年 49 美元)。
  • 你依赖 GPU 或 NPU 加速:README 标注为实验性,只加速 Q4_0 和 Q8_0 量化,部分架构会输出乱码。
  • 你的手机内存小:模型有好几 GB。
06

与同类的区别

runanywhere-sdks logovs runanywhere-sdks★ 10.3k

RunAnywhere 为开发者提供在自己应用中运行设备端 AI 的 SDK。Off Grid AI 是现成的应用。

完整横向对比 →
07

兼容性

Android
平台
已通过文档验证
iOS
平台
已通过文档验证
macOS
平台
已通过文档验证
Node.js 20+
构建运行时
已通过文档验证
JDK 17
Android构建
已通过文档验证
Xcode 15+
iOS构建
已通过文档验证
08

快速开始

1
$ git clone https://github.com/off-grid-ai/OGAM.git
2
$ cd OGAM
3
$ npm install
09

使用场景

↳作为私密的离线AI助手进行聊天和头脑风暴。
↳生成图像和文本用于创意项目,无需依赖云端。
↳使用知识库分析本地文档(PDF、文本文件)并提问。
↳通过设备端语音输入和文本转语音(专业版功能)免提与AI交互。
↳在本地执行AI任务,确保零数据离开设备,适用于隐私敏感型应用。
10

同类工具

⚡热门对决:
VSrunanywhere-sdks★10.3k→VSbetter-chatbot★1.2k→VSosaurus★8.1k→VSRapid-MLX★4.0k→
runanywhere-sdks logo
runanywhere-sdks★ 10.3k
RunAnywhere是一个为移动应用提供设备端AI能力的SDK集合,支持本地运行LLMs、语音转文本和文本转语音,实现私密、离线且快速的AI功能。
VS对比→
better-chatbot logo
better-chatbot★ 1.2k
一个受ChatGPT、Claude等主流AI启发的开源AI聊天机器人,为个人和团队提供服务。
VS对比→
osaurus logo
osaurus★ 8.1k
Osaurus 是适用于 macOS 的 AI 边缘运行时。
VS对比→
Rapid-MLX logo
Rapid-MLX★ 4.0k
Rapid-MLX 是一个开源的(Apache 2.0)LLM 推理服务器,专为 Apple Silicon 设计,基于 MLX 构建,专注于为编程代理提供可靠的工具调用功能。
VS对比→
GPT Researcher logo
GPT Researcher★ 30.3k
GPT研究员是一个开放的深度研究智能体,旨在对任何给定任务进行网络和本地研究,并生成详细、事实准确且公正的报告。
VS对比→
lemonade logo
lemonade★ 6.0k
Lemonade是一个帮助用户发现并运行本地AI应用程序的SDK,通过优化利用GPU和NPU加速的本地大语言模型。
VS对比→
Cherry Studio logo
Cherry Studio★ 53.0k
Cherry Studio 是一款支持多种大型语言模型提供商的桌面客户端,可在 Windows、Mac 和 Linux 上使用。
VS对比→
cua logo
cua★ 31.1k
Cua是一个开源平台,用于构建、基准测试和部署能够操作任何计算机的智能体,并提供隔离的、可自托管的沙盒环境(Docker、QEMU、Apple Vz)。
VS对比→
查看全部替代品 →

收录于以下清单

  • 开源语音助手与语音识别工具推荐

评论

登录后发表评论

暂无评论,来发表第一条吧

本页内容
01功能特性02为什么选择它03权衡点05维护状况检查04适合谁06与同类的区别07兼容性08快速开始09使用场景10同类工具
off-grid-ai /
OGAM
↗

MIT 许可的手机和 Mac 应用,在本机上完整运行聊天、图像生成、视觉、语音和工具,另有付费 Pro 版

3.3k324MIT
最后更新1天前
状态活跃
分类大模型基础设施
贡献者14
最新发布v0.0.118
链接
文档↗讨论↗问题↗版本↗
推荐云部署
Ad

在 DigitalOcean 上一键部署

为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器,新用户立享 $200 免费额度(60天有效)。

立即领取 $200 免费额度
© 2026 AgentIndex.app|由十年 iOS 开发者构建。
按场景挑选关于我们联系我们广告合作隐私政策使用条款QYSGitHub请作者喝咖啡 ☕

按分类浏览

MCP 服务器代码助手工作流自动化RAG / 知识库多智能体浏览器自动化大模型基础设施开发者工具可观测性

与 Anthropic, OpenAI 或 Microsoft 无关。