OGAM
Off Grid AI 是在手机或 Mac 上离线运行 AI 的应用,README 声明数据不会离开设备。它整合了文本生成(Qwen 3、Llama 3.2、Gemma 3、Phi-4 以及你自带的任何 GGUF 模型)、本机 Stable Diffusion 图像生成、视觉模型(SmolVLM、Qwen3-VL、Gemma 3n)、本机 Whisper 语音输入、文档分析,以及能调用网页搜索、计算器、日期时间、设备信息和知识库搜索的工具。项目里可以放 PDF 和文本,它们会在本机用内置的 MiniLM 模型切块并生成向量,存进 SQLite。
它还支持 GPU 和 NPU 加速(Adreno 上的 OpenCL、Apple Silicon 上的 Metal、Snapdragon 的 Hexagon NPU),但 README 自己标注为实验性:只有 Q4_0 和 Q8_0 量化能加速,其他量化会回退到 CPU,个别架构会输出乱码。它可以连接局域网里兼容 OpenAI 的服务器,比如 Ollama 和 LM Studio,显示每个模型的内存占用,并带下载管理器。README 给出了性能范围,例如旗舰手机 CPU 上 15-30 token/秒,测试机型是骁龙 8 Gen 2/3 和 Apple A17 Pro。
应用在 Google Play 和 App Store 上架,也可以用 `git clone` 和 `npm install` 从源码构建。README 还推广了可选的 Pro 版(语音回复、角色、先起草后批准的操作、手机与 Mac 同步),价格是一次性 69 美元或每年 49 美元,所以免费应用和付费功能是分开的。代码为 MIT 许可,最近一次推送是 2026-10-12。本评测依据 README 和仓库数据,我们没有实际运行过它。
功能特性
为什么选择它
权衡点
维护状况检查
- 最近提交
- 2026-10-27
- 近 90 天提交数
- 100+
- 近 90 天发布数
- 18
- 最新发布
- v0.0.118 (2026-10-23)
- 未关闭 issue
- 143
- 近期 issue 至少有一条评论的比例
- 1/3
最早的一周在左边,最近 4 周为橙色。数据来源:GitHub 提交统计。
状态规则:GitHub 上已归档 = 已归档;最近提交在 90 天内 = 活跃;91 到 365 天 = 放缓;更久 = 停滞。所有数字来自所示日期的 GitHub API。
讨论最多的未关闭 issue
- #375 [Bug] v0.0.94 very slow31 条评论 · 2026-05-25
- #364 [Bug] UI very slow to respond even when no model is loaded16 条评论 · 2026-05-18
- #187 [Bug] web_search issue&model first token generation issue13 条评论 · 2026-03-16
- #93 [Feature] Add Persistent Local RAG Knowledge Base10 条评论 · 2026-03-02
- #23 Release on F-Droid10 条评论 · 2026-02-15
issue 标题引自 GitHub。请打开链接确认该问题是否仍适用于你使用的版本。
适合谁
- 想在手机或 Mac 上离线使用对话、图像生成、视觉和语音输入,数据不离开设备。
- 想使用任意 GGUF 模型,或者连接局域网里的 Ollama 或 LM Studio。
- 想要本地知识库:PDF 在设备上做嵌入,存进 SQLite。
- 你需要语音回复:它在付费 Pro 版里(一次性 69 美元或每年 49 美元)。
- 你依赖 GPU 或 NPU 加速:README 标注为实验性,只加速 Q4_0 和 Q8_0 量化,部分架构会输出乱码。
- 你的手机内存小:模型有好几 GB。
与同类的区别
RunAnywhere 为开发者提供在自己应用中运行设备端 AI 的 SDK。Off Grid AI 是现成的应用。
兼容性
快速开始
使用场景
同类工具
收录于以下清单
评论
暂无评论,来发表第一条吧