ollaya
活跃·★ 1.5k·Apache-2.0·更新于 2026-11-21
Ollaya 服务的是一类特定模型:决策模型。它读取一个状态(消息、工单或任意 JSON)和带类型的问题(选择、评分或是/否),一次前向就返回校准过的概率。它从不生成文本,所以几毫秒就能出结果。一条客服消息可以一次调用就评估出意图、紧急程度、情绪、是否要求退款和流失风险。
用法照搬 Ollama:ollaya serve 启动守护进程,run、pull、list、ps、show、rm、cp、stop、create 的行为都和预期一致。它的 /v1/systemone、/v1/decisions、/v1/models 接口与 TypeSafe 托管的 Jev API 线路一致,TypeSafe SDK 和现有 Jev 客户端只需改 base URL。Ollaya 只发布小型 ONNX 图,权重从作者的 Hugging Face 仓库加载,锁定提交并校验 sha256;GGUF 模型则在 llama.cpp 上运行。
面向智能体,ollaya mcp 把模型提供给 Claude Code、Cursor 等 MCP 客户端,另有技能教智能体何时使用。README 推荐的模型是 4B 级别,最好配 NVIDIA GPU;只有 CPU 时建议先用更小的 laya 路由模型。
#决策模型#自托管#ONNX#llama.cpp#MCP#分类#API 服务
01
功能特性
01Ollama 风格的命令行:serve、run、pull、list、ps、show、rm、cp、stop、create
02与 TypeSafe 的 Jev API 线路兼容,改个 base URL 就能用官方 SDK
03权重从作者的 Hugging Face 仓库加载,锁定提交并校验 sha256
04ollaya mcp 把模型提供给 Claude Code、Cursor 等 MCP 客户端
05可用 Modelfile 把一组问题固化成自定义模型
02
为什么选择它
+无需生成文本就能在毫秒级给出分类式判断,并附校准概率。
+可直接在本地替代 TypeSafe 的 Jev API:SDK 指向 Ollaya 并选一个开源模型即可。
+权重直接来自作者,锁定提交、校验 sha256,从不转存。
03
权衡点
!定位小众:只在需要结构化判断、而非文本生成时有用。
!推荐模型最好配 NVIDIA GPU,纯 CPU 只能用更小的模型。
!与 TypeSafe/Jev 生态及其接口格式绑定较深。
04
维护状况检查
活跃检查日期: 2026-11-10
- 最近提交
- 2026-11-06
- 近 90 天提交数
- 100+
- 近 90 天发布数
- 27
- 最新发布
- v0.18.0 (2026-10-25)
- 未关闭 issue
- 11
- 近期 issue 至少有一条评论的比例
- 1/3
近 12 周每周提交数
最早的一周在左边,最近 4 周为橙色。数据来源:GitHub 提交统计。
状态规则:GitHub 上已归档 = 已归档;最近提交在 90 天内 = 活跃;91 到 365 天 = 放缓;更久 = 停滞。所有数字来自所示日期的 GitHub API。
讨论最多的未关闭 issue
- #80 Decima 2.3: decima-guard (new), decima-agent 2.3, and the choice-window fix you found9 条评论 · 2026-10-18
- #79 Support Drex (nace-ai/drex-v2.0): Qwen3.6-35B-A3B MoE with a Kev pointer head, GGUF2 条评论 · 2026-10-17
- #165 Support hs-decide-1-flash1 条评论 · 2026-11-04
- #170 Feature Request: Gate model pulls0 条评论 · 2026-11-10
- #168 please support adding remote open ai compatible endpoint0 条评论 · 2026-11-09
issue 标题引自 GitHub。请打开链接确认该问题是否仍适用于你使用的版本。
05
兼容性
Linux / macOS
守护进程 + 命令行
已通过文档验证
NVIDIA GPU
CUDA
已通过文档验证
Claude Code
MCP
已通过文档验证
Cursor
MCP
已通过文档验证
06
快速开始
1
$ curl -fsSL https://ollaya.dev/install.sh | sh
07
使用场景
↳在本地按意图、紧急程度和流失风险分诊工单
↳用自托管开源模型替换托管的 Jev 接口
↳为智能体提供无需生成文本的快速是非或选择判断
08
同类工具
评论
登录后发表评论
暂无评论,来发表第一条吧