AgentIndex icon
AgentIndex
工具MCP 服务HOT分类热门最新选型清单对比指南
提交工具
工具MCP 服务HOT分类热门最新选型清单对比指南
首页/
大模型基础设施/
ollaya
ollaya logo

ollaya

活跃·★ 1.5k·Apache-2.0·更新于 2026-11-21

Ollaya 服务的是一类特定模型:决策模型。它读取一个状态(消息、工单或任意 JSON)和带类型的问题(选择、评分或是/否),一次前向就返回校准过的概率。它从不生成文本,所以几毫秒就能出结果。一条客服消息可以一次调用就评估出意图、紧急程度、情绪、是否要求退款和流失风险。

用法照搬 Ollama:ollaya serve 启动守护进程,run、pull、list、ps、show、rm、cp、stop、create 的行为都和预期一致。它的 /v1/systemone、/v1/decisions、/v1/models 接口与 TypeSafe 托管的 Jev API 线路一致,TypeSafe SDK 和现有 Jev 客户端只需改 base URL。Ollaya 只发布小型 ONNX 图,权重从作者的 Hugging Face 仓库加载,锁定提交并校验 sha256;GGUF 模型则在 llama.cpp 上运行。

面向智能体,ollaya mcp 把模型提供给 Claude Code、Cursor 等 MCP 客户端,另有技能教智能体何时使用。README 推荐的模型是 4B 级别,最好配 NVIDIA GPU;只有 CPU 时建议先用更小的 laya 路由模型。

本文根据项目 README 和公开仓库数据整理,我们没有实际试用过该工具。数据截至 2026-11-15。

许可证
Apache-2.0
最新发布
v0.18.0 · 2026-10-25
最近提交
2026-11-10
贡献者
16
复刻数
92
未关闭的 issue 和 PR
15
首次发布
2026-09-23

来源:GitHub、npm 和 PyPI 的公开接口。

#决策模型#自托管#ONNX#llama.cpp#MCP#分类#API 服务
$ 安装
$ curl -fsSL https://ollaya.dev/install.sh | sh
↗ 访问官网★ GitHub
01

功能特性

01Ollama 风格的命令行:serve、run、pull、list、ps、show、rm、cp、stop、create
02与 TypeSafe 的 Jev API 线路兼容,改个 base URL 就能用官方 SDK
03权重从作者的 Hugging Face 仓库加载,锁定提交并校验 sha256
04ollaya mcp 把模型提供给 Claude Code、Cursor 等 MCP 客户端
05可用 Modelfile 把一组问题固化成自定义模型
02

为什么选择它

+无需生成文本就能在毫秒级给出分类式判断,并附校准概率。
+可直接在本地替代 TypeSafe 的 Jev API:SDK 指向 Ollaya 并选一个开源模型即可。
+权重直接来自作者,锁定提交、校验 sha256,从不转存。
03

权衡点

!定位小众:只在需要结构化判断、而非文本生成时有用。
!推荐模型最好配 NVIDIA GPU,纯 CPU 只能用更小的模型。
!与 TypeSafe/Jev 生态及其接口格式绑定较深。
04

维护状况检查

活跃检查日期: 2026-11-10
最近提交
2026-11-06
近 90 天提交数
100+
近 90 天发布数
27
最新发布
v0.18.0 (2026-10-25)
未关闭 issue
11
近期 issue 至少有一条评论的比例
1/3
近 12 周每周提交数
近 12 周每周提交数: 0, 0, 0, 0, 125, 58, 40, 18, 80, 10, 8, 0

最早的一周在左边,最近 4 周为橙色。数据来源:GitHub 提交统计。

状态规则:GitHub 上已归档 = 已归档;最近提交在 90 天内 = 活跃;91 到 365 天 = 放缓;更久 = 停滞。所有数字来自所示日期的 GitHub API。

讨论最多的未关闭 issue

  • #80 Decima 2.3: decima-guard (new), decima-agent 2.3, and the choice-window fix you found9 条评论 · 2026-10-18
  • #79 Support Drex (nace-ai/drex-v2.0): Qwen3.6-35B-A3B MoE with a Kev pointer head, GGUF2 条评论 · 2026-10-17
  • #165 Support hs-decide-1-flash1 条评论 · 2026-11-04
  • #170 Feature Request: Gate model pulls0 条评论 · 2026-11-10
  • #168 please support adding remote open ai compatible endpoint0 条评论 · 2026-11-09

issue 标题引自 GitHub。请打开链接确认该问题是否仍适用于你使用的版本。

05

兼容性

Linux / macOS
守护进程 + 命令行
已通过文档验证
NVIDIA GPU
CUDA
已通过文档验证
Claude Code
MCP
已通过文档验证
Cursor
MCP
已通过文档验证
06

快速开始

1
$ curl -fsSL https://ollaya.dev/install.sh | sh
07

使用场景

↳在本地按意图、紧急程度和流失风险分诊工单
↳用自托管开源模型替换托管的 Jev 接口
↳为智能体提供无需生成文本的快速是非或选择判断
08

同类工具

⚡热门对决:
VStuui★1.2k→VSboxlite★2.7k→VSODS★7.9k→VSaskimo★552→
tuui logo
tuui★ 1.2k
TUUI 是一款桌面型 AI 客户端,通过模型上下文协议(MCP)加速 AI 采用并实现跨厂商大型语言模型(LLM)API 的统一编排与集成。
VS对比→
boxlite logo
boxlite★ 2.7k
可嵌入应用的 AI 智能体微型虚拟机运行时,支持 OCI 镜像、持久环境与网络控制。
VS对比→
ODS logo
ODS★ 7.9k
把 PC、Mac 或 Linux 主机变成私有 AI 服务器的一键部署系统,自动装好本地推理、聊天界面、控制面板、RAG、语音、工作流和图像生成。
VS对比→
askimo logo
askimo★ 552
本地优先的原生桌面 AI 应用,可在一个界面里切换多家大模型,支持本地 RAG、MCP 工具、技能和 Claude Code、Codex 等智能体 CLI。
VS对比→
blockbench-mcp-plugin logo
blockbench-mcp-plugin★ 635
此插件将三维模型编辑器Blockbench与模型上下文协议(MCP)服务器连接,从而实现与各种AI开发工具的集成。
agenta logo
agenta★ 4.9k
开源的团队智能体工作区:通过聊天构建 AI 同事,与团队共享,并在 Slack、WhatsApp 或 Telegram 中使用。
VS对比→
MCPJungle logo
MCPJungle★ 1.6k
MCPJungle是一个自托管的MCP网关,用于您的私人AI代理。
VS对比→
nanoMuse logo
nanoMuse★ 3.6k
开源个人智能体,跨手机、电脑和网页运行:能执行任务、在应用关闭时持续工作、记住你,执行删除/发送/付款前先询问,中继服务可自托管。
VS对比→
查看全部替代品 →

评论

登录后发表评论

暂无评论,来发表第一条吧

本页内容
01功能特性02为什么选择它03权衡点04维护状况检查05兼容性06快速开始07使用场景08同类工具
ollaya-dev /
ollaya
↗

决策模型版 Ollama:按名称拉取开源分类模型,在本地以 Jev 兼容 API 提供服务

1.5k92Apache-2.0
最后更新1天前
状态活跃
分类大模型基础设施
贡献者16
最新发布v0.18.0
链接
文档↗讨论↗问题↗版本↗
推荐云部署
Ad

在 DigitalOcean 上一键部署

为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器,新用户立享 $200 免费额度(60天有效)。

立即领取 $200 免费额度
© 2026 AgentIndex.app|由十年 iOS 开发者构建。
按场景挑选关于我们联系我们广告合作隐私政策使用条款QYSGitHub请作者喝咖啡 ☕

按分类浏览

MCP 服务器代码助手工作流自动化RAG / 知识库多智能体浏览器自动化大模型基础设施开发者工具可观测性

与 Anthropic, OpenAI 或 Microsoft 无关。