model-compose
活跃·★ 72·MIT·更新于 2026-05-28
★ 宝藏工具★ 必备神器
Model-compose 是一个声明式框架，用于使用单个 YAML 文件定义和部署 AI 系统。
Model-compose 是一个声明式框架，用于使用单个 YAML 文件定义和部署 AI 系统。它支持模型、智能体、工作流和工具的组合，并允许在本地、容器或分布式环境中进行部署。
#AI 工作流编排#声明式 AI#多模型集成#混合 AI 部署#智能体框架#YAML 配置#实时流媒体#LLM 运维
01
功能特性
01通过声明式 YAML 配置整个 AI 系统（工作流、智能体、模型、工具）
02混合模型执行和通用服务集成（本地模型和云 API）
03用于构建具有工具使用和规划能力的自主智能体的 AI 智能体组件
04灵活的部署和协议适配器（原生、Docker、HTTP、WebSocket、MCP）
05实时 SSE 流媒体，用于获取任何来源的实时 AI 响应
02
兼容性
Python
运行时
已通过文档验证
Docker
部署
已通过文档验证
Cloud AI APIs (OpenAI, Anthropic, Google)
集成
已通过文档验证
Local Models (HuggingFace, vLLM, llama.cpp)
模型运行时
已通过文档验证
Vector/Graph Stores (Chroma, FAISS, Milvus, Qdrant, Neo4j, ArangoDB)
数据存储
已通过文档验证
Redis
队列/键值存储
已通过文档验证
03
快速开始
1
$ pip install model-compose
04
使用场景
↳构建和编排复杂的 AI 工作流和管道。
↳开发具有自定义工具和多步骤推理的自主 AI 智能体。
↳创建集成向量/图存储的 RAG（检索增强生成）系统。
↳在混合云/本地环境中灵活部署 AI 服务。
↳通过即时 Web UI 和 API 暴露，快速原型设计和部署 AI 应用程序。
05
同类工具
相关搜索
评论
登录后发表评论
暂无评论，来发表第一条吧