AgentIndex icon
AgentIndex
工具MCP 服务HOT分类热门最新选型清单对比指南
提交工具
工具MCP 服务HOT分类热门最新选型清单对比指南
首页/
大模型基础设施/
LLM-VM
LLM-VM logo

LLM-VM

★ 493·MIT·更新于 2024-05-14

Anarchy LLM-VM 是一个优化的后端,旨在运行具有工具使用和持久内存等现代功能的开源大型语言模型。它作为人类语言的虚拟机,协调模型、数据、提示和工具,以优化批量调用并支持各种架构。

LLM-VM 当前归类于 大模型基础设施,更适合按具体工作流、部署方式和团队场景来判断是否适配。从现有资料来看,它主要强调 隐式智能体。典型使用场景包括 加速AGI开发和原型设计。页面记录的许可证为 MIT。当前 GitHub Stars 为 492。相关标签包括 大型语言模型、开源人工智能。

本文根据项目 README 和公开仓库数据整理,我们没有实际试用过该工具。

#大型语言模型#开源人工智能#推理优化#智能体#Python
$ 安装
$ pip install llm-vm
↗ 访问官网★ GitHub
01

功能特性

01隐式智能体
02推理优化
03任务自动优化
04可作为库调用
05HTTP 端点
02

为什么选择它

+隐式智能体
+推理优化
+加速AGI开发和原型设计
+覆盖 7 个兼容平台或环境。
03

权衡点

!最终选型仍建议与同类工具做并排比较,而不是单看单页信息。
04

兼容性

chat_gpt
支持
已通过文档验证
gpt
支持
已通过文档验证
neo
支持
已通过文档验证
llama2
支持
已通过文档验证
bloom
支持
已通过文档验证
opt
支持
已通过文档验证
05

快速开始

1
$ pip install llm-vm
06

使用场景

↳加速AGI开发和原型设计
↳降低本地运行和测试LLM模型的成本
↳灵活切换和评估不同的开源LLM模型
07

同类工具

⚡热门对决:
VSchatarena★1.6k→VScodefuse-chatbot★1.3k→VSrlcard★3.6k→VSAReaL★5.9k→
chatarena logo
chatarena★ 1.6k
Chat Arena 是一个用于大型语言模型(LLMs)如 GPT-3、GPT-4、ChatGPT 等的语言游戏环境。
VS对比→
codefuse-chatbot logo
codefuse-chatbot★ 1.3k
CodeFuse-ChatBot是由蚂蚁CodeFuse团队开发的开源AI智能助手,致力于简化和优化软件开发生命周期中的各个环节。
VS对比→
rlcard logo
rlcard★ 3.6k
RLCard是一个用于扑克牌游戏中强化学习的工具包。
VS对比→
AReaL logo
AReaL★ 5.9k
大规模全异步强化学习系统,用于训练推理和智能体模型,可通过替换 base_url 对黑盒智能体应用做在线 RL
VS对比→
ir-sim logo
ir-sim★ 1.2k
IR-SIM是一个基于Python的轻量级开源机器人模拟器,专为导航、控制和强化学习设计,提供用户友好的框架以快速原型开发。
VS对比→
code-act logo
code-act★ 1.7k
CodeAct提出使用可执行代码来统一大型语言模型代理的行动空间,从而提升LLM代理的性能。
VS对比→
LLMCompiler logo
LLMCompiler★ 1.9k
LLMCompiler是一个框架,通过自动识别可并行和相互依赖的任务,高效且有效地协调大型语言模型(LLM)的并行函数调用。
VS对比→
skrl logo
skrl★ 1.1k
skrl是一个用Python编写的开源模块化强化学习库,支持PyTorch、JAX和NVIDIA Warp,并专注于模块化、可读性、简单性和算法实现的透明性。
VS对比→
查看全部替代品 →

评论

登录后发表评论

暂无评论,来发表第一条吧

本页内容
01功能特性02为什么选择它03权衡点04兼容性05快速开始06使用场景07同类工具
anarchy-ai /
LLM-VM
↗

Anarchy LLM-VM 是一个为开源大型语言模型设计的、功能丰富的开源AGI服务器后端。

493MIT
最后更新2年前
状态一年以上未更新
分类大模型基础设施
链接
文档↗讨论↗问题↗版本↗
推荐云部署
Ad

在 DigitalOcean 上一键部署

为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器,新用户立享 $200 免费额度(60天有效)。

立即领取 $200 免费额度
© 2026 AgentIndex.app|由十年 iOS 开发者构建。
按场景挑选关于我们联系我们广告合作隐私政策使用条款QYSGitHub请作者喝咖啡 ☕

按分类浏览

MCP 服务器代码助手工作流自动化RAG / 知识库多智能体浏览器自动化大模型基础设施开发者工具可观测性

与 Anthropic, OpenAI 或 Microsoft 无关。