AgentIndex icon
AgentIndex
工具分类热门最新对比
提交工具
首页/
LLM Infra/
LLM-VM
LLM-VM logo

LLM-VM

活跃·★ 491·更新于 2024-05-14
★ 时下流行

Anarchy LLM-VM 是一个为开源大型语言模型设计的、功能丰富的开源AGI服务器后端。

Anarchy LLM-VM 是一个优化的后端,旨在运行具有工具使用和持久内存等现代功能的开源大型语言模型。它作为人类语言的虚拟机,协调模型、数据、提示和工具,以优化批量调用并支持各种架构。

#大型语言模型#开源人工智能#推理优化#智能体#Python
$ 安装
$ pip install llm-vm
↗ 访问官网★ GitHub
01

功能特性

01隐式智能体
02推理优化
03任务自动优化
04可作为库调用
05HTTP 端点
02

兼容性

chat_gpt
支持
已通过文档验证
gpt
支持
已通过文档验证
neo
支持
已通过文档验证
llama2
支持
已通过文档验证
bloom
支持
已通过文档验证
opt
支持
已通过文档验证
03

快速开始

1
$ pip install llm-vm
04

使用场景

↳加速AGI开发和原型设计
↳降低本地运行和测试LLM模型的成本
↳灵活切换和评估不同的开源LLM模型
05

同类工具

MetaGPT logo
MetaGPT★ 68.4k
MetaGPT是一个多智能体框架,为大型语言模型(LLMs)分配不同的角色,使其能够协作完成复杂任务。
vs →
cua logo
cua★ 17.3k
Cua是一个开源平台,用于构建、基准测试和部署能够操作任何计算机的智能体,并提供隔离的、可自托管的沙盒环境(Docker、QEMU、Apple Vz)。
vs →
ragflow logo
ragflow★ 81.5k
RAGFlow 是一个领先的开源检索增强生成 (RAG) 引擎,它融合了前沿的RAG与Agent能力,为大型语言模型提供卓越的上下文层,并简化企业级RAG工作流。
vs →
Context7 logo
Context7★ 56.4k
Context7 MCP 为大型语言模型提供最新、版本特定的代码文档和示例,以避免过时或虚假的信息。
vs →
GitHub MCP Server logo
GitHub MCP Server★ 30.3k
GitHub MCP 服务器将AI工具直接连接到GitHub平台,使AI代理、助手和聊天机器人能够通过自然语言交互管理GitHub资源和自动化工作流。
vs →
n8n logo
n8n★ 190.2k
n8n是一个工作流自动化平台,为技术团队提供了代码的灵活性和无代码的速度,拥有400多个集成和原生的AI能力。
vs →
Brave Search MCP logo
Brave Search MCP★ 86.5k
此仓库是模型上下文协议(MCP)参考实现的集合,展示了如何为大型语言模型提供安全、受控的工具和数据源访问。
vs →
Microsoft AutoGen logo
Microsoft AutoGen★ 58.5k
AutoGen是一个用于创建多智能体AI应用的框架,这些应用可以自主运行或与人类协作。
vs →
查看全部替代品 →

相关搜索

LLM-VM 替代工具最佳 LLM Infra 工具 2026开源 LLM InfraLLM-VM 教程LLM-VM 对比LLMOpen Source AIInference Optimization

评论

登录后发表评论

暂无评论,来发表第一条吧

本页内容
01功能特性02兼容性03快速开始04使用场景05同类工具
统计
GitHub Stars★ 491
最后更新2年前
状态活跃
许可证—
分类大模型基础设施
热度趋势 (30d)
+19.6↑ 3.6%
链接
文档↗讨论↗问题↗版本↗

Deploy on DigitalOcean — Get $200 Free Credit

Ad
© 2026 AgentIndex.app|由十年 iOS 开发者构建。
QYSGitHub请作者喝咖啡 ☕

按分类浏览

代码助手工作流自动化RAG / 知识库多智能体浏览器自动化大模型基础设施开发者工具可观测性

与 Anthropic, OpenAI 或 Microsoft 无关。