LLM-VM logo
LLM-VM
★ 492
vs
AReaL logo
AReaL
★ 5.9k

LLM-VM vs AReaL

LLM-VM:Anarchy LLM-VM 是一个优化的后端,旨在运行具有工具使用和持久内存等现代功能的开源大型语言模型。它作为人类语言的虚拟机,协调模型、数据、提示和工具,以优化批量调用并支持各种架构。;AReaL:AReaL 是清华叉院与蚂蚁集团推出的全异步强化学习系统,用于训练大型推理与智能体模型。2.0 版拆分为训练、推理、智能体和权重更新微服务,黑盒智能体应用只需把 base_url 指向 AReaL 即可在线训练。

01

简评

LLM-VM logo
LLM-VMLLM Infra · ★ 492

加速AGI开发和原型设计

AReaL logo
AReaLLLM Infra · ★ 5.9k

在数学和编码任务上对推理模型做 RL 微调

02

并排对比

字段
LLM-VM logoLLM-VM
AReaL logoAReaL
分类
大模型基础设施
大模型基础设施
Stars
★ 492
★ 5.9k
许可证
MIT
Apache-2.0
安装方式
pip install llm-vm
git clone https://github.com/areal-project/AReaL && cd AReaL && pip install uv && uv sync --extra cuda
更新时间
2年前
1天前
开源
是
是
标签
大型语言模型, 开源人工智能, 推理优化
智能体, 智能体框架, 大模型
03

功能特性

LLM-VM logoLLM-VM
01隐式智能体
02推理优化
03任务自动优化
04可作为库调用
05HTTP 端点
AReaL logoAReaL
01全异步 RL 训练,v0.3 报告比同步系统快 2.77 倍
02替换 base_url 和 api_key 即可对黑盒智能体做在线 RL
032.0 采用微服务架构,训练、推理、智能体和权重更新服务分离
04支持 SGLang 或 vLLM 推理后端、Ray 集群和昇腾 NPU
05提供数学、SWE、搜索智能体、tau2-bench 和 OpenClaw 智能体示例
04

使用场景

LLM-VM logoLLM-VM
↳加速AGI开发和原型设计
↳降低本地运行和测试LLM模型的成本
↳灵活切换和评估不同的开源LLM模型
AReaL logoAReaL
↳在数学和编码任务上对推理模型做 RL 微调
↳训练搜索、客服等多轮智能体
↳通过在线 RL 持续改进已有智能体应用
05

适合场景

LLM-VM logoLLM-VM
—
AReaL logoAReaL
必备神器时下流行
FAQ

常见问题

LLM-VM 和 AReaL 有什么区别?
LLM-VM 和 AReaL 都属于 LLM Infra 类别。LLM-VM 有 492 Stars,AReaL 有 5.9k Stars。
LLM-VM 和 AReaL 哪个更好?
最佳选择取决于你的具体需求。加速AGI开发和原型设计 时选 LLM-VM,在数学和编码任务上对推理模型做 RL 微调 时选 AReaL。
LLM-VM 是免费的吗?
是的,LLM-VM 在 GitHub 开源(MIT)。
AReaL 是免费的吗?
是的,AReaL 在 GitHub 开源(Apache-2.0)。
推荐云部署
Ad

在 DigitalOcean 上一键部署

为你的 MCP 服务、Docker 容器与智能体提供即开即用云服务器,新用户立享 $200 免费额度(60天有效)。

立即领取 $200 免费额度
→

相关链接