AReaL
活跃·★ 5.9k·Apache-2.0·更新于 2026-10-22
★ 必备神器★ 时下流行
AReaL 是清华叉院与蚂蚁集团推出的强化学习系统,用于训练大型推理与智能体模型。核心思路是全异步 RL:生成与训练解耦,v0.3 报告比同步系统快 2.77 倍且效果相当或更好。另有面向研究者的轻量 AReaL-lite API,便于以算法为先快速原型。
AReaL 2.0(2026 年 7 月)重构为独立的训练、推理、智能体和权重更新服务。一大特色是黑盒智能体在线 RL:把现有智能体的 base_url 和 api_key 指向 AReaL 服务即可训练,无需改智能体代码;仓库附有 OpenClaw 示例以及 Hermes、SWE 训练循环。
推理默认用 SGLang,也可用 vLLM;训练可在 Ray 集群上扩展,昇腾 NPU 在独立分支支持。安装默认 CUDA GPU 和预编译 flash-attn,因此它是研究基础设施,而不是可直接塞进应用的库。许可为 Apache-2.0。
#智能体#智能体框架#大模型#大模型智能体#大模型推理#机器学习系统#MLSys#强化学习
01
功能特性
01全异步 RL 训练,v0.3 报告比同步系统快 2.77 倍
02替换 base_url 和 api_key 即可对黑盒智能体做在线 RL
032.0 采用微服务架构,训练、推理、智能体和权重更新服务分离
04支持 SGLang 或 vLLM 推理后端、Ray 集群和昇腾 NPU
05提供数学、SWE、搜索智能体、tau2-bench 和 OpenClaw 智能体示例
02
为什么选择它
+替换 base_url 即可在线 RL,无需重写就能训练现有智能体。
+全异步训练报告比同步系统快 2.77 倍且效果相当。
+数学、SWE、搜索和 tau2-bench 等示例丰富,可直接起步。
03
权衡点
!需要 CUDA GPU 和细致的环境配置,包括匹配的 flash-attn wheel。
!2.0 微服务重构较新,文档和示例可能跟不上架构。
!面向 RL 研究者和模型训练者,不面向应用开发者。
04
维护状况检查
活跃检查日期: 2026-10-20
- 最近提交
- 2026-10-19
- 近 90 天提交数
- 100+
- 近 90 天发布数
- 1
- 最新发布
- v2.1.0 (2026-08-25)
- 未关闭 issue
- 136
- 近期 issue 至少有一条评论的比例
- 2/5
近 12 周每周提交数
最早的一周在左边,最近 4 周为橙色。数据来源:GitHub 提交统计。
状态规则:GitHub 上已归档 = 已归档;最近提交在 90 天内 = 活跃;91 到 365 天 = 放缓;更久 = 停滞。所有数字来自所示日期的 GitHub API。
讨论最多的未关闭 issue
- #193 AReaL's Megatron training is much slower than FSDP13 条评论 · 2025-07-22
- #1381 [Roadmap] 2026 H2 Milestones12 条评论 · 2026-06-01
- #1302 [Roadmap] 2026 Q2 Milestones11 条评论 · 2026-05-06
issue 标题引自 GitHub。请打开链接确认该问题是否仍适用于你使用的版本。
05
兼容性
SGLang
默认推理后端
已通过文档验证
vLLM
推理后端
已通过文档验证
Ray
集群
已通过文档验证
Ascend NPU
硬件
已通过文档验证
06
快速开始
1
$ git clone https://github.com/areal-project/AReaL
2
$ cd AReaL
3
$ pip install uv
4
$ uv sync --extra cuda
07
使用场景
↳在数学和编码任务上对推理模型做 RL 微调
↳训练搜索、客服等多轮智能体
↳通过在线 RL 持续改进已有智能体应用
08
同类工具
评论
登录后发表评论
暂无评论,来发表第一条吧