LLM Infra (2026)
大模型基础设施工具，用于部署、推理、微调和评估大型语言模型。
27 个工具
| 名称 | 简介 | 分类 | Stars | 许可证 | 更新 |
|---|
1–20 / 27
大模型基础设施工具，用于部署、推理、微调和评估大型语言模型。
27 个工具
| 名称 | 简介 | 分类 | Stars | 许可证 | 更新 |
|---|
| MetaGPT最受欢迎时下流行··· | MetaGPT是一个多智能体框架，为大型语言模型（LLMs）分配不同的角色，使其能够协作完成复杂任务。 | 大模型基础设施 | ★ 68.4k | MIT | 2026-01-21 |
| cua最受欢迎时下流行··· | Cua是一个开源平台，用于构建、基准测试和部署能够操作任何计算机的智能体，并提供隔离的、可自托管的沙盒环境（Docker、QEMU、Apple Vz）。 | 大模型基础设施 | ★ 17.3k | MIT | 2026-05-29 |
| xLAM时下流行 | xLAM是一个研究大型行动模型（LAM）的仓库，通过聚合和统一不同环境的代理轨迹数据，优化代理训练的数据加载和训练流程。 | 大模型基础设施 | ★ 621 | APACHE | 2025-08-21 |
| on-policy时下流行强化学习··· | 该存储库实现了MAPPO，一种PPO的多智能体变体，用于合作多智能体游戏，并支持多种流行的多智能体环境。 | 大模型基础设施 | ★ 2.0k | MIT | 2024-07-18 |
| youtu-agent时下流行 | Youtu-Agent是一个灵活、高性能的框架，旨在通过自动化生成和混合策略优化来构建、运行和评估自主智能体。 | 大模型基础设施 | ★ 4.6k | NOASSERTION | 2026-03-21 |
| mini-swe-agent时下流行宝藏工具 | 一个100行Python代码实现的AI智能体，旨在解决GitHub问题并提供更多功能，专注于极简主义和高性能。 | 大模型基础设施 | ★ 4.7k | — | 2026-05-25 |
| FedML时下流行必备神器 | FedML是一个统一且可扩展的机器学习库，用于在任何地点和任何规模运行训练和部署任务。 | 大模型基础设施 | ★ 4.0k | Apache-2.0 | 2025-10-28 |
| chatarena时下流行 | Chat Arena 是一个用于大型语言模型（LLMs）如 GPT-3、GPT-4、ChatGPT 等的语言游戏环境。 | 大模型基础设施 | ★ 1.5k | APACHE | 2025-08-11 |
| AgileRL时下流行宝藏工具 | AgileRL 是一个深度强化学习库，通过引入 RLOps 来简化和加速强化学习开发。 | 大模型基础设施 | ★ 921 | — | 2026-05-29 |
| AReaL时下流行 | AReaL是一个开源、完全异步的强化学习训练系统，专注于大型推理和智能体模型，支持从单节点到千卡GPU的扩展。 | 大模型基础设施 | ★ 5.2k | — | 2026-05-29 |
| gym-pybullet-drones时下流行 | 这是 `gym-pybullet-drones` 仓库的一个精简重构版本，旨在兼容 Gymnasium、Stable Baselines3 2.0 以及 Betaflight/Crazyflie 固件的软件在环（SITL）仿真。 | 大模型基础设施 | ★ 2.0k | — | 2026-05-05 |
| llama-cpp-agent时下流行宝藏工具 | 专为 llama.cpp 模型设计的 LLM 交互框架，支持结构化函数调用和结构化输出。 | 大模型基础设施 | ★ 635 | — | 2026-03-09 |
| LLM-VM时下流行 | Anarchy LLM-VM 是一个为开源大型语言模型设计的、功能丰富的开源AGI服务器后端。 | 大模型基础设施 | ★ 491 | — | 2024-05-14 |
| hevy-mcp时下流行记忆与上下文··· | 一个模型上下文协议（MCP）服务器实现，用于与Hevy健身追踪应用及其API进行接口交互，使AI助手能够访问和管理健身数据。 | 大模型基础设施 | ★ 251 | MIT | 2026-05-23 |
| blockbench-mcp-plugin时下流行API 集成··· | 此插件将三维模型编辑器Blockbench与模型上下文协议(MCP)服务器连接，从而实现与各种AI开发工具的集成。 | 大模型基础设施 | ★ 187 | GPL-3.0 | 2026-05-23 |
| claude-code-source-all-in-one时下流行API 集成··· | Claude Code的源码提取与架构分析，用于学习和研究生产级AI Agent的设计。 | 大模型基础设施 | ★ 80 | — | 2026-05-28 |
| trainingpeaks-mcp时下流行大模型基础设施··· | 通过MCP协议将TrainingPeaks与Claude等AI助手连接，支持查询、构建和管理训练计划。 | 大模型基础设施 | ★ 76 | MIT | 2026-05-27 |
| AgentRunKit时下流行大模型基础设施 | 一个轻量级的Swift 6框架，用于构建具有类型安全工具调用的LLM驱动代理。 | 大模型基础设施 | ★ 24 | MIT | 2026-05-22 |
| llmqore时下流行开发者工具 | 一个用于云端和本地LLM提供商的Qt/C++库，支持MCP服务器和客户端。 | 大模型基础设施 | ★ 24 | MIT | 2026-05-29 |
| llmcore时下流行开发者工具 | 一个用于处理LLM提供商和MCP服务器的Qt/C++库，提供流式聊天、工具调用以及完整的MCP客户端/服务器。 | 大模型基础设施 | ★ 24 | MIT | 2026-05-29 |
