context-mode:在MCP环境中,每次工具调用都会将原始数据倾倒到上下文窗口中,迅速耗尽空间并导致代理忘记正在进行的任务。Context Mode是一个MCP服务器,它通过沙盒化工具输出以显著减少上下文使用,在SQLite中跟踪会话事件以实现连续性,并提倡“以代码思维”来最小化LLM内部的数据处理,从而解决此问题。;Terradev:Terradev是一个跨云计算资源配置CLI,能够压缩并暂存数据集、预配最优实例和节点,部署速度比顺序预配快3-5倍。它支持21+个GPU云提供商,并包含自动拓扑优化、本地GPU发现和高级推理优化功能。
深度代码库研究与分析(例如:架构、贡献者、问题)
部署优化vLLM和LoRA适配器的LLM推理服务