osaurus:Osaurus是macOS上的AI边缘运行时,利用Apple Silicon优化本地推理并连接各种云模型。它为AI应用提供原生基础,通过模型上下文协议(MCP)暴露工具,并支持自定义助手和自动化工作流。;lemonade:Lemonade是一个SDK,旨在通过直接从用户的GPU和NPU运行优化的大语言模型,帮助用户发现和运行本地AI应用程序。它为多种硬件提供加速,支持多种模型格式,并通过兼容OpenAI的API与流行的AI应用集成。
在macOS上本地构建和部署AI应用和工作流
在个人电脑上通过硬件加速运行本地大语言模型