lemonade:Lemonade是一个SDK,旨在通过直接从用户的GPU和NPU运行优化的大语言模型,帮助用户发现和运行本地AI应用程序。它为多种硬件提供加速,支持多种模型格式,并通过兼容OpenAI的API与流行的AI应用集成。;ToolJet:ToolJet 是一个开源的、AI 原生平台,旨在构建和部署内部工具、工作流和 AI 代理。它提供强大的可视化构建器、拖放式用户界面,并与数据库、API 和 SaaS 应用程序深度集成。
在个人电脑上通过硬件加速运行本地大语言模型
构建自定义内部工具、仪表板和管理面板