runanywhere-sdks

RunAnywhere 是一组 SDK，用来给手机应用添加完全在设备上运行的 AI 功能：不需要云、没有网络延迟、数据不会离开设备。它涵盖 LLM 聊天（Llama、Mistral、Qwen、SmolLM 等）、基于 Whisper 的语音转文字、神经网络文字转语音，以及串联语音识别、LLM 和语音合成的完整语音助手流水线。

提供 Swift（iOS 和 macOS，稳定版，通过 Swift Package Manager）、Kotlin（Android，稳定版，通过 Gradle）、React Native（测试版，npm）和 Flutter（测试版，pub.dev）的 SDK。功能表列出四个平台都支持文本生成、流式输出、语音转文字、文字转语音、语音助手流水线以及带进度的模型下载，结构化 JSON 输出在 iOS 和 Android 上可用，Apple Foundation Models 仅限 iOS。支持的模型包括通过 llama.cpp 运行的 GGUF 格式 LLM（从约 400 MB 的 SmolLM2 360M 到约 4 GB 的 Mistral 7B Q4）、通过 ONNX 运行的 Whisper Tiny 和 Base，以及美式和英式英语的 Piper 语音。采用 Apache 2.0 许可证。