llmtrim

llmtrim 是一个本地代理，位于你的 AI 工具（Claude Code、Codex、Cursor 或自己的应用）与 LLM 提供商之间。它会去掉每个请求中浪费的 token，例如 200 行构建日志里只有两行是错误、同一份工具模式被重复发送几十次、或包含近乎相同行的 JSON 数组，然后转发更小的请求，回复则原样返回。README 称在 112 组 A/B 测试中测得输入 token 减少 31%、输出 token 减少 74%，回答质量无变化。

它可以作为代理、命令行、MCP 服务，或 Python、Ruby、Swift、Kotlin 的库使用，可通过 npm、安装脚本、Homebrew、cargo、scoop 或 Docker 安装。每个压缩步骤都会用提供商的分词器重新测量，没有节省 token 就撤销；如果提供商拒绝压缩后的请求，就重新发送原始请求。安装时会生成一张仅限 LLM API 域名的私有证书，并修改 shell 代理设置和添加一个登录服务，`llmtrim uninstall` 可以全部还原，提示词不会写入磁盘。