【免费下载链接】distill
Get FAR MORE done with FAR FEWER tokens 🔥
Distill 是一个轻量的 AI 编码代理(coding agent)与 TUI 终端界面,核心目标就是"用更少的 Token 干完更多的事"。它支持 Grok、ChatGPT、Claude 订阅以及任意 OpenAI 兼容协议的模型,通过压缩工具输出、复用已读内容、把工作分派给更便宜的模型等机制,在保持任务通过率不变的前提下,把成本压到原来的几分之一。本教程带你用 4 步完成配置,跑通第一个省钱会话。
为什么需要 Distill?Token 账单从哪里省下来的
用过 Cursor、Claude Code 这类 AI 编码工具的朋友都知道:模型每轮都要重发整个对话历史,文件读一遍、再读一遍,就是重复付费。Distill 的省法可以概括为三类:
| 省钱手段 | 原理 | 效果 |
|---|---|---|
| 工具输出压缩 | 测试日志、构建输出、堆栈等在进入对话前被确定性代码裁剪,原文存盘可随时取回 | 大幅减少每轮重发的历史体积 |
| 读取复用 | 同一个文件字节完全没变就不重发,只发一条"未变更"标记 | 避免重复为同一文件付费 |
| 模型分级路由 | 规划/评审用强模型,机械编辑交给便宜的 worker,摘要压缩交给 utility 模型 | 用价格差直接拉低账单 |
完整的机制拆解见 docs/token-saver.md,路由逻辑见 docs/jev-routing.md。这里只需要记住:Distill 的省钱是"架构级"的,不需要你手动优化提示词。
第 1 步:安装 Distill 并验证版本
Mac / Linux 用户可以直接用仓库自带的安装脚本 install.sh,它会自动识别系统与 CPU 架构、校验 SHA256 校验和后再落盘:
git clone https://gitcode.com/gh_mirrors/disti/distill cd distill sh install.shWindows 用户可使用 install.ps1(PowerShell 执行)。安装完成后把安装目录加入 PATH,并确认版本:
export PATH="$HOME/.local/share/distill/bin:$PATH" distill --version以后升级只需一条命令:
distill update第 2 步:登录你的模型账号
运行distill进入 TUI 后,在主菜单可以看到 Grok、ChatGPT、Claude、OpenRouter 四套独立的登录/登出项(如上图所示,互不影响):
distill login默认走浏览器 OAuth 登录 Grok;在 SSH、WSL 等无浏览器环境,改用设备码流程即可,详见 用户指南·认证 与 无头模式指南:
distill login --device-auth💡 如果你只有 API Key,也可以设置环境变量(如
OPENROUTER_API_KEY)直接登录 OpenRouter;本地模型则改~/.distill/config.toml即可,详见 docs/local-models.md。
第 3 步:配置"三档模型",把钱花在刀刃上
这是最影响账单的一步。Distill 把模型分成三层,通过首页的Model tiers界面或/tiers命令设置:
| 档位 | 作用 | 命令 |
|---|---|---|
| Main model(必需) | 拥有整个会话:规划、拆解任务、验收结果 | /model |
| Worker model(可选) | 执行主模型派发的机械性编码/测试工作 | /worker-model |
| Utility model | 摘要、压缩、标题等小任务 | /utility-model |
配置口诀:主模型选最强的,worker 选便宜的——主模型负责"想",worker 负责"干":
/model gpt-6-sol auto /worker-model gpt-6-luna auto /utility-model openrouter-qwen37 auto其中auto表示让决策层 Jev 按每次调用自动挑选推理力度(effort),这是默认且推荐的方式。
第 4 步:开启执行模式,立省一半甚至更多
每个会话运行在一种执行模式下,默认是平衡的 Auto。用斜杠命令即可切换:
- Auto(默认):随任务变化自动切换模式。官方成对基准测试中,比 Normal 模式总耗时少 57%、LLM 费用少 77%,且 20/20 任务全部通过。
- UltraSave:收窄搜索、小步读取、短报告,同批基准中成本只有 Normal 的0.069 倍(便宜 93%)。
/ultrasave on - UltraFast:跳过规划与委派轮次直奔干活,墙钟时间约为 Normal 的一半。
/ultrafast on - UltraCode:允许把工作拆给并行子代理并逐项核验。
/ultracode on
头less 调用则用--ultrasave、--ultrafast、--mode auto等参数。三种模式详情分别见 docs/ultrasave.md、docs/ultrafast.md、docs/ultracode.md。
上图是官方 2026-10-16 基准的四组对比(GPT-6 Astra、GPT-6.1 Sol、Claude Opus 5.5、DeepSeek V4.1 max):质量持平或更高,成本下降 69%~87%、耗时下降 23%~76%。完整数据表与复现命令在 BENCHMARKS.md。
验证与进阶:确认省钱机制在跑
一个会话结束后,usage.json会按来源记录每次压缩/选段的决策(compress、keep、reuse等标签),想逐条审计时开启:
GROK_LOG_JEV=1 distill它会在当前 profile 下写入logs/jev.jsonl,每个决策一行,方便你确认"哪一层在干活"。另外 Distill 内置两条常开行为:
- Caveman:代理用更短的话说话,代码、路径、报错保持精确(
/caveman lite|full|ultra调节力度); - Ponytail:像"懒资深工程师"一样先复用、后新写,能省则省,但校验与安全从不削减。
小结
四步回顾:
sh install.sh安装并distill --version验证;distill login登录 Grok / ChatGPT / Claude / OpenRouter 任一账号;/model+/worker-model配强主模型 + 便宜 worker;/ultrasave on或保持默认 Auto,开始省 Token。
想深入阅读,推荐这两篇文档:Token 节省机制全解 和 Jev 路由原理。祝账单早日减半 📉
【免费下载链接】distill
Get FAR MORE done with FAR FEWER tokens 🔥
相关推荐
Maki Token经济深度解析:index、code_execution 与 task 如何帮你省下一半 Token(AI编程代理完整指南)
Maki Token经济深度解析:index、code_execution 与 task 如何帮你省下一半 Token(AI编程代理完整指南) 🐟 Maki
如何实时省下一半AI编码Token账单:gortex savings节省仪表盘从原理到实战完整指南
如何实时省下一半AI编码Token账单:gortex savings节省仪表盘从原理到实战完整指南 Gortex 是一款 100% 本地的代码智能引擎,为 AI
embedding-atlas 上手指南:一条命令打开百万级嵌入的可视化面板
embedding atlas 上手指南:一条命令打开百万级嵌入的可视化面板 为什么嵌入数据需要一把"专用的尺子" embedding atlas 是一个针对大
数据可视化人工智能MCP 服务
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考