☰
Distill 快速上手:4 步配置让 AI 编码代理省下一半 Token
2026/10/28 10:06:36 网站建设 项目流程

【免费下载链接】distill

Get FAR MORE done with FAR FEWER tokens 🔥

项目地址:https://gitcode.com/gh_mirrors/disti/distill
点击查看免费下载

Distill 是一个轻量的 AI 编码代理(coding agent)与 TUI 终端界面,核心目标就是"用更少的 Token 干完更多的事"。它支持 Grok、ChatGPT、Claude 订阅以及任意 OpenAI 兼容协议的模型,通过压缩工具输出、复用已读内容、把工作分派给更便宜的模型等机制,在保持任务通过率不变的前提下,把成本压到原来的几分之一。本教程带你用 4 步完成配置,跑通第一个省钱会话。

为什么需要 Distill?Token 账单从哪里省下来的

用过 Cursor、Claude Code 这类 AI 编码工具的朋友都知道:模型每轮都要重发整个对话历史,文件读一遍、再读一遍,就是重复付费。Distill 的省法可以概括为三类:

省钱手段原理效果
工具输出压缩测试日志、构建输出、堆栈等在进入对话前被确定性代码裁剪,原文存盘可随时取回大幅减少每轮重发的历史体积
读取复用同一个文件字节完全没变就不重发,只发一条"未变更"标记避免重复为同一文件付费
模型分级路由规划/评审用强模型,机械编辑交给便宜的 worker,摘要压缩交给 utility 模型用价格差直接拉低账单

完整的机制拆解见 docs/token-saver.md,路由逻辑见 docs/jev-routing.md。这里只需要记住:Distill 的省钱是"架构级"的,不需要你手动优化提示词。

第 1 步:安装 Distill 并验证版本

Mac / Linux 用户可以直接用仓库自带的安装脚本 install.sh,它会自动识别系统与 CPU 架构、校验 SHA256 校验和后再落盘:

git clone https://gitcode.com/gh_mirrors/disti/distill cd distill sh install.sh

Windows 用户可使用 install.ps1(PowerShell 执行)。安装完成后把安装目录加入 PATH,并确认版本:

export PATH="$HOME/.local/share/distill/bin:$PATH" distill --version

以后升级只需一条命令:

distill update

第 2 步:登录你的模型账号

运行distill进入 TUI 后,在主菜单可以看到 Grok、ChatGPT、Claude、OpenRouter 四套独立的登录/登出项(如上图所示,互不影响):

distill login

默认走浏览器 OAuth 登录 Grok;在 SSH、WSL 等无浏览器环境,改用设备码流程即可,详见 用户指南·认证 与 无头模式指南:

distill login --device-auth

💡 如果你只有 API Key,也可以设置环境变量(如OPENROUTER_API_KEY)直接登录 OpenRouter;本地模型则改~/.distill/config.toml即可,详见 docs/local-models.md。

第 3 步:配置"三档模型",把钱花在刀刃上

这是最影响账单的一步。Distill 把模型分成三层,通过首页的Model tiers界面或/tiers命令设置:

档位作用命令
Main model(必需)拥有整个会话:规划、拆解任务、验收结果/model
Worker model(可选)执行主模型派发的机械性编码/测试工作/worker-model
Utility model摘要、压缩、标题等小任务/utility-model

配置口诀:主模型选最强的,worker 选便宜的——主模型负责"想",worker 负责"干":

/model gpt-6-sol auto /worker-model gpt-6-luna auto /utility-model openrouter-qwen37 auto

其中auto表示让决策层 Jev 按每次调用自动挑选推理力度(effort),这是默认且推荐的方式。

第 4 步:开启执行模式,立省一半甚至更多

每个会话运行在一种执行模式下,默认是平衡的 Auto。用斜杠命令即可切换:

  • Auto(默认):随任务变化自动切换模式。官方成对基准测试中,比 Normal 模式总耗时少 57%、LLM 费用少 77%,且 20/20 任务全部通过。
  • UltraSave:收窄搜索、小步读取、短报告,同批基准中成本只有 Normal 的0.069 倍(便宜 93%)。/ultrasave on
  • UltraFast:跳过规划与委派轮次直奔干活,墙钟时间约为 Normal 的一半。/ultrafast on
  • UltraCode:允许把工作拆给并行子代理并逐项核验。/ultracode on

头less 调用则用--ultrasave、--ultrafast、--mode auto等参数。三种模式详情分别见 docs/ultrasave.md、docs/ultrafast.md、docs/ultracode.md。

上图是官方 2026-10-16 基准的四组对比(GPT-6 Astra、GPT-6.1 Sol、Claude Opus 5.5、DeepSeek V4.1 max):质量持平或更高,成本下降 69%~87%、耗时下降 23%~76%。完整数据表与复现命令在 BENCHMARKS.md。

验证与进阶:确认省钱机制在跑

一个会话结束后,usage.json会按来源记录每次压缩/选段的决策(compress、keep、reuse等标签),想逐条审计时开启:

GROK_LOG_JEV=1 distill

它会在当前 profile 下写入logs/jev.jsonl,每个决策一行,方便你确认"哪一层在干活"。另外 Distill 内置两条常开行为:

  • Caveman:代理用更短的话说话,代码、路径、报错保持精确(/caveman lite|full|ultra调节力度);
  • Ponytail:像"懒资深工程师"一样先复用、后新写,能省则省,但校验与安全从不削减。

小结

四步回顾:

  1. sh install.sh安装并distill --version验证;
  2. distill login登录 Grok / ChatGPT / Claude / OpenRouter 任一账号;
  3. /model+/worker-model配强主模型 + 便宜 worker;
  4. /ultrasave on或保持默认 Auto,开始省 Token。

想深入阅读,推荐这两篇文档:Token 节省机制全解 和 Jev 路由原理。祝账单早日减半 📉

【免费下载链接】distill

Get FAR MORE done with FAR FEWER tokens 🔥

项目地址:https://gitcode.com/gh_mirrors/disti/distill
点击查看免费下载

相关推荐

上一篇:cal.diy 应用商店 DESCRIPTION.md 描述文件机制解析:以 Skype 视频集成应用为例
下一篇:Buzz Mesh 实操:把家里两台电脑的 GPU 拼成共享算力池,让 Agent 自己跑大模型

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询