企业官网建设流程全解析

蒸馏推理过程，传递的是能力还是表达习惯？

• 系列：大模型研究争议：从论文结论到证据边界
• 日期：2026-10-14

摘要：像教师、答得对、会迁移，是三个问题

小模型开始写“让我检查一下”，答案也更准了，这能说明它学到了大模型的推理方法吗？至少存在三种解释：它学到了有用的解题步骤；它学会组织输出、延长计算，从而更好地调用已有知识；它更会遵守回答格式，原来无法计分的答案终于被识别。几种变化可以同时发生。

**本文的判断是：蒸馏能带来可测的任务收益，但收益不能自动解释为教师内部推理机制的复制；反过来，发现表达结构有作用，也不能推出学生只会模仿。**下文用辅助理由监督、长轨迹蒸馏、风格干预和跨任务评测四种证据，拆开这个容易被标题压成二选一的问题。

我们究竟把什么交给了学生？

这里的蒸馏，指用教师模型产生的训练信号更新学生。本文聚焦文本层面的推理蒸馏：教师提供问题、推理轨迹和答案，学生通过监督微调学习这些输出。监督微调简称SFT，就是用示范输出训练模型预测接下来的文本；它不等于直接搬运教师参数，也不要求读取教师全部词元概率。

思维链或推理轨迹，是答案之前可见的中间文字。“表达习惯”可以指语气、连接词和篇章结构；“解题能力”则需要通过规定条件下的成功行为来定义。二者并非天然互斥：一个检查步骤可能既是一句语言表达，也给后续生成增加了重新核对的机会。把它一概归为装饰，或一概归为内部算法，都太快。

为了让讨论可检验，本文区分三个层次：表面相似性看学生是否更像教师；任务表现看独立评分的答案是否更正确；迁移与干预稳定性看换题型、换表达、改变关键条件之后，收益是否保持。第三层证据通常比前两层更能约束解释，但也不是证明“理解”的单一通行证。

例如，假设一个学生学会在每题末尾加上检查段落。它可能真正检查了运算，也可能只是延长输出，或者在检查段里重复了正确答案，使抽取器更容易抓取。这个例子是解释用的假设，不是论文结果。研究设计需要让这些解释产生不同预测，而不只是给输出取一个更响亮的名字。

四种证据，回答的并非同一道题

理由可以在训练时有用，而不必在测试时写出来

Hsieh等的《Distilling Step-by-Step!》把标签预测和理由生成作为两个任务，用不同前缀控制同一个学生。教师为PaLM，学生为T5，评测涉及自然语言推断、常识问答和算术题。论文报告了理由监督的数据效率收益；测试时可以只预测标签，无须先生成理由。正式论文§3.2、§4

这项设计的重要性在于排除了一种过窄解释：收益未必全部来自测试时多写一段话。理由也可能提供额外监督，改变学生如何利用问题信息。不过，这是面向具体任务的训练，不能直接等同于通用推理方法迁移。作者也指出理由监督增加训练开销，理由质量的影响仍需研究。原文Limitations

长轨迹配方有效，不等于每个成分的贡献已分离

DeepSeek-R1初版技术报告用约80万条整理后的样本微调Qwen和Llama学生，学生阶段仅使用SFT。其中约60万条为推理相关数据，约20万条为非推理数据。报告给出了蒸馏模型在数学、科学问答和代码评测上的结果。技术报告v1 §2.3.3、§2.4、§3.2

这里的关键边界是：训练包同时改变了解题内容、输出结构和指令行为。它支持这套配方可行，却没有通过同题、同学生、只改变轨迹语义的对照，单独识别“过程内容”贡献。教师训练和筛选也有成本，不能仅看学生训练阶段就宣布总成本优势。该研究后来发表于Nature；本段配方定位使用明确保留的初版报告，不混用后续版本的章节编号。正式发表记录

“错误答案也能学到东西”，并不等于内容不重要

Lippmann与Yang的《Style over Substance》比较R1轨迹与按结构化模板生成的GPT-4o轨迹，再训练已有指令微调的学生。模板规定问题组织、探索、检查和整合等结构。两类数据都能改善所测任务；另一个消融把结尾改成错误答案，仍观察到部分收益，但弱于正确版本。原文v3 §3–4、表1–2

**最容易漏读的是作者自己的限定：错误结尾版本仍保留了前面的正确推理内容，并非纯风格或全错轨迹。**因此，这个实验不能证明语义无用。本文进一步认为，结构化模板也可能改变解题行为，不能把这种干预直接视为只替换几个口头禅；样本数相等也不等于训练词元量和推理用量相等。原文§4.2、附录C–D

这篇工作确实给“风格有贡献”提供了支持，但标题中的强烈措辞不应替代实验边界。本次读到的是arXiv v3全文；作者主页及arXiv注明COLM 2025，会议PDF的直接访问受到浏览器验证限制，未把搜索摘录当作会议全文核验。

跨任务进步比文风相似更有信息，但仍需拆开来源

Gautam在EACL 2026比较六对原始模型与R1蒸馏模型，任务是英语代词指代与代词使用。论文在数据集汇总层面报告改善，并通过人工标注分析错误类型；部分改善涉及指令遵循。这里的人工评价是论文作者开展的，不是本文执行的审核。正式论文§3–5

这提供了超出典型数学题的行为证据，却不能将效果全部归于数学推理迁移：训练混有非推理数据，原始模型多数没有指令微调。评测虽设相同生成上限，蒸馏模型实际输出更长；个别模型与数据集组合也会退步。作者明确讨论了这些限制。因此，“跨任务有所改善”与“机制已被隔离”必须分开。原文§4、附录B.1与D

各行对应上述论文，既不是同预算竞赛，也不是互相否定的阵营。任务、学生起点和指标不同，把它们的提升数字横排成榜单，会丢失本篇真正关心的信息。

学生容量与预算，为什么不能藏在脚注里？

比较学生时，“同样大小”不等于“同样起点”。预训练知识、数学专训与指令训练都可能影响它如何利用一段教师示范。小学生复现不了长解法，不足以说明其中没有有效信息；大一些的学生表现更好，也不能单凭参数量把差异归因于容量。更可信的比较应尽量固定模型家族、训练配方和任务，再把容量作为明确变量。

教师答案正确，也不保证中间每一步都正确。筛选终点可以保留碰巧得对答案的路径；学生又未必有足够背景补齐教师省略的步骤。因此，教师越强不必然意味着它写出的所有轨迹都更适合某个学生。这是需要比较的教学适配假设，本文没有把它作为四篇研究共同证明的规律。

预算至少包含教师生成、数据筛选、学生训练和学生推理四部分。同样的问题数可能对应不同训练文本量；同样的最大输出长度也可能对应完全不同的实际消耗。若关心使用价值，应比较准确率随预算如何变化；若关心知识传递，则还要检查控制用量之后，语义完整的轨迹是否仍有额外收益。

这也说明，更多“检查”词汇不是一个好的独立能力指标。可以统计这些词出现的频率，但应把它当作行为描述，并与正确率、错误类型、长度以及新题表现分别记录。否则，训练目标与评价标准可能都围绕教师文风打转，最终只能得到“学生越来越像教师”的循环结论。

一个更能区分解释的后续实验

图示为本文提出、尚未执行的实验。四条通道从同一学生检查点分别训练，再按相同预算口径评测新问题；箭头表示实验流程，不表示已证实的能力传递。封面的机械描摹与新迷宫同样只是问题隐喻，不是内部机制的可视化证据。

先选可以自动验证答案和中间操作的有限任务，固定一套公开训练题，保留完全独立的新结构测试题。为每道训练题制作四种材料：只有答案、完整有效步骤、语义不变的风格改写、只破坏一处关键步骤的轨迹。最后一组应保持最终答案和篇幅尽可能一致，并记录矛盾位置，避免把标签噪声误当成过程语义的作用。

风格改写本身也需要验证：删掉“让我检查”不能同时删掉实际检查；替换措辞不能改掉运算依赖。优先用程序可核验的步骤表示，再生成不同语言表达。若需要人工语义判断，就必须真实收集标注，而不能让自动评分冒充人工金标。所有改写和剔除规则应在观察测试结果之前确定。

训练同时报告按题数对齐和按有效训练词元对齐的结果，并说明两种口径各自改变了什么。测试端比较多个固定生成预算，记录截断率与实际用量；另设答案规范化评分，减少格式改善对计分的干扰。新题按结构或组合留出，而不只把同一模板换几个数字；重复运行用于判断差异是否稳定。

预期如何判读？若完整步骤与语义等价改写都优于答案组，并在新结构题上保持，而破坏关键步骤明显伤害收益，就更支持过程语义有贡献。若优势主要随输出长度变化，匹配预算后大幅缩小，则更支持计算分配解释。若收益主要来自减少无效答案，则应承认指令遵循是重要来源。它们可能同时成立，实验应报告各自范围。

即使得到第一种结果，也只能说在这个任务族、学生和预算内发现了可迁移信息，不能宣布复制了教师的全部推理算法。下一步应更换题目生成规则、学生起点和教师表达，再看结论能否继续成立。

总结：把“传递了什么”留给能区分解释的测量

蒸馏的实际收益无需靠“完全理解”来证明价值，机制研究也不能停在“不过是模仿”的评价上。现有证据允许我们承认理由监督、结构化轨迹和跨任务训练后的行为进步，同时保留它们各自的因果缺口。阅读下一篇蒸馏论文时，最值得追问的是：它改变了哪些信息，又排除了哪些替代解释？

参考资料

1. Cheng-Yu Hsieh、Chun-Liang Li、Chih-kuan Yeh、Hootan Nakhost、Yasuhisa Fujii、Alex Ratner、Ranjay Krishna、Chen-Yu Lee、Tomas Pfister，2023。Distilling Step-by-Step! Outperforming Larger Language Models with Less Training Data and Smaller Model Sizes。Findings of ACL 2023；使用正式论文全文。
2. DeepSeek-AI，2025。DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning。配方定位使用2025-01-22的v1；Nature正式论文于2025-09-17发表，题名为DeepSeek-R1 incentivizes reasoning in LLMs through reinforcement learning。
3. Philip Lippmann、Jie Yang，2025。Style over Substance: Distilled Language Models Reason Via Stylistic Replication。全文使用2025-07-15的v3；COLM 2025状态由arXiv与作者研究主页交叉核对，会议全文直接访问受限。
4. Vagrant Gautam，2026。Training in Step-by-Step Formal Reasoning Improves Pronominal Reasoning in Language Models。EACL 2026短论文，121–135页；使用正式论文全文。