企业官网建设流程全解析

👋 Hi，我擅长AI 大模型应用落地、意识解码与 AI 开发工具链。 💡 创业路上，用技术换时间，一起把 AI 变成生产力 🚀 >

AI 面试 20 问：每一问都能追到一个条目

AI 编年史 · 第 09 篇- 模块四【读者工具】· 20 问 · 每题带追问 · 每个答案有出处

📚 专栏信息

《AI 编年史：一条能查到底的时间线》专栏

专栏定位：面向技术读者与自学者，用 158 条带原始来源的条目，把 AI 从 1912 年到 2026 年的关键转折讲清楚

本系列共 10 篇，分为四大模块：

📖 模块一【源头考据】(3 篇)：年代盘点、起源（1912/1936）、感知机之争
🔧 模块二【方法演进】(3 篇)：反向传播到 AlexNet、Transformer 到 GPT、人机博弈
🛡️ 模块三【工程实践】(1 篇)：五席评审管线与八步门禁
📚 模块四【读者工具】(3 篇)：学习路线、面试 20 问、教学素材

本文是模块四第 2 篇。20 个问题分成四组，每组 5 问。每题给三样东西：一句话答案、面试官会怎么追问、这个答案能追到哪条档案。

👨‍💻 作者与项目

作者简介：翁勇刚 WENG YONGGANG
AI 编年史（aihist）维护者，新概念龙虾-WeClaw 开发团队负责人
理念：“再早的历史，也能查到它的源头”

• 🌐 站点地址：https://aihist.net
• 📝 作者 CSDN：https://blog.csdn.net/yweng18
• 📦 收录标准（JSON）：https://aihist.net/api/v1/standard
• 💻 同作者技术专栏：WeClaw 实战指南（CSDN 专栏）
• 🔍 发现错误：每个条目页页脚有纠错入口

📝 摘要

本文结构概览：
A 组 5 问是"历史与判断"，考的是你有没有把知识点串成线；
B 组 5 问是"方法原理"，考的是能不能推到公式级；
C 组 5 问是"工程取舍"，考的是有没有真跑过；
D 组 5 问是"边界与诚实"，考的是你会不会不懂装懂。

背景：
AI 面试最常见的失分点不是"不会"，而是答得没有边界——把"在这篇论文的条件下成立"说成"一般来说都对"。
这份清单里每一题都附了边界，答的时候把边界一起说出来，比多背三个名词有用。

核心问题：
怎样回答一个问题，才既显示你知道，又显示你知道自己不知道什么？

解决方案：
每题按"结论 → 条件 → 边界"三段回答。三段齐全，即使结论不完全对，面试官也能看到你的推理结构。

关键成果：

• 20 个问题，每个都对应档案里的真实条目（可点开核对）
• 每题附一个追问，追问才是真正的区分点
• 四组按能力维度划分，可单独练一组

适合读者：准备 AI 岗位面试的人、面试官（可直接当题库）、想自测的人

阅读时长：约 18 分钟

关键词：AI 面试题、Transformer 面试、大模型原理、边界思维、追问

一、先说怎么答

三段式，每题都按这个结构答：

1. 结论：一句话给判断 2. 条件：这个判断在什么前提下成立 3. 边界：什么情况下不成立 / 我不知道的部分

只答第一段，是背的；答到第二段，是懂的；答到第三段，是可以一起工作的。

下面 20 题，都按这个结构给参考。

A 组：历史与判断（5 问）

A1. 为什么单层感知机做不了 XOR？

参考答：因为 XOR 不是线性可分的。单层感知机的决策边界是一个超平面，而 XOR 的两个正例（01、10）和两个负例（00、11）无法被一条直线分开。

追问：那多层为什么可以？

答：多层通过隐藏层把输入映射到新的表示空间，在那个空间里 XOR 变成线性可分。但 1969 年做不到，不是结构不行，是当时没有可靠的多层训练方法——这个空白到 1986 年反向传播才补上。

边界：这里说的"单层"指只有一层可训练权重。如果隐藏层权重随机固定、只训最后一层，表达力仍然受限。

溯源：1969《Perceptrons》（perceptrons-1969）、1986 反向传播（backprop-1986）

A2. 反向传播到底解决了什么问题？

参考答：它给隐藏层提供了监督信号。隐藏层没有标签，但它的误差可以从输出层按链式法则反推回来，于是每一层的权重都能算出该往哪改。

追问：反向传播是 1986 年发明的吗？

答：不是。反向传播的数学基础（链式法则求梯度）在自动微分和最优控制里早就有，1970 年代也有人提过。1986 年的贡献是把它用在多层网络上并证明有效，让这件事从"数学上可行"变成"工程上可用"。

边界：反向传播能算梯度，但不保证收敛到全局最优；深层网络的梯度消失/爆炸要靠初始化、归一化、残差连接来缓解。

溯源：1986 反向传播（backprop-1986）、1949 赫布规则（hebb-1949）

A3. 为什么深度学习到 2012 年才爆发？

参考答：因为三个条件 2012 年才同时到位——算法（反向传播 1986、卷积 1989/1998）、数据（ImageNet 2009）、算力（GPU）。

追问：这三个里哪个最关键？

答：没有"最关键"，是乘法关系。1986 年有算法没数据；1998 年有架构没数据没算力；2009 年有数据但没人相信算力值得投。任何一项为零，结果都是零。

边界：这个解释适用于"视觉这类依赖大规模标注的任务"。不适用于小样本、强可解释、低功耗场景——那里 SVM 仍然更合适，它在 1995 到 2010 年就是主流。

溯源：2012 AlexNet（alexnet-2012）、2009 ImageNet（imagenet-2009）、1995 SVM（svm-1995）

A4. 深蓝和 AlphaGo 的本质区别是什么？

参考答：深蓝是搜索 + 人工评估，AlphaGo 是搜索 + 学习到的评估。前者的评估函数由人类大师调，后者由神经网络从数据里学。

追问：那 AlphaGo Zero 呢？

答：连人类棋谱都不要了。它只靠自我对弈，三天内超过击败李世石的版本，并以 100:0 取胜。这说明在围棋上，人类棋谱既是先验也是偏置，而偏置的代价更大。

边界：这套结论依赖"规则封闭 + 胜负可自动判定 + 可无限自我对弈"三个条件。现实任务常常一条都不满足。

溯源：1997 深蓝（deep-blue-1997）、2016 AlphaGo（alphago-match-2016）、2017 AlphaGo Zero（alphago-zero-2017）

A5. 第 37 手说明了什么？

参考答：它说明人类棋谱的分布不是唯一解。那一步人类棋手几乎不会走，但它是好棋——不是机器有灵感，是机器没有被人类先验限制住。

追问：那能不能说机器有创造力？

答：这取决于你怎么定义创造力。如果定义为"产生人类没想到的、且有效的方案"，可以；如果定义为"有意图地创新"，不能——它只是在搜索一个被网络引导的空间。

边界：单步的"反直觉好棋"不能推广成"机器普遍具备创造性"。要证明后者，需要跨任务、跨分布的重复证据。

溯源：2016 AlphaGo 4:1 李世石（alphago-match-2016）

B 组：方法原理（5 问）

B1. 自注意力为什么能替代 RNN？

参考答：两个原因。一是并行：RNN 第 t 步依赖第 t-1 步，只能串行；自注意力一次性做整段矩阵乘。二是路径短：RNN 里第 1 个词到第 1000 个词要走 999 步，自注意力里只隔一层，路径长度 O(1)。

追问：代价是什么？

答：O(T²) 的计算与显存。序列翻倍，注意力矩阵大四倍。这就是后来各种稀疏注意力、线性注意力、长上下文优化的动机。

边界：短序列（比如 512）上，注意力的实际开销未必比 RNN 高；序列极长时，O(T²) 会成为瓶颈。

溯源：2017 Transformer（transformer-2017）、1997 LSTM（lstm-1997）

B2. 为什么要多头注意力？

参考答：单头只能学一种关注模式。多头把 d_model 切成 h 份并行做注意力，等于让模型同时学 h 种关联（语法、指代、位置等），最后拼接再投影。

追问：多头一定比单头好吗？

答：不绝对。有研究显示训练后很多头可以被剪掉而性能几乎不掉，说明存在冗余。但"多头"作为一种归纳偏置，在训练早期提供了更好的搜索空间。

边界：头数不是越多越好。头太多会让每个头的维度变小，单头表达力下降。

溯源：2017 Transformer（transformer-2017）

B3. 位置编码为什么必须有？

参考答：因为自注意力对输入是置换等变的——打乱顺序，输出跟着打乱，模型本身不知道谁在前。所以必须显式注入位置信息。

追问：绝对位置编码和 RoPE 有什么区别？

答：绝对位置编码给每个位置一个向量，直接加到词向量上；RoPE 是把位置信息编码进 Q、K 的旋转，使注意力分数只依赖相对距离。后者在长上下文外推上更自然。

边界：位置编码方式会直接影响长上下文表现。训练长度 2K、推理长度 32K，如果位置编码不扩展，性能会明显退化。

溯源：2017 Transformer（transformer-2017）、2026 GLM-5.2 长上下文优化（glm-5-2-2026）

B4. BERT 和 GPT 的根本区别是什么？

参考答：方向。GPT 是 decoder-only、单向、预测下一个 token；BERT 是 encoder、双向、用掩码语言建模（随机遮住一部分词再预测）。

追问：它们各自适合什么？

答：双向更适合理解类任务（分类、抽取、检索），单向更适合生成。但 2020 年之后 GPT 路线在生成上全面领先，理解类任务也逐渐被"生成式 + 指令"覆盖。

边界：这个判断有时代性。2018–2020 年 BERT 系在多项基准上更强；2023 年之后格局变了。答"哪个更好"时一定要带时间。

溯源：2018 BERT（bert-2018）、2018 GPT-1（gpt-1-2018）

B5. 什么是上下文学习？它为什么重要？

参考答：不更新权重，只在提示里给几个例子，模型就能完成新任务。GPT-3（1750 亿参数）展示了这个能力。

追问：它和微调的本质差别？

答：微调改参数，上下文学习不改参数、只改激活。所以它即时可用、成本低，但受上下文长度限制，且不如微调稳定。

边界：“少样本学习"不等于"学会了”。模型是在利用上下文里的模式做条件生成，不是真的形成了新能力。例子顺序、格式变化都可能显著影响效果。

溯源：2020 GPT-3（gpt-3-2020）、2022 InstructGPT（instructgpt-2022）

C 组：工程取舍（5 问）

C1. Chinchilla 修正了什么？

参考答：它指出在固定算力下，参数量与训练数据量应该同比例扩展。此前主流做法是把算力几乎全砸在参数上，数据量相对不足。

追问：那为什么后来的模型参数还是越来越大？

答：因为推理成本与训练成本是两件事。Chinchilla 优化的是"给定训练算力下的最优"，而工业界还要考虑推理时的延迟与显存——小模型多数据在训练上更优，但服务于高难度任务时仍需要更大模型。

边界：缩放定律是经验拟合，在特定架构、特定数据分布、特定区间内成立，外推要谨慎。

溯源：2022 Chinchilla（chinchilla-2022）

C2. RLHF 解决的是什么问题？

参考答：解决"模型会说话但不好好听话"。预训练目标只是预测下一个词，不保证遵循指令。RLHF 用人类偏好数据训练奖励模型，再用它优化策略，让输出更符合人类期望。

追问：RLHF 有什么代价？

答：三个。一是标注成本高；二是奖励模型会被"刷分"（reward hacking）；三是可能损害多样性、让模型变得过度保守。后来的 DPO 等方法就是在降低这套流程的成本。

边界：RLHF 优化的是"人类偏好"，不等于"事实正确"。一个被 RLHF 调得很讨喜的模型，仍然会编造。

溯源：2022 InstructGPT（instructgpt-2022）

C3. 推理模型（o1 类）和普通模型的区别？

参考答：普通模型一次前向生成答案；推理模型在回答前生成较长的思考链，并用强化学习训练"思考过程能带来更好结果"。

追问：这不就是 CoT 提示吗？

答：不一样。CoT 是推理时的提示技巧，不改权重；推理模型是把"长思考"训练进了模型行为里，并且会用结果正确性做强化学习信号。

边界：不是所有任务都受益。简单事实问答上，长思考只是浪费 token；而且思考链不保证忠实反映模型的真实计算过程。

溯源：2024 o1（o1-2024）、2025 DeepSeek-R1（deepseek-r1-2025）

C4. 开放权重意味着什么？

参考答：意味着权重可下载、可自托管、可微调、可离线部署。它改变的是成本结构和供应链，不只是"免费"。

追问：开放权重 = 开源吗？

答：不等于。开源通常还包括训练数据、训练代码、许可的自由度。开放权重可能只给权重 + 有限许可（比如商用限制、用户规模限制）。判断时要看许可证，不看宣传。

边界：开放权重的模型可以被审查、被蒸馏、被改造成不合规用途，这也是监管关注点。另外"接近前沿"的说法要以基准为准，不同基准差别很大。

溯源：2023 LLaMA（llama-2023）、2025 DeepSeek-R1（deepseek-r1-2025）、2026 Meta Muse（muse-2026）

C5. MoE 的取舍是什么？

参考答：MoE 用多个专家 + 门控路由，让每次前向只激活一部分参数。收益是同样的计算量下容量更大；代价是显存占用高（所有专家都要装）、路由可能不均衡、训练更不稳定。

追问：为什么 2024 年后 MoE 变多了？

答：因为它把"能力"和"推理成本"解耦了。总参数可以很大（容量），激活参数可以较小（成本）。DeepSeek-V3 的 6710 亿总参数就是典型。

边界：MoE 的"参数量"不能直接和稠密模型比。比较时要看激活参数量与总参数量两个数。

溯源：2024 DeepSeek-V3（deepseek-v3-2024）、2025 Llama 4（llama-4-2025）、2025 Qwen3（qwen3-2025）

D 组：边界与诚实（5 问）

D1. 模型的"能力"和"可用性"差在哪？

参考答：能力是"能不能做到"，可用性是"以什么成本、什么形态、给谁用"。GPT-3 已经证明能力存在，但 ChatGPT 才让它被大众用起来。

追问：那产品创新算不算技术创新？

答：算。改变交付方式本身就是技术工作——延迟优化、上下文管理、安全护栏、界面设计，每一项都会改变"谁能用"。

边界：交付方式能放大能力，但不能创造能力。换十种界面，也做不出模型本身不会的事。

溯源：2020 GPT-3（gpt-3-2020）、2022 ChatGPT（chatgpt-2022）

D2. 你怎么判断一条 AI 新闻值不值得信？

参考答：看三件事。一是一手来源（论文 DOI / 官方公告 / 监管原文），不是"据外媒"；二是独立来源数量（同一篇稿子的转载不算多来源）；三是它有没有把预测当事实。

追问：如果只有一条来源呢？

答：那就明确标注"单一来源"。这不算缺陷，隐瞒才算。

边界：这个方法能识别"证据薄弱"，但不能识别"证据本身错误"。两个独立来源同时错，仍然会被判为可靠。

溯源：第 07 篇（五个模型投票八道门禁）

D3. 大模型的"幻觉"能彻底解决吗？

参考答：不能彻底解决，只能压低。因为模型的训练目标是"生成合理的下一个词"，不是"生成真话"。合理的词和真实的词，在统计上高度重合但不完全重合。

追问：那工程上怎么办？

答：三道防线——检索（给材料）、引用校验（每句要有出处）、拒答（材料没有就说没有）。第三道最关键，也最少人做。

边界：拒答会降低"看起来的完成率"，在演示里显得笨，在生产里更安全。这个取舍要由业务方定。

溯源：第 08 篇阶段 4 的 RAG 练习（带引用的 RAG）

D4. 你怎么看"AI 会取代程序员"？

参考答：分任务看。规则明确、可验证、有大量训练数据的编码任务，正在被替代；需求模糊、需要权衡、需要承担责任的部分，短期不会。

追问：那程序员该往哪走？

答：往"定义问题"和"验证结果"走。写代码的成本在下降，判断"这段代码对不对、该不该这么写"的价值在上升。

边界：这是当下（2026 年）的判断。如果验证本身也被自动化到可靠，结论会变。

溯源：2021 GitHub Copilot（copilot-2021）、2026 GPT-5.3-Codex（gpt-5-3-codex-2026）

D5. 如果让你设计一个"可核查"的 AI 产品，第一件事做什么？

参考答：先定义"什么算错"，再定义"怎么发现错"。没有这两条，后面所有优化都没有方向。

追问：具体怎么落地？

答：给每个输出绑定可追溯的输入（引用、版本、时间戳），并让"无法追溯"成为一种合法的失败态——系统允许说"我不知道"，而不是必须给一个答案。

边界：这套做法在开放域生成（创意写作）里代价很高，会牺牲流畅度与多样性。要按场景选。

溯源：第 07 篇（五席评审与八步门禁）、2023 美国版权局 AI 登记指引（us-copyright-2023）

三、总结：20 问的分布

如果时间只够准备一组，选 D。前三组可以临时补，边界感补不出来。

按岗位选组，四组不是均等使用的：

一个公式：

可信的回答 = 结论 + 条件 + 边界

少任何一段，都会在追问里露馅。

下一篇：《把 AI 史讲给学生听：一份可直接用的 4 课时教学素材包》——模块四收尾。

思考题：

1. 这 20 题里，哪一题你最答不上来？它对应档案里的哪一条？
2. 如果你是面试官，你会追加哪一问？它的边界在哪？

附录 A：本文涉及的条目（按题号）

附录 B：参考资料

1. 本文归因入口（唯一外链）：https://aihist.net/go/csdn09
2. 上一篇：《AI 学习路线：从 1912 到 2026，按年代读什么、按能力练什么》
3. 下一篇：《把 AI 史讲给学生听：一份可直接用的 4 课时教学素材包》

版权声明：本文为 CSDN 博主「翁勇刚」的原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接及本声明。