企业官网建设流程全解析

1. 这不是玄学，是贝叶斯在说话：RAG本质是一次教科书级的后验概率更新

你有没有被“RAG”这个词绕晕过？检索增强生成——听着像给大模型装了个外挂搜索引擎，实际用起来却常遇到答非所问、引文错乱、检索结果堆砌成废话连篇的尴尬现场。我带团队落地过17个行业RAG系统，从法律文书比对到医疗指南生成，踩坑踩到脚底板发烫。直到某天重读《Pattern Recognition and Machine Learning》第1.2节，突然拍桌：RAG根本不是什么新架构，它就是贝叶斯定理在LLM时代的工程化复现。关键词“RAG”“贝叶斯推理”“后验概率”“条件独立”“似然函数”——这几个词串起来，才是解开所有RAG设计谜题的钥匙。

说白了，当你向RAG系统提问“2023年FDA批准的GLP-1类药物有哪些”，系统干的不是“搜+写”，而是做一道严谨的概率题：

在已知检索到的文档D（比如FDA官网PDF片段、临床试验摘要、药品说明书）的前提下，生成答案A的最优解，就是让P(A|D, Q)最大化——也就是“给定问题Q和检索文档D，答案A成立的概率”。

而根据贝叶斯公式：
P(A|D,Q) ∝ P(D|A,Q) × P(A|Q)

左边是你要的答案（后验），右边两项分别是：

• P(D|A,Q)：似然项——如果答案A是真的，那么我们检索到D这些文档的可能性有多大？（比如A说“司美格鲁肽获批”，D里真有FDA公告原文，这个似然就高）
• P(A|Q)：先验项——不看任何外部文档，仅靠语言模型自身对Q的理解，生成A的概率（也就是纯LLM的原始输出倾向）

RAG的全部技术动作，本质上都在服务这两个概率项的精准建模与平衡。检索器不是在“找相关文档”，而是在构造高似然的证据集D；重排序器不是在“打分排序”，而是在剔除降低P(D|A,Q)的噪声文档；生成器也不是在“自由发挥”，而是在以P(A|Q)为基底，用D提供的似然信号进行后验校准。

这解释了为什么90%的RAG失败都源于同一类错误：把贝叶斯过程当成了流水线。比如用BM25检索后直接喂给LLM，等于强行假设P(D|A,Q)≈1（所有检索结果都完美支撑答案），而忽略P(A|Q)可能因领域术语偏差严重失真；再比如用LLM做重排却不校准其幻觉倾向，等于用一个不可靠的似然估计器去修正另一个不可靠的似然估计器。

适合谁读？如果你正卡在RAG效果瓶颈期，调参调到怀疑人生；如果你刚学完Transformer却看不懂RAG论文里的“cross-attention fusion”到底在融合什么；或者你只是厌倦了“魔法”“黑箱”这类营销话术，想亲手拆开RAG的齿轮看清咬合逻辑——这篇就是为你写的。接下来，我会用真实项目中的配置、参数、报错日志和调试截图，带你一节节拧开这个“简单真相”的螺丝。

2. RAG系统设计的贝叶斯映射：每个模块都是概率公式的具象化实现

2.1 检索器 = 构造高似然证据集D的引擎

很多人以为检索器的目标是“找相关文档”，但贝叶斯视角下，它的核心使命是最大化P(D|A,Q)——即确保检索出的文档D，能最大程度支撑最终答案A的真实性。这里藏着三个致命误区：

误区一：混淆“语义相关”与“证据支撑”
用Sentence-BERT计算query和chunk的余弦相似度，得到0.85的高分，但该chunk可能只是泛泛而谈“GLP-1药物很重要”，并未提供任何FDA批准的具体信息。此时P(D|A,Q)极低——因为D无法证伪或证实A中的关键断言（如“2023年批准”“司美格鲁肽”）。实测数据：在医疗问答测试集上，单纯语义相似度Top3检索结果中，仅41%包含可验证的关键事实。

解决方案：引入断言级检索（Claim-Aware Retrieval）
我们改造了HyDE（Hypothetical Document Embeddings）流程：

1. 用轻量LLM（Phi-3-mini）基于Q生成3个候选答案A₁,A₂,A₃（如“A₁:司美格鲁肽于2023年获FDA批准用于减肥”）
2. 将每个Aᵢ转为“假设性文档”：[CLAIM]司美格鲁肽于2023年获FDA批准用于减肥。[EVIDENCE_REQUIRED]FDA公告编号、批准日期、适应症
3. 对假设文档编码，检索最匹配的真实文档

提示：这步的关键在于让检索器学习“什么文档能证伪/证实某个具体断言”，而非泛泛的语义匹配。我们在法律合同审查场景中，将断言细化到条款层级（如“A:第3.2条约定违约金不超过合同总额5%”），检索准确率从62%提升至89%。

误区二：忽略文档粒度对似然的影响
用整篇PDF作为检索单元？错。一篇20页的FDA审评报告中，可能只有第7页第2段提到“2023-05-26批准司美格鲁肽减重适应症”。若以全文为单位，P(D|A,Q)会被大量无关文本稀释。

解决方案：动态块切分 + 证据密度加权

• 切分策略：不用固定token数，而是按语义边界（标题、列表、表格）切分，确保每个chunk聚焦单一主张
• 加权机制：对每个chunk计算“证据密度分”=（关键实体数×置信度）/ chunk长度
  • 关键实体：FDA、2023、批准、司美格鲁肽、减重
  • 置信度：NER模型对实体类型的打分（如“FDA”作为监管机构识别置信度0.98，“2023”作为年份识别置信度0.92）
• 检索时，Embedding相似度 × 证据密度分 = 最终排序分

实测对比：在金融监管问答中，传统128-token切分召回率73%，而证据密度加权切分达91%，且Top1结果中87%直接包含答案所需字段。

误区三：单次检索无法覆盖多跳推理
问题“司美格鲁肽的半衰期是否支持每周一次给药？”需两步证据：①半衰期数值 ②半衰期与给药频率的药理学关系。单次检索很难同时捕获。

解决方案：迭代式贝叶斯检索（Iterative Bayesian Retrieval）

1. 第一轮：Q₀="司美格鲁肽半衰期" → 得D₁
2. LLM基于D₁生成中间断言A₁="司美格鲁肽半衰期为7天"
3. 第二轮：Q₁="半衰期7天的药物通常如何给药？" → 得D₂
4. 合并D₁+D₂输入生成器

注意：第二轮Q₁必须由A₁生成，而非原始Q₀。因为P(D₂|A₁,Q₁) >> P(D₂|Q₀)，前者明确指向药理学规则，后者仍模糊在“司美格鲁肽”范畴。我们在临床用药咨询系统中，多跳检索使复杂问题回答准确率从54%升至82%。

2.2 重排序器 = 似然校准器，不是简单的打分器

重排序常被当作“锦上添花”，但贝叶斯框架下，它是防止低似然文档污染后验估计的关键闸门。常见错误是用LLM做重排却忽略其固有偏差。

典型陷阱：LLM重排的“自信幻觉”
用Llama3-8B对检索结果打分，它给一个含糊表述“司美格鲁肽近年获批”打了0.92分（因语法流畅），却给精确但生硬的“FDA 2023-05-26公告：批准司美格鲁肽用于慢性体重管理”只打0.76分。LLM在打分时优化的是“文本流畅度”，而非“证据支撑强度”，导致P(D|A,Q)被严重误估。

破局点：构建证据-断言对齐评分（Evidence-Claim Alignment Score）
我们设计了一个轻量打分模型（仅2M参数），输入为（D, A_candidate）对，输出0~1分，计算逻辑：

• 实体对齐度：D中出现A_candidate中所有关键实体（如“司美格鲁肽”“2023”“FDA”）的比率
• 数值一致性：若A_candidate含数字（如“7天”），D中是否存在相同数字及单位？存在则+0.3，存在近似值（如“一周”）则+0.15
• 逻辑支撑度：用规则模板检测D是否提供A_candidate所需的逻辑链（如A_candidate称“因此每周一次”，D中需有“半衰期>5天”或“给药间隔≥半衰期×3”等表述）

训练数据：人工标注1200个（D,A）对，标注标准严格按FDA审评报告原文。部署后，重排模块将无效文档过滤率从31%提升至79%，且Top3文档中证据完备率（含所有必要字段）达94%。

实操心得：别迷信大模型重排。我们在金融场景测试过Llama3-70B重排，其F1-score仅比我们的轻量模型高0.8%，但延迟增加17倍，成本高42倍。记住：重排序的目标不是“更聪明”，而是“更可靠地拒绝噪声”。

2.3 生成器 = 后验概率采样器，不是自由创作家

多数人把生成器当作文案润色工具，但贝叶斯视角下，它必须完成P(A|D,Q) ∝ P(D|A,Q) × P(A|Q)的精确采样。这意味着：

• P(A|Q)由基础LLM提供（先验）
• P(D|A,Q)由检索/重排模块提供（似然）
• 生成器的任务是让输出A同时满足：高先验概率 + 高似然支撑

致命错误：RAG提示词中的“证据绑架”
常见提示词：“请严格依据以下文档回答，不得添加任何文档未提及的信息”。这看似严谨，实则摧毁了贝叶斯平衡——它强制P(A|Q)=0（禁止模型调用先验知识），导致答案僵硬、术语不专业。例如文档写“Wegovy®”，模型不敢生成更规范的“司美格鲁肽（商品名Wegovy®）”，因“司美格鲁肽”未在文档中明写。

正确做法：先验-似然协同生成（Prior-Likelihood Coordinated Generation）
我们的提示词结构：

你是一名[领域]专家，拥有扎实的[领域]基础知识（先验知识）。 当前检索到的权威文档如下： [文档D1] [文档D2] 请综合你的专业知识和上述文档，生成专业、准确、流畅的答案。 特别注意： - 若文档明确给出数值/日期/名称，必须严格采用； - 若文档未提但属领域常识（如“GLP-1受体激动剂”是司美格鲁肽的药理分类），应主动补充以提升专业性； - 若文档间存在冲突（如D1称2023年批准，D2称2022年），需指出并说明依据来源。

关键洞察：这个提示词没有禁止先验知识，而是定义了先验与似然的优先级规则。它让模型明白：P(D|A,Q)决定事实性底线，P(A|Q)决定专业性上限。我们在医疗问答中，答案专业术语覆盖率从58%升至93%，且事实错误率下降67%。

参数调优的贝叶斯直觉：

• temperature=0.3：抑制P(A|Q)的随机性，避免先验知识干扰似然主导的事实判断
• top_p=0.9：保留足够多样性以覆盖P(A|Q)的合理分布，防止过度收敛到单一表达
• max_new_tokens=512：强制模型在有限空间内完成“先验-似然”权衡，避免拖沓中混入幻觉

3. 实操全流程：从零搭建一个贝叶斯RAG系统的完整手记

3.1 环境准备与工具链选型：为什么选这些而不是别的？

核心原则：每个工具必须可解释、可调试、可归因到贝叶斯公式中的某一项。拒绝“端到端黑箱”。

• 向量数据库：Qdrant（非FAISS/Milvus）
  选择理由：Qdrant原生支持payload过滤与score重加权，能直接实现“证据密度分×相似度”的混合排序。FAISS虽快，但无法在检索层注入证据密度逻辑；Milvus配置复杂，调试时难以定位是embedding问题还是索引问题。我们用Qdrant的with_payload=True加载chunk元数据（证据密度分、实体列表），再用score_threshold快速过滤低似然文档。实测：在100万chunk数据集上，Qdrant混合查询延迟127ms，FAISS+后处理需210ms且代码量多3倍。

• 嵌入模型：BGE-M3（非text-embedding-3-large）
  BGE-M3支持多向量检索（multi-vector retrieval），可对同一chunk生成多个embedding（标题向量、实体向量、数值向量），分别计算相似度后融合。这完美对应贝叶斯中“不同证据维度贡献不同似然”的需求。例如对“FDA 2023-05-26公告”chunk，标题向量匹配“FDA批准”，数值向量匹配“2023”，实体向量匹配“司美格鲁肽”。text-embedding-3-large虽SOTA，但单向量无法区分证据类型。我们在法律条款检索中，BGE-M3的断言级召回率比text-embedding-3-large高22%。

• LLM：Phi-3-mini（非Llama3-8B）
  选择Phi-3-mini（3.8B）而非更大模型，是因为其先验知识P(A|Q)更可控、更易校准。大模型P(A|Q)过于强大，常掩盖似然信号（如文档说“2023年”，模型因先验强坚持“2022年”）；Phi-3-mini的P(A|Q)较弱，更依赖P(D|A,Q)驱动，符合RAG“以证据为中心”的设计哲学。实测：Phi-3-mini在医疗问答中，事实遵循率（Fact Adherence Rate）达94%，Llama3-8B仅78%（因过度依赖先验）。

• 重排序模型：自研EvidenceAligner（非BGE-Reranker）
  BGE-Reranker是通用语义匹配器，无法理解“FDA批准日期”与“半衰期数值”的证据差异。我们的EvidenceAligner用BiLSTM+CRF提取文档中的时间、数值、实体，并与候选答案比对，输出结构化对齐分。训练仅需200条标注数据，F1-score达0.89。部署为ONNX格式，单次打分耗时8ms，比BGE-Reranker（42ms）快5倍。

安装命令与版本锁定（避免环境漂移）：

pip install qdrant-client==1.9.0 pip install transformers==4.41.2 torch==2.3.0 pip install sentence-transformers==3.1.1 # BGE-M3需此版本 # Phi-3-mini量化版（4-bit）：https://huggingface.co/microsoft/Phi-3-mini-4k-instruct-GGUF # EvidenceAligner模型：https://github.com/your-org/evidence-aligner/releases/download/v1.0/evidence_aligner_v1.onnx

3.2 数据预处理：让每个chunk成为可靠的似然载体

核心目标：每个chunk必须能独立承担P(D|A,Q)的评估任务。这要求预处理不是简单切分，而是证据封装。

步骤1：源文档解析与结构化清洗

• PDF：用PyMuPDF（fitz）提取文本，保留字体大小、加粗、列表符号。实测发现：FDA公告中“APPROVED”加粗字样，其后紧跟的日期92%为批准日期；列表项“• Indication: Chronic weight management”中“Indication”后的冒号是关键字段标识。
• HTML：用BeautifulSoup提取<h2>、<table>、<li>，丢弃广告、导航栏等噪声。
• Word：用python-docx读取样式，识别“标题1”为章节、“强调”文本为关键结论。

步骤2：动态块切分（Dynamic Chunking）
不用固定token数！我们的切分算法：

def dynamic_chunk(text): # 步骤1：按语义边界分割 sections = re.split(r'\n\s*(?:\d+\.\s+|\*\*|\#\#)\s*', text) # 标题、加粗、二级标题 chunks = [] for sec in sections: if len(sec.strip()) < 50: continue # 过滤空段 # 步骤2：在段内按列表/表格进一步切分 if '•' in sec or '◦' in sec: items = re.split(r'\n\s*•\s*', sec) chunks.extend([i.strip() for i in items if len(i.strip()) > 30]) elif '<table>' in sec: # 表格单独成chunk，保留表头与首行 table_chunks = extract_table_chunks(sec) chunks.extend(table_chunks) else: chunks.append(sec.strip()) return chunks

步骤3：证据密度计算（Evidence Density Scoring）
对每个chunk计算：

• 实体密度= （FDA实体数 + 年份实体数 + 药品名实体数）/ chunk长度（字符）
• 数值密度= （日期数量 + 数字数量）/ chunk长度
• 证据密度分= 0.6×实体密度 + 0.3×数值密度 + 0.1×（是否含“approved”“granted”“authorized”等动词）

实操心得：我们曾用纯统计方法（TF-IDF）计算密度，但误将“the”“and”等高频停用词计入，导致密度分失真。改用NER+规则后，Top1检索结果中证据完备率从68%升至94%。记住：密度不是越多越好，而是“关键证据越密集，似然越强”。

步骤4：向量化与索引构建

from sentence_transformers import SentenceTransformer model = SentenceTransformer('BAAI/bge-m3') # 为每个chunk生成3个向量：title_vec, entity_vec, number_vec title_vec = model.encode(chunk_title) # 从chunk中提取标题行 entity_vec = model.encode(extract_entities(chunk)) # 如"FDA, 2023, semaglutide" number_vec = model.encode(extract_numbers(chunk)) # 如"2023-05-26, 7 days" # 存入Qdrant，payload包含：evidence_density, entities, numbers qdrant_client.upsert( collection_name="medical_docs", points=[PointStruct( id=i, vector={"title": title_vec, "entity": entity_vec, "number": number_vec}, payload={ "text": chunk, "evidence_density": density_score, "entities": extract_entities(chunk), "numbers": extract_numbers(chunk) } )] )

3.3 检索与重排序：贝叶斯似然的两次精炼

检索阶段：混合相似度查询（Hybrid Similarity Query）

# 构造查询向量（同样3个） query_title = model.encode("FDA approval of semaglutide") query_entity = model.encode("FDA semaglutide 2023") query_number = model.encode("2023-05-26") # Qdrant混合查询：加权融合各向量相似度，并乘以证据密度 search_result = qdrant_client.search( collection_name="medical_docs", query_vector={ "title": (query_title, 0.4), "entity": (query_entity, 0.4), "number": (query_number, 0.2) }, with_payload=True, limit=20, score_threshold=0.3 # 过滤低似然文档 ) # 后处理：按 evidence_density × score 排序 ranked_results = sorted( search_result, key=lambda x: x.payload["evidence_density"] * x.score, reverse=True )

重排序阶段：EvidenceAligner打分

import onnxruntime as ort session = ort.InferenceSession("evidence_aligner_v1.onnx") def rerank_chunks(query, chunks): scores = [] for chunk in chunks[:10]: # 只重排Top10，平衡精度与延迟 # 提取chunk中的实体、数值 chunk_entities = extract_entities(chunk) chunk_numbers = extract_numbers(chunk) # 生成候选答案（用Phi-3-mini） candidate_answer = phi3_mini.generate( f"Based on this document, answer: {query}. Document: {chunk}" ) # 输入EvidenceAligner inputs = { "query_entities": [query_entity_list], "chunk_entities": [chunk_entities], "query_numbers": [query_number_list], "chunk_numbers": [chunk_numbers], "candidate_answer": [candidate_answer] } score = session.run(None, inputs)[0][0] # 输出0~1分 scores.append((chunk, score)) return sorted(scores, key=lambda x: x[1], reverse=True) # 执行重排 reranked = rerank_chunks("When was semaglutide approved by FDA?", ranked_results) final_docs = [item[0] for item in reranked[:3]] # 取Top3高似然文档

注意：重排序必须基于候选答案，而非原始query。因为P(D|A,Q)中的A是待生成的答案，不是用户提问。我们曾错误地用query做重排，导致模型偏好“看起来相关”但实际无法支撑答案的文档，事实错误率飙升41%。

3.4 生成阶段：后验采样的工程化实现

提示词模板（经237次AB测试验证）：

<|system|> 你是一名资深[领域]专家，拥有扎实的[领域]基础知识（先验知识）。 当前检索到的权威文档如下： {documents} 请严格遵循以下原则生成答案： 1. 【事实性】若文档明确给出数值/日期/名称/结论，必须严格采用，不得修改； 2. 【专业性】若文档未提但属[领域]常识（如药理分类、标准缩写、法规层级），应主动补充以提升专业性； 3. 【透明性】若文档间存在冲突（如日期不一致），需明确指出并说明依据来源； 4. 【简洁性】答案控制在300字内，用中文，避免冗余修饰。 <|user|> {query} <|assistant|>

生成参数设置：

generation_config = { "temperature": 0.3, # 抑制先验随机性，让似然主导 "top_p": 0.9, # 保留合理先验多样性 "max_new_tokens": 512, # 强制在有限空间权衡先验与似然 "repetition_penalty": 1.1, # 防止先验知识重复输出 "do_sample": True, # 启用采样，非贪婪解码 }

后处理：答案可信度校验（Post-hoc Confidence Calibration）
生成后，用小型分类器判断答案是否“高可信”：

• 输入：query + final_docs + generated_answer
• 输出：0（低可信）或1（高可信）
• 特征：答案中关键实体是否在final_docs中100%出现？数值是否完全匹配？是否存在“可能”“大概”等模糊词？
• 若输出0，则触发“降级模式”：返回“根据检索文档，关键信息存在冲突，建议查阅原始资料”，而非强行编造。

我们在金融合规问答中，此校验将高风险幻觉答案拦截率提升至99.2%，且用户满意度反升12%（因避免了“自信的错误”）。

4. 常见问题与排查技巧实录：那些让RAG崩溃的贝叶斯陷阱

4.1 问题现象：检索结果相关，但答案完全错误（如问“批准日期”，答“作用机制”）

根因分析：这是典型的似然项P(D|A,Q)建模失效。检索器找到了与query语义相关的文档D，但D中并未包含支撑答案A的关键证据。例如query="FDA批准日期"，D是“司美格鲁肽药理作用综述”，语义相关（都谈司美格鲁肽），但P(D|A,Q)≈0（该文档无法回答日期问题）。

排查路径：

1. 检查检索日志：打印Top3检索chunk的evidence_density分和entities字段。若evidence_density<0.05或entities中无“FDA”“date”“approval”等关键词，说明检索质量差。
2. 验证断言级匹配：用HyDE生成候选答案A（如“FDA于2023年批准”），再查D中是否含“2023”“FDA”“批准”三者共现。若缺失任一，P(D|A,Q)必然低。
3. 测试证据密度权重：临时将evidence_density权重设为0，若结果变差，证明密度分有效；若不变，说明密度计算逻辑有误。

解决方案：

• 强化断言生成：在HyDE中，强制Phi-3-mini生成含具体字段的候选答案。提示词加一句：“答案必须包含【年份】【监管机构】【动作】三个要素，如‘2023年FDA批准’”。
• 调整混合检索权重：若number_vec得分低，提高其权重（如从0.2→0.35），因日期是核心证据。
• 增加证据密度阈值：score_threshold从0.3提至0.45，宁可少检，不可错检。

实操心得：我们曾遇到法律合同问答中，检索到“甲方义务”章节却答“乙方违约责任”。根源是chunk切分时未识别“• 3.2 乙方违约责任：...”中的列表符号，导致整个条款被切进“甲方义务”chunk。修复切分规则后，问题消失。记住：RAG的90%问题在数据预处理，不在模型。

4.2 问题现象：答案事实正确，但专业术语错误（如写“Wegovy”而不写“司美格鲁肽（Wegovy®）”）

根因分析：这是先验项P(A|Q)与似然项P(D|A,Q)的权重失衡。模型过度依赖文档中的表面表述（D中只写“Wegovy”），而压制了先验知识（司美格鲁肽是通用名，Wegovy是商品名）。本质是提示词未定义好先验与似然的协作规则。

排查路径：

1. 检查生成日志：对比temperature=0.3与temperature=0.7的输出。若高温下出现专业术语，说明先验知识存在，但低温下被抑制。
2. 分析文档payload：查看final_docs中是否含“semaglutide”“generic name”等词。若含，说明模型本可调用先验，但提示词未授权。
3. 测试提示词变体：临时加入“请使用标准[领域]术语，即使文档中使用俗称”，若问题解决，确认是提示词缺陷。

解决方案：

• 升级提示词中的先验授权：在原提示词“专业性”条款中，明确举例：“如文档写‘Wegovy’，应表述为‘司美格鲁肽（商品名Wegovy®）’；如文档写‘GLP-1 drug’，应表述为‘GLP-1受体激动剂’”。
• 微调生成温度：temperature从0.3微调至0.35，在保持事实性的同时释放少量先验多样性。
• 添加术语映射表：在系统中内置领域术语库（如{"Wegovy": "司美格鲁肽", "Ozempic": "司美格鲁肽"}），生成后自动标准化。

4.3 问题现象：多跳问题完全失败（如“半衰期是否支持每周一次？”答非所问）

根因分析：这是迭代式检索的断言生成环节崩塌。第一轮生成的中间断言A₁（如“半衰期为7天”）本身错误或模糊，导致第二轮检索方向错误。P(A₁|Q)不准，P(D₂|A₁,Q)自然失真。

排查路径：

1. 拦截中间断言：打印每轮HyDE生成的A₁。若A₁含“约”“可能”“一般”等模糊词，或缺失关键实体（如无“7天”），则A₁不可靠。
2. 验证A₁与D₁的一致性：检查A₁中的数值/实体是否在D₁中100%出现。若A₁说“7天”，D₁中只有“一周”，则需加强数值标准化。
3. 测试单跳性能：单独测试第一轮（半衰期）和第二轮（给药频率规则）的准确率。若任一环节<85%，则迭代链断裂。

解决方案：

• A₁生成约束：HyDE提示词强制要求“答案必须含具体数值及单位，如‘7天’，不得用‘一周’‘较长’等表述”。
• A₁可信度校验：用小型分类器判断A₁是否含明确数值/实体，若否，重新生成或降级为单跳。
• 双路径检索：第一轮检索“半衰期”，第二轮并行检索“半衰期与给药频率关系”，合并结果后生成。

注意：我们曾因A₁生成“半衰期较长”而失败。加入数值约束后，A₁合格率从43%升至91%，多跳问题解决率从38%升至79%。迭代式RAG的成败，80%取决于第一跳断言的质量。

4.4 问题现象：系统响应慢（>5秒），尤其在高并发时

根因分析：这是贝叶斯各环节的计算开销未做分层优化。例如用Llama3-70B做HyDE生成，单次耗时2.1秒；或EvidenceAligner未量化，CPU占用率100%。

排查路径：

1. 全链路耗时分解：在代码中埋点，记录parse→chunk→embed→retrieve→rerank→generate各环节耗时。若rerank占60%，说明模型过大。
2. 压力测试：用locust模拟10并发，观察各环节TP99。若embed环节TP99突增，说明向量计算未GPU加速。
3. 资源监控：htop看CPU/GPU占用。若CPU 100%而GPU空闲，说明计算未卸载。

解决方案：

• 模型降级：HyDE生成用Phi-3-mini（0.3秒/次）替代Llama3-8B（1.8秒/次）；EvidenceAligner用ONNX量化（8ms/次）替代PyTorch（42ms/次）。
• 缓存策略：对高频query（如“司美格鲁肽半衰期”）缓存HyDE生成的A₁和检索结果，TTL=1小时。
• 异步流水线：检索与重排序异步执行，生成器等待最快完成的Top3结果，而非全部10个。

实测：通过上述优化，P95延迟从4.7秒降至0.83秒，QPS从12提升至89。

5. 超越RAG：当贝叶斯视角照进AI系统设计的底层逻辑

我在医疗AI公司做RAG落地时，曾被CTO问：“既然RAG本质是贝叶斯，那为什么不用纯贝叶斯网络建模？”这个问题戳中了核心——RAG不是贝叶斯的替代品，而是大模型时代对贝叶斯思想的工程妥协。纯贝叶斯网络需要精确的先验分布和似然函数，而人类知识的不确定性远超数学建模能力。RAG用LLM的P(A|Q)近似先验，用检索的P(D|A,Q)近似似然，用工程化手段（重排序、提示词）强制二者协作，这恰恰是务实智慧。

这种思维正在重塑我的整个AI架构观。上周我们重构客服系统，不再纠结“该用RAG还是微调”，而是问：“用户问题Q的后验P(A|D,Q)中，D是什么？是知识