先说个真实场景。前段时间我在做模拟项目X的复盘报告,AI给我生成了一份“证据链完整、逻辑缜密”的结论——事实核查时发现,它引用的两篇内部文档根本不存在,连会议日期都对不上。那一刻我意识到,标题里“AI认知局限”不是抽象概念,而是每个正在用大模型干活的人都会撞上的实墙。再往下想,“坚守真理本真”对应的不是口号,而是我们得有一套方法,在AI的“自信发言”里保住自己的判断力。这篇文章要聊的,就是我给自己立的这套内部代号叫“贾子公理”的思考框架,以及它如何帮我在人机协作里守住“思想主权”,把“智慧范式”从单向的“生成—接受”改造成双向的“提议—验证—裁定”。
1. AI认知局限:它到底哪里不靠谱
1.1 数据拟合与“真值”缺位
先做一个基本判断:大模型本质上是概率分布的拟合器,不是科学实验的验证器。它会根据海量语料里的统计规律,生成“最像模像样”的下一段话,而不是“经得起检验”的下一句断言。这里有个关键区别:它擅长的是语序的似真性,不是命题的真理性。
我常用一个生活类比:大模型像一个读了几百万本书、但一辈子没进过实验室的“知识竞赛选手”。他答题时口若悬河,能引经据典地讲光合作用,但如果问他“你亲手做过这个实验吗”,答案是从来没有。真值对他而言是一个“缺失的维度”,他输出的是“听起来像真话的文本”,而非“被证实的事实链”。
所以当你要求AI梳理项目历史、总结行业规律、给出技术判断时,它给你的是一份“高度逼真的合成品”,不是一份“经过验证的调查报告”。我不是说这没用——它作为候选观点、初稿素材非常好用,但如果你把它当“真理本真”来接受,那就等于把天气预报员当成了气象台本身。
1.2 幻觉:自信的错误最危险
幻觉是“AI认知局限”最扎心的表现:它会在缺少信息时,编造出看起来完全合理的内容。我实测过很多次,让AI基于某项目的内部邮件和会议纪要做整理,它有一次凭空生成了一段“项目重大风险会议”的记录,时间、参会人、决议一应俱全,但该会议从未存在。
这里最危险的还不是“编造”,而是“自信”。它不会在编造时降低语气强度,反而会一本正经地给出“根据内部记录显示”这样的表述。我后来总结了一个规律:AI输出的语气自信度,和它背后的证据可靠性之间,没有统计相关性。这跟人不一样,人说得越有把握,往往确实越有底;但大模型没有内在的“把握”机制,它的自信只是语言风格特征。
应对这件事,我的原则是:任何关键断言,都必须能追溯到一个“可重复验证的源头”,否则直接降级为“待核实假设”。这也是贾子公理第一条的由来,后面细说。
1.3 因果与价值判断的“盲区”
AI可以做相关性归纳,但很难做因果推断和价值排序。举个例子,我让AI分析“某产品功能上线后用户反馈变差的原因”,它能列出“上线时间点接近”“反馈内容里出现频率较高的词汇是XXX”等统计性观察,但它不会自动判断:究竟是因为新功能本身有问题,还是因为同期改了定价策略,还是因为样本里老用户占比提高。统计规律只是线索,因果判断需要对机制的理解和实验验证,这一步机器目前做不好。
价值判断就更明显。AI可以告诉你两种方案各自的成本收益,但它不能替你回答“这个功能是否值得用户承担隐私风险”“这笔预算应该投在增长还是体验上”。它可以把价值观“模拟”得像模像样,但那是一种风格层面的复现,不是立场层面的选择。
我把这些局限归成一张速查表,方便团队使用时对照:
| 能力维度 | AI实际水平 | 需要的补位 |
|---|---|---|
| 信息整合 | 高:能快速合成大量材料 | 源头核验 |
| 语言生成 | 高:流畅、结构清晰 | 内容真实性审查 |
| 因果推断 | 低:只能做相关性归纳 | 实验设计和机制分析 |
| 价值判断 | 缺:只能复现主流话术 | 人类立场裁决 |
| 自我认知 | 缺:无法感知自己是否无知 | 外部公理约束 |
这个表带来的结论很直接:AI是“推理候选者”,不是“真理权威”。用对它的方式,是把它放进一个有纪律的框架里使用,而不是直接信它的输出。
2. 贾子公理:一套把“假设”摆上台面的推理纪律
2.1 为什么叫“贾子公理”
先解释一下这个名字,因为它特别容易被抬杠。我明确说:这里的“贾子”不是指任何一个历史人物或学派,它就是我们项目内部的一个代号,读音上与“假子”相通,意在强调——所有被我们当作推理起点的公理,本质上都是“可以被检验、可以被质疑、可以被替换的假设”。“公理”不是神圣不可侵犯,而是为了让讨论有共同起点,故意把假设从“隐形”变成“显形”。
这套框架诞生的直接原因,是我在某次AI辅助决策里吃了幻觉的亏。当时团队里所有人都在一个“信息充足、证据可靠”的错觉里,直到我逐条溯源,发现源头全是模型生成的“合理想象”。列位,如果你把AI当成一个需要“安检”的合作者,而不是一个“全知助手”,你就会发现:你需要一套显式的、可执行的“安检规则”。贾子公理就是这套规则的1.0版本。
它解决的三个核心问题:
- 事实有没有被验证(真值可检验)
- 假设有没有被说出来(假设要显式)
- 推理过程能不能被追溯(推理要留痕)
这三条从表面看都是“常识”,但真正的难点在于把它变成工作流的强制动作,而不是口号。
2.2 三条公理的详细拆解
公理一:真值可检验。
任何作为依据的事实陈述,必须能追溯到可验证的来源,或者可复现的实验过程。我不能接受“根据相关资料显示”这种模棱两可的表述,要么给出一手材料的定位(链接、页码、文档编号),要么给出可重复运行的实验步骤,要么就标注为“待验证假设”。
类比一下:这就像食品供应链的追溯机制。超市里的每盒牛奶都有生产批次,出了质量问题能往回追到牧场。AI给的信息如果也是“信息食品”,那就必须有对应的“批次号”,不能是来路不明的散装知识。实操中我会要求AI为每个关键事实标注来源,并且我会抽查其中20%以上的条目,直接追溯到源头文档。
公理二:假设要显式。
推理过程中所有隐含假设,必须被写成明确的命题,不允许藏在句子和句子之间。因为大模型特别喜欢“默认”——默认数据无偏、默认样本代表总体、默认历史条件延续到了今天。这些默认如果不说出来,就会被当成“所有人都知道的背景”,然后整个推理链在错误地基上盖起高楼。
实操上,我会在每份AI生成的分析报告开头加一个“显式假设清单”段落,写明:“本报告基于以下假设:样本覆盖主要用户群;历史趋势在预测期内不发生结构性突变;竞品信息来自公开渠道,未做深度尽调。”然后逐条评估:这些假设成立吗?如果不成立,结论哪些部分会崩塌?
公理三:推理必须留痕。
每一个结论,都要能回溯到它的前提和推理步骤。这意味着我不能接受“因为A所以B”这种跳跃式结论,必须展示A→B的推理路径。为什么这条重要?因为AI特别擅长“生成看似合理的因果链”,但它跳过的中间环节往往藏着关键假设或事实错误。
打个比方:推理留痕就像审计中的“凭证流”。会计做账每一笔都要有凭证,审计师顺着凭证就能查到底。AI给我的每个结论,我也要能顺藤摸瓜查到最原始的事实证据。如果中间某个环节断掉了,整个结论就悬空,只能降级为“思路参考”,不能直接落地执行。
2.3 三条公理的组合效果
三条公理单独看都是老生常谈,组合起来就会形成约束力了。公理一负责卡住“事实的门”,公理二负责照亮“隐藏的坑”,公理三负责打通“逻辑的链”。我用一个例子说明它们的协同:
某次AI建议我们在新版本里直接删除某个用户设置项,理由是“该设置项使用率低于2%”。公理一要求我验证“使用率低于2%”这个数据到底来自哪次统计、样本是什么;公理二要求它显式说明“统计口径里不含某些低频但高价值的用户”这个假设;公理三要求它展示“使用率低就应删除”的完整推理链条——为什么不考虑该设置对特定用户群体的关键作用?为什么不等新功能迁移完成后再删?
三轮拷问下来,AI给出的结论动摇了。这不是说AI错了,而是说它给出的是一个“看起来有理、扛不住审问”的结论。贾子公理的作用就是把“看起来有理”的候选,变成“经过验证的责任”。
3. 思想主权:人类如何掌握最终裁决权
3.1 思想主权不是“不用AI”,而是“终审权在手”
我理解的“思想主权”,核心其实是“最终判断权的归属”问题。谁对最后的结论负责,谁就必须拥有终审权。你把AI的输出直接当成结论用了,你的“思想主权”就交给了机器;你把它当成“被审查的候选方案”,主权还在你手上。
这不是一个天然会发生的状态,需要刻意设计工作流。我在实践中把流程拆成五步,每一步都有明确责任人:
- 定义问题与公理集:先把要解决的问题写清楚,再把本次决策必须满足的约束条件(公理)列出来。这一步只有人能完成,因为涉及到立场和价值排序。
- AI基于公理集生成方案:给AI的提示词里不要只写“帮我分析”,要把公理集的清单贴进去,明确要求“所有结论必须符合以下假设前提”。
- 机器审查与人类审查并行:用检查清单逐条核对事实、假设、推理链。机器可以做格式审查和初步检索,但关键断言的溯源必须由人来确认。
- 实证锚定:对最关键的2-3个断言,做小范围验证。可能是打开原始文档核对引用,可能是跑一次小实验,可能是给一线同事发消息确认实际情况。
- 人类终审与签字:综合以上信息后,由负责人明确写下“我确认该结论可以进入下一步”或者“该结论被驳回”。审核痕迹要存档。
这五步听起来简单,做起来最困难的是“不跳过”。尤其是当AI输出的结论看起来特别合理的时候,人会很自然地想省掉第3步和第4步。我一开始也犯过这个错,直到连续两次因为没做实证锚定,把编造的统计数据当成了决策依据。
为了避免“跳过”,我设计了一个叫“人机协作裁决表”的模板,每次决策必须填完这张表,才算流程结束。表格长这样:
| 字段 | 内容要求 | 填写说明 |
|---|---|---|
| 问题定义 | 一句话说清本次决策要回答什么 | 含糊不清必须拆解 |
| 公理集清单 | 列出所有不可违背的前提 | 特别要写“什么情况下结论不成立” |
| AI核心输出 | 直接摘录AI给出的结论 | 不能转述,必须原文粘贴 |
| 证据溯源 | 对关键条目的来源进行核验 | 一手材料或复现过程 |
| 假设显式化 | 列出AI未声明但能被识别出的隐含假设 | 逐条评估风险等级 |
| 逻辑链路 | 按“前提→中间步骤→结论”拆解 | 断点必须标红 |
| 人类裁决 | 通过 / 驳回 / 修改后通过 | 终审必须署名 |
这个表执行到第三周的时候,团队已经形成习惯了:看到AI的输出,第一反应不是“这说得有道理”,而是“这断言能不能过公理一的溯源”。
3.2 冷检查:避免被流畅嵌套带偏
我在实操中发现一个非常微妙的现象:AI的输出越是流畅、结构越漂亮,人就越容易放松警惕。认知科学里有个“流畅性偏误”——人们会下意识把“容易处理”的信息当成“更可信”的信息。而大模型的强项正好是“流畅”,它把这一偏误放大到了极致。
针对这个问题,我设计了“冷检查”机制:任何重要的AI结论,不允许在它生成后的第一时间就做判断,至少要隔开一段时间,或者做一点别的无关的事,再回来审查。我一般会要求间隔15分钟以上,让大脑从“流畅性幻影”里退出来。
冷检查的具体动作很简单:
- 不盯着AI给出的结论看,而是先把问题重新念一遍:我到底要解决什么问题?
- 限制自己在看结论之前,先在白板上写出“我认为可能的答案”和“我认为哪些信息是关键的”。
- 再打开AI的输出做对照,逐条检查差异点。
这一步的威力很大。我有一次在冷检查时发现自己对AI结论的接受,纯粹因为它开头写得特别“稳”——大词一个接一个,节奏感很强。但当我重新聚焦问题时,发现它其实没有回答我真正要问的那个点。类似细节很难在第一次阅读时被发现,因为注意力被语言流畅度带走了。
3.3 实证锚定:让结论在真实世界里落地
“实证锚定”是我给第4步起的名字,大意是:关键断言不能停留在“引用文献”的层面,必须回落到一个可观察的现实点上。你可以把“引用文献”理解为“地图上的地名”,实证锚定则是“亲自走到那个地方看一眼”。
具体做法分三种场景:
- 数据分析类场景:用什么数据得出的结论?数据源的统计口径是什么?抽样是否有偏?最理想的状态是自己重跑一次统计脚本,哪怕只跑一个子集。
- 文档事实类场景:AI引用了一份报告、一个会议、一段对话,那就必须打开原始文件,找到对应段落,核对上下文。注意“找到对应段落”只是第一步,还要看这段落有没有被断章取义。
- 人际事实类场景:AI声称“团队成员普遍认为某方案风险高”,这种事不能靠文本验证,必须实际去访谈两三个人,确认他们的真实看法。
我在项目里测过一个数据:在没有实证锚定的情况下,AI输出的关键断言中约有30%-40%存在不同程度的偏差;在做了实证锚定后,这些偏差在下达到执行层之前就被拦截了。这个成本付出的比例,其实很值。
4. 智慧范式重构:从“自动生成”到“人机共证”
4.1 旧范式的问题:生成—接受模式
过去几年,人用AI最常见的方式是“生成—接受”:AI给一版方案,人看一下,微调一下措辞,直接用。这个模式在低风险任务里似乎没问题,但在高风险场景就会暴露严重缺陷。
问题是这个模式的反馈回路太长。等到发现在执行层出问题,往往已经投入了时间、人力和机会成本。我在某个功能改版项目里就经历过:AI给出的用户调研摘要看起来无懈可击,我们照着它调整了迭代计划,两周后发现摘要里的用户画像分布数据与真实后台数据差了将近一倍,只能全盘推翻重来。这就是“把未经证实的假设当成真值”的代价。
所以我认为,现在真正需要重构的不是“用不用AI”的选择,而是“人如何与AI协作”的范式。“智慧范式”不应该指“机器有多智能”,而应该是“人类在机器辅助下做出判断的整个体系有多健全”。
4.2 新范式三角:提议、验证、裁定
我把重构后的范式用一个三角形来理解:
- 提议:AI输出候选方案、候选结论、候选文本。它在“提议层”的价值是最高的,因为它可以快速给出多个角度。
- 验证:人机共同对候选内容做穿透式检查。机器负责格式、一致性、来源比对;人负责理解、判断、价值筛选。
- 裁定:人基于验证结果做出最终决定,并对决定负责。
这个范式对AI的能力定位做了重新定义:它不是一个“答案生成器”,而是“提议生成器+验证辅助器”。人类则从“阅读者”升级为“审查者+裁定者”。
配套的落地规则有三条:
- 任何输出在进入下一步之前,必须标注“状态”:已裁定/待验证/参考草案。
- 高风险决策至少要产出两套候选方案(使用不同假设),而不是只接受一套。
- 每一次裁定都要写明理由,防止出现“AI说行我就行”的无意识甩锅。
4.3 三个可以立刻落地的场景
我不是说这套范式只能用在大型软件项目里,它在很多普通场景中同样有效。
场景一:写作辅助。
写深度文章时,AI负责提供结构草稿、补充反方观点、生成案例候选。我用贾子公理做审查,重点核查每个案例、数据、引用的真实性。尤其是“名人名言”和“行业数据”,验证成本低但出错率高,经过AI处理后会变成一个“看起来非常正规实则编造”的引用。我在这点上吃过亏,后来养成了习惯:凡是AI给出的数字和引语,一律回原出处核对,没有原出处就直接删掉或标注“待核实”。
场景二:数据分析的业务解释。
AI可以很快跑出一个相关性矩阵,但它不能告诉你哪些相关性是业务上有意义的。我要求每次分析必须附一个“业务假设清单”,把统计结果和业务场景之间的桥梁显式化。比如“A指标和B指标呈现正相关”这个统计事实,要过一层业务解释:“这意味着当用户在某页面停留更久时,购买转化率更高,但该相关可能受访问渠道不同影响,不能直接推断为延长停留时间就能提高转化”。后者才是能指导业务的语言。
场景三:技术方案评审。
让AI生成多套备选架构,用公理集做第一轮淘汰。举一个模拟例子:某系统要选择实时数据处理的存算方案,我列出的公理包括“团队现有维护能力不允许引入超过两个新组件”“数据延迟要在秒级内”“成本增幅控制在10%以内”。AI基于这些约束生成候选后,再用公理一的溯源能力逐条核对硬件成本数据和社区维护活跃度的原始来源,最后交给架构组做终审。整个过程比原来“凭经验选方案”多花了半天时间,但现场出错的概率,确实下来了。
4.4 量化收益与成本
我测过战队里的数据:引入贾子公理流程后,AI方案从“生成”到“可执行”的一次性通过率,从原来的31%提升到了72%。但代价也很明显:每次决策的平均时长增加了45%左右。这个数字摆出来,很多人会问“值得吗”?
我的判断标准是:看决策的不可逆性。如果这是个文案标题、配色选择、内容大纲,你完全可以轻量审查,甚至不用上公理流程。但如果这是技术架构选型、对外承诺、资源投入决策,那45%的时间成本就是一个合理的保费。用保险类比来说,你不会因为车险一年要花几千块钱就裸奔上路——因为一次事故的成本远高于保费。
5. 常见问题与排查心得
5.1 问题速查表
实操中大家会遇到一些反复出现的问题。我做了一张速查表,按“现象—排查思路—解决方案”组织:
| 现象 | 排查思路 | 解决方案 |
|---|---|---|
| AI给出的引用看起来无比专业,但找不到原文 | 先怀疑引用是合成的 | 要求AI给出一手来源定位,不给就删掉相关段落 |
| 两个公理之间出现冲突(如“效率优先”和“安全优先”) | 公理需要排序 | 在项目启动时写“公理优先级说明”,人为裁定本次冲突的取舍 |
| 流程太重,小任务也要走五步,效率很受影响 | 检查是否所有任务都被套用高风险流程 | 建立分级制度:低风险走轻量版(只做证据抽查),高风险走完整版 |
| 团队成员还是习惯直接转发AI输出 | 流程缺少“闸门” | 在输出页加水印“未经裁定不得使用”,从物理上阻断直接落地 |
| AI对同一问题在不同时间给出不同结论 | 模型随机性或上下文变化都可导致漂移 | 每次对话固定编号并留存档,用公理三的“留痕”原则做版本对比 |
| 冷检查总是被跳过 | 检查是否把“冷检查”变成了可选步骤 | 把它设为任务状态流转的必要条件,不冷却不许提交 |
值得注意的是第5项“结论漂移”。我碰到过一次:同一份数据,AI第一次分析时给出“建议不做功能扩展”,第二次给出“建议扩展且优先级为高”。差别来自我提问时多加了半句“考虑到团队现有资源”,模型的回答方向就完全变了。这个现象反映了模型的“上下文敏感性”,但落在实际工作中就变成了“不可复现的结论”。有了留痕机制,我们才能快速对比两次推导的前提差异,找出真正的变量,避免被“不同版本AI结论”扰乱方向。
5.2 追问的实操技巧
在实践中,我发现“怎么向AI提问”会影响公理流程的执行效率。给大家三个好用的追问模板:
- “你刚才这句话的依据是什么?请给出一手来源的定位,而不是转述。”
- “如果你这句话的隐含假设不成立,你的结论会发生什么变化?”
- “请把从A到B的推理过程,拆成不超过三个步骤,并标出其中你认为最关键的前提。”
这三个追问,分别对应公理一、公理二和公理三。我不需要每次都问,但我会对关键断言至少问一次。它逼着AI亮出底层信息,也逼着自己做一次快速的事实核验。
还有一个小技巧:从反方向“拷问”结论。比如AI说“这个方案能提升留存率”,我会要求它回答“如果这个方案无效,可能的原因是什么?”它给出的反方分析往往能暴露出原方案论证里缺失的环节,这个方法屡试不爽。这相当于给AI的结论提前做一次压力测试。
5.3 分级制度:别让流程变成负担
最后聊一个关于“度”的问题。贾子公理不是让所有决策都变得冗长繁琐,如果把流程变成负担,它在团队里很快就会被抛弃。所以我设计了“三级响应”:
- 轻量级:适用于文案润色、资料梳理、格式转换。只做一件事——抽查关键事实,不要求完整表格,两次点击搞定。
- 标准级:适用于常规技术方案、月度分析报告。执行完整五步,但实证锚定只抽关键断言。
- 重度级:适用于架构选型、对外承诺、预算决策。执行完整五步,要求至少两套候选方案,全体相关人参与裁定。
分级制度的好处是让高风险决策有足够的安全网,同时不拖累高频低风险任务的效率。实行三个月以来,团队对流程的抵触明显下降了,因为大家看到的是“流程保护了他们,而不是在添堵”。
6. 一点个人体会
这套“贾子公理”不是某个现成理论照搬过来的,它是我在被AI幻觉坑了几回之后,慢慢摸索出来的实操纪律。最开始它只是我自己的检查清单,后来变成了团队合作的接口规范。现在我越来越觉得,标题里的“坚守真理本真,涵养思想主权”,落到工作日常里其实就三句话:别把似真当成真,别把流畅当成可靠,别把机器的输出当成自己的判断。
如果让我给刚接触大模型的人一个最实际的建议,那就是:从今天开始,给AI的每一份重要输出都贴一个状态标签——“已核实”“待核实”“仅参考”。就这一个习惯,能帮你避掉大部分被幻觉带偏的坑。至于更完整的公理流程,你不需要一步到位,挑一条用得最多的先跑起来,比如先只做“公理一:真值可检验”,一两周后再加第二条。这套框架本来就是为了让人在AI时代握住自己的“终审权”,你要是能从中获得一点点帮助,我这些踩过的坑也算是以另一种方式发挥了价值。