☰
医疗场景Agentic AI提示设计:从安全底线到流程架构
2026/10/17 13:02:28 网站建设 项目流程

直接说结论:给医疗场景做 Agentic AI 提示设计,跟我以前做的那些通用对话 Prompt 完全不是一个物种。它更像是在写一套"AI 员工的操作手册 + 安全红线 + 交接班制度",而不是写一段"让模型好好说话"的咒语。提示工程架构师在这个领域要解决的问题,从"怎么让模型答得准"变成了"怎么让模型在一个多步骤、多工具、高风险的临床工作流里,既不越权、又不漏事、还随时能被人类接管"。

我这两年带着团队给某医疗信息化项目做预问诊、用药审核辅助这类 Agent 功能,踩了不少坑,也沉淀出一套自己的方法。这篇就把这套方法拆开讲:医疗场景里 Agentic AI 的提示到底该怎么设计、评估、迭代,以及哪些地方是通用经验根本覆盖不到的硬骨头。

1. 从"会答题"到"会办事":医疗 Agent 把提示设计逼成了架构设计

1.1 传统 Prompt 与 Agent 提示的四个根本差异

大多数做过 Prompt 工程的人,熟悉的是"给模型一段上下文 + 一个指令,得到一段回答"。这在医疗场景里也有用,但撑不起 Agentic AI 的架子。Agentic AI 意味着模型要自己规划下一步干什么、调用什么工具、读取什么结果、再决定要不要追问患者。提示不再只是"输入文本",而是"运行协议"。

我习惯从四个维度区分传统 Prompt 和 Agent 提示,在做医疗项目时尤其明显:

第一,任务形态不同。传统提示是单轮问答,问完就结束;Agent 提示要覆盖多轮工具调用和状态流转。比如一个预问诊 Agent,它需要先读取患者挂号信息,再按科室规则逐项追问症状,每一项追问之间还有逻辑依赖,问完还要汇总成结构化病史给医生。这套流程在提示里必须写得像流程引擎的状态表,而不是一段自然语言要求。

第二,错误容忍度不同。通用对话答错一句话,用户笑一笑就过去了;医疗场景答错一个用药禁忌,后面跟着的是真实的患者安全风险。所以提示里必须内置"不知道就承认"的机制,甚至要强制触发人工接管,这已经不是风格问题,是安全底线。

第三,工具调用的约束强度不同。通用 Agent 调用工具时可以自由发挥,模型觉得需要天气就查天气。医疗 Agent 的工具调用规则必须严格:什么节点能调药品数据库、什么节点必须调患者既往病史库、什么情况下禁止调用外部搜索,这些都要在提示里限定死。

第四,评价标准完全不同。通用提示看回答是否流畅、信息是否丰富;医疗 Agent 提示看任务完成率、幻觉率、越权率、转人工率。医生认可度、患者体验也在里面,但这几个安全和流程指标永远排在第一位。

1.2 为什么医疗场景不能直接套通用 Agent 模板

市面上不少 Agent 框架提供了通用 System Prompt 模板:设定角色、说明能力、给出工具列表、强调不要乱来。直接搬进医疗场景,几乎必然出问题。我们最早的原型就是这么做的,结果模型在追问患者时偶尔会"贴心地"给出诊断结论,甚至自己编造一个"可能原因"。这在技术上叫幻觉,在医疗语境里就是事故隐患。

医疗场景有几个特殊约束,通用模板完全没覆盖:

第一,责任边界的表达。系统提示必须写清楚:Agent 的角色不是诊断,而是信息采集和信息整理;它无权给出"你可能是得了什么病"这种结论。这个边界既要靠提示措辞,也要靠流程设计——在关键节点上强制转交人工。

第二,术语和用户语言的鸿沟。患者不会说"心悸"和"气促",他们说的是"心慌"和"喘不上气"。Agent 要能把口语映射到标准医学概念,但不能在映射过程中丢失关键信息,更不能自己脑补。这在通用 Agent 里只要"理解用户意图"就好,在医疗里必须显式交给一个标准化模块去处理。

第三,可追溯与可解释。医生拿到 Agent 生成的预问诊病历,需要知道哪句话来自患者原话、哪句话是 Agent 整理归纳的。提示里如果没有强制 Agent"引用原话再转述"的规则,生成结果根本无法用于临床决策。

所以,医疗场景的提示设计,从一开始就是架构设计:它要定义状态、定义流程、定义边界、定义工具使用协议,提示文本只是这些设计的外显形式。

2. 医疗提示架构的三层设计:能力层、流程层、边界层

2.1 能力层:把专业判断框进提示的"能力边界"

我给医疗 Agent 做提示时,第一层解决的是" Agent 到底能干什么"。不是把所有医学知识都塞进提示,而是明确写清它具备什么能力、不具备什么能力。以预问诊 Agent 为例,它的能力边界是这样的:

  • 具备:根据患者主诉和科室规则,逐项采集症状信息;把口语表达映射为标准症状术语;输出结构化病史记录。
  • 不具备:给出诊断或可能性排序;建议具体药物或检查项目;判断患者是否需要急诊。

这个边界必须写在系统提示最前面的位置,并且用"允许/不允许"的句式写,而不是"你可以……"的弹性句式。我遇到过一个典型问题:模型发现患者描述严重胸痛时,自动在追问环节加了句"建议您尽快去急诊"。这句话单独看是好意,但放流程里会导致两个问题:一是 Agent 越权做了分诊判断,二是如果患者主诉里还有其他分散注意力的信息,这种突发转急诊的判断不应该由模型临时做出,而应该由规则引擎根据结构化风险标签触发。所以我们的提示里明确要求:任何分诊建议、紧急程度判断,一律输出为结构化标签,不生成自然语言建议,具体话术由上层服务决定。

能力边界不只是写出来,还要靠工具列表和可调用函数来实现。提示里配的工具清单其实就是能力层的物理体现。没有用药数据库工具的 Agent,就算提示里写了"不要建议药物",它也可能凭训练记忆顺口说一个。正确的做法是把"能调用什么工具"作为能力的唯一边界:模型只能通过工具访问真实外部知识,提示里的能力描述只负责约束行为方式。

2.2 流程层:把任务编排写进提示的"操作协议"

流程层是医疗 Agent 提示设计里最容易被低估的部分。很多人以为给模型一个目标,它就能自己规划好每一步——但在医疗场景,不能把关键路径交给模型自由发挥,必须显式定义流程状态。

我用一个实际例子说明。预问诊 Agent 的一个标准任务流是:

  1. 确认患者基本信息:年龄、性别、过敏史是否已知。
  2. 根据挂号科室和主诉选择对应的症状采集模板。
  3. 按模板逐项追问:每个问题之间保持逻辑顺序,不重复、不跳跃。
  4. 采集结束后生成结构化病史,并标注信息完整度。
  5. 如果存在关键信息缺失,补充追问,最多追加两轮。

这个过程在提示里写成"请按以下流程执行",听上去很简单,但实际操作时有个关键技巧:给流程中的每一步定义物品(artifact)和状态(status)。比如第 2 步生成"症状采集计划",第 3 步执行计划,每完成一项就更新状态;第 4 步汇总成病历草稿。模型不再是自由对话,而是在一个隐性的状态机里移动。

我们的做法是把这个状态机用一小段伪协议放在系统提示里,类似这样:

流程状态: init → profile_confirmed → template_selected → symptom_collecting → summary_ready → handoff 状态迁移条件: - profile_confirmed 需要患者年龄、性别、过敏史存在 - template_selected 需要科室和主诉匹配成功 - symptom_collecting 按模板逐项执行,每项完成后更新 - summary_ready 所有必填项已尝试采集

这样做的好处非常明显:当 Agent 卡在某个状态时,工程侧可以通过规则进行干预,而不是靠"再提示一次模型"。比如患者连续两句回答无法解析,状态停在 symptom_collecting,这时候上层可以决定转人工,而不是让模型硬着头皮继续编。提示架构师要有这个意识:Agentic AI 的提示是整个执行系统的一部分,不是独立文本。

2.3 边界层:不知道就转人工,这句提示比什么都重要

边界层是最无法妥协的部分。医疗场景里,Agent 的主动行为必须被严格约束。我在提示里设置了三层安全阀:

第一层,知识边界安全阀:当模型发现自己需要回答的内容不在工具返回结果和已确认上下文里时,必须输出insufficient_information标记,并触发补充追问或转人工。这里不能用"可以说我不太清楚"这种软性表述,必须用结构化输出。

第二层,风险信号安全阀:当患者输入中出现紧急风险关键词(比如剧烈胸痛、意识模糊、呼吸困难),Agent 不得继续标准采流程,必须输出风险标签并转人工处置。这个信号判断我会同时放在提示和规则引擎两层,不能只依赖提示——因为模型可能漏判。提示负责的是"模型自己主动识别并标记",规则引擎负责的是"模型漏判时的兜底"。

第三层,行为边界安全阀:提示中明确列出禁止行为——不给出诊断、不推荐用药、不评论其他医生的治疗方案、不使用绝对化语言。列禁止行为时不能只列"不要给出诊断",而要给反面示例。比如:

错误行为示例(绝对禁止): - "根据您的症状,您可能是……" - "建议您服用……" - "这种情况属于……" 正确行为示例: - "我已经记录了您的症状:胸痛、气促。医生会根据完整信息进行评估。"

边界层不只是一段文字规则,还要落实到输出格式。我要求 Agent 在关键节点上的输出强制带上结构化标记,比如[INTERNAL_RISK_FLAG]或[NEED_HUMAN_REVIEW]。这样一来,"是否触发人工接管"就变成了程序可以判断的事件,而不是只靠模型"大概可能觉得应该交给医生"。

3. 让 Agent 在临床上下文里不跑偏:状态、记忆与工具调用的提示约束

3.1 上下文窗口的取舍:临床信息保全比省 token 更重要

Agent 在医疗场景跑起来之后,最现实的问题是上下文窗口不够用。一个预问诊 Agent 跑半小时,涉及的对话轮次、工具返回结果、中间推理可能轻松超过上下文窗口。处理这个问题时,我见过不少团队直接"摘要一下之前的对话",把早期信息压缩成一段总结。第一次这么做没问题,但细节丢过一次你就会后悔。

举个例子:患者在某轮追问中提到"对青霉素过敏",这句话最初会被采集进过敏史。如果系统把它摘要成"患者有过敏史",具体药物名在后续流程里就消失了。等到医生看病史时,只看到"过敏史:有",没办法判断具体对什么药物过敏。所以我们在上下文管理上的原则是:关键结构化字段必须独立保存,不能只存在于对话流里;可丢弃的只是过渡性推理内容,而不是临床事实。

提示在这里的作用是规定 Agent 把哪些信息同步给结构化存储。我们要求 Agent 在采集到任何过敏信息、既往病史、当前用药时,除了在对话中回应患者,还必须调用update_patient_record工具把字段写入独立存储。这样即使上下文压缩了,数据安全也存在独立记录里。

上下文压缩时的提示策略,我更倾向于"局部摘要+完整事实保留"混合模式:把每轮工具调用记录和关键字段用紧凑格式保留,把模型中间推理过程删掉。医疗 Agent 不需要在上下文里保留"我是怎么推理出要问下一个问题的",它只需要保留"已经问了什么问题、得到的回答是什么"。这既省窗口,也不损失临床信息。

3.2 状态感知:Agent 必须知道自己进行到哪一步

做过客服机器人的朋友都知道,多轮对话最怕模型忘了自己问到哪里。医疗 Agent 比客服机器人更要命:它问过的每个问题都对应一段病史采集,漏一项可能导致医生信息不完整。

我在提示里解决这个问题有两招。第一招是前面讲的流程状态机,第二招是要求 Agent 在每次生成追问前先输出一个"当前进度"小结。这个小结不需要给患者看,它作为内部状态留存。比如在一次胸痛预问诊中,Agent 每次追问前会内部记录:

当前已采集:疼痛部位(前胸), 持续时间(2小时), 放射部位(左肩) 待采集:诱因, 加重缓解因素, 伴随症状, 既往心脏病史 下一问:诱因相关询问

有了这个内部状态,模型几乎不会重复已问过的问题。如果执行过程中模型偏离了状态机,工程侧也可以从生成结果里发现"它没按内部小结推进"这一问题。我们甚至在服务端会把这段内部状态解析出来做一致性校验,模型如果输出的状态与真实历史不符,就直接触发重试。

3.3 工具调用提示细节:以用药审核 Agent 为例

工具调用是 Agentic AI 里最容易翻车的环节之一。模型不是天生会正确调用工具的。医疗场景要求更严格:不仅要知道什么时候调用,还要知道调用结果怎么用。

以用药审核辅助 Agent 为例。它的核心工具是药品数据库查询和患者用药记录读取。一个常见问题是:模型在拿到某个药物的禁忌信息后,会忍不住给患者下一段"这个药不能吃"的判断。这个判断本身可能没错,但提示架构上,我们要求 Agent 在工具返回禁忌信息后,只能把信息整理给药师参考,不能给出结论性判断。有一次测试,模型在提示里看到"该药物与患者当前服用的某药存在相互作用",就自动生成了一段"建议您停药"的话术。后来我们在提示里加了一段:

工具结果处理规则: - 工具返回的相互作用信息属于"提示信息",不属于"判断结论" - 禁止生成"建议停药""建议改药""药物不安全"等结论性表述 - 正确输出:将相互作用条目结构化记录,并在给药师的信息中标注"存在相互作用,需要药师审核"

真正运行起来你会发现,提示里加不加这句话,行为差距非常大。不加时模型会把工具结果直接当作决策;加上之后它会把工具结果当成"待人工处理的信息"。所谓提示工程架构师,很大一部分工作就是在这些模型容易越界的节点上,反复用提示把它的行为扳回正确轨道。

4. 医疗提示的评估体系:用安全和有效两个标尺,而不是"感觉还行"

4.1 评估维度拆解:安全类、功能类、体验类

提示设计完成之后,怎么证明它真的行?医疗 Agent 的评估体系必须分层。我搭建的评估框架分三类指标,安全类永远是第一优先级。

安全类指标:

指标说明目标值
幻觉率生成内容中出现提示中未提供的事实性信息趋近于 0
越权率出现诊断、治疗建议等越界行为趋近于 0
风险漏报率高风险信号未被识别和标记趋近于 0
转人工正确率触发转人工的案例中,确实需要人工的比例≥ 95%

功能类指标:

指标说明目标值
任务完成率预问诊流程完整走完、输出结构化病历的比例≥ 90%
关键信息完整度必填症状字段被有效采集的比例≥ 85%
工具调用准确率调用正确工具、正确参数的次数占比≥ 95%

体验类指标:

指标说明目标值
重复提问率同一信息被追问两次及以上的比例≤ 5%
患者打断率患者在对话中明显不满或要求人工的比例≤ 8%

我不太建议把"回答是否自然"放进去做硬指标。医疗 Agent 的核心价值不是陪聊,自然度只要不引起反感即可,安全和功能才是重点。

4.2 模拟患者集:提示测试的核心工程

医疗 Agent 的提示迭代不能只在几个人手工测试的基础上进行。我们固定维护着一套"模拟患者集",里面有几百条真实脱敏病例改写成的对话场景,覆盖不同科室、不同复杂度、不同情绪状态的输入。每次提示改版,都要拿这套测试集完整跑一遍回归。

模拟患者集的价值在两处。第一是能量化评估:每个版本跑完,对比安全类指标有无法规式反弹,比如某次改动减少了重复提问率但越权率上升,那这个改动就要回滚。第二是能暴露边界场景:我印象最深的一条 case 是一位"患者"在回答年龄时说"我忘了,反正四十多",模型在结构化字段里填了40岁,之后的所有流程都基于这个错误年龄假设。后来我们在提示里规定:患者给出的所有数值类信息,如果带模糊词,必须按模糊词原样标注,不转换成确定值。这类 case 不靠模型发挥,靠测试集持续逼出提示的盲区。

这里的经验是:提示工程架构师要像测试工程师一样维护回归测试集。Agent 提示是代码,改一句可能影响一百个场景,没有测试集的"提示调优"就是耍流氓。

4.3 线上 bad case 回流机制

评估不能只停在发布前。医疗 Agent 上线后,建议建立两条 bad case 回流通道。第一是自动回流:线上遇到转人工或者低置信度标记,系统把完整对话记录拉取下来,脱敏后自动进入评估集。第二是定期复盘:每两周跟临床专家过一次新增 bad case,把"医生觉得不对"的案例归因到提示层、工具层还是模型层。

我举个实际归因的例子。有一次线上反馈说预问诊 Agent 问了好几次"有没有发烧",而患者已经在最开头说过"我今早测过体温 38.2℃"。这个 bug 听起来像上下文丢失。但归因后发现,问题出在提示里我们定义了"发热"和"体温数值"是两个字段,症状采集模板却把它们拆成两个独立问题,模型在后续追问时没有意识到前面的体温答案已经覆盖了发热字段。最后是在提示中加入字段映射规则修掉的。这种问题的根因从来不在某个单独的提示词上,而在整个提示架构对信息语义的定义上。没有回流机制,这类问题只能靠患者投诉才能发现。

5. 真实落地中的四个高频坑:版本漂移、自由文本、角色冲突与多学科协作

5.1 模型一升级,提示就失效:版本锁定与提示漂移

医疗 Agent 上线后踩过最大的坑,是底层模型一升级,原来看起来稳定的提示马上出问题。有一次底层模型换了个新版本,我们的预问诊 Agent 突然开始在追问环节连着三次问同一个问题,检查提示、代码全都没变,最后定位到是模型版本行为变化。这不是偶发,是必然,因为提示本身是"针对某个模型版本的行为调优产物",模型参数一变,行为自然变。

现在我们的做法是:线上环境锁定模型版本,不随厂商默认升级。如果要升模型,必须走完整回归,对比所有安全类指标,确认没有回退再考虑。另外,提示文件里要记录"适配的模型版本号"。这个记录平时不起眼,出问题时能节省大量排查时间。

5.2 患者自由文本输入:鲁棒解析的提示设计

患者不会按照"标准问诊格式"说话,他们可能一口气说一段很长的口语描述,也可能只回答"不知道"。提示设计上需要在解析环节做特殊处理:

第一,禁止模型把患者的不确定表述强行转成确定字段,前面讲过的"四十多岁"就是一个例子。第二,禁止模型过度追问同一件事,如果患者明确说"记不清了",提示要允许该字段标记为"未知",而不是反复追问。第三,需要提示模型区分"信息缺失"和"信息模糊",两者在结构化记录里的标注方式不同。

面对特别长的患者自由输入,还要拆长句做信息抽取。我的提示技巧是要求模型抽取时带"来源引用",比如在结构化字段里注明症状=胸痛 (来源: 患者原话"胸口疼")。这既保留了可追溯性,也让模型不容易在抽取时做过度推理。

5.3 角色冲突:同一 Agent 同时面对患者和医生

医疗 Agent 里有个不太起眼但很关键的设计矛盾:同一个预问诊系统,跟患者对话时的语气要亲切耐心,给医生生成病历摘要时又要简练专业。这不是风格问题,是两个完全不同的角色输出。

我的解决办法是分层提示:底层是一个"信息采集核心",负责做意图识别和上下文整理;上层是两个不同的"表达适配器",一个负责生成患者端对话内容,一个负责生成医生端病历摘要。两个适配器共用底层采集到的结构化病史数据,但各自的 System Prompt 完全不同。患者端强调口语化、不吓人、不越界;医生端强调术语准确、结构清晰、按病情严重程度排序信息。

这个结构在提示工程上也好实现:就是两个独立调用,分别配不同的提示模板。不要在同一个上下文里让模型"根据对象不同切换风格"——那样变量太多,一会儿患者端崩了,一会儿医生端的病历开始出现"祝您早日康复"。

5.4 多学科协作:提示评审会怎么开才有效

医疗 Agent 提示设计不是提示工程师自己的活,需要临床专家和法规/安全团队同时参与。我们每轮提示改版会过三方评审:临床专家看专业准确性和信息采集完整性;安全与合规团队看越权风险和数据使用边界;工程团队看可执行性和工具调用合理性。

三方评审有个节奏问题:不能每次改一个字就开一次会,太消耗临床专家时间。我们的做法是分成两级——小改(措辞调整、示例替换)由工程团队内部审,大改(流程变更、边界规则变更、角色定义变动)才拉三方评审。评审会上要带着测试集对比数据一起过,让临床专家看到具体对话示例,效率比抽象讨论规则高很多。有一次评审会上,临床专家看到模拟对话里 Agent 问"您的疼痛是绞痛还是钝痛",直接指出普通患者根本分不清这两种疼痛,后来我们把问题拆成了更直白的选项。这种经验不在任何提示工程教材里,只能靠临床专家现场把关。

6. 一个预问诊 Agent 的提示架构实例:从任务定义到安全兜底

6.1 核心系统提示:四段式结构

前面讲了方法论,现在写一个实际可参考的系统提示结构。我把它叫做"四段式",不是用来做宣传的名词,就是团队内部日常用的结构。

第一段:角色与任务定义

你是患者信息采集助手,服务于医院门诊预问诊流程。 你的任务是:通过对话采集患者的主诉、现病史、既往史、过敏史等结构化信息,生成供医生参考的病史记录。 你不对患者做任何诊断,不提供任何治疗建议。 你的一切输出都以"信息采集与整理"为边界。

这一段的重点是明确身份和任务边界。用"信息采集"而不是"问诊"这个词,因为"问诊"听起来太接近医生的行为,会让模型和患者都产生角色混淆。

第二段:工作流程与状态控制

工作流程: 1. 确认患者身份和基础信息:年龄、性别、过敏史。 2. 根据挂号科室和患者主诉,从[模板库]中选择对应的症状采集模板。 3. 按模板逐项采集症状信息。 4. 每采集一项,同步调用 update_patient_record 保存结构化字段。 5. 所有必填项采集完成后,生成病史记录,标记信息完整度。 6. 若存在关键信息缺失,最多追加两轮补充追问。 7. 完成后输出 summary,交由上层服务处理。

流程步骤不能被模型随意跳过或调换顺序。模板库的选择规则要单独定义,不在流程段里展开。

第三段:行为规则与安全边界

必须遵守的规则: - 禁止输出诊断结论、可能性排序或"可能是某种疾病"的表述。 - 禁止输出用药建议、检查建议或治疗建议。 - 禁止评论患者之前在其他医疗机构的诊断或治疗方案。 - 患者表达中若出现紧急风险信号(如胸痛、呼吸困难、意识障碍等),立即输出 RISK_FLAG 并停止常规追问。 - 患者对某个问题回答"不知道""记不清"时,将该字段标记为 unknown,不反复追问。 - 患者提供的数值信息若含模糊修饰词,按模糊原样记录,不转为确定值。 - 每一轮输出都必须符合"先反映患者原话,后整理归纳"的格式。

行为规则要具体到能直接被测试验证。比如"标记为 unknown,不反复追问"就可以变成一条测试用例。

第四段:输出格式协议

输出协议: - 与患者的对话内容用 dialog 字段输出,要求口语自然、不重复。 - 内部状态更新用 status_update 字段输出,包含当前进度和下一步计划。 - 结构化病史数据用 structured_data 字段输出,字段必须与模板一致。 - 所有输出必须是合法 JSON,禁止混入对话外文本。

强制 JSON 输出在 Agent 场景里几乎是必需的,否则下游工具解析会遇到很多麻烦。

6.2 关键子任务的专用提示

除了核心系统提示,每个关键工具调用节点还需要一段"子任务提示"。以症状术语标准化为例,它的子提示里我们加了一组标准映射示例:

将患者口语症状映射为标准术语,规则如下: - 胸闷气短 → 胸闷、气促 - 心口疼 → 胸痛(部位:心前区) - 憋气 → 呼吸困难 禁止反向输出:不得把标准术语扩展成口语描述解释给患者。

这类子提示单独维护,不混进主提示,方便出错时单独排查和补测试。

6.3 提示模板的参数化与大版本管理

同一套预问诊流程,不同科室的采集模板不一样,不同医院的规则也可能不一样。所以提示模板必须参数化,在请求层注入科室变量、模板 ID、医院自定义规则。这样一来,新增一个科室只需要维护模板库和对应测试集,不用动核心提示。

版本管理上,我的习惯是给每版提示打 tag,关联模型版本号和测试集跑分。提示更新时必须有 diff 记录,哪怕只是一句话的改动。线上出了问题,能快速定位"是哪个版本的提示、对应哪个模型版本、在什么输入条件下触发了问题"。这套管理机制不算复杂,但没有它,提示工程架构师就会一直被困在"为什么改完崩了"的泥潭里。

7. 给想入行医疗 Agent 提示设计的人几句实在话

做了几个医疗 Agent 项目之后,我的最大感触是:这个岗位的名称已经被低估了。提示工程架构师在医疗场景里的真正工作是"把不可控的生成行为约束进一个可控的临床工作流",这意味着你既要懂提示技术,也要理解医疗业务流程的分寸和红线。

如果你正打算往这个方向转,我建议从三个基础做起:第一,找一个真实的医疗场景跑通端到端的 Agent 原型,不要在纯聊天层面做试验;第二,学会和一个临床专家长期协作,让他们帮你建立"什么话不能说、什么信息不能丢"的直觉;第三,把评估测试集当成核心资产来建设,它会像代码库一样持续帮你守住质量底线。

最后分享一个我们团队现在仍然在用的土办法:每次提示改版之前,把最新版提示和上一个版本同时跑同一批测试集,把差异对话打印出来贴在会议室墙上做对比评审。这个方法特别笨,但对发现行为回退非常有效。医疗场景里,宁可慢一点也别因为一个看似聪明的改动丢了安全底线。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询