最近一年里,被朋友和同行问得最多的一个问题,不是“大模型还能火多久”,而是“Agentic AI在医疗领域到底会留下什么”。我当时的身份刚好是提示工程架构师,参与了一项面向医疗行业的Agentic AI生态影响研究。这个项目不写产品代码、不做临床实验,核心任务非常明确:搞清楚当具有自主规划、工具调用、自我修正能力的智能体进入医院、制药企业和患者端之后,哪些环节会最先变化,哪些角色会被重新定义,哪些风险会从技术问题变成管理问题。
这篇文章就是那次研究的完整案例拆解。我会把从立项、定框架、设计提示词、搭原型、跑访谈,一直到输出指标和路线图的过程原原本本讲一遍。如果你正在做大模型应用、医疗信息化、AI产品规划,或者只是想理解“Agent生态影响”这类研究到底怎么做,应该能从里面找到一套可以移植的方法,也能看到不少我在实际项目中踩过的坑。
先提醒一句:这不是一篇讲“AI如何神奇”的文章,而是一篇讲“AI嵌入产业后如何改变分工和责任”的文章。后者比前者难得多,也重要得多。
1. 研究定位:先搞清楚“生态影响”到底要回答什么
1.1 从“技术评估”切换到“生态影响”
我刚接这个题目的时候,脑子里的画面还停留在“给大模型写提示词”这种很具体的事情上。需求方是一家医疗信息化公司,他们想判断Agentic AI到底会从哪些环节影响医疗行业,以及现有产品线该往哪里调整。一开始我列了一堆测试集,准备用模型准确率、工具调用成功率、任务完成率这些指标交差。结果第一次汇报就被问住了:准确率高说明什么?说明医生能少打几个字,还是说明患者能少跑一次医院?这两件事的答案完全不同。
我这才意识到,研究的对象不应该是Agent本身,而是Agent进入医疗系统之后,人和流程发生的变化。生态影响这个词听起来很大,实际上可以拆得非常具体:谁先受益、谁先变忙、谁承担了新风险、谁的职责被重新定义。比如一个自动生成病历摘要的Agent,受益的是医生的时间,变忙的是信息科,因为它们要持续维护知识库;承担新风险的是病案科,因为摘要一旦错误,归档环节就要背责。从这类具体的利益相关方变化出发,“生态”才不会变成空话。
那次汇报之后,我把研究问题从“Agent能做什么”改成了“Agent进入某个具体医疗环节后,会如何改变任务流、角色分工、数据流转和风险归属”。这个转变是整个项目最重要的起点。
1.2 定义边界:Agent三形态与医疗四环模型
做研究之前,我先做了一件看起来很笨的事:给Agentic AI划出形态边界。如果不做这个动作,后面所有的分析都会糊成一片。我把Agent分为三类。
第一类是任务型Agent,按照固定流程执行单一任务,比如自动生成病历摘要、核对检查禁忌、整理检验报告。这类Agent对生态的影响最轻,基本是单点效率提升。
第二类是协作型Agent,在医生、护士、患者之间的动态协作中提供支持,它能提出方案、给出提醒,但必须请人确认。典型的例子是慢病随访助手:它生成随访问题、记录患者反馈,但每个关键节点都要护士把关。
第三类是自治型Agent,在规则和权限边界内自主完成闭环,比如药物警戒信号筛选、病案质控批量预审。这类Agent一旦出错,影响范围最大,也是最需要谨慎对待的部分。
医疗生态同样需要划分。我用了四环模型:研发端、临床端、运营端、患者端。研发端包括药物靶点发现、临床试验辅助、文献综述;临床端包括诊疗决策支持、护理执行、影像报告初筛;运营端包括病案质控、排班、耗材管理、预约随访;患者端包括健康问答、院后随访、慢病管理、康复指导。四环互相咬合,但每一环对Agent的接受度、数据基础和风险容忍度完全不同。
为什么要做这些划分?因为不同形态、不同环节的影响路径完全不一样。任务型Agent最多改变单点效率,协作型Agent会改变医患互动的节奏,自治型Agent则会触发数据治理、责任归属、流程重构这些更深层的问题。如果混在一起谈“Agent很厉害”,最后得到的只能是一堆正确的废话。所以这个边界划定成了整份研究的第一块基石。
1.3 研究工具包与四周推进计划
研究方法上,我没有一上来就发问卷,而是组合了四种工具。第一种是桌面研究,整理公开的Agent案例、行业白皮书、产品文档和一线医疗信息化的实践记录,目标是建立“医疗任务-技术能力”之间的映射关系。第二种是模拟沙盘,我直接在本地搭轻量Agent原型,用提示词工程模拟不同场景下的行为,相当于把假设变成可观察、可质疑的对象。第三种是访谈和焦点小组,分别找医生、护士、信息科工程师、患者代表、医疗质量顾问聊,重点收集“现状流程”和“假设变化”。第四种是情景测算,把访谈得到的参数输入简化的测算模型,估计影响量级。
整个研究计划被排成四周循环:第一周做场景扫描,产出候选场景和评分卡;第二周做Agent原型推演,落地提示词工作流;第三周做生态视角走查,访谈和影响链路图同步推进;第四周做指标化输出,把所有结论收敛成报告和路线图。
这里有一个明确的取舍:不做大规模问卷。原因在于,生态影响早期,真正的矛盾不是“用户偏好是什么”,而是“链路上哪个环节会先被触达、哪个环节会先卡住”。小样本深度访谈比大样本问卷更能暴露这类结构性问题。问卷可以告诉你“80%的人愿意用AI”,但不会告诉你“医院信息科根本不给外部系统开放接口”这种致命细节。
2. 研究框架与Agent能力拆解:不能只聊“AI很厉害”
2.1 四层能力框架与医疗场景的约束映射
Agentic AI和大语言模型单轮交互最大的区别,是它有能力闭环:自己拆任务、自己选工具、自己看结果、自己决定下一步。我习惯把这种能力拆成四层:规划、工具调用、记忆、反思。普通应用场景里,这四层可以很激进;但放到医疗场景,每一层都要加一道护栏。
规划层,Agent会把一个目标拆成多步行动。普通场景里拆错可以重来,医疗场景里一次规划错误就可能耽误检查或开药。所以我在设计中要求所有目标必须先明确写出“终止条件”,一旦不满足条件就停止。
工具调用层,医疗场景涉及的院内系统非常多,包括HIS、EMR、检查检验系统。这里最重要的约束是权限范围。研究阶段我主张“最小权限原则”:Agent能查什么、能写什么、能触发什么,都必须提前定义,而且尽量先从只读开始。
记忆层,医疗数据的隐私敏感度极高。我的处理是记忆必须局限在“当前患者、当前诊疗上下文”,不允许把一位患者的随访数据用于另一位患者的分析,也不允许把真实诊疗数据拿去做无边界训练。
反思层,Agent需要对自己的输出做二次评估。但这里的反思不能是自由发挥,必须保留审计轨迹:它为什么给出这个建议、依据是哪条记录、有多少信息缺失。
整理完之后,我把约束映射到提示词策略上。规则很简单:能力越强,约束越显式。自治型Agent的提示词里必须有“当信息不足时停止推测”这类硬约束,协作型Agent则要强制插入人工确认节点。
2.2 分层提示词体系:系统层、任务层、校验层
很多朋友问我提示工程在Agent研究里到底占多大比重。我的回答是:提示词不是一段话,而是一套分层体系。我在项目里把提示词拆成三层,分别叫系统层、任务层和校验层。
系统层负责定义Agent的角色和边界,包括它服务谁、不能做什么、拒绝策略是什么、输出格式长什么样。这一层最重要,因为它回答的是“这个Agent在真实流程里到底是什么身份”。比如我从来不写“你是一名资深的临床专家”,我通常这样描述:“你是一名面向全科门诊的辅助信息整理Agent,服务对象是持证医生,建议仅供医生参考。”
任务层负责当前场景的目标、输入、可用工具和步骤约束。它的核心是任务拆解。一个明确的随访提醒任务,必须写明输入有哪些、输出要求是什么、每一步是否邀请人确认。
校验层则要求输出结构可被外部系统验证。它不是让Agent自己检查自己的幻觉,而是在设计上强制Agent标注信息来源、声明置信程度、列出缺失项。下面是一个我在慢病随访场景里用过的简化提示词模板:
[系统层] 你是一名面向门诊随访场景的辅助信息整理Agent,服务对象是持证医生或护士。 你的建议仅供参考,不得替代医护人员的最终判断。 患者临床信息不完整时,必须明确列出缺失项,并停止进一步推测。 禁止输出确定性诊断结论,除非使用者明确要求生成鉴别诊断列表。 [任务层] 当前任务:为一位2型糖尿病复诊患者生成随访提醒与检查安排建议。 可用信息:最近三次血糖记录、当前药物清单、上一次就诊主诉。 处理步骤: 1. 核对最近三次血糖记录的完整性和单位一致性。 2. 识别记录中的异常波动,输出趋势描述,不输出诊断结论。 3. 生成随访提醒,分为“需补充信息”“建议检查”“随访事项”三部分。 输出要求:每部分不超过5条,每条注明依据的数据来源时间点。这套模板看起来简单,但实际跑下来非常稳。关键不在于“专业性”,而在于“可执行性和可校验性”。校验层真正起作用的地方是强制声明来源:如果Agent说“建议检查糖化血红蛋白”,它的依据必须来自某次检验记录,而不是来自模型内部的知识。
2.3 只看模型不行:人、机、环三方走查
研究进行到第二周,我悟到一个贯穿始终的原则:只看模型不看流程是自欺欺人。哪怕模型跑分再漂亮,放进医院真实工作流里也可能瞬间崩掉。比如模型建议“明天上午来复查”,听上去很贴心,但医院的实际预约渠道、叫号系统、护士排班根本没有跟着联动。你说一个负责任的患者,他能直接办到吗?做不到。这类问题不属于模型能力,而属于生态嵌入。
所以我开始要求自己,研究每一类Agent场景时,都必须做一次“人机环走查”。人,指的是医生、护士、患者、信息科、管理者这些角色,关注他们的认知负荷和信任水平。机,指的是Agent的规划、工具调用、记忆和反思能力。环,指的是院内系统、数据质量、操作流程、排班节奏和培训机制。
具体操作上,每个场景都要回答六个问题:谁触发这个Agent的操作;谁确认Agent的输出;谁对最终结果负责;Agent出错后这个责任归到谁;Agent的数据从哪里来;Agent产生的信息最终存在哪。这六个问题写在一张表里,反复用。项目走到后期,这张表几乎成了最能暴露风险的工具。
举一个例子。一个自动生成随访记录的Agent,表面上看只是把护士的录入工作省了。但走查下来会发现:数据源如果是患者发回的微信消息,那么消息本身就有口语化、缺失单位、错别字等问题;Agent加工后的记录如果直接进病历,出了问题责任归谁就会变成非常棘手的问题。人机环走查把这些问题提前暴露在纸面上,总比等产品上线后在真实环境里爆雷要好。
3. 实操过程:四步走完一轮医疗Agent生态研究
3.1 第一步:候选场景扫描与评分卡筛选
场景池一开始列了二十多个候选,包括挂号导诊、智能分诊、病历生成、手术排程、用药审核、慢病随访、病案质控、药物警戒、健康科普、影像报告初筛等等。指望全部做深报告是不现实的,所以我做了一张评分卡来筛选。
评分维度一共五列:触点人数、发生频率、风险等级、AI介入可行性、现有流程数字化程度。每个维度按1到5打分,加权汇总。权重上,我把“风险等级”和“现有流程数字化程度”调得最高,因为风险太低说明研究价值不大,数字化程度太低说明Agent根本接不进去。
最终加权下来,选了三个主场景:慢病随访、病案质控、药物警戒。慢病随访胜在高频、高接触、流程边界清晰;病案质控胜在规则性强、错误可追溯、数字化基础好;药物警戒胜在风险驱动,能体现Agent处理海量信号的价值。影像报告初筛我也保留了,但只做到场景走查,没有搭原型,因为它牵涉的诊断责任链太复杂,不是一轮探索性研究能讲清楚的。
这个筛选过程看起来简单,实际上很重要。它逼着你放弃“所有场景都要聊一聊”的贪心,把精力集中在能讲深、能讲透的地方。
3.2 第二步:慢病随访Agent原型与工作流落地
以慢病随访为例,传统流程是护士手动打电话或发消息,记录患者的血糖、血压、用药反应,再手动提醒复诊。整个过程非常依赖护士的耐心和记忆力,也容易产生记录遗漏。我设计的“慢病随访Agent”工作流分成五步。
第一步,系统从随访名单中抽取当日应该随访的患者。第二步,Agent基于患者上一次就诊记录、用药清单和最近检验结果,生成个体化随访问题。第三步,生成的问题先由护士检查确认,确认后通过院内触达渠道发给患者。第四步,患者回复后,Agent抽取结构化信息,比如血糖值、症状关键词、用药偏差,写进随访记录。第五步,如果出现红旗信号,比如“严重低血糖”“胸痛加重”这类描述,系统立即升级到护士人工处理。
这条工作流里最关键的设计不是自然语言对话有多聪明,而是“哪些内容必须人工确认”。我在提示词里明确写死了两个强约束:随访问题批量生成后必须进入护士确认环节;任何红旗信号不得由Agent直接处理,只能转交人工。
技术栈方面,我没有堆砌复杂架构。核心是检索增强,让Agent可以检索历史随访记录和患者基础档案;外围用轻量工作流脚本把工具调用串起来;最后加一层人工标注测试集,用来评估每个环节的输出质量。这个方法的好处是容易解释、也容易排查问题。
3.3 第三步:访谈设计、影响链路图与反馈回路
原型推演的同时,我启动了访谈。访谈对象包括某三甲医院的B医生、负责慢病管理的C护士、信息科D工程师、E患者代表、医疗质量顾问F,以及某医疗信息化厂商的产品负责人G。全部使用字母代称,访谈内容不做录音转写,只结构化记录。
访谈时我不问“你觉得AI好不好”,因为这个问题得到的全是态度,没有行为。我更关心的是行为改变点。比如:“如果随访记录自动生成,你能节省多少时间?省下来的时间你会拿来做什么?”再比如:“如果病案质控Agent在归档前自动提示缺失项,你的处理流程会不会变?”还比如:“你最不希望Agent替你做哪一步?”
这些问题的答案很适合转成影响链路图。以慢病随访为例,访谈整理出的链路是:随访Agent自动生成记录,护士录入时间下降;释放出来的时间转向高风险患者;高风险患者被更及时地干预,随访率上升;医生获得更连续的患者数据,慢病管理方案调整更有依据;更连续的数据反过来要求Agent有更高的记录准确度,形成新一轮迭代。
影响链路不是线性的,它会长出反馈回路。随访率提升之后,医生需要看的患者数据变多了,于是又要引入新的Agent做趋势摘要。这就是影响从“优化单点效率”变成了“调整整个信息生产结构”。这类回路在访谈里反复出现,也成了生态影响研究中最重要的叙事线索。
3.4 第四步:三类指标体系与结果输出
研究不能只讲定性故事,最后必须落到可比较的指标上。但这里我要强调一下:指标不是拿真实医院数据跑RCT算出来的,而是在沙盘推演中,用访谈校准后的参数做情景测算。我把它们分成了三类,分别衡量不同层次的生态变化。
效率类指标关注耗时、人工步骤、处理周期,这是最容易被感知的变化。质量类指标关注随访率、记录完整度、异常升级处理及时率,这类指标决定Agent有没有真正改善医疗质量。生态类指标关注角色负荷转移、流程依赖变化、数据质量要求的变化,这类指标最容易被忽视,但恰恰是“生态影响”的题眼。
指标整理如下:
| 场景 | 效率类指标 | 质量类指标 | 生态类指标 |
|---|---|---|---|
| 慢病随访 | 随访记录生成耗时下降约60% | 随访率提升8%-15% | 护士从录入转向高风险干预 |
| 病案质控 | 预审从抽检变为全量覆盖 | 缺失项检出率提升 | 质控科从逐份审核转向规则治理 |
| 药物警戒 | 初筛耗时下降约40% | 信号漏报率下降 | 药师更多参与案例复核与信号研判 |
所有数字都标记为“量级估计”,用来给决策者看趋势和方向,而不是精确效益。这个动作很关键。生态影响研究里的数字如果被当成真实临床结果,会误导产品规划。我在最终报告里专门加了一页,说明这些数字来自情景测算,需要后续真实环境验证。
4. 常见问题与踩坑排查实录
4.1 提示词看着专业,实际不干活
这个坑我踩得非常深。早期我给Agent写提示词时,用了大量“你是一名拥有丰富临床经验的医疗专家”“你要以患者为中心”这类描述。实测下来,Agent确实很有“专家腔”,但输出没有任何实际任务拆解能力,只会套用大而化之的模板。原因是过度的角色描述占用了上下文的注意力,却没定义清楚任务本身。
我后来把角色描述全部删掉,换成了清晰的任务定义加示例。比如要求Agent提取随访记录里的血糖数值时,我会直接给三个输入输出对,告诉它什么样的症状描述应该归类为“需要关注”。这个改动在几乎所有场景里都立竿见影。对于提示工程架构师来说,重要的不是让Agent“看起来专业”,而是让它“按可验证的方式干活”。
4.2 Agent在医疗术语上“一本正经胡说八道”
有一次推演慢病随访,Agent把“糖化血红蛋白”和“血糖”概念混在一起,还自动推断出一段风险提示。最麻烦的是它的表述非常流畅,如果不核对原始数据根本发现不了问题。这种术语幻觉在通用大模型里很常见,因为模型对专业术语的记忆是概率性的,不是确定性的,遇到缩写时更容易出错。
我的解决办法不是反复警告“不要胡说”,而是给Agent挂一个术语映射表,并强制它在回答前先核对术语表。同时要求输出时标注信息来源字段,比如“依据随访记录2025-04-02”。这样即便它说错了,人和下游系统也能快速追溯到错在哪。医疗场景里,提示词体系如果不带这类“溯源机制”,就不可能进入生产环节。
4.3 真实数据脏到Agent没法判断
真实医疗数据比想象中脏得多。随访记录里手机号可能是空的,血糖值没有单位,症状描述用的是方言口语,日期格式也不统一。Agent直接读这些数据会产生一批非常漂亮但完全错误的输出。这个问题不是模型能力能解决的,而是数据治理前置。
我在工作流里加了一个“数据清洗前置步骤”:单位不统一的值先统一,无法识别的值标记为unknown,不允许模型猜。标记为unknown的数据会触发护士补充提问。也就是说,我把问题挡在Agent前面,而不是让Agent自己消化。看起来流程多了一步,但从生态角度看,这个步骤恰恰是防止风险扩散的关键缓冲。
4.4 访谈对象出现“愿景漂移”
做访谈时一个很常见的现象是,受访者聊着聊着就进入“未来AI可以解决一切问题”的模式。有一次,一位临床医生直接说“Agent应该能判断患者要不要加药”,这完全超出了我们的研究边界。如果把这个观点原样写进影响链路,整个研究就会被带偏。
我调整了访谈策略:每次访谈控制在45分钟,前20分钟只聊当前流程的事实,比如“你每周花多少时间在随访记录上”“最麻烦的环节是什么”;后20分钟才讨论Agent介入后的假设变化;最后5分钟复核影响链。任何关于“自动判断”的说法,我都会追问一句:“这个变化发生在哪个角色身上?证据是什么?”通过这种方法,愿景被拉回现实,影响链路才没有变成科幻小说。
4.5 问题速查表:症状、原因、排查路径
| 问题 | 症状 | 排查路径 | 我踩过最深的坑 |
|---|---|---|---|
| 提示词无效 | Agent答非所问或套模板 | 检查任务目标是否可执行,补充few-shot示例 | 只堆角色设定,不给任务结构 |
| 术语幻觉 | 输出流畅但内容错误 | 建立术语表,要求引用来源 | 早期没有引入知识库 |
| 数据脏乱 | 结构化输出错乱 | 增加清洗与缺失值处理步骤 | 直接拿真实记录测试 |
| 访谈失真 | 影响链过于美好 | 先聊事实,再聊假设,追问角色与证据 | 被“AI万能论”带偏 |
这张表后来被项目组当成内部排查手册,遇到问题先对号入座。事实证明,大部分Agent在医疗场景里的问题,根源都不是模型不够聪明,而是边界没定义清楚、数据没有准备好、流程没有接住。
5. 项目复盘:提示工程架构师在生态研究里的真正价值
5.1 交付物清单:从矩阵到路线图
项目结束后,我盘点了所有交付物,一共五类。第一类叫“场景-能力-风险矩阵”,把Agent的规划、工具调用、记忆、反思能力映射到每个医疗场景的风险等级上,一张表看清哪里可以做深、哪里必须保守。第二类是分层提示词库,按系统层、任务层、校验层组织,每个场景配一组可裁剪的模板。第三类是影响链路图,用文字加表格维护,明确标注一级影响、二级影响和反馈回路。第四类是指标体系卡,每个场景对应一套可追踪的量化建议。第五类是落地路线图,建议先做低风险、密闭、高频反馈的任务,比如病案预审和随访记录,再逐步进入用药审核和辅助决策。
这些交付物没有一个是单纯的技术输出,全是技术和业务的混合物。回头再看,这正是提示工程架构师这个角色应该产出的东西。
5.2 对“生态影响”的新理解:任务重分配
项目做完之后,我对“生态影响”有了新的理解。它不只是“AI取代了一部分工作”,而是“任务在一群角色之间被重新分配”。随访Agent不会简单地让护士失业,但会把护士的工作重心从“录入”推向“风险干预”。这个过程会连带改变岗位技能结构、培训体系、绩效指标甚至招聘标准。病案质控Agent不会简单地让质控员消失,但会让这个岗位从“逐份看案卷”变成“维护规则和抽查异常”。
这类变化比招聘几个AI工程师复杂得多,也让“Agentic AI在医疗领域的生态影响”成了一项需要持续跟踪的课题。影响链一旦形成,就会不断长出新的节点。今天一个随访Agent盘活了随访数据,明天就可能出现一个依赖这些数据的趋势分析Agent。生态不是静止的图景,而是一连串任务重分配。
5.3 给同行的三条实操建议
如果让我给后来者提建议,我只会说三条。第一条,不要做大而全的“万能医疗Agent”,先选低风险、高频、边界清晰的任务积累信任。医疗场景的信任积累速度远比模型能力迭代速度慢,没有单点信任,就没有扩散可能。第二条,把“拒绝”和“升级”视为Agent的正常行为,而不是失败。一个好的随访Agent,应该知道什么时候该闭嘴、什么时候必须喊人来。这是提示词工程里最容易体现架构思维的地方。第三条,研究生态影响时,一定要同时看技术、数据、流程三者的耦合关系。只换模型不换流程,Agent永远只是演示品;只换流程不换数据,Agent会自己脑补出大量错误信息。
最后再分享一点个人体会。如果让我重来一次,我会在项目第一周就建立“失败案例库”,主动记录Agent在边界上拒绝、误判、过度自信的表现。真正决定生态走向的,往往不是Agent最聪明的时刻,而是它在几千次普通交互里保持了多稳定。这可能是整个研究里我最想留给自己的结论。