最近总有人跑过来问我:测试这一行是不是到头了?功能测试天天点点点,写用例写得想吐,工资不见涨,裁员倒是第一个被盯上。这种焦虑我太懂了。但我的回答一直是:功能测试没有到头,只是“只会功能测试”这条路越走越窄。2026年前后,增量岗位明显往AI测试方向走,这已经不是你转不转的问题,而是你愿不愿意在现有经验上多长一个新技能的问题。
这篇文章不画大饼,不讲虚的。我按自己带过团队、做过AI评测项目、也帮不少功能测试同学转过AI测试开发的经验,给你一条可以直接照着走的完整路线。适合谁看?正在做功能测试的、准备跳槽但方向模糊的、团队开始接大模型项目需要有人负责质量的人。你不需要是算法工程师,也不需要一上来就会写多难的代码,但你需要知道AI测试到底测什么、怎么学、怎么找工作。
1. 为什么说这是功能测试最稳妥的增量方向
1.1 功能测试岗位正在发生的三个真实变化
第一个变化是手工回归需求在肉眼可见地减少。我以前带项目的时候,一个版本上线前光回归用例就能执行两三天,现在很多团队用自动化脚本把主流程覆盖掉了,剩下的人力被抽去做更多探索性测试和专项测试。这不是某个公司的问题,而是行业普遍现象。你做功能测试,如果一直停留在“根据用例执行+提bug”的层面,价值感只会越来越低。
第二个变化是被测对象变了。以前我们测的是登录、下单、支付这些规则明确的功能,输入输出是可以预期的。但现在很多业务开始接大语言模型能力,比如智能客服、内容生成、辅助写代码、知识库问答。这些东西没有标准答案,你没法用“预期结果”去校验。这时候传统的功能测试方法论就不够用了,需要一套新的质量保障手段,这就是AI测试出现的直接原因。
第三个变化是质量的口径变了。以前质量就是“功能和需求一致”,现在还要看模型回答得准不准、稳不稳、有没有乱编、有没有输出违规内容、响应快不快、成本高不高。公司招一个只会执行用例的人容易,但招一个能设计评测方案、能搭建自动化评估流程、能说清楚模型好坏的人很难。所以不是功能测试不值钱了,而是“质量保障”的定义正在变宽,谁先接住这个变化,谁就拿到了下一轮的筹码。
1.2 AI测试这个岗位到底在干什么
很多刚接触这个概念的人以为AI测试就是用工具去测AI,或者用AI来辅助写测试用例。这两个理解都太窄了。我见过比较完整的AI测试开发岗位画像,日常工作大致包含这么几块:
- 设计评测集:针对业务场景整理输入问题、标准答案、评测维度和打分标准。
- 执行评测:批量调用模型接口,收集回答结果,对比不同模型版本或不同提示词的效果。
- 结果分析:对模型输出做质量分析,归类典型错误,定位是数据问题、提示词问题还是模型能力问题。
- 搭建回归体系:模型升级或者提示词改动之后,自动跑一遍核心评测集,保证效果不退化。
- 线上监控与管理:监控线上模型的问答质量、异常率、安全风险,及时发现问题。
- 数据管理与标注:整理训练和评测数据规范,管理标注流程,保证数据质量。
岗位叫法可能不同,有的叫AI测试开发,有的叫大模型评测工程师,有的叫算法质量保障工程师。但内核是一样的:用工程化手段保证AI产品的质量和效果。这个岗位现在很多团队是缺人的,因为懂算法的人不懂测试,懂测试的人不懂模型,两边都懂的人特别少。这恰恰是功能测试工程师的机会窗口。
1.3 功能测试经验不是包袱而是入场券
我接触过不少做功能测试的同学,一说转型就觉得自己什么都不行:不会写代码、不懂算法、没接触过大模型。但真正带过AI测试项目的人会告诉你,功能测试积累的测试思维恰恰是AI测试最需要的东西。
边界值的思想可以直接迁移到提示词测试里。功能测试里你一定会测边界情况:为空、超长、特殊字符、并发。AI测试同样要测这些,只不过对象换成了输入给模型的问题和上下文。还有异常场景设计,功能测试习惯于问“如果这里出错了会怎样”,AI测试里你同样要问“如果用户用很糟糕的文案提问会怎样”“如果上下文长度超限会怎样”。这些能力不是一天练出来的,是长期做功能测试刻进脑子里的。
再有就是业务理解能力。AI项目最怕的不是模型不行,而是评测的人不懂业务。比如做一个电商智能客服,哪些是高频问题、客户最在意什么、哪些回答属于违规,这都需要懂业务的人来把关。功能测试做了几年,对业务的理解通常比刚毕业的算法工程师深得多。你要做的不是把自己清零,而是在原有经验上叠一层新能力:代码能力、大模型基础知识、自动化评测能力。这些都可以在几个月内补齐。
2. 搞懂AI测试的核心知识:用功能测试思维去理解
2.1 先建立对模型输出的质量认知
很多人一上来就问“学AI测试要不要先学机器学习原理”。我的答案是:要学,但不需要学成算法专家。你需要理解模型是怎么接收输入、怎么产生输出的,知道哪些参数会影响结果,就够了。
说几个必须搞清楚的概念。第一个是token,这是模型处理文本的最小单位,不能简单地等同于一个汉字或一个英文单词。它的直接影响是,你测试长文本场景时,必须考虑上下文窗口和token限制,超了就会被截断或者报错。第二个是温度参数,简单理解就是控制输出的随机性,温度越高回答越飘,温度越低越保守。做评测的时候,为了保证结果可复现,通常要固定温度,不然同一条用例跑三次出来三个结果,你根本没法判断是模型变差了还是随机性造成的。第三个是系统提示词,它像是一个给模型立规矩的“岗位说明书”,不同提示词设定下,同一个问题可能得到完全不同的回答。
还有一个核心认知是:大模型输出没有标准答案,只有“质量好坏”。所以AI测试的核心不是找bug,而是设计一套质量评估体系。常用的评估维度至少有这几项:
| 评估维度 | 说明 | 功能测试类比 |
|---|---|---|
| 准确性 | 回答内容是否与事实或标准答案一致 | 校验输出是否符合预期 |
| 相关性 | 是否回答了用户问的问题 | 需求覆盖度 |
| 一致性 | 相同输入多次回答是否稳定 | 稳定性测试 |
| 流畅性 | 语言是否通顺、结构是否合理 | 界面和体验检查 |
| 安全性 | 是否输出违规、有害、偏见内容 | 合规校验 |
| 性能和成本 | 响应速度、token消耗 | 性能测试 |
搞懂这些,你就搞懂了AI测试要回答的核心问题:这个模型到底行不行?比上一个版本是变好了还是变坏了?能不能上线?
2.2 提示词工程:测试用例设计的延伸
功能测试的老本行是用例设计,在AI测试里,提示词工程其实就是用例设计的延伸。你写的每一条提示词,本质上都是在定义一种测试条件。
一条好用的提示词,通常包含角色设定、任务描述、限制条件、输出格式。比如做一个智能客服评测,提示词可以是“你是一个售后客服,只能根据给定的产品知识回答问题,不能编造信息,回答控制在100字以内”。这不是写作文,这是在配置被测对象的行为边界,跟功能测试里设置测试数据、前置条件是一个道理。
测试集的设计也有套路。建议至少包含四类:正常场景用例,覆盖高频业务问题;边界用例,覆盖空输入、超长输入、多轮对话上下文超限;对抗用例,覆盖诱导性问题、离谱指令、无关话题;组合用例,覆盖多个条件叠加的复杂场景。每一条用例最好都配置标准答案或评估要点,供后续自动或人工打分。这个带标准答案的用例集,业内一般叫金标集,它是整个AI测试体系的地基。
还有一点容易忽略:提示词本身也需要版本管理。功能测试用例改了一个字段,你知道要重新执行确认。提示词改动也是一样,改了角色描述、加了限制条件,都可能让模型输出发生大变化。所以每轮评测一定要记录提示词版本、模型版本、参数配置,否则结果出了问题你是说不清楚的。
2.3 必须补的代码和工具栈:从能跑到能自动化
AI测试躲不开写代码,但初期要求没那么高。你不需要手撸深度学习模型,只需要能用脚本调模型接口、跑批量数据、统计结果。
我的建议是先掌握Python基础,重点不是语法大全,而是能读写文件、处理JSON、调用HTTP接口。然后是requests库,把模型接口封装成函数,构造请求、解析返回、提取结果字段。再来是pandas,处理评测结果表格、做统计分析。最后是pytest,把评测用例和断言逻辑组织起来,实现一条命令跑完一组评测。
自动化流程大致是:从测试用例文件里读取问题列表,循环调用模型接口,把回答结果写入结果表,再按既定规则或调用评估工具打分,最后生成一个对比报告。说白了就是把原来手工执行、肉眼判断的过程,变成脚本批量执行、规则化输出的过程。这些技术都是测试行业常用的,不属于高门槛内容,两个月足够上手。
工具选型方面,我的建议是别一上来就迷信各种商业评测平台。先自己写一遍脚本,跑通一个最小闭环。为什么?因为平台工具已经帮你屏蔽了大量细节,你会用按钮,但不理解流程,一旦遇到评测集设计错误或者结果口径不一致的情况,你连排查的方向都没有。自己写过一遍,你对AI测试的理解会扎实非常多。
3. 2026 AI测试完整路线:三个月入门到能干活
3.1 第一个月:把基础补到能动手
第一周的目标是Python语法热身。不用啃大部头,直接照着“读取CSV文件、解析JSON、调用HTTP接口”这个方向学,边学边写。不理解的地方就抄别人的代码,改成自己的需求,跑通为止。我一向觉得,写代码是在屏幕前练出来的,不是看书看会的。
第二周的目标是调用模型接口。找一个主流大模型服务的开放接口,注册一个开发账号,把官方示例代码跑起来。重点看三件事:请求参数怎么传、返回结果长什么样、异常情况怎么处理。你自己试着写一个函数,输入一个问题字符串,返回模型回答的文本内容。
第三四周的目标是做一个最小的评测脚本。准备20条问题,循环调用接口,把回答保存到表格里。然后人工给每条回答按“准确、基本准确、不准确”打标签,统计准确率。这个环节虽然简陋,但它让你完整走了一遍“构造用例、批量预测、结果评估”的流程,比看十篇教程都有用。
这个阶段验收标准很简单:给你一个包含100条问题的CSV文件,你能写出脚本批量获取模型回答并输出结果表。能做到,说明基础通了。
3.2 第二个月:完成一个真实的评测项目
这个月不要东学一点西学一点,就盯住一个项目做透。我推荐从“智能客服问答效果评测”入手,因为智能客服是AI应用里最常见、最容易讲清楚业务价值的场景。
项目可以按五步推进。第一步定义评测维度,比如准确性、完整性、态度友好度、合规性,每个维度定义好评分标准,是1到5分还是通过不通过,先说清楚。第二步构造测试集,至少准备50条来自真实用户场景的问题,不要自己凭空编,去搜平台上的客服对话记录作为参考,分成正常问题、复杂问题、投诉问题、诱导性问题几类。第三步写自动化评测脚本,批量调用被测评的模型,得到回答结果。第四步做结果评估,初期可以用人工评估,逐条打分,记录问题类型。第五步输出一份评测报告,说明当前的模型在不同类型问题上的表现,列出典型失败案例和改进建议。
这个项目做完,你手里就有一份能放进简历的作品集。面试官问起来,你可以讲清楚评测维度怎么定、测试集怎么构造、评估结果怎么分析、发现了哪些问题、最后怎么推动改进。这个叙事本身就是最有说服力的经验证明。
第三个月干什么?把项目扩展一点点,比如加入版本回归:用同一个测试集,对比两个不同版本的模型效果,写一份“版本对比评测报告”。或者加入自动化回归:用pytest把评测流程跑起来。这些动作都是真实AI测试岗位里的日常工作,做完就是实打实的经验。
3.3 第三个月:把项目变成作品集,准备好求职素材
很多人技能学会了,但面试讲不出来,很亏。第三个半月我建议专门用来整理输出。把你做的项目和脚本整理清楚,代码上传到代码托管平台,报告写成图文并茂的文档。不要在意规模大小,面试官看的是你有没有完整的项目闭环能力。
面试常问的问题,我列几个给你提前准备:如何设计一个大模型的评测集?如何判断模型回答是好是坏?模型升级之后如何保证效果不退化?如果评测集本身有问题怎么办?什么是提示词过拟合?你之前做功能测试的经验怎么用到AI测试上?每个问题都值得认真准备一段一分钟左右的回答,用自己的项目经历去支撑,不要只说理论。
简历怎么写是很多人头疼的。我的建议是不要写“熟悉AI测试”“了解大模型”,而是写“搭建了某智能客服问答评测体系,设计50条评测用例,覆盖投诉处理、多轮对话等业务场景,完成两个版本模型回归对比,输出质量评测报告,发现回答幻觉问题3类并推动优化”。用具体的事情和数据说话,比什么都有用。
4. 实操踩坑记录与问题排查
4.1 新手最容易踩的五个坑
第一个坑是只学理论不写代码,收藏了一堆课程,一动手就懵。我见过太多人整天看测评框架的文档,就是自己不跑一条用例。你哪怕只用一个最简单的Python脚本,能跑通10条用例,收获都比看十篇框架说明大。
第二个坑是把AI测试当成“用对话机器人生成用例”。这是两码事。我用对话工具确实可以帮我写测试思路、改装代码,但AI测试的核心是搭建评测体系、分析模型行为、跟踪质量变化。工具是辅助,体系才是主体。
第三个坑是盲目搞一大堆工具平台。不否认商业评测平台很方便,但也容易让人变成“只会点按钮的评测操作员”。出了问题,比如评分结果忽高忽低,你不知道是平台阈值问题还是数据问题,就很难受。所以前期一定要自己写脚本,把底层逻辑跑通。
第四个坑是忽视版本记录。做AI测试,模型版本、提示词版本、参数配置、测试集版本,一个都不能漏。我有一次评测结果波动很大,排查了半天才发现是温度参数从0改到了0.7,同一批测试集跑了三次,结果压根没法比较。后来把参数配置写进配置文件,每次跑之前自动记录版本和参数,才消停。
第五个坑是拿少量样本下结论。有人拿三五个case就说某个模型不行,或者某个提示词更好。大模型输出本身有随机性,样本太少,结论很容易翻车。做对比评测至少要有30条以上的有效用例,最好分多次运行取平均值,或者固定温度保证可复现性。
4.2 常见问题排查速查表
做AI测试会反复遇到几个问题,我整理成表格给你参考:
| 常见现象 | 可能原因 | 排查思路 |
|---|---|---|
| 同一条用例多次回答差异很大 | 温度参数过高,或模型服务有随机性 | 固定温度为0或较低值,多次运行取平均 |
| 模型回答明显偏题 | 提示词缺少角色和任务约束 | 检查提示词是否明确用户身份、任务目标 |
| 评测结果和线上表现不一致 | 测试集覆盖不全,或线上场景与评测场景不同 | 分析线上日志,补充真实用户问题到测试集 |
| 回答出现编造内容 | 模型缺少知识来源约束 | 在提示词中要求“只能根据给定资料回答” |
| 脚本报错但无法定位 | 返回数据结构变化或接口异常 | 先打印原始返回,再逐层解析,不要看报错猜 |
| 新版本模型效果反而变差 | 评测维度不全面或测试集过拟合旧版本 | 补充对抗用例和多场景用例,扩大评测覆盖 |
这张表不是标准答案,但大部分问题都能从这里找到方向。关键在于,遇到问题先固定变量,再逐层排查,这跟功能测试的定位思路完全一致。
4.3 分享一个适合入门的练习项目设计
如果你实在不知道从哪里开始动手,我给你一个可以照着做的练习项目:给某企业的“智能客服机器人”做一轮版本升级评测。
假设旧版本还在线上,新版本准备上线。你的任务就是回答一个问题:新版本能不能上?先定评测维度:问题解决率、回答准确率、语气友好度、违规内容拦截率。再准备80条测试问题,其中60条来自历史客服对话记录,20条是覆盖边界的对抗问题,比如“我要投诉你们”“你们是不是骗子”这种。然后分别用新旧两个版本的接口跑一遍,记录每条问题的回答。评估分两步,先让脚本做简单的规则判断,比如是否包含违规词、是否为空回答;再抽30条人工打分。最后出一份对比报告,里面至少要包含三块内容:总体得分对比、分维度表现差异、典型失败案例展示。
这个项目做完,你基本就掌握了AI测试的完整流程。把这个报告整理好,它就是比任何证书都管用的敲门砖。
5. 关于课程资源与求职的一点实在建议
5.1 怎么筛选AI测试课程资源
现在市面上“AI测试课程”越来越多,质量良莠不齐。很多课程其实就是把大模型科普加上一些工具演示拼出来的,学完还是不会干活。我的筛选标准很简单:课程里有没有一个完整的项目?有没有带你设计评测集?有没有让你亲手写脚本跑评测?如果一门课听完,你连一个自己的评测项目都拿不出来,那它再便宜也是浪费时间。
另外要小心过度承诺的课程,什么“零基础七天转行AI测试”“保offer保高薪”,基本是收割焦虑的。AI测试确实门槛比传统功能测试高一些,但也远没有高到需要搞神秘主义的程度。正常的转型周期是三个月到半年,谁跟你说七天,你直接拉黑。AI测试课程资源很多,优先选择有真实项目演示、有源码、有评测方法论的内容,那些人讲的是门道,不是名词。
5.2 免费资源其实已经足够起步
严格来说,AI测试入门阶段不需要花太多钱买课。大模型服务的官方文档是最权威的第一手资料,里面有接口调用方式、参数说明、示例代码,把这些吃透就已经很强了。代码能力部分,网上有海量的Python入门教程,挑一套通俗的、更新及时的,跟着敲就行。评测方法论方面,多看几个开源的评测框架,理解它们的设计思路和评估维度,照着模仿。
我的建议是:先免费路线走一个月,觉得能坚持、方向对,再考虑付费课程补充系统化知识。多数情况下,前三个月用免费资源加自己动手做项目,完全够用到面试。
5.3 简历和面试怎么准备
简历准备的核心是“用项目证明能力”。不要写“熟悉AI测试流程”,要写清楚你做了什么项目、遇到了什么问题、怎么解决的、最后结果如何。比如:“独立搭建智能客服评测集和回归脚本,覆盖80条业务场景用例,完成新旧版本效果对比,输出评测报告,推动修复回答幻觉问题”。面试官要的不是你会背概念,而是你能落地。
面试的时候,我建议主动讲你从功能测试带来的优势。比如你设计测试集的思路,跟功能测试用例设计的等价类、边界值方法是一脉相承的。你能把异常场景想到位,这正是AI测试非常看重的能力。不要觉得自己以前做的事情low,很多纯算法出身的人反而没有你这种质量敏感度。
最后分享一个我做AI测试以来最关键的习惯:任何评测结果,都必须记录完整的复现条件,包括模型版本、提示词版本、参数配置、测试集版本、执行时间。只要这个习惯在,你的评测结果就是可信的,你的结论就能经得起追问。这一点,我从最开始踩坑到现在,一直受益。
转型这件事,看着像是要换一个赛道,其实只是在原来的路上往前走了一步。功能测试积累的质量敏感度和业务理解力不会浪费,它们会变成你做AI测试时最顺手的那块垫脚石。你不需要成为算法专家,但要成为最懂质量的那个人。2026年的窗口还开着,关键是别再只站在岸上看别人游泳了。