最近跟一位刚毕业的学弟聊天,他挺沮丧地跟我说,自己是双非背景,投了两个月算法岗,简历大部分石沉大海,唯一有回音的一家公司在做边缘智能方向,产品跟大模型几乎不沾边。他问我:大模型这么热,我要不要再撑一撑?小公司那个岗位是不是没前途?
这个问题我太熟了。这几年带过的实习生、社招候选人、社区里私信过我的读者,好多都是类似处境。大家默认把“AI岗位”等同于“大模型岗位”,觉得双非背景只要拼命刷题、背八股、再跟风做几个大模型Demo就能逆袭。但现实中的筛选逻辑,远比这个复杂。
这篇文章不打算给你打鸡血,也不准备劝退谁。我想把自己这几年观察和实操下来的经验整理出来,把大模型和小模型两条路线掰开揉碎讲清楚,帮双非背景的同学算清楚自己的牌面,找到一条真正适合突围的路线。无论你现在是选方向、攒项目经历还是准备面试,都希望这篇能给你一个能落地的决策框架。
1. 大模型与小模型,争的不是技术,是资源分配
先说一个很容易被忽略的事实:大模型和小模型本质上不是“新技术替代旧技术”的关系,而是资源分配方式不同带来的两条赛道。大模型的核心资源是算力、数据、资金;小模型的核心资源是场景、数据、工程经验。这两条赛道的玩法、门槛、面试逻辑、职业天花板都不一样。
很多学生问我“该学大模型还是小模型”,我觉得这个问法本身就有问题。真正该问的是:你手上有什么资源,你想进入什么样的岗位,你愿意承受多大的不确定性。不是所有人都适合冲大模型,也不是做小模型就低人一等。把这个问题想透,才不会今天看大模型赚钱就转大模型,明天看边缘AI火又转嵌入式。
1.1 大模型岗位的真实地图:金字塔尖、中段和应用层
大模型方向看起来岗位很多,但内部差异极大。粗略分一下,可以分成三层。
最上层是基座模型研究,做预训练、对齐、多模态融合这类工作。这一层基本被头部大厂和顶级实验室垄断,对数学功底、论文复现能力、分布式训练经验的要求极高,而且普遍需要博士学位。双非背景想直接进入这一层,老实说概率非常低,除非有极其亮眼的顶级论文或者开源成果。
中间层是模型微调与优化,包括LoRA、全参微调、量化、蒸馏、推理加速等。这一层需要理解Transformer原理、训练框架、数据配比,对工程能力有一定要求,名校硕士比较常见,但双非凭借扎实的项目经验也能挤进去,只是竞争激烈。
最下层是应用开发,比如基于API做RAG知识库问答、Agent工作流、模型评估、Prompt调优、业务对接。这一层本质上是大模型时代的“应用工程师”,门槛没有前两层那么高,但对业务理解、逻辑能力和工程规范有要求。目前市场上大量招聘需求集中在这一层,也是双非背景最现实、最值得投入的方向。
我用一个表格把这三层的关键差异列出来,方便你对照自己的情况:
| 层级 | 典型工作内容 | 核心资源门槛 | 学历信号作用 | 双非可行性 |
|---|---|---|---|---|
| 基座模型研究 | 预训练、SFT、RLHF、多模态 | 大规模算力、顶级数据 | 极高,名校博士优先 | 极低 |
| 模型微调与优化 | LoRA、量化、蒸馏、推理服务 | 中高端GPU、训练框架经验 | 中高,名校硕士有优势 | 中等 |
| 应用开发 | RAG、Agent、数据评测、API调用 | 算力要求低、业务场景理解 | 中等,更看作品和落地 | 较高 |
1.2 小模型为什么没有退场:成本、速度、可控性
大模型热度再高,小模型也没有消失。原因很简单:企业不是要一个“什么都会聊天的模型”,而是要一个“能解决具体问题、成本可控、出了问题能解释”的系统。
我见过不少传统企业,连把数据传到外部API都不敢,因为涉及客户隐私或内部经营数据。这种情况下,一个几十亿参数甚至几亿参数的小模型部署在私有服务器上,反而是唯一可行的技术方案。再加上推理成本低、延迟低、可以做边缘端部署,小模型在很多行业里仍然大量存在。
不要被网上的热度带偏。大模型在小模型擅长的领域不一定能赢。你让一个千亿参数模型去做文本分类,效果可能确实好一点,但推理成本高出一个数量级,响应时间慢,还不好解释。这种需求放在业务里,就注定要用小模型。
2. 双非背景算法岗的现实处境:不是学历原罪,是资产不足
双非这个词,本质是一个资源标签,而不是能力标签。但既然市场用这个标签做初筛,你就必须正视它带来的影响。很多双非同学最难受的地方不是自己不会,而是连展示自己的机会都拿不到。
2.1 简历石沉大海的真相:缺的不是学历,是证明能力的资产
我帮不少读者改过简历,发现一个共性:简历上写的课程项目千篇一律,要么是“基于Python的某数据分析”,要么是“基于某某框架的分类模型”,数据集是公开的,模型是调包调参,结论是准确率多少。这种简历投到大模型岗位,被刷掉很正常,因为你的简历没有告诉对方“你能解决什么独特的、有难度的问题”。
学历筛选确实是第一关,但学历背后代表的是什么?一定程度上是学习能力和基础素质的信号。双非学生要穿越这关,不是去抱怨学历歧视,而是要在简历里提供学历以外的强信号。在AI岗位尤其如此:一份高质量的开源项目、一场有含金量的比赛、一个能讲清楚技术细节的博客,往往是比学历更硬的通行证。
2.2 算力、数据、场景、导师:四项资源盘点
我建议每个双非背景的同学都认真做一次资源盘点,把它当做一个工程问题来看。你缺的不是能力,而是资源。这份资源清单包括四样东西:算力、数据、场景、导师。
算力方面,好一点的双非实验室可能有一两张消费级显卡,差的什么都没有。数据方面,双非学生很难接触到真实工业场景的高质量数据,更多用公开数据集。场景方面,没有真实业务需求牵引,项目容易停留在“为了做而做”。导师方面,如果导师本身不做AI或者资源有限,能给你的指导就非常有限。
把资源盘清楚,你就知道自己不可能走基座模型研究路线,也不需要妄自菲薄。因为大模型应用开发和小模型落地这两条路,恰恰对上述资源的依赖度没那么高,更依赖你的主动性和工程能力。
2.3 双非破局的内在逻辑:用最小资源打出最强信号
既然资源有限,突围的唯一方式就是集中资源,在某个点上做出别人难以忽视的成果。你不需要在十几个方向上都沾一点,只需要在某一个细分方向上做到能拿出来讲半小时,能经得起追问。
我之前带过一位同学,学校背景很普通,但他花了一个学期把某个开源对话模型吃透了,做了大量LoRA微调实验,所有的实验记录、代码、踩坑过程都写成了文档。面试官虽然一开始因为学历想把他筛掉,但面完两轮之后直接说这比很多名校学生扎实。这就是用最小资源打出强信号的典型案例。
3. 大模型路线的真实玩法:谁适合All in,谁只是陪跑
接下来聊大模型路线的实操。如果你还是想冲大模型方向,那么下面这些内容要仔细看。大模型不是不能冲,而是要搞清楚冲哪一层、用什么姿势冲。
3.1 从0到1玩转大模型的三个基本功:权重、微调、推理
大模型开发并不是只有预训练一条路。对于双非背景的同学,我的建议是不要碰预训练,重点练三件事:第一,能拿到开源权重并跑通推理;第二,能做微调并理解每个参数的含义;第三,能把训练好的模型部署成服务并提供稳定接口。
这里的核心不是“会用某个框架”,而是理解背后的原理。比如微调为什么用LoRA而不用全参微调?因为LoRA只更新低秩矩阵,显存占用小,训练速度快。再比如为什么量化能让模型变小?因为把FP16的权重变成INT8,精度损失有限但内存直接减半。这些基础问题,在面试里非常容易被问。能把原理讲清楚,比背十个案例都有用。
我建议的学习路径很直接:先选一个开源的中小参数权重,在租来的云GPU上跑通一次对话Demo;然后用一个小数据集做LoRA微调,观察效果变化;最后把这个模型包装成一个API服务。这套流程走完,大模型方向的初级岗位面试基本就有底气了。
3.2 大模型面试真正考察的三种能力
大模型岗位面试和传统算法面试有个明显区别:它更看重推理能力、代码功底和快速学习能力。八股文的比重在下降,但深度学习的核心概念必须扎实。
第一种能力是底层原理理解。比如Transformer的Attention为什么要除以根号d,位置编码为什么不直接用整数索引,这类问题几乎没有变式,就是考你对原理的理解深度。第二种能力是代码工程能力,包括Python性能优化、异步处理、并行计算、Docker部署。很多候选人模型调得好,但写的代码漏洞百出,接口一压测就崩,这在工程岗是致命的。第三种能力是快速试错和调参能力。大模型训练成本高,不可能每次都从头跑,你需要能判断什么时候该动数据、什么时候该动学习率、什么时候该换基座。
举个例子,有一次我面试一个候选人,他说自己用某个开源模型做了一版客服问答系统,效果不错。我让他讲一讲badcase怎么处理,他反问我什么是badcase。面试到这里基本就结束了。你不知道模型在什么场景下会答错,也不知道怎么用评测集约束迭代,这说明你根本没有真正在业务里用过模型,只是调了包。
3.3 没有A100也能做的三件实事
很多双非同学一提到大模型就觉得自己没戏,理由是没有显卡。这个理由我能理解,但站不住脚。没有顶级算力,你至少可以做三件价值很高的事。
第一件,调用商用API做应用开发。市面上成熟的大模型API已经能完成很多任务,你可以用它们搭RAG知识库、做智能体、做文档解析工作流。这个过程不需要训练模型,但对业务拆解、Prompt设计、接口工程的能力要求很高。第二件,用消费级显卡做小参数模型的LoRA微调。在量化后的7B模型上做微调,一张24G显存的卡完全能跑起来。第三件,做数据工程和评测工作。训练模型的都知道,数据质量和评测集设计直接决定模型上限。你可以专门研究数据构造、清洗、配比、去重,以及评测指标设计。这些方向不需要大片GPU,但对项目成败影响巨大。
所以,大模型路线不是只有一条路,它是一棵树,树根是预训练,树干是微调优化,枝叶是应用、数据、评测。双非背景不去够树根,完全没问题,够树干和枝叶同样有广阔空间。
4. 小模型路线的土壤:把细分场景吃透也是好生意
说完大模型,再说小模型。相比大模型的高热度,小模型显得没那么性感,但它有一个巨大的优势:大量真实业务仍然依赖它。而且小模型岗位对人的要求和大模型不一样,它更看中你能否解决实际问题,而双非学生在校期间反而更容易接触到这类问题。
4.1 小模型在真实业务里的典型角色
小模型最常见的角色是分类和抽取。我随便举几个真实场景:电商平台的售后工单自动分类,银行流水里的交易类型识别,法律文书的要素抽取,医疗报告里的指标结构化,工业质检的缺陷分类。这些任务有几个共同特点:类别相对固定、数据量可观、对延迟敏感、对隐私要求高。
在这些场景里,小模型反而更合适。你不一定需要让模型理解复杂的语义,只需要针对特定业务做精调。同样是文本分类任务,一个几亿参数的小模型经过充分调优,准确率完全可以达到业务要求,而且推理速度毫秒级,部署成本极低。把这些基础工作做好做扎实,就是市场上稀缺的“能落地的人”。
有个真实案例。某公司做一个保险理赔信息抽取系统,起初想用通用大模型做,效果确实好,但每条数据都要过外部API,客户直接拒绝了,因为涉及患者隐私。后来换成本地部署的序列标注模型,用几千条标注数据做微调,核心字段的准确率做到了95%以上,客户才买单。这就是小模型的生存逻辑。
4.2 小模型性能压榨组合拳:蒸馏、量化、剪枝
小模型虽然资源占用低,但要把效果做到接近大模型,需要一系列工程手段。这恰恰是很多双非学校不会教但企业非常看重的技能。
第一个手段是知识蒸馏,用一个大模型的输出作为软标签去训练一个小模型。比如让7B老师模型产出一批带有概率分布的数据,再用这批数据训练一个300M的学生模型,学生模型能在更小的体积下逼近老师的效果。第二个手段是量化,把模型的FP32参数变成INT8,体积压缩到原来的四分之一,推理速度翻倍。第三个手段是剪枝,把不重要的参数或者注意力头去掉。这三个手段在小模型部署中几乎必用,能熟练掌握其中一两个,就可以在面试中形成差异化优势。
我做过一个极端案例:把一个文本分类模型从原始的1.2G压缩到90M,准确率只掉了0.8个百分点。这在业务中完全可以接受,但部署成本和响应速度的改善是巨大的。面试时把这个过程讲清楚,比说“我调过ChatGPT写周报”有说服力得多。
4.3 为什么“不性感的小模型”同样值钱
行业里有个偏见,觉得做小模型的人不如做大模型的人高级。其实你去看看招聘市场的薪资,优秀的推理部署工程师和MLOps工程师同样是非常稀缺的资源,薪资一点都不低。原因很简单:模型再厉害,部署不上去,业务跑不起来,一切都是零。
小模型工程师的核心竞争力,是“交付确定性”。你能不能在两周内把一个效果合格的模型部署到客户环境里,能不能在客户没有GPU的情况下用CPU跑出可接受的速度,能不能做到七天不宕机。这些能力不是靠选修课学来的,是需要在真实项目里反复磨出来的。双非学生如果能在这些方向上积累一两个完整项目,市场价值是非常明确的。
5. 从双非到突围:四条可执行的策略路线
前面把两条赛道的真实状况都讲清楚了,接下来给出我认为双非背景最值得考虑的四条具体路线。每一条路线都对应不同的性格、能力和资源条件,你不需要全选,选一条深耕三个月以上就足够。
5.1 路线一:大模型应用开发,做场景的“翻译官”
这条路线适合逻辑清晰、喜欢跟业务打交道、动手能力强的同学。核心职责是理解业务需求,把大模型能力翻译成解决方案。具体技术栈包括RAG、Agent、Function Call、Prompt设计、API工程、流式输出等。
建议的学习路径是:第一,把RAG全链路吃透,包括文档解析、向量化、召回、重排、生成。第二,做一个完整的Agent项目,比如让模型自动调用外部工具完成数据分析。第三,把项目部署上线,写成详尽的README和技术博客。这三个步骤走完,你的简历上就有两个以上能打的项目。
这条路线对双非非常友好的原因在于,它更看重业务拆解能力和工程能力,而不是模型训练能力。换句话说,你不需要有多强的数学功底,只需要能把问题定义清楚,把逻辑链条搭对,把工程流程跑通。
5.2 路线二:小模型垂直精进,做细分领域的“土专家”
这条路线适合坐得住冷板凳、喜欢钻研细节的工科同学。核心思路是选一个具体的行业数据形态,比如医疗文本、法律文书、工业日志、金融票据,把这个领域的数据处理、模型选择、性能优化全部吃透。
优势在于行业壁垒高。你一旦精通了某个垂直领域的数据特征和坑点,就有了别人短时间无法替代的经验优势。比如医疗中的术语缩写、法律文书中的结构化引用、工业日志中的异常码规律,这些知识不可能靠一次公开课学会,只能在项目里积累。
操作建议:去找一个你感兴趣的公开数据集,做一套完整的小模型解决方案,包括数据标注方案、模型训练、蒸馏量化、服务化部署。把整个过程的每个环节都记录清楚,尤其是踩坑记录。面试时这套东西就是你的资产。
5.3 路线三:开源作品与硬核博客,让代码替你说话
这条路线对大模型和小模型都适用,核心目标是解决简历被卡的问题。你最强的简历是搜索你名字或项目名能搜出来的开源作品。双非背景在没有大厂背书的情况下,开源项目是证明能力最硬的方式。
具体做法有三个:第一,认真维护一个有明确使用场景的开源项目,哪怕只有几百星,只要代码质量高、文档清清晰就能说明问题。第二,写技术博客或者系列教程,把项目从0到1的过程讲清楚。第三,积极参与已有的开源社区,提交有效的issue和PR。
我认识一位做推理框架优化的开发者,学历非常普通,但凭着修复某个量化工具库多个bug的记录被人挖走。他说面试基本没怎么考察学历,全程都在讨论代码实现细节。这条路比较慢,但每写一个高质量PR都是在积累信用资产。
5.4 路线四:MLOps和推理部署,做工程交付的“稳定先生”
这条路线可能是双非背景最容易被低估的一条,因为学校和培训机构的课程里几乎不教。MLOps的日常工作包括模型打包、推理服务开发、容器化部署、监控告警、性能调优、CI/CD流水线。它的门槛不是算法能力,而是工程素养和运维思维,而这恰恰是双非学生可以通过大量实践弥补的。
现在大量企业想把模型落到生产环境,但懂部署、懂优化、懂稳定性的人非常少。这导致MLOps和推理优化岗的薪资一路走高,遇到的竞争者却比纯算法岗少得多。如果你对纯算法没有执念,又喜欢折腾部署和性能优化,可以考虑这个方向。
学习路径是:从Docker和Kubernetes开始,把模型用ONNX或TensorRT做转换和优化,做一个自动扩缩容的推理服务。整个流程跑通后,你就已经超过大部分只会在Notebook里跑模型的候选人。
6. 最终决策框架:用三个问题对号入座
方向再多,最终还是要落到选择上。我建议你别问别人“该选哪条路”,而是用下面三个问题做一次自我诊断。把它们写在纸上,诚实作答,答案一般就比较清楚了。
6.1 问题一:你的时间预算是半年还是一年?
如果你是准毕业生,距离找工作只有三四个月,那我建议优先走路线一或路线四,因为这类岗位需求量最大,且不需要太深的模型训练积累,可以冲刺速成。如果你还在大二大三,有一整年时间,那可以考虑路线二或路线三,用较长时间建立一条有深度的护城河。
时间预算决定了你能冒的风险大小。时间越短,越应该选那些市场需求明确、知识结构相对平缓的方向;时间越长,越可以选那些前期枯燥后期回报高的领域。很多双非同学考研失利后还剩半年才开始准备,那就不要再幻想去搞预训练了,选择一个能快速形成项目闭环的路线更现实。
6.2 问题二:你在哪类工作上能持续投入而不厌倦?
这一点非常关键。技术的天花板本身不重要,你能坚持投入的天花板才重要。你需要回忆一下,哪种工作中的“心流”时长最长:是调Prompt搭Agent让你兴奋,还是分析数据清洗数据让你踏实?是琢磨推理性能和部署架构让你来劲,还是读论文做实验写评测报告让你专注?答案就是你的路线。
举一个反例。我见过有人被大模型热度裹挟着去学Prompt,但实际上他更喜欢捣鼓模型部署和量化。做了一星期Prompt项目,每天都很痛苦,最后转去做推理优化,状态完全不一样。找到自己愿意投入的方向,比追热门重要得多。
6.3 问题三:你身边最容易接触到的数据或场景是什么?
最后一个问题是现实层面的资源观察。你不需要做一个宏大的AI产品,只需要找到一个具体场景,有足够多的数据,能反复实验。比如你所在院系有大量的课程作业文本,可以做一个作业查重与相似度分析工具;你实习的工厂有设备日志,可以做一个异常检测模型;你做过社团的问卷调查,可以做一个评论情感分析系统。
这些身边的场景就是你的“练兵场”。用它们完成一个完整闭环:数据收集、清洗、模型训练、部署、上线。这个过程走过一遍之后,你对AI落地的理解会超过大多数只会跑公开数据集的同学。做项目不需要多高级,但一定要完整,要能证明“在我手上,这个系统真实运转过”。
我把三组问题对应路线做了个对照,方便你参考:
| 你的回答倾向 | 推荐路线 | 核心逻辑 |
|---|---|---|
| 时间短、喜欢业务 | 大模型应用开发 | 需求大、上量快 |
| 时间长、爱钻研 | 小模型垂直精进 | 积累行业壁垒 |
| 喜欢写代码和分享 | 开源与博客路线 | 用作品对冲学历 |
| 热爱工程和部署 | MLOps与推理优化 | 缺口大、竞争小 |
最后分享一个我自己的观察:这些年看到成功突围的双非同学,并不是每个人都选了最热门的方向,但他们都有一个共同特点——在选定方向后,用足够长的时间持续积累,做出别人能看得见的成果。哪怕成果只是一篇技术博客、一个几百星的开源项目、一套完整跑通的推理服务,也足够让面试官重新审视你的标签之外的底色。
如果你现在还在纠结,不用急。先找一个最近的数据场景,把一个小小的模型或者一个简单的大模型应用完整做出来,让它上线运转。这个闭环完成后,你对自己的认知和你简历的分量,都会不一样。