☰
零基础读懂大模型:参数、提示词与本地部署入门指南
2026/11/2 9:25:53 网站建设 项目流程

简介:围绕大模型概念、技术与应用实践展开的这份演示文稿,面向希望系统入门人工智能前沿的高校学生、教师与自学者,依托厦门大学大数据教学团队的教学积累,把抽象的大模型知识拆解为可讲授、可自学的脉络。内容从图灵测试与人工智能发展简史切入,延伸到人工智能思维、大模型概念、发展历程、产品与原理,并覆盖分类、行业应用、对工作生活的影响、本地部署与智能体等实践话题,兼顾概念理解与落地认知。包内为1个pptx文件,压缩包约61.03MB,保留幻灯片版式与图示,便于课堂讲授、组会分享或二次编辑。已有152人学习,适合作为通识课辅助材料或大模型入门参考。

1. 大模型不是黑匣子:先把它当成一个读过很多书的实习生

你有没有过这种体验:听说大模型能写周报、改代码、做翻译,兴冲冲打开一个产品,输入“帮我写个方案”,结果它洋洋洒洒给你一大段看起来对、细看全是车轱辘话的东西。于是你得出一个结论:这东西是个玄学。换个角度就好理解了——把大模型当成一个刚招进来的实习生:他读过很多书,反应很快,但你如果不把任务说清楚,他只能靠猜。这份讲义做的就是帮你把这个“实习生”的脾气摸清楚:它是什么、能干什么、怎么跟它说话才不翻车。零基础也能读,不需要会写代码,更不需要自己训练模型,适合刚接触 AI、想弄明白大模型到底怎么回事的初学者。

2. 大模型到底“大”在哪:拆开参数、数据和算力这三块基石

很多人第一次听到“大模型”三个字,脑子里蹦出来的画面是一台特别大的电脑。其实“大”说的不是机器体积,而是模型本身的三个指标:参数数量、训练数据量、计算资源需求。这三样东西决定了它为什么能写文章、能改代码,也决定了你为什么不需要自己从头训一个。先把这三块拆开看,后面再遇到“7B”“70B”“量化”“显存”这些词就不会发怵。

2.1 参数像什么:模型脑子里的“旋钮”数量

你可以把大模型想象成一台有无数个旋钮的收音机。每个旋钮控制一点点输出风格:有的旋钮管“这句话该正式还是口语”,有的管“下一个词该接‘但是’还是‘因此’”。参数就是这些旋钮的数量。一个 7B 模型大约有 70 亿个旋钮,一个 70B 模型有 700 亿个。旋钮越多,模型能调出来的“语气”和“知识”越细,但代价是它跑起来越吃硬件。

参数数量不是越大越好。对新手来说,7B 级别的模型已经能处理大多数日常任务,而且在普通带独显的电脑上就能跑起来。70B 级别的模型效果更好,但需要更大的显存,部署成本也高得多。入门阶段先记住一个判断:看到“7B”“8B”就知道这是轻量级,看到“70B”“405B”就知道这是重型选手,别一上来就挑战重型选手。

2.2 训练数据从哪来:它不是在查数据库,是在学“下一个词”

很多人以为大模型脑子里存了一个巨大的资料库,问什么它就检索什么。不是的。大模型训练时做的事情,本质上是反复练习“给一段话,猜下一个词最可能是什么”。它读过的文本越多、越杂,猜得就越准。所以“训练数据量大”不是为了把文章背下来,而是为了让它在无数个上下文里学会词与词之间的搭配规律。

这就解释了一个新手常问的问题:为什么它有时候会“一本正经地胡说”?因为它学的是语言规律,不是事实核查。它知道“某某公司的创始人是谁”这种句式该怎么接,但具体接的那个名字对不对,它并不保证。入门阶段要建立的习惯是:把它当“会说话的助手”,不当“会查资料的搜索引擎”。

2.3 为什么算力是门槛:训练很贵,使用很便宜

训练一个大模型需要很多张高性能显卡同时跑很久,材料里提到通常在高性能计算集群上进行。这个成本对个人来说基本不用考虑,因为你不是要训一个自己的模型,而是用别人训好的。就像你不需要自己建发电厂才能用电一样,新手用现成的对话产品或者下载开源模型来跑就行。

真正跟你有关的是“推理成本”,也就是模型回答你一个问题要花多少算力。7B 模型在普通显卡上就能跑,回答速度可以接受;70B 模型就要看显存够不够。入门阶段先把“训练”和“使用”分开:训练是厂商的事,使用是你的事,你只需要关心自己的电脑能不能跑动你想用的那个模型。

2.4 搞懂这三块之后,怎么判断一个模型适不适合你

判断标准可以简化成三个问题。第一,你的任务是什么类型:写文案、改代码、做翻译这类“生成型”任务,大模型很擅长;精确算数、查最新事实这类“精确型”任务,它不擅长。第二,你的数据能不能上公网:如果涉及客户名单、身份证号这类信息,要么脱敏后再用,要么考虑本地部署。第三,你愿意花多少时间折腾:想开箱即用就选对话式产品,想自己控制就选本地部署,两条路没有对错,只有适不适合你当前阶段。

把这三个问题答完,你基本就能判断自己该从哪个产品、哪个模型规模开始。新手最容易犯的错是一上来就追求“最强模型”,结果硬件跑不动、配置调不通,三天就放弃了。先从能跑通的最小模型开始,跑通了再往上加,这条路稳得多。

3. 从“机器能不能思考”到爆发期:大模型的来路与能干的活

大模型不是凭空冒出来的。它背后有一条七十多年的线索:从“机器能不能思考”这个哲学问题,到一场学术会议给这个领域起了名字,再到卷积神经网络、深度学习、大模型一步步演进。了解这条线不是为了背年份,而是为了知道今天的大模型继承了哪些能力、又在哪些地方是新的。知道了来路,你再看“AIGC”“智能体”这些词就不会觉得是天上掉下来的。

3.1 从“机器能不能思考”说起:那个著名的模仿游戏

1950 年,一位计算机科学先驱发表了一篇论文,开篇就问了一个很直接的问题:机器能思考吗?他给这个问题设计了一个可操作的测试方法:让测试者隔着屏幕,分别和一个人、一台机器对话,如果测试者分不清对面哪个是人、哪个是机器,就认为机器表现出了智能。材料里给了一个具体标准:如果机器让平均每个测试者做出超过 30% 的误判,就算通过测试。

这个测试的意义不在于它有多精确,而在于它把“智能”从一个哲学概念变成了一个可以动手验证的东西。今天你和大模型对话时,有时候会觉得“它好像真的听懂了”,有时候又觉得“它完全在胡说”,这两种体验其实都在这个测试的延长线上。入门阶段不需要纠结“它到底有没有智能”,只需要记住:它的目标是“表现得像能听懂人话”,不是“真的理解每一个词”。

3.2 三个阶段:萌芽、沉淀、爆发

材料把大模型的发展分成三个阶段。萌芽期大约从 1950 年到 2005 年,代表性技术是卷积神经网络。1956 年夏天,一场学术研讨会上“人工智能”这个词第一次被正式提出,这一年也被称为人工智能元年。1998 年,现代卷积神经网络的基本结构被提出来,机器学习从早期的浅层方法走向深度学习,为后来的自然语言生成和计算机视觉打下了基础。

沉淀期是深度学习框架成熟、算力逐步积累的阶段,很多今天看来理所当然的工具和方法都是在这段时间里打磨出来的。爆发期的标志是大模型出现:参数规模从亿级跳到千亿级,模型开始能写长文、改代码、做多轮对话。这三个阶段不是替换关系,而是叠加关系——今天的大模型里仍然能看到萌芽期那些网络结构的影子。

对新手来说,这段历史最大的用处是帮你建立一个判断:大模型不是某一天突然被发明出来的“黑科技”,它是在几十年的方法积累上,靠参数规模和训练数据量的一次跃升。理解了这一点,你就不会把它当成玄学,也不会觉得它无所不能。

3.3 大模型能干的活:从写文章到写代码

材料里把大模型的应用领域列得很清楚:自动内容生成、智能推荐、机器翻译、语义理解。换成新手能听懂的说法就是:它能帮你写一段产品介绍、能把一段中文翻成英文、能根据你的描述生成一张图的提示词、能把你写乱的句子理顺。这些任务的共同点是“生成”和“改写”,也就是从已有信息里生产出新文本。

但它不擅长的事情也很明确:精确计算、实时查询、需要严格事实核对的场景。你让它算“1234 乘 5678”,它可能给你一个看起来很合理但实际错误的数字;你问它“今天有什么新闻”,它可能编一条出来。入门阶段最实用的做法是:把任务分成“生成类”和“核对类”,生成类放心交给它,核对类自己动手或者用专门工具。

3.4 普通人怎么用“人工智能思维”跟它协作

材料里提到人工智能思维的三个动作:了解、区分、协作。了解,是知道它的基本运行模式——它是在猜下一个词,不是在查数据库。区分,是知道人的能力和机器的能力边界——你擅长判断目标、提供背景、做最终决策,它擅长快速生成草稿、提供备选方案。协作,是把这两件事接起来:你给它清晰的指令,它给你草稿,你来改。

这三个动作里,新手最容易跳过的是“区分”。很多人要么把大模型当万能答案,要么试了一次觉得不好用就彻底否定。比较稳的心态是:它是一个反应很快但需要带教的实习生,你给的信息越具体,它交付的东西越接近能用。这个心态建立起来之后,后面学提示词、学本地部署都会顺很多。

4. 第一个例子怎么跑:用提示词把大模型当“实习生”用起来

概念聊完了,现在动手。这一章不需要你装任何软件,打开一个能用的对话式大模型产品就能跟着做。目标不是写出“完美提示词”,而是让你体验一次“把任务说清楚,输出质量立刻不一样”的过程。做完这个例子,你再去试本地部署或者更复杂的工具,心里就有底了。

4.1 准备工作:选一个能对话的产品,别一上来就折腾本地部署

新手第一条血泪经验:先用人话能跑通的产品,别一上来就装环境。打开一个支持中文对话的大模型产品,注册登录,找到输入框,就完成了。你不需要知道它背后是哪个模型、多少参数,先建立“我能让它干活”的感觉。

如果你之后想自己控制模型、不想把数据传到外面,再考虑本地部署。两条路的区别是:对话式产品省事,但数据在别人服务器上;本地部署可控,但要自己处理显存、模型文件、推理工具。入门第一周建议先走省事那条路,把“怎么提要求”练熟,再去碰环境配置。

4.2 第一个提示词:把“帮我写”改成“你是谁、做什么、给谁看、什么格式”

先看一个反例。你在输入框里写“帮我写一封请假邮件”,大模型大概率会给你一封模板味很重的邮件,称呼是“尊敬的领导”,语气僵硬,你还得自己改半天。不是它笨,是你给的信息太少,它只能按最常见的套路猜。

现在换一个写法:

你是一位需要请三天病假的员工,给直属领导写一封请假邮件。 语气正式但不过于生硬,200 字以内。 说明手头工作已经交接给同事,并附上交接清单的要点。

这段提示词里包含了四个东西:角色(需要请病假的员工)、任务(写请假邮件)、对象(直属领导)、格式和限制(正式但不生硬、200 字以内、包含交接要点)。大模型拿到这四个东西,猜的范围就小了很多,输出会明显更接近你能直接用的状态。

4.3 三个让回答变好的小动作:加约束、给例子、要格式

第一个动作是加约束。约束不嫌多,“不要太长”“不要用专业术语”“分三点写”都是在帮模型缩小猜测范围。新手常犯的错是只说“写好一点”,但“好”的标准在模型那里是模糊的,你不说清楚,它只能按平均水准来。

第二个动作是给例子。如果你手头有一段喜欢的文案风格,直接贴进去,说“参考这段话的语气来写”。大模型很擅长模仿示例,给一个例子比写十句形容词管用。第三个动作是要格式。需要表格就说“用表格输出”,需要清单就说“分条列出”,需要代码就说“用 Python 写,加注释”。格式要求越具体,你后期整理的时间越少。

这三个动作可以叠加使用。比如你写“参考下面这段文案的语气,用表格对比三个方案的优缺点,每格不超过 20 字”,输出就会比“帮我分析一下这三个方案”具体得多。练上五六次,你会形成自己的提示词模板,到时候换任何任务都能套。

4.4 本地部署入门:知道门槛在哪就行

本地部署的意思是:把模型文件下载到自己电脑上,用推理工具跑起来,对话内容不经过别人的服务器。材料里专门有一节讲本地部署大模型,说明这是很多人关心的方向。新手可以先知道流程,不急着动手。

# 第一步:检查本机有没有可用的显卡(有输出说明驱动正常) nvidia-smi # 第二步:安装一个本地推理工具 # 具体命令以你选的工具官方文档为准,这里只示意流程 # 第三步:拉取一个 7B 参数级别的轻量模型 # 7B 指约 70 亿参数,适合新手起步 # 第四步:在命令行里启动对话 # 如果启动失败,先看显存是否够用

这里的参数说明很重要:7B 模型在 4-bit 量化后大约占 4 到 6GB 显存,普通带独显的笔记本就能跑;如果不量化、用 FP16 精度,显存占用会翻到 14GB 左右。新手最容易翻车的地方是下载了一个 70B 模型,结果显存不够,启动直接报错。先跑 7B,跑通了再考虑更大的模型。

提示:本地部署不是入门必选项。如果你只是想用大模型干活,对话式产品足够;如果你关心数据不出本机、或者想自己调参数,再走本地部署这条路。

5. 新手最容易翻车的几个坑:排查一遍再往下走

这一章列的是新手最高频的翻车现场。每条按“现象、原因、解决”写,你遇到问题时可以直接对照。有些坑看起来很小,但卡住的时候特别打击积极性,提前知道能省不少时间。

5.1 坑一:把大模型当搜索引擎用

现象:问“今天某地天气怎么样”,它给你一个看起来合理的温度,你一查发现完全不对。原因:大模型的知识有截止日期,而且它不会自动联网查最新信息,除非你用的产品明确支持联网搜索。它生成的是“最可能的答案”,不是“查证过的答案”。

解决:把任务分开。查事实、查最新信息用搜索工具;问思路、写草稿、改文案用大模型。如果你确实需要它回答时效性问题,先确认你用的产品有没有联网功能,没有就换一个有的。

5.2 坑二:提示词太短,怪模型笨

现象:输入“写个方案”,输出空泛得像模板;输入“改一下这段话”,改完感觉没改。原因:模型没有拿到足够的背景信息,只能按最常见的场景猜。你觉得它笨,其实是你给的信息不够它发挥。

解决:套用上一章的四件套——角色、任务、对象、格式。再加一条“限制”:字数上限、不要用什么词、必须包含哪几个点。提示词从十个字扩展到五十个字,输出质量通常会有肉眼可见的变化。

5.3 坑三:本地部署不看显存,下载完跑不起来

现象:按照教程下载了一个模型,启动时卡住、报错,或者电脑风扇狂转但半天不出字。原因:模型参数量和你电脑的显存不匹配。7B 模型 4-bit 量化大约要 4 到 6GB 显存,70B 模型就算量化也要几十 GB,普通笔记本根本扛不住。

解决:下载前先跑nvidia-smi看显存,再对照模型页面写的“显存需求”。新手从 7B 级别开始,别一上来挑战大参数。如果只有 CPU 没有独显,选更小的模型或者直接用对话式产品,别在环境配置上耗太久。

5.4 坑四:让它算数不验算,拿到错误答案直接用

现象:让它算“1234 乘 5678”,它给你一个数字,你直接复制到报告里,后来发现是错的。原因:大模型本质是在预测下一个词,不是在做精确计算。它见过很多算式,但并没有一个内置计算器保证结果正确。

解决:复杂计算让它“写一段代码来算”,然后你运行代码拿结果;或者自己用计算器验算一遍。涉及金额、日期、数量的场景,永远保留一步人工核对。这不是它能力不行,是它的工作方式决定了它不适合干精确计算。

5.5 坑五:把隐私信息直接粘进去

现象:为了让它帮忙整理客户反馈,把带姓名、电话、身份证号的表格直接贴进对话框。原因:对话内容可能被产品方留存或用于改进模型,具体政策看你用的产品。一旦贴出去,撤回不了。

解决:贴之前先脱敏。姓名换成“客户 A”,电话删掉,身份证号只留后四位。如果任务必须用真实数据,考虑本地部署,让数据不离开你的电脑。这个习惯越早建立越好,等到出事再改就晚了。

6. 从“会用”到“会学”:下一步该啃哪几块硬骨头

这份讲义覆盖了概念、历史、应用和本地部署的入口,读完你应该能用自己的话解释“大模型是什么”“参数和显存什么关系”“提示词为什么要写具体”。接下来怎么走,取决于你是想“用得更顺手”还是“弄懂它怎么跑”。下面这张表是我建议的四周路径,你可以按自己的节奏调整。

阶段目标具体动作建议投入
第一周建立概念地图读完讲义的概念部分,用自己的话写一段“什么是大模型”,不超过 200 字每天 30 分钟
第二周练提示词每天拿同一个任务写三版提示词,对比输出差异,记下哪句话起了作用每天 20 分钟
第三周试 AIGC 工具用大模型写一段带注释的代码、改一段文案、生成一组绘图提示词周末 2 小时
第四周碰本地部署在有独显的电脑上跑一个 7B 模型,记录显存占用和响应速度半天
之后按兴趣深入对智能体感兴趣就看工具调用,对原理感兴趣就看注意力机制图解按需

如果只能记一件事,我建议你记“先跑通最小闭环”。不要一上来就追求最强模型、最全配置,先用一个能对话的产品把“提要求、看输出、改提示词”这个循环跑通。跑通之后,你再去看那些讲原理、讲部署的内容,会发现每一条都能对上你遇到过的问题。

我第一次学的时候,跳过了概念直接去调接口,结果连温度参数是干什么的都不知道,调出来的东西一会儿像机器人一会儿像诗人,折腾了一整晚。从那以后我每次碰一个新模型,都强制先花半小时把它的参数说明和适用场景过一遍,再动手写第一行调用代码。这个习惯帮我省掉了很多本来可以避免的返工。希望帮到你。

本文还有配套的精品资源,点击获取

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询