☰
软考中级数据工程考点梳理:从数据治理到数据仓库一网打尽
2026/10/14 5:08:24 网站建设 项目流程

软考中级备考翻到第6章数据工程的时候,我猜很多人都会有一种“看了个寂寞”的感觉:概念一个接一个,元数据、主数据、数据湖、数据治理、星型模型……每个字都认识,连在一起就是记不住。更麻烦的是,这章不像项目管理那样有清晰的过程组可以串起来,知识点零零散散,合上书仿佛没学过。

这篇笔记就是专门解决这个问题的。我把第6章从“字面意思”变成“考点语言”,按我们备考真正需要的粒度拆开,配上我自己的记忆方法和踩坑记录。不管你是刚开始第一轮看书,还是已经进入刷题阶段,这篇都能直接当复习大纲用。想搞清楚数据工程到底考什么、怎么记、怎么不丢分,往下读就对了。

1. 第6章在软考中级里的真实位置

1.1 这一章到底考什么,为什么值得单独写笔记

先说结论:第6章属于软考中级里“技术知识”板块中最体系化的一章。官方教程里它正好卡在信息系统集成技术和新一代信息技术之间,前面讲网络、集成,后面讲云计算、物联网、大数据,数据工程起到一个承上启下的作用。

从历年真题看,上午选择题大概会出2到4道,下午案例分析偶尔会结合项目背景来考数据质量、数据集成或者数据治理这些点。分值不算特别高,但性价比很意外地高——因为这章考得非常“直白”,概念题居多,记住了就能拿分,不像项目管理案例那样需要绕来绕去分析。

这一章的定位决定了复习策略:它考的不是你能不能写出SQL,也不是让你去实现一个大数据平台,而是考你对数据工程整体框架的认知和基础概念的辨析。官方教程把整章分成了数据采集、存储、治理、建模、集成、挖掘、服务这么几条线,实际上就是一个完整的数据生命周期。你只要顺着“数据从哪里来、放在哪、怎么管、怎么用、怎么服务业务”这条主线去理解,整章就不会散。

1.2 备考思路:把这章当知识清单,而不是技术手册

第一次翻这章的人最容易犯一个错误:纠结技术细节。比如看到数据存储就想去搞懂HDFS的副本机制,看到数据挖掘就想把决策树公式推一遍。这不是软考中级的要求,这是给自己加戏。

我自己的备考感受是,这一章应该当作“知识清单”来学。每个知识点只抓四件事:是什么、有哪些分类、解决什么问题、典型工具或场景是什么。举个例子,看到“数据仓库”,你不需要知道底层分区表怎么做,但你要能说出来它是面向主题的、集成的、非易失的、随时间变化的,并且记住它和OLAP绑定;看到“数据湖”,你要知道它是用来存原始格式的海量异构数据的,和仓库形成对比。

按照这个思路,我整理第6章时把所有概念都压缩成了表格和短句,而不是大段抄书。这也直接决定了后面每一节的笔记风格:能一句话说清的绝不用一段话,能用表格对比的绝不靠脑袋硬记。接下来我就把我整理出来的考点体系完整展开,你可以直接当复习提纲用,也可以对照自己手里的教材补笔记。

2. 数据工程核心考点逐个拆解

2.1 数据采集与预处理:源头在哪、脏数据怎么处理

数据工程的第一步是数据采集,考点集中在“方式”和“工具类别”上。数据采集大致分两类:批量采集和实时采集。批量采集就是定时的、一次性的把业务库数据搬过来,比如每天凌晨把交易数据同步到分析库;实时采集则是流式的,数据一产生就马上抓取,典型场景是日志上报、传感器数据回流。

不管用哪种方式,采集上来的数据都不能直接用,这就是数据预处理存在的意义。预处理的常见手段包括数据清洗、数据转换、数据规约。数据清洗负责处理缺失值、重复值和异常值,比如某张表的用户年龄字段有空值,要么用平均值补齐,要么直接删除该条记录;数据转换主要做格式统一和规范化,比如日期格式、单位换算;数据规约则是通过删列、聚合等方式减少数据量,让后续分析更高效。

这里有个记忆技巧:清洗是“把脏的弄干净”,转换是“把乱的变整齐”,规约是“把大的弄小”。三个词各管一件事,考试时考“下列属于数据清洗的是”,你能直接对应上操作级别就行。

注意:软考考预处理时特别喜欢把“数据采集”“数据集成”和“数据清洗”混在一起出干扰项。数据集成是把多个来源的数据合并到一起,清洗是对单份数据做质量处理,顺序上一般是先采集、再清洗、再集成。这个先后关系要拎清。

2.2 数据存储体系:从文件系统到大数据的演进

数据存储是第6章里概念最密集的一节,也是最容易丢分的一节。因为很多概念彼此有交集,比如关系型数据库、NoSQL、数据仓库、数据湖、数据集市,还有OLTP和OLAP,它们不是“同一个维度”的分类,但经常被放在一起比较。

先从最基础的说起。关系型数据库是传统业务系统的主力,强调事务一致性,典型场景是订单、账户这类需要严格ACID的应用。它对应的处理模式是OLTP,也就是联机事务处理,特点是大量短小的事务操作,关注并发和响应时间。而OLAP是联机分析处理,面向的是查询和分析场景,数据量很大但写入很少,关注的是复杂查询的响应速度。数据仓库本质上就是为OLAP而生的,所以它有几条硬性特点:面向主题、集成、非易失、随时间变化。

和关系型数据库并列的另一大类是NoSQL。NoSQL不是“不要SQL”,而是“不仅仅是SQL”,它牺牲掉一部分事务性来换取海量数据下的扩展性和性能。考试里常考的NoSQL分类有四类:键值存储(典型是Redis)、文档存储(典型是MongoDB)、列式存储(典型是HBase)、图数据库(典型是Neo4j)。复习时要能做到“看到场景选类型”,比如社交好友关系用图数据库,会话缓存用键值存储,海量日志分析用列式存储。

这里还要分清数据仓库和数据湖。一句话记忆:数据仓库存的是“清洗整理好的、结构化程度高的数据”,数据湖存的是“原始数据,什么格式都有,先存了再说”。数据湖更灵活,适合做探索式分析;数据仓库更规范,适合支撑稳定报表和指标体系。而数据集市就是部门级的小型数据仓库,面向某一类主题或一个业务线。

这节的概念关系我用过一张速记表格,后面第3节会一起放出来,比看十页书都管用。

2.3 数据治理与数据建模:管理层面与技术手段

很多人学到数据治理这节会突然觉得“怎么不像技术章了”,因为它讲的是标准、制度、流程这些东西。别怀疑,这正是软考爱出题的地方,因为数据工程不只有技术,数据治理恰恰是项目落地时最容易出问题的环节。

数据治理的核心内容可以分成几块:数据标准化(统一编码、统一命名)、数据质量管理、元数据管理、主数据管理、数据安全与合规。考试里出现频率最高的是数据质量和元数据,这两个一定要背熟。

数据质量通常从四个维度衡量:完整性、准确性、一致性、及时性。完整性看数据有没有缺失,准确性看数据对不对,一致性看同一数据在不同系统里是否矛盾,及时性看数据新不新鲜。案例题如果描述“系统A和系统B同一客户的姓名不一致”,你要能立刻反应出来这是一致性问题,而不是准确性问题。这四兄弟的边界看起来模糊,实际上每年都有考生在细节上翻车。

元数据是“描述数据的数据”,比如字段名、类型、长度、含义,最常见的就是数据字典。主数据则是企业的核心业务实体数据,比如客户、产品、供应商,它跨系统共享、相对稳定、价值高。注意区分元数据和主数据,元数据是“关于数据的信息”,主数据是“核心业务数据本身”,这两个短语考试特别喜欢放在一起做干扰。

数据建模这节是技术性最强的部分,但软考中级考得不深。你只需要掌握建模的三个层次——概念模型、逻辑模型、物理模型。概念模型面向业务人员,常用ER图;逻辑模型面向设计人员,定义实体、属性、关系但不依赖具体数据库;物理模型面向开发人员,落地成实际的表结构。另外还有一个常考知识点是维度建模,包括星型模型和雪花模型。星型模型是一张事实表加若干维度表,雪花模型是把维度表继续规范化拆分。考试只要考到,基本就是让选星型模型的好处:查询性能高、结构清晰、易于理解。

2.4 数据集成、挖掘与服务:数据的流通与变现

数据集成这节绕不开ETL,这三个字母是必背项:抽取(Extract)、转换(Transform)、加载(Load)。考试会考ETL在哪个环节发生,比如从业务库抽取到临时区做清洗转换,再加载进数据仓库,这就是一条标准的ETL链路。

需要提醒的是,ETL的“转换”和数据预处理的“转换”不是一个粒度。ETL是整条数据流水线的环节,预处理里的转换是更微观的数据操作。做选择题时看到“数据转换”要结合上下文判断说的是哪一层,不要条件反射选错。

数据挖掘这一节,考纲要求很浅,核心是掌握挖掘任务的类型:分类、聚类、关联规则、预测。分类是有监督的,先有标签数据训练模型,比如贷款申请是批准还是拒绝;聚类是无监督的,没有标签,按相似度把数据分组;关联规则最典型的例子就是购物篮分析,“买了尿布的顾客常常也买啤酒”;预测包括回归和时序,核心是估计未来数值。

我复习时没有去背算法公式,只记了一个对应关系:分类看决策树、聚类看K-Means、关联规则看Apriori。考试永远只考到“这个算法属于哪种任务”的层面,不会让你手算。

数据服务听起来抽象,其实就是数据怎么对外提供价值。常见形式包括数据API、数据共享交换平台、数据可视化、数据分析报告。这一节考点最少,但要注意“数据服务”和“数据挖掘”分属不同阶段——挖掘是分析过程,服务是交付方式。案例题中可能会问“项目中的数据API设计属于哪一类”,你要知道这归在数据服务环节。

3. 我的笔记精华:必背表格与易错对照

3.1 高频考点速记表

这一小节把我笔记里最常拿出来翻的两张表原样放出来。第一张是存储体系对比表,第二张是数据质量四维度速记表。考前最后一天如果时间不够,看这两张表比看教材效率高得多。

对比维度关系型数据库NoSQL数据仓库数据湖
数据格式结构化多样结构化为主任意格式
典型场景业务事务处理高并发/海量数据分析报表/决策支持探索式分析/机器学习
处理模式OLTP按类型各有不同OLAP批处理/流处理
关键特点事务一致性扩展性/灵活性面向主题/集成/非易失/时变原始存储/廉价存储
数据质量维度一句话记忆典型描述
完整性不缺项用户联系电话为空
准确性数值对订单金额计算错误
一致性不矛盾两个系统客户名称不一致
及时性够新鲜日报数据延迟了一天

这两张表覆盖了第6章最容易出直接概念题的点。说句实在话,我备考时就是把这种对比表打印出来贴在桌前,每天路过瞄两眼,比刻意背效果要好。

3.2 最容易搞混的六组概念

除了表格,我还专门整理了一份“易混清单”,每一组都是真题干扰项的热门来源。

第一组是OLTP与OLAP。OLTP是面向业务操作,事务短小频繁,要求并发高;OLAP是面向分析决策,查询复杂,要求扫描数据量大。考试会让你根据“大量历史数据、复杂聚合”这类描述选OLAP,基本送分。

第二组是数据仓库与数据湖。仓库存的是经过整理的结构化数据,适合固定报表;湖存的是原始数据,保留全部细节,适合未知探索。区分的关键词就是“是否经过处理”。

第三组是元数据与主数据。元数据描述数据是什么,主数据是核心业务实体。一个客户表里的“客户编号”字段值是主数据,这个字段的“名称、类型、长度”定义是元数据。我一开始总混,后来拿这句话反复默念就记住了。

第四组是数据清洗与数据集成。清洗是把脏数据变干净,集成是把多源数据合并到一起。顺序上清洗通常先于集成,但有时也会在集成之后做一轮清洗,考试不会考这么细,记住“一个是质量处理,一个是数据合并”就够。

第五组是分类与聚类。分类有预先定义的标签,属于有监督学习;聚类没有标签,靠相似性分组,属于无监督学习。记法很简单:分类是“对号入座”,聚类是“物以类聚”。

第六组是星型模型与雪花模型。星型是事实表直接连接若干维度表,结构简单、查询性能好;雪花是维度表继续拆分,更规范化但查询要多做几次连接。软考出题通常只让选星型模型的特点,基本答案都是“查询性能高、结构简单”。

3.3 案例分析题里的数据工程套路

第6章很少单独出现在下午的案例题里,但它常常作为“背景某个项目的数据模块”来设计问题。我观察真题总结出三种高频案例考法。

考法一:让指出项目中的数据问题属于哪个质量维度。比如题目描述“数据仓库中同一个客户多条记录,姓名有的写‘张三’有的写‘张 三’”,这既涉及准确性也可能涉及一致性,答案通常从维度定义去匹配,优先选最明显的那个。这类题就是送分题,但前提是你把四个维度定义吃透了。

考法二:让设计数据集成方案或说明ETL过程。描述一个业务系统每天要导出数据到数据仓库,问你存在什么问题、怎么改进。这时要往数据质量、数据标准、自动化程度这些方向答,把章节里“治理”的知识点变成解决方案。

考法三:让判断存储选型是否合理。题目给一个场景,比如实时传感器数据、海量异源数据,问用关系型数据库还是数据湖。你要能抓住场景关键词:实时高并发、数据量大、格式杂——对应NoSQL或数据湖;事务性强、要求一致性——关系型数据库。

案例题不用答得多深,但一定要有“术语意识”。把“数据治理”“数据标准”“数据质量”这些词自然用进去,比长篇大论写操作细节得分率高。因为阅卷看的是你有没有把概念和场景对应起来。

4. 学习笔记怎么做才不白做

4.1 四层笔记法:从框架到卡片

笔记不是抄书,这是我备考第6章最大的心得。我用的是四层笔记法,一层比一层细,背起来压力越来越小。

第一层是思维导图,用来搭框架。把第6章拆成“采集、存储、治理、建模、集成、挖掘、服务、大数据”八大块,每块写三五个关键词。这一步只花半小时,目的是脑子里先有个地图,知道每个知识点在哪里。

第二层是表格汇总,用来做对比。前面列的那些对比表、易混清单都属于这层。表格的好处在于把相似概念放成一排,差异一眼就能看出来,记忆负担最低。

第三层是问答卡片,用来做自测。我把每个考点改写成“问答题”,比如“数据仓库的四个特征是什么”“数据预处理包括哪几项”,写在卡片正面,回答写在背面。碎片时间掏出来翻几张,不是纯背概念,而是逼自己回忆。

第四层是真题标注,用来做校准。每次做真题遇到第6章的题,我会在笔记本对应知识点旁边标记题号和错误原因。比如某道题错在“没区分元数据和主数据”,我就在这两个词旁边画个重点符号。这层笔记是最精准的复习依据,考前翻一遍错误标记,比自己瞎猜重点可靠得多。

4.2 用真题反推笔记重点

做笔记前先花一小时把近三年真题里涉及第6章的题全部圈出来,这一小步能帮你省掉大把复习时间。

我实际操作时,先把真题考过的知识点统计了一遍,发现高频的集中在数据质量维度、存储选型、ETL过程、元数据和主数据辨析这几个点上。这些我就在笔记里标注“高频”,复习时优先背;没怎么考过的深枝末节,比如某些冷门算法细节,直接降级处理。

这里有个很容易被忽略的细节:软考的重复率很高,考点就在大纲圈定的范围内换来换去。所以从真题反推出来的“重点清单”,基本就等于考纲内的实际重点清单。我的建议是别自己盲猜重点,让真题帮你猜。

4.3 每周一次的“过电影”记忆法

笔记做得好,不等于记得住;记得住,也不等于考场上能提取出来。我每周会抽一个晚上,合上笔记,拿张白纸,把第6章的框架从头默写一遍,名字叫“过电影”。

具体做法是:先默写八大知识块的名称,再默写每块下面的核心术语,能默写出多少写多少,写不出来的就是漏洞。比如写数据存储这一块,我要求自己至少能写出关系型、NoSQL四类、数据仓库四特征、数据湖、数据集市这六个关键点。写完再和笔记对一遍,把漏掉的用红笔补上。

这个方法看着笨,实际效果非常好。因为第6章的知识点本身就适合“关键词回忆”,只要框架在你脑子里,具体概念往框架里填就容易多了。而且这个过程每周只有一次,完全不会有复习负担。

5. 备考踩坑记录与实用建议

5.1 时间分配与答题策略

如果你正在规划第6章的复习时间,我的建议是:第一轮看书控制在3小时以内,只做框架梳理和概念理解;第二轮结合真题和笔记,花2小时把高频考点表格化;第三轮考前一周,用记忆清单快速过一遍,每天20分钟“过电影”;第四轮考前当天,只看易混清单和错误标记。

这个节奏是我踩过坑之后才总结出来的。一开始我在数据存储那节死磕技术细节,花了整整一下午,结果做题照样错,后来才明白软考中级不是技术考试,是“概念识别考试”。认清这一点之后,第6章的复习效率至少提高了一倍。

5.2 常见问题速查表

备考群里经常有人问一些重复问题,我把最典型的五个整理成表,附上我的答案。

常见问题我的答案
要不要背数据挖掘算法细节?只背算法对应的任务类型,不用背公式和流程细节。
数据湖和数据仓库会不会考哪个?两个都会考,但考的是概念对比,比如“哪个更适合存原始数据”。
这章的内容和后面大数据章节重复吗?会有交叉,但第6章是基础概念,后面更偏技术应用,复习时以第6章概念为准。
案例题怎么用这章知识点作答?抓住术语关键词,比如数据质量维度、数据治理措施、数据集成流程,往场景里套。
笔记表格太多,背不完怎么办?先背高频表,也就是第3节那两张表加易混清单,其余能理解就行。

最后还有一条建议:做第6章的选择题时,别凭感觉选,一定要圈出题干里的“关键描述词”。看到“面向主题”选数据仓库,看到“原始数据、任意格式”选数据湖,看到“事务、一致性”选关系型数据库,看到“超大规模、高并发”往NoSQL想。这个方法基本能覆盖这章70%以上的概念题。

第6章的学习笔记写到这里,我最后想说的是,数据工程这一章不算难,但特别考验归纳能力。我自己刚开始复习时被一堆新名词吓住了,后来用“框架+表格+卡片+真题”这套打法,很快就理顺了。它的价值也不只是通过考试——哪怕以后做信息系统项目,遇到客户谈数据整合、数据治理,你脑子里已经有一套专业框架,沟通起来完全不同。按照上面的方法把这章过一遍,你可以很自信地说一句:数据工程这章,稳了。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询