企业官网建设流程全解析

简介：这是一份围绕DeepSeek本地部署与私有知识库整合的实操教程，面向有技术基础的初学者、个人开发者及希望本地化运行大模型的研发团队。资源包含一个Word文档，整体大小约2.8MB，采用图文步骤形式呈现。教程以Ollama平台为主线，详细讲解其在Windows、macOS、Linux系统上的安装方式，以及环境变量设置、模型保存路径修改、删除模型等基础维护操作；针对不同硬件条件，给出DeepSeek R1各主流版本（如1.5b、7b、14b、32b、70b）的选型建议和对应命令行使用方法；并进一步说明通过API连接云端服务，以及利用Cherry Studio构建个人或企业私有知识库的完整流程，从而实现内部敏感数据的安全问答。文档还附加了视频教程与在线演示平台链接，并对网络攻击等风险提供了替代API方案。目前已有16465人学习下载，适合用作本地部署大模型与知识库场景的实操参考。

1. DeepSeek 本地部署为什么值得折腾：Ollama 加 ChatBox 加 Cherry Studio 的组合能给你什么

先给结论：这套组合解决的不是“能不能跑大模型”的问题，而是“你敢不敢把公司数据放进大模型”的问题。DeepSeek 这类开源模型通过 Ollama 跑在你自己的机器上，ChatBox 负责给你一个像 ChatGPT 一样的聊天界面，Cherry Studio 再把你的本地文档变成模型能检索的知识库——整个过程数据不出内网，这是私有化部署最核心的价值。

适合谁？两类人。一类是手里有内部文档想让它变“可问答”的工程师，比如设备手册、工艺规范、测试报告；另一类是单纯受够了云端 API 的按量计费，想买一张显卡一劳永逸。不过我得先把丑话说在前面：本地部署大模型不是装个软件那么简单，硬件够不够、量化参数怎么选、知识库切块多大会直接影响效果。这篇教程照着做，从安装到跑通大概两小时，但踩过的坑我尽量给你提前填上。

2. 先搞清楚你要跑什么：DeepSeek 的模型选型与硬件底线

2.1 DeepSeek 蒸馏版和原版有什么区别，本地跑该选哪个

DeepSeek 官方放出来的开源模型有好几个尺寸，但本地部署最常见的其实是蒸馏版本。所谓蒸馏，就是拿一个大模型当“老师”，训练一个小模型去模仿它的输出，效果接近但参数少一个数量级。你在 Ollama 的模型库里搜 deepseek，能看到 deepseek-r1:1.5b、7b、8b、14b、32b、70b 这些标签，b 代表十亿参数。

关键判断：你的硬件能扛住哪个，就选哪个。1.5b 和 7b 在普通办公电脑上就能跑，14b 以上建议要有 16G 内存起步，32b/70b 就别想了，老老实实准备双卡或者直接用云。我的做法是给团队装机时统一装 7b 或 8b 版本，推理速度快，生成质量对工程文档问答来说够用。70b 我试过一次，速度和效果确实好，但那是在 4 张 A100 上，跟普通人没关系。

2.2 内存、显存和量化等级：这三个参数决定你能不能跑起来

这里有个新手最容易看走眼的地方：Ollama 跑模型主要吃的是内存，不是显存。不对，准确说是模型加载后常驻内存，推理时优先用显存。如果你的显卡显存不够，模型会退到 CPU 上用内存硬算，速度慢但你至少能跑。我见过太多人一看“7b 模型要 8G 显存”就直接放弃的，其实没有独显的机器也能跑，只是慢。

量化等级是第二个坑。模型文件动辄十几 G，量化就是把这些参数从 16 位浮点数压到 8 位甚至 4 位整数，文件变小、内存占用变低，代价是生成质量轻微下降。Ollama 默认下载的 often 是 Q4_K_M 量化，平衡点选得不错，新手不需要动这个参数。你只要记住一件事：显存不够时优先换更小的模型，不要试图去调量化参数，因为那不是救命的，是添乱的。

什么配置能跑？我给个保守的表：

3. 用 Ollama 在 Windows 上把 DeepSeek 拉起来：安装、换盘、加速一个不少

3.1 Ollama 安装到其他盘：默认装 C 盘的后悔药

Ollama 安装包很小，但模型文件全往 C 盘用户目录塞。一个 7b 模型大概 4.7G，装五六个模型你的 C 盘就告急。官方安装器没提供选择路径的选项，但可以在装完后用环境变量改。

安装完成后，右键“此电脑”选“属性”->“高级系统设置”->“环境变量”，新建一个系统变量，变量名叫 OLLAMA_MODELS，值填你想要存放模型的目录，比如D:\ollama\models。改完必须重启 Ollama，不是在托盘里退出，是去任务管理器把 Ollama 的进程全部结束再重开。这个操作必须在下载模型之前做完，因为下载时模型文件直接落到你指定的目录，中途改路径之后重新拉一次。

我一般在 PowerShell 里执行这样的操作来确认路径生效：

ollama list

如果输出为空，再跑一次拉取命令，然后去D:\ollama\models下看有没有manifests和blobs目录。有这两个目录就说明路径改成功了。这里要提醒你：Ollama 的模型是分块存储的，文件名是哈希值，不要试图手动删某个模型，用命令删。

3.2 解决 Ollama 下载太慢：换源之前先看这个

Ollama 默认从官网仓库拉模型，国内网络经常卡在几十 KB。网上的方案千篇一律告诉你配代理，但这是最不该碰的一条路——公司网络环境下配代理可能直接触发安全告警。我的做法是直接用 OLLAMA_HOST 配合镜像站，但目前可用的稳定镜像不多，还有个更土但有效的方案：找一台网络好的机器，把模型目录整个拷过来。

具体说，你在一台能正常下载的机器上执行：

ollama pull deepseek-r1:7b

然后找到模型目录，把整个文件夹复制到目标机器的相同路径下，再在目标机器上执行ollama list，你会发现模型已经在列表里了。这是因为 Ollama 的模型是自包含的文件块，换个机器只要路径一致就能直接识别。这个方法我在离线内网环境用过很多次，比什么加速器都靠谱。

3.3 首次把 DeepSeek 跑起来的最小命令

装完 Ollama 后，打开 CMD 或 PowerShell，执行：

ollama run deepseek-r1:7b

第一次执行会自动下载模型，耐心等进度条走完，然后你会进入一个交互式的对话界面，直接输入问题就能得到回答。这一步成功的标志是你可以像聊天一样问它“给我写一段 Python 读 JSON 的代码”，它会在几秒内开始输出。

退出对话用/bye。如果跑完一条命令后想看看后台服务状态，用ollama serve是前台启动，默认情况下 Ollama 装完就已经把服务挂在后台了，端口是 11434，ChatBox 和 Cherry Studio 都是通过这个端口连上它的。要测试服务是否正常，浏览器访问http://localhost:11434，页面显示 Ollama is running 就说明服务活着。

4. ChatBox 和 Cherry Studio 的分工：一个做聊天壳，一个做知识库

4.1 ChatBox 接入本地 Ollama：三分钟搞定对话界面

ChatBox 就是个纯粹的聊天界面客户端，Windows 和 macOS 都有安装包。它的定位是把你电脑上跑着的 Ollama 包装成 ChatGPT 的样子，但本质它只是个 API 客户端，不负责模型推理。

安装后打开，设置里选“自定义模型供应商”，API 地址填：

http://localhost:11434

模型名填你在 Ollama 里已经拉好的名字，比如deepseek-r1:7b。填完点连接，如果界面上出现可用的模型列表，就说明 ChatBox 和 Ollama 之间的通信是通的。这里有条非常实在的经验：如果连接失败，先去确认 Ollama 是否在运行，别一上来就怀疑配置。Windows 上最常见的失败原因是 Ollama 的托盘图标没亮，直接去启动菜单重新点一下。

ChatBox 还有个好用的小功能：它可以同时配多个模型供应商，同一个界面上切来切去。我一般把内网大模型和公网 API 都配上，日常用本地，遇到复杂问题临时切云端的，比开两个窗口方便。

4.2 Cherry Studio 是怎么做私有知识库的：嵌入向量和检索的原理

Cherry Studio 是当前少见的把“聊天 + 知识库”整合在本地端的工具。它的原理不神秘：先把你的 PDF、Word、TXT 文档切成一堆文本块，每个块用嵌入模型转成一组向量数字，这些向量存进本地向量数据库，当你提问时，把问题也转成向量，然后找“距离最近”的文档块，把这些块拼到提示词里喂给大模型——这就是所谓的 RAG 检索增强生成。

理解这个流程对调参很重要。你不需要知道向量怎么算的，但要知道三件事：第一，文档先切块，切多大直接影响检索准确性；第二，嵌入模型决定“语义相似”的判定质量；第三，检索到的文本块会被拼到提示词里，所以知识库内容的原始格式越规范，大模型回答越准。Cherry Studio 把这些都封装好了，比那些需要自己写脚本调库的方案简单太多。

4.3 用 Cherry Studio 建第一个本地知识库：文档导入到问答全流程

Cherry Studio 需要你先把本地大模型的 API 地址接到设置里，方法跟 ChatBox 一样，指向 localhost:11434。然后新建知识库，把文档拖进去。但它有个硬性条件：嵌入模型必须提前下载好，否则文档导入了也检索不了。

第一次用会卡在这里：嵌入模型从哪来？Cherry Studio 内置了模型下载功能，也要走网络。我的建议是选一个小体积的嵌入模型，比如 100M 左右的就行，几十 G 的大嵌入模型对本地知识库性价比极低。下载完成后，在知识库设置里选中它，再导入文档。

导入完成后，提问时切换一下对话模式。一个典型的实验是：把设备操作手册 PDF 丢进去，问“停机报警后第一步做什么”，如果回答能引出手册里的原文步骤，就说明整个链路通了。这个实验建议每个第一次用的人先做，因为它能同时验证三件事——Ollama 的推理、嵌入模型的向量化、检索的准确性。

5. 避坑指南：这五个问题不解决，你的部署就是纸糊的

5.1 现象：Ollama serve 段错误，服务启动秒退

原因: 这个通常发生在 Windows 上，多半是 Ollama 版本与系统组件有冲突，或者模型目录路径里含中文。我在一台电脑上遇到过一模一样的情况——服务启动后几秒内闪退，日志里什么都不留。

解决: 先查路径。OLLAMA_MODELS 环境变量值不能有中文或特殊字符，改成纯英文路径。如果路径没问题，试试把 Ollama 完全卸载重装最新版，装的时候右键“以管理员身份运行”。还有一个冷门原因：你的杀毒软件把模型文件当病毒隔离了，去隔离区看看有没有ollama相关的文件，有就恢复并加入白名单。其实，杀毒软件误杀大模型文件还挺常见的，不是段错误才遇到，模型运行中途报错也值得看一眼。

5.2 现象：环境变量改了没用，模型还是下载到 C 盘

原因: Ollama 在系统启动时读取环境变量，你改完变量但服务没有完全重启。很多人把窗口关掉再打开，但后台进程还在。

解决: 改完环境变量后打开任务管理器，把所有带 Ollama 字样的进程全部结束，再重新启动。启动完成后验证：

echo $env:OLLAMA_MODELS

输出必须是你新设的路径。如果输出为空或显示旧值，说明环境变量没保存成功，回去重新检查系统变量那一步，注意不要拼错变量名。

5.3 现象：ChatBox 连不上 Ollama，API 地址报错

原因: 两个软件不在一个环境里。最常见的是 Ollama 安装在 Windows 上，而 ChatBox 用了 WSL 的 localhost 或者反过来，两边 IP 对不上。其次是 Ollama 服务没开。

解决: ChatBox 地址换成http://127.0.0.1:11434而不是localhost。如果还不行，在 Ollama 服务端执行：

ollama serve

手动把服务拉起来，看有没有打印错误。再不行就查防火墙，把 11434 端口加进入站规则。Windows 防火墙经常默认拦截本地回环地址，这个坑踩的人非常多。

5.4 现象：知识库回答得驴唇不对马嘴，问东答西

原因: 大概率不是模型笨，是检索环节出了问题。文档切块太大，导致检索到的文本块里混入了大量无关内容；要么是嵌入模型选得太弱，语义相似度算不准。

解决: 去 Cherry Studio 的知识库设置里把切块大小调小。怎么调？我一般把切块调到 200 到 300 字左右，重叠部分留 50 字。这种设置适合设备手册和技术文档。另外，换更强一点的嵌入模型，别用那种 30M 的迷你版。还有，导入文档前先检查文档本身有没有扫描件、图片型 PDF，那种文档你切得再好也检索不出内容。

5.5 现象：模型生成速度慢到让人怀疑人生

原因: 显存不够，模型被挤到 CPU 上计算；或者是内存不够，系统在内存和硬盘之间疯狂交换数据。

解决: 运行模型前看任务管理器里的显存占用。如果模型加载过程显存顶满，而内存占用还在持续上涨，说明它正用 CPU 硬扛。这时候要么换更小的量化模型，要么升级硬件。我见过最离谱的案例是有人用 8G 内存跑 70b 模型，结果系统卡到鼠标都挪不动——那已经不是慢的问题，是内存耗尽后系统在做磁盘交换。另外还有一个很多人不知道的小技巧：Ollama 支持OLLAMA_NUM_PARALLEL控制并发数量，默认设大了一点，本地单用户场景改成 1 就够了，能省不少内存。

6. 进阶玩法：用本地知识库做设备故障诊断，以及我踩过最贵的一课

在你把整套东西跑通后，最值得做的进阶验证是把它接到真实工作流里。我自己的做法是建了一个“设备故障处理”知识库，把过去三年的维护工单、故障记录、维修手册全部导入。刚开始效果不理想，回答像是从不同文件里把话拼在一起的，后来我总结出一个教训：知识库的质量取决于文档的预处理，不是模型的本事。

我对文档做三件事：第一，把 PDF 转成可搜索的文本，扫描件先 OCR；第二，统一命名和分类，故障类的文档放在一个文件夹，保养类的放另一个；第三，删掉故障工单里的重复项。做这三件事之后，回答质量肉眼可见地提升。查文档的同事说，这台机器比去档案室翻记录快太多了。

最贵的一课是什么？有次我把一个带“内部”字样的工艺参数文件放进知识库，顺手做了一次分享给同事的导出。第二天主管找我谈话，说这份文件不该出现在那台可以接内网的电脑上。不是安全问题，是权限问题。所以我可以明确告诉你：本地知识库不等于可以随便塞文件，你仍然要遵守公司的数据分级规定。部署方案是技术活，权限意识是职业习惯，两者不能互相替代。

最后说一个我到现在还保持的习惯：每换一台机器或更新一次模型，我都用同一组问题做回归测试——问三个简单问题、两个复杂问题、一个知识库检索问题，比对前后的答案质量。这比任何花哨的配置都踏实。这套组合，你值得为它投入一到两个小时，它能换来的不只是省下 API 费用，而是一条真正属于自己的数据链路。希望帮到你。

本文还有配套的精品资源，点击获取