☰

企业官网建设流程全解析

首页 / 建站日记 / 企业官网建设流程全解析
GLM-OCR模型部署精讲：在VMware虚拟机中配置GPU加速环境
2026/6/3 23:46:19 网站建设 项目流程

GLM-OCR模型部署精讲：在VMware虚拟机中配置GPU加速环境

如果你是一名开发者，想在本地电脑上搭建一个既能做开发测试、又能利用GPU加速的AI环境，那么这篇文章就是为你准备的。很多朋友可能觉得，在虚拟机里用GPU是件挺麻烦的事，尤其是想跑像GLM-OCR这样的视觉模型，总担心性能跟不上或者配置太复杂。

今天，我就来带你一步步搞定这件事。我们会在VMware虚拟机里，配置好GPU加速环境，然后把GLM-OCR模型部署起来跑通。整个过程我会尽量讲得明白，把那些容易踩坑的地方都指出来。你不用有太深的虚拟化或者CUDA背景，跟着做就行。

1. 准备工作：理清思路与检查清单

在动手之前，我们先搞清楚我们要做什么，以及需要准备些什么。这能帮你少走很多弯路。

我们的目标很明确：在一台安装了VMware的物理主机上，创建一个虚拟机，让这个虚拟机能够“借用”主机的物理GPU来加速计算，最后在这个配置好的虚拟机里部署并运行GLM-OCR镜像。

听起来好像步骤不少，但其实可以分解成三个核心阶段：

  1. 主机与虚拟机准备：确保你的物理机硬件和VMware软件支持GPU直通或虚拟化，并创建一个合适的虚拟机。
  2. GPU环境配置：这是最关键的一步，让虚拟机识别并使用主机的GPU，包括安装必要的驱动和CUDA工具包。
  3. GLM-OCR部署与验证：在配置好的GPU环境中，拉取并运行GLM-OCR的Docker镜像，测试OCR功能是否正常工作。

为了顺利进行，请先核对一下你的“装备”：

  • 物理主机：需要有一块NVIDIA的独立显卡。这是GPU加速的硬件基础。
  • 宿主机系统：Windows 10/11 或 Linux 都可以，但需要已安装对应显卡的驱动程序。
  • VMware Workstation Pro/Player：建议使用较新的版本（如17.x），对GPU虚拟化支持更好。本文以Workstation Pro为例。
  • 虚拟机系统：我们将使用Ubuntu 22.04 LTS。它社区支持好，软件包丰富，是AI开发的热门选择。你需要提前准备好ISO镜像文件。
  • 稳定的网络：后续需要下载安装包和Docker镜像。

好了，清单核对完毕，我们正式开始。

2. 阶段一：创建与准备Ubuntu虚拟机

首先，我们得有一个“房子”（虚拟机），才能在里面搞装修（配置环境）。

2.1 创建新的虚拟机

打开VMware Workstation，点击“创建新的虚拟机”。选择“典型”配置即可。

  1. 安装来源：选择“安装程序光盘映像文件(iso)”，然后浏览找到你下载的Ubuntu 22.04 ISO文件。
  2. 个性化：给你的虚拟机取个名字，比如GLM-OCR-GPU-VM。设置用户名和密码，这个密码要记住，后面常用。
  3. 指定磁盘容量：建议至少分配50GB。选择“将虚拟磁盘拆分成多个文件”，这样迁移和备份会更灵活。
  4. 硬件自定义（关键步骤）：在最后一步，先别急着点完成，点击“自定义硬件”。
    • 内存：建议分配至少8GB（8192 MB），如果主机内存充裕，16GB会更流畅。
    • 处理器：核心数建议给2个或以上。勾选“虚拟化Intel VT-x/EPT或AMD-V/RVI”选项，这对后续某些虚拟化功能有益。
    • 新CD/DVD：确认已关联到你的Ubuntu ISO文件。
    • 网络适配器：选择“NAT模式”，这样虚拟机就能通过主机上网了。
    • USB控制器：建议存在，方便未来传文件。
    • 打印机：通常用不到，可以移除以节省资源。
  5. 点击“关闭”，然后点击“完成”。虚拟机就创建好了。

2.2 安装Ubuntu系统

现在，启动这台新虚拟机，它会从ISO镜像引导进入Ubuntu安装界面。

  1. 选择“Install Ubuntu”。
  2. 语言选择“中文(简体)”，然后点击“继续”。
  3. 键盘布局选择“Chinese”，继续。
  4. 在“安装类型”页面，保持默认的“正常安装”和“为图形或无线硬件，以及其它媒体格式安装第三方软件”为选中状态，点击“继续”。
  5. 在“安装类型”最关键的一步，选择“清除整个磁盘并安装Ubuntu”（不用担心，这只是清空虚拟机的虚拟磁盘，不会影响你主机上的数据）。点击“现在安装”。
  6. 弹出确认对话框，点击“继续”。
  7. 设置时区，地图上点击“Shanghai”即可。
  8. 再次确认你的用户名和密码，点击“继续”。
  9. 接下来就是自动安装过程，泡杯茶休息一下。安装完成后，提示重启，点击“现在重启”。重启后，输入密码登录，一个崭新的Ubuntu桌面环境就准备好了。

进入系统后，第一件事是打开“终端”，运行系统更新，确保所有软件包是最新的：

sudo apt update && sudo apt upgrade -y

更新完成后，建议再次重启虚拟机。

3. 阶段二：配置虚拟机GPU加速环境

这是最具挑战性但也最核心的部分。VMware虚拟机使用物理GPU主要有两种方式：直通（Passthrough）和虚拟GPU（vGPU）。对于个人开发测试，虚拟GPU是更通用、更简单的方式，也是我们本次教程采用的方法。

3.1 在VMware中启用虚拟GPU

首先，你需要完全关闭刚才安装好的Ubuntu虚拟机（不是挂起）。

  1. 在VMware的虚拟机库中，右键点击你的GLM-OCR-GPU-VM，选择“设置”。
  2. 在“硬件”选项卡中，点击“添加...”。
  3. 在弹出的硬件类型中，选择“PCI设备”，点击“下一步”。
  4. 这时，你应该能在列表里看到你主机的NVIDIA显卡（例如NVIDIA GeForce RTX 4060）。勾选它。
  5. 点击“下一步”，然后“完成”。你会看到硬件列表里多出了一个“PCI设备”。
  6. 至关重要的一步：选中这个新添加的PCI设备，在右侧详情中，你会看到一个选项：“在客户端操作系统中预留所有内存”。务必勾选这个选项。这能确保GPU内存被完整分配给虚拟机，避免性能问题。
  7. 点击“确定”保存设置。

现在，启动你的Ubuntu虚拟机。

3.2 在Ubuntu虚拟机内安装NVIDIA驱动

虚拟机启动后，我们需要在Ubuntu内部安装能让系统识别这块“虚拟”出来的GPU的驱动程序。

  1. 首先，检查系统是否检测到了新的显示设备。打开终端，输入：
    lspci | grep -i nvidia
    如果输出中包含你的NVIDIA显卡型号信息，恭喜你，第一步成功了。
  2. Ubuntu提供了一个非常方便的工具来安装专有驱动。打开“软件和更新”应用。
  3. 切换到“附加驱动”选项卡。系统会自动扫描可用的驱动程序。你应该能看到一个由NVIDIA Corporation提供的驱动列表（例如：“使用NVIDIA driver metapackage来自nvidia-driver-535 (专有)”）。
  4. 选择一个推荐的版本（比如535），点击“应用更改”。系统会要求你输入密码，然后自动下载并安装驱动和相关的依赖包。
  5. 安装完成后，必须重启虚拟机。

重启后，再次打开终端，输入以下命令验证驱动是否安装成功：

nvidia-smi

如果这个命令能正常运行，并输出一个包含GPU型号、驱动版本、CUDA版本（可能显示为N/A，因为还没装CUDA）等信息表格，那么驱动就安装妥当了。这是你看到的第一个胜利标志！

3.3 安装CUDA Toolkit与cuDNN

光有驱动还不够，我们还需要CUDA这个计算平台和cuDNN这个深度神经网络加速库。

  1. 访问NVIDIA官网的CUDA Toolkit下载页面。选择适合的版本：
    • Operating System: Linux
    • Architecture: x86_64
    • Distribution: Ubuntu
    • Version: 22.04
    • Installer Type:runfile (local)选择runfile安装方式能给我们更多控制权，避免与系统包管理器冲突。复制给出的安装命令，它看起来像：
    wget https://developer.download.nvidia.com/compute/cuda/12.3.2/local_installers/cuda_12.3.2_545.23.08_linux.run sudo sh cuda_12.3.2_545.23.08_linux.run
  2. 在终端中，依次运行下载和安装命令。在安装界面中：
    • 按空格键取消勾选“Driver”，因为我们已经装好了。
    • 确保“CUDA Toolkit”被选中。
    • 可以修改安装路径，但默认的/usr/local/cuda-12.3通常没问题。
    • 点击“Install”开始安装。
  3. 安装完成后，需要将CUDA添加到系统环境变量。编辑你的~/.bashrc文件：
    nano ~/.bashrc
    在文件末尾添加以下几行：
    export PATH=/usr/local/cuda/bin:$PATH export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
    保存并退出（按Ctrl+X，然后按Y，再按Enter）。让配置生效：
    source ~/.bashrc
  4. 验证CUDA安装：nvcc --version应该能输出CUDA编译器的版本信息。
  5. 接下来安装cuDNN。你需要先在NVIDIA开发者网站注册并登录，然后下载与CUDA 12.x版本对应的cuDNN Local Installer for Linux (x86_64)的tar文件。
  6. 下载后，在终端中执行以下命令（请将文件名替换为你下载的实际文件名）：
    tar -xvf cudnn-linux-x86_64-8.9.7.29_cuda12-archive.tar.xz sudo cp cudnn-*-archive/include/cudnn*.h /usr/local/cuda/include sudo cp -P cudnn-*-archive/lib/libcudnn* /usr/local/cuda/lib64 sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*
  7. 至此，GPU的软件环境就全部配置完成了。再次运行nvidia-smi，这次在CUDA Version那一栏应该能看到具体的版本号（如12.3），而不再是N/A了。

4. 阶段三：部署与运行GLM-OCR

环境已经就绪，现在让我们把主角GLM-OCR请上场。我们将使用Docker来部署，这是最干净、最不容易出问题的方式。

4.1 安装Docker与NVIDIA Container Toolkit

  1. 首先，在Ubuntu虚拟机中安装Docker引擎。可以使用官方提供的便捷脚本：
    curl -fsSL https://get.docker.com -o get-docker.sh sudo sh get-docker.sh
    安装完成后，将你的用户加入docker组，这样就不用每次都加sudo了：
    sudo usermod -aG docker $USER
    重要：执行此命令后，你需要完全注销当前用户并重新登录，或者重启虚拟机，才能使组权限生效。
  2. 安装NVIDIA Container Toolkit，它让Docker容器能够访问宿主机的GPU。
    distribution=$(. /etc/os-release;echo $ID$VERSION_ID) curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add - curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list sudo apt update && sudo apt install -y nvidia-container-toolkit sudo systemctl restart docker
  3. 验证Docker和GPU访问是否正常：
    docker run --rm --gpus all nvidia/cuda:12.3.2-base-ubuntu22.04 nvidia-smi
    这个命令会下载一个小的CUDA基础镜像并运行nvidia-smi。如果它能成功输出和在宿主机上运行nvidia-smi一样的信息，那就完美了！这说明Docker容器已经能直接调用虚拟机的GPU了。

4.2 拉取并运行GLM-OCR镜像

假设GLM-OCR的镜像已经发布在某个容器仓库（例如registry.example.com/glm-ocr:latest，这里请替换为实际的镜像地址）。

  1. 拉取镜像：
    docker pull registry.example.com/glm-ocr:latest
  2. 运行容器。这里的关键是--gpus all参数，它把GPU资源传递给容器。我们同时把本地的/tmp目录映射到容器内的/app/data，方便传入待识别的图片和取出结果。
    docker run -itd --name glm-ocr-container \ --gpus all \ -p 7860:7860 \ -v /tmp:/app/data \ registry.example.com/glm-ocr:latest
    • -p 7860:7860: 将容器的7860端口映射到宿主机的7860端口，如果镜像提供了Web界面，我们可以通过http://虚拟机IP:7860来访问。
    • -v /tmp:/app/data: 建立了数据卷，方便文件交换。

4.3 测试OCR功能

容器运行起来后，我们来测试一下。

  1. 首先，准备一张包含文字的测试图片（比如一个截图），放到虚拟机的/tmp目录下，假设文件名为test.png。
  2. 我们可以通过进入容器内部来执行命令，或者如果镜像提供了API，则通过HTTP请求调用。这里假设镜像启动后，在容器内运行了一个服务。我们可以用docker exec执行命令：
    docker exec glm-ocr-container python -c " # 这里是一个假设的Python调用示例，具体命令需参考GLM-OCR镜像的文档 from your_ocr_module import recognize result = recognize('/app/data/test.png') print(result) "
  3. 更常见的情况是，通过映射的端口访问Web界面。在Ubuntu虚拟机内部打开浏览器，访问http://localhost:7860。如果服务正常，你应该能看到一个上传图片和显示识别结果的界面。上传我们刚才放入/tmp/test.png的图片，看看它是否能正确识别出文字。

如果一切顺利，看到识别出的文字框和文本结果，那么整个部署就大功告成了！你成功地在VMware虚拟机里，搭建了一个带GPU加速的GLM-OCR本地开发测试环境。

5. 总结与后续建议

走完这一整套流程，你可能觉得步骤不少，但每一步拆开看，其实都是在解决一个具体的小问题。从创建虚拟机、配置虚拟GPU、安装驱动和CUDA，到用Docker部署应用，这套组合拳在本地AI环境搭建中非常典型。

实际体验下来，在VMware虚拟机里通过虚拟GPU的方式跑GLM-OCR，对于模型推理、功能测试和日常开发来说，性能是足够用的，最重要的是它把环境和你的主机系统完全隔离开了，非常干净。当然，如果是要做大规模训练，那还是直接装在物理机上或者用云服务器更合适。

如果你在配置过程中遇到了问题，我建议按阶段排查：先确保nvidia-smi在虚拟机内能运行，再确保Docker容器能调用nvidia-smi，最后再排查GLM-OCR应用本身。日志是你的好朋友，多看看终端和Docker容器的输出信息。

这个环境搭好之后，你不仅可以跑GLM-OCR，其他需要GPU的AI镜像，比如Stable Diffusion、LLM对话模型等，也都可以用类似的方式在这个虚拟机里部署测试，非常方便。希望这篇详细的指南能帮你扫清障碍，顺利开启你的本地AI开发之旅。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。

标签： 网站建设 企业官网 项目流程 UI设计 前端开发

热门文章

文章分类

标签云

网站建设 响应式设计 用户体验 SEO优化 前端开发 小程序 电商平台 性能优化

相关文章

您可能感兴趣的其他内容

人工智能应用浅析——学术视角001篇
2026/6/3 23:45:59 网站建设

人工智能应用浅析——学术视角001篇

文章目录 前言：何为“浅析”？一种严谨的学术姿态 一、人工智能应用的四维学术坐标系 二、五大主流方向：学术价值密度评估与选题指南 ▶ 自然语言处理（NLP） ▶ 计算机视觉（CV） ▶ 推荐系统（RS） ▶ 机器学习基础（ML） ▶ 数据安全与AI治理（DSAIG） 三、学术写作黄金法…...

阅读更多 →
PL/SQL登录报错ORA-12557？可能是OCI库路径配置惹的祸（附详细排查步骤）
2026/5/26 8:49:24 网站建设

PL/SQL登录报错ORA-12557？可能是OCI库路径配置惹的祸（附详细排查步骤）

PL/SQL登录报错ORA-12557的深度排查与解决方案 当你在使用PL/SQL Developer连接Oracle数据库时，突然弹出一个令人头疼的ORA-12557错误，而SQLPlus却能正常连接，这种矛盾现象往往让开发者感到困惑。这个错误通常与OCI库配置有关，但背…...

阅读更多 →
Python量化交易入门：5个必学的Pandas数据处理技巧（附代码）
2026/5/30 16:57:43 网站建设

Python量化交易入门：5个必学的Pandas数据处理技巧（附代码）

Python量化交易入门：5个必学的Pandas数据处理技巧（附代码） 在金融数据分析领域，Pandas库早已成为Python生态中不可或缺的利器。对于刚接触量化交易的新手而言，掌握Pandas的高效数据处理方法，就如同战士获得…...

阅读更多 →

需要专业的网站建设服务？

联系我们获取免费的网站建设咨询和方案报价，让我们帮助您实现业务目标

立即咨询