LocalAI图像生成实战:从Stable Diffusion到Flux的本地AI绘图全流程
【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI
LocalAI 是一个开源的本地 AI 引擎,让你在没有显卡的普通电脑上就能运行 Stable Diffusion、Flux 等 AI 绘图模型——不依赖 GPU,不上传数据,图像生成全程在本机完成。本文将带你走通 LocalAI 本地 AI 绘图的完整流程:3 步部署环境、挑选合适的绘图模型、发出第一张图,以及低显存机器上的实用技巧。
为什么用 LocalAI 做本地 AI 绘图?
很多绘图方案依赖云端 API,要么按量收费,要么图片必须上传到别人的服务器。LocalAI 的思路完全不同:任何模型,跑在任何硬件上,无需 GPU🚀
- 开源免费:Stable Diffusion、Flux、SD3 等主流绘图模型都在模型仓库里,一键安装
- 双后端架构:C++ 实现的
stablediffusion-ggml后端可纯 CPU 出图;Python 的diffusers后端则能充分利用 CUDA 显卡加速 - 兼容 OpenAI 接口:标准
/v1/images/generations端点,现有工具链几乎零成本迁移 - 内存管理贴心:参数卸载到内存、权重从磁盘流式读取、VAE 分块解码,4GB 内存的机器也能跑
一键安装:3步搭好本地AI绘图环境
安装流程非常轻量,整个项目从克隆到出图只需几分钟:
- 获取代码(如需从源码运行):
git clone https://gitcode.com/GitHub_Trending/lo/LocalAI💡 也支持 Docker 镜像、macOS DMG、静态二进制等多种方式,见官方文档。
确认核心服务启动(
local-ai命令行会自动拉起运行时)。选一个绘图模型,直接跑起来——这是全文最关键的一步,后面马上讲。
挑选绘图模型:模型库里的图像生成阵容
启动后打开 Web UI 的 Model Gallery(模型库),可以看到 900+ 个可安装模型,用 "Image generation" 标签一筛就是绘图模型专区 🎨
图像生成模型按后端分为两大阵营(配置见gallery 目录):
| 模型 | 后端 | 特点 | 配置文件 |
|---|---|---|---|
flux.1-dev-ggml | stablediffusion-ggml | Flux 画质,纯 CPU 可跑 | flux-ggml.yaml |
flux | diffusers | Flux 完整版,吃显卡 | flux.yaml |
sd-ggml | stablediffusion-ggml | 经典 SD 架构,轻量快 | sd-ggml.yaml |
stable-diffusion-3-medium | diffusers | SD3 中等规模,画质均衡 | stablediffusion3.yaml |
Z-Image-GGML | stablediffusion-ggml | 量化压缩,低配首选 | z-image-ggml.yaml |
新手怎么选?没有 NVIDIA 显卡就选flux.1-dev-ggml或Z-Image-GGML这类 GGML 量化版(C++ 后端);有 8GB 以上显卡则flux原版效果最好。
第一张图:一条命令启动 Flux 绘图
选好后直接运行:
local-ai run flux.1-dev-ggml这条命令会自动下载模型权重、配置后端参数(flux-ggml.yaml 中预设了 25 步推理、euler 采样器、cfg_scale 为 1 等 Flux 推荐参数)、并启动服务。
然后发出生图请求,只需一个prompt和尺寸:
curl http://localhost:8080/v1/images/generations \ -H "Content-Type: application/json" \ -d '{ "prompt": "A cute baby sea otter", "model": "flux.1-dev-ggml", "size": "1024x1024" }'几个实用小技巧:
- 负向提示词:用竖线
|分隔,如一只猫|变形、模糊、低质量 - 常用参数:
step(推理步数,默认 25,越高越精细但越慢)、size(如256x256) - UI 操作:打开浏览器进入 LocalAI 界面,点顶栏 "Generate Images",选模型、输描述,零命令出图
请求在内部由 ImageGeneration 函数 统一调度:加载模型 → 分配全局后端槽位 → 调用后端执行扩散采样,最终图片写入generated-images目录返回。
Stable Diffusion 还是 Flux?一张表看懂差异
两者都能用同样的 API 调用,但"手感"不同:
| 维度 | Stable Diffusion (sd-ggml) | Flux (flux-ggml / flux) |
|---|---|---|
| 提示词遵循度 | 中等,建议配合负向词 | 很强,长描述也听话 |
| 出图风格 | 经典写实/二次元 | 细节与构图更"聪明" |
| cfg_scale | 4.5 左右 | 1(Flux 架构无需引导系数) |
| 硬件门槛 | 更低 | 略高,但 GGML 量化后 CPU 可跑 |
如果追求风格化和快速迭代,SD 系列依旧好用;追求文字渲染、复杂构图,优先 Flux。想体验"图生图"编辑(比如把图里的文字改掉),还可以安装flux.1-kontext-dev模型,通过ref_images参数传入原图。
没显卡也能出图:低显存运行的3个关键选项
C++ 后端stablediffusion-ggml(源码见 backend/go/stablediffusion-ggml/)内置了一套完整的内存调度策略,把"模型放不下"变成"换个方式放":
- 权重放内存/磁盘:
offload_params_to_cpu:true或params_backend:diffusion=disk——权重以内存映射方式从磁盘流式读取,几乎不占显存 - 设定显存预算:
max_vram:8(单位 GiB),超出部分自动切分卸载;-1表示自动选择 - VAE 分块解码:1024×1024 解码时显存峰值可能超 8GB,开启
vae_tiling:true+vae_tile_size:512,按小块解码,代价仅是轻微变慢
一个典型"4GB 内存也能出图"的配置长这样:
options: - "diffusion_model" - "sampler:euler" - "params_backend:diffusion=disk" - "keep_clip_on_cpu:true"总结:本地AI绘图的完整路线图
回顾一下今天的实战路线:
- ✅ 克隆仓库并启动 LocalAI 核心(3 分钟)
- ✅ 在模型库中选中
flux.1-dev-ggml(CPU 友好)或flux(显卡版) - ✅ 调用
/v1/images/generations或 Web UI 生成第一张图 - ✅ 按硬件情况调整
step、显存卸载、VAE 分块等选项
从克隆仓库到出图,整个过程数据不出本机——这正是 LocalAI 作为开源 AI 引擎的核心价值:AI 绘图不再是一笔 API 账单,而是你电脑里的一条命令。更多模型参数与进阶玩法(图生图、深度图、放大),可继续查阅 docs/content/features/image-generation.md 📖
【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考