LocalAI 桌面客户端:从安装到第一次对话的 3 步走法
2026/8/31 13:57:01 网站建设 项目流程

LocalAI 桌面客户端:从安装到第一次对话的 3 步走法

【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI

LocalAI 是一个开源 AI 引擎,能在同一套服务里跑 LLM、语音、图像、视频等多模态模型,不依赖 GPU。官方桌面客户端把下载引擎、启动服务、更新、模型管理这些活儿收进一个图形窗口(基于 Fyne GUI 框架开发,Windows、macOS、Linux 操作逻辑一致)。下文按新手最常遇到的几个问题展开。

如何安装 LocalAI 桌面客户端并首次启动服务

  1. 装客户端:按操作系统选对应版本运行。macOS 用户注意,官方 DMG 未做 Apple 签名,安装后需执行一次解除隔离:
sudo xattr -d com.apple.quarantine /Applications/LocalAI.app
  1. 等引擎下载完:客户端会自动检测系统架构并拉取匹配的发行版,引擎二进制落盘到~/.localai/bin。大文件下载带重试机制,弱网下不用反复手动重下,启动前还会做完整性校验,发现损坏会提示重装。
  2. 核对默认值:首次启动即在~/.localai下自动建好 models、backends、logs 三个子目录;监听地址默认127.0.0.1:8080,日志级别默认info。全部满足就不用动配置。

怎样用 WebUI 加载模型并完成第一次对话

服务起来后,托盘菜单点"Open WebUI",浏览器访问127.0.0.1:8080。首页列出已安装模型,每张卡片带 Chat 与 Delete 按钮;从顶部导航进模型库,可按类型和标签筛选。

习惯命令行的话:模型支持从模型库、Hugging Face、Ollama OCI 仓库等来源加载,后端镜像(如 llama.cpp)会在首次运行到对应模型时才被拉取。

local-ai run llama-3.2-1b-instruct:q4_k_m

另开一个终端,就能与刚加载的模型交互:

local-ai chat --model llama-3.2-1b-instruct:q4_k_m

配置文件怎么改:模型路径、端口与环境变量

所有设置落在一份 JSON 配置里,改动即时生效,无需重启整个应用:

{ "models_path": "/Users/username/.localai/models", "backends_path": "/Users/username/.localai/backends", "address": "127.0.0.1:8080", "log_level": "info", "auto_start": false, "start_on_boot": false }
  • 路径迁移:把models_path指到大容量盘,免得模型把系统盘占满
  • 端口冲突8080被占用时改address即可
  • 环境变量environment_vars字段支持逐条注入OMP_NUM_THREADS这类并发参数,不用再碰 shell
  • 开机自启start_on_boottrue时,客户端启动即拉起 LocalAI 服务
  • 排查问题:把log_level临时调成debug能拿到更细的输出

系统托盘里怎么启停服务与查看状态

日常操作基本不用打开主窗口——关闭窗口只是把界面收进托盘,服务不受影响。

  • 动态菜单:右键托盘图标,菜单按状态切换:未安装显示"Install Latest Version",运行中显示"Stop LocalAI",已装未运行显示"Start LocalAI"
  • 状态速览:菜单顶部常驻当前状态与版本两行信息,点击可展开完整详情
  • 版本跟踪:客户端周期性检查发布源,发现新版本时菜单会多出一项带版本号的更新提示
  • 快速入口:托盘菜单里可直接打开 WebUI 或 官方文档

出错了按什么顺序查

🔍 按"日志 → 端口 → 下载"的顺序来,多数故障三步内定位。

  • 启动失败:打开~/.localai/logs/目录下时间戳最新的日志文件,客户端每次启动都会生成一份新的localai_*.log
  • 下载中断:客户端下次启动会自动清理半截文件(partial downloads),直接重新触发下载即可,不需要手动删文件
  • 选型:纯 CPU 机器优先选小参数量加q4_k_m之类的量化档位;后端按模型按需拉取,不跑的能力不额外占磁盘

下一步建议:打开 WebUI 装一个对话模型,或者直接在终端用local-ai chat试试手。

【免费下载链接】LocalAILocalAI is the open-source AI engine. Run any model - LLMs, vision, voice, image, video - on any hardware. No GPU required.项目地址: https://gitcode.com/GitHub_Trending/lo/LocalAI

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询