☰
llm 命令行工具安装选型:4 条路径,你该走哪条
2026/11/3 10:22:41 网站建设 项目流程

llm 命令行工具安装选型:4 条路径,你该走哪条

【免费下载链接】llmAccess large language models from the command-line项目地址: https://gitcode.com/gh_mirrors/llm/llm

只想试跑一句对话,还是要长期挂在开发机上——对 llm(从命令行调用大语言模型的工具)来说,这两种人的安装和配置路线完全不同。赶时间的话,把uvx llm '你好,LLM!'拷进终端直接执行,不需要任何安装。

结论先行:先确定你的场景,再选工具

4 条路径不用逐一比较,先看你在哪个场景:

  • 开发机长期使用→pipx。每个工具独立虚拟环境,不弄脏系统 Python
  • macOS 用户,习惯用 brew 管理软件→brew。系统集成好,升级一条命令
  • 只试跑一次,或 CI 里临时需要→uvx。免安装,一行命令跑完
  • 开发调试,要改源码→pip。装进当前环境,方便动手

一句话:多数人默认 pipx,其余场景按上面分流。下面是各场景的具体操作。

快速试用与 CI:uvx llm 免安装试跑

最快的路径是不装:

uvx llm '你好,LLM!'

uvx 在临时环境里直接运行 llm,不做完整安装,试跑和 CI/CD 流水线都用得着。之后想把它变成常驻工具,再转成 uv 的 tool 命令:

uv tool install llm uv tool upgrade llm

uv 家族速度快,tool 子命令给每个工具单独的环境,定位和 pipx 类似。完整的安装方式列表见官方安装文档。

长期使用:pipx 或 pip 常驻安装

pipx 是长期使用的推荐项:

pipx install llm pipx upgrade llm

每个工具隔离在独立虚拟环境里,避开依赖冲突和系统 Python 污染;代价是得先装好 pipx 本身。

pip 最直白,适合开发环境:

pip install llm pip install -U llm

装进当前 Python 环境,调试、改源码都方便;出现权限问题或依赖冲突时,去看下面的踩坑清单。

macOS 本机:brew install llm

macOS 上如果用 Homebrew 管理软件,直接走 formula:

brew install llm brew upgrade llm

formula 版本可能会滞后,需要最新版时补一条:

llm install -U llm

已知兼容性约束(Homebrew 版本使用 Python 3.12,PyTorch 尚无对应稳定版)的解法放在下方踩坑清单里。

踩坑清单:3 种现象与对应解法

现象:Homebrew 装的 llm 上装依赖 PyTorch 的插件(如 llm-sentence-transformers)受阻。原因:Homebrew 版本使用 Python 3.12,PyTorch 还没有发布对应稳定版。解决:

llm install llm-python llm python -m pip install \ --pre torch torchvision \ --index-url https://download.pytorch.org/whl/nightly/cpu llm install llm-sentence-transformers

先经 llm-python 拉起 Python 环境,在其中装 PyTorch nightly 版,再装目标插件。

现象:llm 里没有你想用的本地模型(如 GPT4All)。原因:模型能力通过插件扩展,并非内置。解决:

llm install llm-gpt4all

插件机制本身可参考插件系统实现。

现象:pip install llm报权限或依赖冲突。原因:直接装进系统 Python,环境里已有冲突依赖。解决:改用 pipx 的隔离环境——

pipx install llm

设置 llm API 密钥,跑第一条命令

三种密钥方式并列,按使用频率挑一种:

# 方式一:存进密钥库,运行后按提示输入密钥 llm keys set openai # 方式二:命令行参数临时传入 llm "你的提示词" --key 你的API密钥 # 方式三:环境变量 export OPENAI_API_KEY="你的API密钥" llm "你的提示词"

方式一持久生效;方式二、三适合单次调用或脚本场景。

修改 llm 默认模型与数据目录

默认情况下 llm 使用 gpt-4o-mini。改默认模型或查看当前值:

llm models default gpt-4o # 指定新的默认模型 llm models default # 查看当前默认模型

不想用默认的存储目录时,用环境变量指到自定义位置:

export LLM_USER_PATH=/path/to/your/custom/directory

模型管理的实现细节见 llm/models.py。

速查:4 条安装路径并排对比

路径安装命令升级命令环境隔离已知坑
pippip install llmpip install -U llm否(装进当前 Python 环境)权限问题、依赖冲突
pipxpipx install llmpipx upgrade llm是(每工具独立虚拟环境)需先安装 pipx
uvuv tool install llmuv tool upgrade llm是(每工具独立环境)相对较新,生态尚在完善
Homebrewbrew install llmbrew upgrade llm是(独立 formula 环境)版本可能滞后;Python 3.12 下 PyTorch 无稳定版

试用场景不用查表:uvx llm '你好,LLM!',免安装免升级,试跑和 CI 都靠这一行。

选好路径、配好密钥,llm 就能用了;之后再遇到新问题,先回踩坑清单对照。

【免费下载链接】llmAccess large language models from the command-line项目地址: https://gitcode.com/gh_mirrors/llm/llm

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询