llm 命令行工具安装选型:4 条路径,你该走哪条
【免费下载链接】llmAccess large language models from the command-line项目地址: https://gitcode.com/gh_mirrors/llm/llm
只想试跑一句对话,还是要长期挂在开发机上——对 llm(从命令行调用大语言模型的工具)来说,这两种人的安装和配置路线完全不同。赶时间的话,把uvx llm '你好,LLM!'拷进终端直接执行,不需要任何安装。
结论先行:先确定你的场景,再选工具
4 条路径不用逐一比较,先看你在哪个场景:
- 开发机长期使用→
pipx。每个工具独立虚拟环境,不弄脏系统 Python - macOS 用户,习惯用 brew 管理软件→
brew。系统集成好,升级一条命令 - 只试跑一次,或 CI 里临时需要→
uvx。免安装,一行命令跑完 - 开发调试,要改源码→
pip。装进当前环境,方便动手
一句话:多数人默认 pipx,其余场景按上面分流。下面是各场景的具体操作。
快速试用与 CI:uvx llm 免安装试跑
最快的路径是不装:
uvx llm '你好,LLM!'uvx 在临时环境里直接运行 llm,不做完整安装,试跑和 CI/CD 流水线都用得着。之后想把它变成常驻工具,再转成 uv 的 tool 命令:
uv tool install llm uv tool upgrade llmuv 家族速度快,tool 子命令给每个工具单独的环境,定位和 pipx 类似。完整的安装方式列表见官方安装文档。
长期使用:pipx 或 pip 常驻安装
pipx 是长期使用的推荐项:
pipx install llm pipx upgrade llm每个工具隔离在独立虚拟环境里,避开依赖冲突和系统 Python 污染;代价是得先装好 pipx 本身。
pip 最直白,适合开发环境:
pip install llm pip install -U llm装进当前 Python 环境,调试、改源码都方便;出现权限问题或依赖冲突时,去看下面的踩坑清单。
macOS 本机:brew install llm
macOS 上如果用 Homebrew 管理软件,直接走 formula:
brew install llm brew upgrade llmformula 版本可能会滞后,需要最新版时补一条:
llm install -U llm已知兼容性约束(Homebrew 版本使用 Python 3.12,PyTorch 尚无对应稳定版)的解法放在下方踩坑清单里。
踩坑清单:3 种现象与对应解法
现象:Homebrew 装的 llm 上装依赖 PyTorch 的插件(如 llm-sentence-transformers)受阻。原因:Homebrew 版本使用 Python 3.12,PyTorch 还没有发布对应稳定版。解决:
llm install llm-python llm python -m pip install \ --pre torch torchvision \ --index-url https://download.pytorch.org/whl/nightly/cpu llm install llm-sentence-transformers先经 llm-python 拉起 Python 环境,在其中装 PyTorch nightly 版,再装目标插件。
现象:llm 里没有你想用的本地模型(如 GPT4All)。原因:模型能力通过插件扩展,并非内置。解决:
llm install llm-gpt4all插件机制本身可参考插件系统实现。
现象:pip install llm报权限或依赖冲突。原因:直接装进系统 Python,环境里已有冲突依赖。解决:改用 pipx 的隔离环境——
pipx install llm设置 llm API 密钥,跑第一条命令
三种密钥方式并列,按使用频率挑一种:
# 方式一:存进密钥库,运行后按提示输入密钥 llm keys set openai # 方式二:命令行参数临时传入 llm "你的提示词" --key 你的API密钥 # 方式三:环境变量 export OPENAI_API_KEY="你的API密钥" llm "你的提示词"方式一持久生效;方式二、三适合单次调用或脚本场景。
修改 llm 默认模型与数据目录
默认情况下 llm 使用 gpt-4o-mini。改默认模型或查看当前值:
llm models default gpt-4o # 指定新的默认模型 llm models default # 查看当前默认模型不想用默认的存储目录时,用环境变量指到自定义位置:
export LLM_USER_PATH=/path/to/your/custom/directory模型管理的实现细节见 llm/models.py。
速查:4 条安装路径并排对比
| 路径 | 安装命令 | 升级命令 | 环境隔离 | 已知坑 |
|---|---|---|---|---|
| pip | pip install llm | pip install -U llm | 否(装进当前 Python 环境) | 权限问题、依赖冲突 |
| pipx | pipx install llm | pipx upgrade llm | 是(每工具独立虚拟环境) | 需先安装 pipx |
| uv | uv tool install llm | uv tool upgrade llm | 是(每工具独立环境) | 相对较新,生态尚在完善 |
| Homebrew | brew install llm | brew upgrade llm | 是(独立 formula 环境) | 版本可能滞后;Python 3.12 下 PyTorch 无稳定版 |
试用场景不用查表:uvx llm '你好,LLM!',免安装免升级,试跑和 CI 都靠这一行。
选好路径、配好密钥,llm 就能用了;之后再遇到新问题,先回踩坑清单对照。
【免费下载链接】llmAccess large language models from the command-line项目地址: https://gitcode.com/gh_mirrors/llm/llm
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考