千问模型下载 加载
2026/9/15 4:18:54 网站建设 项目流程

目录

加载千问模型:

生成提示词:

调用comfui接口:


加载千问模型:

import os from transformers import AutoTokenizer, AutoModel from modelscope import AutoModelForCausalLM, AutoTokenizer # 1. 使用正确的本地模型路径(请确保这是绝对路径) model_path = "/data/lbg/models/qwen2_5-1_5b-20250224-merged/qwen2_5-1_5b-20250224-merged" # 请根据实际情况修改 # 2. 加载模型和分词器,明确指定从本地加载 model = AutoModelForCausalLM.from_pretrained( model_path, # 使用统一的路径变量 torch_dtype="auto", device_map="auto", local_files_only=True # 关键:强制从本地路径加载,避免网络请求 ) tokenizer = AutoTokenizer.from_pretrained( model_path, local_files_only=True # 关键:强制从本地路径加载 )

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询