企业官网建设流程全解析

最近在折腾本地AI部署时，发现一个很有意思的玩法：把家里吃灰的旧手机，改造成一个24小时在线的本地AI小服务器。这样一来，不仅能让旧物焕发新生，还能在家庭局域网内，让电脑、平板甚至其他智能设备，都能调用手机上的大模型进行聊天、问答或执行任务，完全免费且数据不出本地，隐私性拉满。

本文就将手把手带你完成这个“旧手机变AI服务器”的完整实战。我们将使用一个名为OpenClaw的开源项目作为核心，它能够方便地在移动端部署和运行大模型，并提供标准的API接口。我们将以千问大模型为例进行部署，最终实现在电脑浏览器或通过代码调用这个“手机服务器”的AI能力。无论你是想体验端侧AI的魅力，还是为智能家居寻找一个本地的“大脑”，这篇文章都能给你一套可复现的解决方案。

1. 项目背景与核心概念

在开始动手之前，我们先理清几个关键概念，这有助于理解我们到底在做什么。

1.1 什么是端侧AI (On-Device AI)？端侧AI指的是将人工智能模型的推理（Inference）过程直接放在终端设备（如手机、平板、IoT设备）上执行，而不是依赖云端服务器。这样做的好处非常明显：

• 隐私安全：你的对话、图片等数据完全在本地处理，无需上传到云端。
• 低延迟：无需网络往返，响应速度更快。
• 离线可用：在没有网络的环境下依然可以使用AI功能。
• 降低成本：对于个人开发者或小规模应用，避免了云API调用费用。

我们的旧手机改造计划，正是端侧AI的一个典型应用场景。

1.2 OpenClaw 是什么？根据网络上的信息，OpenClaw是一个旨在让AI智能体（Agent）能力更易获取和使用的开源项目或平台。它可能包含了一系列工具、框架或接口，用于简化AI模型的部署、管理和交互。在我们的上下文中，可以将其理解为一个能够在设备（包括手机）上运行、并提供服务化接口（如HTTP API）的AI模型运行时环境。它让手机具备了成为一个“AI服务提供者”的能力。

1.3 千问大模型 (Qwen)千问是阿里云推出的大语言模型系列，拥有从2B到72B的不同规模版本。对于手机端部署，我们通常会选择参数量较小的版本，例如Qwen2.5-1.5B-Instruct或Qwen2.5-0.5B-Instruct。这些模型在保持一定对话能力的同时，对手机的计算资源和内存占用相对友好。

1.4 Token 在本文场景下的含义在AI领域，Token是文本处理的基本单位。对于大模型而言，输入和输出的长度都以Token计数。它直接影响：

• 上下文长度：模型一次能处理多少文本。
• 资源消耗：生成更多Token需要更多的计算时间和内存。 在部署和调用过程中，我们需要关注模型的上下文限制，并在调用API时，返回的响应里通常会包含使用的Token数量信息。

1.5 整体架构改造后的架构非常简单：

1. 服务器端 (旧手机)：安装OpenClaw及相关环境，加载千问模型，启动一个HTTP服务。
2. 客户端 (电脑/其他设备)：在同一个Wi-Fi（局域网）下，通过浏览器访问手机服务的Web UI进行聊天，或通过编程（Python、curl等）调用其提供的API接口。
3. 通信：通过局域网IP地址和端口进行HTTP通信。

接下来，我们就进入具体的实战环节。

2. 环境准备与设备选择

不是所有旧手机都适合改造，我们需要对其硬件和软件环境做一些评估和准备。

2.1 旧手机选择建议

• 操作系统：Android 8.0 及以上是必须的。推荐Android 10或更高版本，对Linux环境支持更好。
• 处理器：骁龙6系、7系或麒麟中端以上芯片为佳。性能越强，模型加载和推理速度越快。
• 运行内存：至少4GB，推荐6GB或以上。运行大模型非常吃内存，内存大小直接决定了你能运行多大的模型。
• 存储空间：预留至少5GB的可用空间，用于安装软件、下载模型文件。
• 网络：支持Wi-Fi，并能稳定连接家庭路由器。
• 其他：手机最好能root，但非必须。如果能root，后续安装和配置会灵活很多。如果不想root，也有替代方案。

2.2 软件环境准备我们将主要依赖两个核心软件在Android上创建Linux环境：

1. Termux：一个强大的Android终端模拟器和Linux环境应用。它是我们所有操作的基础。
2. AidLux或UserLAnd（备选）：这些应用提供了更完整的Linux发行版（如Ubuntu）环境，图形界面和包管理更友好，适合不熟悉Termux的用户。本文将以Termux为主线，因为它更轻量、直接。

2.3 电脑端准备

• 一台用于操作和访问的电脑（Windows/Mac/Linux均可）。
• 电脑需要和旧手机连接在同一个局域网（同一个Wi-Fi）下。
• 电脑上需要安装ADB工具（用于通过USB调试连接手机，初始安装Termux时使用）和SSH客户端（如PuTTY或系统自带终端），或者直接使用Termux的本地终端。

3. 手机端基础环境搭建 (Termux)

这是最关键的一步，我们需要在手机上建立一个可用的Python/Linux开发环境。

3.1 安装与配置Termux

1. 安装Termux：从F-Droid商店（推荐）或GitHub Releases页面下载安装Termux。避免从Google Play安装旧版本。
2. 基本配置：安装完成后，打开Termux，依次执行以下命令更新包列表并安装基础工具。

   pkg update && pkg upgrade -y pkg install -y python git wget curl proot-distro

3. 配置存储权限：为了能访问手机存储空间下载模型，需要运行：

   termux-setup-storage

   然后在弹出的权限请求中点击“允许”。

3.2 安装Python及必要库Termux自带的Python可能版本较旧，我们使用pkg安装即可。

pkg install -y python python-pip

安装完成后，验证版本：

python --version # 输出应为 Python 3.x.x

接着安装一些后续可能用到的通用库：

pip install --upgrade pip pip install numpy requests flask

flask是一个轻量级Web框架，如果OpenClaw本身不包含HTTP服务，我们可以用它来快速封装一个API。

3.3 获取OpenClaw项目由于“OpenClaw”的具体形态可能是一个SDK、一个运行时或一组脚本，我们需要根据其官方文档来获取。这里我们假设它是一个开源仓库。

cd ~ git clone https://github.com/username/openclaw.git # 请替换为真实的仓库地址 cd openclaw

请注意：你需要搜索并确认正确的OpenClaw项目仓库地址。如果网络无法直接克隆，可以在电脑上下载ZIP包，然后通过termux-setup-storage建立的~/storage/downloads目录传输到手机，再解压。

3.4 安装OpenClaw依赖进入项目目录后，查看是否有requirements.txt或setup.py等文件。

ls -la

如果存在requirements.txt，则安装依赖：

pip install -r requirements.txt

这个过程可能会比较慢，且某些依赖（特别是涉及机器学习的，如torch、transformers）需要编译或寻找兼容Android ARM架构的预编译轮子，可能会遇到困难。这是手机端部署最大的挑战之一。

3.5 备选方案：使用预编译的运行时如果从源码安装过于复杂，可以寻找是否有为Android/ARM平台预编译好的OpenClaw或类似推理引擎（如Ollama、llama.cpp的Android版本）的二进制文件。例如，llama.cpp项目就提供了Android的构建指南和预编译库，我们可以直接下载其编译好的可执行文件来运行GGUF格式的模型。

4. 下载与部署千问大模型

模型是AI服务的核心。我们需要下载适合手机运行的千问模型。

4.1 选择模型版本如前所述，选择小参数量的版本。例如，从Hugging Face Model Hub选择：

• Qwen/Qwen2.5-1.5B-Instruct-GGUF（推荐GGUF格式，量化后更小更快）
• Qwen/Qwen2.5-0.5B-Instruct-GGUF

GGUF格式是llama.cpp推出的模型格式，量化程度高，资源占用少，非常适合边缘设备。

4.2 下载模型在Termux中，我们可以使用wget或curl下载。假设我们选择qwen2.5-1.5b-instruct-q4_k_m.gguf这个量化版本。

cd ~ mkdir models cd models # 这是一个示例URL，你需要替换为实际的模型下载链接，例如来自Hugging Face wget https://huggingface.co/Qwen/Qwen2.5-1.5B-Instruct-GGUF/resolve/main/qwen2.5-1.5b-instruct-q4_k_m.gguf

如果下载速度慢，可以在电脑上用下载工具下载，然后通过USB或局域网共享传到手机的~/storage/downloads目录，再用cp命令复制到~/models。

4.3 验证模型文件下载完成后，检查文件大小和完整性。

ls -lh ~/models/ # 应该能看到一个几百MB到2GB左右的 .gguf 文件

5. 启动AI服务与配置API

现在，我们有了环境和模型，接下来就是启动服务。

5.1 使用 llama.cpp 作为推理后端（通用方案）由于OpenClaw的具体使用方式可能不明确，这里提供一个使用llama.cpp的通用、可靠的方案。llama.cpp是一个高效的C++推理框架，有社区维护的Android版本。

1. 下载 llama.cpp Android 可执行文件：在Termux中，我们可以尝试下载预编译的二进制文件，或者从源码编译（复杂）。这里假设我们找到了一个兼容的二进制文件llama-cli。

   cd ~ wget https://github.com/username/llama.cpp/releases/download/android/llama-cli-arm64 chmod +x llama-cli-arm64 mv llama-cli-arm64 ~/bin/ # 如果 ~/bin 目录存在且已在PATH中

2. 编写启动脚本：创建一个脚本start_ai_server.sh来启动服务。

   cd ~ cat > start_qwen.sh << 'EOF' #!/data/data/com.termux/files/usr/bin/bash MODEL_PATH="/data/data/com.termux/files/home/models/qwen2.5-1.5b-instruct-q4_k_m.gguf" HOST="0.0.0.0" PORT=8080 echo "启动千问模型服务..." # 使用 llama.cpp 的 server 功能启动一个HTTP API服务 # 注意：需要你的 llama-cli 或 llama-server 二进制支持 server 模式 ./llama-cli-arm64 -m "$MODEL_PATH" --host "$HOST" --port "$PORT" -c 2048 -ngl 20 --log-disable # 参数说明： # -m: 模型路径 # --host/--port: 绑定地址和端口 # -c: 上下文长度 # -ngl: 在GPU上运行的层数（如果手机GPU支持），可以加速 # --log-disable: 禁用部分日志 EOF chmod +x start_qwen.sh

3. 启动服务：

   ./start_qwen.sh

   如果成功，你会看到类似"HTTP server listening on http://0.0.0.0:8080"的输出。注意：llama.cpp的 server 功能可能需要特定版本的二进制文件，或者你需要使用llama-server这个单独的二进制。

5.2 使用 Flask 封装简易API（备选方案）如果上面的方法不行，我们可以写一个简单的Python脚本来调用模型（假设有Python接口）并暴露HTTP API。

1. 安装必要的Python库：确保已安装flask,transformers,torch。在手机上安装torch可能很困难，可以尝试寻找预编译的Android PyTorch wheel文件。

   pip install flask transformers # torch 安装可能需要特定命令，例如： # pip install --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/cpu

2. 编写 app.py：

   # 文件路径：~/openclaw_app/app.py from flask import Flask, request, jsonify from transformers import AutoModelForCausalLM, AutoTokenizer import torch app = Flask(__name__) # 加载模型和分词器 (这里以transformers库为例，实际在手机上可能负载很重) model_name = "Qwen/Qwen2.5-1.5B-Instruct" print(f"正在加载模型: {model_name}，请耐心等待...") tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True) # 使用低精度加载以节省内存 model = AutoModelForCausalLM.from_pretrained( model_name, torch_dtype=torch.float16, # 半精度 device_map="auto", # 自动分配CPU/GPU trust_remote_code=True ) print("模型加载完成！") @app.route('/chat', methods=['POST']) def chat(): data = request.json prompt = data.get('prompt', '') if not prompt: return jsonify({'error': 'No prompt provided'}), 400 # 构造对话格式（根据千问的模板） messages = [{"role": "user", "content": prompt}] text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True) # 生成回复 inputs = tokenizer(text, return_tensors="pt").to(model.device) with torch.no_grad(): outputs = model.generate(**inputs, max_new_tokens=512) response = tokenizer.decode(outputs[0][inputs.input_ids.shape[1]:], skip_special_tokens=True) return jsonify({'response': response}) @app.route('/health', methods=['GET']) def health(): return jsonify({'status': 'ok'}) if __name__ == '__main__': # 监听所有网络接口，方便局域网访问 app.run(host='0.0.0.0', port=8080, debug=False, threaded=True)

3. 启动Flask服务：

   cd ~/openclaw_app python app.py

   重要提示：在手机上直接用transformers加载完整模型对内存要求极高，6GB内存的手机运行1.5B模型都非常吃力，很可能崩溃。此方案仅作原理演示，强烈推荐使用GGUF格式+llama.cpp的方案。

6. 局域网访问与客户端调用

服务启动后，我们如何从电脑或其他设备访问它呢？

6.1 获取手机的局域网IP地址在Termux中执行：

ifconfig wlan0 | grep 'inet ' # 或者使用 ip 命令 ip addr show wlan0 | grep inet

你会看到类似inet 192.168.1.105的输出。记下这个IP地址（例如192.168.1.105）。

6.2 从电脑浏览器访问（如果有Web UI）如果启动的服务自带Web界面（例如llama.cpp的server模式或OpenClaw的UI），你可以在电脑浏览器中输入：

http://192.168.1.105:8080

如果能看到聊天界面，恭喜你，已经成功了！

6.3 通过Python代码调用API假设服务提供了/v1/chat/completions兼容的接口（如llama.cppserver）或我们自建的/chat接口。

示例1：调用兼容OpenAI API的接口

# chat_client.py import requests import json # 替换成你手机的IP和端口 API_BASE = "http://192.168.1.105:8080/v1" API_KEY = "no-key-required" # 本地服务通常无需密钥 def chat_with_ai(prompt): headers = { "Content-Type": "application/json", "Authorization": f"Bearer {API_KEY}" } data = { "model": "qwen2.5-1.5b", # 模型名，根据服务端设置 "messages": [{"role": "user", "content": prompt}], "stream": False, "max_tokens": 512 } try: response = requests.post(f"{API_BASE}/chat/completions", headers=headers, json=data, timeout=60) response.raise_for_status() result = response.json() return result['choices'][0]['message']['content'] except requests.exceptions.RequestException as e: return f"请求出错: {e}" except KeyError as e: return f"解析响应出错: {e}" if __name__ == "__main__": while True: user_input = input("You: ") if user_input.lower() in ['exit', 'quit']: break answer = chat_with_ai(user_input) print(f"AI: {answer}\n")

示例2：调用自定义的Flask API

# chat_client_custom.py import requests import json SERVER_URL = "http://192.168.1.105:8080/chat" def chat_with_ai(prompt): data = {"prompt": prompt} try: response = requests.post(SERVER_URL, json=data, timeout=120) # 手机推理慢，超时设长 response.raise_for_status() return response.json()['response'] except requests.exceptions.RequestException as e: return f"请求出错: {e}" # 使用方式同上

6.4 使用curl命令测试在电脑终端里，用curl快速测试服务是否通畅：

# 测试健康检查端点 curl http://192.168.1.105:8080/health # 测试聊天接口 (假设是自定义接口) curl -X POST http://192.168.1.105:8080/chat \ -H "Content-Type: application/json" \ -d '{"prompt": "你好，请介绍一下你自己"}'

7. 常见问题与排查思路

在部署过程中，你几乎一定会遇到一些问题。下面是一些常见问题及其解决思路。

8. 优化、安全与进阶玩法

基础功能跑通后，我们可以考虑如何优化体验并探索更多可能性。

8.1 性能优化建议

• 模型选择：始终优先选择GGUF格式的量化模型。q4_k_m是精度和速度的较好平衡，q2_k则更小更快但精度损失稍大。
• 线程绑定：如果使用llama.cpp，可以通过-t参数指定使用的CPU线程数。通常设置为手机CPU的大核数量（如4），通过测试找到最佳值。
• 层数卸载：-ngl参数可以将模型的部分层卸载到手机GPU（如果支持）上运行，大幅提升速度。可以尝试设置-ngl 20或更高，直到内存用尽。
• 后台运行：让服务在Termux后台持续运行。可以使用nohup或tmux。

  # 使用 nohup nohup ./start_qwen.sh > server.log 2>&1 & # 查看日志 tail -f server.log

8.2 安全注意事项

• 局域网暴露：服务绑定在0.0.0.0意味着同一Wi-Fi下的所有设备都能访问。请确保你的家庭网络是可信的。
• 无认证：我们搭建的简易服务通常没有API密钥认证。切勿将手机服务端口通过路由器端口转发暴露到公网，否则可能被他人随意调用。
• 资源占用：长期运行大模型会导致手机发热和耗电。建议使用充电器供电，并注意散热。

8.3 进阶玩法

• 集成到智能家居：通过Home Assistant、Node-RED等平台，调用手机AI的API，实现语音助手控制家电、场景化问答等。
• 作为开发测试环境：在开发需要AI功能的应用程序时，可以用这个本地服务替代昂贵的云API，进行快速原型测试。
• 尝试更多模型：除了千问，还可以部署Llama-3.2-1B、Phi-3-mini、Gemma-2B等优秀的端侧小模型。
• 构建简单的Web UI：如果你觉得命令行或简单API不够友好，可以用Python的gradio库快速搭建一个图形聊天界面，同样运行在手机上。

将旧手机改造成本地AI服务器，是一个充满乐趣和成就感的极客项目。它不仅仅是一次技术实践，更是对端侧AI和隐私计算的一次亲身体验。你不仅获得了一个免费的、本地的AI助手，更关键的是，数据完全掌握在自己手中。

整个过程的核心挑战在于安卓环境的适配和资源的限制。通过本文的步骤，你应该能够成功启动服务。如果遇到问题，多查阅llama.cpp、Termux以及对应模型社区的文档和议题，大部分坑都有前人踩过。

下一步，你可以尝试优化推理速度，探索不同模型的效果，甚至将它和你的自动化脚本结合起来，打造一个真正属于你自己的家庭智能中枢。动手试试吧，让旧手机重新焕发智慧的光芒。