只靠一部手机就能指挥机械臂吗?手把手带你跑通 LeRobot 手机AR控制
2026/9/5 20:00:21 网站建设 项目流程

只靠一部手机就能指挥机械臂吗?手把手带你跑通 LeRobot 手机AR控制

【免费下载链接】lerobot🤗 LeRobot: Making AI for Robotics more accessible with end-to-end learning项目地址: https://gitcode.com/GitHub_Trending/le/lerobot

想象一个场景:机械臂在另一间屋子,你不想坐在操作台前,也不想写脚本——拿起手机,它就跟着手机的动作实时移动。这正是 LeRobot 手机AR控制功能做的事。LeRobot 是一个端到端的机器人学习框架,它内置的手机遥操作能力会用手机的摄像头和运动传感器捕捉手机姿态,再映射到机械臂的末端执行器(也就是夹爪那一端),让"手机操控机械臂"不再需要额外的主臂。

这项能力适合谁

它不是为炫技设计的,三类人收益最大:

  • 没有主从操作台的你:传统数采要手动操作一根主臂去带从臂,手机可以直接充当虚拟主臂。
  • 想快速演示的人:教学或展示时,一台电脑加一部手机就能完成现场操控。
  • 想先上手再买硬件的人:跟着教程把配对、标定、控制走一遍,起步成本很低。

📋 动手前准备清单

先对照这张表,本教程里大多数"跑不起来"都源于这里缺了一项:

项目要求说明
机器人SO-100 从臂,串口已接好、电机已校准
手机iOS 需装 HEBI Mobile I/O 应用;Android 用浏览器打开 WebXR 页面即可
电脑能运行 Python 和 pip
网络手机与电脑连同一个 Wi-Fi 或局域网
额外文件把 SO101 的 URDF(机器人运动学模型文件)拷进示例目录,逆运动学计算要用

🚀 最短路径:三步跑通遥操作

第一步,拿代码并装手机相关依赖。

git clone https://gitcode.com/GitHub_Trending/le/lerobot cd lerobot && pip install "lerobot[phone]"

第二步,改入口脚本。打开 examples/phone_to_so100/teleoperate.py,改两处:SO100FollowerConfig里的 port 换成你机械臂的串口号,PhoneConfig里的phone_os改成PhoneOS.IOSPhoneOS.ANDROID

第三步,启动并配对。

python examples/phone_to_so100/teleoperate.py

启动后,Android 在手机上打开终端打印的本地网址,iOS 直接打开 HEBI 应用;然后按住 B1(iOS)或 Move 键(Android)即可开始遥控,松开停止。

这一步最容易卡住:先确认手机和电脑在同一个网段,再往下查别的问题。

握持姿势有讲究:屏幕朝上、手机上缘与夹爪指向同一方向,动作最跟手;首次按住会做一次参考姿态标定,之后每次松开再启动都不会漂移。

跑通之后可以怎么玩

遥操作通了之后,examples/phone_to_so100/ 目录里还有一组脚本可以直接用:

  • record.py:把手机操作录成训练数据集,这是最实用的一条——SO100 手机AR采集的数据能直接喂给策略训练。
  • replay.py:回放录好的片段,检查动作是否平滑。
  • evaluate.py:挂上预训练策略,验证训练效果。
  • 想调速度和安全性:改示例脚本里的工作空间边界(EEBoundsAndSafety)和每帧步长即可,即时生效。

🔧 常见问题排查

  1. 手机没被发现 / 配对失败:iOS 先确认 HEBI 应用是打开状态且网络一致;Android 网址打不开时,检查是否把 https 打成了 http,务必用终端打印的那个准确 IP,浏览器提示证书问题时选择继续访问。
  2. 动作方向反了:多半是坐标符号问题,调一下示例脚本MapPhoneActionToRobotAction步骤里的轴向符号即可。
  3. 延迟明显:优先 5GHz Wi-Fi,缩短手机与电脑距离;避免让手机走流量热点,多一跳 NAT 会放大延迟。

📚 延伸学习资源

  • 官方手机遥操作教程:docs/source/phone_teleop.mdx,详细讲了配对、标定原理和流水线每一步。
  • 手机遥操作的核心实现:src/lerobot/teleoperators/phone/,想弄清手机姿态如何映射成机械臂动作,从这里入手。
  • 手机采集的数据最终会进入策略模型训练,想了解机器人手机遥操作教程之外的完整链路,可以参考下方 VLA 架构图:

手机采集、遥操作数据、策略训练、上臂验证,这条链路在 LeRobot 里都给了可运行的示例。先跑通示例目录里的 teleoperate.py,让机械臂跟着手机动起来,再用 record.py 攒下第一批自己的数据——这就是最短的起步路线。

【免费下载链接】lerobot🤗 LeRobot: Making AI for Robotics more accessible with end-to-end learning项目地址: https://gitcode.com/GitHub_Trending/le/lerobot

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询