跳到主要内容

软件使用

提示

本章节会详细介绍:TeleXperience VR APP的使用方式,动捕服的使用方式,并通过系统内置的开箱Demo带您熟悉遥操作及数据采集的全流程。

初次使用请您完整阅读并观看本章节内的所有教学内容。

熟悉后可直接参考CheatSheet

IO TeleXperience APP介绍

请您观看以下视频,熟悉VR中TeleXperience APP的界面与交互逻辑。

详细步骤
  • TeleXperience APP的界面与交互逻辑

    • VR内点击右下角Wi-Fi 图标,进入网络设置,连接至TeleSuit对应Wi-Fi

      VR界面Wi-Fi图标位置

      VR网络设置界面

      VR连接TeleSuit Wi-Fi

    • 点击左下角资源库,点击 IO TeleXperience APP,进入 IO TeleXperience APP

      VR左下角资源库图标

      IO TeleXperience APP图标

      进入IO TeleXperience APP

    • 请您仔细阅读 《遥操作系统安全须知》,阅读完在我已阅读并同意打 " √ ",点击同意并继续,进入TeleXperience 主界面

      遥操作系统安全须知界面

      TeleXperience主界面

    • 点击 " Camera Window " 下方默认六种布局排版,调整窗口布局

      Camera Window布局选项

      调整后的窗口布局

    • 点击 " immersion " ,进入沉浸模式,按住滑条上的圆点滑动,调整图像窗口距离,点击 " Exit " 退出沉浸模式

      沉浸模式界面

      沉浸模式距离调整

    • 在 " Cmaera Distance " 下方按住滑条上的圆点滑动,调整主视角图像窗口大小

      Camera Distance滑条调整

      主视角窗口大小调整

    • 主要功能按钮介绍说明与使用

      TeleXperience主要功能按钮界面

      主要按钮说明功能说明
      START SYNC / STOP SYNC✅启动 SYNC 按钮 / 🚫关闭 SYNC 按钮同步功能
      START MOCAP / STOP MOCAP✅启动 MOCAP 按钮 / 🚫关闭 MOCAP 按钮动捕开关控制
      START TELEOP / STOP TELEOP✅启动 TELEOP 按钮 / 🚫关闭 TELEOP 按钮遥操作功能开关控制
      START RECORD / STOP RECORD✅启动 RECORD 按钮 / 🚫关闭 RECORD 按钮图像录制控制
      LOWER_BODY✅ 勾选同步 / ⬜ 取消同步穿戴TeleSuit下半身的情况下,同步动捕数据
      GLOVE✅ 勾选同步 / ⬜ 取消同步穿戴手套的情况下,同步手部数据
      PLAYBACK ROBOT TRAJECTORY▶️回放录制数据按钮选择指定录制的数据回放
    • 点击 " Refresh " ,刷新功能按钮看板状态

      Refresh按钮界面

      刷新后的功能按钮状态

    • 点击 " Settings " 打开设置界面,主页面弹出Robot界面浏览所有支持的机器人,点击任一一款机器人,切换模型查看,滑动机器人下方滑条,旋转机器人姿态,点击 " Resize " 按钮之后,按钮变绿,滑动机器人下方滑条,调整机器人模型大小

      Settings设置界面

      Robot机器人选择界面

      机器人模型旋转调整

      Resize按钮调整机器人大小

    • 点击 " Theme " 在 Select Theme 下方点击打开主题列表选择,然后点击 " Refresh " 刷新,展示新主题

      Theme主题选择界面

      主题切换效果展示

    • 点击 " Other " 看到 " Low Power Warning " ,这里是VR低电量报警提示可以,根据个人需求进行勾选与取消,然后从右上角点击退出

      Other其他设置界面

      低电量警告设置

    • VR右侧视角面板介绍

      VR右侧视角面板功能介绍

    • 使用完,按下食指扳机键,弹出提示窗口,点击退出按钮,退出TeleXperience

      退出TeleXperience提示窗口


动捕服的标定及使用

启动动捕功能,并非运行开箱Demo的强制依赖条件,您也可以在不启动动捕的情况下完成开箱Demo。

但是启动动捕功能后,您可以体验到七自由度机械臂的零空间优化功能。

若您最终想要遥操作的机器人机械臂为六自由度或更少自由度,您可跳过本小节,直接进入开箱Demo。

打开动捕

VR内点击 START MOCAP,右侧蓝色动捕小人开始运动即为正常启动

详细步骤
  • 点击 " START MOCAP " 按钮,同步动捕小人,移动至VR右边视角,动捕小人开始运动即为动捕正常启动

    START MOCAP按钮界面

    动捕小人运动状态


动捕服标定

若您看到的蓝色动捕小人的运动与实际的人体运动不符,请您进行动捕服的标定。

进行动捕服标定前,请您打开VR头显声音,并调至合适音量,以接手语音动作指令提示。

标准版标定专业版标定

在左侧按钮面板上,确认下半身LOWER BODY与手套GLOVE没有被勾选,点击START MOCAP打开动捕后,点击AUTO CALIB开始标定。

标准版AUTO CALIB标定界面

请您严格按照语音提示的时机与示范人员的动作进行标定:

在左侧按钮面板上,确认下半身LOWER BODY与手套GLOVE被勾选,点击START MOCAP打开动捕后,点击AUTO CALIB开始标定

Pro专业版AUTO CALIB标定界面

若不穿着下半身动捕服,不勾选LOWER BODY也可以

Pro专业版LOWER BODY选项

请您严格按照语音提示的时机与示范人员的动作进行标定:

标定前标定后
标定前标定后
详细步骤
  • 标准版本标定

    • 在左侧按钮面板上,确认下半身 " LOWER BODY " 与手套 " GLOVE " 没有被勾选,点击 " START MOCAP " 打开动捕后,点击 " AUTO CALIB " 开始标定

      标准版动捕标定设置界面

      请您严格按照语音提示的时机与示范人员的动作进行标定:

      标准版标定步骤:

      语言播报动作描述
      Please stand at attention立正站立,双臂垂直自然放在大腿两侧,目视前方,正常站立即可
      Begin vertical calibration开始站立标定
      End vertical calibration结束站立标定
      Begin arm calibration开始手臂标定
      Please raise your hand抬起双臂大概45度左右,随即放下保持自然站立
      End arm calibration结束手臂标定
      Begin Body calibration开始身体标定
      Please bend over上半身微微向前倾大概30度左右,随即保持自然站立
      End body calibration结束身体标定
      Calculating正在计算标定结果
      Calibrated标定完成

      标准版标定计算中界面

      标准版标定完成界面

  • Pro专业版标定

    • 在左侧按钮面板上,确认下半身 " LOWER BODY "与手套 " GLOVE "被勾选,点击 " START MOCAP " 打开动捕后,点击 " AUTO CALIB " 开始标定,若不穿着下半身动捕服,不勾选 " LOWER BODY " 也可以

      Pro专业版标定设置界面

      Pro专业版LOWER BODY勾选状态

      请您严格按照语音提示的时机与示范人员的动作进行标定:

      Pro专业版标定步骤:

      语言播报动作描述
      Please stand at attention立正站立,双臂垂直自然放在大腿两侧,目视前方,正常站立即可
      Begin vertical calibration开始站立标定
      End vertical calibration结束站立标定
      Begin arm calibration开始手臂标定
      Please raise your hand抬起双臂大概45度左右,随即放下保持自然站立
      End arm calibration结束手臂标定
      Begin Body calibration开始身体标定
      Please bend over上半身微微向前倾大概30度左右,随即保持自然站立
      End body calibration结束身体标定
      Begin left leg calibration开始左腿标定
      Please kick with your left leg上半身保持不动,左腿伸直向正前方抬起大概30度左右
      End left leg calibration结束左腿标定
      Begin right leg calibration开始右腿标定
      Please kick with your right leg上半身保持不动,右腿伸直向正前方抬起大概30度左右
      End right leg calibration结束右腿标定
      Please put your hands together and hold请将双手合十在胸前,在下一条语音提示之前动作已完成并保持
      Begin hand calibration开始双手标定
      End hand calibration结束双手标定
      Calculating正在计算标定结果
      Calibrated标定完成

      Pro专业版标定计算中界面

      Pro专业版标定完成界面


VR动捕服联合标定(可选)

信息

VR头显和手柄与动捕服的联合标定非强制要求,不进行标定不会影响遥操作功能,联合标定的目的仅为动捕状态的更优可视化。 或者,当您有基于动捕信号进行二次开发的目的时,可以进行联合标定。

头部联合标定手柄联合标定

打开动捕后,点击 CALIB VR HEAD

打开动捕后,点击 CALIB VR CONTROLLER

标定前标定后
标定前标定后
详细步骤

头部联合标定

  • 手柄射线落在 " START MOCAP " 按钮上,按下食指扳机键确认,打开动捕之后,点击 CALIB VR HEAD

    手柄射线选择START MOCAP按钮

    头部联合标定CALIB VR HEAD按钮

头部联合标定步骤 :

语音播报动作描述
Please bend down and turn around请向三个方位弯腰:正前方,右侧,左侧,上半身微微弯曲大概30度左右,随即保持自然站立
Begin VR head calibration开始VR头部标定
End VR head calibration结束VR头部标定

头部标定过程界面

头部标定完成界面

手柄联合标定

  • 打开动捕后,点击 CALIB VR CONTROLLER

手柄联合标定步骤:

语音播报动作描述
Please hold the controller and move your hand请双手握住VR控制器并手腕保持不动,进行10s左右的手臂自由运动
Begin VR controller calibration开始VR控制器标定
End VR controller calibration结束VR控制器标定

手柄标定过程界面

手柄标定完成界面


开箱Demo:OpenLoongVuer

为了让您能够在收到TeleXperience设备就可以体验到遥操作功能,而不依赖与任何实体机器人,我们在Vuer中开发了一个使用OpenLoong机器人的Demo环境供您上手体验。

启动Vuer

请您准备一台笔记本,以启动Vuer网页。笔记本的系统无强制要求,能够连接Wi-Fi,访问网页即可。

  1. 将笔记本连接至遥操作设备Wi-Fi
  2. 进入浏览器,输入网址 http://10.42.0.3:8012
详细步骤

连接Wi-Fi界面

打开浏览器输入网址

Vuer网页启动界面




信息

如果遇到Vuer网页的卡顿,推荐您使用GPU性能更加强劲的电脑播放。

控制机器人运动

接下来就可以看到遥操作控制Vuer中的OpenLoong机器人运动:

标准版专业版
详细步骤

标准版:

  • 连接 TeleSuit Wi-Fi,进入IO TeleXperience APP

    连接TeleSuit Wi-Fi界面

    进入IO TeleXperience APP界面

  • 手柄射线对准 " START MOCAP " 按钮,按食指扳机键确认,即可打开动捕,观察机器人模型运动姿态是否正常,运行是否一致

    手柄射线选择START MOCAP按钮

    机器人模型运动状态观察

  • 打开遥操作功能,当按钮变成 " STOP TELEOP " 状态,为正常进入了遥操作状态,开始同步前,长按下手柄上的 home 按钮,将VR画面标定到视野正前方

    遥操作功能开启界面

    VR画面标定到正前方

  • 按下右手柄A键开始同步,机器人将同步人的运动,开始同步后不可以重新进行VR画面的标定,若需要标定,请先按 " STOP SYNC " ,标定后再按 " START SYNC " 。双手同时按下食指扳机键进行手指开合控制

    按下A键开始同步

    双手扳机键控制手指开合

  • 长按左手食指扳机键开始锁定末端姿态: 末端的朝向和旋转角度固定,三维位置(X,Y,Z)可以进行变化,长按右手食指扳机键开始锁定末端位置:末端的三维位置(X,Y,Z)固定,但姿态(即方向、旋转角度)可以自由变化

    长按左手扳机键锁定末端姿态

    长按右手扳机键锁定末端位置

  • 双手同时按下食指扳机键,进入位置和姿态同时锁定的状态,双手松开食指扳机键,解除锁定状态

    双手同时按下扳机键同时锁定

    松开扳机键解除锁定状态

  • 向前推动左手柄摇杆,控制机器人前进向左推动左手柄摇杆,控制机器人左转向右推动左手柄,控制机器人右转向后推动左手柄摇杆,控制机器人后退晃动头部,机器人同步进行头部运动。

    左手柄摇杆控制机器人前进

    左手柄摇杆控制机器人左转

    左手柄摇杆控制机器人右转

    头部运动同步机器人头部

  • 操作完之后,按下B键停止机器人的同步运动按下A键继续同步机器人运动

    按下B键停止同步运动

    按下A键继续同步运动

  • 在 " START SYNC " 后,保持手柄不动的情况下进行手肘运动,可以感受到TeleSuit带来的冗余自由度的优化功能

    手肘运动体验冗余自由度优化

    TeleSuit冗余自由度优化效果

  • 点击 " STOP SNYC "后,可以对机器人进行复位 ,双手摇杆同时向外拨2s左右松开,即可触发机器人复位功能

    停止同步后机器人复位

    双手摇杆外拨触发机器人复位

专业版:

  • 连接TeleSuit Wi-Fi,进入IO TeleXperience APP

    Pro版连接TeleSuit Wi-Fi界面

    Pro版进入IO TeleXperience APP

  • 手柄射线落在 " START MOCAP " 按钮上,按下食指扳机键确认,打开动捕

    Pro版手柄射线选择START MOCAP

    Pro版动捕开启确认界面

  • VR视角右侧,观察机器人模型的姿态是否正常,运动是否与操作者同步进行

    Pro版VR视角机器人模型观察

    Pro版机器人运动同步检查

  • 手柄射线落在 " START TELEOP " 按钮上,打开遥操作功能,当按钮变成 " STOP TELEOP " 状态,即为正常进入了遥操作状态

    Pro版START TELEOP按钮

    Pro版遥操作状态确认

  • 开始同步前,长按右手柄上的 " home " 键,将VR画面标定到视野正前方。需要注意:开始同步后不可以重新进行VR画面的标定,若需要标定,请先按 " STOP SYNC ",标定后再按 " START SYNC "

    Pro版长按home键标定VR画面

  • 开始遥操作功能后,右脚脚低外翻随即动作恢复,开始同步后,机械臂与操作者的手臂运动同步进行

    Pro版右脚脚底外翻开始同步

    Pro版机械臂与手臂运动同步

  • 开始同步之后:

      1. 双脚脚底外翻,并保持
      2. 双脚脚底内翻,并保持

    Pro版双脚脚底外翻保持

    Pro版双脚脚�底内翻保持

  • 佩戴好VR头显,机器人的头部运动可跟随操作者的头部同步运动,灵巧手跟随人的手指运动

    Pro版佩戴VR头显头部同步

    Pro版机器人头部运动同步

    Pro版灵巧手跟随手指运动

    Pro版手指运动控制效果

  • 左脚抬起脚后跟并保持,控制机器人前进

    Pro版左脚抬起脚后跟控制前进

    Pro版机器人前进运动效果

  • 左脚向左旋并保持,控制机器人左转

    Pro版左脚向左旋控制左转

    Pro版机器人左转运动效果

  • 左脚向右旋并保持,控制机器人右转

    Pro版左脚向右旋控制右转

    Pro版机器人右转运动效果

  • 左脚抬起脚尖并保持,控制机器人后退

    Pro版左脚抬起脚尖控制后退

    Pro版机器人后退运动效果

  • 开启遥操作功能之后,右脚脚底内翻随即动作恢复,右脚脚底外翻随即动作恢复

    Pro版右脚脚底内翻动作

    Pro版右脚脚底外翻动作

  • " START SYNC " 后只活动手肘感受TeleSuit带来的冗余自由度的优化功能

    Pro版手肘运动体验冗余自由度

    Pro版TeleSuit冗余自由度优化

  • 双脚向外旋保持1s后恢复动作,机器人恢复至初始姿态

    Pro版双脚向外旋恢复初始姿态

    Pro版机器人恢复初始姿态效果


数据采集

标准版专业版
详细步骤

标准版:

  • 在左手柄上按 X 键开始录制,中间圆圈里的秒数开始向上自增,正常录制中,现在可以进行数据采集啦。采集完成按左手柄 Y 键结束录制,中间圆圈里的数字重置为0,录制结束并保存数据。采集过程中,长按Y键2s松开后,触发取消录制

    标准版按X键开始录制

    标准版录制计时器显示

    标准版按Y键结束录制

专业版:

  • 开始同步后,左脚脚底内翻随即动作恢复,开始录制中间圆圈里的秒数开始向上自增,正常录制中,现在可以进行数据采集啦。

    Pro版左脚脚底内翻开始录制

    Pro版录制计时器显示

  • 开始同步后,左脚脚底外翻随即动作恢复,中间圆圈里的数字重置为0,录制结束并保存数据。采集过程中,左脚脚底外翻保持2s后再恢复,触发取消录制

    Pro版左脚脚底外翻结束录制

    Pro版录制结束数据保存


轨迹回放

您可以回放采集到的数据中的机器人轨迹,注意:回放时不会在VR内同步机器人的运动,您需要在Vuer网页进行查看

详细步骤
  • 将笔记本连接至遥操作设备Wi-Fi,进入浏览器,输入网址:http://10.42.0.2:8686 ,进入IO-Teleop主控网页

    连接Wi-Fi进入IO-Teleop主控网页

    IO-Teleop主控网页界面

  • 另起一个新浏览器,输入网址:http://10.42.0.3:8012 ,进入Vuer

    新浏览器打开Vuer网页

  • 回到 IO-Teleop主控网页,点击 " PLAYBACK ROBOT TRAJECTORY ",弹出一个 " Select a folder ",点击下拉列表选择要回放的轨迹,选择完点击 " OK "

    点击PLAYBACK ROBOT TRAJECTORY按钮

    弹出Select a folder选择界面

    选择轨迹文件夹确认

  • 回到Vuer网页,开始回放轨迹

    Vuer网页轨迹回放界面


CheatSheet

指令标准版专业版
开启动捕VR内按下START MOCAP按钮
开启遥操作功能VR内按下START TELEOP按钮
VR画面标定

长按标定键

注意:开始同步后不可以重新进行VR画面的标定,若需要标定,请先停止同步,标定后方可再次开始同步

开始同步开启遥操作功能后,短按下右手柄A键开启遥操作功能后,右脚脚底外翻随即恢复
停止同步开启遥操作功能后,短按下右手柄B键开启遥操作功能后,右脚脚底内翻随即恢复
控制手臂开始同步后,机械臂跟随VR手柄运动开始同步后,机械臂跟随人手掌运动
若在开始同步前,打开动捕,并保证人手臂与机器人手臂姿态近似,开始同步后,可体验到七自由度机械臂的零空间优化功能
锁定手臂末端姿态开始同步后,按住左手柄前扳机开始同步后,双脚脚底外翻并保持
锁定手臂末端位置开始同步后,按住右手柄前扳机开始同步后,双脚脚底内翻并保持
控制末端执行器开始同步后,按住手柄侧方中指扳机开始同步后,灵巧手跟随人的手指运动
控制底盘开始同步后,上下左右推动左手柄摇杆

开始同步后,

左脚抬起脚跟并保持,机器人前进

左脚抬起脚尖并保持,机器人后退

左脚向左旋并保持,机器人左转

左脚向右旋并保持,机器人右转

控制躯干开始同步后,上下左右推动右手柄摇杆

开始同步后,

右脚抬起脚尖并保持,机器人上升

右脚抬起脚跟并保持,机器人下降

控制头部开始同步后,佩戴好VR头显,机器人的头部运动可跟随人的头部运动
控制机器人恢复到遥操作零位双手摇杆水平向外侧拨动,停留1秒钟后恢复双脚向外旋,保持1秒钟后恢复
开始数据录制开始同步后,短按下左手柄X键开始同步后,左脚脚底内翻随即恢复
结束数据录制并保存开始同步后,短按下左手柄Y键开始同步后,左脚脚底外翻随即恢复
放弃数据录制并删除开始同步后,长按下左手柄Y键2秒钟开始同步后,左脚脚底外翻保持两秒钟后再恢复
切换到通透模式同时按下双手手柄摇杆