计算机与人工智能预印本实验阅读 1 分钟

人形机器人学会了往哪儿打

一名优秀的乒乓球选手同时在做两件事。他们执行:调动全身,把球送到想要的位置。他们还决策:选择一个让对手难受的落点。一次回球可能很精准却容易被接住,也可能很巧妙却太难打出来。当机器人同时学习这两件事时,很难分辨究竟是哪一项让它获胜。

来自浙江大学、清华大学、同济大学、中国海洋大学、上海创智学院和RoboParty Lab的一支团队选择把两者分开。连接两者的只是一对数字:球应该落在球台上的哪个点。

指哪儿打哪儿的身体

这台机器人是一台宇树G1(Unitree G1)人形机器人,有29个电机驱动的关节。一套外部追踪系统以每秒100次的频率跟踪球的位置。

球飞来时,一个基于物理的规划器会计算出球拍需要做什么——击球时的位置、速度和角度——才能把球送到指定的落点,其中考虑了重力、空气阻力、弹跳和球网。随后,一个神经网络把这个规划转化为对全身的指令,每秒50次。

训练分三个阶段,都在仿真中进行:

  1. 学会击球。 机器人练习回击以固定方式抛来的球,瞄准随机选择的落点。
  2. 学会多拍对打。 两台仿真机器人互相对打。来球现在来自真实对手的击球,但目标仍然是随机的:还没有战术。
  3. 学会比赛。 全身控制被冻结。第二个独立的网络只学习从球台上的九个区域中选出一个,依据是球最近的飞行轨迹、自己的位置、对手的位置以及上一次的目标。它赢分就会获得奖励,没有任何人工编写的战术规则。

先求精准,再求聪明

在仿真中,**99.2%的回球合法落台,其中94.3%**落在指定位置30厘米以内,平均误差为15厘米。与在预设来球上进行同等量的额外训练相比,在多拍对打中练习让击球更准确、合法回球也更多。

接下来是关键测试。所有选手都使用完全相同的冻结身体,因此唯一的区别只是目标的选择。学到的策略获胜了:

  • 对阵总是瞄准中间的选手,赢下**89%**的分;
  • 对阵随机瞄准的选手,赢下82%;
  • 对阵总是尽量瞄准离对手最远处的选手,赢下73%。

它并不只是找到了几个好落点。它会把目标移离对手站的位置,也会移离自己上一球打去的位置。

对阵人类的三局比赛

在真实的G1上,使用同样的冻结身体,并通过动作捕捉获取人类的位置,机器人与同一名业余选手进行了三局11分制的比赛。它以11比4、11比6和11比9获胜,打出了多拍回合,正手和反手回球都有。

离进俱乐部还有距离

作者列出了还欠缺的东西。机器人依赖外部的球追踪器和动作捕捉,而不是自己的眼睛。球的模型忽略了旋转。九个区域限制了它的战术,它只把对手看作地面上的一个位置,发球也只发到固定的点。而且它所有的真实比赛都只对阵过一名业余选手。他们更广泛的观点是一条设计原则:在底层身体不断学习的同时,保持目标的含义不变。