رباتی انساننما یاد میگیرد کجا را نشانه بگیرد
یک بازیکن خوب تنیس روی میز همزمان دو کار انجام میدهد. اجرا میکند: تمام بدنش را حرکت میدهد تا توپ را همان جایی بگذارد که میخواهد. و تصمیم میگیرد: نقطهای را برمیگزیند که حریف را به دردسر بیندازد. یک برگشت میتواند دقیق اما در دسترس باشد، یا هوشمندانه اما بسیار دشوار برای اجرا. وقتی رباتی هر دو را با هم یاد میگیرد، دشوار است بگوییم کدام یک او را برنده میکند.
تیمی از دانشگاه ژجیانگ، دانشگاه چینگهوا، دانشگاه تونگجی، دانشگاه اقیانوس چین، مؤسسه نوآوری شانگهای و RoboParty Lab تصمیم گرفت این دو را از هم جدا کند. پیوند میان آن دو تنها یک جفت عدد است: نقطهای روی میز که توپ باید در آن فرود آید.
بدنی که همان جا را میزند که به او گفته شود
ربات یک انساننمای Unitree G1 با 29 مفصل موتوری است. یک ردیاب بیرونی توپ را 100 بار در ثانیه دنبال میکند.
وقتی توپی میآید، یک برنامهریز مبتنی بر فیزیک محاسبه میکند که راکت باید چه کند (موقعیت، سرعت و زاویه در لحظه ضربه) تا توپ به نقطه فرود خواستهشده برود، و گرانش، پسار هوا، جهش توپ و تور را در نظر میگیرد. سپس یک شبکه عصبی این طرح را 50 بار در ثانیه به فرمانهایی برای کل بدن تبدیل میکند.
آموزش در سه مرحله و در شبیهسازی انجام میشود:
- یادگیری ضربه زدن. ربات با توپهایی که به شیوهای ثابت پرتاب میشوند تمرین میکند و نقاط فرودی را نشانه میگیرد که تصادفی انتخاب شدهاند.
- یادگیری رالی. دو ربات شبیهسازیشده با هم بازی میکنند. اکنون توپهای ورودی از ضربههای یک حریف واقعی میآیند، اما هدفها هنوز تصادفیاند: هنوز تاکتیکی در کار نیست.
- یادگیری بازی. کنترل کل بدن منجمد میشود. شبکه دوم و جداگانهای فقط یاد میگیرد یکی از نُه ناحیه روی میز را برگزیند، بر پایه مسیر اخیر توپ، موقعیت خودش، موقعیت حریف و هدف قبلیاش. برای بردن امتیاز پاداش میگیرد، بی هیچ قاعده تاکتیکی که دستی نوشته شده باشد.
دقیق، سپس هوشمندتر
در شبیهسازی، 99.2% برگشتها مجاز فرود آمدند و 94.3% آنها در فاصله 30 سانتیمتری نقطه خواستهشده، با خطای میانگین 15 سانتیمتر. تمرین در رالیها ضربهها را دقیقتر و پرشمارتر مجاز کرد تا همان مقدار آموزش اضافه روی توپهای ازپیشتنظیمشده.
سپس آزمون کلیدی رسید. همه بازیکنان از دقیقاً همان بدن منجمد استفاده کردند، پس تنها انتخاب هدف تفاوت داشت. راهبرد آموخته بُرد:
- 89% امتیازها در برابر بازیکنی که همیشه وسط را نشانه میگیرد؛
- 82% در برابر بازیکنی که تصادفی نشانه میگیرد؛
- 73% در برابر بازیکنی که همیشه تا جای ممکن دور از حریف را نشانه میگیرد.
این راهبرد فقط چند نقطه خوب پیدا نکرد. هدفش را از جایی که حریف ایستاده بود، و از جایی که توپ قبلی را فرستاده بود، دور کرد.
سه گیم در برابر یک انسان
روی یک G1 واقعی، با همان بدن منجمد و با ثبت موقعیت انسان از طریق ردیابی حرکت، ربات سه گیم 11 امتیازی در برابر همان بازیکن آماتور بازی کرد. با نتایج 11–4، 11–6 و 11–9 برد، با رالیهای چندضربهای و برگشتهایی هم با فورهند و هم با بکهند.
هنوز در حد باشگاه نیست
نویسندگان کمبودها را برمیشمارند. ربات به جای چشمان خودش به ردیاب بیرونی توپ و ثبت حرکت متکی است. مدل توپ چرخش (spin) را نادیده میگیرد. نُه ناحیه تاکتیکهایش را محدود میکند، حریف را فقط به صورت موقعیتی روی زمین میبیند و سرویس را به نقطهای ثابت میزند. و همه بازیهای واقعیاش در برابر یک آماتور بود. پیام کلیترشان یک قاعده طراحی است: معنای هدف را ثابت نگه دارید، در حالی که بدنِ زیرین به یادگیری ادامه میدهد.
