← Visos naujienos

NVIDIA Spencer Huang apie fizinį AI, Isaac Lab su Newton ir Agile One SN

ProduktaiŠaltinis: Two Minute Papers YouTube kanalas·
NVIDIA Spencer Huang apie fizinį AI, Isaac Lab su Newton ir Agile One SN

Pokalbyje su NVIDIA atstovu Spencer Huang pristatomi nauji Isaac Lab atnaujinimai su Newton fizikos varikliu vietoj PhysX, DGX Station šablonai ir kartu su Agile sukurta referencinė platforma Agile One SN, kurioje iš karto veikia Thor ir GR00T. Pagrindinė tema — kodėl fizinis AI sunkesnis už LLM: internete nėra paruoštų duomenų apie dvikryptę sąveiką su pasauliu, todėl reikia fizikos solverių ir teleoperacija surinktų imitacinio mokymosi duomenų.

Pilna santrauka

Trys dienos paskelbimai0:30

NVIDIA atstovas Spencer Huang pokalbyje su Karoly pristato tris naujienas. Pirma — Isaac Lab atnaujinimai su Newton: Newton kaip fizikos karkasas buvo pristatytas praėjusiais metais, o jo integracija į Isaac Lab vyksta žingsnis po žingsnio, nes pereinama nuo PhysX prie Newton. Atnaujinimai turėtų padėti kūrėjams plėsti darbus ir visapusiškai pasinaudoti Newton galimybėmis, taip pat pagerinti kasdienį darbo patogumą.

Antra — DGX Station šablonai (blueprints), kurie duoda gerą atspirties tašką tiek įvairioms politikoms treniruoti, tiek apskritai išnaudoti DGX Station darbo stotis prie darbo stalo.

Trečia — Agile One SN, referencinė platforma, sukurta kartu su Agile, remiantis jų Agile One platforma. Joje sutvarkyta viskas nuo Thor integracijos iki firmware ir viso programinės įrangos steko optimizavimo: išpakavus dėžę jau veikia GR00T. Robotas pristatomas su Uji rankomis. Huang aiškina, kad rankų prijungimas ir programinės įrangos steko paleidimas paprastai užtrunka savaites ar mėnesius, priklausomai nuo patirties, todėl NVIDIA tiekia jau patikrintą, jų pačių naudojamą sprendimą — kad kūrėjai iškart imtųsi savo realių užduočių. Esmė: kuo mažiau trinties, tuo daugiau nuveikiama.

Kodėl fizinis AI sunkesnis už LLM2:33

Huang primena, kad LLM turėjo didelį pranašumą: žmonija savo istoriją užrašinėjo ir fiksavo įvairiomis modalumo formomis — rašymu, nuotraukomis, įrašais. Todėl kalbos modeliams jau egzistavo milžiniškas nestruktūrizuotų duomenų kiekis, o darbas virto požymių išskyrimu ir modelių tobulinimu, vėliau pridedant vaizdą, garsą ir kitas modalumo rūšis.

Fiziniam AI tokio duomenų rinkinio nėra: niekur nėra surinkta, kaip pasaulis fiziškai elgiasi ir kaip su juo sąveikaujama. VLM puikiai aprašo, kaip žmonės, objektai ir agentai sąveikauja, bet pačių fizinių duomenų apie sąveiką nėra, o būtent jie kritiškai svarbūs. Robotas manipuliuoja pasauliu, o pasaulis atsako — fizikoje tai vadinama sukibimu (coupling). Esant dvikrypčiam sukibimui, paveikus objektą, jis atgal veikia tave; minkštas objektas ant kieto kūno deformuojasi.

Todėl reikia, pirma, fizikos solverių, gebančių emuliuoti tikrovės fiziką taip, kad tai būtų panaudojama robotų politikų treniravimui, ir, antra, duomenų, fiksuojančių realią dinamiką — manipuliacijos, judesio, trajektorijų duomenų.

Teleoperacija ir žmogaus duomenys4:36

Pradedama nuo imitacinio mokymosi: jis duoda pradinį veiksmų rinkinį, ant kurio galima statyti robustiškesnes politikas. Klasikinis būdas — teleoperacija, kai žmogus valdo robotą ir taip renkami duomenys tos konkrečios kūno formos (embodiment) kontekste. Huang pabrėžia, kad teleoperacija nėra lengva: dažnai nėra jėgos grįžtamojo ryšio, o tai prilygsta nutirpusioms rankoms — smegenys laukia pojūčio, kad sustotų, bet jo negauna. Be to, operatorius dažnai stovi iš šono ir turi mintyse projektuoti, ką mato robotas, todėl net paprastas objektų surinkimas tampa didžiuliu iššūkiu.

Per pastaruosius metus atsirado alternatyvų: galima naudoti egocentrinius žmogaus duomenis (kamera, filmuojanti savo rankas, duoda manipuliacijos duomenis) ir vaizdą iš šono, iš kurio išgaunama žmogaus poza bei sąveika su objektais. Iš to jau galima treniruoti politikas. Problema trilypė — kas yra geri duomenys, kaip juos surinkti ir kaip geriausiai panaudoti.

Realių ir simuliuotų duomenų mišinys6:30

Realių duomenų kiekis ribotas, nes jų rinkimas lėtas ir brangus (reikia įrengti aplinką). Todėl norima naudoti simuliaciją: jos duomenų galima gauti labai daug, bet jie nebūtinai tokie kokybiški kaip realūs, nes dar neaišku, kurie simuliuotų duomenų požymiai iš tikrųjų veikia modelio rezultatus poroje su realiais. Simuliacijai taikomas didelių skaičių dėsnis, o realių ir simuliuotų duomenų bendras treniravimas (co-training) yra savotiškas menas.

Sunkumą daugina aplinkų skaičius: reikia agento, veikiančio beveik bet kokioje aplinkoje — sandėliuose, namuose, duomenų centruose, keliuose (autonominiai automobiliai), ore (pristatymo dronai). O toliau laukia vietos, kur žmogui tiesiog pavojinga ar neįmanoma: giliai vandenyne, giliai po žeme — ten duomenų itin maža. Tai daugiamatė problema: kiek įmanoma daugiau užfiksuoti ir kuo geriau simuliuoti tikrovę.

Neuroniniai ir klasikiniai simuliatoriai9:17

Paklaustas apie „idealią duomenų dietą“, Huang sutinka, kad duomenų mišinio niuansai šiandien yra atskiras menas. Pradžios taškas — baziniai VLM ir pasaulio modeliai, treniruoti ant didelio kiekio stebėtų pasaulio duomenų. Tačiau naudojant juos kaip neuroninius simuliatorius paaiškėja, kad jie haliucinuoja fiziką: jų fizika yra išmokta iš stebėjimų, o ne fiziškai pagrįsta. Pavyzdys — pernykščiai modeliai, kuriuose paimtas ir numestas apelsinas pasidaugindavo į keturis; haliucinuojama ir fizika, ir objektų pastovumas.

Vaikštant po pasaulį svarbiausia laikinė koherencija: pasisukus kairėn ir atgal, pasaulis turi likti toks pat. Manipuliuojant svarbiausia tampa fizika. Todėl siūloma derinti: neuroniniai simuliatoriai duoda įvairovę ir stebėjimų turtingumą, jie mokomi būti multimodalūs (išvesti veiksmus, lytėjimą, jėgos grįžtamąjį ryšį, akustiką), o klasikiniai simuliatoriai išlaiko fizikos pagrįstumą ir nehaliucinuoja. Klasikinės simuliacijos trūkumas — itin varginantis aplinkų kūrimas ir sunkiai pasiekiama įvairovė, nes viskas rėmėsi žmonių darbu; tačiau su naujais modeliais, tokiais kaip Astra ir Opus 5.5, šis siaurasis kaklelis beveik išnyksta.

Konkretus hibrido pavyzdys — automatinis srities atsitiktinimas (domain randomization). Politika treniruojama tūkstančiuose simuliuotų pasaulių su daugybe to paties roboto klonų, randomizuojant fizikos savybių „apgaubą“ (nesiekiama atkartoti būtent šio stalo fizikos, o aprėpti tipinį savybių pasiskirstymą). Vaizdas tokioje simuliacijoje būna neįtikinamas, nes rūpi tik fizika, o pikselių atvaizdavimas yra pagrindinis siaurasis kaklelis.

Tad paprastas atvaizdas gali būti perduotas pasaulio modeliui, kuris randomizuoja medžiagas, apšvietimą, deformacijas, aplinkos tipus, ir grąžinamas politikai — taip politika mokosi fizikos iš klasikinio variklio, o stebėjimus gauna iš neuroninio simuliatoriaus.

Abi kryptys vadinamos „broliais ir seserimis“: neuroninis simuliatorius yra tiek geras, kiek geri jo duomenys, o fiziškai pagrįstų duomenų pasaulyje trūksta. Kuo geriau generuojami fizikos duomenys klasikinėje simuliacijoje ir fiksuojama tikrovė, tuo stipresni duomenų rinkiniai tokiems neuroniniams simuliatoriams kaip Cosmos. Tai vyks dinamika po dinamikos: linijiniai deformuojami objektai (ethernet kabelis nėra tas pats, kas siūlai ant marškinių ar spagečiai ar virvė), audinių dinamika, dalelių fizika ir t. t. Progresas bus žingsninis, bet agentai jį spartina.

Apibendrinimas ir Sonic modelis15:25

Karoly apibendrina: robotas mokosi ne viename, o dešimtyje tūkstančių pasaulių, todėl neuroninis tinklas negali tiesiog įsiminti — jis priverstas suprasti, o tai mažina persimokymą.

Toliau aptariamas Sonic — robotikos laboratorijos darbas, kurį galima įkelti į robotą, ir jis vaikšto, šliaužia, šoka, nenukrisdamas, su skirtingomis kūno morfologijomis; viso to užtenka 42 milijonų parametrų, sprendimai priimami realiu laiku, svoriai atviri ir nemokami. Huang aiškina, kodėl modelis toks mažas: Sonic sprendžia tik posritį — viso kūno valdymą, o ne visą sistemą. Modelio iššūkis — jis labai duomenų alkanas, reikia daug demonstracinių duomenų. Veikiantį Sonic galima derinti su GR00T ar kitu VLA aukštesnio lygio samprotavimui, taip gaunant viso kūno valdymą kartu su ilgo horizonto planavimu per užduotis ir judesius.

Viso kūno valdymo svarba paaiškinama kėlimo pavyzdžiu: keliant sunkią dėžę mokoma kelti kojomis, o ne lenktis per klubus — kad pasiektum objektą, reikia artikuliuoti visą kūną. Ankstyvieji VLA atskirdavo apatinę ir viršutinę kūno dalį, todėl robotas negalėjo vienu metu eiti ir gerti kavos: tekdavo privažiuoti iki statinės pozicijos ir tik tada manipuliuoti, o tiesiantis į šalį artikuliacijos nebelikdavo. Sonic tipo modelius Huang vadina žemiausio lygmens modeliais — „sistema nulis“, o VLA būtų sistema vienas ir sistema du; perėjus prie pasaulio-veiksmo modelių terminija gali keistis.

Pašnekovai sutaria, kad reikalingos ir greitos reakcijos (ar žengti žingsnį, kaip išlaikyti pusiausvyrą) — to negalima perduoti dideliam LLM, kuris atsakytų po valandos. Huang skiria du sąveikos su aplinka būdus: reakciją (stimulas ir greitas judesys, pavyzdžiui, metamo kamuolio sugavimas be mąstymo) ir atsaką (samprotavimas apie ilgo horizonto užduotį). Viso kūno valdymas duoda abu — ir reakcijas, ir galimybę panaudoti visą kūną kaip sprendimo dalį.

Cosmos kaip simuliatorius ir politikų vertinimas20:30

Atsakydamas į klausimą apie prieš metus minėtus neuroninius simuliatorius, Huang sako, kad Cosmos jau pradedamas naudoti simuliacijai, derinant su fiziškai pagrįsta klasikine simuliacija Omniverse pagrindu (Isaac Sim, Isaac Lab) ir Newton, kuris yra karkasas įvairiems solveriams bei AI fizikai — neuroniniams modeliuojamų dinamikų surogatams.

Išskiriami trys Cosmos panaudojimo keliai. Pirmas — srities randomizavimas ir duomenų generavimas. Antras — naudoti patį pasaulio modelį kaip simuliatorių politikai vertinti; apribojimas tas, kad jei simuliatorius nemodeliuoja reikiamos fizikos dinamikos, nebus aišku, ar politika pavyks realybėje, todėl būtinas derinys su klasikine simuliacija. Trečias — pasaulio modeliai patys tampa politika, taip gimsta pasaulio-veiksmo modeliai, kur Cosmos tampa būsimų GR00T variantų stuburu.

Vertinimo schema: politika (pavyzdžiui, GR00T) veikia Cosmos pasaulyje, o kitas samprotaujantis modelis (irgi galimai Cosmos) stebi ir išveda kiekybines metrikas, ar užduotis atlikta. Šiandien tam naudojamas Isaac Lab, vėliau bus prijungtas ir Cosmos. Isaac Lab Arena politika patalpinama į daugybę aplinkų su scenarijais ir apibrėžtais sėkmės kriterijais. Užduotis skaidoma į žingsnius — nepakanka pasakyti „paimk butelį“, reikia matyti, kuriame etape strigo. Tada analizuojama, kas lemia nesėkmę: susidūrimai, apšvietimas ir panašiai. Tai vadinama jautrumo analize.

Toliau galima mokytis iš klaidų, kaip tai daro žmonės: kuo daugiau nesėkmių išanalizuojama, tuo didesnė tikimybė pasisekti kitą kartą.

Papildoma nauda — vertinant politikas simuliacijoje, o paskui matant jų veikimą realybėje, galima įvertinti ir patį simuliatorių. Todėl simuliacija šiandien plačiau naudojama vertinimui nei pagrindiniam treniravimui. Priežastys dvi: klasikinius simuliatorius labai sunku kurti, todėl tiksliai modeliuojamas tik tam tikras dinamikų poaibis (daugiausia kieti kūnai, dabar pereinama prie kietų ir minkštų); anksčiau audinių lankstymas būdavo daromas realybėje, nes simuliacijoje tai buvo per sunku.

Dabar agentai ir geresni solveriai leidžia tokias dinamikas simuliuoti, ir klausimas pasislenka į tai, kiek pasitiki savo simuliatoriumi — tai sim-to-real atotrūkis.

Karoly patvirtina, kad lankydamasis robotikos laboratorijose visur girdi tą patį: simuliacijoje viskas veikia puikiai, o perkėlus į realybę nebeveikia niekas. Huang atsako posakiu, kad simuliacijoje esi „pasmerktas pavykti“ — visada galima ką nors sureguliuoti, kad pavyktų, bet tai negarantuoja zero-shot perkėlimo į tikslinę platformą. Tai galioja bendrosios paskirties simuliatoriui; žmonės, paėmę platformą, ją patys derina. (Pokalbio įrašas šioje vietoje nutrūksta.)

Dalintis:

Originalas: The Future of AI Is Absolutely Incredible (Spencer Huang) (Two Minute Papers YouTube kanalas)

Visos 2026 m. lapkričio 6 d. naujienos · Archyvas