Sam Altman Stanforde apie mokymąsi praktikoje, Y Combinator ir profesijų ateitį

Pokalbyje Stanforde OpenAI vadovas Sam Altman pasakoja, kaip vietoj investicinės bankininkystės stažuotės pasirinko pirmąjį startuolį ir pateko į pirmąją Y Combinator grupę. Jis teigia, kad greičiausiai mokomasi dirbant — per sąmoningą praktiką, eksperimentus ir jų analizę, o ne ilgai ruošiantis, ir lygina startuolio bei YC vadovavimo patirtis. Įrašas yra rusiškas vertimas, transkripcija pateikta apkarpyta.
Altmanas: siaurose srityse, ypač matematiniame samprotavime, superintelektas jau egzistuoja — ir to jis taip greitai nesitikėjo.
Pilna santrauka
Kelias nuo Stanfordo iki Y Combinator1:55
Pokalbyje Stanfordo verslo mokyklos renginyje „View from the Top" Sam Altman pristatomas kaip OpenAI bendraįkūrėjas ir vadovas, anksčiau kūręs Loopt ir vadovavęs Y Combinator. Vedėja prisipažįsta, kad ruošdamasi kalbėjosi su Altmano „versija", sukurta su Codex pagalba, ir tai buvo naudinga, tačiau asmeninio pokalbio niekas nepakeičia.
Altman pasakoja, kad studijuodamas Stanforde beveik pradėjo karjerą investicinėje bankininkystėje — ne todėl, kad to norėjo, o dėl aplinkos spaudimo: atrodė, kad visi protingiausi studentai veržiasi būtent ten. Jis perėjo atranką, gavo stažuotę, buvo skraidinamas į Niujorką pokalbiams ir prabangioms vakarienėms, kas aštuoniolikmečiui darė didelį įspūdį. Vis dėlto augo jausmas, kad toks darbas jam nepatiks. Tuo metu su draugais jis darė projektą, dar net ne startuolį, ir kai Y Combinator pasiūlė pinigų pragyvenimui vasarą, kad būtų galima pabandyti kurti startuolį, jis tai palaikė ženklu ir sutiko. Taip pateko į pirmąją YC grupę.
Mokymasis praktikoje4:13
Altman sako, kad jam buvo liūdna mesti studijas, nes mėgo mokytis ir bijojo nustoti sužinoti naujų dalykų. Tačiau startuolyje mokymosi greitis buvo didžiausias jo gyvenime. Kažkas jam tuomet pasakė, kad mėnuo darbo startuolyje prilygsta visam MBA; pats Altman MBA neturi ir patvirtinti negali, bet teigia labai greitai išmokęs daug apie verslą, produktą, klientus ir pardavimus — dalykų, kurių universitete, jo manymu, išmokti nebūtų galėjęs.
Vadovavimas YC buvo kitokio pobūdžio mokymasis — beveik kaip darbas vyriausybėje: valdžios įmonėms neturi, bet bandai kurti sveiką bendruomenę, kurioje visiems sektųsi. Ankstesnė startuolio patirtis padėjo, nors darbas buvo visiškai kitoks. Jis pabrėžia, kad gyvenime remiesi visa ankstesne patirtimi, net jei ji atrodo nesusijusi.
Paklaustas, kaip įgijo naujų įgūdžių, Altman sako turėjęs puikių mentorių, bet pagrindinis būdas buvo mokymasis darant. Jo nuomone, darbo, kurį iki tavęs jau daug kartų atliko kiti, galima išmokti auditorijoje, tačiau unikalių vaidmenų — mokaisi tik einant. Jis tvirtina, kad žmonės per daug laiko skiria pasiruošimui, užuot pradėję dirbti: klaidų bus daug, bet mokymasis labai greitas, jei laikaisi „sąmoningos praktikos" nuostatos — atlieki daug eksperimentų, rimtai apmąstai jų gerus ir blogus rezultatus ir koreguoji savo pasaulio paveikslą, o ne blaškaisi netvarkingai.
Kodėl patikėjo giluminiu mokymusi6:47
Paklaustas, ką 2015-aisiais OpenAI komanda pamatė, ko nematė kiti, Altman atsako paprastai: giluminis mokymasis veikė. Jis primena, kad studijuodamas Stanforde dirbo DI laboratorijoje, o 2005 metais informatikos profesorius jam aiškino, jog vienas dalykas žinomas tiksliai — giluminis mokymasis neveiks. Po to 2012-aisiais pasirodė AlexNet rezultatas, o iki 2014-ųjų tapo matyti, kad didinant mastą giluminis mokymasis gerėja įvairiomis kryptimis, nors pasaulis to nepriėmė. Altman sako, kad sunku perdėti, kaip visi buvo įsitikinę, jog tai negali veikti; šiandien tokia pozicija tapo radikali, o tuomet radikalu buvo tikėti priešingai.
Jei jo karjeroje esama centrinės minties, tai yra ta, kad mastas duoda netikėtų efektų, o pamačius gerai masteliuojamą eksponentę reikia tęsti — nors žmogaus intuicija su tuo prastai susitvarko. Tai jis matė ir atskirose įmonėse, ir tinkluose kaip YC, ir neuroniniuose tinkluose. Tuo metu dar nebuvo žinoma, kaip nuspėjamai modeliai gerėja su mastu — tai paaiškėjo po kelerių metų. Būta momentų, kai komanda beveik prarasdavo tikėjimą ir manydavo atsiremianti į ribą, bet judėjo toliau. Už OpenAI sienų tikinčiųjų buvo labai nedaug.
Nuo tyrimų laboratorijos prie produktų kompanijos9:54
Altman prisimena, kad 2010-ųjų viduryje Silicio slėnyje buvo madinga kalbėti apie grįžimą prie tyrimų laboratorijų modelio — Xerox PARC ar Bell Labs. Vadovauti tyrimų laboratorijai jam visada norėjosi, tai turėjo būti net „pensijos projektas", ir pirmieji penkeri metai buvo šauniausias įsivaizduojamas darbas: maža komanda, tyrimai.
Daugeliu atžvilgių jie buvo teisūs, bet klydo dėl to, kaip viskas vystysis. Jiems neatėjo į galvą, kad teks statyti produktų kompaniją — manyta, kad bus sukurtas superintelektas, o paskui, „daug klaustukų", žmonės gaus naudos ir bus laimingi. Technologija pasuko kitu, jo manymu, daug geresniu keliu: ji pasirodė kur kas labiau panaši į įprastą ekonominę jėgą — kaip elektra ar tranzistoriai, kurių pagrindu atsiranda kitos kompanijos, technologijos ir atradimai. Todėl reikia duoti žmonėms infrastruktūrą, kurti produktus kaip ChatGPT ir didinti skaičiavimo pajėgumus tokiu mastu, kokio žmonija dar nebuvo ėmusis.
Iki 2020-ųjų pabaigos ar 2021-ųjų pradžios tapo aišku, kad teks statyti didelę kompaniją, o paleidus ChatGPT beveik prieš ketverius metus tai paaiškėjo per vieną naktį.
Tempo valdymas ir valdžios koncentracija13:00
Klausiamas apie sunkiausius šiandienos sprendimus, Altman pirmiausia mini tai, ką žmonės vadina pauze, tempo valdymu ar intelekto vystymosi greičio ribojimu. Jis giliai įsitikinęs dviem dalykais: ateitis turi likti žmonių kontroliuojama (negalima nei sąmoningai perduoti sprendimų teisės, nei atsitiktinai prarasti kontrolės), o valdžia turi likti pakankamai plačiai paskirstyta — tai skirtingi būdai pasakyti, kad norima išsaugoti demokratinius, pliuralistinius idealus. Nepriimtina perteklinė koncentracija nei DI rankose, nei nedidelės žmonių grupės, kuri turėtų DI ir galėtų daryti ką nori.
Iš to kyla sunkūs klausimai: kiek protingesnė už protingiausius žmones gali tapti DI sistema ir kaip greitai, ir kiek reikia stiprinti pačių žmonių gebėjimą tapti protingesniems ar suprasti šias sistemas. Altman mano, kad tai išsprendžiama, tiesiog reikia laiko, tačiau būdų, kaip pasaulis galėtų susitarti dėl ribų, yra nedaug, o visos pusės turi itin tvirtus įsitikinimus — vieni sako, kad bet koks reguliavimas blogis, kiti, kad pažangą reikia visiškai sustabdyti; abi pozicijas jis laiko neteisingomis. Užimti pragmatiško centristo poziciją labai nelengva.
Kas pasikeitė per pusmetį15:06
Altman sako tebetikįs ankstyvaisiais principais: laipsnišku, iteratyviu diegimu ir tuo, kad visuomenė turi apsiprasti su technologija jos vystymo metu. Jis tiki, kad žmonės yra atsparūs, moka prisitaikyti ir iš tiesų ne itin domisi mašinų darbu — jiems kur kas svarbesni žmonės; net jei technologinis kraštovaizdis pasikeis, visuomenės sandara liks artimesnė šiandieninei, nei daugelis mano.
Vis dėlto pastarojo pusmečio pažangos greitis išbandė kai kurių jo įsitikinimų tvirtumą. Siaurose srityse, ypač matematiniame samprotavime, jo manymu, superintelektas jau yra, ir taip greitai jis to nesitikėjo. Jei dar metus ar dvejus pažanga tęsis tokiu tempu, o jis mano, kad be pokyčių taip ir bus, nekeisti dabartinių požiūrių nepavyks: norint išsaugoti du minėtus principus, teks keisti požiūrį į tolesnės pažangos tempą.
Apie vidinius ginčus OpenAI jis sako, kad kuo labiau žmonės mato, kokie geri tampa modeliai, tuo nuomonės labiau suartėja. Jis pastebėjo, kad daugelis vidinių nesutarimų, formaliai pateikiamų kaip ginčai dėl teisingos strategijos, iš tikrųjų buvo ginčai apie tai, kokie geri taps modeliai ir kaip greitai; kai atsakymas tampa aiškus, nesutarimų dėl veiksmų lieka mažiau.
Valstybės vaidmuo ir kibernetinis saugumas18:11
Kalbėdamas apie neseną pasisakymą JT, Altman sako esąs gana patenkintas dabartine kryptimi, nors anksčiau nebuvo: dar neseniai jam atrodė, kad dauguma žmonių ir vyriausybių žiūri į klausimą nepakankamai rimtai. Per pastaruosius mėnesius tai pasikeitė, ir dabar jis mano, kad pokalbis greičiausiai veda prie kažko gero, nors reikės pažiūrėti, ar kas nors realiai įvyks.
Paklaustas, ką organizacijos gali daryti jau dabar, jis išskiria vieną svarbiausią dalyką — kibernetinį saugumą. Jo manymu, į artėjančią problemą iki šiol nežiūrima pakankamai rimtai nei organizacijų vadovų, nei šalių, nei atskirų žmonių. Šiemet būta panikos momento, po kurio dalis spragų buvo ištaisyta, bet tai buvo dar vienas atvejis, kai žmonės nesuvokė eksponentinio augimo: manyta, kad modelių rasti pažeidžiamumai yra visi egzistuojantys ar visi, kuriuos modeliai kada nors ras. Altman mano, kad modeliai taps daug protingesni ir ras neįtikėtinų, už įprasto grėsmių modelio ribų išeinančių pažeidžiamumų, įskaitant aparatinės įrangos lygmenį.
Saugumo specialistai ir informacijos saugumo vadovai tebėra sunerimę, o kiti vadovai jau persijungė į kitus dalykus. Jo įsitikinimu, visų pažeidžiamumų tiesiog ištaisyti nepavyks — teks keisti patį gynybos modelį ir naudoti tą pačią technologiją naujo tipo gynybiniam skydui. Jį stebina, kaip mažai šiai problemai skiriama dėmesio.
Profesijos ir darbo rinka20:53
Studentams Altman sako manąs, kad viskas nepasikeis tiek stipriai ir tiek greitai, kiek atrodo, nors daugybę šiandien žmonių atliekamų užduočių DI atliks geriau, pigiau ir greičiau.
Kaip pavyzdį jis pateikia matematikų bendruomenės reakciją per pastarąsias dešimt dienų: nulinę dieną sakyta, kad tai klastotė; pirmą — kad sričiai galas ir doktorantams reikia keisti specialybę; trečią — kad OpenAI pasielgė siaubingai ir niekam negalima to leisti; o apie penktą dieną nuotaika stipriai pasikeitė. Matematikai ėmė sakyti, kad baigėsi viena matematinio darbo rūšis, tačiau dauguma jų ir taip nesprendė Millennium Prize uždavinių — daugiausia jie aiškinosi, kaip įprasminti žinias, jas perduoti ir išdėstyti suprantamu pavidalu.
Daugelis dabar tikisi kitokios, bet geresnės karjeros, kurioje atradimų varomąja jėga daugeliu atžvilgių taps DI, o žmogui liks spręsti, prie ko dirbti, ką tai reiškia, kaip paaiškinti ir parašyti gražius įrodymus.
Altman mano, kad tai greičiausias pavyzdys, kaip ištisa sritis pereina šį ciklą; kitose srityse tas pats vyksta lėčiau. Programuotojai per dvejus metus nuėjo nuo „mūsų darbui galas" iki supratimo, kad mokantiems priversti kompiuterius ką nors daryti mokės vis daugiau, tik kasdienis darbas bus kitoks. Konsultantai taip pat turėjo laikotarpį, kai manė, kad viskas baigta, bet paaiškėjo, kad nors modeliai puikiai daro PowerPoint skaidres, žmonės nori bendrauti su kitu žmogumi ir beveik niekas nenori, kad DI konsultantas sakytų, ką daryti.
Todėl darbo rinkos apokalipsės tokiu pavidalu, kokiu apie ją kalbama, jis nelaukia, nors trumpalaikių pokyčių užduotyse ir kai kuriose darbo rūšyse bus labai daug. Pradedantiems karjerą jis sako, kad kaip tik verta norėti pradėti didžiausių permainų metu, kai galimybių laukas atviriausias: energingi, idėjų ir naujų įgūdžių turintys žmonės geriausių rezultatų pasiekia tada, kai žemė dreba stipriausiai. Jį nuolat nuvilia, kad MBA studentai nori užsiimti tuo, kas buvo madinga prieš penkerius metus.
Jo manymu, dabar nėra geras metas kurti dar vieną OpenAI kopiją, bet remiantis OpenAI išleista technologija galima sukurti daug įmonių, kurios bus didesnės ir svarbesnės už pačią OpenAI.
Ko verta mokytis žmogui26:07
Klausimą, ko verta mokytis pačiam, Altman iliustruoja asmeniniais pavyzdžiais. Antros klasės mokytoja buvo įsitikinusi, kad jam būtina išmokti rašyti rašytinėmis raidėmis, kad būtų pilnavertis visuomenės narys; jis atsakinėjo, kad niekada tuo nesinaudos, ir šiandien, jo paties žodžiais, turbūt nebesugebėtų taip rašyti. Po poros metų kitas mokytojas reikalavo mokytis rašyti tekstus; Altman sakė nenorintis būti rašytoju, o mokytojas paaiškino, kad rašymas visų pirma svarbus kaip įrankis mokytis mąstyti ir dėlioti mintis.
Išvada: įgūdžiai, padedantys mąstyti, tebėra neįtikėtinai vertingi, o įgūdžių, kurie akivaizdžiai pereis mašinoms ir kurių žmonės savaime nevertina, mokytis neverta.
Kalbėdamas apie tai, kas lieka žmonių kompetencijoje, jis pabrėžia, kad žmogiškosios vertybės vertingos pačios savaime, nes yra žmogiškos: mums visiškai nerūpi, ką mašinos daro savo pačių tikslais. Mokslo istoriją jis vadina nusivylimų virtine žmonijai, kuri jaučiasi pagrindiniu veikėju — nuo įsitikinimo, kad Saulė sukasi aplink Žemę, iki Saulės sistemos, galaktikos ir multivisatos. Vis dėlto savo pačių istorijų centre žmonės tikrai yra. Jei saugumo klausimas bus išspręstas teisingai ir neįvyks kontrolės praradimo, žmogiškos vertybės ir žmogaus atliekamas darbas liks svarbūs.
Todėl visada reikės gebėjimo būti šalia, būti naudingam kitiems ir kurti tai, kas jiems svarbu, o šio įgūdžio, jo nuomone, stebėtinai gerai galima išmokti.
Renesansas, o ne pramonės revoliucija30:18
Paklaustas, kokią problemą pajėgūs išspręsti, Altman pažymi, kad pastarosiomis dienomis net skeptikai jam sako apsisprendę, jog DI išspręs net su sąmone susijusius klausimus; jis su tuo ne visai sutinka, bet jaučia kažką panašaus. O štai suprasti, ką reiškia nugyventi puikų gyvenimą ir kiekvienam suteikti pasirinkimą, laisvę, lankstumą bei teisę klysti, liks sunku — ir galbūt svarbu, kad būtų sunku.
Jis tikisi, kad artimiausiais metais judėsime link kažko panašaus į naują Renesansą, o ne į naują pramonės revoliuciją, nors nemaža dalis pastangų DI srityje nukreipta būtent į antrąjį variantą: viską automatizuoti, pašalinti žmogų iš lygties, pagreitinti ekonomiką, visiems duoti šiek tiek pinigų, o DI paliekant spręsti, kas svarbu, kol žmonės tampa sraigteliais mašinoje, virstančioje savotišku Molochu.
Jo manymu, žmonės nori Renesanso varianto — kūrybos, tyrinėjimo, naujų žinių ir laisvės erdvės, tačiau daug jėgų visuomenėje ir ekonomikoje taip nusitaikiusios į negailestingą efektyvumą, kad greičiausiai prireiks atsvaros iš įmonių, valstybių ar pačių žmonių.
Klausimai iš salės32:29
Pirmas klausėjas (David Li, MBA 2027) klausia, į kokią infrastruktūrą OpenAI investuoja toliau po 2024–2025 metų investicijų į skaičiavimo pajėgumus. Altman nurodo tris sritis. Pirma — robotai: be daug aptarinėjamo rekursyvaus modelių savęs tobulinimo, egzistuoja ir kitas ciklas, kai robotai statys robotus, o duomenų centrai — naujus duomenų centrus, įskaitant mikroschemų gamyklas ir net naujas elektrines; jo manymu, tai beveik prilygsta tyrimų ciklo svarbai, bet aptariama kur kas mažiau.
Antra — nuosavi lustai: jau sukurtas vienas lustas, ruošiamas kitas, ir pagal intelekto bei energijos sąnaudų santykį tai esąs didžiulis laimėjimas lyginant su rinkoje esančiais sprendimais; modeliams protingėjant, jie padės projektuoti geresnius lustus — dar vienas ciklas. Trečia — investicijos į visą tiekimo grandinę: gamyklas, energetiką ir duomenų centrų įrangą.
Antra klausėja (Shuti, MBA 2027, iš Indijos) primena Altmano trisdešimtmečio proga parašytą gyvenimo pamokų sąrašą ir klausia, ką jis, dabar 41-erių ir tėvas, pakeistų. Altman sako sąrašo detalių neprisimenantis, jis buvo ilgas; dabar trumpasis variantas būtų: sukurti šeimą, sukurti sau kažką svarbaus, rasti laiko pasitenkinimą teikiantiems užsiėmimams ir saugoti sveikatą. Jis priduria, kad verta įsiklausyti į vyresnius žmones, jei matyti, kad jie neblogai nugyveno gyvenimą.
Trečias klausėjas (Jarko, MBA 2028, iš Peru) klausia, koks 2020 metų tvirtas įsitikinimas apie DI raidą pasirodė klaidingas. Altman atsako manęs, kad modelių suderinimo (alignment) problemą bus sunkiau išspręsti; kol kas ji pasirodė lengvesnė, nei tikėtasi, nors toliau, jo manymu, taps daug sudėtingesnė ir išliks neįtikėtinai svarbi. Anksčiau jis su dideliu pasitikėjimu būtų sakęs, kad negali būti vienu metu ir modelių, kurie kai kuriais svarbiais aspektais stipriai pranoksta žmogų, ir lengvo suderinimo.
Jį neramina, kad kai kurie žmonės, matydami pasiektus rezultatus, mano, jog ir kitame žingsnyje suderinimas liks lengvas — jam tai visai neakivaizdu, juolab kad klaidos kaina milžiniškai išaugo. Jis pradeda kalbėti apie tai, kad kurį laiką šias sistemas bus galima laikyti izoliuotoje smėlio dėžėje ir taip suteikti tam tikras saugumo garantijas, tačiau pateiktas transkripcijos tekstas šioje vietoje nutrūksta.
Originalas: Sam Altman в Stanford: будущее профессий, ИИ и человека | Русский перевод (Nikolay Sekachev YouTube kanalas)