Kaip dirbtinis intelektas naudojamas kuriant pasaulio simuliacijas su robotais-žmonėmis, kurie priima sprendimus?
Dirbtinis intelektas (DI) sparčiai tobulėja, o Stanfordo mokslininkai, naudodami generatyvinį DI, sukūrė mini pasaulio simuliaciją. Simuliacijoje sukurtas miestas su įvairiais veikėjais, kurių kiekvienas turi unikalią tapatybę, atmintį ir elgesį.
Ši simuliacija lyginama su populiariais gyvenimo simuliacijos vaizdo žaidimais ir mokslinės fantastikos serialais, tokiais kaip „Vakarų pasaulis“, kuriame robotams iš anksto sukuriami siužetai ir asmenybės, su kuriomis gali bendrauti svečiai žmonės[1].
Simuliacijoje, pavadintoje „Generatyviniai agentai: interaktyvūs žmogaus elgesio simuliakrai“, 25 personažams, vadinamiems generatyviniais agentais, buvo iš anksto įkeltos tapatybės, informacija, santykiai su kitais personažais ir kiekvienos dienos planai.
Tuomet tyrėjai leido gyvenimui vykti, kad įvertintų virtualaus pasaulio dėsningumus ir pokyčius. Personažai galėjo prisiminti praeities informaciją, kurti naujas mintis ir planuoti būsimus veiksmus su galimybe juos koreguoti. Personažai taip pat galėjo koordinuoti savo veiksmus tarpusavyje.
Pavyzdžiui, veikėjai Izabelei buvo suteiktas pagrindinis siekis surengti Valentino dienos vakarėlį, o Marijai įsimylėti Klausą. Nesulaukusi papildomo indėlio, Izabelė pakvietė žmones į vakarėlį, papuošė namus ir paprašė Marijos pagalbos. Tada Marija priėmė kvietimą ir pasinaudojo proga pakviesti Klausą į renginį.
Tiriamajame darbe buvo pabrėžta atminties ir atgaminimo svarba. Personažai sudarė platų sąrašą pastebėjimų apie save ir savo aplinką bei traukė prisiminimus pagal jų aktualumą, reikšmingumą ir svarbą. Jie taip pat peržiūrėjo savo prisiminimus, kad suformuotų naujas įžvalgas. Taip pat jie galėjo apmąstyti ankstesnius apmąstymus. Nauji pastebėjimai ir mintys galėjo paskatinti veikėjus keisti savo planus[2].
Virtualaus pasaulio projektas kelia klausimų
Dirbtinio intelekto valdomi personažai buvo įvertinti kaip panašesni į žmones nei tikri žmonės, dalyvaujantys vaidmenų simuliacijose. Tyrėjai apklausė personažus, kad įvertintų jų veiksmingumą. Šis modeliavimas turi įdomių pasekmių dirbtinio intelekto kūrimui, pavyzdžiui, galimybę sukurti tikroviškesnius NPC (nežaidžiamus personažus) vaizdo žaidimuose arba patobulinti virtualius asistentus.
Dirbtinis intelektas galėtų padėti sukurti labiau įtraukiančią naudotojų patirtį ir pagerinti žmogaus ir mašinos sąveiką. Ši pasaulio simuliacija rodo dirbtinio intelekto potencialą ir jo gebėjimą kurti protingus, autonomiškus subjektus, galinčius veikti sudėtingoje aplinkoje. Tačiau dirbtinio intelekto kūrimas kelia etinių problemų.
Simuliacijoje vaizduojami personažai, turintys į žmogų panašių savybių, tačiau jie vis tiek yra dirbtinio intelekto valdomi subjektai. Naudojant dirbtinį intelektą kuriant autonominius subjektus, gali būti sukurti subjektai, kurių ketinimai neatitinka žmogiškųjų vertybių, o tai gali sukelti neigiamų pasekmių.
Dirbtinio intelekto eksperimento veikėjai valosi dantis, eina į darbą, bendrauja ir kuria santykius
Šie veikėjai nėra visai tokie, kokie atrodo. Grafika tik vizualiai atvaizduoja tai, kas iš esmės yra pokalbių tarp kelių „ChatGPT“ egzempliorių virtinė. Agentai nevaikšto aukštyn, žemyn, į kairę ir į dešinę ir nesiartina prie spintos, kad su ja sąveikautų. Visa tai vyksta per sudėtingą ir paslėptą teksto sluoksnį, kuris sintezuoja ir organizuoja su kiekvienu agentu susijusią informaciją[3].
Dvidešimt penki agentai, 25 dirbtinio intelekto įrankių egzemplioriai, kurių kiekvienas gauna panašaus formato informaciją, verčiančią jį atlikti žmogaus vaidmenį išgalvotame mieste.
Taigi dirbtinis intelektas spėja, ką žmogus darytų konkrečioje situacijoje, ir pateikia savo atsakymą, tarsi žaistų ar rašytų istoriją. Vartotojai taip pat gali rašyti įvykius ir aplinkybes, pavyzdžiui, apie lašantį maišytuvą arba norą suplanuoti vakarėlį, o agentai atitinkamai reaguoja, nes bet koks tekstas jiems yra tikrovė.
Visa tai atliekama kruopščiai pateikiant visiems šiems atvejams visas agentų tiesioginių aplinkybių smulkmenas. Kadangi šis procesas labai ilgas, egzemplioriai greitai pradeda pamiršti svarbius dalykus, todėl eksperimentinė sistema yra modeliavimo stadijoje ir primena jiems svarbius dalykus arba sintezuoja juos į lengviau perkeliamas dalis.
Elonas Muskas ir kiti technologijų ekspertai ragina stabdyti projektą
Dirbtinis intelektas domina pasaulį jau dešimtmečius, tačiau tik pastaraisiais metais ši technologija gerokai pažengė į priekį, todėl kasdien visuomenė gali naudotis DI taikomosiomis programomis. Tačiau naujoje peticijoje, kurią pasirašė daugiau nei 1 000 žmonių, raginama sustabdyti milžiniškus eksperimentus su dirbtiniu intelektu, o jos iniciatoriai yra pramonės ekspertai, norintys apsaugoti visuomenę nuo gilaus pavojaus visuomenei ir žmonijai, kurį gali išprovokuoti su žmogumi konkuruojančios dirbtinio intelekto sistemos[4].
Peticijoje atkreipiamas dėmesys į nepakankamą planavimą ir valdymą diegiant pažangius dirbtinio intelekto modelius, kurie peticijoje apibūdinami kaip nekontroliuojamos lenktynės, sukuriančios sistemas, kurių jų kūrėjai negali suprasti, numatyti ar patikimai kontroliuoti. Todėl peticijoje reikalaujama, kad dirbtinio intelekto laboratorijos bent šešiems mėnesiams sustabdytų galingesnių nei „GPT-4“ dirbtinio intelekto sistemų mokymą.
Peticijoje siūloma pertrauka suteiktų dirbtinio intelekto laboratorijoms ir nepriklausomiems ekspertams laiko parengti pažangių dirbtinio intelekto sistemų projektavimo saugos protokolus, kad dirbtinio intelekto sistemos taptų tikslesnės, saugesnės, aiškiau suprantamos, patikimesnės ir lojalesnės, teigiama atvirame laiške.
Verta pažymėti, kad praeityje vyriausybinės agentūros jau anksčiau buvo sustabdžiusios technologijų, turinčių galimą katastrofišką poveikį visuomenei, pavyzdžiui, žmogaus klonavimo ir eugenikos, veiklą, todėl peticijoje teigiama, kad šį įvykį reikėtų vertinti taip pat atsargiai.
Skubios DI plėtros nepalaiko kai kurie kiti DI kūrėjai
Peticiją pasirašė žymūs pramonės atstovai, įskaitant „Tesla“ vadovą Eloną Muską, vieną iš „Apple“ įkūrėjų Steve Wozniak ir Emadą Mostaque, bendrovės „Stability AI“, atsakingos už stabilios difuzijos išradimą, generalinį direktorių. E. Muskas jau anksčiau yra išreiškęs susirūpinimą dėl spartaus dirbtinio intelekto augimo ir „Microsoft“ dalyvavimo.
E. Muskas buvo pirmasis investuotojas į „OpenAI“, kai ji buvo įkurta 2015 m., tačiau nuo to laiko jis išreiškė susirūpinimą dėl bendrovės dėmesio dirbtiniam intelektui, ypač dėl jos nutolimo nuo atvirojo kodo ir ne pelno siekiančios veiklos ištakų. Peticija siekiama spręsti skubią ir svarbią problemą, susijusią su nekontroliuojamu dirbtinio intelekto sistemų, galinčių padaryti didelę žalą visuomenei, kūrimu.
Dirbtinio intelekto sistemų gebėjimas greitai mokytis ir prisitaikyti paverčia jas neįtikėtinai galingais įrankiais, tačiau dėl to jas taip pat sunku kontroliuoti, todėl kyla susirūpinimas dėl galimybės, kad dirbtinis intelektas gali pradėti gyventi savo gyvenimą ir tapti grėsme žmonijai[5].
Atsižvelgiant į galimą riziką, susijusią su nekontroliuojamu dirbtinio intelekto kūrimu, svarbu turėti struktūruotą ir apgalvotą požiūrį į dirbtinio intelekto kūrimą, kuriame pirmenybė teikiama saugai ir etiniams aspektams. Akivaizdu, kad kuriant dirbtinį intelektą reikia daugiau skaidrumo ir reguliavimo, o ši peticija yra svarbus priminimas, kad su šia sparčiai besivystančia technologija reikia elgtis atsargiai.
