Prieš nevaldomą DI plėtrą pasisako ir E. Muskas, ir popiežius Pranciškus

Dirbtinio intelekto pajėgumai išgąsdino net didžiausius technologijų entuziastus

Praėjusių metų pabaigoje dirbtinio intelekto (DI) pokalbių robotas „Chat GPT“ išpopuliarėjo staiga, sudomino milijonus technologijų entuziastų, tyrėjų, verslininkų bei įtakingiausių pasaulio išminčių ir inovatorių. Tačiau dabar „Chat GPT“ jau ne tik domina, tačiau ir kelia baimę.

Praėjus keliems mėnesiams po „Chat GPT“ paleidimo, programa jau buvo sulaukusi net 100 mln. aktyvių naudotojų per mėnesį, be to, tapo sparčiausiai augančia programėle istorijoje.

Dar šio mėnesio pradžioje „OpenAI“ iš Redmondo technologijų milžinės gavo net 10 mlrd. dolerių investiciją.

Tačiau taip pat greitai kaip interneto platybėse plito istorijos apie „Chat GPT“ galimybes, sukurtas istorijas, išlaikomus aukščiausio lygio egzaminus ar puikius komunikacinius įgūdžius, DI etikos specialistai ėmė vis dažniau išreikšti susirūpinimą dėl galimo piktnaudžiavimo šia technologija ir žmonėms kylančio pavojaus.

DI plėtrai nemažinant apsukų, aktyvus technologijų evoliucijos šalininkas, verslininkas ir turtingiausias pasaulio žmogus Elonas Muskas bei grupė dirbtinio intelekto ekspertų bei pramonės vadovų išplatino viešą laišką, kuriame nurodo galimą pavojų visuomenei bei ragina net šešis mėnesius stabdyti galingesnių DI sistemų kūrimą.

„Galingos dirbtinio intelekto sistemos turėtų būti kuriamos tik tada, kai būsime tikri, kad jų poveikis bus teigiamas, o rizika – valdoma. Su žmogaus intelektu konkuruojančio dirbtinio intelekto sistemos gali kelti didžiulę riziką visuomenei ir turėtų būti planuojamos ir valdomos atitinkamai atsargiai. Deja, tokio lygio planavimas ir valdymas nevyksta“, – teigiama „Gyvenimo ateities instituto“ paskelbtame laiške^[1].

Šią ne pelno siekiančią organizaciją finansuoja būtent turtingiausio pasaulio žmogaus E. Musko fondas, taip pat Londone įsikūrusi grupė „Founders Pledge“ ir Silicio slėnio bendruomenės fondas.

„Ar turėtume leisti mašinoms užtvindyti mūsų informacijos kanalus propaganda ir netiesa? Ar turėtume kurti nežmogiškus protus, kurie ilgainiui gali mus pralenkti, pergudrauti, nuvertinti mus ir pakeisti?“, – klausiama laiške.

Šį laišką pasirašė daugiau nei 1 000 žmonių. Tarp pasirašiusiųjų yra „Stability AI“ generalinis direktorius Emadas Mostaque'as, „Alphabet“ priklausančios bendrovės „DeepMind“ tyrėjai, Yoshua Bengio, dažnai vadinamas vienu iš „DI krikštatėviu“ bei Stuartas Russellas, šios srities mokslinių tyrimų pradininkas.

Tiesa, kaip ir galima numanyti, viešo laiško nepasirašė „OpenAI“ vadovas Semo Altmano ar „Alphabet“ bei „Microsoft“ vadovai Sundar Pichai ir Satya Nadella^[2].

E. Muskas abejones dėl DI reiškė ir anksčiau 

Tai nėra pirmas kartas, kai vienas aktyviausių šių dienų inovatorių E. Muskas kritiškai pasisako DI tema. Pristatydamas savo elektromobilių bendrovės „Tesla“ metinius planus jis pareiškė abejojantis, ar dirbtinis intelektas netrukus bus pasitelktas automobilių gamybos pramonėje. 

„Dirbtinis intelektas kelia stresą. Aš šiek tiek nerimauju dėl dirbtinio intelekto dalykų“, – sakė E. Muskas^[3].

Kiek anksčiau jis visgi patvirtino pranešimus, kad samdo dirbtinio intelekto technologų komandą, kuri sukurs konkurentą „OpenAI“ teksto pagrindu veikiančiai „Chat GPT“, kurią remia „Microsoft“.

Dar praėjusį gruodį E. Muskas tviteryje rašė, kad „Chat GPT“ yra „gasdinančiai geras“ ir pareiškė, kad „esame netoli nuo pavojingai stipraus dirbtinio intelekto“. Anksčiau jis yra sakęs, kad jo nuomone, dirbtinis intelektas kelia vieną iš „didžiausių pavojų“ civilizacijai.

Iš dirbtinio intelekto kylančią grėsmę įžvelgia ir JT bei UNESCO

E. Muskas ir kiti technologijų sektoriaus lyderiai bei ekspertai nėra vieninteliai, šiuo metu matantys realų pavojų menkai reguliuojamoje DI plėtroje.

Jungtinių Tautų (JT) švietimo, mokslo ir kultūros organizacija (UNESCO) paragino pasaulio valstybes nedelsiant „įgyvendinti savo pasaulinę etikos sistemą“.

„Pasauliui reikia griežtesnių dirbtinio intelekto etikos taisyklių: tai mūsų laikų iššūkis. UNESCO rekomendacija dėl dirbtinio intelekto etikos nustato tinkamą normatyvinę sistemą. Visos mūsų valstybės narės šią rekomendaciją patvirtino 2021 m. lapkričio mėnesį. Pats laikas įgyvendinti šias strategijas ir taisykles nacionaliniu lygmeniu“, – sako UNESCO generalinė direktorė Audrey Azoulay^[4].

UNESCO teigimu, šiuo metu didžiausią susirūpinimą kelia etiniai klausimai, kuriuos tik išryškina sparčiai pristatomos DI naujovės.

„Akivaizdu, kad pramonės savireguliacijos nepakanka, kad būtų išvengta šios etinės žalos, todėl rekomendacijoje pateikiamos priemonės, kuriomis siekiama užtikrinti, kad kuriant dirbtinį intelektą būtų laikomasi teisinės valstybės principų, išvengta žalos ir užtikrinta, kad kai žala padaroma, nukentėjusiems asmenims būtų taikomi atskaitomybės ir žalos atlyginimo mechanizmai“, – sako A. Azoulay.

Tai pirmoji pasaulinė etiško dirbtinio intelekto naudojimo sistema, kurią vienbalsiai priėmė 193 organizacijos valstybės narės. Ši priemonė leidžia šalims nustatyti, kokios kompetencijos ir įgūdžių reikia darbuotojams, kad būtų užtikrintas patikimas dirbtinio intelekto sektoriaus reguliavimas.

Be to, joje taip pat numatyta, kad valstybės narės reguliariai atsiskaito už savo pažangą ir praktiką dirbtinio intelekto srityje ir kas ketverius metus pateikia atitinkamą ataskaitą.

DI reguliavimo reikalauja net popiežius Pranciškus

Pastarosiomis dienomis internete sparčiai paplito nuotraukos, kuriose popiežius Pranciškus vilki madingą, baltą pūkinę striukę. Šie vaizdai greitai paplito socialiniuose tinkluose, imti naudoti kaip vadinamieji „memai“^[5]. Tačiau neilgai trukus paaiškėjo, kad jie yra sukurti dirbtinio intelekto.

Specialistai atkreipia dėmesį, kad jau dabar yra itin sunku atskirti tokias klastotes nuo tikrovės, o ateityje tai padaryti gali būti vis sudėtingiau.

Tai suvokia ir pats popiežius, neseniai Vatikane vykusiame mokslo ir technologijų aukščiausiojo lygio susitikime kalbėjęs apie tai, kad dirbtinis intelektas ir mašinų mokymosi technologijos bus naudingos žmogaus vystymuisi, jei tik tyrėjai ir inžinieriai „elgsis atsakingai“ ir „atsižvelgs į žmogaus orumą“.

„Šiuo požiūriu esu įsitikinęs, kad dirbtinio intelekto ir mašininio mokymosi vystymasis gali teigiamai prisidėti prie žmonijos ateities“, – teigė popiežius Pranciškus ir pabrėžė, kad technologijų plėtra yra žmogaus kūrybiškumo ir jo pašaukimo dalyvauti Dievo kūrybiniame veikime įrodymas^[6].

Vis tik, Romos Katalikų Bažnyčios vadovas pripažino, kad šios naujos technologijos bus naudingos žmonijai tik tuo atveju, jei bus kuriamos ir naudojamos etiškai ir atsakingai.

„Todėl norėčiau paraginti jus savo svarstymuose pagrindiniu kriterijumi vertinant naujas technologijas padaryti prigimtinį kiekvieno vyro ir moters orumą; jos pasirodys etiškai pagrįstos tiek, kiek padės gerbti šį orumą ir didinti jo raišką visais žmogaus gyvenimo lygmenimis,“ – kalbėjo popiežius Pranciškus, paraginęs gerbti skaidrumą, lygybę, saugumą, teisingumą ir privatumą.

Vieni ekspertai DI kontrolę vadina būtinybe, kiti – veidmainyste

Pastaraisiais mėnesiais interneto platybėse netrūko įvairių internautų papasakotų istorijų bei komentarų apie tai, kaip „Chat GPT“ ar kiti pokalbių robotai gali peržengti ribas: ima grasinti vartotojams, pateikia juodžiausius ateities scenarijus, net ima „kalbėti“ apie savo savarankiškumą.

Nors dalį žmonių tokie įvykiai ne juokais išgąsdino, o kai kurie net ėmė baimintis galimai laukiančio mūšio tarp DI robotų ir žmogaus, kitus taip besivystanti technologijų revoliucija domina.

Būtent šiai asmenų grupei priklausantys technologijų bei inovacijų ekspertai ne visai supranta E. Musko bei kitų susirūpinimo DI plėtra ir tai net vadina tam tikra veidmainyste. 

„Labai veidmainiška, kad Elonas Muskas pasirašė tą laišką, atsižvelgiant į tai, kaip stipriai „Tesla“ kovojo prieš atsakomybę už blogai dirbantį dirbtinį intelektą savo automobiliuose“, – teigia Kornelio universiteto skaitmeninės ir informacinės teisės profesorius Jamesas Grimmelmannas^[7].

Ekspertas pabrėžia, kad DI plėtojimo pauzė yra gera idėja, tačiau visuomenei pateiktas laiškas yra pernelyg miglotas, o jame į reguliavimo problemas nežiūrima rimtai.

Kiti DI ir technologijų bei etikos ekspertai vis dėlto sveikina išplatinto laiško iniciatorius.

„Laiškas nėra tobulas, bet jo esmė teisinga: turime sulėtinti DI vystymosi tempą, kol geriau suprasime pasekmes“, – sako laišką pats pasirašęs Niujorko universiteto profesorius Gary Marcusas.

Kiti reikalauja didžiųjų technologijų kompanijų atskaitingumo.

„Didelė galia kurti šias sistemas nuolat buvo kelių bendrovių, turinčių tam reikalingų išteklių, rankose“, – pažymi Sureshas Venkatasubramanianas, Brauno universiteto profesorius.

Dalis ekspertų atkreipia dėmesį ir į tai, kad toks didelis DI ir inovacijų srities ekspertų bei pasaulio įtakingųjų rūpestis nėra tipinis.

„Tai, kad dabar pabrėžiama, jog mums gali kilti bėdų, tai yra beprecedentis atvejis“, – sako žiniasklaidos apžvalgininkas Douglas Murray.

Jo teigimu, didžiausią nerimą šiuo metu visiems kelia tai, kad DI technologija gali veikti aukštesniu lygiu nei žmogaus intelektas.

„Taigi jau dabar esame tokioje būklėje, kai technologija veikia greičiau, nei gali veikti mokytojai Amerikoje“, – sako jis.

Tačiau dalis ekspertų yra nusiteikę dar labiau pesimistiškai ir pabrėžia, kad susiduriame su realia grėsme žmonijai. Mašinų intelekto tyrimų instituto sprendimų teoretikas Eliezeris Yudkowsky teigia, kad dabartinis susirūpinimas net neatspindi tikrojo padėties rimtumo.

„Galingos dirbtinio intelekto sistemos turėtų būti kuriamos tik tada, kai būsime tikri, kad jų poveikis bus teigiamas, o rizika – valdoma“, – sako E. Yudkowsky^[8].

Ekspertas perspėja, kad šiuo metu nėra parengto veiksmingo plano, kaip elgtis su superintelektu, kuris jau greitu metu net gali nuspręsti, kad optimaliausias sprendimas bet kokiai problemai išspręsti yra tiesiog sunaikinti visą gyvybę Žemėje.

„Svarbiausia problema yra ne su žmogumi konkuruojantis intelektas, o tai, kas nutiks po to, kai dirbtinis intelektas taps protingesnis už žmogaus intelektą. Daugelis į šiuos klausimus įsigilinusių tyrėjų, įskaitant ir mane, mano, kad labiausiai tikėtinas rezultatas sukūrus antžmogiškai protingą dirbtinį intelektą bet kokiomis, bent kiek panašiomis į dabartines aplinkybėmis, yra tai, kad tiesiogine prasme visi Žemėje mirs“, – teigia E. Yudkowsky ir pabrėžia, kad klausimas yra ne „ar“, bet „kada“.

JAV bei ES jau sprendžia DI kontrolės mechanizmus, tačiau reikia nueiti dar tolimą kelią

Susirūpinimas dėl DI plėtros ir tai, kaip šią technologiją pažaboti teisės aktais, yra ypač pastebimas JAV. Amerikos įstatymų leidėjai pastebi, kad dėl vis spartesnio dirbtinio intelekto vystymosi kyla daugybė klausimų dėl nacionalinio saugumo, visuomenės, švietimo, žiniasklaidos, žmogaus teisių bei tiesiog moralės ir etikos.

Situacija panaši ir Europoje. Europos Sąjungos (ES) policijos pajėgos Europolas pirmadienį net išplatino viešą įspėjimą apie galimą piktnaudžiavimą jų sistema, pasitelkiant būtent DI technologijas. Jungtinės Karalystės vyriausybė taip pat pristatė pasiūlymus dėl su DI susijusios reguliavimo sistemos.

ES ir kitoms Europos valstybėms sprendžiant, kaip gi kontroliuoti dirbtinį intelektą, savo nuomones pateikia ir šios srities ekspertai. Oksfordo universiteto filosofijos profesorius Nickas Bostromas įspėja apie „fatališkas pasekmes“, jei dirbtinis intelektas iš tiesų viršys žmogaus galimybes.

„Pernai buvo sukurta sistema, kuri projektavo molekules, ir jūs galėjote priversti ją kurti naujus nuodingų dujų dizainus. Galima įsivaizduoti, kad sudėtingesnės jos versijos galėtų daryti dar blogesnius dalykus. Tai būtų pavyzdys, kai norėčiau, kad technologijos arba nebūtų, arba, jei ji būtų, ji būtų ribojama. Akivaizdžiausi atvejai yra įgalinimas naudoti naikinamuosius ginklus arba žmones, planuojančius žudyti. Manau, visi sutiks, kad tai yra blogai. Lieka iššūkis ištirti, kaip apmokyti sistemas, kad jos nepadarytų žmonėms žalos”, – aiškina ekspertas.

Eksperto nuomone, dirbtinis intelektas netrukus patobulės tiek, kad pralenks visos žmonijos intelektą, o blogiausiu atveju, nekontroliuojamas superintelektas net galėtų reikšti žmonijos mirtį.

„Pavyzdžiui, dėl tokio nekontroliuojamo dirbtinio intelekto galėtume mirti. Ir apskritai, galėtume prarasti ateities kontrolę. Jau dabar abejotina, kiek mes ją kontroliuojame. Nėra taip, kad visa žmonija šiuo metu susiburia, kad atidžiai apsvarstytų, o paskui pasirinktų ateities viziją. Bet vis dėlto galime turėti dar mažiau kontrolės. Galime būti tiesiog neįgalioti veikti, daug kas gali nutikti ne taip“, – sako Oksfordo profesorius N. Bostromas^[9].