OpenAI įkūrėjo pasiūlymas: slaptas bunkeris grėsmei po AGI paleidimo
OpenAI, dirbančios prie pažangios dirbtinio intelekto technologijos ChatGPT kūrimo, bendraįkūrėjas Ilya Sutskeveris pasiūlė sukurti slaptą bunkerio kompleksą, kuriame galėtų apsigyventi svarbiausi įmonės mokslininkai. Ši idėja kilo baimintis galimos pasaulio pabaigos situacijos, katastrofiško įvykio, kuris, pasak jo, gali prasidėti paleidus naujos kartos dirbtinį intelektą, pranokstantį žmogaus pažinimo gebėjimus[1].
2023 metų vasarą I. Sutskeveris surengė susitikimą su pagrindiniais OpenAI mokslininkais, kuriame pareiškė: „Kai mes visi susibursime bunkeryje…“ Vienas susitikimo dalyvis paklausė suglumęs: „Atsiprašau, bunkeris?“ „Mes tikrai pastatysime bunkeri prieš paleisdami AGI“, atsakė jis.
Pagal šį planą būtų siekiama apsaugoti pagrindinius OpenAI mokslininkus nuo galimo geopolitinio chaoso ar smurtinės konkurencijos tarp pasaulio galių, kurie, I. Sutskeverio nuomone, gali kilti AGI paleidimo metu. Jis pabrėžė, kad dalyvavimas bunkeryje būtų laisvas pasirinkimas.
Įkūrėjo pasisakymai kelia sumaištį kompanijoje?
Šią informaciją pirmą kartą paskelbė žurnalistė Karen Hao savo artėjančioje knygoje „Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI“, kurios ištrauka pasirodė leidinyje The Atlantic. Pasak jos, I. Sutskeveris šią bunkerio idėją dažnai kėlė vidiniuose pokalbiuose[2].
Vienas OpenAI mokslininkas netgi teigė, kad yra grupė žmonių, įskaitant I. Sutskeverį, kurie mano, jog AGI sukels tiesioginę pasaulio pabaigą.
Nors pats I. Sutskeveris atsisakė komentuoti, ši saugaus prieglobsčio idėja atskleidžia gilias baimes, kurios kamuoja kai kuriuos iš pagrindinių pasaulinės technologijos kūrėjų.
I. Sutskeveris dažnai apibūdinamas kaip mistikas OpenAI viduje, kalbantis apie dirbtinį intelektą ne tik techniniu, bet ir moraliniu bei metafiziniu lygmenimis. Kartu jis yra vienas iš gabiausių specialistų, atsakingų už ChatGPT ir kitų pažangių kalbinių modelių kūrimą, kurie suteikė įmonei pasaulinį pripažinimą.
Baimės kamuoja pačius dirbtinio intelekto kūrėjus
Pastaraisiais metais jis dalijo laiką tarp greitesnio DI vystymo ir saugumo skatinimo, o jo baimė dėl civilizacijos sukrėtimo, kurį gali sukelti AGI, nėra unikali – 2023 metų gegužę OpenAI vadovas Samas Altmanas kartu su kitais ekspertais paskelbė viešą laišką, kuriame įspėjo apie dirbtinio intelekto technologijų galimą „žmonijos išnykimo riziką“.
Tarp šių baimių ir OpenAI agresyvių komercinių tikslų kilo įtampa, kuri 2023 m. vėliau atvedė prie trumpalaikio Samo Altmano atleidimo iš pareigų. O tai inicijavo Ilya Sutskeveris ir tuometinė CTO Mira Murati. Jie nepasitikėjo, kad S. Altmanas atsakingai vadovaus AGI plėtrai, manydami, jog jis ignoruoja saugumo protokolus ir sutelkia per daug galios.
Šis sprendimas greitai atšauktas dėl spaudimo iš investuotojų, darbuotojų ir Microsoft, o I. Sutskeveris su M. Murati vėliau paliko įmonę.
