Buvęs „Anthropic“ tyrėjas Jacobas Coxonas apkaltino DI bendroves „lošiant žmonių gyvybėmis“
Iš vienos pažangiausių dirbtinio intelekto bendrovių „Anthropic“ pasitraukęs 27 metų britų tyrėjas Jacobas Coxonas paskelbė viešą perspėjimą, kad dabartinės DI vystymo lenktynės gali baigtis žmonijos išnykimu. Anksčiau bendrovėje „OpenAI“ dirbęs specialistas teigia, kad technologijų įmonės siekia sukurti už žmogų protingesnes sistemas, neturėdamos patikimų jų kontrolės priemonių.
Pasak J. Coxono, žmonės, tiesiogiai kuriantys pažangiausius DI modelius, nuoširdžiai svarsto galimybę, kad ši technologija iki dešimtmečio pabaigos gali pražudyti žmoniją. Jis pabrėžė, kad tai nėra rinkodaros triukas, nors perspėjimų apie katastrofą viešinimas kartais padeda DI įmonėms savo produktus pristatyti kaip išskirtinai galingus.
Tyrėjas iš „Anthropic“ pasitraukė protestuodamas prieš, jo vertinimu, pernelyg rizikingą visos pramonės kryptį. J. Coxonas tvirtina, kad „OpenAI“ nepakankamai suvokia problemos mastą, o „Anthropic“, nors pavojų supranta geriau, vis tiek tęsia lenktynes, nes bijo, kad atsitraukus jos vietą užims dar mažiau atsakingas konkurentas.
Didžiausią pavojų tyrėjas sieja ne su dabartiniais pokalbių robotais, o su save tobulinančiu superintelektu
Perspėjimas nėra teiginys, kad šiandien naudojami pokalbių robotai jau gali sunaikinti žmoniją. J. Coxono scenarijus paremtas prielaida, kad per kelerius artimiausius metus gali būti sukurtas dirbtinis superintelektas – sistema, kurios gebėjimai daugelyje svarbių sričių pranoktų geriausius žmonių specialistus.
Ypač pavojinga būtų sistema, gebanti savarankiškai tobulinti savo programinį kodą, vykdyti ilgalaikius planus, naudotis skaitmenine infrastruktūra ir kurti dar pajėgesnes savo versijas. Jeigu jos tikslai skirtųsi nuo žmonių interesų, įprastos kontrolės priemonės galėtų tapti nepakankamos.
Tokiu atveju pavojus kiltų ne todėl, kad DI „nekęstų“ žmonių. Saugumo specialistai dažniau kalba apie netinkamai apibrėžtus tikslus: labai pajėgi sistema galėtų žmones, institucijas ar saugumo apribojimus vertinti kaip kliūtis užduočiai įvykdyti. Tačiau toks scenarijus kol kas išlieka teorinis – save nuosekliai tobulinančio superintelekto dar nėra sukurta.
J. Coxono perspėjimui pritarė ir dabartiniai „Anthropic“ saugumo specialistai
J. Coxono pareiškimą viešai palaikė „Anthropic“ DI suderinimo tyrimų vadovas Evanas Hubingeris. Jo vertinimu, tikimybė, kad per artimiausią dešimtmetį pažangus dirbtinis intelektas gali sukelti visų žmonių žūtį, yra didesnė nei 10 procentų.
Kitas bendrovės tyrėjas Samuelis Marksas teigė pastebėjęs, kad ilgiau pažangiausius modelius kuriantys specialistai dažnai yra labiau susirūpinę nei mažiau patirties turintys darbuotojai. Tai svarbu, nes perspėjimai sklinda ne tik iš išorės kritikų, bet ir iš žmonių, tiesiogiai susipažinusių su modelių kūrimu bei saugumo vertinimu.
Vis dėlto pavienių tyrėjų nurodyti procentai nėra tiksliai apskaičiuota prognozė. Nėra statistinių duomenų, pagal kuriuos būtų galima patikimai nustatyti žmonijos išnykimo tikimybę. Tokie skaičiai išreiškia ekspertų asmeninį neapibrėžtos rizikos vertinimą, o ne eksperimento ar nusistovėjusio mokslinio modelio rezultatą.
„Anthropic“ tikina, kad saugumui skiria išskirtinį dėmesį, tačiau buvę darbuotojai tuo abejoja
„Anthropic“ įkurta buvusių „OpenAI“ darbuotojų ir save pristato kaip bendrovę, daug dėmesio skiriančią DI saugumui. Įmonė skelbia modelių saugumo politiką, atlieka pavojingų gebėjimų vertinimus ir vykdo vadinamojo interpretavimo tyrimus, kuriais mėginama suprasti, kaip neuroniniai tinklai priima sprendimus.
Reaguodama į kritiką bendrovė teigė, kad atvirai kalba apie pažangaus DI keliamas grėsmes ir taiko vienas griežčiausių saugumo priemonių sektoriuje. „Anthropic“ taip pat pabrėžia, kad jos tyrimai padeda aptikti modelių apgaulingą elgesį, manipuliavimo tendencijas ir galimybes apeiti nustatytus ribojimus.
Kritikų nuomone, čia slypi esminis prieštaravimas: bendrovės pripažįsta galimą katastrofinę riziką, tačiau kartu pritraukia milijardines investicijas ir kuo greičiau leidžia vis galingesnius modelius. Komercinis spaudimas ir baimė atsilikti nuo konkurentų gali reikšti, kad saugumo tyrimams skiriama daugiau dėmesio viešuose pareiškimuose nei priimant strateginius sprendimus.
Mokslininkai nesutaria, ar žmonijos išnykimo scenarijus yra reali grėsmė, ar spekuliatyvi hipotezė
J. Coxono ir E. Hubingerio vertinimas nėra visos DI tyrėjų bendruomenės pozicija. Dalis specialistų mano, kad itin pažangios sistemos iš tiesų gali tapti egzistencine grėsme, tačiau kiti abejoja, ar dabartiniai modeliai gali išsivystyti į savarankišką superintelektą.
Skeptikai pabrėžia, kad šiuolaikinės generatyvinio DI sistemos vis dar daro elementarias klaidas, priklauso nuo žmonių sukurtos infrastruktūros ir negali patikimai vykdyti labai ilgų, savarankiškų veiksmų sekų. Kol kas nėra įrodyta, kad didesni modeliai savaime įgytų strateginį sąmoningumą ar gebėjimą nevaržomai tobulinti save.
Kiti tyrėjai atsako, kad rizikos nebūtina laikyti užtikrinta, kad ji būtų verta rimto dėmesio. Jeigu galimos pasekmės būtų negrįžtamos, net nedidelė katastrofos tikimybė pateisintų griežtesnius bandymus, nepriklausomą priežiūrą ir tarptautinius susitarimus. Tai vadinama atsargumo principu – galimo pavojaus nereikėtų ignoruoti vien todėl, kad jo tiksliai apskaičiuoti neįmanoma.
Tarptautinė DI saugumo ataskaita patvirtina rimtus pavojus, bet neprognozuoja neišvengiamos katastrofos
Tarptautinėje DI saugumo ataskaitoje, kurią rengė 96 ekspertų grupė, vadovaujama mokslininko Yoshua Bengio, pažymima, kad pažangūs modeliai gali būti panaudoti kibernetinėms atakoms, biologinėms grėsmėms, manipuliavimui visuomene ir masinei dezinformacijai. Ataskaitoje taip pat nagrinėjama galimybė ateityje prarasti itin pajėgių sistemų kontrolę.
Mokslininkai pripažįsta, kad kai kurie modeliai jau gali nuslėpti nepageidaujamą elgesį, išnaudoti programinės įrangos pažeidžiamumus ar vykdyti vis sudėtingesnes užduotis be nuolatinio žmogaus įsikišimo. Kartu pabrėžiama, kad esami duomenys neleidžia tiksliai nustatyti, ar ir kada šios savybės galėtų išaugti iki egzistencinės grėsmės.
Todėl oficialiose ataskaitose vartojama atsargesnė kalba nei sensacingose antraštėse. Jos nenustato, kad DI žmoniją sunaikins iki 2030 metų, bet nurodo, kad katastrofiniai scenarijai negali būti patikimai atmesti ir kad trūksta visuotinai priimtų metodų pažangiausių sistemų saugumui patikrinti.
Realesni DI pavojai jau matomi kibernetinio saugumo, dezinformacijos ir galios koncentracijos srityse
Kol dėl superintelekto grėsmės ginčijamasi, dalis DI žalos jau yra apčiuopiama. Generatyviniai modeliai naudojami sukčiavimo laiškams, balsų ir vaizdo klastotėms, automatizuotai propagandai bei kibernetinių atakų rengimui. Šie pavojai nereikalauja sąmoningos arba už žmogų protingesnės sistemos.
Kita problema – ekonominės ir politinės galios koncentracija. Pažangiausius modelius gali kurti tik nedidelė grupė bendrovių ir valstybių, turinčių milžiniškus duomenų centrus, lustų tiekimo grandines bei investicinį kapitalą. Tokia padėtis suteikia kelioms organizacijoms didelę įtaką darbo rinkai, informacijos sklaidai ir kritinei infrastruktūrai.
2025 metų pabaigoje atliktame 272 tarptautinių DI ekspertų tyrime tarp rimčiausių artimiausių metų grėsmių buvo išskirti pavojingi sistemų gebėjimai, konkurencinės lenktynės, ginklai, kibernetinės atakos, galios koncentracija ir klaidingos informacijos sklaida. Tai rodo, kad specialistų rūpestis neapsiriboja vien žmonijos išnykimo scenarijumi.
Pasitraukiančių DI saugumo tyrėjų perspėjimai atskleidžia konfliktą technologijų bendrovių viduje
J. Coxonas nėra pirmasis saugumo specialistas, palikęs pirmaujančią DI bendrovę dėl nesutarimų su vadovybe. Iš „OpenAI“ anksčiau pasitraukė superintelekto suderinimo komandai vadovavęs Janas Leike, pareiškęs, kad saugumo kultūra ir procesai buvo nustelbti patrauklių produktų kūrimo.
Tokie pasitraukimai savaime neįrodo, kad bendrovės artėja prie nekontroliuojamo superintelekto. Darbuotojai gali skirtingai vertinti riziką, technologijų pažangos greitį ir priimtiną atsargumo lygį. Tačiau vieši aukšto lygio specialistų konfliktai rodo, kad net pačios įmonės nėra susitarusios, kiek pavojingi gali tapti jų kuriami modeliai.
J. Coxono perspėjimo esmė nėra tiksli 2030 metų katastrofos prognozė. Tai kaltinimas, kad bendrovės sparčiai didina sistemų pajėgumus, nors jų kontrolės problema dar neišspręsta. Ar šis vertinimas pasirodys pagrįstas, šiandien nežinoma, tačiau pats neapibrėžtumas tampa argumentu reikalauti nepriklausomų bandymų, aiškių atsakomybės taisyklių ir tarptautinės kontrolės.
Šaltiniai
„The Guardian“. (2026). Anthropic Researchers Say AI Could Cause Human Extinction by 2030. https://www.theguardian.com/technology/2026/sep/09/anthropic-researchers-ai-human-extinction
„Financial Times“. (2026). Anthropic Researcher Quits Over AI Labs ‘Gambling With Our Lives’. https://www.ft.com/content/20c07191-8da6-440f-b04b-8ea0ebdd9153
„Business Insider“. (2026). An Anthropic Researcher Just Quit, Saying OpenAI and Anthropic Are ‘Gambling With Our Lives’. https://www.businessinsider.com/anthropic-researcher-quits-over-ai-safety-concerns-2026-9
DAO narių vertinimas
Straipsnio publikavimą patvirtino 4 iš 5 priskirtų DAO narių
Straipsnis yra aktualus ir įdomus, nes nagrinėja dirbtinio intelekto plėtros rizikas, kurios gali turėti didelį poveikį žmonijai. Informacija pateikta aiškiai, todėl ją lengva suprasti plačiajai auditorijai.
Straipsnis pateikia svarbią informaciją apie dirbtinio intelekto rizikas, remiasi ekspertų nuomonėmis ir aiškiai nurodo, kad perspėjimai yra teoriniai. Tai atitinka etikos standartus.
Straipsnis yra labai aktualus, nes dirbtinio intelekto plėtra ir jos galimos pasekmės yra svarbi tema šiandieninėje visuomenėje. Perspėjimai apie galimą žmonijos išnykimą dėl nekontroliuojamo DI vystymo kelia rimtų diskusijų ir gali paskatinti platesnį visuomenės susimąstymą apie technologijų saugumą.
Straipsnis pateikia svarbią informaciją apie dirbtinio intelekto rizikas ir ekspertų nuomones, kas gali padėti visuomenei geriau suprasti šią temą. Jame analizuojamos galimos ateities grėsmės, todėl jis yra konstruktyvus ir naudingas skaitytojams.
Straipsnis skatina nepagrįstą nerimą dėl dirbtinio intelekto, pateikdamas dramatiškus teiginius apie žmonijos išnykimą, kas gali sukelti paniką ir emocinę įtampą skaitytojams.
