„OpenAI“ vadovas prabilo atvirai: pasauliui teks priimti ir „kai kuriuos blogus dalykus“ dėl DI

Altmanas: pasaulis turės priimti ir dalį neigiamų DI pasekmių

Dirbtinio intelekto (DI) plėtra neišvengiamai atneš ne tik naudą, bet ir žalą, o visuomenė turės būti pasirengusi priimti dalį šios rizikos. Tokią poziciją išsakė „OpenAI“ vadovas Samas Altmanas, kalbėdamas apie tai, kiek griežtai valstybės turėtų reguliuoti sparčiai tobulėjančias dirbtinio intelekto sistemas.

S. Altmanas pabrėžė, kad „OpenAI“ siekia kuo platesnės prieigos prie dirbtinio intelekto technologijų ir jos požiūris šiuo klausimu gerokai skiriasi nuo vienos pagrindinių konkurenčių – bendrovės „Anthropic“ – požiūrio.

„Tarp mūsų politikos pozicijų yra daug erdvės“, – apie skirtumus su „Anthropic“ sakė S. Altmanas.

Pasak jo, „OpenAI“ mano, kad visuomenė neturėtų siekti visiškai eliminuoti visų neigiamų DI pasekmių, jei dėl to būtų smarkiai apribota pati technologijos nauda ir žmonių galimybė ja naudotis.

„Manome, kad pasaulis turėtų priimti, jog dėl šios technologijos nutiks ir kai kurių blogų dalykų, mainais į jos teikiamą naudą ir žmonių galimybę patiems ja naudotis“, – teigė S. Altmanas.

Vis dėlto jis nubrėžė aiškią ribą – kalbama ne apie katastrofinių grėsmių toleravimą. „OpenAI“ vadovas sakė nemanantis, kad visuomenė turėtų priimti „tikrai katastrofiškas rizikas“, tarp jų ir galimą rimtą kontrolės praradimą dirbtinio intelekto atžvilgiu.

„OpenAI“ ir „Anthropic“ požiūriai išsiskiria

S. Altmanas savo poziciją priešpriešino „Anthropic“ vadovo Dario Amodei ir jo bendrovės požiūriui į pažangiausių DI sistemų kontrolę.

„Anthropic“ viešai daugiau dėmesio skiria rizikai, kurią gali kelti vis galingesni modeliai, ir pasisako už griežtesnius saugiklius. Tuo metu S. Altmanas skeptiškai vertina modelį, pagal kurį itin galingos sistemos būtų sutelktos kelių ar net vienos laboratorijos rankose.

Jo teigimu, tokia koncentracija būtų „nepriimtinas kompromisas“. S. Altmanas mano, kad pernelyg griežtas modelių uždarymas vien dėl galimo piktnaudžiavimo galėtų prieštarauti siekiui užtikrinti platesnę prieigą prie technologijos.

„OpenAI“ vadovas taip pat nedavė pažado, kad dirbtinis intelektas leis visiškai išspręsti tokias problemas kaip programišių atakos, sukčiavimas ar kitas piktnaudžiavimas. Jo vertinimu, tokios grėsmės neišnyks, tačiau bendra DI kuriama nauda ilgainiui turėtų nusverti dalį žalos.

Tai reiškia, kad „OpenAI“ reguliavimo filosofijoje svarbiausia tampa ne absoliutus rizikos eliminavimas, o jos ribų nustatymas: kas yra toleruotina technologijos pažangos kaina, o kas jau laikytina nepriimtina grėsme.

Perspėjo dėl žmogaus sprendimų perdavimo DI

Kalbėdamas apie dirbtinio intelekto saugumą, S. Altmanas išskyrė ir kitą riziką – pernelyg didelį žmonių pasitikėjimą modeliais.

Savaitgalį jis viešai perspėjo dėl bandymų dirbtiniam intelektui suteikti kone religinį autoritetą arba atsisakyti savarankiško žmogaus sprendimo modelio naudai.

S. Altmanas teigė, kad jaučiasi „labai nejaukiai“ dėl bandymų suteikti DI „religinę galią“. Jo vertinimu, žmogaus sprendimo perdavimas modeliui gali tapti realia saugumo problema.

Ši pozicija papildo jo požiūrį į reguliavimą. Viena vertus, jis pasisako už kuo platesnę prieigą prie technologijos ir nenori, kad pažangiausios sistemos būtų uždarytos vienos organizacijos rankose. Kita vertus, jis pabrėžia, kad žmogaus autonomija ir galutinis sprendimas neturėtų būti atiduoti pačiai sistemai.

Diskusijos dėl DI reguliavimo tik stiprėja

S. Altmano pareiškimai nuskambėjo tuo metu, kai technologijų sektoriuje vis garsiau diskutuojama apie tai, kaip reikėtų reguliuoti sparčiai galingėjančius dirbtinio intelekto modelius.

Pats „OpenAI“ vadovas pastaruoju metu yra palaikęs raginimus lėtinti pačių pažangiausių DI modelių kūrimo tempą. Tuo pat metu „OpenAI“ yra pasisakiusi ir už naujus saugumo reikalavimus, įskaitant privalomus nacionalinio lygmens standartus pažangiausioms sistemoms.

Todėl skirtumas tarp technologijų bendrovių nėra paprastas ginčas „už“ arba „prieš“ reguliavimą. Diskusija vis labiau sukasi apie tai, kiek rizikos visuomenė gali priimti, kas turėtų kontroliuoti galingiausias sistemas ir kiek laisvės naudotis jomis turėtų būti suteikta pavieniams žmonėms bei įmonėms.

S. Altmano pozicija šiuo klausimu išlieka gana aiški: katastrofinės rizikos toleruoti negalima, tačiau bandymas visiškai užkirsti kelią kiekvienam galimam neigiamam technologijos panaudojimui, jo vertinimu, neturėtų tapti priežastimi apriboti platesnės visuomenės prieigą prie dirbtinio intelekto.

Kitaip tariant, „OpenAI“ vadovas siūlo priimti tam tikrą kontroliuojamą riziką, tačiau kartu išlaikyti aiškią ribą ties scenarijais, kurie galėtų kelti sisteminę ar katastrofišką grėsmę.