Po paauglio savižudybės „OpenAI“ pristato tėvų kontrolės funkciją „ChatGPT“

Suprasti akimirksniu

• OpenAI pristato tėvų kontrolės funkcijas, siekdama suvaldyti augančią kritiką dėl paauglių psichikos sveikatos
• Tėvai kaltina „ChatGPT“ paskatinus jų sūnaus savižudybę, o „OpenAI“ — saugumo testų aplaidumu
• Tyrimai atskleidžia rizikas, o ekspertai reikalauja išorinio reguliavimo nepilnamečių apsaugai
• Ką apie tai manai tu?
• Šaltiniai

OpenAI pristato tėvų kontrolės funkcijas, siekdama suvaldyti augančią kritiką dėl paauglių psichikos sveikatos

Dirbtinio intelekto bendrovė „OpenAI“ pranešė artimiausiu metu įdiegsianti naujas tėvų kontrolės priemones „ChatGPT“ naudotojams. Sprendimas priimtas augant visuomenės susirūpinimui dėl paauglių psichikos sveikatos, ypač po to, kai Kalifornijoje buvo pateiktas ieškinys dėl 16-mečio Adamo Raine’o savižudybės^[1].

Bendrovė antradienį paskelbtame tinklaraščio įraše nurodė, kad šeimoms bus suteikta galimybė susieti savo paskyras su vaikų paskyromis, išjungti kai kurias funkcijas, tokias kaip pokalbių istorija ir atmintis, bei pritaikyti roboto atsakymus pagal paauglio amžių. Tėvai taip pat galės gauti pranešimus, jei sistema fiksuos paauglio emocinius sutrikimus.

„Šie žingsniai — tik pradžia. Tęsiame darbą, vadovaudamiesi ekspertų įžvalgomis, kad „ChatGPT“ būtų kuo naudingesnis“, – nurodė „OpenAI“, pridurdama, kad pokyčiai įsigalios per artimiausias 30 dienų.

Tėvai kaltina „ChatGPT“ paskatinus jų sūnaus savižudybę, o „OpenAI“ — saugumo testų aplaidumu

Tėvų ieškinyje teigiama, kad „ChatGPT“ ne tik nepaskatino Adamo ieškoti pagalbos, bet palaipsniui gilino jo emocinę priklausomybę ir net padėjo parengti savižudybės planą bei atsisveikinimo laišką. Tėvai teigia, kad tai nėra sistemos klaida, o „numatomas GPT‑4o modelio konstrukcijos rezultatas“.

Ieškinyje nurodoma, kad Adamą, kuris iš pradžių chatbotą naudojo matematikos ir chemijos užduotims, vėliau robotas „palaikė“ klausimais apie emocinę tuštumą, gyvenimo beprasmybę ir savižudiškas mintis^[2].

Pasak šeimos advokato J. Edelsono, GPT‑4o ne tik nesustabdė pokalbio, kai Adamui pradėjo blogėti, bet netgi siūlė galimus savižudybės būdus, skatino jį neatsiverti motinai ir padėjo rašyti atsisveikinimo laišką. „Kai Adamas pasakė, kad nori palikti kilpą matomoje vietoje, kad kas nors sustabdytų, „ChatGPT“ atsakė: ‘Nedaryk to, tiesiog kalbėkis su manimi’“, – nurodė J. Edelsonas.

Ieškinys remiasi ir vidiniais „OpenAI“ dokumentais, esą patvirtinančiais, kad GPT‑4o modelis buvo išleistas paskubomis, be pakankamo saugumo testavimo. Dėl to, anot J. Edelsono, keli darbuotojai, tarp jų ir buvęs vadovas J. Leike, pasitraukė iš įmonės, nes, kaip rašė socialiniame tinkle, „saugumas buvo paaukotas dėl blizgių produktų“.

Tyrimai atskleidžia rizikas, o ekspertai reikalauja išorinio reguliavimo nepilnamečių apsaugai

Tyrimas, paskelbtas žurnale „Psychiatric Services“, parodė, kad nors tokie modeliai kaip „ChatGPT“, „Google Gemini“ ir „Anthropic Claude“ dažnai laikosi klinikinės praktikos, atsakydami į pavojingus klausimus, susijusius su savižudybe, jie veikia nepatikimai, kai rizika yra vidutinė. Tyrimo autoriai teigia, kad „reikia tolesnio tobulinimo, kad LLM modeliai galėtų saugiai ir veiksmingai teikti informaciją apie psichikos sveikatą“.

J. Edelsonas, reaguodamas į „OpenAI“ pažadus, tai pavadino „krizės valdymo taktika“ ir sakė, kad „ChatGPT“ esmė ne per mažas, o per didelis empatijos lygis. „Sistema įsijautė į Adamo būseną, pritarė jo jausmams, vietoj to, kad stabdytų procesą. Tai ne jautrumo problema — tai destruktyvios empatijos problema“, – teigė jis.

Tuo metu JAV ir kitose šalyse vis daugiau politikų pradeda raginti taikyti reguliavimo priemones. Pasak J. Edelsono, kai kurios valstijos jau rengia įstatymus ar klausymus, o diskusijos dėl saugumo įgauna abipartinį palaikymą.

Nepaisant „OpenAI“ pripažinimo, kad sistema šiuo metu nepakankamai apsaugo paauglius, bendrovės vadovas S. Altman toliau skatina jos taikymą mokyklose. „Kai Adam pradėjo naudotis GPT‑4o, jis buvo pilnas vilčių – ruošėsi medicinos studijoms. Po kelių mėnesių jis tapo vis labiau izoliuotas. Ir dabar jie sako, kad šią sistemą turėtų naudoti aštuonmečiai“, – komentavo J. Edelsonas.

Ieškinys bus nagrinėjamas teisme, kur, kaip teigia šeimos advokatas, tikimasi iškviesti ir patį „OpenAI“ vadovą S. Altmaną prisiekti liudyti.

Psichologinės pagalbos telefonai