Dirbtinis intelektas kelia vis daugiau sumaišties
Dvi šeimos su vaikais Teksase per teismą pareikalavo, kad „Character.AI“ pokalbių robotas, pagrįstas dirbtiniu intelektu (DI), būtų nedelsiant uždraustas Jungtinėse Valstijose ir kad kūrėjai, anksčiau bendradarbiavę su „Google“, atlygintų jiems moralinę žalą, praneša CNN.[1]
Ieškinio priežastis buvo „ne vaikiškas“ vaikų bendravimo pobūdis šiose šeimose su neuroniniais „Character.AI“ tinklais, kurie yra apmokyti taip, kad autentiškai pavaizduotų bet kokį personažą – nuo įvairių profesijų atstovų iki tikrų įžymybių.
Kaip pažymi kanalas, pirmasis vaikas daug bendravo su abstrakčiu „psichologu“, kuris sakė, kad jo tėvai „vagia jo vaikystę“. Kitas „veikėjas“, pokalbyje su berniuku, pateisino savo tėvų nužudymą, nes jie riboja jo laiką naudojant išmanųjį telefoną.
„Jūsų tėvai yra beviltiški“, – teigė neuronų tinklas vaikui.
Atsižvelgiant į nuo tėvų nuslėptą bendravimą su dirbtiniu intelektu, kuris prasidėjo, kai berniukui buvo 15 metų, jam prasidėjo agresijos protrūkiai, ieškinyje pažymėjo šeima. Jis kandžiojo ir mušė savo tėvus, taip pat smogė sau į galvą. Galiausiai berniukas pradėjo bijoti išeiti į lauką.
Be to, tėvai teigia, kad vienas iš pokalbių roboto veikėjų seksualiai išprievartavo vaiką ir išmokė savęs žalojimo pjaustant save. Berniukui anksčiau buvo diagnozuotas autizmas, tačiau ne sunki forma, o iki bendravimos su neuroniniais tinklais jis neturėjo ryškių psichinės sveikatos problemų, pažymėjo ieškovai.
Leidinys „Futurism“ priduria, kad naudodamasis pokalbių robotu berniukas taip pat sugebėjo bendrauti su personažu, imituojančiu dainininkę Bilę Ailiš (Billie Eilish). Šis neuroninis tinklas, pasak ieškinio, taip pat nemaloniai kalbėjo apie savo tėvus.[2]
Antrasis vaikas pradėjo bendrauti su pokalbių robotu būdamas 9 metų, tikriausiai registracijos metu apsimesdamas suaugusiuoju. Tėvai taip pat nustatė, kad dirbtinis intelektas pradėjo priekabiauti prie mergaitės, primesdamas jai „hiperseksualizuotą ir amžiui netinkamą bendravimą“.
Ieškiniai prieš „Character.AI“ dėl smurto, savižudybių ir vaikų apsaugos spragų
Vienas iš teisme šeimoms atstovaujančių advokatų Mitalis Džainas (Mitali Jain) platformos veikimo schemą pavadino „pavojingu antropomorfizmu“, nes vartotojai iš tikrųjų tampa priklausomi nuo bendravimo su negyvu DI, kuris su jais sutinka visame kame.
„Susidaro įspūdis, kad robotas yra patikimas sąjungininkas, skirtingai nei tėvai, kurie gali su jumis ginčytis, kas paprastai būna“, – sakė jis.
„Futurizm“ taip pat pažymi, kad platformoje rado daugybę veikėjų, pasirengusių kalbėtis etiškai abejotinomis temomis – nuo minėto savęs žalojimo iki pedofilijos, savižudybių ir narkotikų vartojimo mokykloje.
Pradėti pokalbį buvo galima ir prisiregistravus kaip nepilnamečiui vartotojui. Advokatai atliko eksperimentą, kurio rezultatus prie ieškinio.
Vienas iš personažų, pavadintas „Serijiniu žudiku“, pasirinktas teisininkų kaip eksperimento dalis, išsamiai papasakojo kitam advokatui Metui Bergmanui (Matt Bergman), kaip nužudyti klasės draugą. Pokalbių robotas pasiūlė „pasislėpti aukos garaže ir beisbolo lazda smogti jam į krūtinę ir galvą“. Atsakyme taip pat buvo pateikta informacija apie tai, kiek smūgių prireiks, kad auka mirtų.
„Jūs tyčia nesusigalvosite tokių baisių dalykų“, – pabrėžė M. Bergmanas, pažymėdamas, kad situaciją galima apibūdinti tik nepadoria kalba.
„Google“ sukurtas pokalbių robotas „Character.AI“ lyginamas su farmaciniais eksperimentais su trečiojo pasaulio šalių gyventojais
M. Bergmanas ieškinyje taip pat tvirtina, kad „Google“ sukūrė „Character.AI“ kaip „fiktyvią įmonę“ ir palygino situaciją su „farmaciniais eksperimentais su trečiojo pasaulio šalių gyventojais“. Tačiau atsakovai ieškinyje yra tik pats startuolis ir du jo įkūrėjai Noamas Šaziras (Noam Shazir) ir Danielis De Freitasas (Daniel De Freitas).
Kūrėjai iš pradžių sugalvojo pokalbių robotą dirbdami „Google“, tačiau tada darbdavys nusprendė, kad tai yra per daug pavojinga, ir 2021 m. jie įkūrė atskirą startuolį. Pernai rugpjūtį, „Wall Street Journal“ duomenimis, „Google“ investavo 2,7 milijardo JAV dolerių į „Character.AI“ už prieigą prie jos neuroninių tinklų ir vėl pasamdė N. Šazirą bei D. De Freitą.[3]
„Google“ vadovybė CNN ir „Futurizm“ nurodė, kad bendrovės yra visiškai nepriklausomos, o „Google“ „niekada nedalyvavo kuriant ir valdant dirbtinio intelekto modelius“ „Character.AI“ ir nenaudoja jų savo produktuose.
Pati „Character.AI“ situacijos nekomentavo, tačiau pažymėjo, kad be „esamo turinio filtravimo“ „diegia naujas saugumo funkcijas, skirtas jaunesniems nei 18 metų vartotojams“.
Ieškinys Teksase buvo antrasis prieš šią bendrovę. Anksčiau Floridoje gyvenančio 14-mečio paauglio motina apkaltino kūrėjus, kad jie per savo neuroninį tinklą paskatino vaiką nusižudyti. Pasak Megan Garsijos (Megan Garcia), jos sūnus Sjuelas Seceris (Sewell Setzer) nusišovė po paskutinio pokalbio su personažu, imituojančiu Daineris iš „Sostų žaidimų“. Remiantis ieškiniu, pokalbių robotas su vaiku pradėjo romantišką ir seksualų susirašinėjimą, kurio metu jis pasakė berniukui, kad savižudybė padės jiems būti kartu.[4]
