Keliamas įtakos ir dezinformacijos bei šališkumo klausimas dėl DI sveikatos priežiūros srityje
Dirbtinis intelektas (DI) sparčiai tapo transformuojančia technologija sveikatos priežiūros pramonėje, keičiančia įvairius pacientų priežiūros, diagnostikos, gydymo ir mokslinių tyrimų aspektus. Pasitelkdamas didžiulius duomenų kiekius ir sudėtingus algoritmus, dirbtinis intelektas suteikia precedento neturinčių galimybių didinti efektyvumą, tikslumą ir individualizuotą mediciną.
Tačiau kaip ir bet kuri perversmą sukelianti technologija, dirbtinio intelekto naudojimas sveikatos priežiūroje taip pat kelia tam tikrą riziką, kuriai reikia skirti daug dėmesio ir į kurią reikia atidžiai atsižvelgti. Technologijų įmonės jau pristato tokias inovacijas sveikatos priežiūros srityje ir naudojasi dirbtinio intelekto galimybėmis. Tačiau tokie greiti pokyčiai kelia daugiau klausimų.
Viena iš reikšmingų su dirbtiniu intelektu sveikatos priežiūros srityje susijusių rizikų yra galimi šališki algoritmai, kurie įtvirtina esamus skirtumus ir diskriminaciją pacientų priežiūros srityje. Jei mokymo duomenys, naudojami dirbtinio intelekto algoritmams kurti, yra šališki arba nereprezentatyvūs, sistema gali generuoti neteisingas arba iškreiptas prognozes, diagnozes ar gydymo rekomendacijas.
Toks šališkumas gali neproporcingai paveikti marginalizuotas bendruomenes ir padidinti esamus sveikatos priežiūros skirtumus. Šiai rizikai sumažinti labai svarbu kruopščiai kaupti ir įvairinti mokymo duomenis, reguliariai atlikti algoritmų auditą dėl šališkumo ir įgyvendinti patikimus patvirtinimo procesus.
PSO perspėja apie rizikas ir pasisako prieš DI naudojimą medicinoje
Neseniai Pasaulio sveikatos organizacija (PSO) paskelbė atsargų pareiškimą dėl dirbtinio intelekto naudojimo visuomenės sveikatos priežiūros srityje. Pripažindama galimą dirbtinio intelekto naudą gerinant prieigą prie informacijos apie sveikatą, gerinant diagnostinę priežiūrą ir pasitelkiant jį kaip pagalbinę priemonę priimant sprendimus, PSO išreiškė susirūpinimą dėl galimo šališkumo ir netinkamo duomenų, kuriais dirbtinis intelektas remiasi priimdamas sprendimus, naudojimo[1].
PSO pabrėžė, kad duomenys, naudojami dirbtinio intelekto sistemoms apmokyti, gali būti šališki, todėl gali būti gaunama klaidinanti arba netiksli informacija. Be to, kyla rizika, kad dirbtinio intelekto modeliai gali būti netinkamai naudojami dezinformacijai skleisti. PSO pabrėžė, kad svarbu įvertinti riziką, susijusią su didelių kalbos modelių priemonių (angl. LLM), naudojimu, siekiant užtikrinti žmonių gerovės ir visuomenės sveikatos apsaugą ir skatinimą.
Tokia atsargi PSO pozicija išsakyta tuo metu, kai sparčiai auga dirbtinio intelekto programų populiarumas, rodantis šios technologijos griaunamąjį potencialą keičiant įvairius verslo ir visuomenės sektorius. Tačiau PSO pareiškimas primena, kad nors dirbtinis intelektas suteikia didelių galimybių, jis taip pat kelia riziką, į kurią reikia atidžiai atsižvelgti ir ją valdyti.
Susirūpinimas dėl šališkų duomenų, naudojamų dirbtinio intelekto modeliuose, yra ypač svarbus sveikatos priežiūros sektoriuje, kur netikslia ar iškreipta informacija pagrįsti sprendimai gali turėti rimtų pasekmių pacientų gyvybei. Mokymo duomenų šališkumas gali įtvirtinti esamus skirtumus ir nelygybę sveikatos priežiūros srityje, neproporcingai paveikdamas marginalizuotas bendruomenes[2].
Siekiant užtikrinti atsakingą ir teisingą dirbtinio intelekto diegimą sveikatos priežiūros srityje, labai svarbu kaupti įvairius ir reprezentatyvius mokymo duomenis ir reguliariai tikrinti algoritmus dėl šališkumo. Be to, Pasaulio Sveikatos Organizacijos įspėjamojoje pastaboje taip pat atkreipiamas dėmesys į galimą piktnaudžiavimą dirbtinio intelekto modeliais skleidžiant dezinformaciją.
Šiais laikais, kai labai svarbu skleisti tikslią ir patikimą informaciją apie sveikatą, netinkamas dirbtinio intelekto technologijų naudojimas gali pakirsti visuomenės pasitikėjimą ir pakenkti bendram sveikatos priežiūros sistemų veiksmingumui. Todėl labai svarbu parengti patikimas gaires ir etines sistemas, kuriomis būtų reglamentuojamas dirbtinio intelekto naudojimas sveikatos priežiūros srityje ir mažinama su dezinformacija susijusi rizika.
Sparti DI pažanga pralenkė reguliavimo sistemų kūrimą, todėl kyla teisinių klausimų
Nustatyti atsakomybę ir atskaitomybę dirbtinio intelekto sukeltų klaidų ar neigiamų rezultatų atvejais kelia sunkumų esama teisinė sistema. Politikai ir reguliavimo institucijos turi bendradarbiauti su ekspertais ir suinteresuotosiomis šalimis, kad būtų nustatytos aiškios gairės, standartai ir etinės sistemos, reglamentuojančios dirbtinio intelekto naudojimą sveikatos priežiūros srityje. Šios priemonės užtikrins pacientų teisių apsaugą, duomenų privatumą ir skatins atsakingą dirbtinio intelekto diegimą[3].
Apibendrinant galima teigti, kad atsargus PSO požiūris į dirbtinio intelekto naudojimą sveikatos priežiūroje pabrėžia būtinybę atidžiai įvertinti susijusią riziką. Nors dirbtinis intelektas turi didžiulį potencialą pagerinti pacientų gydymo rezultatus ir sveikatos priežiūros veiksmingumą, būtina spręsti tokias problemas kaip neobjektyvūs duomenys, dezinformacija ir reguliavimo problemos.
Aktyviai spręsdama šiuos pavojus ir įgyvendindama atsakingą praktiką, sveikatos priežiūros pramonė gali pasinaudoti dirbtinio intelekto teikiama nauda ir kartu užtikrinti pacientų gerovę bei išlaikyti visuomenės pasitikėjimą sveikatos priežiūros sistemomis. Dirbtinis intelektas gali ir skleisti dezinformaciją, ir kovoti su ja.
Viena vertus, DI valdomi algoritmai gali sustiprinti melagingos informacijos sklaidą per socialinės žiniasklaidos platformas, todėl sparčiai plinta klaidinantis turinys. Tai gali turėti toli siekiančių pasekmių, gali daryti įtaką visuomenės nuomonei, sprendimams dėl sveikatos ir net politiniams rezultatams[4].
Siekiant išsaugoti informacinių ekosistemų ir demokratinių procesų vientisumą, labai svarbu atkreipti dėmesį į etinius dirbtinio intelekto generuojamos dezinformacijos aspektus. Kovojant su dezinformacija, dirbtinis intelektas gali būti naudojamas kaip faktų tikrinimo ir turinio moderavimo priemonė.
Naudodamos DI algoritmus, galinčius nustatyti ir pažymėti klaidinančią ar melagingą informaciją, platformos gali padidinti savo gebėjimą teikti vartotojams tikslų ir patikimą turinį. Tačiau rasti tinkamą pusiausvyrą tarp turinio moderavimo ir pagarbos saviraiškos laisvei yra sudėtingas uždavinys, reikalaujantis kruopštaus apsvarstymo ir etinių gairių.
Privatumo ir saugumo problemos lydi visus dirbtinio intelekto projektus
Dirbtinio intelekto taikymai sveikatos priežiūros srityje labai priklauso nuo didžiulių kiekių neskelbtinų pacientų duomenų, įskaitant medicininius įrašus, genetinę informaciją ir asmeninius duomenis. Todėl kyla daug klausimų, susijusių su privatumu ir saugumu[5].
Neteisėta prieiga prie pacientų informacijos, duomenų saugumo pažeidimai ar netinkamas naudojimas gali turėti rimtų pasekmių, įskaitant tapatybės vagystes, draudimo sukčiavimą ir žalą reputacijai. Labai svarbu rasti pusiausvyrą tarp duomenų prieinamumo dirbtinio intelekto plėtrai ir griežtų privatumo taisyklių laikymosi.
Norint apsaugoti pacientų duomenis, būtina įgyvendinti patikimas saugumo priemones, duomenų anonimizavimo metodus ir užtikrinti griežtą privatumo įstatymų laikymąsi. Dažnai dirbtinio intelekto algoritmai veikia kaip juodosios dėžės, todėl yra sudėtinga ir suprasti pagrindinį sprendimų priėmimo procesą.
Šis skaidrumo trūkumas kelia susirūpinimą dėl atskaitomybės, pasitikėjimo ir galimybės, kad klaidos ar šališkumas gali likti nepastebėti. Sveikatos priežiūros srityje, kur sprendimai gali turėti gyvybės ar mirties pasekmių, paaiškinamumas tampa itin svarbus. Tyrėjai ir kūrėjai turi sutelkti dėmesį į aiškinamų dirbtinio intelekto modelių kūrimą, aiškių jų rezultatų paaiškinimų pateikimą ir užtikrinti kūrimo ir diegimo procesų skaidrumą, kad būtų stiprinamas sveikatos priežiūros specialistų ir pacientų pasitikėjimas.
Pernelyg didelis pasitikėjimas ir neteisingas aiškinimas gali sukelti problemų virtinę
Nors dirbtinis intelektas gali padidinti žmogaus gebėjimus, pernelyg didelis pasitikėjimas dirbtinio intelekto sistemomis, tinkamai jų nepatvirtinus ir nepatikrinus, gali lemti klaidingą rezultatų interpretaciją ir neteisingus medicininius sprendimus. Dirbtinio intelekto algoritmai nėra neklystantys ir gali susidurti su scenarijais, kuriems jie nebuvo apmokyti, todėl gali būti padarytos klaidingos išvados.
Sveikatos priežiūros paslaugų teikėjai turi naudoti dirbtinį intelektą kaip priemonę, padedančią priimti sprendimus, o ne pakeičiančią klinikines žinias. Tinkamas mokymas, švietimas ir nuolatinė stebėsena yra būtini siekiant sumažinti riziką, susijusią su pernelyg dideliu pasitikėjimu dirbtiniu intelektu sveikatos priežiūros srityje. Spartus naujovių diegimas pralenkė patikimų reguliavimo sistemų kūrimą, todėl kyla teisinių neaiškumų. Gali būti sudėtinga nustatyti atsakomybę ir atskaitomybę dirbtinio intelekto sukeltų klaidų ar neigiamų padarinių atvejais.
Be to, dirbtinio intelekto srityje kyla sunkumų užtikrinant, kad būtų laikomasi galiojančių sveikatos priežiūros taisyklių, pavyzdžiui, dėl pacientų sutikimo, duomenų apsaugos ir klinikinių tyrimų. Politikai ir reguliavimo institucijos turi glaudžiai bendradarbiauti su pramonės ekspertais ir suinteresuotosiomis šalimis, kad būtų nustatytos aiškios gairės, standartai ir etinės sistemos, reglamentuojančios dirbtinio intelekto naudojimą sveikatos priežiūros srityje ir apsaugančios pacientų interesus.
Dirbtinio intelekto sistemos yra jautrios šališkumui, kuris gali lemti diskriminacinius rezultatus, sustiprinti visuomenės išankstines nuostatas ir įtvirtinti nelygybę. Šališkumas gali atsirasti iš duomenų, naudojamų dirbtinio intelekto algoritmams apmokyti, atspindint šališkumą ir apribojimus, būdingus žmogaus sukurtiems duomenims.
Norint spręsti šališkumo problemą, svarbu užtikrinti skirtingus ir reprezentatyvius mokymo duomenis, į dirbtinio intelekto kūrimą įtraukti įvairių sričių komandas ir reguliariai atlikti algoritmų auditą, kad būtų galima aptikti ir ištaisyti šališkumą.
Be to, etiniais sumetimais pirmenybė turėtų būti teikiama dirbtinio intelekto sistemų skaidrumui ir paaiškinamumui, leidžiančiam nustatyti ir sušvelninti šališkumą. Siekiant sumažinti su šališkumu susijusias etines problemas, labai svarbu siekti įvairovės, įtraukties ir teisingumo visame dirbtinio intelekto kūrimo procese. Suinteresuotosioms šalims, dalyvaujančioms kuriant dirbtinį intelektą, įskaitant mokslininkus, inžinierius, politikos formuotojus ir organizacijas, tenka atsakomybė spręsti su dirbtinio intelekto naudojimu susijusias etines problemas.
