JK kuria žmogžudysčių prognozavimo sistemą, pasitelkdama asmeninius duomenis
Jungtinės Karalystės vyriausybė kuria vadinamąją „žmogžudysčių prognozavimo“ programą, kuri, kaip tikimasi, leis pasitelkus asmens duomenis nustatyti, kurie žmonės gali būti labiausiai linkę į smurtinius nusikaltimus ateityje. Tyrėjai, kaip teigiama, analizuoja tūkstančių žmonių duomenis, įskaitant ir nusikaltimų aukas, naudodami algoritmus, kad identifikuotų tuos, kurie kelia didžiausią pavojų įvykdyti sunkų smurtinį nusikaltimą[1].
Iš pradžių projektas vadinosi „žmogžudysčių prognozavimo projektas“ (angl. Homicide Prediction Project), tačiau vėliau buvo pervadintas į „duomenų dalijimasis siekiant pagerinti rizikos vertinimą“. Teisingumo ministerija (MoJ) viliasi, kad šis projektas padės sustiprinti visuomenės saugumą, tačiau kritikai projektą vadina „šiurpinančiu ir distopišku“.
Apie projekto egzistavimą pirmoji pranešė pilietinių teisių organizacija Statewatch, kuri per laisvosios informacijos prašymus (FOI) gavo dokumentus, atskleidžiančius dalį projekto veikimo mechanizmų. Statewatch tvirtina, kad projektui naudojami ir tų asmenų duomenys, kurie nėra padarę jokių nusikaltimų, įskaitant informaciją apie savęs žalojimą bei smurtą artimoje aplinkoje.
Valdžios atstovai tai neigia ir teigia, kad naudojami tik asmenų, turinčių bent vieną teistumą, duomenys. Vyriausybė teigia, kad projektas šiuo metu vykdomas tik tyrimų tikslais, tačiau aktyvistai įspėja, jog šio tipo duomenų panaudojimas gali įtvirtinti išankstinius algoritminius šališkumus prieš mažumas ir žemo pajamų lygio gyventojus.
Naudojami duomenys apie sveikatą, etniškumą ir net aukas
Teisingumo ministerija aiškina, kad projektas skirtas „peržiūrėti nusikaltėlių charakteristikas, kurios didina žmogžudystės riziką“ bei „ištirti alternatyvius ir inovatyvius duomenų mokslo metodus vertinant riziką“. Ministerijos atstovas priduria, kad projektas „prisidės prie rimtų nusikaltimų rizikos vertinimo tobulinimo ir galiausiai padės apsaugoti visuomenę per išsamesnę analizę“.
Projektas buvo užsakytas ministro pirmininko biuro, kai valdžioje buvo Rishi Sunak, ir jame naudojami įvairių oficialių institucijų įskaitant Probacijos tarnybą bei Didžiojo Mančesterio policiją (iki 2015 m.) duomenys.
Apdorojami duomenys apima vardus, gimimo datas, lytį, etninę priklausomybę bei identifikavimo numerius, susijusius su nacionaline policijos duomenų baze. Statewatch teiginiai, kad naudojami ir nekaltų žmonių duomenys, taip pat tų, kurie kreipėsi pagalbos į policiją, remiasi duomenų dalijimosi susitarimo tarp Teisingumo ministerijos ir Didžiojo Mančesterio policijos detale.
Vienoje dokumento dalyje, pažymėtoje kaip „dalintini asmens duomenys“, šalia teistumų nurodomi ir tokie duomenys kaip žmogaus amžius pirmąkart tapus nusikaltimo auka (įskaitant smurtą šeimoje), taip pat amžius, kai pirmą kartą buvo užfiksuotas kontaktas su policija[2].
Be to, dalijamasi ir „specialių kategorijų“ asmeniniais duomenimis, kurie, kaip tikimasi, turės reikšmingą prognozavimo galią. Tai apima informaciją apie psichikos sveikatą, priklausomybes, savižudybės riziką, pažeidžiamumą, savęs žalojimą ir negalią.
„Algoritmas diskriminuoja“: įspėjimai dėl vyriausybės projekto
Organizacijos Statewatch tyrėja Sofia Lyall pareiškė: „Teisingumo ministerijos bandymas sukurti žmogžudysčių prognozavimo sistemą, tai dar vienas šiurpinantis ir distopiškas pavyzdys, kaip vyriausybė bando kurti vadinamuosius nusikaltimų ‘prognozavimo’ modelius. Tyrimai nuolat rodo, kad tokios algoritminės sistemos yra iš esmės ydingos.“
S. Lyall pridūrė, kad šis modelis, naudodamas duomenis iš „struktūriškai rasistinės“ policijos ir Vidaus reikalų ministerijos, „sustiprins esamą sisteminę diskriminaciją“ baudžiamajame teisingume.
„Kaip ir kitos panašios sistemos, jis koduos šališkumą prieš rasizuotas bei žemo pajamų bendruomenes. Automatinis įrankis, kuris žmones profiliuoja kaip potencialius smurtinius nusikaltėlius, yra moraliai klaidingas. Ypač šokiruoja, kad tokiai sistemai naudojami jautrūs duomenys apie psichikos sveikatą, priklausomybes ir negalią.“
Teisingumo ministerijos atstovas tikino: „Šis projektas vykdomas tik tyrimų tikslais. Jis paremtas esamais duomenimis, kuriuos turi kalėjimų ir probacijos tarnyba bei policija, apie jau teistus asmenis. Tikslas yra geriau suprasti, kaip įvertinti riziką, kad žmogus gali padaryti sunkų smurtinį nusikaltimą būdamas probacijoje. Ataskaita bus paskelbta vėliau.“
Valdžios atstovai teigia, kad kalėjimų ir probacijos tarnybos jau dabar naudoja rizikos vertinimo priemones, o šis projektas siekia išsiaiškinti, ar duomenų iš policijos bei areštinių įtraukimas galėtų šį vertinimą pagerinti.
