Zastupnici predlažu zabranu prediktivnog rada policije

Prediktivne tehnologije policije narušavaju ljudska prava “u svom srcu” i trebala bi biti zabranjena u Velikoj Britaniji, tvrde zeleni mp Siân Berry, nakon što se pojačalo izmjena u predstojećem kriminalu i zakonu o policiji.

Govoreći u Domu zajednice tokom faze izvještaja Bila, bobica je istaknuo opasnosti korištenja prediktivnih tehnologija policije za procjenu vjerojatnosti pojedinaca ili grupa koji počinju krivična djela u budućnosti.

“Takve tehnologije, međutim, pametno prodane, uvijek će se morati graditi na postojećim, pogrešnim policijskim podacima ili podacima drugih pogrešnih i pristranih javnih i privatnih izvora”, rekla je ona. “To znači da će zajednice koje su povijesno prezirciralo više vjerojatnije da će biti identificirane kao” u riziku “budućeg kriminalnog ponašanja.”

Berryjev amandman (NC30 u amandmanskom papiru) – koji su sponzorirali osam zastupnika, uključujući Zarah Sultana, Ellie Chowns i Clive Lewis – bile bi zabranile korištenje automatiziranog donošenja odluka (AI) u svrhu rizičnih procjena o vjerojatnosti grupa ili ljudi koji počinju krivična djela.

Također bi zabranio korištenje određenih informacija u Velikoj Britaniji da “predviđa” ponašanje ljudi: “Policijske snage u Engleskoj i Walesu biće zabranjeno … predviđanje stvarnog ili potencijalnog krivičnog djela zasnovanog na profiliziranju osobnih ličnosti i lokaciju ličnosti, uključujući osobinu fizičkih osoba ili poprilično kriminalno ponašanje fizičkih osoba ili grupa fizičkih osoba.”

Govoreći u Commonsu, berri se dalje tvrdio: “Kao što sam oduvijek rekao u kontekstu prepoznavanja lica, pitanja tačnosti i pristranosti nisu jedini razlog da budu protiv ovih tehnologija. Uključuju pravo na privatnost i pravo na to da bi se moglo pretpostaviti nevin.”

Dok vlasti raspoređuju prediktivne policijsko alate kažu da se mogu koristiti za efikasnije izravne resurse, da se kritičari dugo tvrdi da se u praksi ovi sustavi koriste za više puta ciljane siromašne i rasizirane zajednice, jer su ove grupe povijesno “i zato su zastupljene u policijskim skupovima podataka.

Ovo tada stvara negativne povratne kapke, gdje su ove takozvane “predviđanja” dovode do daljnjeg prelegiranja određenih grupa i područja, jačanje i pogoršanje prethodno postojeće diskriminacije prikupljaju se povećajućim količinama podataka.

Traženje povijesnog širenja prediktivnih policijskih sustava u njihovoj 2018. godiniPolicija: terenski vodičAutori David Correia i Tyler Wall tvrde da takvi alati pružaju “naizgled objektivni podaci” za organe za provođenje zakona da se nastave baviti diskriminatornim policijskim praksama, “, ali na način koji se čini bez rasnog profiliranja”.

Dodali su ga, dakle, “ne bi trebalo biti iznenađenje da prediktivna policija locira nasilje budućnosti u siromašnima sadašnjosti”.

Kao rezultat takvih zabrinutosti, u posljednjih nekoliko mjeseci bilo je brojnih poziva od civilnog društva za Vladu Velike Britanije da zabrane korištenje prediktivnih političkih alata.

U februaru 2025., na primjer, Amnesty International objavio je 120 stranica izveštaja o prediktivnim policijskim sistemima “Superchang Rasizam” u Velikoj Britaniji koristeći povijesno pristrasne podatke za daljnje ciljane zajednice.

Otkrilo je da je preko Velike Britanije najmanje 33 policijske snage raspoređivanje prediktivnih policijskih alata, sa 32 od ovih korištenja sustava predviđanja geografskog kriminala u odnosu na 11 koji koriste alate za predviđanje kriminala koji se fokusiraju na ljude.

Amnesty je dodao da su ovi alati “u grubokrvnom kršenju” nacionalnih i međunarodnih obveza za ljudska prava, jer se koriste na rasno profiliru, potkopavaju pretpostavku nevinosti ciljajući ljude prije nego što su čak bili uključeni u zločin i gorivo neselektivno masovno nadzor čitavih područja i zajednica.

Više od 30 organizacija civilnog društva – uključujući veliki brat Grupa, Amnestiju, Institut, javni zakon i državni zavod – također je potpisalo otvoreno pismo o tome kako se zabrinutost za podatke i pristupa, što će sada činiti zaštitne mjere od strane automatiziranog odlučivanja od strane policije.

“Trenutno, odjeljci 49 i 50 Zakona o zaštiti podataka zabrane isključivo automatizirane odluke izvršite u kontekstu zakona, osim ako je donošenje zakona, a dodali su da će nova klauzula 80 preoblikovati ovu zaštitnu zaštitu u svim scenarijima u kojima se podaci posebne kategorije ne koriste.

“To u praksi, to znači da bi se automatizirane odluke o ljudima mogle donositi u kontekstu zakona na osnovu njihovog socioekonomskog statusa, regionalnih ili poštanskih brojeva, zaključenih emocija ili čak regionalnih akcenta. To uvelike proširuje mogućnosti pristranosti, diskriminacije i nedostatka transparentnosti.”

Grupe su dodale da se podaci ne posebne kategorije mogu koristiti kao “proxy” za zaštićene karakteristike, dajući primjer kako se mogući poštanski brojevi koristiti kao proxy za potencijalno zaključiti nečiju trku.

Oni su također istakli kako, prema vlastitim procjeni utjecaja vlade za zakon, “one sa zaštićenim karakteristikama kao što su rasa, spol i starost, veća su vjerojatnija da se suočavaju sa diskriminacijom od strane ADM-a zbog povijesnih pristranica u skupu podataka”.

Pismo je također potpisalo brojne akademske akademce, uključujući Brent Mittelstadt i Sandra Wachter iz Internet instituta Oxford, te socijalni antropolog Toyin Agbetu sa univerzitetskih koledža London.

Odvojeni amandman (NC22) koji je uveden pogođenima u ublažavanju ovih podataka uvođenjem novih zaštitnih mjera za automatizirane odluke u kontekstu za provođenje zakona, veću transparentnost oko policijskog korištenja algoritama i osigurati da ljudi mogu zatražiti ljudska uključenost u bilo kakve policijske odluke o njima.

U aprilu 2025. godine, zasebno je pozvao i Ministarstvo pravde (MP) da zaustavi svoj razvoj kampanje za predviđanje kriminala, nakon što je Odjel za “predviđao” rizik od “ljudi da se ponovim” predviđaju “koji će” predvidjeti “koji će izvršiti ubojstvo.

“Pokušaj Ministarstva pravde da izgradi ovaj sistem za ubojstvo je najnoviji hlađenje i distopijski primjer vlade namere da razviju takozvane sisteme prediknjivanja kriminala”, rekao je Državni prolaznik Sofia Lyall.

“Kao i drugi sustavi, on će kodirati u pristranosti prema rasnoj i niskopristupnim zajednicama. Izgradnja automatiziranog alata za profil ljudi kao nasilni zločinci su duboko pogrešni, a takve osjetljive podatke o mentalnom zdravlju, ovisnosti i invalidnosti vrlo su nametljivi i alarmantni.”

Dodala je: “Umjesto da bacamo novac u razvijanjem Dodgyja i rasističkog AI-a i algoritmi, mora uložiti u istinsko podržati usluge socijalne zaštite. Spremanje blagostanja dok ulaže u tehno-solutističke” brze popravke “samo će nabrajati sigurnost i blagostanje ljudi.”

Prije toga koalicija grupa civilnog društva pozvala je tadašnja vlast u dolaznoj radnoj vladi u julu da bi postavila otvorenu zabranu i prediktivnom policijskom i biometrijskom nadzoru u Velikoj Britaniji, na osnovu kojih se nesrazmjerno koriste za ciljanje rasnoj, radničke klase i migrantske zajednice.

2022. godine Usluga Gords-a u Velikoj Britaniji u Velikoj Britaniji od strane policije u Velikoj Britaniji u Velikoj Britaniji ukazuje na upotrebu njihove tendencije, ističući njihovu tendenciju da proizvode “začarani krug” i “enronch postojećim obrascima diskriminacije”, jer su izrazili policijske patrole na niskim primanjima, koji su već prekomjerni polični podaci na temelju povijesnih podataka o hapšenju.

Gospodari su otkrili da u Velikoj Britaniji policija raspoređuju algoritamske tehnologije – uključujući AI i priznanje lica – bez detaljnog ispitivanja njihove efikasnosti ili ishoda, a u suštini su “čineći to dok idu dalje”.

Pročitajte više o velikim analitikama podataka

• Europska komisija trebala bi podnijeti adekvatnost podataka u Velikoj Britaniji

  Napisao: Sebastian Klovig Skelton

• Ujedinjeno Kraljevstvo Algoritmi predviđanja zločina podižu ozbiljnu zabrinutost

  Napisao: Sebastian Klovig Skelton

• Adekvatnost podataka o izvršenju u Velikoj Britaniji u riziku

  Napisao: Sebastian Klovig Skelton

• Velike policijske snage ‘Superchalging Rasizam’ sa prediktivnim policijom

  Napisao: Sebastian Klovig Skelton