Policijska upotreba tehnologije prepoznavanja lica uživo (LFR) rekonfigurira sumnju na suptilne, ali važne načine, potkopavajući takozvane mjere zaštite od čovjeka u petlji.
Uprkos dugogodišnjim kontroverzama oko policijske upotrebe LFR-a, ova tehnologija se sada koristi u Velikoj Britaniji za skeniranje miliona lica ljudi svake godine. Iako su početna raspoređivanja bila rijetka, dešavala su se samo svakih nekoliko mjeseci, sada su uobičajena, s kamerama koje su povezane sa prepoznavanjem lica koje se redovno postavljaju na događaje i prometna područja u mjestima poput Londona i Cardiffa.
S obzirom na potencijal za pogrešna upozorenja, policijske snage koje koriste tehnologiju tvrde da će čovjek uvijek donijeti konačnu odluku o tome da li će angažovati nekoga koga je označio LFR sistem. Ova mjera ima za cilj da osigura tačnost i smanji potencijal nepotrebnih policijskih interakcija.
Međutim, sve veći broj istraživanja koja naglašavaju socio-tehničku prirodu LFR sistema sugerira da tehnologija podriva ove zaštitne mjere koje se nalaze u krugu ljudi, suštinski preoblikujući (i jačajući) policijske percepcije o tome ko se smatra sumnjivim i kako policija s njima komunicira na ulici kao rezultat toga.
Sve veći broj istraživanja
Prema jednom radu iz marta 2021. – koji su napisali sociolozi Pete Fussey, Bethan Davies i Martin Innes – upotreba LFR-a „predstavlja društveno-tehnički sklop koji oboje oblikuje policijsku praksu, ali je također duboko oblikovan oblicima policijske sumnje i diskrecije“.
Autori tvrde da, iako prema trenutnim policijskim ovlastima, službenici koji prepoznaju nekoga mogu predstavljati osnov za zaustavljanje i pretres, to se mijenja kada se LFR ubaci u proces, jer „početno prepoznavanje“ nije rezultat diskrecionog prava službenika.
“Umjesto toga, policajci se ponašaju sličnije posrednicima, tumače i zatim djeluju na (kompjuterski podstaknut) prijedlog koji potiče izvan i prije njihove vlastite intuicije”, napisali su sociolozi. “Tehnologija stoga ima ulogu uokvirivanja i pokretanja u načinu na koji se sumnja.”
Nedavno su akademici Karen Yeung i Wenlong Li tvrdili u istraživačkom radu iz septembra 2025. da, s obzirom na mogućnost pogrešnih podudaranja, samo generiranje LFR upozorenja samo po sebi nije dovoljno da predstavlja „razumnu sumnju“, koju je britanska policija dužna pokazati kako bi legalno zaustavila i privela ljude.
“Iako policajci u Engleskoj i Walesu imaju pravo zaustavljati pojedince i postavljati im pitanja o tome ko su i šta rade, pojedinci nisu u obavezi da odgovaraju na ova pitanja u nedostatku osnovane sumnje da su umiješani u počinjenje krivičnog djela”, napisali su.
„Prema tome, svaki početni pokušaj policijskih službenika da zaustave i ispitaju osobu čije lice odgovara listi praćenja mora biti poduzeto na osnovu toga da pojedinac nije zakonski obavezan da sarađuje samo iz tog razloga.”
Uprkos zakonskoj obavezi da postoji osnovana sumnja, dokument iz jula 2019. iz Projekta za ljudska prava, velike podatke i tehnologiju sa sedištem u Centru za ljudska prava Univerziteta u Eseksu, koji je označio prvu nezavisnu reviziju ispitivanja LFR tehnologije od strane Metropolitanske policije, primetio je uočljivu „prezumpciju da interveniše“ među policajcima koji koriste tu tehnologiju.
Prema autorima Fussey i Daragh Murray, koji je čitalac međunarodnog prava i ljudskih prava na Pravnoj školi kraljice Marije, to znači da su uključeni službenici imali tendenciju da djeluju na osnovu rezultata sistema i angažuju pojedince za koje je rekao da odgovaraju listi za praćenje u upotrebi, čak i kada nisu.
Kao oblik pristrasnosti automatizacije, „pretpostavka da se interveniše“ važna je u sociotehničkom smislu, jer u praksi rizikuje otvaranje nasumičnih članova javnosti za neopravdane ili nepotrebne policijske interakcije.
Podizanje sumnje
Iako su Yeung i Li napomenuli da pojedinci nisu zakonski obavezni da sarađuju s policijom u nedostatku razumne sumnje, bilo je slučajeva kada je nepoštivanje službenika nakon upozorenja LFR negativno uticalo na ljude.
U februaru 2025., na primjer, borca protiv zločina s noževima Shauna Thompsona, koji se vraćao kući iz volonterske smjene u Croydonu sa omladinskom grupom Street Fathers, zaustavili su policajci nakon što ga je Met-ov LFR sistem pogrešno identificirao kao osumnjičenog.
Tompsona su potom policajci držali skoro 30 minuta, koji su u više navrata tražili skeniranje njegovih otisaka prstiju i prijetili mu hapšenjem, uprkos tome što su mu dostavljeni brojni lični dokumenti koji pokazuju da on nije osoba u bazi podataka.
Thompson je javno opisao sistem kao “zaustavite se i pretražite na steroidima” i rekao da se osjeća kao da ga se tretira kao “krivog dok se ne dokaže da je nevin”. Nakon incidenta, Thompson je pokrenuo sudsku reviziju upotrebe LFR-a od strane Meta kako bi spriječio druge da završe u sličnim situacijama, što bi trebalo biti saslušano u januaru 2026.
Čak i kada nije generisano upozorenje, postoje slučajevi u kojima je upotreba LFR-a izazvala negativne interakcije između građana i policije.
Tokom razmeštanja Meta u februaru 2019. u Romfordu, na primer, Computer Weekly je bio prisutan kada su dva člana javnosti zaustavljena zbog pokrivanja lica u blizini LFR kombija jer nisu želeli da se njihove biometrijske informacije obrađuju.
U pismu Odboru za pravosuđe i unutrašnje poslove (JHAC) u rujnu 2021. u sklopu istrage o policijskim algoritmima, Fussey, Murray i kriminologinja Amy Stevens napomenuli su da, iako je većina nadzora u Ujedinjenom Kraljevstvu osmišljena tako da cilja pojedince nakon što je dostignut određeni prag sumnje, smatrajući da je LFR sumnjivim kamerama, smatrajući ih sumnjivim. prva instanca.
To znači da iako ljudi mogu biti naknadno eliminisani iz policijskih istraga, sama tehnologija utiče na to kako policajci vide sumnju, tako što ih u suštini „priprema“ da stupe u kontakt sa ljudima koje je sistem označio.
“Svaka potencijalna tendencija odgađanja ili pretjeranog oslanjanja na automatizirane izlaze u odnosu na druge dostupne informacije ima sposobnost da transformira ono što se još uvijek smatra ljudskom odlukom u de facto automatiziranu”, napisali su.
„Stoga treba uspostaviti robustan nadzor kako bi se omogućilo razumijevanje nivoa poštovanja prema alatima koji su namijenjeni kao savjetodavni, te koliko često i u kojim okolnostima ljudski korisnici donose odluku alternativnu onoj koju savjetuje alat.”
Kreiranje liste za praćenje i birokratske sumnje
Ključni aspekt koji posreduje u odnosu između LFR-a i koncepta “razumne sumnje” je kreiranje lista za praćenje.
Društveno-tehnički, istraživači koji istražuju upotrebu LFR-a od strane policije izrazili su brojne zabrinutosti u vezi sa kreiranjem liste za praćenje, uključujući kako ona „strukturira pogled policije“ da se fokusira na određene ljude i društvene grupe.
U svom dokumentu iz 2021., na primjer, Fussey, Davies i Innes su napomenuli da kreiranje lista za praćenje od slika pritvorenih u policiji prirodno znači da će pažnja policije biti usmjerena na “uobičajene osumnjičene”, izazivajući “tehnološki uokvirenu birokratsku sumnju u digitalnu policiju”.
To znači da se, umjesto da povezuje specifične dokaze iz zločina s određenom osobom (poznato kao ‘slučajna sumnja’), LFR se umjesto toga oslanja na korištenje općih, standardiziranih kriterija (kao što je prethodni policijski dosije ili lokacija neke osobe) za identifikaciju potencijalnih osumnjičenih, što je u sociologiji poznato kao “birokratska sumnja”.
“Pojedinci navedeni na listama praćenja i bazama podataka smatraju se opravdavajućim sumnjom, a AFR [automated facial recognition] nadzorni pogled je posebno usmjeren prema njima”, napisali su.
„Ali, čineći to, društvene predrasude policijskih aktivnosti koje se neproporcionalno fokusiraju na mlade ljude i pripadnike afričkih Kariba i drugih manjinskih etničkih grupa (između ostalog Lammy Review 2017) dodatno su podstaknute navodnim tehnološkim predrasudama koje proizlaze iz toga kako se tehnička preciznost smanjuje za starije, ženske osobe i za neke obojene osobe.”
Drugi su takođe izrazili zasebnu zabrinutost u vezi sa nejasnim kriterijumima u vezi sa kreiranjem liste za praćenje i važnosti potrebe za „kvalitetnim“ podacima za unos u sistem.
Yeung i Li su, na primjer, istakli “neriješena pitanja” o zakonitosti sastavljanja liste za praćenje, uključujući “značaj i ozbiljnost” osnovnog prekršaja koji se koristi da bi se opravdalo uključivanje osobe i “legitimnost razloga zašto tu osobu ‘traži’ policija” na prvom mjestu.
Na primjer, dok policija u više navrata tvrdi da se LFR koristi samo za najozbiljnije ili nasilne prestupnike, liste praćenja redovno sadrže slike ljudi za drogu, krađu u trgovini ili saobraćajne prekršaje, koji zakonski ne zadovoljavaju ovu definiciju.
U svom dokumentu iz septembra 2025., Yeung i Li su također napomenuli da, iako su Metove liste praćenja bile popunjene pojedincima za kojima se traže neriješeni nalozi za hapšenje, oni su takođe uključivali “slike mnogo šire, amorfne kategorije osoba” koje ne zadovoljavaju definiciju ozbiljnih prestupnika.
To uključuje „pojedince kojima nije dozvoljeno da prisustvuju karnevalu u Notting Hillu“, „pojedince čije bi prisustvo predstavljalo rizik za sigurnost i sigurnost događaja“, „tražene nestale“ pojedince i djecu, pa čak i pojedince koji „predstavljaju rizik od povrede sebe i drugih“ i one koji „mogu biti u opasnosti ili ranjivi“.
U decembru 2023., viši službenici policije Meta i Južnog Walesa potvrdili su da LFR djeluje na modelu “birokratske sumnje”, rekavši lordskom komitetu da je odabir slika na listi za praćenje prepoznavanja lica zasnovan na generičkim kategorijama zločina priloženim fotografijama ljudi, a ne na kontekstualnoj procjeni prijetnje koju predstavlja određeni pojedinac.
Tadašnja direktorica obavještajne službe Met Police, Lindsey Chiswick, dalje je rekla Lordsu da da li je nešto “ozbiljno” ili ne zavisi od konteksta i da bi, na primjer, trgovci na malo koji pate od plodnih krađa u prodavnicama bili “ozbiljni za njih”.
Dok su drugi akademici – uključujući Fussey et al, koji su tvrdili da “široke kategorije nude značajnu slobodu za tumačenje, stvarajući prostor za diskreciju službenika u pogledu toga ko je upisan i isključen iz takvih baza podataka” – istakli su nejasnu i amorfnu prirodu kreiranja policijskih lista za praćenje LFR-a – to pitanje su istakli i sudovi.
U avgustu 2020. godine, na primjer, Apelacioni sud je presudio da je upotreba LFR-a od strane policije Južnog Velsa bila nezakonita, dijelom zato što je nejasnoća kriterija liste za praćenje – koja je kao kategoriju uključivanja koristila “druge osobe za koje je potrebna obavještajna informacija” – ostavila pretjerano diskreciono pravo u rukama policije.
“Nije jasno ko može biti stavljen na listu praćenja, niti je jasno da postoje ikakvi kriteriji za određivanje gdje se AFR može rasporediti”, navodi se u presudi, dodajući da, “u stvari, može obuhvatiti svakoga ko je od interesa za policiju”.
Tokom zasjedanja Lords u decembru 2023., Yeung je – koja je pozvana da svjedoči s obzirom na svoju stručnost – također naglasila veličinu liste za praćenje kao važan društveno-tehnički faktor.
“Postoji razilaženje između tvrdnji da su na listu praćenja stavili slike samo onih traženih zbog teških zločina i činjenice da je samo u Oxford Circusu bilo preko 9.700 slika”, rekla je ona.
Nezakonito zadržavanje slika o pritvoru
Daljnji razlog za zabrinutost oko socio-tehničkih uticaja kreiranja liste za praćenje, postoje stalni problemi sa nezakonitim zadržavanjem slika pritvora u policijskoj nacionalnoj bazi podataka (PND). Ovo predstavlja primarni izvor slika koje se koriste za popunjavanje policijskih lista praćenja.
Godine 2012. presudom Višeg suda utvrđeno je zadržavanje da su slike pritvora u PND-u nezakonite na osnovu toga što su informacije o neosuđivanim osobama tretirane na isti način kao i informacije o osobama koje su konačno osuđene, te da je šestogodišnji period zadržavanja bio nesrazmjeran.
Uprkos presudi iz 2012. godine, milioni slika o pritvoru se i dalje nezakonito čuvaju.
Pišući drugim glavnim policajcima da ukratko iznesu neka od pitanja u vezi sa zadržavanjem slike u pritvoru u februaru 2022., Lije Freeman, vođa Nacionalnog vijeća šefova policije (NPCC) za upravljanje dokumentima, rekao je da potencijalno nezakonito zadržavanje procijenjenih 19 miliona slika „predstavlja značajan rizik u smislu potencijalnog sudskog spora, naše podrške za legitimnost i širu policijsku podršku za ove slike. prepoznavanje lica”.
U novembru 2023. NPCC je potvrdio za Computer Weekly da je pokrenuo program koji će nastojati uspostaviti režim upravljanja za slike pritvora, uz pregled svih podataka koje trenutno posjeduju policijske snage u Velikoj Britaniji.
Ovo pitanje je ponovo označio komesar za biometriju Engleske i Velsa, Tony Eastaugh, u decembru 2024. godine, kada je u svom godišnjem izvještaju napomenuo da “snage nastavljaju da zadržavaju i koriste slike ljudi koji, iako su uhapšeni, nikada kasnije nisu optuženi ili pozvani”.
Eastaugh je dodao da, iako je rad već “u toku” kako bi se osiguralo da je zadržavanje slika proporcionalno i zakonito, “upotreba slika pritvora neosuđenih pojedinaca može uključivati u svrhe prepoznavanja lica”.