ICO istražuje zakonitost algoritama koji se koriste u sprovođenju imigracije

Kućni ured mogao bi biti zabranjen nezakonito korištenjem računarskih algoritma koji bi preporučili da li bi migranti trebali biti deportirani.

Privatnost International podnela je žalbu u Kancelariji za informacije (ICO) u prikupljanju i preradu informacionih poslova u operacijama izvršenja imigracije.

Taj potez prati uspješnu žalbu Grupe kampanje nad korištenjem kućnog ureda GPS označavanja za nadgledanje azilanata.

Žalba podnesena 18. avgusta fokusira se na dva algoritamska alata koja se koriste za obradu ličnih podataka migranata, poznati kao identificirati i odrediti imigracijske slučajeve (IPIC) i elektronički alat za nadgledanje (EMRT).

Grupa kampanje tvrdi u zakonskom podnosu 94 stranice da kućni ured koristi alate na način koji ograničava ljudsku uključenost u odlučivanje, te da “dizajnerskih godina” ohrabruju preporuke alata da prihvate preporuke alata sa malo pažljivog.

Žalba dolazi kao organizacije u javnom sektoru usvoje više automatiziranih alata za pomoć ili zamjenu ljudskog odlučivanja. Iako takvi alati imaju potencijal za poboljšanje preciznosti i smanjenju troškova, oni se rutinski razvijaju i rade iza zatvorenih vrata sa minimalnom transparentnošću i zaštitnim mjerama, rekao je privatnost International.

Rečeno je da su IPIC i EMRT alati “vrlo nametljiv” i mogli bi se koristiti za obradu osjetljivih podataka koje se pružaju kućnim uredma koji se odnose na zdravlje, porodice i druge odnose pojedinca i potencijalno podatke dobivenim iz praćenja GPS-a. “Pojedinci se negiraju bilo kakve značajne informacije o tome kako se koriste njihovi podaci”, rekao je u žalbi.

Prema podacima o matičnoj ured, Alat EMRT-a koristio je za više od 1.700 tromjesečnih elektronskih nadgledanja (em) za razdoblje od 80 dana u 2023. godini. Vjerojatno je da se oba alata koriste za preporuke na desetinama tisuća podataka o podacima, prema procjenama privatnosti međunarodnih.

“Potencijalne štete koje proizlaze iz alata koji se koriste preko imigracijskog sustava u takvom nivou uključuju potencijal za ranjive pojedince koji će biti izloženi odlukama o promjeni života. Ovo može uključivati ​​pritvor ili uklanjanje iz Velike Britanije na osnovu profila i automatiziranog odlučivanja”, navodi se.

To znači da se ne može provjeriti zakonitost i tačnost obrade ili osporavanje odluka, tvrdeći međunarodni privatnosti, tvrdeći da se upotreba matične službe za algoritme prekršio UK opšti regulaciju podataka i Zakon o općim podacima i Zakon o zaštiti podataka 2018. godine.

“Pojedinci nemaju značajne informacije o tome kako se koriste njihovi podaci, a gdje se pružaju informacije, to je nedosljedno i kontradiktorno”, izjavi se u izjavi.

“Nisu migrantima ne pružaju koherentne i sveobuhvatne informacije koje se tiču ​​podataka o procesu alata i kako se koristi, uključujući kakve posljedice njihovo raspoređivanje mogle imati na odluke koje mogu utjecati na njihov život”, dodao je.

Privatnost International zatražila je od povjerenika za informacije da izvrši obavijest o izvršenju kako bi se spriječilo da kućni ured prikupi i obradu osobnih podataka koristeći i IPIC i EMRT alate u operacijama provođenja imigranata.

“Čini se da su ovi alati bili raspoređeni bez dovoljno zaštitnih mjera za zaštitu tih predmeta, podizanje zabrinutosti da li domaći ured odgovara adekvatno u skladu sa zakonima koji reguliraju obradu ličnih podataka u Velikoj Britaniji”, navodi se.

Prethodna žalba od strane grupe potaknula je ICO da izda formalno upozorenje matičnoj kancelariji nad upotrebom GPS gležnjaka za gledanje za nadgledanje lokacije i kretanja azilanata koji u Velikoj Britaniji i drugim neovlaštenim rutama stižu u malim brodovima i drugim neovlaštenim rutama.

ICO je pronašao matični ured nije uspio procijeniti nametljiv utjecaj kontinuirano prikupljanja podataka o lokaciji ljudi i njenog potencijalnog utjecaja na ljude koji mogu biti ranjivi zbog njihovog nemogućnosti govoreći engleski jezik ili zato što su se suočili sa teškim uvjetima u Velikoj Britaniji.

Početni ured je prišao za komentar.

Pročitajte više o poslovnim aplikacijama

• Amnesty: AI nadzor rizikuje “Superchang” američki deportacije

  Napisao: Tiago Ventura

• UK-ov ERROR-PRONE SISTEM EVISA SISTEM JE “INDIRANJE ANXIETY”

  Napisao: Sebastian Klovig Skelton

• Vlada u Velikoj Britaniji planiraju planiranje migranata sa EVISA podacima

  Napisao: Sebastian Klovig Skelton

• AI nadzorni tornjevi stavljaju migrante u ‘još veću opasnost’

  Napisao: Sebastian Klovig Skelton