DWP optužen za zaštitu ai raspoređivanja iz javnog nadzora

Odbijanje otvoreno objavljivanje informacija

Veliki brat gledao je da je operacija “Sumnjištva” Sumnjištva “zaštićena od javnog nadzora zbog odbijanja otvorenih informacija.

Slične bodove napravila je amnestija, koja je dodala da DWP opravdava svoju neprozirnost na osnovu da bi otkrio informacije mogu omogućiti pojedincima da iskoriste sustav pogodnosti. “Ovo u osnovi pogrešno shvaćaju kako ovi sistemi često diskriminiraju i pokazuju usvajanje kaznenog pristupa”, rečeno je.

“Ovi su se sustavi često oslanjaju na karakteristike identiteta za uspostavljanje profila ili rezultata rizika, što pojedinac” ili “invalidnost”, a ne da se optimizira za otkrivanje prevara, a ne da se optimiziraju za vezu da bi se optimizirali za većinu aplikacija koje su i dalje u stanju otkriti vanjske slučajeve prevare. “

Obje organizacije stoga pozivaju na veću transparentnost Vlade o Velikoj Britaniji o tome kako koristi ove visoko rizične alate za podatke, tako da se DWP može zadržati za računu negativnih utjecaja svojih sustava, a ljudi mogu osporiti pogrešne odluke o njima.

“TEŽI ALATIVNIH ALATA VISOKO-TE-TP-a, za koje su se utvrdile da su svoje vlastite procjene prepune pristranosti, alarmira”, rekao je Jake Hurfurt, šef istraživanja i istraga na satu Big Brother. “To postaje još više u vezi s tim da se DWP sakriva iza zida tajne i odbija da se otkrije ključne informacije koje bi omogućile pogođenim pojedincima i javnosti kako bi se shvatila za njihovu životinju i rizike pristranosti i pristranosti i privatnosti.

“Umjesto pritiska naprijed, DWP bi trebao napraviti korak unatrag i pauzirati bilo koji model koji sadrži neobjašnjive razlike, a to mora postati transparentno o tome kako koristi visokotehnološke alate.

Amnesty je u svom izveštaju rekao da su, dok su “uticaji u stvarnim svetskim” AI sistemima DWP-a iz iskustva ljudi u interakciji sa njima i šta su otkrivene od strane grupa civilnog društva, puni uticaji ne mogu biti istinski poznati bez veće transparentnosti. “Bez transparentnosti nad upotrebom tehnologije, ne može biti smislene evaluacije da li ovi sustavi djeluju efikasno ili zakonito, i da li se dogodi diskriminacija ili ne ili ne ili ne diskriminacija”, rekao je.

Veliki brat gleda na sličan način na koji su dokumenti kao što su procjene utjecaja na podacima koji sadrže vitalne podatke o sistemima – uključujući vrste osobnih podataka koje su u konačnici koje su u konačnici koristili i na način da se ne objavljuju ili nisu u velikoj mjeri, ili su inače redigirani ako su objavljeni.

“DWP koristi prijem prevara o blagoslovima kao karticu bez zatvora za rad u tajnosti, ali sa mašinskim alatima za učenje koji omogućava ljudsko svjetlo u velikoj mjeri, jasno je potrebno više nadzora i transparentnosti – ne manje”, rečeno je.

Imogen-Richmond Bishop, istraživač na tehnologiji, ekonomskim, socijalnim i kulturnim pravima na Amnesty International, dodao je da je Misija DWP-a da smanji troškove u srcu svog preteranog oslanjanja na ove problematične tehnologije. “Ljudi se bore da se sastave i stavljaju hranu na tablicu zbog smanjenja socijalnog osiguranja, a ipak je DWP više zabrinut zbog eksperimentalnih tehnologija za ispitivanje podnosioca zahteva”, rekla je ona.

“Tehnološki sistem koji podržava zatraživanje i upravljanje pogodnostima za blagostanje rezultira neumoljivim dehumanizacijom i sojem za ljude koji se već hrvaju kako bi pristupili osnovnim potrebama u slomljenom sustavu.”

Amnesty je takođe istaknuta u svom izveštaju da uprkos cilju “uštede troškova iz DWP-a, sumnja da li će se te uštede zapravo ostvariti.

“Nacionalni ured za reviziju Velike Britanije izrazio je sumnju da će se ta ušteda ikada ostvariti”, kazalo je. “Od 2024. godine, DWP procjenjuje da je od 2010. godine koštao 2,9 milijarde funti za implementaciju UC-a. Ovi rastući troškovi i kontinuirano odgođeni datumi dovode u pitanje je li čak moguće da se proces digitalizacije uvode efikasnosti i uštede troškova koji su korišteni za opravdanje njegovog uvođenja.”

DWP komentar

Kompjuter je sedmično kontaktirao DWP o oba izvješća i zahtjeve za njegovo korištenje AI-a u cijelom sustavu socijalnog osiguranja.

“Želimo poboljšati iskustvo za sve koji trebaju pristupiti i koristiti naše usluge, a tehnologija igra važnu ulogu u tome”, rekao je portparol.

“Osiguravamo da su odgovarajuće zaštitne mjere zajamčile zakonito, proporcionalnu i etičku upotrebu podataka i tehnologije. Sve odluke u vezi s pravom ili plaćanju naknade vrši se osoblje DWP-a, koji doživljavaju sve dostupne dokaze.”