Tokom druge rasprave o čitanju zakona o privatnim članovima, koji žele bolje regulirati algoritme javnog sektora, Vlada je tvrdila da postojeće mjere bile dovoljne za zaštitu javnosti
Od
- Vipin Chimrani,Kompjuter nedeljno
Objavljeno: 17. januara 2025. 13:00
Vlada Velike Britanije izrazila je “rezervacije” o lordom Tim Clement-Jones za poboljšanje nadzora algoritamskih alata za donošenje odluka u javnom sektoru, tvrdeći da su zabrinutosti od strane njegovog zakona već pokrivene vlastitim predloženim reformama podataka i postojećim algoritamskim standardima za snimanje transparentnosti (ATRS).
Uveden kao račun privatnog člana u septembru 2024. godine, rekao je Clement-Jones rekao u vreme kada su to potrebni prijedlozi jer postojeće zaštitne mjere na algoritamskom i automatiziranom alate za donošenje odluka (adm) nisu bile dovoljne da bi se “računar ne” računalo ne “.
Tokom Drugog čitanja rasprave o njegovom zakonu u decembru 2024. godine, maggie Jones – podsećaj za nauku, inovacije i tehnologiju (DSIT) – rekao je da se ATRS-ovi olakšavaju za razredni vladini i pristupi za rješavanje problema sa Clement-Jonesom, već i bolje uskladiti sa vlastitim “prioritetima vlade” Ubrzavanje inovacija, tehnologija za dobru i moderna digitalna vlada “.
“Ove reforme štrajkuju pravu ravnotežu između osiguravanja da organizacije mogu dati najbolju upotrebu automatizirane tehnologije odlučivanja za podršku ekonomskom rastu, produktivnosti i pružanju usluga, uz održavanje visokih standarda zaštite podataka i povjerenja javnosti”, rekla je.
Međutim, Clement-Jones izrazio je vlastite rezervacije o reformama vlade, navodeći prošlih incidenata koji uključuju upotrebu ADM alata za opisivanje “opasnosti nepravilnih algoritma” – uključujući nedostatak javnog povjerenja u umjetnu inteligenciju (AI) i infiltraciju pristranosti i rasizma u nereguliranim sistemima donošenja odluka.
Podsjetio je na gospodare 2020. godine na nivou razine i GCSE Fiasca, gdje su studenti koji su nepravedno propustili na univerzitetskoj mjestima; Upotreba admin sistema Vijeća, gdje je 540.000 građana dodijeljena “prevara”, prije odbijanja na stambene koristi na temelju lažnih podataka; i skandal za horizont pošte. “To je opasno samopouzdanje ako vlada zaista misli da je ATRS u kombinaciji sa zadatimnim odredbama u GDPR-u [General Data Protection Regulation]bit će dovoljni “, rekao je Clement-Jones.” Predlog zakona je ključan za osiguranje da se prednosti ovih tehnologija ostvaruju dok se čuvaju demokratske vrijednosti i pojedinačna prava. “
Baroness Jones, međutim, tvrdio je da vladine reforme podataka pod Duabom “posebno osiguravaju da ljudska uključenost mora biti smisla. Ovo je da se spriječi da se kursorno uključivanje ljudska koristi na odluke o gumenim usavršavanjem.”
Zabrinutost za transparentnost
Jedan od glavnih briga Clement-Jones bio je o transparentnosti ATRS-a. Od svog lansiranja 2022. godine, rekao je, objavljeno je samo šest evidencija algoritamske transparentnosti u javnom sektoru.
Vlada se branila tvrdeći da je “brojni broj ovih zapisa” otkad je postignut obavezan za sve vladine odjele, te da će oni uskoro biti objavljeni.
Kako stoji, trenutno postoje 23 zapisa sadržana u ATRS-u.
Račun Clement-Jones također sadrži odjeljak o procjenama algoritamskih procjena utjecaja (AIA) da bi javna tijela morala provoditi prije raspoređivanja bilo kojeg alata za donošenje odluka. AIAS bi to učinili obaveznim za njih da stalno procijene i otkriju utjecaj alata na sigurnosno i administrativno odlučivanje kada se algoritam ažurira ili se opseg alata mijenja.
Konzervativni vršnjački viscount Camrose – Jones prethodnik na DSIT-u – nadalje tvrdi da bi primijenjena procjena utjecaja čak i prije kupovine bila “nerealna”, a kao rezultat bi Bill stvorio “administrativni teret”. Također je kritizirao račun Clement-Jones za previše prepisivanja, a ne da dopuštam javnom sektoru fleksibilnost da se izbora u lice njihovih “divljeg različitih potreba”.
Baroness Jones tvrdio je da je ATRS pružio holistički pogled na zaštitne mjere u vezi sa utjecajem alata, a da stoga nije potrebna zakonodavstva za transparentnost: “Zakonodavstvo za obavezne transparentnosti ili AIAS za javne vlasti u ovom trenutku”, rekla je.
Upućene su i u Kanadu, koje je nedavno provelo sličan AIA okvir za onaj predloženo. Barunica Martha Lane Fox zatražila je oprez u implementaciji računa Clement-Jones ‘, rekavši da bi moglo dodati birokratiju. “Kanada se takođe pokušavala preseliti na veću regulaciju algoritamske transparentnosti, a implementacija je bila vrlo teška i teška”, rekla je.
Jedna ključna razlika u računu privatnih članica je da postavlja važnost postrašujućih sistema tokom faze nabavke – umjesto nakon što se postave na upotrebu – kako bi se osiguralo da se sustavi pravilno ocjenjuju za njihovu efikasnost i utjecaje prije nego što budu kupljeni.
Govoreći u podršci poboljšanim mjerama nabavke, Lane-Fox je rekao: “Usmjerava se u digitalnoj strani državne službe, a dogovore koji se bave dobavljačima u kojem se pomeramo u inovaciju, ali moramo potaknuti sigurnost.
Privatni račun uvodi Clement-Jones odjednom kada vlada želi koristiti AI za pokretanje rasta i pojačanje ekonomije. Peter Kyle je prethodno rekao u julu 2024. godine da “mi”RTL”> ‘stavite AI u srce vlade”RTL”> ‘s dnevnom redu za jačanje rasta i poboljšanje naših javnih usluga “.
U međuvremenu, premijer Keir Starmer rekao je tokom svog govora AI Akcionog plana 13. januara da je tehnologija “Definisanje prilika” naše generacije. “Označi moje reči, Britanija će biti jedna od velikih AI supersila”, rekao je.
Pročitajte više o umjetnoj inteligenciji, automatizaciji i robotici
-
Sve, svuda, sve odjednom: automatizirano odlučivanje u javnim uslugama
Napisao: Jasleen Chaggar
-
DSIT stalni sekretar kaže da je potrebno više transparentnosti AI
Napisao: Sebastian Klovig Skelton
-
Vallance odbacuje najnoviju naknadu za reformu zakona o hakiranju u Velikoj Britaniji
Napisao: Alex Scroxton
-
Najnoviji pokušaj nadjačavanja zastarjelih zakonskog zakona u Velikoj Britaniji
Napisao: Alex Scroxton