Vlada mora poboljšati transparentnost oko upotrebe umjetnih obavještajnih sustava u cijelom javnom sektoru ako će dobiti i zadržati povjerenje u način na koji se tehnologija raspoređuje
Od
- Sebastian Klovig Skelton,Urednik podataka i etike
Objavljeno: 03. februara 2025. 12:15
Odjel za nauku, inovacije i tehnološke (DSIT-ov) koji je većina državnog službenika rekao je da vlada mora dalje u poboljšanju transparentnosti oko valjci sistema umjetne inteligencije (AI) u cijelom javnom sektoru.
Od strane članova Odbora za javne račune (PAC) 30. januara 20. januara može poboljšati poverenje u sve veću upotrebu javnog sektora AI i algoritamski alati za donošenje odluka Sarah Munby Sarah Munby rekao je “da se više mogu u izgraditi na transparentnosti”, što se može u izgraditi u izgradnji u izgradnju povjerenja u korišćenje automatiziranih alata.
Munby je rekao da javni sektor mora biti jasan, na primjer, AI se koristi u pismima ili e-mailovima od vlade građanima (nešto što je rekla da se odražava na vladine smjernice), kao i fokusu na način na koji se ljudima u cijeloj zemlji.
Dodala je da ako Vlada ne bude “demonstrirano pouzdana”, u konačnici će postati “blokator napretka” za daljnji roll-out iz AI alata.
Glavni aspekt napora vlade je algoritamski standard za snimanje transparentnosti (ATRS), koji je dizajniran u suradnji između DSIT-a i Centralnog digitalnog i podatkovnog ureda (CCDO), te se u septembru 2022. godine i pružanje više informacija o algoritamskim alatima koje koriste.
Iako je DSIT najavio u februaru da je namijenio da ATRS-a učini obavezni zahtjev za sve vladine odjele tokom 2024. godine (kao i proširiti svoju upotrebu širokom javnom sektoru), uprkos tome što je do sada kritizirao zbog nedostatka angažmana s njim do sada, uprkos državi koji imaju stotine ugovora vezanih za Ai.
U martu 2024. godine, Nacionalni ured za reviziju (NAO) označio je kako samo osam organizacija koje su odgovorile na njegovo istraživanje raspoređivanja AI reklo da su “uvijek ili obično u skladu sa standardom”. U tom trenutku, samo sedam evidencija sadržano je u ATRS-u.
Kako stoji, trenutno u ATRS-u postoje 33 evidencije, od kojih je 10 dobrovoljno objavljeno 28. januara od strane lokalnih vlasti koje nisu obuhvaćene mandatom Centralnog odjela.
Komentirajući ATRS, Munby je priznao “Moramo dobiti više”, napominjući da će još jedan “20 ili tako” biti objavljen u februaru, sa “puno više” da slijede tokom cijele godine.
“Apsolutno je naš pogled da bi svi trebali biti vani i objavljeni”, rekla je. “Potrebno je malo vremena da ih izvučete i da ih trče. To za to dugo nije bilo obavezno, ali … nedavno je bilo značajno ubrzanje u tempu, a očekujemo da će nastaviti. “
Munby je također istaknuo da je “dobivanje prava zakon važnoj komponenti” izgradnje povjerenja. “Postoji prilično opsežan skup odredbi u podacima [Use and Access] Bill koji se radi o tome da se osigura da se tamo donose automatizirano odlučivanje, postoje zaista dobri oblici regresa, uključujući mogućnost osporavanja [decisions]”” Rekla je.
Dok je Vlada rada usvojila gotovo svaku preporuku nedavno objavljenog AI Akcionog plana – koji je predložio poverenje i usvajanje u tehnologiji kroz izgradnju ekosustava Velike Britanije – nijedna od preporuka navedenih zahtjeva transparentnosti.
‘Socijalno smislena prozirnost’
U pisanim dokazima PAC-u objavljene su 30. januara, uključujući Jo Bates, profesora podataka i društva na Univerzitetu u Sheffieldu i Helen Kennedy na Univerzitetu u Sheffieldu – rekao je da je “društveno smislena transparentnost” oko upotrebe javnog sektora Ai i algoritma.
“Socijalno smislena transparentnost fokusirana je na unapređenje javnog razumijevanja AI sistema za informirane uporabe i demokratskog angažmana u društvima podataka”, rekli su. “Ovo je važno s obzirom na široko dokazne rizike AI, npr. Algoritamska pristranost i diskriminacija, o tome su javnost sve svjesnija. Socijalno smislena transparentnost daje prioritet potrebama i interesima članova javnosti nad onim programera AI sistema. “
Dodali su da bi vlada trebala raditi na “smanjenju asimetrije za asimeze” oko AI putem mandat registracije sistema, kao i “poticanje diskusije i odlučivanja između vlade i nekomercijalnih trećih strana” o tome što se informacije vezane za Ai javno objavljuju.
Daljnje pismene dokaze iz Michaela Wooldridgea, profesora računarske nauke na Sveučilištu u Oxfordu, takođe su istakli potrebu za povećanje javnog poverenja u vladu Ai, gdje transparentnost može igrati bitnu ulogu.
“Neki su uzbuđeni zbog Ai; Ali još mnogo toga zabrinuto je zbog toga “, rekao je. “Oni su zabrinuti zbog svojih poslova, o njihovoj privatnosti, a mogu se čak i zabrinuti (pogrešno) o egzistencijalnoj prijetnji.
“Međutim, dobro motivirano korištenje AI-a u vladi je, mislim da je vjerovatno da će vladina upotreba AI-ja biti susreta skepticizmom (u najboljem slučaju), a neprijateljstvo i bijes u najgorem slučaju”, rekao je Wooldridge. “Ovi strahovi – međutim, pogrešno postavljeni – treba uzeti ozbiljno, a transparentnost je apsolutno neophodna za izgradnju povjerenja.”
Pročitajte više o umjetnoj inteligenciji, automatizaciji i robotici
-
Može li vladina nova digitalna metla pomestiti državnu službu čistom od otpora na promjene?
Napisao: Bryan Glick
-
Sve, svuda, sve odjednom: automatizirano odlučivanje u javnim uslugama
Napisao: Jasleen Chaggar
-
Glavne prepreke s kojima se suočavaju AI prilika AI prilika
Napisao: Cliff Saran
-
Transparentnost u javnom sektoru AI koristi podloge povjerenja, kaže ministar AI FeerAl Clark
Napisao: Lis Evenstad