Trebamo li vjerovati Humphreyu da pojačam efikasnost javnog sektora?

Nijedan ministar, Ai ne može popraviti vaše probleme sa podacima

Međutim, postoji lekcija od Da, ministar To i dalje drži – dobronamjenski asistent može zabluditi dok se pojavljuje korisno. To se posebno odnosi na najnoviju generaciju AI alata. Ovi su sustavi samo dobri samo kao i podaci koji ih hrane. Postoje i sve veći dokaz koji se kao njihovo rezonovanje i druge specijalističke sposobnosti poboljšavaju, ovi sustavi teže “halucinirati” više.

Loše kurene skupove podataka mogu dovesti do alata AI za pružanje samouvjerenih, ali besmislenih rezultata, rizik od ozbiljnih implikacija na povjerenje javnosti. Jedan upečatljiv primjer uključen je GPT-3.5 model obučen na 140.000 internih slabaških poruka. Kada se to od vas zatraži da napišem sadržaj, odgovorio je: “Ja ću raditi na tome ujutro.” Umjesto obavljanja zadatka, pametni priključci dodatak je oponašao navike odugovlačenja ugrađenih u njegove podatke o obuci. Izveo je potpuno drugačiju funkciju nego što se predviđalo, koristeći fundamentalno neprikladan skup podataka, iako onaj koji se superficilno pojavi prikladan zbog njegove veličine.

Pored toga što ima prave podatke o treningu, AI zahtijeva pristup dobro uređenim podacima o aktivnostima u AI spremnim, relevantnim podacima. Uprkos bogatstvu otvorenih podataka o platformama poput Data.gov.uk, veći dio nije lako korisno za trening ili fino podešavanje AI sistema. Nedavna analiza Instituta za otvoreni podaci (ODI) otkrila je da ključni javni podaci koje koriste većina AI modela ne čine većinu statističkih i drugih autoritativnih podataka objavljenih na takvim vladinim portalima.

13.556 stranica iz Data.gov.uk koji su ogreboli za uključivanje u popularnu AI skupu podataka kao što je Commonchawl, retko doprinijela odgovarajućim pitanjima građana o javnim službama. Preko 195 Takva građanina pitanja, AI modeli su pravilno referentne podatke.gov.uk statistiku u samo pet slučajeva. Umjesto toga, nacrtali su se na sekundarnim ili nepouzdanim izvorima, poput mjesta društvenih medija ili članka mišljenja ili jednostavno izrađeni odgovori. Ovaj prekid je opasan: Otvara vrata za dezinformacije koje generiraju AI alat koji im je raspoređen.

Razlog za to je da se podaci vlade često ne objavljuju u AI-spremnim formatima, na primjer, nedostajući strojno čitljivi metapodaci ili pristupačni sažeci, koji u suštini pružaju informacije nevidljivim modelima AI. Štaviše, naše razumijevanje koji su izvori koji su omogućili AI-e omogućene da bi trebalo prioritetno trebati prioritet. Uporedite s tehničkim rješenjima koja su prethodni generacija AI alati, poput tradicionalnih pretraživača, uspostavljeni kako bi se osiguralo da pitanja građana o javnim uslugama rangiraju stranice vlade i druge autoritativne izvore veće od sekundarnih informacija. Samo počinjemo na tom putovanju sa generativnim Ai.

Digitalizacija lošeg odlučivanja

Korištenje AI za obradu podataka, istraživačke politike ili pisanje dokumenata zahtijeva razumijevanje kako ove tehnologije rade, podaci na koje se oslanjaju i njihova ograničenja. Ovo je jedini način na koji radnici mogu potvrditi AI-ove rezultate. Međutim, istraživači u Harvard Business School-a otkrili su da dok Ai nudi stvarnu vrijednost, njegove nepredvidive točke neuspjeha čine i prednosti i rizikuju teško za mjerenje, za pojedince, organizacije i vlade podjednako.

Nacionalna strategija podataka, objavljena u prethodnoj konzervativnoj vladi, priznati probleme poput “nedostatka dubine u podatkovnim vještinama na svim nivoima”, te kulturom koji nadvlada rizike zloupotrebe podataka i hroničnog nerazumijevanja podataka “. To se hitno treba promijeniti. Ako državni službenici ne razumiju kako AI djeluje, kako mogu uložiti u pitanje njegove rezultate?

Loše razumijevanje na visokim nivoima ima posebne posljedice. Na primjer, podaci o odsustvu u školi prati podatke o podacima kao što je skupina i pokazatelji ugroženih pozadina, poput djeteta u potrebi status, ali propušta zrnati detalj, kao što su neurodivergen, uprkos dokazima da su vrlo visoki udio djece koji imaju poteškoće sa pohađanjem. Ovo zaslepljuje kreatore politika na činjenicu da su mnogi uporno odsutni učenici autistični, podstičući kaznene odgovore poput roditeljskih novčanih kazni, a ne prilagođenih podrškom. Bolja AI pismenost, podržana zamišljujem samim upotrebom AI alata, može pomoći državnim službenicima da ne samo da razumiju podatke, već nauče da ga ukrštaju.

Druge zemlje već napreduju. Estonija je, na primjer, predstavila Bürokratt, AI Chatbot usmjeren na smanjenje opterećenja državne službe i ubrzanje pružanja usluga. Ali presudno, Estonija ne ulaže samo u alate; To ulaže u obuku svog osoblja. Estonsko Ministarstvo ekonomskih poslova i komunikacija pokrenulo je Digital State Academy, nudeći besplatne tečajeve za digitalno upravljanje, AI i rukovanje podacima državnim službenicima.

Britanija bi trebala uzeti u obzir. Iako je postojalo napore za ugradnju državne službe u Velikoj Britaniji, većina inicijativa se fokusirala na napredne podatkovne vještine, a ne na temeljnu pismenost podataka potrebnu u cijeloj ploči. Pravočini ne trebaju kodirati u Pythonu, ali ako ne mogu uočiti pristranost u skupu podataka ili u pitanje AI-jevu proizvodnju, tada neće donijeti količinu automatizacije. Samo će sakriti loše iza elegantnog digitalnog sučelja.

Pojednostavanje “škripavog stare birokratske mašine”

1980. godine, ministar Jim Hacker optimistično je proglašen da, ministru “, preseći ćemo kroz svu crvenu vrpcu, pojednostavljujemo ovu škripanje stare birokratske mašine”. Preko četrdeset godina kasnije, vlada nada da AI konačno može ispuniti to obećanje – i voziti široki ekonomski rast na putu. Samo u javnom sektoru, ministar tehnologije Peter Kyle procjenjuje “Jackpot od 45 funti” za javni sektor ako državna služba uspješno usvoji Ai. Da biste otključali da, investicija je potrebna, ne samo u alatima poput Humphreya, već u treningu i infrastrukturi za podršku njihovoj upotrebi.

ODI poziva na 10-godišnju nacionalnu infrastrukturu za infrastrukturu za obavljanje upravo to. Ovaj plan puta podnio bi akcioni plan AI mogućnosti fokusirajući se na tri stupa – interoperabilnost, ai-spremne podatke i tehnologije začuvanje privatnosti. Iako plan postavlja snažan smjer, nedostaje mu detaljnosti o tome kako će se standardi postaviti i nadgledati i kako će se financirati tehnička infrastruktura podataka.

Transparentnost O povodnci i lozi podataka koji se koriste za obuku i rukovanje AI u javnim uslugama je kritično. Bez njega ne možemo preispitivati kako AI utječe na odluke koje utiču na naše živote. Za izgradnju javnog povjerenja, moramo istražiti sudjelovanje ključnih skupova ključnih skupova kako bi narod najviše pogođen algoritmima javnog sektora mogu pomoći oblikovanju načina na koji se koriste njihovi podaci.

Tu su okviri poput ODI-ovog novog okvira za podatke AI-e-spremne su vitalni. Podešava četiri osnovna principa za pripremu skupova podataka za efikasnu i etičku upotrebu u AI: tehnička optimizacija, kvalitet podataka i standardi, pravna usklađenost i odgovorna prikupljanje. Nadilazi opće principe poput fer (othvatan, pristupačan, interoperabilan i višekratni), ukazuje na praktične korake koje ne-specijalističke izdavače podataka mogu slijediti kako bi se osiguralo da podaci nisu samo strojni, ali smisleni, zakonito i pravedno.

Da biste iskoristili podatke za javno dobro, moramo dugoročno razmišljati, izgraditi čvrste podatke, a prije svega, budno ostanite budni u vezi s rizicima digitalizacije disfunkcije. Inače, najmoćniji novi državni službenik u Whitehall-u neće biti čovjek, bit će AI zvan Humphrey. I poput njenog imenake, on će se pojaviti beskrajno korisno, dok suptilno oblikovamo ishode koji odgovaraju podacima koji su obučeni. Državni službenici Rizikuju postaju moderni Jim hakeri, pokušavajući hrabro da pojednostave škripanje stare mašine, a mirno je nadmašio njihov novi digitalni kolega.

Elena Simpl je direktorica istraživanja na ODI.