Zaštita podataka i AI: Šta znati o novom Cyber ​​standardu u Velikoj Britaniji

U značajnom potezu pozicioniranju Velike Britanije na čelu odgovorne AI usvajanja, vlada je uvela ono što naziva “Prvi svjetski” AI-a fokusiran na cyber sigurnosni kodeks prakse. Objavljeno 31. januara 2025. godine, Kodeks prakse za Cyber ​​Sigurnost AI predstavlja ključni korak u stvaranju sigurnog okruženja za AI inovacije, a za zaštitu digitalne infrastrukture od prijetnji u nastajanju.

Ova inicijativa dolazi u kritičnom trenutku u razvoju AI. Sa polovicom britanskih preduzeća koji imaju Cyberattacks u prošlogodišnjim i AI sistemima sve više ugrađene u kritične operacije, uspostavljanje robusnih sigurnosnih okvira postalo je ključno za održavanje povjerenja u ove transformativne tehnologije.

Okvir izgrađen za AI eru

Navodno je kodeks poduprijeti 13 načela razvoja softvera za programere koji će pratiti cijeli život AI sistem – od sigurnog dizajna i razvoja za raspolaganje, održavanje i eventualno odlaganje. Za razliku od općih sigurnosnih standarda softvera, ovaj kôd posebno se bavi jedinstvenim AI ranjivostima, uključujući trovanje podataka, model za ublažavanje i indirektno ubrizgavanje.

Iako usklađenost ostaje dobrovoljna, okvir uspostavlja jasnu hijerarhiju odredbi kategoriziranih prema potrebi, preporučuje se ili moguća. Ovaj sloj prilaz nudi fleksibilnost za organizacije u različitim fazama zrelosti AI-a, dok se uspostavljaju osnovne sigurnosne mjere koje moraju provesti oni koji biraju u skladu.

Kodeks će služiti kao temelj za novi globalni standard kroz evropske institute za telekomunikacijske standarde (ETSI), potencijalno proširivši utjecaj u Velikoj Britaniji u međunarodnom upravljanju AI.

Hitna potreba: AI podaci o curenju krize

Nedavna istraživanja ističe zašto ovaj standard ne stiže unapred na trenutak. Prema podacima o zaštiti podataka Harmonic-a Q4 2024 Izvještaj o curenju podataka AI, otprilike 8,5% zaposlenika traži popularnim AI alatima sadrže osjetljive informacije. To stvara značajnu sigurnost, usklađenost i pravne ranjivosti za organizacije.

Istraživanje je pronašlo podatke o klijentima koji su smatrali 45% osjetljivih podataka podijeljenih, nakon čega slijede podaci zaposlenih (26%) i pravne i financijske informacije (15%). Većina za stručnjake za sigurnost, gotovo 7% osjetljivih upita sadržane su informacije vezane za sigurnost, uključujući prodorne rezultate, mrežne konfiguracije i incidentne izvještaje – u suštini pružajući potencijalne napadače sa nacrtima za eksploataciju.

Problem je pogoršan širokom upotrebom besplatnih AI alata. Izvještaj je pronašao 64% korisnika chatgpt-a oslanjao se na slobodni nivo, sa 54% osjetljivih uputstava uđenih tamo. Bez zaštitne kontrole preduzeća i uz pojmove koji obično omogućavaju obuku o upitima korisnika, ovi besplatni alati predstavljaju značajne vektore za gubitak podataka.

UK-ov strateški AI pristup

Pristup u Velikoj Britaniji znatno konstruira s više propisivavog AI-a Europske unije. Umjesto sveobuhvatnog zakonodavstva, Velika Britanija se odlučila za načelo zasnovan, međusektorski okvir koji primjenjuje postojeće tehnološke propise u AI. To odražava vladinu procjenu da, dok će zakonodavna akcija u konačnici biti potrebna, posebno u pogledu sistema AI opće namjene, djelujući sada bi bilo preuranjeno.

Ovaj pristup se usklađuje sa širom Velike Britanije AI strategije izložene u akcionom planu AI mogućnosti, koji naglašava pro-inovacijsko regulatorno okruženje namijenjeno privlačenju tehnološkog ulaganja prilikom rješavanja suštinskih sigurnosti.

Ekonomski uticaj

Standard podržava ambiciju Velike Britanije da postane globalni lider Ai. Sektor trenutno sastoji od preko 3.100 kompanija kompanije koje koriste više od 50.000 ljudi i doprinosi 3,7 milijardi funti u ekonomiju. Nedavno pokrenute AI Mogućnosti AIP-a za cilj je povećati ove brojke, potencijalno dodajući 47 milijardi funti godišnje povećanjem produktivnosti do 1,5% svake godine.

Slično tome, AI tržište uvjerenja – osiguravanje AI sistema rade kako je predviđeno – predviđa se da će rasti šest puta do 2035. godine, potencijalno otključavanje više od 6,5 milijardi funti vrijednosti u vrijednosti.

Praktična implementacija

Za poslovanje koje žele implementirati standard, Vlada je objavila sveobuhvatan vodič za implementaciju. Pomaganje organizacijama utvrđuju koji zahtevi se odnose na različite vrste AI sistema i pruža praktične korake za postizanje usklađenosti. Vodič naglašava kritičnu važnost naprednih prolazaka za praćenje upravljanja i AI podataka kako bi se spriječilo osjetljivo izlaganje informacija javnim genainskim modelima. Nužnost naglašena nedavnim incidentima istjecanja podataka. Takve kontrole trebale bi pratiti sve AI interakcije od zaposlenih, izvođača, i trećih lica koji bi mogli nenamjerno dijeliti vlasničke informacije.

Nedavno pokrenuta platforma za osiguranje AI nudi i konsolidovanu destinaciju za informacije o upravljanju rizicima vezanim za AI, s alatima za provođenje procjena utjecaja, ocjenjivanja i pregled podataka za potencijalne pristranosti. Platforma podržava provedbu rješenja za praćenje u stvarnom vremenu koja mogu otkriti i blokirati osjetljive podatke prije nego što dostigne javne LLM-ove. Umjesto da jednostavno blokira pristup AI alatima, kôd potiče organizacije za uspostavljanje sigurnih kanala za upotrebu AI koji održavaju vidljivost i kontrolu nad tokovima podataka, a još uvijek omogućava produktivnoj dobicima iz ovih moćnih tehnologija.

Veseliti se

Po mom mišljenju, novi AI standardi predstavljaju uravnoteženi pristup njegovanju inovacija dok se bavi sigurnosnim problemima. Pružajući okvire koji su i sveobuhvatni i fleksibilni, ove inicijative imaju za cilj da izgrade povjerenje u AI sisteme i otključavaju potencijalne ekonomske koristi.

Kako AI nastavlja svoju brzu evoluciju, strateški pristup favoriziraju smjernice i principe zbog krutog zakonodavstva nudi tvrtke Prilagodljivost potrebna za inovaciju odgovorno. Uspjeh ovih standarda na kraju će ovisiti o njihovom usvajanju po sektorima i koliko se efikasno razvijaju za rješavanjem izazova u nastajanju u sve složenom AI pejzažu.

John Lynch je direktor razvoja tržišta Velike Britanije u Kiteworks-u.

Pročitajte više o zaštiti privatnosti i podataka

• Zašto Velika Britanija mora dovesti do podataka za otključavanje punog potencijala AI-a

• Javni oblak: suverenitet i sigurnost podataka u Velikoj Britaniji

  Napisao: Marc Ambasna-Jones

• Vlada Velike Britanije dodaje datacentru u CNI režim: Zašto je to trebalo toliko vremena?

  Napisao: Caroline Donnelly

• Samit AI Seul: 16 AI firme čine dobrovoljne sigurnosne obaveze

  Napisao: Sebastian Klovig Skelton