Cisos: Ne blokirajte Ai, ali usvojite ga očima širom otvorenim

Uvođenje generativnih AI (GENEI) alata poput ChatGpt-a, Claude i Copilota stvorili su nove mogućnosti za efikasnost i inovaciju – ali i nove rizike. Za organizacije koje već upravljaju osjetljivim podacima, obveze poštivanja i složeni pejzaž prijetnji, od suštinskog je značaja da ne žuri u usvajanje bez promišljenog procjene rizika i poravnanja politike.

Kao i kod svake nove tehnologije, prvi korak bi trebao biti razumijevanje namjeravanih i nenamjenskih upotrebe GENA i procjene obje snage i slabosti. To znači da se odupiru porivu da usvoji AI alate jednostavno zato što su popularni. Rizik treba voziti implementaciju – ne obrnuto.

Organizacije često pretpostavljaju da im trebaju potpuno nove politike za GENAI. U većini slučajeva to nije potrebno. Bolji pristup je proširenje postojećih okvira – poput prihvatljivih politika upotrebe, sheme klasifikacije podataka i ISO 27001-usklađena ISMS dokumentacija – za rješavanje scenarija specifičnih za geneine. Dodavanje slojeva isključene politike mogu zbuniti osoblje i dovesti do umota politike. Umjesto toga, integrirajte genei rizike u alate i postupke zaposleni koji već razumiju.

Glavna slijepa mjesta je ulazna sigurnost. Mnogi se fokusiraju na sigurnost je li AI generirana izlazna formano tačna ili pristrana, ali previdi višeg rizika: šta se osoblje unose u javne LLM-ove. Brzi upita često uključuju osjetljive detalje – interna imena projekata, podaci klijenta, finansijske metrike, čak i vjerodajnice. Ako zaposleni ne bi poslao ove informacije vanjskom izvođaču, ne bi trebali hraniti javno domaćin AI sistemu.

Takođe je presudno razlikovati različite vrste AI-ja. Nisu svi rizici stvoreni jednakim. Rizici korištenja prepoznavanja lica u nadzoru različiti su od pružanja programera za razvoj programera pristup modelu rnaila otvorenog koda. Zajedno zajedno pod jedinstvenom politikom AI-a onemogućava pejzaž rizika i može rezultirati nepotrebnim kontrolama – ili lošijim, slijepim tačkima.

Postoji pet osnovnih rizika da bi timovi Cyber sigurnosti trebali riješiti:

Nenamjerno curenje podataka: Kroz upotrebu javnih GENAI alata ili pogrešno konfiguriranih internih sistema.

Trovanje podacima: Zlonamjerni ulazi koji utiču na modele AI ili interne odluke.

Pretresi u AI izlazu: Pogotovo kada osoblje ne može potvrditi tačnost.

Brzo ubrizgavanje i socijalno inženjerstvo: Iskorištavanje AI sistema za exfiltrate podatke ili manipuliranje korisnicima.

Vakuum politike: Gdje se AI upotreba neformalno događa bez nadzornih ili eskalacijskih staza.

Bavljenje tim rizicima nije samo pitanje tehnologije. To zahtijeva fokus na ljude. Obrazovanje je neophodno. Osoblje mora da shvati šta je GENAI, kako to funkcionira i gdje će vjerovatno poći po zlu. Trening specifičan za ulog – za programere, HR timove, marketing osoblje – može značajno smanjiti zlouporabu i izgraditi kulturu kritičkog mišljenja.

Politike također moraju očistiti prihvatljivu upotrebu jasno. Na primjer, je li u redu koristiti chatgpt za kodiranje pomoći, ali ne i za pisanje komunikacija klijenata? Može li se AI koristiti za sumiranje minuta ploče ili je to izvan granica? Jasne granice uparene sa petljima povratnih informacija – gdje korisnici mogu označiti probleme ili dobiti pojašnjenje – ključni su za tekuću sigurnost.

Konačno, upotreba GEnai mora biti utemeljena na cyber strategiji. Lako se prevrne u AI Hype, ali vođe bi trebali započeti s problemom koji rješavaju – a ne sredstvo. Ako AI ima smisla kao dio tog rješenja, može se sigurno i odgovorno integrirati u postojeće okvire.

Cilj nije blokirati Ai. To je usvojiti otvorenim očima – kroz strukturiranu procjenu rizika, integraciju politike, obrazovanje korisnika i kontinuirano poboljšavanje.

Pročitajte više o upravljanju IT rizikom

• Kodiranje sa GENAI: Kako preduzeća mogu upravljati procesom

  Napisao: Fleur Doidge

• Generativni AI Sigurnosni rizici: Najbolje prakse za preduzeća

  Napisao: Nihad Hassan

• Srednji profesionalci za karijeru moraju naučiti da razumiju i koriste AI kao bilans savjeti GENAI

  Napisao: Karl Flinders

• Kako upravljanje znanjem vođenom geneinom može poboljšati iskustvo kupca

  Napisao: Madeline Bennett