RSAC premotavanje: Agentic AI, praznine upravljanja i prijetnje insajderima

Usvajanje u punom puhanju AI u cyber sigurnosti, bilo da smo spremni za to ili ne

Nezvanično smo prelazili iz faze dokaza o agresivnoj implementaciji. U stvari, 90% organizacije trenutno trenutno usvaja generativno AI za sigurnost ili planira da to učini, prema istraživanju iz Saveza za sigurnost u oblaku (CSA). Velika većina profesionalaca IT-a i sigurnosti smatraju da ove tehnologije mogu poboljšati svoje skupove vještina i podržavati svoje uloge, a istovremeno ih oslobađati za više nagrađivanih zadataka.

Na flip boj, cyber zločinci također čine obilnu upotrebu ove ikad razvijajuće inovacije – do točke u kojem se zlonamjerno sredstvo za poboljšanje AI-a čini vrhunskim rizikom za vođe preduzeća, navodi Gartner. Ovo postavlja moderni špijunski sky vs špijunski scenarij u kojem su se dobri momci i loši momci biraju u tehnološkoj trci, a ulozi su sve veći i nesigurni potencijal za oslobođeni, štetni AI veću vjerovatniji.

Izraz “agentic AI”, na primjer, namijenjen je velikim umama mnogih polaznika konferencije. Jednostavno definirano, ovo se odnosi na AI sustave koji djeluju autonomno da vode ciljeve i rješavaju probleme bez stalnog ljudskog smjernica ili nadzora. Međutim, teško je utvrditi da li koncept signalizira istinska inovacija ili samo prepakirani marketing govore.

Za sada bi se lideri sigurnosti trebali fokusirati na korisnike i tražiti u kojoj mjeri sudjeluju u sjeni Ai i kako implementiraju AI aplikacije? U našim istraživanjima, otkrili smo da se najistartira upotreba AI (Genei) u preduzeću (72%) trenutno pripisuje u sjeni.

Znamo da će Ai ostaviti sam da će se brzo preći u smjeru bilo kojeg i svih oblika upotrebe. Već počinje ličiti na brzo širenje univerzuma u oblaku usvajanjem godina prošlosti. Transformacija na ovaj nivo AI sveprisutne potreban zahtijeva dublja pitanja – i odgovore – o integraciji, odgovornosti i upravljanju. Što nas dovodi do naše sljedeće tačke konferencije.

Praznine u preduzeću AI Uprave

Prečesto, odbori za upravljanje AI usko su fiksirani na zabrinutosti privatnosti i sigurnosti, a ne širi razmatranja poput pravne odgovornosti, izdavanje licenciranja, troškova i tehnologije preklapaju racionalizaciju i odgovarajuću upotrebu. Kao rezultat toga, organizacije odobravaju AI alate bez provođenja potpunih procjena rizika, uključujući intelektualne i treće strane rizike kao što su doprinosi za kodove.

Za sada se čini da lideri daju prioritete sigurnu operaciju koristeći lokalne modele, izravna blokovima, reakcija i otkrivanje incidenta, zajedno s drugim slučajevima kratkotrajne upotrebe. Ali oni moraju prebaciti iz ovog pristupa stanju šireg, ai planiranja usmjerenih na preduzeće koje se vode strateškim, organizacijskim ciljevima, a ne samo funkcionalno izvršenje.

Proliferiranje insajderskih prijetnji

Te su prijetnje, naravno, starije od samo cyber sigurnosti. Razmislite o pronevjeru za zaposleniku finansija u 1950-ima, ili fabrički radnika koji su prikriveno kliznuli svojstvo kompanije u džepu. Bilo je dosta na licu mjesta u vezi s raširenim prevarama u kojem su vrhunske firme u SAD-u prevarene u zapošljavanje udaljenih IT radnika koji su slučajevi za cyber operativce na sjevernom korejskom.

To govori o potrebi za bliže usklađivanjem među HR, pravnim i sigurnosnim timovima za otkrivanje kovanih radnih dokumenata i eliminirati ranjivost na zapošljavanju. Nažalost, nema dovoljno tekućih razgovora o ovim prijetnjama u nastajanju, s HR, pravnim i sigurnosnim timovima veće će sarađivati ​​o zahtjevima za usklađenosti i reaktivne istrage incidenata nakon činjenica.

Kroz svoje postojanje, RSAC konferencija odražavala je sadašnje stanje cyber sigurnosti, sa udarnim trendovima i izazovima koji se prenose usred kakofonije kabina, prezentacija, demonstracija i razgovora. Ova najnovija konferencija nije se pokazala izuzecima, posebno kada je u pitanju novi obrasci u AI i insajderima prijetnje.

To je rečeno, nastala je dosljedna nit tokom godina: potreba za proaktivnom odgovornošću, vodstvom i upravljanjem.

S tim, lideri sigurnosti neće u potpunosti ublažiti štetne ishode AI ili zlostavljača insajdera. Ali oni će poduzeti velike korake u sadrže ih. Nadamo se za nekoliko mjeseci, kad stignemo u crni šešir, razgovarat ćemo više o tome kako organizacije sada mogu dosljednije i uspješno učiniti.

James Robinson je glavni službenik za informacije o sigurnosti na sigurnom pristupu uslužnom ivici (SASE) i specijalistiku Nula-Trust NetSkope.