Od povjerenja do turbulencije: Cyber ​​put naprijed u 2026

Perimetar je nebitan – povjerenje je vektor prijetnje

Organizacije su otkrile da napadači iskorištavaju pretpostavke jednako efikasno kao i ranjivosti jednostavnim pozajmljivanjem signala povjerenja koje su sigurnosni timovi previdjeli. Uklopili su se u okruženja koristeći standardne alate za razvojne programere, usluge zasnovane na oblaku i potpisane binarne datoteke koje nikada nisu bile dizajnirane uz jaku telemetriju ili kontrolu ponašanja.

Brzi rast AI u poslovnim tokovima preduzeća je takođe bio faktor koji je doprineo. Od generisanja koda i automatizacije operacija do poslovne analitike i korisničke podrške, AI sistemi su počeli da donose odluke koje su ranije donosili ljudi. Ovo je uvelo novu kategoriju rizika: automatizaciju koja nasljeđuje povjerenje bez validacije. Rezultat? Nova klasa incidenata u kojima napadi nisu bili glasni ili očigledno zlonamjerni, već su bili povezani sa legitimnom aktivnošću, primoravajući branioce da preispitaju koji su signali važni, koja telemetrija nedostaje i koja ponašanja treba smatrati osjetljivim čak i ako potiču iz pouzdanih puteva.

Identitet i autonomija su bili u centru pažnje

Identitet također definira modernu površinu napada osim sigurnosnih ranjivosti. Kako sve više usluga, aplikacija, AI agenata i uređaja radi autonomno, napadači sve više ciljaju na sisteme identiteta i odnose povjerenja između komponenti. Kada je napadač imao pouzdan identitet, mogao bi se kretati uz minimalno trenje, proširujući značenje eskalacije privilegija. Eskalacija se nije odnosila samo na dobijanje viših sistemskih dozvola; radilo se i o iskorištavanju identiteta u koji drugi prirodno vjeruju. S obzirom na napade usmjerene na identitete, branioci su shvatili da se nepovjerenje po defaultu sada mora odnositi ne samo na mrežni promet već i na tokove posla, automatizaciju i odluke koje donose autonomni sistemi.

AI i kao električni alat i kao tačka pritiska

AI je djelovao kao defanzivni akcelerator i nova granica rizika. Generisanje kodova zasnovano na veštačkoj inteligenciji ubrzalo je razvoj, ali je uvelo i logičke nedostatke kada su modeli popunjavali praznine na osnovu nepotpunih uputstava. Napadi potpomognuti umjetnom inteligencijom postali su prilagođeniji i skalabilniji, što je otežalo otkrivanje kampanja za krađu identiteta i prevare. Ipak, lekcija nije bila da je AI sama po sebi nesigurna; bilo je da AI pojačava sve kontrole (ili nedostatak kontrola) koje ga okružuju. Bez provjere valjanosti, sadržaj generiran umjetnom inteligencijom može dovesti u zabludu. Bez zaštitnih ograda, AI agenti mogu donositi rizične odluke. Bez vidljivosti, automatizacija vođena umjetnom inteligencijom može se pretvoriti u nenamjerno ponašanje. Ovo naglašava da se sigurnost AI više odnosi na cijeli ekosistem, uključujući LLM, GenAI aplikacije i usluge, AI agente i osnovnu infrastrukturu.

Pomak ka autonomiji upravljanja

Kako se organizacije povećavaju oslanjanje na AI agente, okvire za automatizaciju i sisteme identiteta koji su izvorni u oblaku, sigurnost će preći sa krpljenja nedostataka na kontrolu puteva donošenja odluka. Videćemo sledeće odbrambene strategije na delu:

• AI sigurnost kontrolnog aviona: Sigurnosni timovi će uspostaviti upravljačke slojeve oko tokova rada AI agenta, osiguravajući da je svaka automatizirana radnja autentificirana, ovlaštena, promatrana i reverzibilna. Fokus će se proširiti sa čuvanja podataka na čuvanje ponašanja.
• Zaštita od odstupanja podataka: Agenti veštačke inteligencije i automatizovani sistemi će sve više pomerati, transformisati i replicirati osetljive podatke, stvarajući rizik od tihog širenja podataka, skupova podataka u senci i nenamernih pristupnih puteva. Bez snažnog praćenja porijekla podataka i stroge kontrole pristupa, osjetljive informacije mogu odlutati izvan odobrenih granica, što dovodi do novih rizika privatnosti, usklađenosti i izloženosti.

• Provjera povjerenja na svim nivoima: Očekujte široko usvajanje „arhitektura minimiziranog povjerenja“, gdje se identiteti, AI izlazi i automatizirane odluke kontinuirano provjeravaju, a ne implicitno prihvataju.
• Nulto povjerenje kao obaveza usklađenosti: ZTA će postati regulatorni zahtjev za kritične sektore, pri čemu će se rukovodioci suočiti sa povećanom ličnom odgovornošću za značajna kršenja vezana za lošu sigurnost.

• Osnove ponašanja za AI i automatizaciju: Baš kao što je analitika ponašanja korisnika sazrela za ljudske naloge, analitika će se razvijati kako bi uspostavila očekivane obrasce za botove, usluge i autonomne agente.

• Secure-by-design identitet: Identitetske platforme će dati prioritet snažnom upravljanju životnim ciklusom za ne-ljudske identitete, ograničavajući štetu kada automatizacija pođe po zlu ili bude oteta.

• Detekcija zasnovana na namjeri: Budući da će mnogi napadi nastaviti da iskorištavaju legitimne alate, sistemi za otkrivanje će sve više analizirati zašto se neka radnja dogodila, a ne samo šta se dogodilo.

Ako nas je 2025. naučila da se povjerenje može koristiti oružjem, onda će nas 2026. naučiti kako obnoviti povjerenje na sigurniji i promišljeniji način. Budućnost sajber sigurnosti nije samo osiguranje sistema, već i osiguranje logike, identiteta i autonomije koji ih pokreću.

Aditya K Sood je potpredsjednik sigurnosnog inženjeringa i strategije umjetne inteligencije u Aryaki.