Umjetna inteligencija (AI) i AI agenti su naizgled posvuda. Bilo da se radi o konferencijskim emisijama ili televizijskim reklamama sa slavnim ličnostima, dobavljači žele da pokažu tehnologiju, za koju nam kažu da će nam olakšati svakodnevni život. Ali šta je zapravo AI agent?
U osnovi, AI agenti – poznati i kao agentski AI modeli – su generativni AI (GenAI) i modeli velikih jezika (LLM) koji se koriste za automatizaciju zadataka i tokova posla.
Na primjer, trebate rezervirati sobu za sastanak u određenom uredu u određeno vrijeme za određeni broj ljudi? Jednostavno zamolite agenta da to učini i on će djelovati, planirati i izvršiti u vaše ime, identificirajući odgovarajuću prostoriju i vrijeme, a zatim će poslati kalendarsku pozivnicu vašim kolegama u vaše ime.
Ili možda rezervirate odmor. Možete detaljno navesti kuda želite ići, kako želite tamo stići, dodati sve posebne zahtjeve i zatražiti od AI agenta prijedloge koje će propisno ispitati, raščlaniti i detaljnije u nekoliko sekundi – štedeći vam vrijeme i trud.
„Bićemo veoma ovisni o AI agentima u bliskoj budućnosti – svi će imati agenta za različite stvari“, kaže Etay Maor, glavni bezbednosni strateg u kompaniji za mrežnu bezbednost Cato Networks. “To je super zgodno i videćemo ovo posvuda.
„Druga strana toga je da će napadači takođe ozbiljno istražiti to“, dodaje on.
Nepredviđene posljedice
Kada se pojavi nova tehnologija, čak i ako je razvijena u najboljoj namjeri, gotovo je neizbježno da će kriminalci pokušati da je iskoriste.
Vidjeli smo to s porastom interneta i sajber prijevara, vidjeli smo to s prelaskom na hibridni rad baziran na oblaku, a vidjeli smo i s porastom AI i LLM-a, na koje su sajber kriminalci brzo skočili da napišu uvjerljivije phishing e-poruke. Sada, sajber kriminalci istražuju kako da naoružaju AI agente i autonomne sisteme.
“Oni žele da generišu eksploatacije”, kaže Yuval Zacharia, koji je donedavno bio direktor istraživanja i razvoja u firmi za sajber bezbednost Hunters, a sada je suosnivač u startupu u stealth modu. “To je složena misija koja uključuje analizu koda i obrnuti inženjering koji trebate učiniti da biste razumjeli bazu koda, a zatim je iskoristili. A to je upravo zadatak u kojem je agentska AI dobra – možete podijeliti složen problem na različite komponente, od kojih svaka ima specifične alate za njegovo izvršavanje.”
Konsultantska kuća za cyber sigurnost Reversec objavila je širok spektar istraživanja o tome kako zlonamjerni hakeri mogu iskoristiti GenAI i AI agente, često koristeći prednosti nove tehnologije, što znači da sigurnosne mjere možda nisu u potpunosti na snazi – posebno ako oni koji razvijaju AI alate žele osigurati da njihov proizvod bude objavljen prije konkurencije.
Na primjer, napadači mogu iskoristiti ranjivosti brze injekcije kako bi oteli agente pretraživača s ciljem krađe podataka ili drugih neovlaštenih radnji. Ili, alternativno, Reversec je pokazao kako se AI agentom može manipulirati kroz napade brze injekcije kako bi se podstakli rezultati da uključuju phishing veze, društveni inženjering i druge načine krađe informacija.
“Napadači mogu koristiti jailbreaking ili napade brze injekcije,” kaže Donato Capitella, glavni konsultant za sigurnost u Reversec-u. „Sada dajte LLM agenciji – odjednom ovo nisu samo generički napadi, već može djelovati u vaše ime: može čitati i slati e-poštu, može obavljati video pozive.
“Napadač vam šalje e-poštu, i ako LLM čita dijelove tog poštanskog sandučeta, odjednom, e-mail sadrži upute koje zbunjuju LLM, a sada će LLM ukrasti informacije i poslati informacije napadaču.”
Agentska AI je dizajnirana da pomogne korisnicima, ali kako AI agenti postaju sve češći i sofisticiraniji, to će također otvoriti vrata napadačima koji žele da ih iskoriste za pomoć u svojim vlastitim ciljevima – posebno ako legitimni alati nisu ispravno osigurani.
„Ako sam ja kriminalac i znam da koristite AI agenta koji vam pomaže u upravljanju datotekama na vašoj mreži, za mene je to put do mreže za implementaciju ransomware-a,“ kaže Maor. “Možda ćete imati AI agenta koji vam može ostavljati glasovne poruke: Vaš glas? Sada je to prevara identiteta. Emailovi su napadi kompromitacije poslovne e-pošte (BEC).
„Činjenica je da će mnogi od ovih agenata imati puno sposobnosti sa stvarima koje mogu da rade, a ne previše zaštitnih ograda, tako da će se kriminalci fokusirati na to“, upozorava on, dodajući da „postoji kontinuirano snižavanje granice onoga što je potrebno da se rade loše stvari“.
Borba protiv agentske AI pomoću agentske AI
Na kraju krajeva, to znači da su agentički napadi bazirani na umjetnoj inteligenciji nešto drugo što glavni službenici za informacijsku sigurnost (CISO) i timovi za cyber sigurnost moraju razmotriti pored svakog drugog izazova s kojim se trenutno suočavaju. Možda je jedan od odgovora na ovo da i branitelji iskoriste prednosti automatizacije koju pružaju AI agenti.
Zacharia vjeruje da je tako – čak je napravila agentski alat za lov na prijetnje pokretan umjetnom inteligencijom u svoje slobodno vrijeme.
„Radilo se o sporednom projektu koji sam radila u slobodno vreme vikendom – zaista sam štreber,“ kaže ona. “Radilo se o istraživanju svijeta AI agenata jer sam mislio da je to kul.”
Sajber napadi se stalno razvijaju, a brz odgovor na prijetnje u nastajanju može biti nevjerovatno težak, posebno u području u kojem bi se AI agenti mogli zlonamjerno rasporediti kako bi masovno otkrili nove eksploatacije. To znači da prepoznavanje sigurnosnih prijetnji, a kamoli procjena uticaja i primjena ublažavanja može potrajati mnogo vremena – posebno ako osoblje za sajber sigurnost to radi ručno.
„Ono što sam pokušavao da uradim je da automatizujem ovo pomoću AI agenata“, kaže Zacharia. “Arhitektura izgrađena na vrhu više AI agenata ima za cilj identificirati nove prijetnje i odrediti prioritete u skladu s poslovnim kontekstom, obogaćivanjem podataka i stvarima do kojih vam je stalo, a zatim kreiraju upite za traženje i održivost koji će vam pomoći da ih pretvorite u djelotvorne uvide.”
To obogaćivanje podataka dolazi iz više izvora. Oni uključuju trendove na društvenim mrežama, CVE-ove, obavijesti o zakrpi u utorak, CISA upozorenja i druge savjete o zlonamjernom softveru.
AI daje prioritet ovim informacijama prema ozbiljnosti, pri čemu AI agenti djeluju na osnovu tih informacija kako bi pomogli u izvršavanju zadataka – na primjer, preuzimanjem kritičnih sigurnosnih ažuriranja – dok također pomažu u oslobađanju dijela tereta preopterećenog osoblja za sajber sigurnost.
„Timovi za sajber bezbednost imaju mnogo toga u svojim rukama, mnogo stvari koje treba da urade“, kaže Zacharia. “Preplavljeni su upozorenjima koja stalno dobijaju od svih sigurnosnih alata koje imaju. To znači da je lov na prijetnje općenito, posebno za hitne prijetnje, uvijek drugi prioritet.”
Ona ukazuje na incidente kao što je Log4j, kritična ranjivost nultog dana u široko korišćenom softveru koju su sofisticirani akteri pretnji skoro odmah iskoristili nakon otkrivanja.
„Zamislite koliku štetu ovo može prouzrokovati vašoj organizaciji ako ih ne pronađete na vrijeme,“ kaže Zacharia. „I to je upravo poenta“, dodaje ona, govoreći o tome kako agentska AI može pomoći da se brzo identifikuju i otklone propuste i problemi u sajber bezbednosti.
Racionalizacija SOC-a pomoću agentske AI
Zacharia nije usamljen u uvjerenju da bi agentska AI mogla biti od velike koristi timovima za sajber sigurnost.
“Zamislite SOC [security operations centre] analitičara koji sjedi ispred incidenta i on ili ona moraju početi da ga istražuju”, kaže Maor. “Počinju s pregledom tehničkih podataka, da vide jesu li vidjeli nešto slično u prošlosti.”
Ono što on opisuje je važan – ali dugotrajan – posao koji analitičari SOC-a rade svakodnevno. Maor vjeruje da dodavanje agentskih AI alata u proces može pojednostaviti njihov rad, na kraju ih učiniti efikasnijim u otkrivanju sajber prijetnji.
“Model AI može ispitati incident, a zatim detaljno iznijeti slične incidente, što odmah sugerira da je potrebna istraga”, kaže on. “Postoji i prediktivni model koji analitičaru govori šta ne treba da istražuje. Ovo smanjuje naporan rad koji treba obaviti – ponekad satima, ponekad danima – da bi se došlo do nečega vrijednog, što je lijepo.”
Ali iako može pružiti podršku, važno je napomenuti da agentska umjetna inteligencija nije srebrni metak koji će eliminirati prijetnje sajber sigurnosti. Da, dizajniran je da zadatak nadgledanja obaveštajnih podataka o pretnjama ili primene bezbednosnih ažuriranja učini lakšim i efikasnijim, ali ljudi su i dalje ključni za bezbednost informacija. Ljudi su potrebni za rad u SOC-ima, a osoblje za informatičku sigurnost i dalje je potrebno da pomogne zaposlenima u ostatku organizacije da ostanu budni i sigurni na sajber prijetnje.
Pogotovo jer AI nastavlja da se razvija i poboljšava, a napadači će i dalje nastojati da je iskoriste – a na braniocima je da im se suprotstave.
„To je situacija mačke i miša“, kaže Zacharia. “Obe strane usvajaju veštačku inteligenciju. Ali kao napadaču, potreban vam je samo jedan način da se ušunjate. Kao defanzivac, morate da zaštitite ceo zamak. Napadači će uvek imati prednost, to je igra koju igramo. Ali mislim da su obe strane sve bolje i bolje.”