Kako CISOS mogu suzbiti prijetnju državnom špijunažom nacije

Rast Deepseeka potaknuo je uobičajenu dobro dokumentovanu zabrinutost oko AI-a, ali je također postavila brige o svojim potencijalnim vezama u kinesku državu. Sigurnosni istraživački rezervoar smatra da koraci lideri sigurnosti mogu preuzeti na supperijske prijetnje koje predstavljaju državnu industrijsku špijunažu nacije?

Elisabeth Mackay, PA Consulting

Objavljeno: 14. marta 2025

Preko 80% globalnih kompanija sada koristi AI za poboljšanje poslovanja. AI je takođe postao značajki svakodnevnog života pojedinaca, jer komuniciramo sa chatbotima, glasovnim pomoćnicima ili prediktivnim tehnologijama pretraživanja. Ali kao AI difuzija raste, tako i rizici povezani sa njegovom zloupotrebom – posebno od strane državnih aktera nacije koji se bave špijunažom, cyber napadima i kompromisu lanca opskrbe.

Nedavni razvoj poput februar AI Action Samit, izvršni poredak predsjednika Trumpa i AIP plana AI u Velikoj Britaniji otkrivaju dvije ključne teme. Prvo, nacionalni interes je u srcu državnih AI strategija, a drugo, AI je postao eksplicitni fokus mnogih nacionalnih strategija odbrane. Stoga nije iznenađuje da se pojava moćnih modela poput Deepseekova R1 obnovio zabrinutost zbog industrijske špijunaže.

Međutim, fokusiranje na određene modele, dobavljače ili države propušta širu točku: AI je već oružje za podršku taktikama cyber napada, uključujući izviđanje i razvoj resursa za ciljne industrije i njihove tajne. Za glavne službe službenike za sigurnost (Cisos) i lideri sigurnosti, postavljeno je pitanje kako AI mijenja pejzaž prijetnji i kako odgovoriti u skladu s tim. Za pokretanje i tehnološko industrije, to je još više pritiska, jer su se nacije-države već pokazane da ciljaju one na vrhu tehnologije. Prilagođavanja ulogama ljudi, procesa i tehnologije u cyber sigurnosti zahtijevaju se strateški odgovoriti na prijetnje AI-om.

AI-proširene cyber operacije

Nacije-državni akteri sve više integriraju Genei u cyber napade kako bi poboljšali efikasnost, automatizaciju i preciznost. Više od 57 naprednih upornih grupa prijetnji (APT) povezane sa državama nacije primijećene su pomoću AI u cyber operacijama. AI može automatizirati istraživanje, prevesti sadržaj, pomoći u kodiranju i razviti zlonamjerni softver za unapređenje cyber operacija.

Jedan od najsvečanijih izazova je upotreba AI-a u izradi visoko uvjerljivih lažnih poruka, povećavajući i tempo i razmjenu cyber-napada. Veliki jezični modeli (LLMS) mogu generirati vrlo raspolobne poruke, ciljane na pojedince i organizacije. Zločinci se rasponimaju vjerojatno, personalizirani AI-generirani videozapisi, audio, audio i slike za poboljšanje kampanje socijalnog inženjerstva. Slučaj arupa, dizajnerskih i inženjerskog firme, koji su izgubili 25 miliona dolara kao rezultat deepfake-co ‘, pokazuje kako ubediti operacije koji podržavaju AI mogu dobiti smisleni pristup kompanijama.

Ranjivosti lanca opskrbe

Iza izravnih Cyberattacks, akteri prijetnje također ciljaju na lance opskrbe AI iz hardvera u softver. Zlobni napad sunčanih sunčanih luka pokazali su kako sofisticirani državni akteri nacije mogu infiltratirati mreže preduzeća ciljajući lance opskrbe. Rizik se proteže i na AI softver. Ugradbenim ranjivostima u fazi proizvodnje ili razvoja, protivnici mogu ciljati širok spektar protivnika, profitiranje iz ekonomije razmjera.

Ranjivosti lanca opskrbe su ključni trend koji dominira cyber sigurnost. Biro za industriju i nedavnu zabranu uvoza uvoza i prodaji hardvera ili softvera za povezana vozila iz određenih nacija ističe se rastuća zabrinutost SAD-a. Zlonamjerni akteri su ciljali Python pakete za LLMS poput ChatGpta i Claude za isporuku zlonamjernog softvera koji mogu berbiti podatke preglednika, snimke zaslona i tokene za sesiju. Oni koji nabavljaju AI sustave i njihove komponente moraju razmotriti i gdje AI dolazi i kako će korisnici s tim komunicirati.

AI Upravljanje i sigurnosni okviri

Za branu protiv ai-proširenih nacionalnih prijetnji, lideri sigurnosti moraju usvojiti niz strategija, uključujući okvire upravljanja AI, ciljanim obukom, robusnim mjerama za zaštitu podataka, procese upravljanja treće strane i proaktivno inteligenciju za upravljanje rizikom i proaktivnoj inteligenciji za prijetnju.

AI Okviri usklađuju s najboljom praksom za upravljanje – poput NIST AI RMF, ISO 42001 i Mitre, Owasp i NCSC za sigurnost – pružiti osnovu strukturiranoj obrani. Uspostavljanjem jasnih uloga i odgovornosti za AI, politike koje definiraju prihvatljivu i neprihvatljivu upotrebu i robusne pristupe praćenju i reviziji, okvir može implementirati odbranu protiv izlaganja osjetljivih podataka.

Uloga ljudi i kulture treba da se promijene kao odgovor na rizike AI. Trening, počevši od AI pismenosti za pokrivanje temeljne svjesnosti AI i njenog utjecaja na sigurnost, može osnažiti osoblje na mjesto, izazov i ublažiti Cyber pretnje. Inventar AI sistema je temeljni dio AI upravljanja. Cisos trebaju znati gdje i kako se AI koristi širom poduzeća, a tehnološke kompanije moraju znati šta i gdje su njihova kritična imovina.

Mjere zaštite podataka

Kontrole pristupa podacima mogu ograničiti sposobnost protivnika za exfiltrate vlasničke tajne. Segmentacija podataka za ograničavanje AI modela od obrade osjetljivih podataka, tehnologijama koji jače privatnosti poput enkripcije i sustava za nadgledanje neovlaštenog gubitka korporativnih podataka čine da će nacije-države izvući vrijednu inteligenciju. Primjena principa zaštite podataka poput minimiziranja, ograničenja namjene i ograničenje skladištenja mogu dalje i sigurnosne i odgovorne AI ciljeve.

Osiguravanje AI lanca snabdevanja

U međuvremenu, upravljanje rizikom lanca opskrbe sprečava infiltraciju kompromitiranih AI alata. Važni koraci uključuju provođenje sigurnosnih procjena za dobavljače treće strane AI, osiguravajući da se AI modeli ne oslanjaju na inozemne apiju koji bi mogli uvesti ranjivost i dokumentirati softverske račune materijala (SBOM) za praćenje ovisnosti i otkrivanje rizika.

Otkrivanje i odziv prijetnje vođenog Ai-a

Konačno, sam AI može biti alat za obranu protiv prijetnji koje se napaja Ai. Otkrivanje anomalije na AI može prepoznati sumnjivo ponašanje ili obrasce za gubitak podataka, raspoređivanjem protivničkog AI za testiranje Enterprise AI sustavi za ranjivosti, povećati praćenje dizalizma generiranja i procjene učinkovitosti kontrole. Kao što su Cyber napadi AI-a ubrzavali izvan mogućnosti ljudskog odgovora, automatizirani nadzor i odbrambeni sustavi potrebni su za sprečavanje iskorištavanja ranjivosti u brzini mašine.

Jasno je da rast prijetnji nacije na zahtjev za napajanje zahtijeva proaktivni i strateški odgovor lidera sigurnosti. Usvajanjem okvira upravljanja AI, provođenjem stroge upravljanja podataka, osiguravajući lance opskrbe i iskorištavanje otkrivanja prijetnji za prijetnju, preduzeća mogu ojačati njihovu odbranu protiv industrijske špijunaže.

Elisabeth Mackay je stručnjak za cyber sigurnosti na PA savjetovanju