Tvrdnje AI su jeftine: izazov je otkriti šta je stvarno

Sigurnosni alati sa umjetnom inteligencijom su već popularni, a 2026. će samo pojačati buku. Očekujte više tvrdnji koje je oprala umjetna inteligencija, veća obećanja i rastući strah, neizvjesnost i sumnje (FUD). Prava vještina bit će odvajanje prave sposobnosti od pametnog pakovanja.

AI u sigurnosti više nije futuristički dodatak. Već je ugrađen u alate koje mnoge organizacije svakodnevno koriste: sigurnost e-pošte, otkrivanje krajnjih tačaka, SIEM/SOAR, zaštita identiteta, prevencija gubitka podataka, upravljanje ranjivostima i upravljane usluge. Prodavci se godinama oslanjaju na mašinsko učenje; generativna umjetna inteligencija (GenAI) je jednostavno najnovija etiketa zalijepljena na prednjoj strani.

Ono što se mijenja 2026. je priča koja se prodaje. Odbori se raspituju o AI. Timovi za nabavku dodaju klauzule AI. CISO su pod pritiskom da se vidi da „učine nešto sa AI“. To stvara plodno tlo za marketing: više webinara, više bijelih papira, hrabrije tvrdnje i novi val reklama „mi možemo automatizirati vaše SOC“.

Uz to dolazi i poznati FUD ciklus: napadači koriste AI, tako da ako ne kupite našu AI, vi ste iza. Postoji zrnce istine – napadači koriste automatizaciju i sve će više koristiti umjetnu inteligenciju – ali se često koristi da požuri kupce na alate koji nisu dokazali da smanjuju rizik u tvoj okruženje. To je ista prodajna knjiga kao i uvijek, samo nosite AI jaknu.

Korisniji način da se ovo uokviri je jednostavan: 2026. ne odlučujete da li ćete usvojiti AI u oblasti bezbednosti; odlučujete da li su AI karakteristike određenog proizvoda dovoljno zrele da vam pomognu bez uvođenja novog rizika. Neke AI karakteristike istinski štede vrijeme analitičara ili poboljšavaju otkrivanje. Drugi su nešto više od chat robota pričvršćenih na kontrolne ploče.

Dakle, prvi zaključak je oznaka upozorenja: tvrdnje AI su jeftine. Teži dio je utvrditi šta je stvarno i mjerljivo u odnosu na ono što je uglavnom brendiranje – i osigurati da žurba da izgledate moderno ne stvara tiho nove probleme u upravljanju. To može uključivati ​​curenje podataka, rizik modela, nedostatke u reviziji, zaključavanje dobavljača ili, u odbrambenim i CNI okruženjima, nove oblike operativne krhkosti.

Počnite s ishodima i modelom prijetnji, a ne karakteristikama. Usmjerite odluke na svoje najveće rizike – zloupotrebu identiteta, ransomware, eksfiltraciju podataka, izloženost trećih strana ili ograničenja OT/CNI – i kontrole koje zaista trebate poboljšati.

To vodi do drugog principa: ne kupujte AI sajber alat jer zvuči pametno. Kupite nešto jer to rješava stvarni problem koji već imate.

Većina organizacija ima mali broj bolnih tačaka koje se ponavljaju: preopterećenje upozorenja, spore istrage, zaostale ranjivosti, slaba vidljivost imovine izložene internetu, veze sa dobavljačima koje ne razumiju u potpunosti, širenje identiteta ili praznine u evidenciji. Ako počnete sa „trebamo AI proizvod“, ocjenjivat ćete dobavljače na osnovu demonstracija i popularnih riječi. Ako počnete s „trebamo smanjiti preuzimanje računa“ ili „trebamo prepoloviti vrijeme istrage“, možete procijeniti alate o tome da li daju taj ishod.

To je ono što modeliranje prijetnji znači jednostavno: od čega se zapravo pokušavate braniti, u tvoj okruženje? Banka će dati prioritet prevari identiteta, insajderskom riziku i regulatornim dokazima. Dobavljač odbrane može se fokusirati na krađu IP-a i kompromis u lancu nabavke. CNI operater može tretirati dostupnost i sigurnost kao apsolutna ograničenja, s malo tolerancije za automatizaciju koja bi mogla poremetiti operacije. Isti AI alat može biti dobar u jednom kontekstu, a opasan u drugom.

Praktično, zapišite svoje najveće rizike i nekoliko poboljšanja koja želite u ovom tromjesečju ili godini, a zatim testirajte svaki prodajni korak u odnosu na tu listu.

Na primjer, dobavljač obećava ‘autonomni odgovor’. Zvuči uvjerljivo – dok ne shvatite da je vaš pravi problem nepotpuno evidentiranje identiteta i krajnje tačke koje se ne izvještavaju pouzdano. U tom slučaju, autonomija je karmin na svinji. Prvo, rezultati, a drugo karakteristike.

Također je vrijedno naučiti rano uočiti hype obrasce. Crvene zastavice uključuju nejasne tvrdnje o ‘autonomnom SOC-u’, bez mjerljivog poboljšanja u detekciji ili odgovoru, sjajne demonstracije bez reproducibilnog testiranja, modele crne kutije bez mogućnosti revizije i cijene koje se povećavaju s panikom, a ne s dokazanim smanjenjem rizika.

Kupujte kao odrasli: upravljanje, dokazi i plan izlaska. Dokaz zahtjeva putem pilota u vašem okruženju. Zatražite lažno pozitivne i lažno negativne podatke, jasnoću o načinima kvara i dokaze da alat smanjuje rizik ili napor – ne samo da proizvodi ljepše sažetke.

Obratite posebnu pažnju na rukovanje podacima. Saznajte koje podatke alat unosi, gdje ide, ko im može pristupiti i da li se koriste za obuku modela. U vladinim, odbrambenim i CNI postavkama, koristan AI asistent može tiho postati neodobreni mehanizam za izvoz podataka ako niste strogi.

Odgovornost i revizija su također bitni. Ako alat preporučuje ili preduzme akciju, morate biti u stanju objasniti zašto – dovoljno dobro da zadovoljite reviziju, regulatore ili kupce. U suprotnom, mijenjate sigurnosni rizik za rizik upravljanja.

Ljudski nadzor je neophodan. Automatizacija ne uspijeva pri brzini mašine. Najsigurniji obrazac je postepen: samo za čitanje, zatim predložiti, zatim djelovati s odobravanjem i potpuno automatizirati samo tamo gdje je povjerenje visoko, a radijus eksplozije mali. Dobri prodavači vam pomažu da dizajnirate te zaštitne ograde.

Konačno, napravite plan izlaska prije nego što potpišete. Osigurajte da možete izdvojiti svoje podatke, izbjeći vlasničke crne kutije i vratiti se na prethodne procese bez šestomjesečnog projekta spašavanja. Nemojte stvarati jednu tačku kvara u kojoj praćenje ili odgovor u potpunosti zavise od neprozirnog modela jednog dobavljača.

Ukratko: dokažite vrijednost, kontrolirajte podatke, držite odluke objašnjivim, stavite ljude u petlju dok se ne stekne povjerenje, osigurajte da alat odgovara vašem stvarnom radu i osigurajte da možete čisto otići ako se magija pretvori u nered.

Pročitajte više o upravljanju IT rizicima

• Presijecanje buke: SaaS akceleratori naspram korporativne AI

• MSP-ovi razmišljaju o uticaju zakona o sajber sigurnosti

  Autor: Simon Quicke

• Zaboravite trening, pronađite svoje ubojite aplikacije tokom zaključivanja AI

  Autor: Antony Adshead

• Radnje za budućnost vašeg poslovanja na kanalima s AI