Kako umjetnu inteligenciju učiniti saveznikom u kibernetičkoj sigurnosti

Umjetna inteligencija (UI) brzo postaje ključni pokretač promjena u organizacijama, mijenjajući poslovne modele, operacije i procese donošenja odluka. Od virtualnih asistenata i autonomnih agenata do prediktivnih sustava i modela optimizacije, UI pomaže u preoblikovanju temeljnih poslovnih procesa u područjima kao što su operacije, korisnička podrška, ljudski resursi i marketing.

Nedavno istraživanje koje je vodilo University of Melbourne  u suradnji s KPMG-om,  pokazuje da usvajanje UI-a raste, ali povjerenje ostaje ključni izazov, što odražava napetost između koristi i rizika.

Međutim, ova transformacija donosi nove rizike. Brzo usvajanje UI modela, posebno autonomnih agenata koji donose odluke ili komuniciraju sa sustavima, uvodi nove vektore napada. Loše konfiguriran agent ili onaj treniran na pristranim podacima može izložiti sustave prijetnjama ili donositi odluke koje su u suprotnosti s politikama sigurnosti organizacije.

UI također pojačava tradicionalne prijetnje i ranjivosti, pretvarajući ih u manje predvidiv i brzo rastući rizik. U tom kontekstu javlja se novi izazov: kako osigurati sigurnost UI sustava, a istovremeno koristiti UI u specifičnim područjima poput same kibernetičke sigurnosti. KPMG-ovo izvješće , Cybersecurity considerations 2025 report, naglašava da su temeljna načela kibernetičke sigurnosti — poput ugrađenog povjerenja i koristi od integracije UI-a u područja kibernetičke sigurnosti i privatnosti — sada još važnija.

Uspješno upravljanje ovom dvojnošću — korištenje UI-a za zaštitu, uz istovremenu zaštitu od rizika koje UI donosi — očekuje se da će biti središnji dio modernih strategija kibernetičke sigurnosti.

Većina softverskih rješenja danas ima ugrađenu UI, uglavnom u obliku konverzacijskih chatbotova. Iako oni mogu dodati brzinu i praktičnost, mogu također zakomplicirati posao stručnjacima za sigurnost koji se suočavaju s „prompt hoppingom” – brzim prebacivanjem između više razgovora radi nadzora i upravljanja različitim sustavima. To nije samo izazov u korištenju: kako prompt inženjering postaje sofisticiraniji, a napadači eksperimentiraju s „prompt injectionom”, svaki razgovor predstavlja potencijalni vektor za manipulaciju i pogrešnu konfiguraciju. Uz razne UI alate u igri, timovi za kibernetičku sigurnost mogu patiti od „konverzacijske iscrpljenosti”, što može ometati njihovu sposobnost brzog i odlučnog djelovanja.

Nekontrolirano usvajanje UI-a može dovesti i do nekontroliranog izlaganja podataka. UI alati mogu izložiti povjerljive podatke o organizaciji i njezinim korisnicima, koji mogu završiti u rukama trećih strana. Osim što povećava ranjivost na napade, propusti u sigurnosti podataka mogu prekršiti propise i dovesti do kazni te gubitka povjerenja dionika. KPMG-ova anketa otkriva da su problemi s kvalitetom podataka ili njihovom nepotpunošću jedan od dva najveća izazova za sigurnosne stručnjake (30%).

Mnoge organizacije također doživljavaju nepovezanost između usvajanja UI-a na razini poduzeća, uključivanja timova za kibernetičku sigurnost i specifičnih UI rješenja za proizvode. Ti resursi često nisu integrirani, što dovodi do izoliranih konverzacijskih chatbotova. Teško je primijeniti dosljedan pristup kibernetičkoj sigurnosti kada se koristi toliko različitih, fragmentiranih UI alata koji mogu davati različite poruke o prijetnjama i incidentima.

UI ne koriste samo organizacije za jačanje kibernetičke sigurnosti; zlonamjerni akteri također koriste ovu tehnologiju za provođenje napada. Čim uoče ranjivost, mogu brzo generirati vektore napada i kodove. Tri četvrtine (76%) ispitanika u anketi kaže da su zabrinuti zbog sve veće sofisticiranosti novih prijetnji i kibernetičkih napada.

Kako UI ima potencijal ubrzati i pojačati kibernetičke rizike, postaje ključno ulagati u sigurnosna rješenja s UI alatima koji mogu pratiti brzinu, opseg i sofisticiranost novih prijetnji. Sljedeći primjeri pokazuju kako se može ojačati sigurnosna pozicija uz veću učinkovitost i povrat ulaganja:

• Napredno otkrivanje prijetnji putem analize ponašanja: UI analizira velike količine podataka kako bi otkrio obrasce i anomalije koje mogu ukazivati na zlonamjerne aktivnosti. Za razliku od tradicionalnih sustava temeljenih na pravilima, može u stvarnom vremenu prepoznati suptilne ili prethodno nepoznate prijetnje, smanjujući vrijeme prisutnosti napadača i sprječavajući štetu u ranoj fazi napada.

• Automatizacija upravljanja identitetom i pristupom: UI poboljšava kontrolu pristupa kontinuiranim procjenjivanjem ponašanja korisnika i ne-ljudskih entiteta, dinamički prilagođavajući dozvole na temelju konteksta i rizika. Time se smanjuje ručni rad, minimizira ljudska pogreška i poboljšava zaštita od napada temeljenih na identitetu.

• UI-potpomognut odgovor na incidente: UI pomaže sigurnosnim timovima u prioritetizaciji upozorenja, povezivanju podataka iz više izvora i čak pokretanju automatiziranih akcija za suzbijanje prijetnji. To značajno smanjuje prosječno vrijeme otkrivanja i odgovora, povećavajući učinkovitost ograničenih sigurnosnih resursa. 

• Procjene rizika i usklađenosti trećih strana: UI ubrzava procjenu vanjskih partnera pregledom dokumenata, certifikata i ponašanja u velikom opsegu. Pomaže brzo identificirati praznine u usklađenosti i sigurnosne rizike, olakšavajući dubinsku analizu i smanjujući izloženost ranjivostima u opskrbnom lancu.

Ovo nas poziva na razmišljanje o tome kako se ove mogućnosti temeljene na UI-u mogu učinkovito strukturirati i integrirati u detaljan okvir upravljanih usluga kibernetičke sigurnosti, omogućujući organizacijama da poboljšaju svoje sigurnosne rezultate uz profesionalno vodstvo i kontinuiranu tehnološku podršku.

Kako organizacije mogu integrirati umjetnu inteligenciju u svoje sigurnosne operacije bez dodavanja dodatne složenosti ili rizika?

Umjetna inteligencija (UI) predstavlja neviđenu priliku za transformaciju poslovnih procesa i jačanje sposobnosti kibernetičke sigurnosti. No istovremeno uvodi složene rizike i nove površine za napade koje se ne smiju zanemariti. Ova dvojnost zahtijeva od organizacija da djeluju odgovorno — uz odgovarajuće okvire upravljanja, tehničke kontrole, kontinuiranu edukaciju i stalnu evaluaciju UI komponenti.

Ako organizacije uspiju uskladiti sigurnosne inicijative temeljene na UI-u s širim poslovnim, rizicima i sigurnosnim strategijama, mogu otključati ogroman potencijal UI-a u području kibernetičke sigurnosti. Time mogu stvoriti sigurno okruženje, izgraditi povjerenje i potaknuti inovacije.