Súlyos biztonsági hibát talált a magyar KPMG etikus hackere a Microsoft Copilot rendszerében, amely a nagy nyelvi modellek (LLM – Large Language Model) működését érinti. A hiba úgynevezett indirekt prompt injection típusú sérülékenység volt – olyan biztonsági rés, amely lehetővé teszi, hogy a mesterséges intelligencia egy külső forrásból származó, rejtett utasítást hajtson végre a felhasználói kérés helyett vagy mellett. A KPMG kiberbiztonsági szakértője jelezte az esetet a cégnek, akik javították a hibát.
A chatbotok körültekintő használatára egyre több szakértő hívja fel a figyelmet. A KPMG etikus hackere, Zolotarev Mikhail egy etikus tesztelés során egy biztonsági hibát talált a Copilot rendszerben, a sebezhetőség akár bizalmas információk kiszivárgásához is vezethet. A konkrét hiba az úgynevezett Indirect Prompt Injection volt - mely akkor áll fenn, ha egy LLM egy külső forrásból származó anyagban elhelyezett utasítást hajt végre. Így ha a felhasználó feltölt egy dokumentumot valamelyik chatbotba és egy összegzést kér, azonban a mesterséges intelligencia talál egy rejtett utasítást a dokumentumban, akkor azt hajtja végre a felhasználói kérés mellett, vagy helyett.
Az ilyen sérülékenységet könnyedén fel lehet használni arra, hogy az AI-agenteken keresztül bizalmi támadást (social engineering) hajtsanak végre egy-egy felhasználó ellen. A chatbot egy bizalmi beszélgetésbe építve szenzitív adatokhoz is juthat, és a kinyert információt nem saját maga használja fel, hanem továbbíthatja egy harmadik félnek.
„A Copilot esetében viszont még két olyan faktor volt, ami növelte a sérülékenységből származó kockázatot. A chat kontextusán kívül más adatokhoz is hozzáfér – üzleti verzió esetében akár a céges OneDrive teljes tartalmához –, valamint válaszaiba képeket és egyéb HTML elemeket is bele tud építeni" – mondta el a KPMG szakembere.
Zolotarev Mikhail tesztelte is a rendszert: A kísérlet során a mesterséges intelligencia olyan választ generált, amely a felhasználó böngészőjét érzékeny adatok, köztük a felhasználó teljes nevének továbbítására késztette egy külső szerver irányába. A KPMG Magyarország etikus hackere jelezte a hibát a Microsoft illetékes osztálya felé, akik azóta javították a hiányosságot.
Új típusú IT-biztonság kell
A vizsgálat rávilágított arra, hogy a mesterséges intelligencia-rendszerek használata a hagyományos IT-környezetekhez képest új típusú kiberbiztonsági kockázatokat hordoz. Az AI-hype világszerte erősödik, de a tartós eredményeket nem a gyors reagálás, hanem a tudatos, hosszú távú stratégia biztosítja. A vállalatoknak fokozottan figyelniük kell az AI-alapú megoldások beemelésére, és a protokollok mellett oktatniuk is kell a munkavállalókat.
Az AI-biztonság az információbiztonság egyik új kulcsterülete, amely az AI-rendszerekre irányuló speciális támadások – például prompt injection, túlterheléses (DoS) vagy adat-szivárgási kísérletek – elleni védelemre fókuszál. Ezek megelőzése rendszerszintű és összehangolt biztonsági tervezéssel, megfelelő irányelvekkel és folyamatos ellenőrzéssel lehetséges.
A generatív mesterséges intelligencia új képességeket hoz a vállalati működésbe, ezzel egy időben pedig új biztonsági követelményeket is támaszt. Az AI-eszközök integrációja nem csupán egy technológiai kiegészítés: a régi és új rendszerek egységes biztonsági stratégiájának összehangolása elengedhetetlen. Ennek része, hogy a szervezetek a fejlesztés és az alkalmazás korai szakaszában beépítsenek biztonsági és adatvédelmi protokollokat.
A kiberbiztonsági fejlesztéseknél az egyensúly megtalálása kulcsfontosságú: az IT-biztonság növelése hatással van a költségvetésre, ezért érdemes a meglévő technológiák felülvizsgálata. Sok esetben hatásosabb új, AI-képességekkel rendelkező rendszereket bevezetni, amelyek hatékonyabban reagálnak a modern fenyegetésekre.
A KPMG szakértői szerint a mesterséges intelligencia terjedésével a biztonság, a megbízhatóság és az adatvédelem integrált szemlélete válik meghatározóvá. Azok a vállalatok, amelyek már most beépítik ezeket a szempontokat a fejlesztési folyamataikba, hosszú távon nemcsak biztonságosabb, hanem innovatívabb működést is biztosíthatnak.
