Generatívna umelá inteligencia čoraz výraznejšie mení nielen technologický svet, ale aj oblasť kybernetickej bezpečnosti. Rovnako ako v iných prípadoch, aj tu platí, že tieto nástroje dokážu využívať nielen tí, ktorí sa snažia o pokrok a ochranu, ale aj tí, ktorí ich zneužívajú na škodlivé účely.
Najnovšiu analýzu o tom, ako sa umelá inteligencia – konkrétne četbot Gemini – stáva terčom a zároveň nástrojom hackerských aktivít, zverejnila nedávno skupina Google Threat Intelligence Group. Jej výskum sa sústredil na pokročilé a často vládami podporované hekerské skupiny, ktoré sa venujú informačným operáciám a kybernetickej špionáži a na hekerské aktivity, označované ako známe ako APT (Advanced Persistent Threat). APT je typ sofistikovaného a hlavne dlhodobého kybernetického útoku, pri ktorom útočník získava a udržiava neoprávnený prístup do počítačovej siete s cieľom kradnúť citlivé údaje alebo vykonávať špionáž, pričom zostáva neodhalený po dlhý čas. Tieto útoky sú často podporované štátmi alebo dobre organizovanými skupinami.
Zistenia ukazujú, že hekeri sa pokúšajú obchádzať bezpečnostné mechanizmy AI nástrojov s cieľom generovať ich prostredníctvom škodlivý obsah. Nejde pritom o žiadne sofistikované alebo revolučné techniky – väčšinou ide o verejne dostupné triky, ktoré sa dajú nájsť online. Hekeri sa nesnažia prostredníctvom četbota získať nové zručnosti alebo nástroje na útoky, ale využívajú ho na zvýšenie efektivity svojej práce – napríklad na analýzu kódu, hľadanie chýb, tvorbu obsahu či jeho preklady do rôznych jazykov pre lepšiu lokalizáciu pri podvodoch.
Výskum zároveň ukázal, že medzi najčastejších používateľov Gemini patria hekeri z Iránu, ktorí nástroj nasadzovali v širokom spektre úloh. Naopak, aktivita ruských aktérov bola počas sledovaného obdobia pomerne obmedzená. Okrem technických úloh hekeri využívali AI aj pri informačných operáciách – generovali obsah vrátane falošných správ a identít, lokalizovali ho a hľadali spôsoby, ako maximalizovať jeho dosah. Iránski hackeri podľa analýzy stáli až za 75 % týchto aktivít, no zaznamenaná bola aj čínska a ruská prítomnosť.
Medzi konkrétnymi cieľmi hekerov bolo aj hľadanie slabín v produktoch samotného Googlu. Zameriavali sa na phishingové útoky proti používateľom Gmailu, tvorbu škodlivého kódu určeného na krádež dát z prehliadača Chrome či pokusy o obídenie bezpečnostných prvkov pri prihlasovaní do Google účtov. Napriek týmto snahám AI četbot v mnohých prípadoch odmietol asistovať, keďže jeho vstavané obmedzenia takéto aktivity zablokovali.
Hoci zatiaľ Google výskumníci nepozorovali, že by hekeri prostredníctvom AI získali prelomové schopnosti, upozorňujú na rýchly vývoj v tejto oblasti. S tým, ako budú AI nástroje napredovať, možno očakávať aj postupné zvyšovanie úrovne ich zneužívania. Pre kybernetickú bezpečnosť to znamená neustálu výzvu – nielen v oblasti technológií, ale aj v dôslednej kontrole ich etického a bezpečnostného využívania.
