Generatívna umelá inteligencia (GenAI) zasahuje celý svet. Jej popularita a rozsiahle používanie priťahuje aj pozornosť kybernetických zločincov, čo vedie k vzniku rôznych kybernetických hrozieb. Napriek tomu sa veľa diskusií o hrozbách spojených s nástrojmi, ako je ChatGPT, sústreďuje na to, ako môže byť táto technológia zneužitá na pomoc podvodníkom pri vytváraní presvedčivých phishingových správ, škodlivého kódu alebo pri hľadaní zraniteľností.

Menej sa už hovorí o používaní GenAI ako návnady a trójskeho koňa ukrývajúceho malvér. Takýchto prípadov je veľa. Minulý rok Eset informoval na WeLiveSecurity o kampani, ktorá vyzývala používateľov Facebooku, aby vyskúšali najnovšiu verziu legitímneho nástroja umelej inteligencie od spoločnosti Google – Bard. Reklamy však propagovali škodlivý podvodný nástroj. Takéto kampane sú príkladom znepokojivého trendu a zjavne nikam neodchádzajú. Je preto dôležité pochopiť, ako fungujú, naučiť sa rozpoznať varovné signály a prijať preventívne opatrenia, aby vaša identita a financie neboli ohrozené. Eset sa tejto téme venoval naozaj podrobne, informácie spracoval na portáli Bezpečne na nete.

Ako útočníci používajú GenAI ako návnadu?

Kybernetickí zločinci vás dokážu rôznymi spôsobmi nalákať na inštaláciu škodlivého kódu maskovaného ako aplikácie založené na generatívnej umelej inteligencii. Využívajú napríklad phishingové stránky. V druhom polroku 2023 spoločnosť ESET zablokovala viac ako 650 000 pokusov o prístup na škodlivé domény obsahujúce „chapgpt“ alebo podobný text. Obete sa na ne s najväčšou pravdepodobnosťou prekliknú cez sociálne siete alebo e-mail či mobilnú správu. Niektoré z týchto podvodných stránok môžu obsahovať odkazy na inštaláciu malvéru, ktorý je maskovaný ako softvér GenAI. Taktiež využívajú rozšírenia prehliadačov.  Správa spoločnosti Eset o bezpečnostných hrozbách za prvý polrok 2024 podrobne opisuje škodlivé rozšírenie prehliadača, ktoré si používatelia nainštalujú na základe falošných reklám na Facebooku vydávajúcich sa za oficiálnu webovú stránku Sora od spoločnosti OpenAI alebo Gemini od spoločnosti Google.

Hoci sa rozšírenie tvári ako Prekladač Google, v skutočnosti ide o infostealer známy ako „Rilide Stealer V4“, ktorý je určený na získavanie prihlasovacích údajov používateľov Facebooku:

Zdroj: Správa spoločnosti Eset o bezpečnostných hrozbách za prvý polrok 2024

Od augusta 2023 telemetria spoločnosti Eset zaznamenala viac ako 4 000 pokusov o inštaláciu tohto škodlivého rozšírenia. Iné škodlivé rozšírenia sa zasa tvária, že ponúkajú funkcie generatívnej umelej inteligencie, a podľa spoločnosti Meta ich môžu v obmedzenej forme skutočne poskytovať, no zároveň v spojení s malvérom.

Objavili sa aj rôzne správy o falošných aplikáciách GenAI dostupných najmä v obchodoch s mobilnými aplikáciami, pričom mnohé z nich obsahujú malvér. Niektoré v sebe skrývajú škodlivý softvér určený na krádež citlivých informácií zo zariadenia používateľa. Môže ísť o prihlasovacie údaje, osobné identifikačné údaje, finančné informácie a ďalšie dáta.

Táto falošná webová aplikácia ChatGPT posiela kľúče API z platformy OpenAI na vlastný server
Zdroj: Správa spoločnosti Eset o bezpečnostných hrozbách za druhý polrok 2023

Existujú aj podvody, ktorých cieľom je vytvárať príjmy pre vývojára prísľubom pokročilých funkcionalít AI, a to často za poplatok. Po stiahnutí môžu tieto aplikácie bombardovať používateľov reklamami a vyžadovať nákupy v aplikáciách alebo predplatné za služby, ktoré buď neexistujú, alebo sú veľmi nekvalitné. Útočníci taktiež zneužívajú popularitu nástrojov s využitím GenAI na to, aby používateľov prinútili kliknúť na škodlivú reklamu. Obzvlášť rozšírené sú takéto reklamy na Facebooku. Spoločnosť Meta minulý rok varovala, že mnohé z týchto kampaní sú určené na kompromitáciu firiem s prístupom k reklamným účtom na internete. Útočníci sa nabúrajú do legitímneho účtu alebo stránky, zmenia profilové informácie tak, aby vyzerali ako autentické stránky ponúkajúce služby generatívnej umelej inteligencie, ako je ChatGPT, a potom tieto účty používajú na propagáciu falošných reklám. Podľa výskumníkov tieto reklamy ponúkajú odkazy na najnovšie verzie nástrojov GenAI, no v skutočnosti nasadzujú infostealery.

Úvodná obrazovka zobrazená inštalačným programom infostealeru Vidar, ktorý sa vydáva za Midjourney
Zdroj: Správa spoločnosti Eset o bezpečnostných hrozbách za prvý polrok 2024

 

Umenie lákania

Radi využívame tie najnovšie zariadenia a aplikácie. Kybernetickí zločinci využívajú našu dychtivosť, dôverčivosť, zvedavosť a strach z toho, že nám niečo ujde, aby nás prinútili kliknúť na škodlivé odkazy alebo stiahnuť aplikácie so skrytým malvérom.  Na to, aby sme však klikli na tlačidlo sťahovania, musí byť predostretá ponuka veľmi zaujímavá a – ako všetky najlepšie lži – obsahovať zrnko pravdy. Sociálni inžinieri sú v tejto oblasti ozajstnými majstrami a dokážu nás ľahko presvedčiť, aby sme klikli na chytľavé správy o celebritách alebo aktuálnych udalostiach (spomínate si na zradné príbehy o falošných vakcínach na COVID-19?). Môžu nám niečo ponúknuť zadarmo, s neuveriteľnou zľavou alebo skôr, ako to dostane niekto iný.

Na tieto triky sme náchylní naletieť, pretože:

  • Obsah si prezeráme rýchlo, najmä na mobilných zariadeniach.
  • Sociálni inžinieri sú dobrými rozprávačmi a svoje príbehy dokážu podávať čoraz plynulejšie v niekoľkých jazykoch (paradoxne) pomocou GenAI.
  • Radi dostávame veci zadarmo, hoci je veľmi nepravdepodobné, že také skvelé ponuky sú reálne.
  • Kybernetickí zločinci sú dobrí v zdieľaní informácií o tom, ktoré techniky sú účinné a ktoré nie. Naopak, my máme tendenciu menej dôsledne vyhľadávať alebo počúvať rady o tom, ako sa chrániť.
  • Sme zvyknutí rešpektovať autority alebo aspoň legitímnosť ponuky, pokiaľ je „oficiálne“ označená.

Čo riskujeme?

Čo najhoršie sa môže stať? Ak kliknete na falošnú mobilnú alebo webovú aplikáciu s využitím GenAI a tá na zariadenie nainštaluje škodlivý softvér, aký je konečný cieľ útočníkov? V mnohých prípadoch ide o nasadenie infostealeru. Ako už názov napovedá, tento škodlivý softvér je určený na zber citlivých informácií. Môže ísť o prihlasovacie údaje k online účtom, ako sú firemné prihlasovacie údaje alebo uložené informácie o platobných kartách, relačné súbory cookie (na obídenie dvojfaktorovej autentifikácie), aktíva uložené v kryptomenových peňaženkách, dátové toky z aplikácií na okamžité zasielanie a prijímanie správ a mnohé ďalšie.

Samozrejme, nejde len o tento druh malvéru. Kybernetickí zločinci by teoreticky mohli do aplikácií a škodlivých odkazov ukryť akýkoľvek typ malvéru vrátane ransomvéru a trójskych koní pre vzdialený prístup (RAT). (Vzdialený prístup umožňuje útočníkovi získať plnú kontrolu nad infikovaným zariadením na diaľku. RAT sa často používa na krádež citlivých informácií, sledovanie aktivít používateľa, inštaláciu ďalšieho škodlivého softvéru, alebo na vykonávanie iných nelegálnych aktivít.)

Čo to môže znamenať pre obeť?

  • Hacker získa úplnú vzdialenú kontrolu nad počítačom/mobilným telefónom a všetkým, čo je v ňom uložené. Prístup by mohol využiť na krádež vašich najcitlivejších osobných a finančných informácií alebo na premenu vášho zariadenia na „zombie“ počítač, ktorý následne zneužije na ďalšie útoky.
  • Osobné údaje môže použiť na podvody s identitou, čo je pre obeť veľmi nepríjemné a takisto nákladné.
  • Hackeri tiež dokážu zneužiť finančné a identifikačné údaje na získanie nových úverových liniek na vaše meno či na krádež kryptoaktív, ako aj na prístup k bankovým účtom a ich následnému vyčerpaniu.
  • Môžu dokonca zneužiť vaše firemné prihlasovacie údaje a zaútočiť na vášho zamestnávateľa alebo partnerskú/dodávateľskú organizáciu. Nedávna digitálna kampaň cielená na vydieranie, ktorá využívala infostealer na získanie prístupu k účtom Snowflake, viedla ku kompromitácii desiatok miliónov zákazníckych údajov.

Ako sa vyhnúť zradným návnadám s GenAI

Ochranu pred hrozbami spojenými s generatívnou umelou inteligenciou si zaistíte vďaka niekoľkým osvedčeným postupom. Zvážte tieto kroky:

Inštalujte aplikácie len z oficiálnych obchodov

Google Play a Apple App Store majú zavedené prísne procesy overovania a pravidelného monitorovania aplikácií s cieľom vylúčiť tie škodlivé. Vyhnite sa sťahovaniu aplikácií z webových stránok tretích strán alebo neoficiálnych zdrojov, keďže je oveľa pravdepodobnejšie, že ponúkajú škodlivé programy.

Podrobne skontrolujte vývojárov aplikácií a recenzie na ich softvér

Pred stiahnutím aplikácie si overte povesť vývojára, vyhľadajte iné aplikácie, ktoré vytvoril, a prečítajte si recenzie používateľov. Podozrivé aplikácie majú často zle napísané popisy, obmedzenú vývojársku históriu a negatívnu spätnú väzbu poukazujúcu na problémy.

Buďte opatrní pri klikaní na digitálne reklamy.

Online reklamy, najmä na sociálnych sieťach, ako je Facebook, sú bežným vektorom na šírenie škodlivých aplikácií. Namiesto klikania na reklamy vyhľadajte aplikáciu alebo nástroj priamo v oficiálnom obchode s aplikáciami a uistite sa, že sťahujete legitímnu verziu.

Pred inštaláciou rozšírení prehliadača ich nezabudnite skontrolovať

Rozšírenia webových prehliadačov môžu vylepšiť vašu používateľskú skúsenosť, ale predstavujú aj bezpečnostné riziká. Pred inštaláciou akýchkoľvek rozšírení si overte pozadie vývojára a prečítajte si dostupné recenzie. Držte sa známych značiek a sťahujte iba rozšírenia s vysokým hodnotením a rozsiahlejšou spätnou väzbou od používateľov.

Používajte komplexný bezpečnostný softvér od renomovaného dodávateľa.

Uistite sa, že máte v počítači a vo všetkých mobilných zariadeniach nainštalovaný spoľahlivý bezpečnostný softvér od overeného dodávateľa. Zaistíte si tak rezidentnú ochranu pred malvérom, phishingovými útokmi a inými online hrozbami.

Dávajte si pozor na phishing

Phishing aj naďalej zostáva aktuálnou hrozbou. Zbystrite pozornosť, ak dostanete nevyžiadané správy, ktoré vás vyzývajú kliknúť na priložené odkazy alebo otvoriť prílohy. Pred reakciou na akýkoľvek e-mail alebo správu, ktorá vyzerá podozrivo, najprv overte totožnosť odosielateľa.

Zapnite si dvojfaktorovú autentifikáciu pre všetky online účty

Viacúrovňové overovanie zvyšuje zabezpečenie vašich internetových účtov vyžadovaním niekoľkých metód verifikácie. Túto funkciu zapnite všade, kde je to možné, aby ste ochránili svoje účty aj v prípade zneužitia hesla.

Kybernetickí zločinci nedokážu odolať zneužitiu rozruchu okolo nových verzií. Ak zbadáte ponuku na stiahnutie novej verzie nástroja GenAI, pred pokračovaním overte jej dostupnosť prostredníctvom legitímnych kanálov. Pre potvrdenie vydania si pozrite oficiálnu webovú stránku alebo iné dôveryhodné zdroje. Generatívna umelá inteligencia mení svet okolo nás rýchlym tempom. Uistite sa, že ten váš sa nezvrtne k horšiemu.