Rozvoj umelej inteligencie v posledných rokoch priniesol mnohé výhody – od inteligentných asistentov cez automatizované spracovanie dát až po personalizované zdravotníctvo. No spolu s týmito technologickými pokrokmi sa objavujú aj nové riziká. Jedným z najzávažnejších negatívnych fenoménov, ktorý nadobúda čoraz sofistikovanejšiu podobu, je kyberšikana. Hoci ide o problém, ktorý existoval dávno pred érou umelej inteligencie, práve jej nástup mu poskytol nové nástroje, formy a možnosti šírenia, pričom dôsledky sú často ťažko predvídateľné.
Tradičná kyberšikana sa doteraz obvykle obmedzovala na posielanie výhražných správ, zosmiešňovanie na sociálnych sieťach či šírenie osobných údajov bez súhlasu obete. Umelá inteligencia však otvorila dvere k omnoho komplexnejším formám útokov. Pomocou generatívnych jazykových modelov možno veľmi ľahko vytvoriť falošné komentáre, dezinformácie, alebo nenávistné prejavy znejúce ako vyjadrenia konkrétnej osoby. Okrem toho technológie ako deepfake umožňujú vytváranie realistických videí, v ktorých je osoba zobrazená, ako hovorí či robí veci, ktoré v skutočnosti nikdy neurobila. Takéto manipulácie môžu mať pre obeť veľmi vážne následky – od poškodenia reputácie až po psychickú ujmu.
Závažnosť problému podčiarkuje aj rastúci počet medializovaných prípadov. V roku 2023 sa vo Veľkej Británii stal predmetom vyšetrovania incident, pri ktorom bol pomocou nástroja na generovanie deepfake videí vytvorený klip, v ktorom sa stredoškolská učiteľka objavuje v kompromitujúcej pornografickej scéne. Hoci video bolo falošné, škody na jej súkromí a profesionálnom živote boli obrovské. Podobný prípad zaznamenali aj úrady v Spojených štátoch, kde skupina tínedžerov vytvorila pomocou AI nahrávky, v ktorých menili hlasy svojich spolužiakov a následne ich publikovali v kontexte, ktorý ich zosmiešňoval či sexualizoval. Tieto aktivity sa šírili prostredníctvom aplikácií ako TikTok či Discord, čím sa obťažovanie ešte viac znásobilo a znemožnilo rýchlu reakciu zo strany obetí či rodičov.
Problémom je, že softvér využívajúci umelú inteligenciu je často dostupný zadarmo alebo za symbolickú cenu. To znamená, že k nástrojom, ktoré ešte pred pár rokmi vyžadovali vysokú úroveň odbornosti a výpočtového výkonu, má dnes prístup prakticky ktokoľvek. Vývojári týchto technológií síce postupne zavádzajú bezpečnostné obmedzenia, no tie často zaostávajú za rýchlosťou zneužívania. Výsledkom je narastajúca bezmocnosť najmä detí a mladistvých, ktorí sú kvôli svojej zraniteľnosti častými cieľmi týchto útokov.
Odborníci na digitálnu bezpečnosť upozorňujú, že nový typ kyberšikany sa odlišuje nielen v technických prostriedkoch, ale aj v psychologickom dopade. Vzhľadom na autentickosť výstupov AI je pre obeť často takmer nemožné dokázať svoju nevinu, čím vzniká pocit izolácie a beznádeje. V niektorých prípadoch to viedlo k prerušeniu štúdia, strate zamestnania alebo dokonca k psychickému kolapsu a samovraždám.
Vo viacerých krajinách sa už pripravujú nové právne rámce, ktoré by mali reagovať na riziká spojené so zneužívaním umelej inteligencie. Európska únia napríklad pripravila Akt o umelej inteligencii (AI Act), ktorý má upraviť podmienky vývoja a využívania týchto technológií tak, aby nedochádzalo k porušovaniu základných práv. Niektoré členské štáty už podnikli kroky na to, aby sa zdieľanie deepfake obsahu bez súhlasu dotknutej osoby považovalo za trestný čin, čím sa posilňuje ochrana obetí.
