Na komunikačnej platforme Telegram sa v posledných mesiacoch ohromne rozvinul ekosystém botov, ktoré z bežných fotografií vytvárajú falošné nahé snímky a explicitné (pornografické) zábery. Investigatívne médiá zmapovali desiatky takýchto služieb a pridružené kanály s miliónmi používateľov. Po medializácii nasledujú vlny mazania, no namiesto trvalého útlmu prichádza rýchla obnova pod novými názvami. Praktiky sú namierené najmä proti ženám a dievčatám a predstavujú formu zneužitia nevyžiadaných obrazových materiálov.
Rast problému spôsobila jednoduchá dostupnosť a lacné tokenové platby, ktoré z neho robia lukratívny biznis. Niektoré boty umožňujú „tréning“ na viacerých fotografiách jednej osoby, čím zvyšujú presvedčivosť výstupov. Obete pritom nečelia iba online hanbe, ale aj vydieraniu a dlhodobým psychickým následkom. Odborníčky na technologicky sprostredkované násilie upozorňujú, že bremeno dôkazov a nahlasovania často zostáva na poškodených, kým páchateľov sa darí postihovať len výnimočne.
Platformy reagujú prevažne až po tlaku verejnosti. Obchody s aplikáciami aj prevádzkovatelia sociálnych sietí sľubujú nulovú toleranciu, no pravidlá bývajú nejednoznačné pri explicitných deepfake záberoch dospelých a pri nástrojoch, ktoré sú zjavne stavané na zneužitie. Moderovanie zostáva do veľkej miery reaktívne a spolieha sa na komunitné nahlasovanie. Súbežne prebiehajú právne kroky vlád. Viaceré sprísňujú tresty, rozširujú skutkové podstaty na držbu a šírenie deepfake pornografie a využívajú aj civilné žaloby voči prevádzkovateľom služieb. Napriek tomu zostáva presadzovanie práva nerovnomerné a naráža na cezhraničný charakter komunikačných platforiem, rozdielne definície trestných činov a pomalú medzinárodnú spoluprácu.
Prípady z Ázie, Európy aj Spojených štátov naznačujú, že Telegram a príbuzné kanály zohrávajú kľúčovú úlohu v šírení týchto materiálov. Platforma deklaruje tvrdé zásady pri materiáloch súvisiacich so zneužívaním detí a využívanie hash databáz, no pri explicitných deepfake záberoch dospelých chýba rovnako jednoznačný rámec. Kým sa nevytvorí systematický, proaktívny mechanizmus na prevenciu a rýchlu detekciu, mazanie jednotlivých botov bude pôsobiť skôr ako hasenie požiarov.
Príklad Telegramu je symptomatický – aj keď časť botov mizne, dopyt, nízke náklady a technická nenáročnosť zabezpečujú, že problém sa vždy objaví inde a často vo väčšom rozsahu. Ak sa pravidlá platforiem nezosúladia s jasným zákazom tvorby a distribúcie explicitných deepfake materiálov a ak sa nezrýchli cezhraničná spolupráca pri vymáhaní práva, obete zostanú vystavené infraštruktúre zneužívania, ktorá sa neustále prispôsobuje a je mimoriadne flexibilná.
