V nedávnej dobe sa začalo viac diskutovať o vplyve generatívnej umelej inteligencie na internet, presnejšie na tvorbu zdieľaného obsahu. Pravdou totiž je, že tá istá technológia, ktorá dokáže pomôcť vytvoriť úžasné fotografie alebo uľahčí tvorbu nových produktov a obsahu, má aj temnú stránku – šírenie detskej pornografie a sexuálneho zneužívania detí. Našťastie sa Európska únia snaží reagovať na tento problém relatívne včas. Začiatkom februára Európska komisia predstavila návrh na reguláciu generatívnej umelej inteligencie v oblasti tvorby fotografií, súvisiacich s detskou pornografiou a sexuálnym zneužívaním detí na internete. Len pre zaujímavosť – v roku 2022 bolo evidovaných viac ako 1,5 milióna prípadov detského sexuálneho zneužívania, a to je len vrchol ľadovca. Novela by mala posilniť ochranu detí a zmeniť prístup k trestným činom súvisiacim so zneužívaním detí. Navrhované opatrenia zahŕňajú aj živé vysielanie detskej pornografie a distribúciu materiálu zameraného na pedofilov.
Komisia navrhuje, aby sa po novom rozšírila definícia trestných činov súvisiacich so zneužívaním detí naprieč všetkými členskými krajinami. Trestným činom by tak malo byť aj živé vysielanie detskej pornografie alebo prechovávanie manuálov či príručiek pre pedofilov. Zákonodarcovia by tiež chceli upraviť znenie trestného činu detského zneužívania, ktoré by malo obsahovať časť o vytváraní deep fake videí a iného materiálu generovaného umelou inteligenciou. V praxi by to znamenalo, že pedofili by mohli byť trestne stíhaní aj za produkovanie falošných pornografických fotografií detí za pomoci umelej inteligencie.
Návrhom by sa mal v dohľadnej dobe zaoberať Európsky parlament a Rada EÚ. Pokiaľ by novelizáciu schválili zástupcovia všetkých členských krajín, nová smernica by vstúpila do platnosti o 20 dní po zverejnení v úradnom vestníku EÚ.
Ale ako môžeme ešte viac obmedziť šírenie detskej pornografie na internete? Tu je desať možností:
- Zvýšená spolupráca medzi internetovými platformami: Väčšia spolupráca medzi sociálnymi sieťami a inými internetovými platformami môže viesť k rýchlejšiemu odstraňovaniu nelegálneho obsahu.
- Zlepšená technológia na identifikáciu obsahu: Vývoj lepších algoritmov na automatické detegovanie a odstraňovanie detskej pornografie môže byť kľúčovým prvkom v boji proti tomuto problému.
- Vzdelávanie: Treba už v školách začať deti učiť rozpoznávať a nahlásiť nelegálny obsah.
- Lepšia spolupráca s právnymi orgánmi: Zlepšená spolupráca s právnymi orgánmi môže viesť k rýchlejšiemu identifikovaniu a efektívnejšiemu stíhaniu páchateľov.
- Vytváranie bezpečnejších online komunít: Vytvorenie bezpečných prostredí online môže zmierniť riziko sexuálneho zneužívania detí.
- Posilnenie právnych noriem: Účinné a prísne právne normy, tak ako sa práve snaží aj EÚ, môžu vytvoriť zdravšie prostredie na internete.
- Podpora výskumu a inovácií: Investície do výskumu nových technológií na boj proti detskej pornografii môžu priniesť pozitívne výsledky.
- Transparentnosť internetových firiem: Väčšia transparentnosť internetových firiem ohľadom ich politík týkajúcich sa obsahu môže zvýšiť dôveru verejnosti.
- Prevencia prostredníctvom terapie a podpory: Poskytovanie terapie a podpory pre obete a aj pre potenciálnych páchateľov môže predchádzať sexuálnemu zneužívaniu detí.
- Kampaň proti detskej pornografii: Rozsiahle verejné kampane môžu zvýšiť povedomie o tomto probléme a jeho závažnosti.
