Technológia deepfake je sofistikovaná a často kontroverzná časť umelej inteligencie (AI), ktorá umožňuje vytváranie veľmi presvedčivého falošného multimediálneho obsahu, ako sú videá, zvukové nahrávky a obrazy, často zahŕňajúce podobu alebo hlas konkrétnej osoby. Termín „deepfake“ je odvodený z kombinácie „deep learning“, čo odkazuje na použitie hlbokých neurónových sietí, a „fake“, čo znamená falošný. Princípom fungovania deepfake je trénovanie neurónových sietí na veľkom množstve existujúcich dát, napríklad videí a hlasových záznamov, ktoré obsahujú cieľovú osobu alebo postavu. Tieto siete sa učia rozpoznávať vzory a charakteristiky konkrétnej tváre alebo hlasu a následne ich môžu replikovať v novom obsahu. Čím viac takýchto dát je dostupných, tým presnejšie a autentickejšie môže deepfake video byť.
Jedným z najbežnejších využití technológie deepfake je výmena tvárí. Modely hlbokého učenia dokážu vymeniť tvár osoby vo videu za tvár inej osoby bezproblémovo. To môže vytvárať dojem, že slávny herec alebo politik robí alebo hovorí niečo, čo nikdy neurobil. Táto technológia umožňuje aj presne synchronizovať generovanú reč s pohybmi pier osoby na videu, takže pôsobí skutočne autenticky. Technológia deepfake nie je obmedzená len na vizuálne prvky; môže byť použitá aj na klonovanie hlasu. Analýzou zvukových záznamov dokážu modely hlbokého učenia generovať reč, ktorá napodobňuje hlas konkrétnej osoby, vrátane tónu a intonácie. V nemenovanej reklame túto technológiu už použila jedna slovenská banka, keď so súhlasom rodiny takto vytvorila hlas v Júliusa Satinského.
Hlavnými hrozbami spojenými s deepfake sú:
- Manipulácia s informáciami: Deepfake môže byť použitý na vytvorenie falošných videí alebo zvukových záznamov, ktoré môžu šíriť dezinformácie alebo klamať verejnosť.
- Politické využitie: Deepfake môže byť zneužitý na vytvorenie klamlivých videí politikov alebo verejných osobností, čím sa môže ovplyvniť verejná mienka a voľby.
- Porušenie súkromia: Deepfake môže byť použitý na vytvorenie kompromitujúcich videí alebo fotografií, ktoré porušujú súkromie jednotlivcov.
- Zneužitie vo finančnej oblasti: Útočníci môžu využiť deepfake na falšovanie hlasových správ alebo videí od vedúcich osôb v organizáciách s cieľom podvodu.
- Narušenie dôveryhodnosti médií: Deepfake môže ohroziť dôveryhodnosť novinárov a médií, keď sú vytvorené falošné obsahy, ktoré sa následne šíria na internete.
Preto je dôležité byť vo vzťahu k informáciám v online prostredí obozretní a vyhýbať sa ľahkému prijímaniu všetkého, čo vidíme alebo počujeme. Vždy si informácie overte z nezávislých renomovaných zdrojov. Výskumníci a technológia sa snažia vyvinúť nástroje na detekciu deepfake obsahu, ale nie je to úplne jednoduché.
