Deepfake nie je len vymenená tvár vo videu[1][4]
Pre podvodníkov je užitočný celý syntetický balík: generované profilové fotografie, falošné doklady, klonovaný hlas, živé video, automatický preklad a správy prispôsobené obeti.
FBI/IC3 upozorňuje, že generatívna AI zvyšuje mierku a dôveryhodnosť existujúcich finančných podvodov. Profily, weby, dokumenty a videá vznikajú rýchlejšie a miznú jazykové chyby, ktoré kedysi podvod prezrádzali.
AI teda väčšinou nevymýšľa nový zločin; znižuje cenu starého a zvyšuje počet presvedčivých pokusov.
Typický reťazec útoku
Najprv sa zbierajú údaje: fotografie zo sociálnych sietí, vzorky hlasu, pracovné pozície, rodinné väzby, dodávatelia a interné procesy. Potom vznikne syntetická persona alebo kópia konkrétnej osoby.
Nasleduje kontext: naklonovaný hlas riaditeľa musí hovoriť veci, ktoré zapadajú do firmy. Až potom prichádza tlak — urgentný prevod, zmena účtu, MFA kód, prístup do systému alebo dôverný dokument.
Najnebezpečnejší je deepfake použitý ako posledné „potvrdenie“ po sérii už presvedčivých kontaktov.
FBI: AI už vidno v reálnych stratách[2]
Správa IC3 za rok 2025 uvádza kategórie s výslovne nahláseným AI nexus. Pri pracovných podvodoch to bolo takmer 13 miliónov USD a pri investičných podvodoch s nahláseným AI prvkom viac než 632 miliónov USD.
Nejde o celkovú veľkosť AI podvodov; mnohé obete nevedia, či bola AI použitá. Ide skôr o viditeľnú časť problému.
FBI spomína voice spoofing pri vzdialených pracovných pohovoroch aj generované videá či hlasy celebrít a manažérov pri investičných podvodoch.
AI predovšetkým zvyšuje dôveryhodnosť a kapacitu už ziskových podvodných schém.
Klonovanie hlasu: sluch nie je autentifikácia[3]
Známy hlas ľudia prirodzene považujú za silný identifikačný znak. FTC opisuje podvody, pri ktorých syntetická reč napodobňuje rodinu alebo vedenie firmy s cieľom získať peniaze či informácie.
FTC zároveň zdôrazňuje, že neexistuje jedna zázračná technológia. Watermark možno narušiť, detekcia má limity a autentifikácia musí byť súčasťou procesu.
Bezpečnejšie než posudzovať, či hlas znie prirodzene, je prerušiť kontakt a overiť osobu cez vopred známy kanál.
Obrázky a video často slúžia na vytvorenie dôvery[1][5]
FBI uvádza generované profilové fotky, doklady a videá verejných osôb či manažérov. Videohovor môže byť použitý ako údajný dôkaz, že online kontakt je skutočný človek.
INTERPOL v roku 2026 opisuje deepfake-as-a-service a syntetické identity kombinujúce video avatary, hlasové klony a biometrické dáta. Technológia podvodu sa stáva službou.
Preto treba overovať provenance, metadáta, syntetické signály aj kontext a nikdy nestavať identitu iba na videu alebo jednom detektore.
Firma: ako neschváliť platbu len preto, že deepfake vyzerá presvedčivo[1][3]
Bezpečný proces predpokladá, že e-mail, telefónne číslo, hlas, profilovka aj obraz z videohovoru sa dajú sfalšovať.
- Zmenu bankového účtu dodávateľa potvrdiť cez starší dôveryhodný kanál.
- Nad určitý limit vyžadovať druhé schválenie alebo nezávislý faktor.
- Používať call-back na číslo uložené vo firemnom adresári.
- Videohovor nepovažovať sám osebe za silnú autentifikáciu.
- Uchovávať podozrivé súbory a hlavičky e-mailov.
- Školiť ľudí na tlak, tajnosť a požiadavky obísť bežný proces.
Súkromné osoby: rodina, investície a urgentná núdza[1][2]
FBI odporúča rodinné tajné slovo alebo frázu a nezávislé spätné zavolanie osobe, ktorá údajne potrebuje pomoc. Útočník môže mať hlasovú vzorku, ale nemusí poznať spoločné tajomstvo.
Pri investičnom podvode môže byť syntetický celý ekosystém — expert, video, komentáre, chatbot aj dashboard. Overovať treba firmu, licenciu, doménu a tok peňazí.
Deepfake detekcia má podporovať rozhodovanie[3][4]
Vysoké riziko môže spustiť manuálne overenie, vyžiadanie originálu, kontrolu provenance alebo ďalší spôsob potvrdenia identity. To je bezpečnejšie než binárny automatický verdikt.
Správna odpoveď na deepfake nie je „nedá sa veriť ničomu“, ale trust by verification: menej dôvery v jeden signál a viac v opakovateľný proces.