Deepfake je zesilovač klasického sociálního inženýrství[1][2]
Útočník nemusí vytvořit dokonalé celovečerní video. Stačí krátký hlasový klip, několik sekund obrazu nebo falešná fotografie, která zapadne do již rozběhnutého příběhu.
FBI i další instituce upozorňují, že generativní AI může zvyšovat důvěryhodnost podvodných zpráv, profilů, hlasových hovorů a dokumentů. Technologie mění kvalitu návnady, základní princip podvodu však zůstává stejný: vytvořit tlak a obejít nezávislé ověření.
Jak typický útok vypadá[1][4][5]
Nejčastější scénáře kombinují veřejně dostupné informace o oběti nebo firmě s urgentní žádostí o peníze, změnu platebních údajů nebo předání přístupu.
- Útočník zjistí vztahy, pracovní role nebo jména vedoucích osob.
- Vytvoří důvěryhodný e-mail, účet nebo profil.
- Přidá klonovaný hlas, syntetickou fotografii nebo krátké video.
- Vytvoří časový tlak a neobvyklý důvod, proč nelze použít standardní proces.
- Požaduje platbu, přístupové údaje nebo citlivé informace.
Klonování hlasu je zvlášť nebezpečné, protože hlas vnímáme jako identitu[3]
Krátký vzorek veřejného hlasu může být použit jako vstup pro syntetický hlas. FTC proto popisuje ochranu proti zneužití hlasového klonování jako samostatný bezpečnostní problém.
Telefonát, ve kterém hlas zní správně, už proto není dostatečnou autentizací. U finančních nebo přístupových požadavků je nutné použít jiný, předem známý kanál a proces.
Obrana: ověřujte požadavek, ne jen médium[6]
Detekce deepfake je užitečná, ale nejlepší obrana nestojí na tom, že zaměstnanec musí v reálném čase odhalit každou syntetickou tvář nebo hlas.
Proces má být odolný i tehdy, když je deepfake technicky přesvědčivý: změna účtu vyžaduje druhý kanál, mimořádná platba potvrzení další osobou a citlivá žádost návrat na známé číslo nebo do interního systému.
Kdy pomůže forenzní analýza obrazu
Pokud máte konkrétní fotografii, screenshot nebo soubor videoframu, lze hledat známky syntetického původu, metadata, C2PA a lokální manipulaci. Technický report je užitečný zejména při dokumentaci incidentu.
Ani pozitivní detekce ale sama neurčuje pachatele. Bezpečnostní rozhodnutí musí spojit technický výsledek s kontextem komunikace, účty, časovou osou a finančními stopami.