Deepfake non significa solo scambiare un volto in un video[1][4]
Per i truffatori conta un intero toolkit sintetico: foto profilo generate, documenti falsi, clonazione della voce, video real-time, traduzione automatica e messaggi personalizzati.
FBI/IC3 avverte che l'AI generativa aumenta scala e credibilità delle frodi finanziarie esistenti. Profili, siti, immagini di documenti e video possono essere prodotti più velocemente eliminando errori linguistici che prima tradivano la truffa.
L'AI quindi raramente inventa un nuovo crimine: riduce il costo di uno schema vecchio e aumenta il numero di tentativi convincenti.
La catena d'attacco tipica
Prima si raccolgono dati: foto social, campioni vocali, ruoli aziendali, famiglia, fornitori e processi. Poi si costruisce una persona sintetica o una copia di qualcuno reale.
Il secondo passo è il contesto. Una voce clonata del CEO deve parlare in modo coerente con l'organizzazione. Solo dopo arriva la pressione: bonifico urgente, nuovo IBAN, codice MFA, accesso a sistemi o documento riservato.
Il momento più pericoloso è quando audio o video sintetico viene usato come conferma finale dopo una serie di contatti già plausibili.
FBI: l'AI è già visibile nelle perdite reali[2]
Il report IC3 2025 identifica categorie con un AI nexus esplicitamente segnalato. Nelle employment scams correlate all'AI le perdite dichiarate sfiorano 13 milioni di dollari; nelle investment complaints con AI nexus superano 632 milioni.
Non è la dimensione complessiva delle frodi AI: molte vittime non sanno se l'AI è stata usata. Sono piuttosto i casi visibili e classificati.
Il report cita voice spoofing o possibili voice deepfake nei colloqui di lavoro remoti e video o voci generati di celebrità e CEO nelle truffe d'investimento.
L'effetto più importante dell'AI è aumentare credibilità e capacità di schemi fraudolenti già redditizi.
Clonazione vocale: l'orecchio non è autenticazione[3]
Una voce familiare viene percepita come forte prova d'identità. FTC descrive truffe in cui la voce sintetica imita familiari o dirigenti per ottenere denaro o informazioni.
FTC sottolinea anche che non esiste una singola soluzione: watermark e detector hanno limiti e l'autenticazione deve essere incorporata nei processi.
Meglio interrompere la conversazione e verificare la persona tramite un canale noto in precedenza, invece di chiedersi solo se la voce “suona vera”.
Immagini e video servono spesso a costruire fiducia[1][5]
FBI cita profili, documenti e video generati che rappresentano personaggi pubblici o dirigenti. Una videochiamata può essere usata come presunta prova che un contatto online sia reale.
INTERPOL nel 2026 descrive deepfake-as-a-service e kit di identità sintetica con avatar video, cloni vocali e dati biometrici. La tecnologia della frode sta diventando un servizio acquistabile.
Per questo occorre verificare provenance, metadati, segnali sintetici e contesto, senza sostituire l'autenticazione dell'identità con un detector.
Aziende: come non autorizzare un pagamento sulla base di un deepfake[1][3]
Un processo sicuro assume che email, numero chiamante, voce, foto profilo e video possano essere falsificati.
- Confermare variazioni dell'IBAN di un fornitore tramite un canale già noto.
- Richiedere seconda approvazione o fattore indipendente sopra una soglia di pagamento.
- Usare una procedura di call-back verso il numero salvato nella directory aziendale.
- Non considerare la videochiamata una forte autenticazione di per sé.
- Conservare file sospetti e header delle email.
- Formare il personale su urgenza, segretezza e richieste di aggirare procedure.
Privati: emergenze familiari e investimenti[1][2]
FBI consiglia una parola segreta condivisa in famiglia e di richiamare indipendentemente la persona che avrebbe bisogno d'aiuto. Un attaccante può possedere la voce ma non il segreto concordato.
Nelle frodi d'investimento può essere sintetico l'intero ambiente: esperto, video, commenti, chatbot e dashboard. Bisogna verificare società, licenza, dominio e percorso del denaro.
Il detector deepfake deve supportare la decisione[3][4]
Un rischio elevato può attivare revisione manuale, richiesta del file originale, controllo provenance o un canale indipendente di identificazione. È più robusto di un verdetto automatico binario.
La risposta ai deepfake non dovrebbe essere “non ci si può fidare di nulla”, ma trust by verification: meno fiducia nel singolo segnale, più in un processo ripetibile e documentabile.