Deepfake е повече от подменено лице във видео[1][4]
За измамника е полезен цял синтетичен toolkit: генерирани профилни снимки, фалшиви документи, клониране на глас, real-time видео, автоматичен превод и персонализирани съобщения.
FBI/IC3 предупреждава, че генеративният AI увеличава мащаба и убедителността на съществуващи финансови измами. Профили, сайтове, документи и видео се произвеждат по-бързо, а езиковите грешки, които преди издаваха измамата, изчезват.
AI рядко измисля ново престъпление: той намалява цената на старото и увеличава броя убедителни опити.
Типичната верига на атака
Първо се събират данни: снимки от социални мрежи, гласови проби, длъжности, семейни връзки, доставчици и вътрешни процеси. След това се изгражда синтетична персона или копие на реален човек.
Следва контекстът. Клониран глас на директор трябва да говори неща, които пасват на компанията. После идва натискът: спешен превод, нова банкова сметка, MFA код, достъп до система или поверителен документ.
Най-опасно е когато синтетично аудио или видео служи като последно „потвърждение“ след вече убедителна поредица от контакти.
FBI: AI вече се вижда в реални категории загуби[2]
Докладът IC3 за 2025 г. показва категории с изрично докладван AI nexus. При employment scams с такава връзка загубите са почти 13 млн. USD, а при investment complaints — над 632 млн. USD.
Тези числа не са целият размер на AI измамите, защото много жертви не знаят дали AI е използван. Те показват видимия и маркиран слой на проблема.
FBI споменава voice spoofing или възможни voice deepfake при дистанционни интервюта и генерирани видео или гласове на знаменитости и CEO при инвестиционни измами.
Основният ефект на AI е да увеличи убедителността и капацитета на вече печеливши измамни схеми.
Клониране на глас: слухът не е автентикация[3]
Познатият глас се възприема като силен сигнал за самоличност. FTC описва измами, в които синтетичен глас имитира роднина или ръководител, за да получи пари или информация.
FTC подчертава, че няма една магическа технология: watermark и детекцията имат ограничения, а автентикацията трябва да е част от процеса.
По-сигурно е разговорът да се прекрати и човекът да се потърси по предварително известен независим канал, вместо само да се преценява дали гласът „звучи истински“.
Изображенията и видеото често изграждат доверие[1][5]
FBI посочва генерирани профилни снимки, документи и видеа на публични личности или ръководители. Видеосреща може да бъде използвана като фалшиво доказателство, че онлайн контактът е реален човек.
INTERPOL през 2026 г. описва deepfake-as-a-service и комплекти синтетична идентичност с видео аватари, гласови клонинги и биометрични данни. Технологията за измама се превръща в услуга.
Затова трябва да се проверяват provenance, метаданни, синтетични сигнали и контекст, без независимата проверка на самоличност да се заменя с един detector score.
За компании: как да не одобрите плащане заради deepfake[1][3]
Устойчивият процес предполага, че email, номерът на обаждащия се, гласът, профилната снимка и видеото могат да бъдат фалшифицирани.
- Промяна на банкова сметка на доставчик да се потвърждава по предварително известен канал.
- Над определен праг да се изисква второ одобрение или независим фактор.
- Да се използва call-back към номер от доверен вътрешен указател.
- Видеосреща да не се счита сама по себе си за силна автентикация.
- Да се пазят подозрителни файлове и email headers.
- Персоналът да бъде обучаван за натиск, спешност, тайна и искания за заобикаляне на нормалната процедура.
За хора: семейство, инвестиции и „спешен проблем“[1][2]
FBI препоръчва семейна тайна дума или фраза и независимо обратно обаждане на човека, който уж се нуждае от помощ. Нападателят може да има гласова проба, но да не знае общата тайна.
При инвестиционна измама синтетична може да е цялата среда: експерт, видео, коментари, chatbot и фалшив dashboard. Трябва да се проверяват компанията, лицензът, домейнът и движението на парите.
Deepfake детекцията трябва да подпомага решението[3][4]
Висок риск може да задейства ръчна проверка, искане на оригинала, provenance проверка или независимо потвърждение на самоличността. Това е по-устойчиво от автоматичен бинарен verdict.
Правилният отговор не е „вече не можем да вярваме на нищо“, а trust by verification: по-малко доверие в един сигнал и повече в повторяем и документиран процес.