Deepfake yra daugiau nei pakeistas veidas vaizdo įraše[1][4]
Sukčiams svarbus visas sintetinis įrankių komplektas: generuotos profilio nuotraukos, netikri dokumentai, balso klonai, realaus laiko video, automatinis vertimas ir konkrečiai aukai pritaikytos žinutės.
FBI/IC3 įspėja, kad generatyvinis AI didina jau egzistuojančių finansinių schemų mastą ir patikimumą. Profiliai, svetainės, dokumentai ir video kuriami greičiau, o kalbos klaidos, anksčiau išduodavusios sukčių, nyksta.
Taigi AI dažniausiai nesukuria naujo nusikaltimo — jis sumažina seno kainą ir padidina patikimų bandymų skaičių.
Tipinė atakos grandinė
Pirmiausia renkami duomenys: socialinių tinklų nuotraukos, balso pavyzdžiai, pareigos, šeimos ryšiai, tiekėjai ir vidiniai procesai. Tada kuriama sintetinė persona arba realaus žmogaus kopija.
Toliau kuriamas kontekstas. Klonuotas vadovo balsas veiks tik jei istorija atitiks įmonės realybę. Po to ateina spaudimas: skubus pavedimas, nauja sąskaita, MFA kodas, prieiga prie sistemos ar konfidencialus dokumentas.
Pavojingiausia, kai sintetinis audio ar video panaudojamas kaip paskutinis „patvirtinimas“ po kelių jau įtikinamų kontaktų.
FBI: AI jau matomas realiose nuostolių kategorijose[2]
2025 m. IC3 ataskaita išskiria skundus, kuriuose nurodytas AI nexus. Employment scams atveju pranešta beveik apie 13 mln. USD, o investment complaints su AI nexus — daugiau nei 632 mln. USD nuostolių.
Tai nėra visas AI sukčiavimo mastas, nes daugelis aukų nežino, ar AI buvo naudotas. Tai veikiau aiškiai pažymėta matoma problemos dalis.
FBI mini voice spoofing ar galimus voice deepfake nuotoliniuose darbo pokalbiuose ir generuotus įžymybių ar CEO video bei balsus investiciniuose sukčiavimuose.
Svarbiausias AI poveikis — jau pelningų sukčiavimo schemų patikimumo ir našumo didinimas.
Balso klonavimas: ausis nėra autentifikacija[3]
Pažįstamą balsą žmonės laiko stipriu tapatybės signalu. FTC aprašo sukčiavimus, kuriuose sintetinis balsas imituoja šeimos narį ar vadovą ir prašo pinigų ar informacijos.
FTC taip pat pabrėžia, kad nėra vienos stebuklingos technologijos: watermark ir detektoriai turi ribas, todėl autentifikacija turi būti proceso dalis.
Patikimiau nutraukti pokalbį ir susisiekti su žmogumi anksčiau žinomu kanalu nei vertinti vien tai, ar balsas skamba natūraliai.
Vaizdai ir video dažnai skirti pasitikėjimui sukurti[1][5]
FBI mini generuotas profilio nuotraukas, dokumentus ir viešus asmenis ar vadovus vaizduojančius video. Vaizdo skambutis gali būti naudojamas kaip tariamas įrodymas, kad internetinis kontaktas yra realus.
INTERPOL 2026 m. aprašo deepfake-as-a-service ir sintetinės tapatybės rinkinius su video avatarais, balso klonais bei biometriniais duomenimis. Sukčiavimo technologija tampa perkama paslauga.
Todėl reikia tikrinti provenance, metaduomenis, sintetinius signalus ir kontekstą, o ne pakeisti tapatybės tikrinimą vienu detektoriaus balu.
Įmonėms: kaip nepatvirtinti mokėjimo dėl deepfake[1][3]
Saugus procesas daro prielaidą, kad el. paštas, telefono numeris, balsas, profilio nuotrauka ir vaizdo skambutis gali būti suklastoti.
- Tiekėjo banko sąskaitos pakeitimą patvirtinti anksčiau žinomu kanalu.
- Virš nustatytos ribos reikalauti antro patvirtintojo ar nepriklausomo faktoriaus.
- Naudoti call-back į numerį iš patikimo įmonės katalogo.
- Vaizdo skambučio nelaikyti stipria autentifikacija savaime.
- Išsaugoti įtartinus failus ir el. laiškų antraštes.
- Mokyti darbuotojus atpažinti skubumą, slaptumą ir prašymus apeiti įprastą procedūrą.
Privatiems asmenims: šeima, investicijos ir „skubi nelaimė“[1][2]
FBI rekomenduoja šeimos slaptą žodį ar frazę ir nepriklausomai perskambinti žmogui, kuriam tariamai reikia pagalbos. Užpuolikas gali turėti balso įrašą, bet nežinoti bendro slapto žodžio.
Investiciniame sukčiavime sintetinis gali būti visas pasaulis: ekspertas, video, komentarai, chatbot ir netikras dashboard. Tikrinti reikia įmonę, licenciją, domeną ir pinigų judėjimą.
Deepfake detekcija turi padėti sprendimui, o ne būti binariniai vartai[3][4]
Aukštas rizikos signalas gali inicijuoti rankinę peržiūrą, originalo prašymą, provenance kontrolę ar nepriklausomą tapatybės patvirtinimą. Tai patikimiau nei automatinis vieno detektoriaus verdiktas.
Teisinga reakcija nėra „nebegalima niekuo tikėti“, o trust by verification: mažiau pasitikėjimo vienu signalu, daugiau — pakartojamu ir dokumentuojamu procesu.