Základné pravidlo: jeden znak zriedka dokazuje „toto je AI“[1][2]
Otázka znie binárne, no súbor často binárny nie je. Obrázok môže byť celý syntetický, čiastočne generovaný, lokálne upravený inpaintingom, generatívne retušovaný alebo iba opakovane komprimovaný. Každý scenár zanecháva iné stopy.
NIST chápe detekciu syntetického obsahu ako jednu z viacerých technických vrstiev popri provenance, watermarkingu a metadátach. Presnosť detektorov ovplyvňuje kompresia, kvalita, štýl, obsah a podobnosť testovaného generátora s modelmi použitými pri tréningu.
Seriózna analýza preto nežiada verdikt od jedného nástroja. Zbiera nezávislé signály a skúma, či spolu dávajú technický zmysel.
Skóre detektora je signál. Viac nezávislých signálov tvorí použiteľný dôkazový obraz.
1. Začnite originálnym súborom, nie screenshotom
Ak je to možné, analyzujte súbor priamo od autora, fotoaparátu alebo zdrojového systému. Screenshot mení rozmery a kompresiu a často odstráni metadáta. Podobne postupujú mnohé messengery a sociálne siete.
Originál umožňuje kontrolu formátu, farebného profilu, EXIF/XMP, štruktúry JPEG/PNG, spôsobu kódovania a prípadných údajov o provenance.
Pri spore je vhodné zapísať aj SHA-256. Hash nepotvrdzuje pravosť, ale dokazuje, že neskôr bola skúmaná presne tá istá zabezpečená verzia súboru.
2. Skontrolujte provenance a Content Credentials (C2PA)[1][3]
C2PA opisuje kryptograficky previazané informácie o pôvode a histórii digitálneho média. Content Credentials môžu uvádzať, ako súbor vznikol, aké úpravy prebehol a či bol zdrojom generatívny algoritmus.
Absencia C2PA však nie je dôkazom pravosti ani falšovania. Štandard je dobrovoľný a platformy môžu metadáta odstrániť alebo zmeniť.
Ak je manifest prítomný, validný a deklaruje trained algorithmic media alebo konkrétny generátor, ide o veľmi silný signál pôvodu konkrétneho súboru.
3. Metadáta sú užitočné, no ľahko sa preceňujú[1]
EXIF môže obsahovať model fotoaparátu, expozíciu, ohnisko, čas a softvér. Zaujímavý môže byť názov generátora, nezvyčajný exportný program alebo rozpor medzi deklarovaným zariadením a reálnou štruktúrou súboru.
Metadáta však možno odstrániť, prepísať alebo skopírovať. Prázdny EXIF po komunikátore alebo sociálnej sieti je bežný a sám nič nedokazuje.
4. Pixelová a kompresná forenzika: hľadáme nekonzistencie[1]
Možno skúmať rozloženie šumu, lokálne rozdiely kompresie, JPEG mriežku 8×8, entropiu, opakujúce sa textúry či Error Level Analysis. Tieto metódy vedia označiť oblasti, ktoré sa správajú inak než zvyšok súboru.
Anomália však môže pochádzať aj z legitímnej retuše, opakovaného uloženia alebo klasickej montáže. Naopak úplne generovaný obraz môže byť vnútorne veľmi konzistentný.
Lokálna analýza je najsilnejšia v kombinácii s provenance, metadátami a detektormi a môže ukázať, či sa anomália zhoduje s miestom dôležitým pre spor — napríklad údajné poškodenie produktu.
5. AI detektory: používajte viacero a sledujte zhodu[1][2]
Detektory používajú rozdielne tréningové dáta, modely a kalibrácie, takže rovnaký obrázok môže dostať rozdielne výsledky. NIST preto samostatne hodnotí image discriminators a ich schopnosť pracovať aj s novými generátormi.
Zhoda viacerých nezávislých vrstiev je spravidla hodnotnejšia než extrémne číslo jedného nástroja. Ak štyri metódy ukazujú nízke riziko a jedna 92/100, treba skúmať rozpor — nie automaticky vyhlásiť obrázok za falošný.
6. Vizuálna kontrola stále pomáha, ale iba ako triáž[4]
FBI uvádza deformované ruky, oči, zuby, šperky, tiene, pohyb či nesúlad zvuku ako možné varovné znaky. Sú vhodné na rýchle prvotné posúdenie.
Ich neprítomnosť však nepotvrdzuje autenticitu. Generátory sa zlepšili a reálne fotografie po HDR, odšumení alebo silnej kompresii môžu pôsobiť umelo.
Praktický postup kontroly obrázka
Keď od výsledku závisí refundácia, obchodné rozhodnutie alebo spor, opakovateľný proces je bezpečnejší než intuícia.
- Zachovajte čo najoriginálnejší súbor a pred analýzou ho znovu neukladajte.
- Zapíšte SHA-256, formát, rozmery a veľkosť.
- Skontrolujte C2PA/Content Credentials, EXIF, XMP a softvérové stopy.
- Preskúmajte štruktúru súboru a lokálne pixelové či kompresné anomálie.
- Použite viac než jeden nezávislý AI/deepfake detektor.
- Porovnajte výsledky so zdrojom, dátumom, ďalšími obrázkami a kontextom prípadu.
- Záver formulujte ako úroveň rizika a súbor zistení, nie ako neomylné tvrdenie o úmysle autora.
Dobrá forenzika sa nesnaží dokázať AI za každú cenu. Oddeľuje silné signály od toho, čo zo súboru jednoducho nemožno zistiť.
Čo znamená výsledok 20/100, 60/100 alebo 90/100?
Skóre má význam len vtedy, keď vidíme, z čoho vzniklo. 20/100 zo šiestich zhodných vrstiev nie je to isté ako 20/100 z jediného klasifikátora. Priama provenance má tiež inú dôkaznú váhu než vysoké číslo izolovaného detektora.
Dobrý report preto ukazuje agregované skóre, zdrojové výsledky, dostupnosť vrstiev, metadáta, technické obmedzenia a hlavné zistenia. Technická analýza môže podporiť rozhodnutie, no sama neurčuje autora, úmysel ani právnu zodpovednosť.