Alapszabály: ritkán létezik egyetlen bizonyíték arra, hogy „ez AI”[1][2]
A kérdés binárisnak tűnik, a fájl azonban gyakran nem az. Egy kép lehet teljesen szintetikus, részben generált, inpaintinggel helyileg módosított, generatív retussal javított vagy egyszerűen újratömörített. Ezek eltérő nyomokat hagynak.
A NIST a szintetikus tartalom detektálását a provenance, watermarking és metaadatok mellett külön technikai rétegként kezeli. A detektorok pontosságát befolyásolja a tömörítés, a képminőség, a tartalom, a stílus és az is, hogy a vizsgált generátor mennyire hasonlít a tréning során látott modellekhez.
Ezért komoly vizsgálat nem egyetlen eszköztől kér ítéletet, hanem független jeleket gyűjt és azok összhangját vizsgálja.
A detektor pontszáma jel. Több független jel együtt válik használható bizonyítékká.
1. Az eredeti fájllal kezdj, ne képernyőképpel
Ha lehet, közvetlenül a készítőtől, kamerából vagy forrásrendszerből származó fájlt elemezd. A screenshot megváltoztatja a méretet és tömörítést, és rendszerint eltávolítja a metaadatok nagy részét. Ugyanez történhet üzenetküldők és közösségi platformok feldolgozása során.
Az eredeti fájl hozzáférést ad a formátumhoz, színprofilhoz, EXIF/XMP adatokhoz, JPEG/PNG szerkezethez, kódolási jellemzőkhöz és esetleges provenance-információhoz.
Vitás esetben SHA-256 hash-t is érdemes rögzíteni. Ez nem bizonyítja a hitelességet, de bizonyítja, hogy később pontosan ugyanazt a fájlt vizsgálták.
2. Provenance és Content Credentials (C2PA)[1][3]
A C2PA kriptográfiailag összekapcsolt adatokat ír le a digitális média eredetéről és szerkesztési történetéről. A Content Credentials jelezheti, hogyan készült a fájl, milyen műveleteket végeztek rajta és érintett-e generatív algoritmus.
A hiánya nem jelent valódiságot és nem is jelent hamisítást. Nem minden eszköz használja, és egyes platformok módosítják vagy eltávolítják az ilyen információkat.
Ha viszont egy manifest jelen van, helyesen ellenőrizhető és trained algorithmic media vagy konkrét generátor szerepel benne, az az adott fájl eredetére vonatkozó erős jel.
3. A metaadat hasznos, de könnyű túlértékelni[1]
Az EXIF kameramodellt, expozíciót, gyújtótávolságot, időpontot és szoftverinformációt tartalmazhat. Értékes lehet egy generátorra utaló mező vagy a deklarált kamera és a fájlstruktúra közötti ellentmondás.
A metaadat azonban törölhető, átírható vagy másolható. A hiányzó EXIF gyakori platform- és exportfolyamatok után; a hiánya önmagában nem bizonyít semmit.
4. Pixel- és tömörítési forenzika: következetlenségeket keresünk[1]
Vizsgálható a zajeloszlás, helyi tömörítési különbség, JPEG 8×8 rács, entrópia, ismétlődő textúra és Error Level Analysis. Ezek olyan régiókat jelölhetnek, amelyek másképp viselkednek, mint a kép többi része.
Egy anomália lehet legitim retusálás, többszöri mentés vagy hagyományos montázs eredménye is. Ugyanakkor egy teljesen generált kép belsőleg nagyon egységes lehet. A helyi forenzika akkor a legerősebb, ha provenance-szel, metaadattal és detektorokkal együtt értelmezzük.
Üzleti vitában az is fontos, hogy az anomália ott jelenik-e meg, ahol a kérdéses részlet — például egy állítólagos terméksérülés — található.
5. AI-detektorok: használj többet, és az egyetértést nézd[1][2]
A detektorok eltérő tréningadatokat, architektúrát és kalibrációt használnak, ezért ugyanaz a kép eltérő pontszámot kaphat. A NIST külön értékelési programokat futtat kép-diszkriminátorokra, mert az új generátorok és a cross-generator helyzetek különösen nehezek.
Nagyobb súlya van több független réteg összhangjának, mint egyetlen szélsőséges értéknek. Ha négy módszer alacsony kockázatot jelez, egy pedig 92/100-at, az eltérés okát kell megérteni, nem automatikusan hamisnak minősíteni a képet.
6. A vizuális ellenőrzés továbbra is hasznos, de csak előszűrés[4]
Az FBI torz kezeket, szemeket, fogakat, ékszereket, árnyékokat, mozgást vagy szinkronhibákat említ lehetséges figyelmeztető jelként. Gyors szűréshez ezek hasznosak.
A hiányuk azonban nem bizonyít valódiságot. A generátorok sokat javultak, míg valódi fényképek HDR, zajszűrés vagy erős tömörítés után mesterségesnek tűnhetnek.
Gyakorlati ellenőrzési folyamat
Ha visszatérítés, üzleti döntés vagy vita múlik az eredményen, rögzített eljárás kell.
- Őrizd meg a lehető legeredetibb fájlt, elemzés előtt ne mentsd újra.
- Rögzíts SHA-256-ot, formátumot, méretet és képméretet.
- Vizsgáld meg a C2PA/Content Credentials, EXIF, XMP és szoftvernyomokat.
- Elemezd a fájlstruktúrát és helyi pixel-/tömörítési anomáliákat.
- Futtass több független AI/deepfake detektort.
- Vesd össze az eredményeket a forrással, dátummal, kapcsolódó képekkel és ügykörnyezettel.
- A végkövetkeztetés kockázati szint legyen, ne a készítő szándékára vonatkozó megfellebbezhetetlen állítás.
A jó forenzika nem mindenáron akar AI-t bizonyítani. Elkülöníti az erős jeleket attól, amit a fájl egyszerűen nem tud megmondani.
Mit jelent a 20/100, 60/100 vagy 90/100?
Egy pontszám csak akkor értelmes, ha látszik, miből áll. Hat egymással összhangban lévő rétegből származó 20/100 más, mint egyetlen klasszifikátor 20/100-as eredménye. A közvetlen provenance alapján kapott magas érték is más súlyú, mint egy magányos detektor magas pontszáma.
A jó jelentés ezért megmutatja az összesített eredményt, forráseredményeket, elérhető rétegeket, metaadatokat és korlátokat. Technikai elemzés támogathat döntést, de önmagában nem állapítja meg a szerzőt, a szándékot vagy jogi felelősséget.