Deepfake ist mehr als ein ausgetauschtes Gesicht[1][4]
Für Betrüger ist nicht nur ein manipuliertes Promi-Video interessant, sondern ein kompletter synthetischer Werkzeugkasten: generierte Profilbilder, gefälschte Ausweise, Stimmenklone, Live-Video, Übersetzungen und individuell formulierte Nachrichten.
FBI/IC3 warnt, dass generative KI Reichweite und Glaubwürdigkeit bestehender Finanzbetrugsmodelle erhöht. Profile, Webseiten, Dokumentbilder, Texte und Videos lassen sich schneller herstellen; zugleich verschwinden Sprachfehler, die früher ein Warnsignal waren.
KI erfindet damit meist keine neue Straftat. Sie senkt die Kosten eines alten Betrugs und erhöht die Zahl überzeugender Versuche.
Die typische Angriffskette
Ein überzeugender Deepfake-Angriff beginnt meist mit Datensammlung: Social-Media-Fotos, Sprachproben, Funktionen im Unternehmen, Familienbeziehungen, Lieferanten und organisatorische Abläufe. Daraus entsteht eine synthetische Persona oder Kopie einer realen Person.
Danach wird der Kontext gebaut. Eine geklonte CEO-Stimme überzeugt nur, wenn das Gespräch zur Realität des Unternehmens passt. Generative KI unterstützt Nachrichten, Übersetzungen und Geschichten. Erst dann folgt Druck: dringende Überweisung, neues Konto, MFA-Code, Systemzugang oder vertrauliches Dokument.
Besonders gefährlich ist synthetisches Audio oder Video als vermeintliche letzte Bestätigung nach mehreren bereits plausiblen Kontakten.
FBI-Zahlen: KI ist in realen Verlustkategorien angekommen[2]
Der IC3-Bericht 2025 weist Kategorien mit ausdrücklich gemeldetem KI-Bezug aus. Bei Employment Scams mit AI-Nexus wurden fast 13 Mio. USD Verluste gemeldet; bei Investment-Beschwerden mit AI-Nexus überstiegen die Verluste 632 Mio. USD.
Diese Werte sind nicht die Gesamtgröße von „KI-Betrug“. Das FBI weist darauf hin, dass Opfer oft gar nicht wissen, wie KI eingesetzt wurde. Die Zahlen zeigen den sichtbar gemeldeten Teil des Problems.
Genannt werden unter anderem Voice Spoofing oder mögliche Sprach-Deepfakes in Remote-Bewerbungsgesprächen sowie generierte Videos oder Stimmen von Prominenten und Geschäftsführern in Investmentbetrug.
Der entscheidende Effekt von KI ist nicht die Erfindung neuer Betrugsarten, sondern mehr Glaubwürdigkeit und höhere Skalierbarkeit.
Stimmenklonen: Warum das Ohr keine Authentifizierung ist[3]
Menschen behandeln eine vertraute Stimme als starken Identitätsbeweis. Die FTC beschreibt Fälle, in denen synthetische Stimmen Angehörige oder Führungskräfte imitieren, um Geld oder sensible Informationen zu erhalten.
Gleichzeitig gibt es laut FTC keine einzelne technische Wunderwaffe. Watermarks können verändert werden, Detektoren haben Grenzen und Authentifizierung muss in Kommunikations- und Geschäftsprozesse eingebaut werden.
Deshalb ist „klingt echt“ eine schwache Kontrolle. Ein unabhängiger Rückruf über einen bereits bekannten Kanal ist deutlich stärker.
Bilder und Video sollen vor allem Vertrauen herstellen[1][5]
Das FBI nennt generierte Profilfotos, Ausweisdokumente und Videos vermeintlicher Prominenter, Führungskräfte oder Behördenvertreter. In manchen Szenarien soll ein privater Videochat beweisen, dass ein Onlinekontakt eine echte Person ist.
Auch INTERPOL beschreibt 2026 Deepfake-as-a-Service und synthetische Identitätskits mit Video-Avataren, Stimmenklonen und biometrischem Material. Betrugstechnologie wird damit zu einer einkaufbaren Dienstleistung.
Deshalb muss Authentizität als Prozess geprüft werden: Dateiherkunft, Metadaten, synthetische Signale und Kontext. Ein Detektorwert darf Identitätsprüfung nicht ersetzen.
Unternehmen: Zahlungen nicht auf Basis eines Deepfakes freigeben[1][3]
Die besten Kontrollen sind oft langweilig. Genau deshalb funktionieren sie. E-Mail, Rufnummer, Stimme, Profilbild und Videobild können alle gefälscht werden; Freigaben dürfen nicht von einem einzigen dieser Signale abhängen.
- Änderungen von Lieferantenkonten über einen bereits bekannten Kanal bestätigen.
- Zahlungen über einem Schwellenwert mit Zweitfreigabe oder unabhängigem Faktor absichern.
- Call-back-Verfahren nutzen: Gespräch beenden und eine intern gespeicherte Nummer wählen.
- Videocalls nicht automatisch als starke Authentifizierung behandeln.
- Verdächtige Dateien und Mail-Header sichern.
- Mitarbeiter auf Dringlichkeit, Geheimhaltung und Aufforderungen zum Umgehen von Prozessen als Social-Engineering-Signale schulen.
Privatpersonen: Familie, Investitionen und angebliche Notfälle[1][2]
Das FBI empfiehlt ein familiäres Codewort und unabhängiges Zurückrufen der Person, die angeblich Hilfe benötigt. Das schützt gegen viele Szenarien, in denen der Täter eine Sprachprobe, aber nicht das gemeinsame Geheimnis besitzt.
Bei Investmentbetrug kann die gesamte Umgebung synthetisch sein: Experte, Videos, Kommentare, Chatbot und Handelsoberfläche. Zu prüfen sind deshalb Unternehmen, Lizenz, Domain und Geldfluss — nicht nur die Person im Werbevideo.
Fordert jemand sofort Geld, Krypto, Gutscheinkarten oder Zugangscodes und verhindert zugleich unabhängige Prüfung, ist die technische Qualität der Stimme zweitrangig.
Deepfake-Detektion ist Unterstützung, keine binäre Schranke[3][4]
Detektoren sind sinnvoll, wenn hohe Risiken zusätzliche Kontrollen auslösen: manuelle Prüfung, Originaldatei, Provenance-Check oder unabhängige Identitätsbestätigung.
Das passt zu den Behördenempfehlungen: Die FTC sieht keine einzelne Wunderlösung, und Strafverfolgungsbehörden beschreiben Betrug als Zusammenspiel von Technik, Social Engineering und krimineller Infrastruktur.
Die richtige Antwort auf Deepfakes ist nicht „man kann nichts mehr glauben“, sondern trust by verification: weniger Vertrauen in ein einzelnes Signal, mehr in einen dokumentierbaren Prozess.