- Deepfake: KI-generierte Fälschungen von Stimme, Gesicht oder Video werden realistischer und stellen Unternehmen vor neue Betrugs- und Reputationsrisiken.
- Ein Finanzdienstleister erhielt 2024 einen vermeintlichen Videoanruf des CFO mit der Anweisung zu einer dringenden Auslandsüberweisung — ein Deepfake-Angriff, der erst durch einen Rückruf über einen verifizierten Kanal verhindert wurde.
- Der Begriff setzt sich aus Deep Learning und Fake zusammen.
/01Was sind Deepfakes?
Der Begriff setzt sich aus Deep Learning und Fake zusammen. Deepfakes sind synthetische Medien — Video, Audio oder Bild — bei denen KI-Modelle, insbesondere generative Adversarial Networks (GANs) und Diffusionsmodelle, Aussehen, Stimme oder Verhalten realer Personen täuschend echt imitieren.
Frühe Deepfakes erforderten große Datenmengen und erhebliche Rechenkapazität. Inzwischen reichen wenige Sekunden Sprachaufnahme für eine überzeugende Stimmfälschung. Diese Zugänglichkeit erhöht das Missbrauchspotenzial erheblich.
/02Risiken und Erkennungsansätze
Deepfakes werden für verschiedene Angriffsszenarien eingesetzt:
- CEO-Fraud: Gefälschte Sprachnachrichten oder Videoanrufe täuschen Mitarbeitende zur Überweisung
- Desinformation: Politische oder geschäftliche Manipulationen durch gefälschte Aussagen
- Identitätsdiebstahl: Umgehung biometrischer Sicherheitssysteme
- Reputationsschaden: Verbreitung kompromittierender Fake-Inhalte über Führungspersonen
Praxisbeispiel
Ein Finanzdienstleister erhielt 2024 einen vermeintlichen Videoanruf des CFO mit der Anweisung zu einer dringenden Auslandsüberweisung — ein Deepfake-Angriff, der erst durch einen Rückruf über einen verifizierten Kanal verhindert wurde.
/03Relevanz für den Mittelstand
KMU sind zunehmend Ziel von Deepfake-gestütztem Betrug, da sie oft weniger strenge Verifikationsprozesse haben als Großkonzerne. Prävention umfasst: klare Freigabeprozesse für Zahlungsanweisungen mit Mehrfach-Authentifizierung, Schulung der Mitarbeitenden zur kritischen Medienrezeption sowie Einsatz von Deepfake-Erkennungssoftware für eingehende Medieninhalte. Der EU AI Act verlangt zudem eine Kennzeichnungspflicht für KI-generierte Inhalte.