Auf den Spuren großer Kunstfälscher - Wie Deepfakes unsere Gesellschaft auf die Probe stellen

Ein Angestellter führt einen Videocall mit seinem Chef. Es handelt sich um den CFO, auch andere bekannte Gesichter aus dem Unternehmen sind Teil des Meetings. Alles wie immer, dachte sich der Mitarbeiter. In der Einladung, die per E-Mail kam, war von einer „geheimen Transaktion“ die Rede. Schnell klärte sich in der Konferenz auf: Er solle eine große Summe überweisen an ein ihm genanntes Konto, mehr als 23 Millionen Euro. Gesagt, getan, denn das hatte er bereits mehrfach genauso gemacht. Was diesen Vorgang allerdings von allen bisherigen unterscheidet, ist, dass es sich um einen wie wirklich erscheinenden KI-Betrug handelte. Alle im Videocall mitwirkenden „Personen“ waren nicht echt, erzeugt durch Technologie auf Grundlage von öffentlichem Video- und Filmmaterial. Sogenannte KI-Deepfakes verbreiteten sich zuletzt rasant – und haben teils immense Auswirkungen.

Verantwortungsbewusstsein schärfen

Künstliche Intelligenz bringt eine Menge Vorteile mit sich, aber auch Herausforderungen. Wie weit diese reichen, zeigt das skizzierte Beispiel. KI-Deepfakes werden mittlerweile von Kriminellen unter anderem dafür genutzt, Gesichtserkennungsprogramme zu umgehen und sich so zu bereichern.

Angesichts der wachsenden Dimensionen solcher kriminellen Handlungen in Unternehmen gewinnt die Sensibilisierung für das Thema heute mehr an Bedeutung als jemals zuvor. Der AI Act – das EU-Gesetz zur künstlichen Intelligenz – definiert Deepfakes als KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die existierenden Personen, Objekten, Orten oder anderen Entitäten oder Ereignissen ähneln und einer Person fälschlicherweise als authentisch oder wahrhaftig erscheinen würden. Dementsprechend kann es sich also auch um Manipulationswerkzeuge handeln, die bewusst Ereignisse generieren und diese gezielt einsetzen. Auch hierzu ein bezeichnendes Beispiel, das die Problematik veranschaulicht – laut Bloomberg könnte es der erste Fall gewesen sein, in dem ein von der KI erstelltes Bild den Markt beeinflusste. Im Mai 2023 führte ein manipuliertes Bild einer Explosion nahe des Pentagons zu Reaktionen an der New Yorker Börse. Die Vertrauenswürdigkeit der KI muss also zwingend weiter gestärkt werden.

Grenzen schwinden

Grundsätzlich lässt sich festhalten: Zwei Welten verschmelzen nach und nach zu einer, die analoge und die digitale. Große Teile des täglichen Lebens finden online statt. Das reicht vom Wocheneinkauf mit der App über die Abwicklung der Banküberweisung bis hin zum Videocall im Arbeitsalltag. Was noch vor einigen Jahren wie selbstverständlich offline stattfand, spielt sich heute ebenso klar in der digitalen Welt ab. KI-Verfahren kommen deswegen zunehmend mehr zum Einsatz, der Bedarf ist da. Doch wie beschrieben, bringt diese Technologie auch Gefahren mit sich – Stichwort Deepfakes. Hinter ihnen verbirgt sich ein kompliziertes Vorgehen, das Training beinhaltet. Zugrunde liegen Algorithmen des maschinellen Lernens, die mit realem Bild- und Tonmaterial trainieren. Wir sprechen von Deep Learning. Solche Modelle schaffen es durch Lernen, Gesichtszüge, Sprachmuster und Bewegungen nachzuahmen – und zwar so detailliert, dass sie sich so gut wie gar nicht von den realen Aufnahmen abgrenzen. Künstlerisch genutzt entstehen gar Kunstwerke oder neue Filmtechniken. Mit kriminellem Hintergrund sind die Folgen deutlich negativer: Desinformation, politische Manipulation und persönliche Diffamierung sind nur ein paar Beispiele, über welche Macht Deepfakes verfügen.