Schaut man sich das einleitende Beispiel des Mitarbeiters an, der fälschlicherweise Geld überwiesen hat, lässt sich die Tragweite von Deepfakes erahnen. Rückt aber die Gesellschaft in den Fokus, sieht das Gesamtbild der Folgen noch mal anders aus: Es ist möglich, Technologie für Desinformation und Propaganda zu nutzen und somit Vertrauen in Medien oder öffentlichen Diskurs gezielt zu beschädigen. Auch vor der Politik machen Deepfakes nicht halt, manipulieren öffentliche Meinung oder beeinflussen gar Wahlen. Wie das gelingt? Kandidatinnen und Kandidaten könnten in falschen Situationen gezeigt werden, was wiederum zu einem veränderten Meinungsbild führt. Reputationen und Persönlichkeiten werden im Handumdrehen beschädigt. Genau deswegen bedarf es rechtlicher Rahmenbedingungen ebenso wie ethischer Richtlinien, um Missbrauch entgegenzuwirken und im selben Zuge Meinungs- und Schaffensfreiheit aufrechtzuerhalten. Hier benötigen wir eine Symbiose aus Technologie, rechtlichen Vorgaben und allgemeinem gesellschaftlichem Verständnis.
Wachsam sein und handeln
Hinschauen und identifizieren – darum geht es bei der Abwehr von KI-Manipulationen und dem korrekten Umgang mit der innovativen Technologie. Ohne genaues Hinsehen lässt sich oftmals kein Unterschied zwischen Original und Fälschung erkennen. Doch Unstimmigkeiten gehören in der Regel zu den generierten Inhalten, beispielsweise nicht zur Situation passende Mimik oder wenig natürliche Gesichtsbewegungen. Auch die Bewegungen der Augen wirken manches Mal unkoordiniert, die Synchronisation der Lippen stimmt nicht – das Gesprochene lässt sich nicht wiedererkennen. Ein weiteres Thema ist die Beleuchtung, die inkonsistent sein kann und somit Licht ins Dunkel bringt.
Man kann davon ausgehen, dass der Fortschritt bei Deepfakes nicht haltmacht. Genau aus diesem Grund befassen sich Forscher und Technologieunternehmen schon seit Längerem mit dem Entwickeln entsprechender Tools und Algorithmen, die bei der Erkennung der Fälschungen helfen. Der Schlüssel: Die Werkzeuge verwenden selbst den eigentlichen Deepfakes ähnliche Technologien – etwa KI oder maschinelles Lernen – die auf Details und Anomalien achten und in der Lage sind, diese zu erkennen. Anders als vielleicht der Mensch, dem diese Dinge nicht auffallen. All dies verliert allerdings seinen Wert, wenn die Öffentlichkeit nicht mit ins Boot genommen wird. Bewusstsein zu schaffen über etwa Informationskampagnen oder entsprechende Programme muss ganz oben auf der Agenda stehen.