Während es ja noch lustig sein kann, Bildern von Freunden einen Schnurrbart mit dem Edding zu verpassen oder ihre Gesichter auszuschneiden und auf andere draufzukleben, werden solche normalerweise harmlosen Streiche zunehmend bitterer Ernst.
Dafür werden nur eben nicht mehr Schere, Kleber und Stift verwendet, sondern moderne künstliche Intelligenz, die diesen Streich (nahezu) perfekt beherrscht und wesentlich genauer vorgeht als wir. Solche sogenannten Deepfakes finden sich immer häufiger in der heutigen digitalen Welt, wie z.B. auf sozialen Medien oder auch während Echtzeit-Videokonferenzen – oder eben auch nicht, wenn sie wegen ihrer verblüffenden und beinahe erschreckenden Authentizität unerkannt bleiben und uns so täuschen.
Kommen wir diesem digitalen Gespenst also etwas genauer auf die Spur. Was ist es, woher kommt es, von wem kann es genutzt werden und, vielleicht am wichtigsten, wie kann man es erkennen?
„Deepfake“ – Was ist das eigentlich?
Unter einem Deepfake versteht man Medieninhalte, wie z.B. Fotos, Videos oder Audioaufnahmen, die mit der Hilfe von künstlicher Intelligenz abgeändert oder sogar vollständig erzeugt wurden.
Konkret bedeutet das, dass beispielsweise Gesichter nachgeahmt oder ausgetauscht werden, ganz ähnlich wie im eingangs erwähnten Beispiel. Diese Methode wird übrigens als „Face Swap“ bezeichnet.
KIs halten jedoch noch deutlich mehr Tricks in ihrem Speicher bereit. So können Personen auch fremde Wörter in den Mund gelegt werden, indem nicht nur Gesichter, sondern auch Stimmen von bestimmten Personen täuschend echt gefälscht werden. Wenn in einem Video dann auch noch die Mimik der unechten, sprechenden Person durch realistisch wirkende Mundbewegungen und natürliche Reaktionen wie Blinzeln und Emotionen nachgeahmt werden, können Deepfakes oft nur schwer enttarnt werden.
Die Technik hinter Deepfakes
Da Deepfakes, wie bereits erwähnt, auf künstlicher Intelligenz basieren, arbeiten sie mit äußerst moderner Technik und erfordern, insofern sie denn wirklich realistisch wirken sollen, auch einiges an Rechenleistung. Da die Leistungskapazität von Computern aber stetig wächst, was ich bereits in diesem Artikel angesprochen habe, wird die Unterscheidung von professionell verändertem und echtem Material immer schwieriger und durch Social Media können die Fakes schneller denn je verbreitet werden.
Wie schafft es eine solche KI aber nun, solche Fälschungen zu erstellen? Künstliche Intelligenzen verwenden für solche Prozesse das sogenannte Machine Learning. Dazu werden sie mit großen Mengen von Information „gefüttert“, bei Deep Fakes zum Beispiel mit Bild- und Videomaterial mit dem Gesicht der Person, das wir einer anderen Person als Maske „aufsetzen“ wollen. Dieses Material analysiert die KI und kann das Gesicht so schlussendlich rekonstruieren und mit einem anderen ersetzen.
Ein direktes Beispiel dafür kommt aus der Filmbranche, nämlich aus dem Film „Rogue One: A Star Wars Story“. Tatsächlich spielte den Charakter Prinzessin Leia nämlich nicht Carrie Fisher, die die Rolle normalerweise einnahm. Stattdessen wurde eine andere Schauspielerin eingesetzt und eine KI wurde mit den Aufnahmen der „tatsächlichen“ Leia aus den vorigen Filmen gefüttert, um das Gesicht der Schauspielerin in „Rogue One“ schlussendlich auszuwechseln.
Während das ein hochaufwendiger Prozess ist und die Fälscher immer professioneller werden, wird es auch für Menschen ohne entsprechende Kenntnisse zunehmend einfacher, mit der Hilfe von Apps und Programmen Deepfakes zu erzeugen und zu teilen. Auch die bekannten Filter, mit denen man sich in Echtzeit auch mal um 20 Jahre jünger oder aber auch wie ein etwas misslungenes Pferd aussehen lassen kann, arbeiten mit solcher Technik – Auch, wenn solche Manipulationen meist bedeutend leichter zu erkennen sind.
Was KIs aber inzwischen auf dem Kasten haben, zeigte sich auch bei einem Kunstwettbewerb in den USA, genauer gesagt in Colorado. Hier wurde nämlich ein Bild eingereicht, das eine KI generierte – und den ersten Platz ergatterte. Das stieß bei den anderen Künstlern jedoch auf Empörung, da diese keine KI für die Erstellung ihrer Werke verwendeten.
Deepfakes als kriminelles Mittel
Das obige Beispiel aus „Rogue One“ zeigt schon, dass Deepfakes vielseitig verwendet werden können und durchaus praktisch sind. Auch für Unterhaltungszwecke oder bei Satire werden diese Manipulationen gerne benutzt, wobei es hier meistens klar und offensichtlich ist, dass das Material abgeändert wurde.
Jedoch können sie genauso gut für kriminelle Taten verwendet werden – und genau hier liegt die Gefahr von Deepfakes. Schon oft kam es vor, dass in sozialen Medien Videos von Politikern und anderen bekannten Persönlichkeiten auftauchten, in denen ihnen Wörter anderer in den Mund gelegt wurden.
Das musste auch Franziska Giffey (SPD, regierende Bürgermeisterin Berlins) erfahren, als sie per Videokonferenz mit Vitali Klitschko (Bürgermeister Kiews) zugeschaltet war – oder zumindest dachte sie, dass sie das wäre. Die Konferenz verlief nämlich offenbar zuerst unauffällig, bis schließlich zunehmend merkwürdige Fragen vom angeblichen ukrainischen Kollegen aufkamen, z.B. ob Berlin bei der Ausrichtung eines Christopher-Street-Days mitten in Kiew helfen könne. Tatsächlich war es nämlich nicht Vitali Klitschko, der auf dem Bildschirm angezeigt wurde, sondern, wie sich herausstellte, ein Echtzeit-Deepfake.
Auch Schauspieler wurden diskreditiert, als plötzlich pornographische Inhalte mit ihren Gesichtern im Netz auftauchten.
Es zeigt sich also, dass diese modernen Manipulationsmethoden auch eine große Gefahr bergen und für Erpressung und Betrug, auch in politischen und juristischen Bereichen, von Kriminellen missbraucht werden können.
Umso wichtiger wird es für uns, die alltäglich mit einer regelrechten Flut von Informationen, Bildern und Videos aus aller Welt überrollt werden, solche Fakes zu erkennen.
Wie lassen sich Deepfakes erkennen?
Auch wenn künstliche Intelligenzen immer besser werden und die Fakes daher immer authentischer wirken, gibt es trotzdem noch ein paar Hinweise, an denen man erkennen kann, dass es sich um einen Deepfake handelt. Zum Schluss also ein paar Tipps, woran sie sich enttarnen lassen können.
- Der Teufel liegt im Detail: Es kann helfen, Bild- und Videomaterial mit einer höheren Auflösung anzusehen, etwa auf einem größeren Computerbildschirm. Dadurch lassen sich Unstimmigkeiten besser erkennen. Wenn z.B. die Qualität eines Gesichtes nicht mit dem Rest des Materials übereinstimmt, weil es z.B. verpixelt oder verwaschen erscheint, sollten die Alarmglocken läuten.
- Die Mimik: Wirken die Gesichtsausdrücke, wie etwa beim Stirnrunzeln oder Blinzeln der Person unauthentisch? Gibt es unnatürlich aussehende Verzerrungen? Daran lassen sich Face Swaps gerne enttarnen, besonders, wenn Videomaterial verlangsamt abgespielt wird.
- Der Inhalt: Wie realistisch ist es, dass die gezeigte Person sich tatsächlich in der dargestellten Situation befindet oder bestimmte Aussagen trifft? Hinterfrage kritisch!
- Die Quelle: Das wohl wichtigste kommt zu guter Letzt. Achte unbedingt darauf, wo du dich informierst! Ist die Quelle als vertrauenswürdig anzusehen? Welches Ziel wird versucht, mit dem Material zu erreichen und stammt es z.B. von professionellen Journalisten oder einem x-beliebigen Account im Social-Media-Meer?
Schlussendlich lässt sich sagen, dass man davon ausgehen kann, dass wir es in Zukunft immer mehr mit Deepfakes zu tun haben werden – sei es als praktisches Hilfsmittel oder kriminelles Werkzeug. Bei letzterem tragen auch wir selbst die Verantwortung, uns seriös zu informieren und Manipulationen erkennen und filtern zu können.
Warst du vielleicht schon selbst mit einem solchen Fake konfrontiert? Wie hast du ihn erkannt? Wie sehr hat es dich verunsichert? Teile deine Erfahrungen gerne mit uns in den Kommentaren oder über unseren Instagram-Account stilecht_mbg!
Antworten