Deepfakes erkennen

Stell dir vor, du siehst ein Video, in dem dein Lieblings-Superheld komische Dinge sagt oder macht, die er normalerweise nie tun würde. Entweder er steht nun unter dem Einfluss des Bösen und wurde durch Drogen oder eine Gehirnwäsche dazu gezwungen sich so zu verhalten wie er es nie tun würde. Oder etwas anderes ist passiert. Und zwar folgendes:

Wenn du einen Film siehst (z.B. auf Netflix) und die Geschichte ist ein wenig seltsam, dann hat da wohl der Drehbuchautor, der Regisseur, jemand anderes oder alle zusammen Mist gebaut. Das macht keinen Spaß aber das war’s auch schon. Du schaltest um oder aus und die Welt hat keinen schaden davon genommen. Höchstens deine Laune hat etwas gelitten.

Aber wenn nun auf anderen Kanälen wie YouTube, Instagram, TikTok oder sogar den öffentlich rechtlichen Programmen, plötzlich jemand vertrautes etwas sagt oder macht dass du so nicht erwartest oder kennst, dann wird es sehr seltsam.

Vielleicht sind es Nachrichten, eine Ankündigung oder Aussagen die dich erschrecken, Angst oder Mut machen. Aber das was da gesagt wird, ist so nie geschehen. Die Person hat es nie gesagt und weiß vielleicht auch nichts davon. Denn sie hat dieses Video nie aufgenommen.

Dann könnte es ein Deepfake-Video sein.

Selenskyj kapituliert. Auch dieses Video war ein Deepfake und zeigt zu was diese Technologie in der Lage ist.

Deepfake ist wie Zauberei für Videos. Leute verwenden besondere Computer-Programme, um Gesichter in Videos zu verändern. Sie können das Gesicht von einer Person durch das Gesicht einer anderen Person ersetzen, als ob sie eine Maske tragen würden. Du erinnerst dich vielleicht an Mission Impossible. Nur das die Maske Digital ist und nicht physisch aus Gummi.

Dadurch sieht es so aus, als ob die Person im Video wirklich diese Dinge sagt und macht. Es ist wichtig zu wissen, dass nicht alles, was du online siehst, immer echt ist. Manchmal machen Leute Spaß mit Deepfake-Videos, aber manchmal versuchen sie auch, andere zu täuschen.

Deepfakes werden immer besser. Dennoch kann man sie (noch) gut identifizieren und mit ein wenig Recherche von echten Videos unterscheiden. Und so geht’s:

Der Unterschied zwischen Deepfakes und KI generierten / Computer generierten Bildern

Deepfakes unterscheiden sich von frei generierten Bildern dadurch, dass du bei Deepfakes Bilder von echten Menschen nimmst um so eine digitale Maske zu erstellen, die du dann jemand anderem Aufsetzt.

• Es gibt einen Spender (das Gesicht dass man verwenden möchte)
• Und einen Empfänger (das Gesicht das ausgetauscht werden soll)

Ein berühmtes Beispiel für ein Deepfake ist das sogenannte Faceswapping. Dabei müssen allerdings bei beteilligten im Bild bzw. Video zu sehen sein. Gefährlicher und weniger Amüsant ist das Face Reenactment.

Dabei werden Aussehen, Mimic und Bewegungen  des Spenders kopiert und auf den Empfänger übertragen. Dafür muss der Spender nicht im Video zu sehen sein. Ein Algorithmus / KI wird mit Bildern des Spenders gefüttert, je mehr desto besser. Diese Informationen werden zwischengespeichert und später dann auf den Empfänger in einem bestehenden Video übertragen. Somit ist nur der Empfänger zu sehen, mit dem Gesicht des Spenders. Er agiert und redet scheinbar wie dieser.

Denn man kann heutzutage auch stimmen kopieren, aber dazu mehr in einem anderen Beitrag.

Barack Obama ist ein berühmter Mann. Als ehemaliger Präsident der Vereinigten Staaten von Amerika gibt es unzähliges Bild- und Videomaterial von ihm mit dem man eine Deepfake Software füttern kann. Das macht ihn besonders anfällig für Deepfakes und so geht es den meisten berühmten Persönlichkeiten. Je mehr Bilder es von dir im Netz gibt, umso leichter bist du zu kopieren. (Quelle: MIT)

Hat man nun genug Bilder zusammen und die Software hat alle Informationen berechnet, benötigt man nur noch einen Empfänger. Im Idealfall hat der Empfänger bereits etwas Ähnlichkeit mit dem Spender. Statur, Frisur, vielleicht sogar schon eine natürliche Ähnlichkeit. Wenn nun die Daten auf das Empfängervideo Übertragen werden, sieht die Person im Video im Idealfall dem Spender zum verwechseln ähnlich. Das kann lustig sein, aber auch verdammt gefährlich. Vor allem in einer Zeit in der Desinformation und Verwirrung von Extremisten ausgenutzt werden um ihre Ziele zu erreichen.

Denn es gibt ein Problem mit solcher Deepfake Software: Sie steht jedem frei zur Verfügung!

In diesem Fall wurde Tom Cruise im Video geklont und ist vom original fast nicht zu unterscheiden.

Du denkst dir vielleicht so etwas wie: Ok, das sind jetzt alles berühmte Persönlichkeiten, warum sollte mich das kümmern? Mich betrifft sowas ja nicht direkt.

Das stimmt leider nicht. Die Technologie schreitet immer weiter voran und mit der Zeit werden immer weniger Informationen benötigt um eine Kopie eines Menschen zu erstellen. Es reicht vielleicht schon dass was du selbst veröffentlicht hast. Oder noch schlimmer: Das was deine Kinder veröffentlichen oder du von Ihnen in’s Netz stellst.

Welche Auswirkungen das haben kann, zeigt die Deutsche Telekom in diesem Video:

Der Enkeltrick in der XXL Ausführung

Du siehst, diese Technologie ist faszinierend und beängstigend zugleich. Man kann natürlich auch viel tolles damit erschaffen. Der Stuntman im Hollywoodfilm sieht nun tatsächlich aus wie der Schauspieler und andere harmlose Anwendung in der Entertainment-Branche sind möglich.

Was ich dir damit sagen möchte ist: Sei vorsichtig und glaube nicht sofort alles was du im Internet siehst.

Auf diese Punkte kannst du achten um Deepfakes zu entlarven

Woran erkennst du nun, dass es sich um einen Deepfake handelt oder nicht?

Wenn du dir ein Video anschaust und bist dir nicht sicher ob es echt ist oder nicht, gibt es folgende Punkte auf die du achten kannst:

• Niedrige AuflösungDie meisten von Amateuren durchgeführten Deepfakes haben noch immer eine recht geringe Auflösung, oft nicht mal HD
• Abweichende GesichtsformBei vielen Deepfakes wirkt das Gesicht leicht entstellt bzw. weicht vom gewohnten Bild ab. Oft zu erkennen am Kinn und um die Mundwinkel herum.
• Reine FrontansichtDer aktuelle Entgegner von Deepfakes ist immer noch das Seitenprofil eines Menschen. Hier zeigen sich noch oft die meisten Fehler und Überlappungen werden Sichtbar. Ist das Video nur in der Frontansicht zu sehen, kann das also ein Indiz sein.
• Die Augen und MimicApropos Frontansicht. Wenn du das Gefühl hast dass der Mensch im Video dir Seelenlos Phrasen entgegenwirft, die Mimic ein wenig hakt und das linke und das rechte Auge unterschiedliche Reflektionen zeigen, kann das ein klares Indiz für ein Deepfake sein.
• Glatte HautWirkt die Haut sehr glatt und sein keine Poren zu erkennen, kann das auch ein Indiz für ein Deepfakevideo sein. Auch wenn bei bestimmten Bewegungen keine falten entstehen und alles recht starr wirkt, ist es meistens kein echtes Gesicht.
• Sind andere Personen zu sehen?Die Anatomie eines Deepfake Videos ist oft gleich. Du siehst nur eine Person, ein cleaner Hintergrund, keine anderen Personen sind mit drin und es gibt keinen bis kaum Perspektivwechsel.

Keine Ahnung was hier passiert ist. Aber neben dem allgemein niedrig aufgelösten Video / Bild ist das Gesicht quasi nur noch Matsch. Diese unheilige Mischung aus Elon Musk und…ähm…Brad Pitt?…zeigt so ziemlich alle Fehler die es gibt. Die Augen sind leicht versetzt, die Gesichtsform untypisch, niedrige Auflösung und eine Mimik wie ich sie nur kenne, wenn ich Rosenkohl gegessen habe und meiner Mutter zu liebe so tue als würde es schmecken.

Ich hoffe dieser kleine Ausflug hat dir gefallen und hilft dir in Zukunft, Medien wie Videos aus dem Internet etwas bewusster zu konsumieren.

Cheers,

Andreas