Woran erkenne ich KI-generierte Inhalte?

Wie funktionieren KI Bild- und Videogeneratoren?

KI-Bild- und Videogeneratoren werden mit Bildern trainiert, die ganz unterschiedliche Dinge zeigen. Diese Bilder sind mit detaillierten Beschreibungen oder Schlagwörtern versehen, die diversen Variablen zugeschrieben werden. Diese Variablen können Farbe, Textur, Größe, Helligkeit etc. umfassen. Die KI-Bild- und Videogeneratoren merken sich diese unterschiedlichen Merkmale und Beschreibungen. Wenn sie aufgefordert werden etwas zu malen, gleichen sie den „Prompt“ (Angabe von Nutzer:in) mit den ihnen bekannten Merkmalen und Beschreibungen ab und greifen auf diese zurück, um ein Bild zu erstellen [1]. 

Beispiel: Bitte male mir einen Holzbesen, der auf einer Wiese liegt.

… (Der KI-Bild- und Videogenerator sucht nach Bildern, die mit diesen Wörtern im Prompt beschrieben werden. Er geht durch die einzelnen Variablen (Holz, Besen, Wiese, liegen) und ihre Zuordnung zueinander (auf einer Wiese).

Bild 1: Ergebnis von DeepAI(1)

Bild 2: Ergebnis von KI-Bild-erstellen.de

Die Verwendung von KI-generierten Fotos und Videos sind unterschiedlich, vom harmlosen Spaß oder Marketing Kampagnen bis hin zu gezielten Des- und Misinformationsversuchen unterschiedlicher Akteure. Dabei variiert die Erkennbarkeit von KI generierten Fotos und Videos stark voneinander, daher haben wir sie in drei Kategorien unterteilt:

1) AI Slop

Es existieren etliche Cartoon oder Comic ähnliche Figuren, wie Bombardino Crocodilo, Tung Tung Sahur (italienischer AI Slop) oder Orangelo (Früchte AI Slop), die offensichtlich fiktive Charaktere in imaginären Szenarien sind. Sie sind nicht ideologisch aufgeladen, versuchen keine politische Botschaft zu vermitteln und strahlen eine geringe Gefahr aus, Menschen zu täuschen. 

Solche KI-generierten Bilder und Videos werden als AI Slop bezeichnet [2]. Ihr Zweck ist es primär von möglichst vielen Nutzer:innen gesehen zu werden, um durch die Anzahl an Aufrufen Geld zu verdienen. Sie dienen der Unterhaltung, verbrauchen aber abhängig von der Bildqualität oder Länge (bei Videos) enorm viel Energie und Wasser. Sie stellen keinen Versuch der politischen Beeinflussung dar.

Beispiele:

Bild 3: Bombardino Crocodilo - einer der italienischen Brainrot Charaktere

Bild 4: Mangella die Mango (links) und Kiwilo die Kiwi (rechts). Sie sind Fruchtcharaktere, die auf einer fiktiven Version von der Reality-TV Sendung Love Island romantische/platonische Beziehungen miteinander führen.

2) Politische Satire und Verharmlosung

In einer weiteren Form von KI-Bild- und Videoinhalten, werden politische Akteure dargestellt, die realitätsgetreu ausschauen, aber in ungewöhnlichen, fremden Kontext gestellt werden. Dadurch können Ihnen Eigenschaften zugeschrieben werden, die in der Realität nicht zutreffen. Zudem kann durch die unterschiedlichen Darstellungen der/die Politiker:in, ein unendlich breites Publikum angesprochen werden. Durch diese manipulierten KI Bilder und Videos, werden verschiedene Interessen und Tätigkeiten der Nutzer:innen gespiegelt. 

Beispiele: 

Bild 5: Französischer President Emmanuel Macron im Trainingsanzug, dreht eine Zigarette vor einem Kiosk.

Bild 6: Deutscher Bundeskanzler Friedrich Merz im Gucci Tracksuit auf einem Lime Scooter vor dem Brandenburger Tor

Auf beiden Bildern werden der französische Präsident Emanuel Macron und der deutsche Bundeskanzler Friedrich Merz in Kontexte gesetzt, die eher Rap Musikvideos ähneln als ihre tatsächliche Umgebung. Eine mögliche Motivation diese Bilder zu erstellen, ist zu Satirezwecken oder sie bei einer Wählergruppe (junge Menschen) populärer wirken zu lassen. Auch wenn diese Bilder oft als KI-generierte Bilder erkannt werden, können sie sich trotzdem positiv auf die Meinung von Nutzer:innen zu Politiker:innen auswirken.

Bild 7 und 8: Die Bilder von Donald Trump, umgeben von schwarzen Personen wurden von seinen Anhängern erstellt, um ihn bei dieser Wählergruppe in ein positives Licht zu rücken. Dadurch erhoffte sie sich bei der Präsidentschaftswahl 2024 einen größeren Wahlerfolg für Trump. [4]

3) Politischer Rage Bait 

Der Begriff „Rage Bait“ (engl. Wut Köder) umfasst alle Inhalte, die so entworfen sind, um bei dem Betrachter/der Betrachterin möglichst große Wut auszulösen. Sie versuchen Triggerpunkte zu treffen, um bei der Person eine möglichst große emotionale Reaktion zu provozieren. Das reicht vom Lapidaren (nervige Person, die Dinge unaufgeräumt lässt) zum Hochemotionalen (menschenverachtendes Verhalten von Demonstranten gegen Polizei). Meistens lösen diese Inhalte Emotionen, wie Wut, Bedrohung, Angst, Ohnmächtigkeit oder Frust aus. Politischer Rage Bait vermittelt politische Botschaften und prägt nachhaltig das Weltbild der Nutzer:innen.

KI-Bild und Videogeneratoren können Rage Bait Inhalte dramatischer darstellen, um eine starke emotionale Reaktion auszulösen. Hoch emotionalisierte Inhalte werden mehr geliked, kommentiert oder geteilt, die den/die Nutzer/in länger auf der Plattform halten. KI-generierter Rage Bait kann unendlich oft repliziert werden und durch Prompts genau insziniert werden. Das Ziel für Rage Bait Konten ist es möglichst viele Interaktionen (Liken, Kommentieren, Teilen) zu erhalten, um an diesen Geld zu verdienen.

Sexualisierung:

KI-generierte Inhalte zeigen oft attraktive Frauen, die zum Teil kaum bekleidet sind und sexualisiert dargestellt werden. Geile Frauen werden als lüsternde Sexobjekte insziniert, die körperliche Anspielungen auf Sex machen, Suggestives in die Kamera sagen oder das Weltbild ihrer Nutzer:innen spiegeln. Diese Nutzer, größtenteils Männer über 40, werden angeregt, damit zu interagieren und gehen auf die sexualisierte KI Frau ein.

Bild 9: In diesem Post wird eine schwarze Frau in einem AfD Bikini dargestellt. Da die AfD sehr geringen Wahlerfolg bei schwarzen Frauen, soll dieses Bild als Gegenbeweis dafür stehen. Ähnlich wie bei dem Bild von Trump mit schwarzen Personen (siehe oben), soll dieses Bild eine breite Unterstützung der AfD suggerieren. Sogar bei Personen, die von der AfD aktiv diskriminiert und ausgegrenzt werden. Die Zielgruppe von solchen Accounts sind heterosexuelle Männer, die die AfD unterstützen. 

Wie erkenne ich KI generierte Bilder und Videos?

Bei KI-generierten Bildern, fällt die Unterscheidung immer schwieriger, vor allem bei fortschrittlichen AI Image Generators wie Google’s Nano Banana Pro, Midjourney und DALL-E 3, die 4k Bilder nachstellen können. Bei weniger komplexen Image Generator Plattformen, gibt es mehr Details, die einem helfen, zwischen Fakes und echten Inhalten zu unterscheiden. Aber zuerst ein paar allgemeine Leitlinien für den Umgang mit KI generierten Inhalten.

Keine passive Einnahme:

KI Expert:innen raten, keine Inhalte, ob KI generiert oder nicht, passiv einzunehmen [5]. Das passiert entweder über die diversen Explore Optionen (Feed) auf Sozialen Medien oder bei Messangerdiensten via Gruppenchats. Das kann sehr häufig passieren, wenn man eine sehr große Anzahl an Bildern, Videos oder Reels sich anschaut, ohne sie zu prüfen. Es kann schnell passieren, dass man die Bildfehler übersieht oder gar nicht erst erkennt, daher immer prüfen, was man für Inhalte konsumiert.

Keine Reaktion:

Zudem, wenn man Zweifel an der Validität der Inhalte hat, sollte man es nicht liken, kommentieren oder weiterleiten. Wie oben bereits erwähnt, sind KI generierte Inhalte oft sehr dramatisch insziniert, um eine hohe Emotionalität bei den Nutzer:innen auszulösen. So werden Inhalte weiter verbreitet, die mehr views generieren, deren Daten Plattformen wie Facebook, Instagram oder X an Dritte verkaufen. Sie zielen darauf ab, dass man reaktionär reagiert und die Inhalte somit verbreitet. Daher bevor man Inhalte weiterverbreitet ist es wichtig, sich diesem emotionalen Zustand bewusst zu sein und die Inhalte zu prüfen.

SynthID und Reverse Image Search:

Bei KI-generierten Bilder und Videos die mit dem AI Generator von Google (Gemini) hergestellt wurden, gibt es die Möglichkeit, diese prüfen zu lassen. Sie besitzen ein für das menschliche Auge unsichtbares Wasserzeichen, was es davon differenzieren kann. Das ist leider jedoch nicht immer eine hundertprozentige Lösung, da es sehr viele unterschiedliche KI Bild und Videogeneratoren gibt, sondern auch weil das Wasserzeichen zum Teil nicht erkannt wird. Eine andere Taktik ist ein Bild durch einen Reverse Image Search zu prüfen. Falls es mehrere Aufnahmen von diesem Foto gibt, ist es sehr wahrscheinlich ein echtes Bild, falls man aber keine findet oder die verglichenen Bilder alle wesentlich anders ausschauen, ist es ein Indiz, dass es KI generiert ist. 

Deine Augen täuschen dich:

Inzwischen ist es nicht mehr möglich, seinen Augen zu vertrauen, um die "Echtheit" eines Bildes oder Videos zu erkennen. KI Bild- und Videogeneratoren sind so fortgeschritten, dass ein reiner Augentest, nicht mehr ausreicht, um es zu prüfen.

Der Teufel steckt im Detail:

KI-generierte Bilder erscheinen beim ersten Eindruck überzeugend, daher ist es sinnvoll auf die Details im Bild zu achten. Daran erkennt man sehr schnell, ob es sich um ein KI-generiertes Bild hält. Zu diesen Details gehören:

1) Finger: Einer der häufigsten Fehler entsteht bei Fingern, oftmals haben KI generierte Bilder Schwierigkeiten Hände darzustellen. Dadurch kommt es dazu, dass teilweise eine Hand mehr oder weniger Finger hat, eine unnatürliche Position hat oder komplett weggelassen werden. Oftmals finden sich diese Fehler noch bei kostenlosen AI Image Generators wie DeepAI, je teurer und komplexer die AI Image Generators, desto genauer sind die Details.

2) Schrift: Genauso tun sich AI Image Generators schwer mit Schrift. Da die jeweiligen KI generierenden Plattformen Schrift nicht als Schrift erkennen sondern als Muster. Daher ordnet es Buchstaben zufällig aneinander oder erfindet neue Buchstaben, die dem Muster von Schrift ähneln.

3) Licht und Schatten: Oftmals haben KI-generierte Bilder und Videos Schatten, die keinen Sinn ergeben, aufgrund der Position der Sonne am Tageshimmel. Es kann sein, dass die Beleuchtung eines Objekts im Widerspruch steht mit dem Schatten den es wirft.

4) Texturen: KI-Bild und Videogeneratoren haben Schwierigkeiten, Texturen realistisch abzubilden und konstant darzustellen. Das führt dazu, dass Gegenstände in KI generierten Bildern und Videos fremd wirken und auffallen. Beispielsweise sieht die Haut auf KI generierten Bildern oftmals glatt, glänzend oder wie aus plastic aussieht, oder andere Merkmale wie Stoffe oder Haare bei genauem hinsehen keine Makel aufweisen.

5) Spiegelungen: Generative KI-Modelle können Schwierigkeiten haben, realistische Spiegelungen zu erzeugen. So kann beispielsweise die Spiegelung in einem Spiegel auf einem gefälschten Foto vom gespiegelten Objekt abweichen.

6) Symmetrie: Gesichter bei KI-generierte Videos und Bildern haben oftmals keine wesentlichen gesichtlichen Mängel oder weisen ein enorm symmetrisches Gesicht auf, welches in der Realität enorm selten der Fall ist. Auch wenn Gegenstände im Hintergrund eine große Ähnlichkeit miteinander aufweisen oder zum Teil gespiegelt sind, ist es auch ein eindeutiges Zeichen, dass es sich um KI generierte Bilder oder Videos handelt. 

7) Fluchtpunkt: Bilder

Wenn ihr mehr wissen wollt, zum Beispiel wie ihr einen KI-generierten Account oder einen Bot-Account erkennen könnt, clickt hier, um unseren Artikel zum Thema zu lesen.

(1) Der Prompt wurde ins Englische übersetzt, da DeepAI nur auf englische Prompts reagiert (Prompt: „Please paint me a wooden broom lying on grass“)