KI-generiertes Bild eines Mammuts in Norwegen.
Die Vertrauenskrise bei digitalen Inhalten: GenAI und Content Authenticity
Der Aufstieg KI‑generierter Inhalte in den Medien
Generative KI hat die Art und Weise, wie digitale Inhalte entstehen, grundlegend verändert. Tools wie ChatGPT, Midjourney, Sora oder Adobe Firefly können heute innerhalb weniger Sekunden äußerst realistische Bilder, Videos, Stimmen und Texte erzeugen.
Das eröffnet neue kreative Möglichkeiten in Marketing, Medien und Bildung und hilft dabei, Inhalte zu produzieren, die informieren, Mehrwert bieten und gesellschaftlich positiv wirken.
Gleichzeitig kann dieselbe Technologie missbraucht werden. GenAI senkt die Hürde, Inhalte zu erstellen, die nicht auf einen positiven Effekt abzielen, sondern bewusst täuschen, diskreditieren oder Schaden verursachen sollen.
So lassen sich realistisch wirkende, aber vollständig falsche Inhalte erzeugen: Bilder von Nachrichtenereignissen, die nie stattgefunden haben, gefälschte Sprachnachrichten von öffentlichen Personen oder manipulierte Videos, die für ungeübte Augen echt wirken.
Im Unterschied zu klassischer Bild‑ oder Videobearbeitung können diese KI‑Inhalte in großem Umfang, mit minimalem Aufwand und ohne Spezialwissen erstellt werden. Das Ergebnis: Fake‑Medien überschwemmen Social Media Plattformen, Messenger Dienste und sogar Nachrichtenportale – meist ohne Kennzeichnung ihrer Herkunft oder ihres künstlichen Ursprungs.
Mit der zunehmenden technischen Reife generativer KI wird es immer schwieriger, authentische Inhalte von synthetischem Content zu unterscheiden. Für Unternehmen, Medienhäuser und Publikum wirft diese Entwicklung dringende Fragen nach Glaubwürdigkeit, Verantwortung und der Zukunft von Vertrauen in digitale Inhalte auf.
Deepfakes: Wie sie entstehen und wofür sie genutzt werden
Deepfakes zählen zu den bekanntesten Formen synthetischer Medien. Sie werden mithilfe von Machine‑Learning‑Modellen – häufig sogenannten Generative Adversarial Networks (GANs) – erstellt und manipulieren Bilder, Videos oder Audio, indem Gesichter oder Stimmen ausgetauscht werden.
Ein Deepfake kann eine Person zeigen, die scheinbar etwas sagt oder tut, was nie passiert ist und die Ergebnisse sind zunehmend schwer als Fälschung zu erkennen.
Eine Studie des Biometrie Unternehmens iProov aus dem Jahr 2025 testete 2.000 Personen: Nur 0,1 % erkannten alle echten und gefälschten Inhalte korrekt und synthetische Videos wurden mit 36 % geringerer Wahrscheinlichkeit entlarvt als gefälschte Bilder. Ein systematischer Review von 40 Studien kam 2025 zum selben Schluss: Bei überzeugenden Deepfakes liegt die menschliche Treffsicherheit nahe der Zufallsgrenze (Somoray, Miller & Holmes, 2025).
Ursprünglich als technische Spielerei entwickelt, werden Deepfakes heute zunehmend für schädliche Zwecke eingesetzt – eine echte Deepfake‑Krise. Sie kommen bei politischer Desinformation, zur Rufschädigung öffentlicher Personen oder bei Betrugsfällen zum Einsatz. Besonders besorgniserregend ist die Nutzung von Deepfakes bei Phishing‑ und Identitätsbetrug, bei denen KI‑Stimmen und Videos eingesetzt werden, um Menschen zu Geldüberweisungen oder zur Weitergabe sensibler Informationen zu bewegen (Jumio Online Identity Study, 2025).
Bekannte Deepfake Beispiele
Nachrichtenereignisse
Im Mai 2023 ging ein KI-generiertes Bild einer Explosion vor dem Pentagon viral, löste Panik aus und ließ den US-Aktienmarkt kurzzeitig einbrechen. Das Verteidigungsministerium bestätigte rasch, dass das Bild gefälscht war, und die Rettungsdienste beruhigten die Öffentlichkeit (Los Angeles Times). Der Vorfall zeigt jedoch, wie Deepfakes gefährliche Desinformation verbreiten und reale Folgen haben können – etwa für den Aktienmarkt.
Unternehmen
2024 nahmen aufsehenerregende Deepfake-Betrugsfälle große europäische Unternehmen ins Visier – mit KI-Stimmklonen und Identitätsfälschung. Im Mai legten Betrüger ein gefälschtes WhatsApp-Konto an und nutzten eine KI-generierte Stimme von Mark Read, CEO von WPP (UK), während eines Microsoft-Teams-Meetings, um Geld und sensible Informationen zu erbeuten. Aufmerksame Mitarbeitende konnten den Betrug stoppen (The Guardian).
Im Juli des selben Jahres versuchten Kriminelle, Ferrari-Führungskräfte zu täuschen, indem sie den markanten süditalienischen Akzent von CEO Benedetto Vigna per WhatsApp klonten, um eine angeblich vertrauliche Übernahme zu besprechen. Der Schwindel scheiterte, als eine Führungskraft eine Sicherheitsfrage stellte, die nur der echte CEO beantworten konnte (Fortune).
Das waren keine Einzelfälle. Bis 2025 meldeten 85 % der Unternehmen in einer Studie mindestens einen Deepfake-Vorfall innerhalb des vergangenen Jahres (IRONSCALES, 2025), und laut einer Prognose von Deloitte könnten allein in den USA die Schäden durch KI-gestützten Betrug von 12,3 Milliarden US-Dollar (2023) auf 40 Milliarden bis 2027 steigen (Deloitte, 2024).
Prominente
Ein Anfang 2025 von der BBC berichteter Fall wurde zu einem prominenten Beispiel dafür, wie Deepfakes emotionales Vertrauen ausnutzen und schweren finanziellen wie psychischen Schaden anrichten können: Eine Französin verlor 830.000 €, nachdem sie in eine vorgetäuschte Online-Beziehung mit einer Deepfake-Version von Brad Pitt gelockt worden war. Über mehr als ein Jahr hinweg gaben sich Betrüger mit KI-generierten Videos und Bildern als der Schauspieler aus und überzeugten sie, hohe Geldsummen für erfundene Gründe wie Arztrechnungen und juristische Probleme zu überweisen.
Im März 2023 verbreitete sich ein Bild von Papst Franziskus in einer weißen Daunenjacke im Balenciaga-Stil rasant in den sozialen Medien. Das mit dem KI-Tool Midjourney erzeugte Bild ließ viele glauben, es sei echt – bis Faktenchecker die Fälschung bestätigten (CBS News). Der „Balenciaga-Papst“ wurde schnell zum globalen Meme, machte aber auch deutlich, wie leicht KI-generierte Bilder die Grenze zwischen Humor, Mode-Kommentar und Desinformation verwischen.
Diese Beispiele zeigen, dass Deepfakes und synthetische Medien keine Einzelfälle mehr sind, sondern Teil eines wachsenden Problems mit realen Folgen. Zwar werden viele gefälschte Bilder oder Videos schnell entlarvt, doch oft werden die Inhalte zuvor millionenfach geteilt. Der Schaden für das öffentliche Vertrauen ist dann längst angerichtet.
Der Vertrauensverlust in digitale Inhalte
Die wachsende Zahl KI‑basierter Fälschungen macht einen besorgniserregenden Trend sichtbar: das schleichende Erodieren des Vertrauens in digitale Inhalte.
Laut dem Edelman Trust Barometer 2025 sorgen sich 70 % der Befragten, dass Journalistinnen und Journalisten Menschen bewusst in die Irre führen.
Der Global Risks Report 2025 des World Economic Forum nennt Fehlinformationen und Desinformation – insbesondere durch KI‑generierte Inhalte – als eines der größten Risiken der kommenden Jahre.
Auch der Reuters Institute Digital News Report 2025 zeigt, dass sich 58 % der Befragten Sorgen um die Authentizität von Nachrichteninhalten machen.
Das Ergebnis ist eine Vertrauenskrise. Es reicht nicht mehr aus, dass Inhalte authentisch aussehen oder klingen. Immer häufiger wird grundsätzlich infrage gestellt, ob digitale Inhalte überhaupt noch echt sind. Nachrichtenorganisationen, Plattformen und öffentliche Institutionen stehen unter wachsendem Druck, Inhalte zu verifizieren – doch Geschwindigkeit und Reichweite von KI‑Desinformation überholen manuelle Prüfprozesse bei Weitem.
Um diese Krise zu überwinden, müssen die Voraussetzungen für Vertrauen neu geschaffen werden, etwa durch bessere Medienkompetenz. Gleichzeitig braucht es Systeme, in denen Authentizität direkt bei der Veröffentlichung und über den gesamten digitalen Lebenszyklus hinweg überprüfbar ist.
Wie lassen sich Deepfakes und KI-Bilder erkennen?
Bei KI-generierten Bildern lohnt der genaue Blick auf die Details: unnatürliche Hände und Finger, unstimmige Schatten oder Lichtquellen, verschwommene Übergänge an Haaren oder Brillenrändern, sich wiederholende Muster im Hintergrund oder Text, der bei näherem Hinsehen zu Buchstabensalat wird. Bei Deepfake-Videos sind es oft ein starrer Blick, unregelmäßiges Blinzeln, asynchrone Lippenbewegungen oder ein Hautton, der nicht zum Licht der Umgebung passt.
Das eigentliche Problem: Solche Merkmale verschwinden mit jeder neuen Generation der KI-Modelle. Was heute auffällt, ist morgen schon korrigiert. Sich allein auf das eigene Auge zu verlassen, reicht deshalb nicht mehr aus – die Studienzahlen oben belegen es.
Damit verschiebt sich die entscheidende Frage: weg von „Sieht dieser Inhalt echt aus?" hin zu „Lässt sich seine Herkunft überprüfen?". Genau das macht neue Methoden und Standards nötig, mit denen sich die Echtheit von Inhalten nachweisen lässt – statt sie nur zu erahnen.
Warum Echtheit und Nachverfolgbarkeit entscheidend sind
Digitale Inhalte müssen verifizierbar sein. Content Authenticity und Nachvollziehbarkeit werden damit zu zentralen Faktoren in der heutigen Medienlandschaft.
Nutzerinnen und Nutzer sollten nachvollziehen können, woher ein Bild oder Video stammt, wie es bearbeitet wurde und wer es erstellt hat, um selbst beurteilen zu können, ob ein Inhalt echt oder manipuliert ist.
Um diesen Bedarf zu decken, entstehen neue Technologien und Standards. Die Coalition for Content Provenance and Authenticity (C2PA) entwickelt offene Standards für manipulationssichere Metadaten. Diese sogenannten Content Credentials zeigen Herkunft, Bearbeitungsschritte und den Einsatz von KI transparent auf.
Auch Digital Asset Management (DAM) Systeme spielen eine entscheidende Rolle, wenn es darum geht, Content Herkunft innerhalb von Organisationen zu sichern. Durch zuverlässiges Metadaten Management und kontrollierte Content Workflows helfen DAM Systeme dabei, veröffentlichte Inhalte nachvollziehbar, korrekt und compliant zu halten.
So wie HTTPS zum Standard für die Verifizierung von Webseiten geworden ist, könnten vergleichbare Authentifizierungsebenen für digitale Inhalte künftig selbstverständlich werden. Dieser Wandel erfolgt schrittweise, gewinnt aber bereits bei großen Tech‑Plattformen, Medienhäusern und in der Fotografiebranche an Bedeutung.
— “Der C2PA Standard wird für Content Authenticity so wichtig werden wie XMP für Metadaten. Er schafft eine gemeinsame Grundlage, um Vertrauen in Inhalte überprüfbar zu machen und transparent zu zeigen, woher ein Bild stammt und wie es verändert wurde.”
Auf dieser Seite