Jemand teilt ein Bild und fragt: „Ist das mit KI erstellt?“ Naheliegend ist es, nach klassischen Merkmalen wie zu vielen Fingern, verstümmeltem Text oder wächserner Haut zu suchen oder das Bild mit einem der inzwischen verfügbaren „KI-Detektoren“ zu prüfen. Beide Ansätze sind nachvollziehbar, haben aber relevante Grenzen: Mit jeder Modellgeneration werden die sichtbaren Hinweise seltener, und die Zuverlässigkeitsprobleme der Detektoren verschwinden nicht, nur weil ihre Benutzeroberfläche ein eindeutiges Ergebnis suggeriert.
Dieser Artikel beschreibt, mit welchen Mustern KI-Bildwerkzeuge weiterhin Schwierigkeiten haben und warum weder Menschen noch automatisierte Detektoren ein garantiert richtiges Urteil über ein einzelnes Bild abgeben können.
Fehlermuster, die weiterhin auftreten
Die folgenden Kategorien sind Heuristiken, keine gemessenen Garantien. Sie können eine genauere Quellenprüfung rechtfertigen, doch die Fähigkeiten der Werkzeuge ändern sich, und das Fehlen eines Hinweises sagt nichts Abschließendes über die Herkunft aus:
Hände und anatomische Details. Bei komplexen Handhaltungen, überlappenden Fingern und ungewöhnlicher Anatomie treten weiterhin häufiger sichtbare Fehler auf als bei Gesichtern oder einfachen Posen, auch wenn moderne Werkzeuge hier erhebliche Fortschritte gemacht haben.
Text im Bild. Schilder, Etiketten und andere Schriftzüge werden je nach Werkzeug und Version unterschiedlich gut dargestellt. Manche Ergebnisse wirken sauber, andere enthalten beinahe richtige Wörter, uneinheitliche Buchstaben oder Text, der an einer Stelle scharf und an einer anderen verschmiert ist. Lesbarkeit ist in beide Richtungen nur ein schwacher Hinweis.
Genaues Zählen und exakte Wiederholung. Soll ein Modell eine bestimmte Zahl identischer Gegenstände abbilden, stimmt die Anzahl häufig nicht. Das gilt sowohl für die Erzeugung als auch für die anschließende Bildbeschreibung durch ein Modell.
Konsistenz über mehrere Bilder oder Einzelbilder hinweg. Ein einzelnes generiertes Bild kann makellos wirken. Wird dieselbe Figur oder derselbe Gegenstand erneut oder über mehrere Videobilder hinweg erzeugt, verändern sich Details jedoch häufig auf kleine, aber erkennbare Weise.
Spiegelungen, Schatten und physikalisch stimmige Beleuchtung. Generatoren erzeugen häufiger plausibel wirkendes als physikalisch korrektes Licht und entsprechende Schatten.
Keiner dieser Hinweise trägt allein ein sicheres Urteil. Ein besonders gelungenes Ergebnis kann alle genannten Fehler vermeiden, während ein echtes Foto einen ungewöhnlichen Schatten oder eine unvorteilhaft dargestellte Hand enthalten kann. Die Hinweise rechtfertigen einen zweiten Blick, sind aber kein Beweis. Außerdem veralten sie schnell: Prüfen Sie die Fähigkeiten aktueller Werkzeuge, statt diese Liste als dauerhaft gültig anzusehen.
Warum „KI-Detektor“-Werkzeuge Ihnen keine Sicherheit geben können
Der NIST-Bericht zur Transparenz synthetischer Inhalte behandelt Detektion, Wasserzeichen, Provenienz und Kennzeichnung als eigenständige Ansätze mit jeweils offenen Forschungsfragen und Umsetzungsgrenzen. Das laufende GenAI-Evaluierungsprogramm des NIST und dessen Bild-Challenge bewerten Generatoren und Diskriminatoren unter definierten Testbedingungen. Das ist der richtige Rahmen für ein Detektorergebnis: Es beschreibt die Leistung für ein bestimmtes System, einen bestimmten Datensatz, eine bestimmte Transformation und ein bestimmtes Datum, nicht die verlässliche Zertifizierung jedes Bildes aus jedem Generator.
Verwenden Sie die Punktzahl eines Detektors nicht als ausschlaggebenden Faktor bei folgenreichen Entscheidungen, etwa in einem Konflikt am Arbeitsplatz, in einer Beziehung oder bei einer öffentlichen Anschuldigung. Ein falsch positives Ergebnis kann ein echtes Foto zu Unrecht als Fälschung darstellen; ein falsch negatives Ergebnis kann eine überzeugende Manipulation unbeanstandet lassen. Beziehen Sie ein Detektorergebnis allenfalls als schwachen Hinweis neben den übrigen Prüfungen dieses Artikels ein, niemals als abschließendes Urteil.
Was tatsächlich hilft, nach Nutzen geordnet
Provenienzinformationen, sofern vorhanden. Ein Content Credential nach dem C2PA-Standard kann zeigen, wer eine Datei signiert hat und welche Angaben zur Erstellung und Bearbeitung festgehalten wurden. Das ist ein stärkerer Beleg als die Vermutung eines Detektors, setzt aber voraus, dass Werkzeug und Plattform den Nachweis unterstützen und er auf dem Weg zu Ihnen erhalten bleibt. Content Credentials und Wasserzeichen erklärt, was eine solche Kennzeichnung belegen kann und was nicht.
Die Originalquelle finden. Bei vielen Bildern ist es nützlicher, nachzuvollziehen, wo, von wem und wann die Datei erstmals veröffentlicht wurde, als nur die Bildpunkte zu untersuchen. Eine umgekehrte Bildsuche oder die direkte Suche nach dem behaupteten Ereignis kann den ursprünglichen Kontext aufzeigen. Eine erfolglose Suche beweist jedoch keine Fälschung.
Übereinstimmung mit anderen bekannten Informationen. Wird das behauptete Ereignis auch von einer unabhängigen Quelle dokumentiert? Passen Ort, Kleidung und Zeitangaben zu anderen überprüfbaren Angaben? Diese Prüfung dauert länger als ein Klick auf einen Detektor, ist aber wesentlich aussagekräftiger.
Die genannten Fehlermuster als ergänzende Hinweise. Sie sind einen Blick wert, tragen allein aber kein Urteil.
Wo das über ein einzelnes verdächtiges Foto hinaus gilt
Aus demselben Grund behandelt „Synthetische Medien: Provenienz und Einwilligung“ Content Credentials als nützlich, aber nicht ausreichend. Auch im Erstreaktionsplan für Erwachsene bei Deepfakes gilt: Verzögern Sie eine Meldung nicht, nur weil Sie zunächst „beweisen“ möchten, dass ein Inhalt synthetisch ist. Wenn Sie selbst Bilder erzeugen und wissen möchten, was aktuelle Werkzeuge gut leisten und wo ihre praktischen Grenzen liegen, behandelt KI-Bilderzeugung 101 die Werkzeugauswahl und das Prompting.
Häufige Fallstricke
- „Keine sichtbaren Merkmale“ als Authentizitätsbeweis zu behandeln. Das Fehlen der genannten klassischen Fehler bedeutet nur, dass ein Modell sie vermieden hat, nicht dass das Bild echt ist.
- Die Prozentangabe eines Detektors als Tatsache über das Bild zu behandeln. Sie beschreibt lediglich, wie dieser Detektor das Bild zu diesem Zeitpunkt anhand seines eigenen Trainings bewertet hat.
- Vor einer dringenden Handlung erst den synthetischen Ursprung „beweisen“ zu wollen. Wenn Sie jetzt handeln müssen, etwa um schädliche Inhalte zu melden, darf die Suche nach einem Detektornachweis die Meldung nicht verzögern. Warum KI manchmal selbstbewusst falsche Antworten gibt behandelt dasselbe Problem übermäßigen Vertrauens in einem anderen Zusammenhang.
- Anzunehmen, künftige Werkzeuge machten diesen Ablauf überflüssig. Detektion und Erzeugung verändern sich beide. Prüfen Sie aktuelle, unabhängig evaluierte Belege erneut, statt eine dauerhafte Liste visueller Merkmale zu pflegen.
Probieren Sie es diese Woche
Wenn Sie bei einem Bild das nächste Mal stutzig werden, widerstehen Sie dem Impuls, es von einer Detektor-App prüfen zu lassen und der angezeigten Zahl zu vertrauen. Suchen Sie zuerst nach der Originalquelle, betrachten Sie die genannten Fehlermuster nur als ergänzende Hinweise und prüfen Sie, ob die Plattform ein Content Credential anzeigt. Mit der Checkliste zu den Grenzen von KI-Bildern können Sie sich angewöhnen, die aussagekräftigeren Prüfungen in der richtigen Reihenfolge vorzunehmen.
