Video: KI-generierter Avatar und KI-Stimme von Alex Trupp · KI-Transparenz
Ein Reel über angeblich von China erfundenes digitales Papier, entworfen von einer KI, klang spannend – war aber frei erfunden. Der Fehler ist öffentlich passiert, wurde von der eigenen Community in den Kommentaren aufgedeckt und offen eingeräumt. Interessant ist dabei weniger der Fehler selbst, sondern wie er zustande kam: nicht durch böse Absicht, sondern durch eine Lücke im eigenen Prüfprozess.
Der Fall zeigt exemplarisch, wie Fehlinformationen in Content-Prozessen entstehen, die teilweise auf KI-Unterstützung setzen. Ein bestehender Faktencheck war vorhanden, griff aber nur unter bestimmten Bedingungen. Genau diese Lücke – und die Konsequenz daraus – ist der eigentliche Kern dieses Beitrags.
Der Fehler: eine erfundene Behauptung wurde übernommen
Ausgangspunkt war ein gepostetes Reel mit der Aussage, China habe digitales Papier erfunden, entworfen von einer KI. Die Behauptung war frei erfunden. Aufgedeckt wurde sie nicht durch den eigenen Prüfprozess, sondern durch Kommentare der Community, die auf den Fehler hinwiesen.
Der Grund lag nicht in fehlender Sorgfalt im Allgemeinen, sondern in der Art, wie der Beitrag entstanden ist: Statt einen Beitrag komplett neu zu schreiben, wurde diesmal ein fremder Beitrag nachgebaut. Genau an dieser Stelle wirkte die Aussage bereits glaubwürdig, weil sie von einer anderen Quelle übernommen wurde – und wurde deshalb nicht mehr eigenständig geprüft.
Die eigentliche Lücke: der Faktencheck griff nicht überall
Ein Faktencheck war bereits Teil des Prozesses – er griff aber nur, wenn ein Beitrag von Grund auf neu geschrieben wurde. Beim Nachbauen eines bereits existierenden Beitrags kam dieser Schritt nicht zur Anwendung. Die Behauptung wurde einfach übernommen, ohne dass jemand fragte, ob es dafür überhaupt einen Beleg gibt.
Diese Lücke ist typisch für Prozesse, die Prüfschritte an bestimmte Entstehungswege koppeln, statt an den Inhalt selbst. Ein Kontrollpunkt, der nur unter bestimmten Bedingungen ausgelöst wird, schützt eben nur vor genau diesen Bedingungen – und lässt andere Wege offen.
Warum Fake News selten aus bewusster Täuschung entsteht
Die zentrale Einordnung im geschilderten Fall lautet: Fake News entsteht nicht durch eine dreiste Lüge, sondern dadurch, dass jeder dem vorherigen vertraut. Einer postet etwas, der Nächste baut es nach, und in dieser Kette sucht niemand mehr die eigentliche Quelle.
Damit verschiebt sich die Verantwortung von einer einzelnen böswilligen Handlung hin zu einem strukturellen Problem: Vertrauen ersetzt Prüfung, sobald eine Behauptung bereits einmal veröffentlicht wurde. Genau das macht solche Fehler in Content-Ketten so leicht übertragbar.
Die Konsequenz: unabhängiger Beleg statt Übernahme
Als Reaktion auf den Fehler wurde der Prüfprozess umgebaut: Ab sofort zählt eine Behauptung nur noch mit einem unabhängigen Beleg. Weder das Originalposting allein reicht aus, noch reicht es, dass ein Beitrag bereits von jemand anderem nachgebaut wurde.
Ohne diesen Beleg geht kein Beitrag mehr online. Der Fehler selbst wird dabei offen als Teil des Prozesses eingeordnet: Fehler passieren, aber ein System soll sie künftig auffangen, bevor sie veröffentlicht werden.
Häufige Fragen
Weil ein Faktencheck nur greift, wenn er tatsächlich an jeder Stelle im Prozess ausgelöst wird. Im beschriebenen Fall lief der Check nur bei komplett neu geschriebenen Beiträgen, nicht aber, wenn ein bereits bestehender fremder Beitrag nachgebaut wurde. Die Prüfung wurde schlicht übersprungen, weil der Ablauf an dieser Stelle eine Lücke hatte.
Nicht durch eine bewusste Lüge, sondern dadurch, dass eine Behauptung wirkt, als sei sie bereits geprüft, weil sie von jemand anderem stammt. Einer postet etwas, der Nächste baut es nach, und niemand in der Kette sucht noch die eigentliche Quelle oder einen unabhängigen Beleg.
Ab sofort zählt eine Behauptung nur noch dann, wenn ein unabhängiger Beleg dafür vorliegt. Weder das Originalposting allein noch ein bereits nachgebauter Beitrag gelten als ausreichender Nachweis. Ohne diesen Beleg geht kein Beitrag mehr online.
Verlässliche Prozesse statt Bauchgefühl
Wer KI in Content- oder Datenprozesse einbindet, braucht Kontrollpunkte, die auch bei Übernahmen und Nachbauten greifen – nicht nur bei Inhalten, die komplett neu entstehen. Nordvind AI unterstützt Unternehmen dabei, solche Prüf- und Automatisierungsschritte in bestehende Abläufe einzubauen.
Kostenlose Erstberatung →