Wenn das Internet im KI-Müll versinkt

An dem oberflächlich harmlosen Fruit Love Island lässt sich gut demonstrieren, dass hinter einer bunten Oberfläche durchaus sinistre Absichten stecken können. Unter den teilnehmenden Früchten kommt es immer wieder zu körperlich gewaltvollen Auseinandersetzungen, sexistische und rassistische Inhalte werden transportiert.

Nicht nur Cherrita und Co. sind in den sozialen Medien mittlerweile allgegenwärtig, auch auf YouTube wird kommerziell erfolgreich „Slop“ produziert, z. B. von dem Kanal „Boring History“. Die Videos erzählen dramatisierte Episoden der menschlichen Geschichte. Sie werden, laut Produzenten, primär zum Einschlafen genutzt.

Der Wissenschaftskanal „Kurzgesagt“ zeigt sich besorgt. Er beklagt, dass der KI-Schrott das Internet zerstöre. YouTube erlebe derzeit einen Boom pseudowissenschaftlicher Kanäle, die täglich Hunderte Videos zu Geschichte, Biologie, Chemie, Physik oder Psychologie veröffentlichen.
 

Was ist „AI Slop“? 

KI-Schrott ist ein „endlose[r] Strom billig produzierter, emotional aufgeladener KI-Inhalte, die digitale Räume fluten“ (vgl. Bodine 2025). Meist entstehen fehlerhafte Inhalte, Videos, Bilder und Texte von geringer Qualität. Alternativ wird KI-Schrott auch als „invasive Art“, „Polyester“ oder „Junkfood“ bezeichnet. 

Hinter dem Phänomen steckt die Motivation, möglichst viel emotionalisierenden Content billig zu produzieren, um einen viralen Moment zu erzielen. Je mehr geklickt wird, desto mehr Geld können die Produzent*innen des KI-Schrotts potenziell über die Monetarisierungsmodelle von Social-Media-Plattformen verdienen. 

Häufig kombinieren die Inhalte fotorealistische Qualität mit unrealistischen Szenen. So entstehen schräge Bilder wie das von „Shrimp Jesus“, das eine Christusfigur, bestehend aus Garnelen, zeigt und millionenfach bei Facebook geteilt wurde. 

Eine Untersuchung der europäischen Non-Profit-Organisation AI Forensics (2025) zeigt, dass 25 % von TikToks Top-Suchergebnissen synthetische Videos sind. Die meisten dieser Videos haben einen fotorealistischen Stil, der das Täuschungspotenzial erhöht. Die Analyse von AI Forensics zeigt auch, dass die Plattformen die synthetischen Inhalte in den meisten Fällen nicht zuverlässig kennzeichnen. 
 

Weniger Reichweite für seriösen Content 

Auch wenn der KI-Schrott auf den ersten Blick harmlos oder lächerlich wirkt, drohen ernsthafte Konsequenzen. 

Insbesondere Journalist*innen und Wissenschaftler*innen könnten künftig von Reputationsklau bedroht werden, wenn ihre Gesichter und Namen mit künstlich generierten Inhalten verknüpft werden. Besonders perfide ist, dass über mehrere Ecken synthetische Informationen zu echten werden. 

YouTube-Creator*innen berichten von einem Einbruch ihrer Zugriffszahlen, seit die Flut der künstlich generierten, pseudowissenschaftlichen Videos zunimmt. Durch die Masse und Schnelligkeit entsteht dann eine Informationserschöpfung.
 

Durch KI-Schrott brechen Infrastrukturen zusammen 

Ein echtes Problem ist, dass digitale Infrastrukturen derart mit künstlich generierten Inhalten überflutet werden, dass sie nicht mehr funktionieren. 

Das Moderationsnetzwerk von Wikipedia ächzt unter dem Anstieg qualitativ schlechter Beiträge. Nun hat die Plattform die Richtlinien für Nutzer*innen angepasst. Die Verwendung von Chatbots, um Beiträge zu erstellen, wird strikt untersagt. Ein „Aufräumteam“ beseitigt Beiträge, die unter dem Verdacht stehen, künstlich generiert worden zu sein. 

Hinzu kommt: Die Praxis, Sprachmodelle mit synthetischen Texten aufzubauen, könnte letztlich zu einem Model Collapse führen, d. h., es wird immer schlechterer Output produziert. Dieses „Slop-on-Slop-Training“ könnte unser kollektives Wissen nachhaltig vergiften, befürchten einige Expert*innen. So wie Mikroplastik inzwischen im Boden, im Wasser und sogar im arktischen Eis nachgewiesen wurde, ist es möglich, dass wir langfristig noch kleinste Partikel des digitalen „Polyesters“ finden werden. 

Natalia Stanusch und Martin Degeling, Co-Autor*innen der AI-Forensics-Studie, gehen allerdings nicht davon aus, dass das Internet als Wissensquelle unwiederbringlich verloren ist. 

„Es ist definitiv eine sehr, sehr herausfordernde Zeit. Gleichzeitig versuche ich, optimistisch zu sein. Ich glaube, dass es ein immer stärkeres Bewusstsein dafür gibt, dass das, wohin wir derzeit steuern, nicht unbedingt das ist, was wir wollen. Das ist nicht die Art von Internet, in dem wir uns bewegen und in dem wir Informationen teilen möchten“, sagt Stanusch. 
 

Bullshit, Fakes und Desinformation 

KI-Schrott ist nicht zwangsläufig als Fehlinformation angelegt. In den meisten Fällen soll er eher unterhalten oder für Aufregung sorgen. Oft wird er an aktuelle Ereignisse geknüpft. 

Slop-Produzent*innen könnte man deshalb auch als „Bullshitter*innen“ bezeichnen. Sie verbreiten Informationen, um durch Klicks auf ihre Inhalte Geld zu verdienen – die Wahrheit ist dabei völlig egal. Der Schaden entsteht langfristig dadurch, dass sie allmählich gesellschaftliche Normen erodieren. Online beobachtet man, dass User*innen auch gegenüber real produziertem Content misstrauisch werden. 

Klimaskeptiker*innen nutzen den schnell produzierten KI-Schrott dazu, Sprachmodelle bewusst mit Falschinformationen zu unterwandern (sogenanntes LLM-Grooming). Aufgrund der großen Menge verbreiten sich diese Fehlinformationen rasend schnell im Internet und werden sogar auf legitimen Nachrichtenseiten als Fakten präsentiert. So geriet beispielsweise der Terra X History-Film Weltberühmt & depressiv: Von Sisi bis Adenauer (ZDF 2025) in die Kritik, weil künstlich generierte Szenen gezeigt wurden. Auf kritische Kommentare hin schrieb die Terra X-Redaktion, dass die synthetische Sisi ein „zeitgemäßes Mittel“ sei. 

Tatsächlich wird KI-Schrott auch dann weiter befürwortet, wenn er als solcher enttarnt wird. Eine Recherche des BR zeigte, dass offensichtlicher Slop von Social-Media-Nutzer*innen verteidigt wird, wenn er mit einer gefühlten Wahrheit übereinstimmt (Rohrmeier 2026). Die Fakes werden dann als nicht echt wahrgenommen, aber User*innen unterstützen trotzdem die Botschaft, die sie transportieren. Der Content sei, so der BR, oft Propaganda, Inhalte, die Vorurteile und Freund-Feind-Denken bestärken. Indem Gefühle bestärkt werden, bleiben die Bilder und Videos hängen. Die Diskussionen, die sich über den Wahrheitsgehalt der Inhalte entspinnen, tragen wiederum dazu bei, dass ein Gefühl des „epistemischen Chaos“ herrscht. 
 

Das Zombie-Internet nervt 

Manche Beobachter*innen argumentieren, Social-Media-Plattformen und das Internet würden „sterben“ oder „zerstört“ werden. Damit wird auf die satirische Verschwörungstheorie des „Dead Internet“ angespielt. In dieser Theorie wird das Internet nur noch von Maschinen bewohnt, die sich ohne menschlichen Einfluss gegenseitig beschimpfen und immer weiter im Kreis drehen. 

Mario Sixtus, der zu diesem Phänomen den Dokumentarfilm KI: Der Tod des Internets (ZDF 2025) gedreht hat, schreibt, es gebe noch etwas Leben:

Vielmehr bin ich davon überzeugt, dass wir derzeit eine Art Zombie-Internet erleben, eine lebendig-tot-untote Zwischenwelt des Übergangs“ (Sixtus 2025). 

Der Aufstieg und Fall von Sora 

Zu allem Überfluss kam mit Sora im September 2025 eine neue soziale Plattform von OpenAI hinzu, die die Slop-Produktion noch einmal mehr begünstigte. Mit Sora konnten Nutzer*innen ihr eigenes Gesicht scannen und sich durch einen Prompt in alle möglichen fiktiven Szenen einfügen lassen. Die App war eine Art künstliches TikTok. Sie war vorerst nur auf Einladung und in den USA verfügbar. Dennoch tauchten die Videos innerhalb kurzer Zeit auch auf anderen Social-Media-Feeds auf. Zu sehen waren Influencer*innen, die sich einen Oscar oder den Nobelpreis überreichen ließen, sowie hyperrealistische Videos von Tieren, die auf den Straßen von New York Musik machten. Das Wasserzeichen der App erschien dabei immer nur am Rand der Videos, sodass es sich – bei Bedarf – relativ einfach herausschneiden ließ. 

Im März 2026 wurde die App wieder eingestellt. Über die Gründe schweigt OpenAI, man wolle sich auf andere Bereiche konzentrieren. Medien spekulierten, dass die benötigte Rechenleistung finanziell zu belastend war. Die ethischen Fragen bezüglich des produzierten Slops standen bei der Entscheidung wohl weniger im Mittelpunkt. 
 

KI-Schrott erkennen 

Es wird zunehmend schwieriger, künstlich generierte Inhalte durch optische Unregelmäßigkeiten zu identifizieren. Bild- und Videogeneratoren werden immer besser, man kann sich also nicht darauf verlassen, dass Artefakte wie zusätzliche Arme und Finger weiterhin als Anhaltspunkte dienen können. 

AI Forensics empfiehlt (2026), bei der Bewertung von Onlinecontent zunächst auf Metainformationen zu achten: Welche Hinweise gibt es im Umfeld des Posts? KI-Schrott lässt sich nach AI Forensics daran erkennen, dass ein Profil plötzlich auftaucht und über kurze Zeit hinweg sehr viel Content produziert. 

Der zweite Schritt ist, sich das Bild genauer anzusehen: Gibt es typische „KI-Artefakte“ im Bild oder Video? Darunter fallen z. B. physikalisch unmögliche Objekte, schräge Proportionen, eine stark glänzende Oberfläche. Synthetische Figuren haben oft eine dramatische Beleuchtung, sodass sie wie stark angeleuchtete Plastikfiguren erscheinen. Viele Modelle haben immer noch Probleme, Zahlen oder Text richtig wiederzugeben. 

Falls es sich um Videos handelt, kann man im nächsten Schritt nach weiteren Anhaltspunkten suchen. Gibt es morphende Hände, unnatürliche Mimik und Gestik, verschwindende Uhren, Mikros oder Ketten? 

Der letzte Schritt ist eine Recherche zur Entstehungsgeschichte des Contents, z. B. mit der Rückwärts-Bildsuche. Haben glaubwürdige Quellen das Bild verwendet? Gibt es die Person in dem Video auch anderswo? Manche Tools verwenden unsichtbare Wasserzeichen, die sich wiederum mit anderen Apps entschlüsseln lassen. 

Natalia Stanusch weist darauf hin, dass es aufgrund der schnellen Weiterentwicklung der Modelle unmöglich ist, zu wissen, welche Anhaltspunkte weiterhin valide bleiben. Im Gespräch betonen Stanusch und Degeling, wie wichtig es sei, dass die Technologie der unsichtbaren Wasserzeichen entwickelt und durchgesetzt wird und große Plattformen durch Regulierung zu besseren Maßnahmen gegen den Slop gezwungen werden. 
 

Eine Herausforderung für unsere digitale Zukunft 

Das Problem falscher oder irreführender Informationen im digitalen Raum gibt es laut Stanusch und Degeling schon lange. „Es ist nur so, dass Nutzer*innen nun die Fähigkeit haben, diese Inhalte sehr schnell und kostengünstig zu produzieren, und dass es einfach viel mehr davon gibt“, sagt Natalia Stanusch. Die Tendenz, dass Menschen vorsichtiger werden, wenn sie Inhalte online sehen, findet sie positiv. Es sei sehr wichtig, diese kritische Medienkompetenz weiter zu stärken. 

Ein anderer hoffnungsvoller Aspekt in der Geschichte des KI-Schrotts könnte die Aufwertung sein, die menschlich produzierte Inhalte dadurch nebenbei erhalten. Vielleicht entsteht nach der aktuellen Flut an KI-Schrott wieder eine Sehnsucht nach Authentizität, Unvollkommenheit und echten Früchten. 
 

Literatur: 

AI Forensics: AI-Generated Algorithmic Virality. Berlin 2025. Abrufbar unter: https://aiforensics.org 

AI Forensics: The Human Guide to Detecting AI Imagery. Berlin 2026. Abrufbar unter: https://aiforensics.org 

Bodine, A.: Gegen den Bullsh*: KI-Schrott und Medienkompetenz. In: DW Akademie, 24.10.2025. Abrufbar unter: https://akademie.dw.com 

Rohrmeier, S.: Wie KI-Fakes bestätigen, was wir sowieso schon glauben. In: BR24 Faktenfuchs, 02.04.2026. Abrufbar unter: https://www.br.de 

Sixtus, M.: Wenn alles fake ist, was ist dann noch das Internet? In: Zeit Online, 11.10.2025 
 

Der Beitrag wurde erstmalig am 23. November 2025 in einer kürzeren Fassung unter dem Titel Wir versinken in Schrott auf wissenschaftskommunikation.de veröffentlicht.