Der Markt des Grauens

Warum digitale Plattformen Gewalt systemisch verwerten

Plattform-Öko-System

Digitale Plattformen sind keine neutralen Infrastrukturen. Sie sind kommerzielle Systeme, deren Geschäftsmodell auf Aufmerksamkeitsmaximierung basiert. Diese strukturelle Logik schafft ökonomische Anreize für die Verbreitung von Gewaltinhalten - von CSAM über Menschenhandel bis zu systematischer Tierquälerei.

Das Problem ist nicht neu entstandene Kriminalität, sondern deren industrielle Skalierung und Monetarisierung.

1. Gewalt als systemischer Nebeneffekt engagement-basierter Geschäftsmodelle

Soziale Plattformen optimieren algorithmisch auf drei Kennzahlen:

• Verweildauer (time on site)

• Interaktionsrate (engagement)

• Reichweitenwachstum (virality)

Gewaltinhalte erfüllen diese Kriterien messbar überdurchschnittlich. Eine Studie des Tech Transparency Project (2022) dokumentierte, dass TikTok-Videos mit Tierquälerei durchschnittlich 3,7-mal häufiger geteilt wurden als vergleichbare harmlose Inhalte. YouTube-interne Dokumente (2019, via Bloomberg) zeigten, dass 70% der Wiedergabezeit durch Empfehlungsalgorithmen generiert wird, die systematisch kontroverse und emotionalisierende Inhalte bevorzugen.

Die Folge: Gewaltdarstellungen werden nicht trotz, sondern wegen ihrer Verstörungswirkung algorithmisch verstärkt. Das betrifft:

• CSAM: Facebook meldete 2023 über 20 Millionen Fälle an NCMEC, Tendenz steigend (NCMEC Annual Report 2023)

• Tierquälerei: Organisationen wie Lady Freethinker dokumentieren industriell produzierte “Fake Rescue”-Videos mit Millionen Views und Werbeeinnahmen

• Extremgewalt: Der Christchurch-Attentäter streamte sein Massaker bewusst auf Facebook; das Video wurde in 24 Stunden 1,5 Millionen Mal hochgeladen (NZ Royal Commission Report 2020)

Dies ist kein Moderationsversagen, sondern eine vorhersehbare Konsequenz der Systemarchitektur.

2. Die Lücke zwischen technischer Kapazität und tatsächlicher Implementierung

Plattformen argumentieren regelmäßig mit technischen Limitationen. Diese Behauptung hält empirischer Prüfung nicht stand.

Bekannte CSAM lässt sich seit Jahren zuverlässig identifizieren:

• PhotoDNA (Microsoft, seit 2009) ermöglicht Hash-basierte Erkennung mit Falsch-Positiv-Raten unter 0,01%

• Die NCMEC-Datenbank enthält über 100 Millionen bekannte Hashes

• Apples 2021 angekündigtes (später pausiertes) NeuralHash-System zeigte: On-Device-Scanning ist technisch umsetzbar

Systematische Gewaltmuster sind mittels Machine Learning erkennbar:

• Metas eigene Forschung (2021) dokumentierte 97% Erkennungsrate bei Grooming-Konversationen

• Googles Perspective API klassifiziert Toxizität mit 92% Genauigkeit

• Startups wie Thorn und ActiveFence bieten kommerzielle Lösungen für Gewaltinhaltserkennung

Was fehlt, ist nicht technologische Machbarkeit, sondern regulatorischer Zwang zu konsequenter Implementierung.

Die Kosten-Nutzen-Rechnung für Plattformen ist eindeutig:

• Kosten intensiver Moderation: reduzierte virale Reichweite, höhere Personalkosten, langsameres Wachstum

• Kosten von Unterlassung: gelegentliche Bußgelder (Meta: 1,3 Mrd. € DSGVO-Strafe 2023 – bei 116 Mrd. $ Jahresumsatz)

Solange Strafen günstiger sind als Prävention, ist Untätigkeit betriebswirtschaftlich rational.

3. Externalisierung der Kosten als Marktversagen

Die ökonomische Struktur folgt einem klassischen Muster der Kostenexternalisierung:

Privatisierte Gewinne:

• Meta-Werbeerlöse 2023: 131,9 Mrd. $ (Q4 Earnings Report)

• TikTok-Schätzwert 2024: >100 Mrd. $ (Financial Times)

• YouTube-Werbeeinnahmen 2023: 31,5 Mrd. $ (Alphabet Report)

Sozialisierte Schäden:

• Opfertrauma: Langzeittherapiekosten, gesellschaftliche Folgekosten

• Staatliche Ermittlungen: FBI Internet Crimes Against Children Task Forces mit >100 Mio. $ Jahresbudget

• Moderatorengesundheit: PTBS-Raten bei Content-Moderatoren zwischen 40-60% (Foxglove Legal 2022); Accenture/Meta-Klage 2023 dokumentiert systematische psychische Schädigung

Diese Struktur ist nicht moralisch verwerflich, weil sie „böse” ist, sondern weil sie ein lehrbuchmäßiges Marktversagen darstellt: negative Externalitäten ohne regulatorische Korrektur.

4. Datenschutz: Notwendige Differenzierung statt falscher Dichotomie

Die Debatte wird häufig als Nullsummenspiel dargestellt: Entweder Privatsphäre oder Sicherheit.

Diese Polarisierung verschleiert umsetzbare Zwischenlösungen:

Technisch möglich ohne Massenüberwachung:

• Hash-basierte Erkennung bekannter CSAM (kein Zugriff auf unbekannte Inhalte)

• Metadata-Analyse verdächtiger Verhaltensmuster (ohne Inhaltszugriff)

• Beschränkung riskanter Features (z.B. Direktnachrichten Erwachsener an Minderjährige ohne vorherige Verbindung)

• Unterbindung der Monetarisierung identifizierter Gewaltinhalte

Der Digital Services Act (EU, 2024) zeigt: Regulierung kann differenzieren zwischen

• Öffentlichen Inhalten (stärkere Kontrollpflichten)

• Privater Kommunikation (höherer Schutz)

• Bekannten vs. unbekannten Gefährdungen

Was fehlt, ist politischer Wille zur Durchsetzung gegen Plattformmacht. Die Lobbying-Ausgaben der Tech-Branche in Brüssel stiegen 2023 auf über 100 Mio. € (Corporate Europe Observatory).

5. Tierquälerei als Indikator systemischer Dysfunktion

Tierquälerei-Inhalte sind regulatorisch und empirisch aufschlussreich:

Geringerer rechtlicher Schutz bei höherer emotionaler Wirkung = ideales Testfeld für Gewaltmonetarisierung.

Dokumentierte Fälle:

• YouTube-Kanäle mit “Tier-Rettungen”, die Tiere zuvor selbst in Notlagen brachten (The Guardian, 2021)

• TikTok-Trends mit Tiermisshandlung für Views (BBC Investigation, 2022)

• Systematische Monetarisierung trotz eindeutiger Community-Richtlinien-Verstöße

Die regulatorische Behandlung als Randproblem sendet ein Signal: Gewalt gegen rechtlich schwächere Gruppen ist tolerabel, wenn profitabel.

Dies ist kein Tierschutzproblem, sondern ein Präzedenzfall für die Grenzen plattformbasierter Selbstregulierung.

6. Regulatorische Konsequenzen

Wirksame Regulierung erfordert drei Prinzipien:

1. Haftung statt Freiwilligkeit

• Plattformen haften für vorhersehbare systemische Risiken ihres Geschäftsmodells

• Nicht für jeden Einzelfall, aber für strukturelle Unterlassung

2. Geschäftsmodell-Regulierung statt Feature-Regulierung

• Nicht: “Verbiete Feature X”

• Sondern: “Beweise, dass dein Empfehlungsalgorithmus nicht systematisch Gewalt verstärkt”

3. Abschreckende Sanktionen

• Bußgelder als Prozentsatz des Umsatzes (DSA: bis 6%)

• Bei Wiederholung: strukturelle Remedies (Algorithmus-Offenlegung, erzwungene Interoperabilität, Plattform-Aufspaltung)

Präzedenzfälle existieren: Die EU-Regulierung von Telekommunikation, Lebensmittelsicherheit und Finanzdienstleistungen zeigt, dass auch mächtige Branchen regulierbar sind.

Schluss

Die zentrale Frage lautet nicht, ob Gewalt im Netz technisch eindämmbar ist. Die technologischen Werkzeuge existieren.

Die Frage lautet, ob demokratische Gesellschaften bereit sind, Wirtschaftsmodelle zu begrenzen, die von der Skalierung menschlichen Leids profitieren.

Bisherige Regulierung scheitert an drei Punkten:

1. Freiwilligkeit statt Zwang

2. Symptombehandlung statt Geschäftsmodell-Kritik

3. Politische Scheu vor Machtkonflikten mit Big Tech

Solange diese Konstellation besteht, bleibt öffentliche Empörung folgenlos und Gewalt profitabel.