Wenn Jugendschutzgesetze im Netz zu Zensur werden

Im Jahr 2023 wurde ein Support-Forum für Opfer häuslicher Gewalt vom Inhaltsfilter eines großen britischen Internetanbieters blockiert. Der Filter, der Kinder vor schädlichen Inhalten schützen sollte, hatte das Forum als „Gewalt“ eingestuft und es für Millionen Nutzer stillschweigend aus den Suchergebnissen entfernt. Betroffene, die Hilfe suchten, bekamen nur die allgemeine Meldung „Seite kann nicht angezeigt werden“. Keine Erklärung, kein Einspruchsverfahren, keine Möglichkeit zu erfahren, dass blockiert wurde. Die Betreiber der Seite bemerkten es erst Monate später, als die Zugriffe aus Großbritannien praktisch auf null fielen.

Das war eigentlich kein Bug. Der Filter hat genau so funktioniert, wie er entworfen wurde: Er hat Inhalte zum Thema Gewalt erkannt und blockiert. Das Problem ist, dass Inhaltsfilter keinen Kontext verstehen. Sie können nicht unterscheiden, ob eine Ressource über Gewalt aufklärt, um Betroffenen zu helfen, oder ob sie Gewalt verherrlicht. Und sobald eine Filterinfrastruktur existiert, weitet sich ihr Einsatzbereich fast immer über den ursprünglichen Zweck hinaus aus.

Das Muster: Schutzvorgaben, die zu Kontrollinfrastruktur werden

Die politische Logik ist immer dieselbe. Eine Regierung schlägt Internetfilter zum Schutz von Kindern vor – etwas, dem im Prinzip kaum jemand widerspricht. Das Gesetz wird mit breiter Unterstützung verabschiedet. Dann entsteht eine technische Infrastruktur: DNS-Sperren, Deep Packet Inspection, verpflichtende Filterung durch Internetanbieter. Und dann wächst, still und leise, die Liste der gesperrten Kategorien.

Australiens ursprünglicher Internetfilter sollte Material über sexuellen Missbrauch von Kindern blockieren. Als er schließlich umgesetzt wurde, umfassten die gesperrten Kategorien unter anderem Ressourcen zur Sterbehilfe, Abtreibungsgegner-Seiten, reguläre Pornografie, Glücksspiel und die Website eines Zahnarztes aus Queensland (das war ein Irrtum, aber die Seite blieb wochenlang gesperrt). Die „Porn-Filter“ im Vereinigten Königreich wurden auf Foren, verschlüsselte E-Mail-Dienste und VPN-Anbieter ausgeweitet. Die Familienschutz-Filter in der Türkei blockieren Angebote für LGBTQ+-Personen. Russlands Kinderschutzgesetz wurde zur rechtlichen Grundlage für die Sperrung oppositioneller Medien.

Das ist keine Verschwörungstheorie, sondern Infrastruktur-Ökonomie. Sobald ein System gebaut ist, das beliebige Internetinhalte filtern kann, kostet es praktisch nichts, eine weitere Kategorie zur Sperrliste hinzuzufügen. Der teure Teil – die Filterinfrastruktur selbst – existiert bereits. Früher oder später wird jede Interessengruppe mit politischem Einfluss fragen: „Könntet ihr dabei gleich auch X sperren?“

Warum Inhaltsfilterung nicht so funktioniert wie beabsichtigt

Abgesehen vom Problem der schleichenden Ausweitung gibt es ein grundlegenderes Problem: Inhaltsfilterung im großen Maßstab funktioniert in der Praxis kaum. Die technischen Grenzen sind gravierend.

Das Problem des Overblockings

Automatisierte Filter erzeugen enorm viele Fehlalarme. Eine Untersuchung der standardmäßig aktivierten Filter britischer Internetanbieter ergab, dass etwa 19 % der 100.000 meistbesuchten Websites von mindestens einem Anbieter fälschlicherweise blockiert wurden. Betroffen waren unter anderem Hilfsorganisationen, politische Gruppen, Bildungsangebote und kleine Unternehmen. Das Scunthorpe-Problem – wenn legitime Inhalte blockiert werden, weil sie eine Zeichenfolge enthalten, die einer Filterregel entspricht – ist im großen Maßstab bis heute ungelöst.

Noch heimtückischer ist, dass Overblocking asymmetrisch wirkt. Große, gut ausgestattete Websites können den Einspruchsprozess durchlaufen und die Sperre aufheben lassen. Eine kleine, ehrenamtlich betriebene Jugendberatungsseite für LGBTQ+-Personen kann das nicht. Ausgerechnet die Seiten, die am ehesten unter Overblocking leiden, sind am schlechtesten darauf vorbereitet, sich dagegen zu wehren.

Das Problem des Underblockings

Gleichzeitig umgehen entschlossene Nutzer Filter mühelos. Ein VPN, das ein paar Dollar im Monat kostet, macht Filterung auf Provider-Ebene vollkommen wirkungslos. DNS-basierte Sperren lassen sich umgehen, indem man den DNS-Resolver auf 1.1.1.1 oder 8.8.8.8 umstellt – das schafft ein technikaffiner Teenager in etwa 30 Sekunden. Selbst Deep Packet Inspection tut sich schwer mit verschlüsseltem Datenverkehr, der inzwischen über 95 % des Web-Traffics ausmacht.

# Bypassing DNS-based content filtering:
# Step 1: Change DNS resolver (takes 10 seconds)
# On Linux/Mac:
echo "nameserver 1.1.1.1" | sudo tee /etc/resolv.conf
# Or use DNS-over-HTTPS, which is invisible to ISP filters:
# Most modern browsers support this natively.
# Firefox: Settings → Privacy → Enable DNS over HTTPS
# Chrome: Settings → Security → Use secure DNS
# The filter infrastructure cost millions to build.
# Bypassing it took 10 seconds.

Das Ergebnis ist paradox: Die Kinder, die am meisten gefährdet sind – etwa jene mit technisch versierten Freunden oder in Umgebungen, in denen sie aktiv nach schädlichen Inhalten suchen –, umgehen die Filter. Blockiert werden dagegen diejenigen, die gar nicht nach schädlichen Inhalten gesucht hätten, aber zufällig Seiten besuchen, die einen Fehlalarm auslösen.

Die technische Realität, die Ingenieure verstehen müssen

Wenn du Anwendungen, APIs oder Dienste entwickelst, betreffen dich Vorgaben zur Inhaltsfilterung direkt. Das solltest du wissen:

• SNI-Inspection verliert an Bedeutung. Encrypted Client Hello (ECH) wird bei großen CDNs und Browsern eingeführt. Sobald es weit verbreitet ist, können Internetanbieter bei einer gemeinsam genutzten IP-Adresse nicht mehr sehen, welche konkrete Seite ein Nutzer aufruft – sie sehen nur noch die CDN-Domain. Damit wird hostnamenbasierte Filterung praktisch unbrauchbar.
• DNS-Verschlüsselung macht DNS-basierte Filter wirkungslos. DNS-over-HTTPS (DoH) und DNS-over-TLS (DoT) verschlüsseln DNS-Anfragen und entziehen sie so der Überwachung durch Internetanbieter. Große Browser rollen das inzwischen als Standardeinstellung aus.
• Clientseitige Filterung ist das nächste Schlachtfeld. Weil netzwerkbasierte Filterung nicht mehr greift, zielen manche Vorschläge darauf ab, Filtersoftware auf Geräten oder in App-Stores vorzuschreiben. Das ist technisch wirksamer, wirft aber gravierende Datenschutzprobleme auf – die Software auf deinem Gerät müsste alles prüfen, was du tust.
• Altersverifikation schafft Datenschutzrisiken. Mehrere Länder verlangen mittlerweile eine Altersprüfung für bestimmte Inhalte. Die technischen Umsetzungen reichen von Kreditkartenprüfungen (die Datenbanken schaffen, in denen Surfverhalten mit der Identität verknüpft ist) bis zur biometrischen Verifikation (die Gesichtserkennung für den Internetzugang normalisiert).

Was Kinder online tatsächlich schützt

Die unbequeme Wahrheit ist: Inhaltsfilterung auf Netzwerkebene ist der am wenigsten wirksame Ansatz für die Sicherheit von Kindern, politisch aber am bequemsten, weil dafür nichts an der Funktionsweise von Plattformen oder am Umgang der Eltern mit Technik geändert werden muss.

Ansätze, die tatsächlich funktionieren, sind meist weniger spektakulär, aber wirksamer:

• Änderungen am Plattformdesign – Empfehlungsalgorithmen für junge Nutzer weniger aggressiv gestalten, Direktnachrichten von Fremden standardmäßig deaktivieren, Funktionen für soziale Vergleiche reduzieren. Instagrams Einschränkungen für Teenager-Konten hatten messbare Auswirkungen auf problematische Interaktionen.
• Transparenzpflichten – Plattformen müssen Daten zu Moderationsentscheidungen, algorithmischen Empfehlungen für Minderjährige und der Verbreitung schädlicher Inhalte veröffentlichen. Sonnenlicht ist das beste Desinfektionsmittel – und besser als jeder Filter.
• Melde- und Reaktionsstrukturen – Investitionen in schnellere Entfernung tatsächlich illegaler Inhalte (CSAM, Grooming) auf Plattformebene, mit speziell ausgestatteten Strafverfolgungsbehörden. Das zielt auf den eigentlichen Schaden und baut keine universellen Zensurwerkzeuge.
• Geräteseitige Kindersicherungen – Freiwillige, von den Eltern verwaltete Einstellungen auf bestimmten Geräten statt Filter auf Providerebene, die alle betreffen. So behalten Eltern die Kontrolle, ohne eine nationale Zensurinfrastruktur zu schaffen.

Die Frage ist nicht, ob wir Kinder im Netz schützen sollten. Natürlich sollten wir das. Die Frage ist, ob wir dafür eine Zensurinfrastruktur aufbauen sollten, die die gesamte Bevölkerung betrifft – vor allem dann, wenn diese Infrastruktur gar nicht richtig funktioniert.

Der abschreckende Effekt auf Open Source und Sicherheitsforschung

Vorgaben zur Inhaltsfilterung wirken sich direkt auf die Tech-Community aus, was oft übersehen wird. Sicherheitsforscher veröffentlichen regelmäßig Details zu Schwachstellen, Exploit-Code und Malware-Analysen – all das kann von automatisierten Filtern markiert werden. Open-Source-Projekte, die sich mit Verschlüsselung, Anonymisierung oder Umgehungswerkzeugen befassen, geraten in Sperren, die für ganz andere Zwecke gedacht waren.

Die Website des Tor-Projekts wurde in mehreren Ländern von Inhaltsfiltern blockiert – nicht wegen konkreter illegaler Inhalte, sondern weil das Tool dazu genutzt werden könnte, gesperrte Seiten aufzurufen. Aus demselben Grund werden auch Websites von VPN-Anbietern gesperrt. So entsteht ein sich selbst verstärkender Kreislauf: Filterung treibt Nutzer zu Umgehungswerkzeugen, diese werden blockiert, und das treibt die Nutzer zu noch obskureren Werkzeugen.

Für Entwickler sind die praktischen Folgen real. Wenn du Dokumentation, Tools oder Bibliotheken mit Bezug zu Sicherheitsthemen hostest, kann deine Website in bestimmten Ländern ohne Benachrichtigung und ohne klaren Einspruchsweg blockiert sein. Es lohnt sich, Zugriffsmuster nach Region zu überwachen und alternative Vertriebswege zu haben.

Was Ingenieure tun können

Als Ingenieure sind wir oft diejenigen, die diese Filtersysteme umsetzen sollen. Gleichzeitig sind wir am besten in der Lage, ihre Grenzen zu verstehen und für bessere Ansätze einzutreten.

1. Verschlüsselung überall unterstützen. HTTPS, verschlüsseltes DNS, verschlüsseltes SNI – das schützt die Privatsphäre der Nutzer und macht grobschlächtige Filterung schwerer. Es geht nicht darum, schädliche Inhalte zu ermöglichen, sondern darum, dass Filterentscheidungen auf der richtigen Ebene getroffen werden (bei den Plattformen, nicht bei den Providern).
2. Transparenz in Moderationssysteme einbauen. Wenn du Inhaltsmoderation entwickelst, mach deine Entscheidungen nachvollziehbar. Veröffentliche Statistiken zu Fehlalarmquoten und biete klare Einspruchsverfahren an. Der Unterschied zwischen Moderation und Zensur liegt oft nur in der Transparenz.
3. Gegen Sicherheitstheater aufstehen. Wenn ein Product Manager dich bittet, einen Inhaltsfilter einzubauen, von dem du weißt, dass er nicht funktioniert, sag das offen. Dokumentiere die Grenzen und schlage Alternativen vor, die das eigentliche Problem lösen.
4. Sich in die Politik einbringen. Technikerinnen und Techniker halten sich bekanntlich gern aus politischen Debatten heraus, dabei ist unsere Perspektive entscheidend. Organisationen wie die EFF, das Open Technology Institute und Access Now arbeiten an diesen Themen und brauchen Expertise aus der Ingenieurspraxis.
5. Für den schlimmsten denkbaren Regulierer entwerfen. Wenn du ein System baust, das für Inhaltsfilterung missbraucht werden könnte, überleg dir, wie das geschehen könnte. Lässt sich die Sperrliste prüfen? Können einzelne Sperren angefochten werden? Gibt es eine Verfallsklausel? Gestalte dein System so, dass der Schaden begrenzt bleibt, selbst wenn die falschen Leute die Kontrolle übernehmen.

Die größte Stärke des Internets war immer seine Offenheit – die Möglichkeit für jeden, zu veröffentlichen, zuzugreifen und auf dem Bestehenden aufzubauen. Inhaltsfilter-Vorgaben nagen daran, so gut gemeint sie auch sein mögen. Die Herausforderung für unsere Generation von Ingenieuren ist, verletzliche Nutzer zu schützen, ohne die Infrastruktur der Kontrolle aufzubauen. Das ist ein schwieriges Problem, und einfache Antworten gibt es nicht. Der erste Schritt ist aber, ehrlich darüber zu sein, was die Werkzeuge, die wir bauen, tatsächlich tun – und was sie nicht können.