Quand les lois de sécurité en ligne servent la censure

En 2023, un forum de soutien aux victimes de violences conjugales a été bloqué par le filtre de contenu d'un grand FAI britannique. Ce filtre, conçu pour protéger les enfants des contenus nuisibles, avait classé le forum dans la catégorie « violence » et l'avait discrètement retiré des résultats de recherche de millions d'utilisateurs. Les survivants qui cherchaient de l'aide tombaient sur un message générique « page impossible à afficher ». Aucune explication, aucun recours, aucun moyen de savoir que le blocage était en cours. Les opérateurs du site ne s'en sont rendu compte que des mois plus tard, quand le trafic venant du Royaume-Uni a chuté à presque zéro.

Ce n'était pas vraiment un bug. Le filtre fonctionnait comme prévu : il repérait les contenus liés à la violence et les bloquait. Le problème, c'est que les systèmes de filtrage ne comprennent pas le contexte. Ils ne peuvent pas distinguer une ressource qui parle de violence pour aider les victimes de celle qui en fait l'apologie. Et une fois qu'une infrastructure de filtrage existe, son périmètre finit presque toujours par dépasser son objectif initial.

Le schéma : des mesures de sécurité qui deviennent une infrastructure de contrôle

La logique politique est toujours la même. Un gouvernement propose un filtrage d'internet pour protéger les enfants, une idée que presque personne ne rejette sur le principe. La loi passe avec un large soutien. Une infrastructure technique se met en place : blocages au niveau DNS, inspection profonde des paquets, filtrage obligatoire par les FAI. Puis, discrètement, la liste des catégories bloquées s'allonge.

Le filtre initial de l'Australie devait bloquer le matériel d'exploitation sexuelle d'enfants. Au moment de sa mise en œuvre, les catégories bloquées incluaient des ressources sur l'euthanasie, des sites anti-avortement, la pornographie classique, les jeux d'argent, et le site d'un dentiste du Queensland (une erreur, certes, mais qui est restée bloquée pendant des semaines). Les « filtres pornographiques » britanniques se sont étendus à des forums, des services de messagerie chiffrée et des fournisseurs de VPN. Le filtre de sécurité familiale de la Turquie bloque les ressources LGBTQ+. La loi russe de protection de l'enfance est devenue la base juridique du blocage de médias d'opposition.

Ce n'est pas de la théorie du complot, c'est de l'économie d'infrastructure. Dès qu'on construit un système capable de filtrer n'importe quel contenu d'internet, le coût marginal d'ajouter une catégorie à la liste de blocage devient quasiment nul. La partie coûteuse, l'infrastructure de filtrage elle-même, existe déjà. Chaque groupe d'intérêt disposant d'une influence politique finira par demander : « Pendant que vous y êtes, pourriez-vous aussi bloquer X ? »

Pourquoi le filtrage de contenu ne fonctionne pas comme prévu

Au-delà du problème d'élargissement du périmètre, il existe un souci plus fondamental : le filtrage de contenu à grande échelle ne fonctionne pas vraiment bien. Les limites techniques sont sévères.

Le problème du sur-blocage

Les systèmes de filtrage automatisés produisent un nombre énorme de faux positifs. Une étude portant sur les filtres activés par défaut chez les FAI britanniques a révélé qu'environ 19 % des 100 000 sites web les plus populaires étaient bloqués à tort par au moins un FAI. Parmi les sites bloqués figuraient des associations caritatives, des organisations politiques, des ressources éducatives et de petites entreprises. Le « problème de Scunthorpe », où un contenu légitime est bloqué parce qu'il contient une sous-chaîne correspondant à une règle de filtre, reste non résolu à grande échelle.

Plus insidieusement, le sur-blocage est asymétrique. Les grands sites, bien dotés en ressources, peuvent passer par la procédure de recours pour être débloqués. Un petit site de soutien aux jeunes LGBTQ+, tenu par des bénévoles, ne le peut pas. Les sites les plus susceptibles d'être victimes du sur-blocage sont précisément ceux qui sont le moins armés pour le combattre.

Le problème du sous-blocage

Dans le même temps, les utilisateurs déterminés contournent les filtres sans effort. Un VPN, qui coûte quelques euros par mois, rend le filtrage au niveau du FAI totalement inutile. Les blocages DNS peuvent être contournés en remplaçant le résolveur DNS par 1.1.1.1 ou 8.8.8.8, une manipulation qu'un adolescent à l'aise avec la technologie peut faire en une trentaine de secondes. Même l'inspection profonde des paquets peine face au trafic chiffré, qui représente désormais plus de 95 % du trafic web.

# Bypassing DNS-based content filtering:
# Step 1: Change DNS resolver (takes 10 seconds)
# On Linux/Mac:
echo "nameserver 1.1.1.1" | sudo tee /etc/resolv.conf
# Or use DNS-over-HTTPS, which is invisible to ISP filters:
# Most modern browsers support this natively.
# Firefox: Settings → Privacy → Enable DNS over HTTPS
# Chrome: Settings → Security → Use secure DNS
# The filter infrastructure cost millions to build.
# Bypassing it took 10 seconds.

Le résultat est pervers : les enfants les plus exposés, ceux qui ont des camarades experts en informatique ou qui cherchent activement des contenus nuisibles, contourneront les filtres. Ceux qui se retrouvent bloqués sont ceux qui n'auraient jamais cherché de tels contenus, mais qui visitent par hasard des sites déclenchant des faux positifs.

La réalité technique que les ingénieurs doivent comprendre

Si vous développez des applications, des API ou des services, les mesures de filtrage de contenu vous concernent directement. Voici ce qu'il faut savoir :

• L'inspection SNI perd du terrain. Encrypted Client Hello (ECH) est en cours de déploiement chez les principaux CDN et navigateurs. Une fois généralisé, les FAI ne pourront plus voir quel site précis un utilisateur visite sur une IP partagée : ils ne verront que le domaine du CDN. Cela rend le filtrage basé sur le nom d'hôte totalement inopérant.
• Le chiffrement du DNS rend les filtres DNS inopérants. DNS-over-HTTPS (DoH) et DNS-over-TLS (DoT) chiffrent les requêtes DNS, les rendant invisibles pour la surveillance au niveau du FAI. Les principaux navigateurs les activent progressivement par défaut.
• Le filtrage côté client sera le prochain champ de bataille. À mesure que le filtrage réseau devient inefficace, certaines propositions visent à imposer des logiciels de filtrage sur les appareils ou dans les magasins d'applications. C'est techniquement plus efficace, mais cela soulève de graves problèmes de vie privée : il faut un logiciel sur votre appareil qui inspecte tout ce que vous faites.
• Les obligations de vérification d'âge créent des risques pour la vie privée. Plusieurs juridictions exigent désormais une vérification de l'âge pour certains contenus. Les mises en œuvre techniques vont des contrôles par carte bancaire (qui créent des bases reliant l'historique de navigation à l'identité) à la vérification biométrique (qui banalise la reconnaissance faciale pour accéder à internet).

Ce qui protège réellement les enfants en ligne

La vérité embarrassante, c'est que le filtrage de contenu au niveau du réseau est l'approche la moins efficace pour la sécurité des enfants, mais c'est la plus commode politiquement, car elle ne demande de rien changer au fonctionnement des plateformes ni à la manière dont les parents utilisent la technologie.

Les approches qui fonctionnent vraiment sont souvent moins spectaculaires, mais plus efficaces :

• Changements de conception des plateformes : rendre les algorithmes de recommandation moins agressifs pour les jeunes utilisateurs, désactiver par défaut les messages directs venant d'inconnus, réduire les fonctions de comparaison sociale. Les restrictions d'Instagram sur les comptes adolescents ont eu un impact mesurable sur les interactions problématiques.
• Obligations de transparence : exiger des plateformes qu'elles publient des données sur leurs décisions de modération, sur les recommandations algorithmiques adressées aux mineurs et sur la prévalence des contenus nuisibles. La lumière est un meilleur désinfectant que les filtres.
• Signalement et réactivité : investir dans un retrait plus rapide des contenus réellement illégaux (CSAM, pédopiégeage) au niveau des plateformes, avec des moyens dédiés pour les forces de l'ordre. Cela cible le préjudice réel au lieu de construire des outils de censure généralisée.
• Contrôle parental au niveau des appareils : des contrôles volontaires, gérés par les parents, sur des appareils précis, plutôt qu'un filtrage au niveau du FAI qui touche tout le monde. Ils donnent aux parents la maîtrise sans créer d'infrastructure de censure nationale.

La question n'est pas de savoir si nous devons protéger les enfants en ligne. Bien sûr que oui. La question est de savoir si nous devons construire une infrastructure de censure qui touche toute la population pour y parvenir, surtout quand cette infrastructure ne fonctionne même pas.

L'effet dissuasif sur l'open source et la recherche en sécurité

Les mesures de filtrage ont un impact direct sur la communauté tech, souvent négligé. Les chercheurs en sécurité publient régulièrement des détails de vulnérabilités, du code d'exploitation et des analyses de malwares, autant de contenus que les filtres automatiques peuvent signaler. Les projets open source qui traitent de chiffrement, d'anonymisation ou d'outils de contournement se retrouvent pris dans des blocages conçus pour des usages tout différents.

Le site du Tor Project a été bloqué par des filtres de contenu dans plusieurs pays, non pas à cause d'un contenu illégal précis, mais parce que l'outil pourrait servir à accéder à des sites bloqués. Les sites des fournisseurs de VPN sont bloqués pour la même raison. Cela crée un cycle auto-entretenu : le filtrage pousse les utilisateurs vers des outils de contournement, qui sont à leur tour bloqués, ce qui les oriente vers des outils de contournement encore plus obscurs.

Pour les développeurs, les conséquences pratiques sont bien réelles. Si vous hébergez de la documentation, des outils ou des bibliothèques qui touchent à la sécurité, votre site peut se retrouver bloqué dans certaines juridictions, sans notification ni procédure de recours claire. Il vaut la peine de surveiller les accès par zone géographique et de prévoir des canaux de distribution alternatifs.

Ce que les ingénieurs peuvent faire

En tant qu'ingénieurs, c'est souvent à nous qu'on demande de mettre en œuvre ces systèmes de filtrage. Nous sommes aussi les mieux placés pour en comprendre les limites et défendre de meilleures approches.

1. Généraliser le chiffrement. HTTPS, DNS chiffré, SNI chiffré : ces protocoles protègent la vie privée des utilisateurs et rendent le filtrage brutal plus difficile. Il ne s'agit pas de favoriser les contenus nuisibles, mais de s'assurer que les décisions de filtrage sont prises au bon niveau (les plateformes, et non les FAI).
2. Intégrer la transparence dans les systèmes de modération. Si vous développez de la modération de contenu, rendez vos décisions auditables. Publiez des statistiques sur les taux de faux positifs. Mettez en place des procédures de recours claires. La frontière entre modération et censure tient souvent à une seule chose : la transparence.
3. Résister à la sécurité de façade. Quand un chef de produit vous demande de mettre en place un filtre de contenu dont vous savez qu'il ne fonctionnera pas, dites-le. Documentez les limites. Proposez des alternatives qui répondent au vrai problème.
4. Participer au débat politique. Les profils techniques évitent volontiers les discussions politiques, mais notre point de vue est essentiel. Des organisations comme l'EFF, l'Open Technology Institute et Access Now travaillent sur ces questions et ont besoin d'expertise en ingénierie.
5. Concevoir pour le régulateur le plus malveillant. Si vous construisez un système susceptible de servir au filtrage de contenu, réfléchissez à la manière dont il pourrait être détourné. La liste de blocage peut-elle être auditée ? Peut-on contester un blocage précis ? Existe-t-il une clause de caducité ? Concevez votre système pour que, même si les mauvaises personnes en prennent le contrôle, les dégâts restent limités.

La force la plus précieuse d'internet a toujours été son ouverture : la possibilité pour chacun de publier, d'accéder et de construire sur ce qui existe. Les mesures de filtrage de contenu, aussi bien intentionnées soient-elles, rognent peu à peu cette ouverture. Le défi pour notre génération d'ingénieurs est de trouver comment protéger les utilisateurs vulnérables sans bâtir l'infrastructure du contrôle. C'est un problème difficile, et il n'existe pas de réponses faciles. Mais la première étape consiste à être honnête sur ce que font réellement les outils que nous construisons, et sur ce qu'ils ne peuvent pas faire.