Leggi sulla sicurezza online come strumenti di censura

Nel 2023, un forum di supporto per le vittime di violenza domestica è stato bloccato dal filtro dei contenuti di un importante ISP britannico. Il filtro, progettato per proteggere i minori dai contenuti dannosi, aveva classificato il forum come «violenza» e lo aveva rimosso silenziosamente dai risultati di ricerca di milioni di utenti. Chi cercava aiuto riceveva un generico messaggio «impossibile visualizzare la pagina». Nessuna spiegazione, nessuna procedura di ricorso, nessun modo per sapere che il blocco era in atto. I gestori del sito se ne sono accorti solo mesi dopo, quando il traffico dagli utenti britannici è crollato quasi a zero.

Non si trattava proprio di un bug. Il filtro funzionava come previsto: riconosceva i contenuti legati alla violenza e li bloccava. Il problema è che i sistemi di filtraggio dei contenuti non capiscono il contesto. Non riescono a distinguere una risorsa che parla di violenza per aiutare le vittime da una che la promuove. E una volta che esiste un'infrastruttura di filtraggio, il suo ambito quasi sempre si allarga oltre lo scopo originario.

Lo schema ricorrente: i mandati di sicurezza che diventano infrastrutture di controllo

La logica politica è sempre la stessa. Un governo propone il filtraggio di internet per proteggere i minori, una cosa che quasi nessuno contesta in linea di principio. La legge passa con ampio consenso. Viene costruita un'infrastruttura tecnica: blocchi a livello DNS, deep packet inspection, filtraggio obbligatorio da parte degli ISP. E poi, silenziosamente, la lista delle categorie bloccate cresce.

Il filtro australiano originale era stato proposto per bloccare il materiale di sfruttamento sessuale minorile. Quando è stato implementato, le categorie bloccate comprendevano risorse sull'eutanasia, siti antiabortisti, la pornografia tradizionale, il gioco d'azzardo e il sito web di un dentista del Queensland (quello era un errore, ma è rimasto bloccato per settimane). I «filtri porno» britannici si sono estesi fino a bloccare forum, servizi di posta elettronica cifrata e fornitori di VPN. Il filtro per la sicurezza della famiglia in Turchia blocca le risorse LGBTQ+. La legge russa per la protezione dei minori è diventata la base giuridica per bloccare i media di opposizione.

Non è una teoria del complotto. È economia delle infrastrutture. Una volta costruito un sistema in grado di filtrare contenuti arbitrari di internet, il costo marginale di aggiungere un'altra categoria alla lista dei blocchi è praticamente zero. La parte costosa, cioè l'infrastruttura di filtraggio in sé, esiste già. Ogni gruppo di interesse con influenza politica finirà prima o poi per chiedere: «già che ci siete, potreste bloccare anche X?»

Perché il filtraggio dei contenuti non funziona come previsto

Al di là del problema dell'allargamento dello scopo, c'è una questione più fondamentale: il filtraggio dei contenuti su larga scala non funziona davvero bene. I limiti tecnici sono seri.

Il problema dell'over-blocking

I sistemi di filtraggio automatico producono un numero enorme di falsi positivi. Uno studio sui filtri ISP attivi di default nel Regno Unito ha rilevato che circa il 19% dei primi 100.000 siti web è stato bloccato erroneamente da almeno un ISP. Tra i siti bloccati c'erano associazioni benefiche, organizzazioni politiche, risorse educative e piccole attività commerciali. Il problema di Scunthorpe, in cui contenuti legittimi vengono bloccati perché contengono una sottostringa che corrisponde a una regola del filtro, resta irrisolto su larga scala.

Ancora più insidiosamente, l'over-blocking è asimmetrico. I siti grandi e ben finanziati possono percorrere la procedura di ricorso per essere sbloccati. Un piccolo sito di supporto per giovani LGBTQ+, gestito da volontari, non ci riesce. I siti più esposti all'over-blocking sono proprio quelli meno attrezzati per combatterlo.

Il problema dell'under-blocking

Allo stesso tempo, gli utenti determinati aggirano i filtri con facilità. Una VPN, che costa pochi dollari al mese, rende completamente inutile il filtraggio a livello ISP. I blocchi basati sul DNS si possono aggirare cambiando il resolver DNS con 1.1.1.1 o 8.8.8.8, operazione che un adolescente esperto di tecnologia completa in circa 30 secondi. Anche la deep packet inspection fatica con il traffico cifrato, che oggi rappresenta oltre il 95% del traffico web.

# Bypassing DNS-based content filtering:
# Step 1: Change DNS resolver (takes 10 seconds)
# On Linux/Mac:
echo "nameserver 1.1.1.1" | sudo tee /etc/resolv.conf
# Or use DNS-over-HTTPS, which is invisible to ISP filters:
# Most modern browsers support this natively.
# Firefox: Settings → Privacy → Enable DNS over HTTPS
# Chrome: Settings → Security → Use secure DNS
# The filter infrastructure cost millions to build.
# Bypassing it took 10 seconds.

Ne deriva un esito perverso: i minori più a rischio, quelli con coetanei esperti di tecnologia o in ambienti in cui cercano attivamente contenuti dannosi, aggireranno i filtri. A restare bloccate sono le persone che non avrebbero mai cercato contenuti dannosi, ma che capita di visitare siti che generano falsi positivi.

La realtà tecnica che gli ingegneri devono capire

Se sviluppate applicazioni, API o servizi, i mandati sul filtraggio dei contenuti vi riguardano direttamente. Ecco cosa dovete sapere:

• L'ispezione SNI sta perdendo efficacia. L'Encrypted Client Hello (ECH) si sta diffondendo tra i principali CDN e browser. Una volta diffuso, gli ISP non possono più vedere quale specifico sito un utente visita su un IP condiviso: vedono solo il dominio del CDN. Questo rende inefficace il filtraggio basato sull'hostname.
• La cifratura del DNS rompe i filtri basati sul DNS. DNS-over-HTTPS (DoH) e DNS-over-TLS (DoT) cifrano le query DNS, rendendole invisibili al monitoraggio a livello ISP. I browser principali le stanno introducendo come impostazione predefinita.
• Il filtraggio lato client è il prossimo campo di battaglia. Mentre il filtraggio di rete diventa inefficace, alcune proposte si spostano verso l'obbligo di installare software di filtraggio sui dispositivi o negli app store. Tecnicamente è più efficace, ma solleva seri problemi di privacy: richiede un software sul vostro dispositivo che ispezioni tutto ciò che fate.
• I mandati di verifica dell'età creano rischi per la privacy. Diverse giurisdizioni richiedono ora la verifica dell'età per alcuni contenuti. Le implementazioni tecniche vanno dai controlli con carta di credito, che creano database che collegano la cronologia di navigazione all'identità, alla verifica biometrica, che normalizza il riconoscimento facciale per l'accesso a internet.

Cosa protegge davvero i minori online

La verità scomoda è che il filtraggio dei contenuti a livello di rete è l'approccio meno efficace per la sicurezza dei minori, ma è il più comodo dal punto di vista politico, perché non richiede di cambiare nulla nel modo in cui operano le piattaforme o in cui i genitori si rapportano alla tecnologia.

Gli approcci che funzionano davvero tendono a essere meno spettacolari ma più efficaci:

• Modifiche al design delle piattaforme — Rendere meno aggressivi gli algoritmi di raccomandazione per gli utenti giovani, disattivare per impostazione predefinita i messaggi diretti da sconosciuti, ridurre le funzioni di confronto sociale. Le restrizioni di Instagram sugli account per adolescenti hanno avuto un impatto misurabile sulle interazioni problematiche.
• Obblighi di trasparenza — Richiedere alle piattaforme di pubblicare dati sulle decisioni di moderazione dei contenuti, sulle raccomandazioni algoritmiche rivolte ai minori e sulla diffusione dei contenuti dannosi. La luce del sole è un disinfettante migliore dei filtri.
• Infrastrutture di segnalazione e risposta — Investire in una rimozione più rapida dei contenuti chiaramente illegali (CSAM, adescamento) a livello di piattaforma, con risorse dedicate per le forze dell'ordine. Questo colpisce il danno reale invece di costruire strumenti di censura generici.
• Controlli parentali a livello di dispositivo — Controlli volontari, gestiti dai genitori, su dispositivi specifici, anziché filtraggio a livello ISP che riguarda tutti. Danno ai genitori la possibilità di scegliere senza creare un'infrastruttura di censura nazionale.

La domanda non è se dobbiamo proteggere i minori online. Certo che dobbiamo. La domanda è se dobbiamo costruire un'infrastruttura di censura che colpisca l'intera popolazione per farlo, soprattutto quando quell'infrastruttura non funziona davvero.

L'effetto dissuasivo su open source e ricerca sulla sicurezza

I mandati sul filtraggio dei contenuti hanno un impatto diretto sulla comunità tecnica, che spesso passa inosservato. I ricercatori di sicurezza pubblicano regolarmente dettagli sulle vulnerabilità, codice di exploit e analisi di malware, tutte cose che possono essere segnalate dai filtri automatici. I progetti open source che si occupano di crittografia, anonimizzazione o strumenti di elusione finiscono coinvolti in blocchi pensati per scopi completamente diversi.

Il sito del Tor Project è stato bloccato dai filtri dei contenuti in più paesi, non per specifici contenuti illegali, ma perché lo strumento potrebbe essere usato per accedere ai siti bloccati. Anche i siti dei fornitori di VPN vengono bloccati per lo stesso motivo. Si crea così un ciclo che si autoalimenta: il filtraggio spinge gli utenti verso strumenti di elusione, che a loro volta vengono bloccati, e questo li spinge verso strumenti di elusione ancora più oscuri.

Per gli sviluppatori l'impatto pratico è reale. Se ospitate documentazione, strumenti o librerie che trattano temi di sicurezza, potreste ritrovare il vostro sito bloccato in alcune giurisdizioni, senza alcuna notifica e senza una procedura di ricorso chiara. Vale la pena monitorare gli accessi per area geografica e avere canali di distribuzione alternativi.

Cosa possono fare gli ingegneri

Come ingegneri, spesso siamo noi a dover implementare questi sistemi di filtraggio. Siamo anche quelli meglio posizionati per capirne i limiti e sostenere approcci migliori.

1. Sostenete la cifratura ovunque. HTTPS, DNS cifrato, SNI cifrato: tutto questo protegge la privacy degli utenti e rende più difficile il filtraggio grossolano. Non si tratta di abilitare contenuti dannosi, ma di garantire che le decisioni di filtraggio vengano prese al livello giusto, cioè sulle piattaforme e non sugli ISP.
2. Costruite trasparenza nei sistemi di moderazione. Se sviluppate moderazione dei contenuti, rendete le vostre decisioni verificabili. Pubblicate statistiche sui tassi di falsi positivi. Prevedete procedure di ricorso chiare. La differenza tra moderazione e censura spesso sta solo nella trasparenza.
3. Opponetevi al security theater. Quando un product manager vi chiede di implementare un filtro dei contenuti che sapete non funzionerà davvero, ditelo. Documentate i limiti. Proponete alternative che risolvano il problema reale.
4. Partecipate al dibattito politico. Le persone tecniche tendono a evitare le discussioni di policy, ma la nostra prospettiva è fondamentale. Organizzazioni come EFF, Open Technology Institute e Access Now lavorano su questi temi e hanno bisogno di competenze ingegneristiche.
5. Progettate pensando al regolatore peggiore. Se costruite un sistema che potrebbe essere usato per il filtraggio dei contenuti, pensate a come potrebbe essere abusato. La lista dei blocchi può essere verificata? I singoli blocchi possono essere contestati? C'è una clausola di scadenza? Progettate il sistema in modo che, anche se le persone sbagliate ne prendono il controllo, il danno resti limitato.

La più grande forza di internet è sempre stata la sua apertura: la possibilità per chiunque di pubblicare, accedere e costruire su ciò che esiste. I mandati sul filtraggio dei contenuti, per quanto ben intenzionati, erodono quell'apertura un pezzo alla volta. La sfida per la nostra generazione di ingegneri è capire come proteggere gli utenti vulnerabili senza costruire l'infrastruttura del controllo. È un problema difficile e non esistono risposte semplici. Ma il primo passo è essere onesti su ciò che fanno davvero gli strumenti che costruiamo, e su ciò che non possono fare.