Quando Leis de Segurança na Internet Viram Ferramentas de Censura

Em 2023, um fórum de apoio a vítimas de violência doméstica foi bloqueado pelo filtro de conteúdo de um grande provedor de internet do Reino Unido. O filtro, criado para proteger crianças de conteúdo nocivo, classificou o fórum como "violência" e o removeu silenciosamente dos resultados de busca de milhões de usuários. Sobreviventes que buscavam ajuda receberam a mensagem genérica "página não pode ser exibida". Sem explicação, sem processo de recurso, sem nenhuma forma de saber que o bloqueio estava acontecendo. Os operadores do site só descobriram meses depois, quando o tráfego de usuários do Reino Unido caiu para quase zero.

Não foi exatamente um bug. O filtro estava funcionando como projetado: identificou conteúdo relacionado a violência e bloqueou. O problema é que sistemas de filtragem de conteúdo não entendem contexto. Eles não conseguem diferenciar um recurso que fala sobre violência para ajudar sobreviventes de um que a promove. E, uma vez que a infraestrutura de filtragem existe, seu escopo quase sempre se expande além do propósito original.

O Padrão: Mandatos de Segurança que Viram Infraestrutura de Controle

A lógica política é sempre a mesma. Um governo propõe filtragem da internet para proteger crianças, algo que quase ninguém se opõe em princípio. A legislação passa com amplo apoio. Constrói-se uma infraestrutura técnica: bloqueios em nível de DNS, inspeção profunda de pacotes, filtragem obrigatória pelos provedores. E então, discretamente, a lista de categorias bloqueadas cresce.

O filtro original da Austrália foi proposto para bloquear material de exploração infantil. Quando foi implementado, as categorias bloqueadas incluíam recursos sobre eutanásia, sites contra o aborto, pornografia comum, apostas e o site de um dentista de Queensland (esse foi um erro, mas ficou bloqueado por semanas). Os "filtros de pornografia" do Reino Unido se expandiram para bloquear fóruns, serviços de e-mail criptografado e provedores de VPN. O filtro de segurança familiar da Turquia bloqueia recursos LGBTQ+. A lei de proteção infantil da Rússia virou a base legal para bloquear veículos de imprensa de oposição.

Não é teoria da conspiração. É economia de infraestrutura. Depois que você constrói um sistema capaz de filtrar conteúdo arbitrário da internet, o custo marginal de adicionar mais uma categoria à lista de bloqueio é praticamente zero. A parte cara, a infraestrutura de filtragem em si, já existe. Todo grupo de interesse com influência política vai acabar perguntando: "já que estão nisso, dá para bloquear também X?"

Por que a Filtragem de Conteúdo Não Funciona como Previsto

Além do problema de expansão de escopo, existe uma questão mais fundamental: filtragem de conteúdo em escala não funciona bem. As limitações técnicas são severas.

O Problema do Bloqueio Excessivo

Sistemas automatizados de filtragem produzem um volume enorme de falsos positivos. Um estudo sobre os filtros padrão ativados pelos provedores do Reino Unido constatou que cerca de 19% dos 100 mil sites mais acessados foram bloqueados incorretamente por pelo menos um provedor. Entre os sites bloqueados estavam instituições de caridade, organizações políticas, recursos educacionais e pequenos negócios. O problema de Scunthorpe, em que conteúdo legítimo é bloqueado porque contém uma substring que corresponde a uma regra do filtro, continua sem solução em escala.

Mais insidiosamente, o bloqueio excessivo é assimétrico. Sites grandes e bem financiados conseguem navegar pelo processo de recurso e ser desbloqueados. Um pequeno site de apoio a jovens LGBTQ+, mantido por voluntários, não consegue. Os sites com maior probabilidade de serem apanhados no bloqueio excessivo são exatamente os menos equipados para lutar contra ele.

O Problema do Bloqueio Insuficiente

Ao mesmo tempo, usuários determinados contornam filtros com facilidade. Uma VPN, que custa alguns dólares por mês, torna a filtragem em nível de provedor completamente inútil. Bloqueios baseados em DNS podem ser contornados trocando seu resolvedor DNS para 1.1.1.1 ou 8.8.8.8, algo que um adolescente com familiaridade com tecnologia faz em cerca de 30 segundos. Até a inspeção profunda de pacotes tem dificuldade com tráfego criptografado, que hoje representa mais de 95% do tráfego web.

# Bypassing DNS-based content filtering:
# Step 1: Change DNS resolver (takes 10 seconds)
# On Linux/Mac:
echo "nameserver 1.1.1.1" | sudo tee /etc/resolv.conf
# Or use DNS-over-HTTPS, which is invisible to ISP filters:
# Most modern browsers support this natively.
# Firefox: Settings → Privacy → Enable DNS over HTTPS
# Chrome: Settings → Security → Use secure DNS
# The filter infrastructure cost millions to build.
# Bypassing it took 10 seconds.

Isso produz um resultado perverso: as crianças mais expostas, as que têm colegas com habilidade técnica e as que buscam ativamente conteúdo nocivo, vão contornar os filtros. Quem acaba bloqueado são as pessoas que nunca teriam procurado conteúdo nocivo, mas que por acaso visitam sites que disparam falsos positivos.

A Realidade Técnica que Engenheiros Precisam Entender

Se você desenvolve aplicações, APIs ou serviços, mandatos de filtragem de conteúdo afetam você diretamente. Veja o que você precisa saber:

• A inspeção de SNI está perdendo força. O Encrypted Client Hello (ECH) está sendo implantado nos principais CDNs e navegadores. Quando estiver amplamente adotado, os provedores não conseguirão mais ver qual site específico um usuário está acessando em um IP compartilhado. Eles veem apenas o domínio do CDN. Isso quebra completamente a filtragem baseada em hostname.
• A criptografia de DNS quebra filtros baseados em DNS. DNS-over-HTTPS (DoH) e DNS-over-TLS (DoT) criptografam consultas DNS, tornando-as invisíveis para o monitoramento em nível de provedor. Os principais navegadores estão adotando isso como configuração padrão.
• A filtragem no lado do cliente é a próxima batalha. Conforme a filtragem em nível de rede perde eficácia, algumas propostas passam a exigir software de filtragem nos dispositivos ou nas lojas de aplicativos. Isso é tecnicamente mais eficaz, mas levanta sérias preocupações de privacidade, já que exige um software no seu dispositivo inspecionando tudo o que você faz.
• Mandatos de verificação de idade criam riscos à privacidade. Várias jurisdições agora exigem verificação de idade para certos conteúdos. As implementações técnicas vão desde checagens com cartão de crédito (que criam bases de dados ligando histórico de navegação à identidade) até verificação biométrica (que normaliza o reconhecimento facial para acesso à internet).

O Que Realmente Protege as Crianças Online

A verdade incômoda é que a filtragem de conteúdo em nível de rede é a abordagem menos eficaz para a segurança infantil, mas é a mais conveniente politicamente, porque não exige mudar nada na forma como as plataformas operam ou como os pais se relacionam com a tecnologia.

As abordagens que realmente funcionam tendem a ser menos dramáticas, mas mais eficazes:

• Mudanças no design das plataformas — Tornar os algoritmos de recomendação menos agressivos para usuários jovens, desativar mensagens diretas de desconhecidos por padrão e reduzir recursos de comparação social. As restrições do Instagram para contas de adolescentes tiveram um impacto mensurável em interações problemáticas.
• Requisitos de transparência — Exigir que as plataformas publiquem dados sobre decisões de moderação de conteúdo, recomendações algorítmicas para menores e a prevalência de conteúdo nocivo. A luz do sol é um desinfetante melhor do que filtros.
• Infraestrutura de denúncia e resposta — Investir em remoção mais rápida de conteúdo genuinamente ilegal (CSAM, aliciamento) em nível de plataforma, com recursos dedicados das autoridades. Isso ataca o dano real, em vez de construir ferramentas de censura de uso geral.
• Controles parentais no nível do dispositivo — Controles voluntários, gerenciados pelos pais, em dispositivos específicos, em vez de filtragem em nível de provedor que afeta todo mundo. Eles dão aos pais autonomia sem criar infraestrutura de censura nacional.

A questão não é se devemos proteger as crianças online. Claro que devemos. A questão é se devemos construir uma infraestrutura de censura que afete toda a população para fazer isso, especialmente quando essa infraestrutura nem funciona de verdade.

O Efeito Inibidor sobre Código Aberto e Pesquisa em Segurança

Mandatos de filtragem de conteúdo têm um impacto direto na comunidade tech que muitas vezes passa despercebido. Pesquisadores de segurança publicam regularmente detalhes de vulnerabilidades, código de exploits e análises de malware, tudo isso pode ser sinalizado por filtros automatizados. Projetos de código aberto que lidam com criptografia, anonimato ou ferramentas de contorno acabam presos em bloqueios criados para propósitos totalmente diferentes.

O site do Tor Project já foi bloqueado por filtros de conteúdo em vários países, não por causa de algum conteúdo ilegal específico, mas porque a ferramenta poderia ser usada para acessar sites bloqueados. Sites de provedores de VPN são bloqueados pelo mesmo motivo. Isso cria um ciclo que se retroalimenta: a filtragem empurra usuários para ferramentas de contorno, que são bloqueadas, o que empurra os usuários para ferramentas de contorno ainda mais obscuras.

Para desenvolvedores, o impacto prático é real. Se você hospeda documentação, ferramentas ou bibliotecas que tratam de temas de segurança, seu site pode ser bloqueado em certas jurisdições sem nenhuma notificação e sem um processo de recurso claro. Vale a pena monitorar padrões de acesso por geografia e ter canais alternativos de distribuição.

O Que Engenheiros Podem Fazer

Como engenheiros, muitas vezes somos nós que recebemos a tarefa de implementar esses sistemas de filtragem. Também somos quem está em melhor posição para entender suas limitações e defender abordagens melhores.

1. Apoie a criptografia em todo lugar. HTTPS, DNS criptografado, SNI criptografado: tudo isso protege a privacidade do usuário e dificulta a filtragem de martelo. Não se trata de permitir conteúdo nocivo; trata-se de garantir que as decisões de filtragem sejam tomadas no nível certo (plataformas, não provedores).
2. Construa transparência nos sistemas de moderação. Se você está criando moderação de conteúdo, torne suas decisões auditáveis. Publique estatísticas sobre taxas de falsos positivos. Ofereça processos de recurso claros. A diferença entre moderação e censura muitas vezes é apenas transparência.
3. Questione o teatro de segurança. Quando um product manager pedir que você implemente um filtro de conteúdo que você sabe que não vai funcionar de verdade, diga isso. Documente as limitações. Proponha alternativas que resolvam o problema real.
4. Participe do debate sobre políticas públicas. Profissionais de tecnologia costumam evitar discussões de política, mas nossa perspectiva é essencial. Organizações como a EFF, a Open Technology Institute e a Access Now trabalham com essas questões e precisam de conhecimento de engenharia.
5. Projete para o regulador do pior cenário. Se você está construindo um sistema que pode ser usado para filtragem de conteúdo, pense em como ele poderia ser mal utilizado. A lista de bloqueio pode ser auditada? Bloqueios individuais podem ser contestados? Existe uma cláusula de expiração? Projete seu sistema de modo que, mesmo que as pessoas erradas assumam o controle, o dano seja limitado.

O maior ponto forte da internet sempre foi a sua abertura: a capacidade de qualquer pessoa publicar, qualquer pessoa acessar e qualquer pessoa construir sobre o que já existe. Mandatos de filtragem de conteúdo, por mais bem-intencionados que sejam, corroem essa abertura aos poucos. O desafio da nossa geração de engenheiros é descobrir como proteger usuários vulneráveis sem construir a infraestrutura de controle. É um problema difícil, e não há respostas fáceis. Mas o primeiro passo é ser honesto sobre o que as ferramentas que construímos realmente fazem, e sobre o que elas não conseguem fazer.