当网络安全法沦为审查工具
善意的网络安全强制措施如何演变为通用审查工具，以及工程师需要了解的内容过滤技术真相。
Elena Vasquez
2023年，英国一家主要ISP的内容过滤器屏蔽了一个家暴支持论坛。这个过滤器本意是保护儿童免受有害内容侵害，却把该论坛归类为“暴力”内容，并在数百万用户的搜索结果中悄无声息地将其移除。寻求帮助的幸存者只看到一条笼统的“无法显示此页面”提示。没有任何说明，没有申诉渠道，也没人知道屏蔽正在发生。网站运营者直到几个月后发现英国用户流量几乎归零，才意识到问题。
这严格说来不算一个bug。过滤器完全按设计运行：它识别出与暴力相关的内容并将其屏蔽。问题在于，内容过滤系统并不理解上下文。它们无法区分一个讨论暴力、旨在帮助幸存者的资源，和一个鼓吹暴力的网站。而且一旦过滤基础设施建成，其范围几乎总会超出最初的用途。
固定模式：本为安全的强制措施如何变成控制基础设施
政治逻辑向来如出一辙。政府提议用网络过滤保护儿童，这在原则上几乎没人会反对。法案在广泛支持下通过。随后技术基础设施逐步建成：DNS层面的屏蔽、深度包检测、ISP强制过滤。接着，被屏蔽的类别悄然增多。
澳大利亚最初的网络过滤提案是为了屏蔽儿童性剥削材料。等到真正实施时，被屏蔽的类别已经包括安乐死资源、反堕胎网站、普通色情内容、赌博网站，还有一家昆士兰牙医的网站（那次是误封，但仍被屏蔽了好几周）。英国的“色情过滤器”则扩展到屏蔽论坛、加密邮件服务和VPN提供商。土耳其的家庭安全过滤器屏蔽了LGBTQ+资源。俄罗斯的儿童保护法则成了屏蔽反对派媒体的法律依据。
这并非阴谋论，而是基础设施的经济学。一旦你建成了能够过滤任意互联网内容的系统，往屏蔽列表里再加一个类别的边际成本几乎为零。真正昂贵的部分——过滤基础设施本身——已经存在了。每个有政治影响力的利益团体迟早都会问：“既然都做了，能不能顺便也屏蔽一下X？”
为什么内容过滤达不到预期效果
除了范围蔓延的问题，还有一个更根本的困难：大规模内容过滤实际上效果并不好，技术上的局限非常严重。
过度屏蔽问题
自动化过滤系统会产生大量误判。一项针对英国默认开启的ISP过滤器的研究发现，前10万名热门网站中约有19%至少被某个ISP错误屏蔽。被屏蔽的站点包括慈善机构、政治组织、教育资源和小型企业。“Scunthorpe问题”——合法内容因包含与过滤规则匹配的子字符串而被屏蔽——在大规模场景下至今仍未解决。
更隐蔽的是，过度屏蔽是不对称的。大型、资源充足的网站可以通过申诉流程解除屏蔽，而由志愿者运营的小型LGBTQ+青少年支持网站却做不到。最容易被误伤的网站，恰恰是最没有能力抗争的那些。
屏蔽不足问题
与此同时，有决心的用户可以轻松绕过过滤。一个每月只需几美元的VPN就能让ISP级别的过滤形同虚设。基于DNS的屏蔽也可以通过把DNS解析器改成1.1.1.1或8.8.8.8来绕过，懂技术的青少年大约30秒就能搞定。即使是深度包检测，也难以应对加密流量，而如今加密流量已占网络流量的95%以上。
# Bypassing DNS-based content filtering:
# Step 1: Change DNS resolver (takes 10 seconds)
# On Linux/Mac:
echo "nameserver 1.1.1.1" | sudo tee /etc/resolv.conf
# Or use DNS-over-HTTPS, which is invisible to ISP filters:
# Most modern browsers support this natively.
# Firefox: Settings → Privacy → Enable DNS over HTTPS
# Chrome: Settings → Security → Use secure DNS
# The filter infrastructure cost millions to build.
# Bypassing it took 10 seconds.这带来了一个反讽的结果：最有风险的孩子——身边有懂技术的同龄人、或处于主动搜索有害内容环境中的孩子——反而最容易绕过过滤。被误伤的却是本来不会主动寻找有害内容、只是恰好访问了触发误判网站的普通人。
工程师需要了解的技术现实
如果你在开发应用、API或服务，内容过滤强制措施会直接影响你。以下是你需要知道的几点：
- SNI检测正在失效。加密客户端Hello（ECH）正在各大CDN和浏览器中部署。一旦普及，ISP在共享IP上就无法看到用户具体访问的是哪个站点，只能看到CDN域名。这让基于主机名的过滤彻底失效。
- DNS加密让基于DNS的过滤器失效。DNS-over-HTTPS（DoH）和DNS-over-TLS（DoT）会对DNS查询进行加密，使其对ISP级别的监控不可见。主流浏览器正将其作为默认设置推行。
- 客户端过滤是下一个战场。随着网络层过滤逐渐失效，一些提案转而要求在设备上或应用商店中强制安装过滤软件。这在技术上更有效，但会引发严重的隐私问题——它意味着设备上的软件要检查你的一切操作。
- 年龄验证强制要求带来隐私风险。多个司法辖区现在要求对某些内容进行年龄验证。技术实现方式从信用卡验证（会形成将浏览记录与身份绑定的数据库）到生物识别验证（使上网需要人脸识别成为常态）不等。
真正能保护儿童上网安全的是什么
令人不太舒服的事实是：网络层内容过滤是儿童安全中效果最差的手段，但在政治上却最为便利，因为它不需要改变平台的运作方式，也不需要家长改变与科技互动的方式。
真正有效的办法往往不那么戏剧化，但更为有效：
- 平台设计改进——对年轻用户降低推荐算法的激进程度，默认禁止陌生人直接私信，减少社交比较功能。Instagram对青少年账户的限制已被证明对问题性互动有可衡量的改善。
- 透明度要求——要求平台公开内容审核决策、向未成年人推荐算法的数据，以及有害内容的普遍程度。阳光是最好的消毒剂，远胜于过滤器。
- 举报与响应机制——投入资源在平台层面更快地删除真正非法的内容（如CSAM、诱骗行为），并配备专门的执法资源。这是直击实际危害的做法，而不是建立通用的审查工具。
- 设备级家长控制——在特定设备上由家长自愿、自主管理的控制功能，而不是影响所有人的ISP级过滤。这些工具让家长拥有主动权，又不会催生全国性的审查基础设施。
问题从来不是我们该不该保护孩子上网安全，当然应该。问题在于：我们是否应该为此建设一套影响全体人口的审查基础设施，尤其是在这套基础设施本身并不真正有效的情况下。
对开源和安全研究的寒蝉效应
内容过滤强制措施对技术社区有直接影响，但这一点常被忽视。安全研究人员经常发布漏洞细节、利用代码和恶意软件分析，这些内容都可能被自动过滤器标记。涉及加密、匿名化或绕过审查工具的开源项目，也常会被为完全不同目的设计的屏蔽规则误伤。
Tor项目的网站已在多个国家被内容过滤器屏蔽——并非因为其中有任何具体的非法内容，而仅仅因为该工具可能被用来访问被屏蔽的网站。VPN服务商的网站也因同样的原因遭到屏蔽。这形成了一个自我强化的循环：过滤促使用户转向规避工具，工具被屏蔽，又促使用户转向更加小众的规避工具。
对开发者而言，实际影响是真实存在的。如果你托管的文档、工具或库涉及安全话题，你的网站可能会在某些司法辖区被屏蔽，而且通常既没有通知，也没有清晰的申诉渠道。因此，值得按地域监控访问情况，并准备好备用的分发渠道。
工程师能做什么
作为工程师，我们常常是被要求实现这些过滤系统的人。同时，我们也最有能力理解其局限，并倡导更好的方案。
- 全面支持加密。HTTPS、加密DNS、加密SNI——这些手段保护用户隐私，也让粗暴的过滤更难实施。这并不是在纵容有害内容，而是确保过滤决策在正确的层面（平台，而非ISP）做出。
- 将透明度融入审核系统。如果你在构建内容审核系统，就让决策可审计。公开误判率统计，提供清晰的申诉流程。审核与审查之间的区别，往往就在于是否透明。
- 抵制安全表演。当产品经理要求你实现一个你明知无效的内容过滤器时，请直说。记录其局限，并提出能真正解决问题的替代方案。
- 参与政策讨论。技术人员向来不太愿意参与政策讨论，但我们的视角至关重要。EFF、Open Technology Institute和Access Now等组织都在推动这些议题，也非常需要工程专业知识。
- 为最坏情况的监管者设计。如果你在构建一个可能被用于内容过滤的系统，请考虑它可能如何被滥用。屏蔽列表能否被审计？单次屏蔽能否被申诉？是否有日落条款？设计系统时要做到：即使错误的人掌握了控制权，损害也能被限制在最小范围。
互联网最大的优势始终是它的开放性——任何人都能发布、任何人都能访问、任何人都能在已有的基础上继续构建。内容过滤强制措施无论出发点多么善意，都在一点点侵蚀这种开放性。我们这一代工程师面临的挑战，是如何在保护弱势用户的同时，不去搭建控制的基础设施。这是个难题，也没有简单的答案。但第一步，是坦诚地认识到我们所构建的工具实际上做了什么，以及它们做不到什么。
