Законы о безопасности в сети как инструмент цензуры

В 2023 году форум поддержки жертв домашнего насилия был заблокирован контент-фильтром одного из крупных британских провайдеров. Фильтр, призванный защищать детей от вредного контента, отнес форум к категории «насилие» и незаметно убрал его из результатов поиска для миллионов пользователей. Люди, искавшие помощь, получали стандартное сообщение «страница не может быть отображена». Никаких объяснений, процедуры обжалования и даже намёка на то, что происходит блокировка. Владельцы сайта узнали об этом только через несколько месяцев, когда трафик из Великобритании упал почти до нуля.

Это было не совсем багом. Фильтр работал так, как и задумано: он распознал контент, связанный с насилием, и заблокировал его. Проблема в том, что системы фильтрации не понимают контекста. Они не могут отличить ресурс, который рассказывает о насилии, чтобы помочь пострадавшим, от ресурса, который его пропагандирует. А как только инфраструктура фильтрации появляется, её сфера применения почти всегда расширяется далеко за пределы первоначальной цели.

Схема: меры безопасности, которые превращаются в инфраструктуру контроля

Политическая логика всегда одна и та же. Правительство предлагает фильтрацию интернета для защиты детей, и против этого в принципе почти никто не возражает. Законопроект проходит при широкой поддержке. Строится техническая инфраструктура: блокировки на уровне DNS, глубокая инспекция пакетов, обязательная фильтрация провайдерами. А потом тихо растёт список заблокированных категорий.

Изначально австралийский интернет-фильтр должен был блокировать материалы с сексуальной эксплуатацией детей. К моменту внедрения в список попали ресурсы об эвтаназии, антиабортные сайты, обычная порнография, азартные игры и сайт стоматолога из Квинсленда (это была ошибка, но сайт оставался заблокированным несколько недель). «Порнографические» фильтры в Великобритании расширились до блокировки форумов, сервисов зашифрованной почты и VPN-провайдеров. Семейный фильтр в Турции блокирует ресурсы для ЛГБТК+. Закон о защите детей в России стал правовой основой для блокировки оппозиционных СМИ.

Это не конспирологические рассуждения, а экономика инфраструктуры. Как только вы строите систему, способную фильтровать произвольный интернет-контент, предельная стоимость добавления ещё одной категории в список блокировок практически нулевая. Самая дорогая часть, сама инфраструктура фильтрации, уже существует. Любая группа интересов с политическим весом рано или поздно спросит: «А заодно не могли бы вы заблокировать и X?»

Почему фильтрация контента работает не так, как задумано

Помимо проблемы расползания полномочий есть и более фундаментальная проблема: фильтрация контента в масштабе попросту плохо работает. Технические ограничения очень серьёзны.

Проблема избыточной блокировки

Автоматические фильтры дают огромное количество ложных срабатываний. Исследование британских фильтров, включённых по умолчанию, показало, что примерно 19% из 100 000 самых популярных сайтов были ошибочно заблокированы хотя бы одним провайдером. Под блокировку попали благотворительные организации, политические объединения, образовательные ресурсы и небольшие компании. Проблема Scunthorpe, когда законный контент блокируется из-за подстроки, совпавшей с правилом фильтра, в масштабе так и не решена.

Ещё коварнее то, что избыточная блокировка несимметрична. Крупные, хорошо финансируемые сайты могут пройти процедуру обжалования и добиться разблокировки. Небольшой ЛГБТК+-сайт поддержки молодёжи, который ведут волонтёры, не может. Сайты, которые чаще всего попадают под избыточную блокировку, это как раз те, у кого меньше всего возможностей с ней бороться.

Проблема недостаточной блокировки

В то же время заинтересованные пользователи обходят фильтры без труда. VPN, который стоит несколько долларов в месяц, полностью обесценивает фильтрацию на уровне провайдера. DNS-блокировки обходятся сменой DNS-резолвера на 1.1.1.1 или 8.8.8.8, и это может сделать разбирающийся в технике подросток примерно за 30 секунд. Даже глубокая инспекция пакетов плохо справляется с зашифрованным трафиком, а его доля сейчас превышает 95% веб-трафика.

# Bypassing DNS-based content filtering:
# Step 1: Change DNS resolver (takes 10 seconds)
# On Linux/Mac:
echo "nameserver 1.1.1.1" | sudo tee /etc/resolv.conf
# Or use DNS-over-HTTPS, which is invisible to ISP filters:
# Most modern browsers support this natively.
# Firefox: Settings → Privacy → Enable DNS over HTTPS
# Chrome: Settings → Security → Use secure DNS
# The filter infrastructure cost millions to build.
# Bypassing it took 10 seconds.

Из этого вытекает парадоксальный результат: самые уязвимые дети, то есть те, у кого есть продвинутые в технике друзья и кто целенаправленно ищет вредный контент, обойдут фильтры. А под блокировку попадают те, кто и не стал бы искать ничего вредного, но случайно зашёл на сайт, который вызвал ложное срабатывание.

Техническая реальность, которую инженерам нужно понимать

Если вы разрабатываете приложения, API или сервисы, требования к фильтрации контента касаются и вас напрямую. Вот что важно знать:

• SNI-инспекция уходит в прошлое. Encrypted Client Hello (ECH) внедряется в крупных CDN и браузерах. Когда технология станет повсеместной, провайдеры больше не смогут видеть, на какой конкретно сайт заходит пользователь на общем IP-адресе, а только домен CDN. Это полностью ломает фильтрацию по имени хоста.
• Шифрование DNS ломает DNS-фильтры. DNS-over-HTTPS (DoH) и DNS-over-TLS (DoT) шифруют DNS-запросы, делая их невидимыми для мониторинга на уровне провайдера. Основные браузеры включают это по умолчанию.
• Клиентская фильтрация это следующее поле битвы. По мере того как фильтрация на сетевом уровне теряет эффективность, некоторые предложения переходят к обязательной установке фильтрующего ПО на устройства или в магазины приложений. Технически это действеннее, но вызывает серьёзные опасения за приватность: программа на вашем устройстве будет проверять всё, что вы делаете.
• Требования верификации возраста создают риски для приватности. Ряд юрисдикций уже требует проверку возраста для определённого контента. Технические реализации варьируются от проверки банковской карты (что создаёт базы данных, связывающие историю браузинга с личностью) до биометрической верификации (что нормализует распознавание лиц для доступа в интернет).

Что действительно защищает детей в сети

Неприятная правда в том, что фильтрация на уровне сети является наименее эффективным способом защиты детей онлайн, но зато она самая удобная с политической точки зрения: не требует менять ничего ни в работе платформ, ни в том, как родители пользуются технологиями.

Подходы, которые действительно работают, обычно менее эффектны, но результативнее:

• Изменения в дизайне платформ — менее агрессивные рекомендательные алгоритмы для юных пользователей, отключение личных сообщений от незнакомцев по умолчанию, сокращение функций социального сравнения. Ограничения Instagram для подростковых аккаунтов дали измеримый эффект на количество проблемных взаимодействий.
• Требования прозрачности — обязанность платформ публиковать данные о решениях модерации, алгоритмических рекомендациях для несовершеннолетних и распространённости вредного контента. Гласность — лучшее средство дезинфекции, чем любые фильтры.
• Инфраструктура для жалоб и реагирования — инвестиции в быстрое удаление действительно незаконного контента (CSAM, груминг) на уровне платформ, с выделенными ресурсами для правоохранительных органов. Это бьёт по реальному вреду, а не строит универсальные инструменты цензуры.
• Родительский контроль на уровне устройств — добровольные, управляемые родителями настройки на конкретных устройствах, а не фильтрация провайдеров, которая затрагивает всех. Такой подход даёт родителям контроль, не создавая национальной инфраструктуры цензуры.

Вопрос не в том, нужно ли защищать детей в сети. Конечно, нужно. Вопрос в том, стоит ли ради этого строить инфраструктуру цензуры, которая затрагивает всё население, особенно когда эта инфраструктура на деле не работает.

Охлаждающий эффект для открытого ПО и исследований безопасности

Законы о фильтрации контента напрямую влияют на IT-сообщество, и об этом часто забывают. Исследователи безопасности регулярно публикуют детали уязвимостей, эксплойты и анализ вредоносного ПО, и всё это может попасть под автоматические фильтры. Открытые проекты, связанные с шифрованием, анонимностью или средствами обхода блокировок, попадают под ограничения, предназначенные для совершенно других целей.

Сайт Tor Project блокировался фильтрами во многих странах, и причина не в каком-то конкретном незаконном контенте, а в том, что инструмент можно использовать для доступа к заблокированным сайтам. Сайты VPN-провайдеров блокируют по той же причине. Возникает самоподдерживающийся цикл: фильтрация подталкивает пользователей к средствам обхода, которые затем блокируют, и пользователи переходят к всё более малоизвестным инструментам.

Для разработчиков последствия вполне реальны. Если вы размещаете документацию, инструменты или библиотеки, связанные с безопасностью, ваш сайт может оказаться заблокирован в некоторых юрисдикциях без уведомления и без понятной процедуры обжалования. Стоит отслеживать статистику доступа по географии и иметь альтернативные каналы распространения.

Что могут сделать инженеры

Нас, инженеров, часто просят внедрять такие системы фильтрации. Но именно мы лучше всех понимаем их ограничения и можем выступать за более разумные подходы.

1. Поддерживайте шифрование везде. HTTPS, зашифрованный DNS, зашифрованный SNI: всё это защищает приватность пользователей и делает грубую фильтрацию сложнее. Речь не о поддержке вредного контента, а о том, чтобы решения о фильтрации принимались на правильном уровне (платформами, а не провайдерами).
2. Закладывайте прозрачность в системы модерации. Если вы создаёте модерацию контента, сделайте её решения поддающимися аудиту. Публикуйте статистику ложных срабатываний. Обеспечьте понятные процедуры обжалования. Разница между модерацией и цензурой часто сводится лишь к прозрачности.
3. Возражайте против показушной безопасности. Если менеджер продукта просит внедрить фильтр, который, как вы знаете, не сработает, скажите об этом. Задокументируйте ограничения. Предложите альтернативы, которые решают реальную проблему.
4. Участвуйте в обсуждении политики. Технические специалисты обычно избегают политических дискуссий, но наша точка зрения критически важна. Такие организации, как EFF, Open Technology Institute и Access Now, работают над этими вопросами и нуждаются в инженерной экспертизе.
5. Проектируйте с расчётом на худшего регулятора. Если вы создаёте систему, которую можно использовать для фильтрации контента, подумайте, как её могут использовать во вред. Можно ли аудировать список блокировок? Можно ли обжаловать отдельные блокировки? Есть ли срок действия механизма? Спроектируйте систему так, чтобы даже при попадании в чужие руки ущерб был ограничен.

Главная сила интернета всегда была в его открытости: в возможности любого публиковать, любого получать доступ и строить на основе существующего. Законы о фильтрации контента, каким бы благим ни был их замысел, подтачивают эту открытость. Задача нашего поколения инженеров понять, как защищать уязвимых пользователей, не строя инфраструктуру контроля. Это трудная проблема, и простых ответов здесь нет. Но первый шаг в том, чтобы честно признать, что на самом деле делают инструменты, которые мы создаём, и чего они делать не могут.