Ketika Regulasi Keamanan Internet Jadi Alat Sensor

Pada 2023, sebuah forum dukungan korban KDRT diblokir oleh filter konten salah satu ISP besar di Inggris. Filter yang dirancang untuk melindungi anak dari konten berbahaya itu mengkategorikan forum tersebut sebagai “violence” dan diam-diam menghapusnya dari hasil pencarian jutaan pengguna. Para penyintas yang mencari bantuan hanya mendapat pesan generik “page cannot be displayed”. Tanpa penjelasan, tanpa proses banding, dan tanpa cara untuk tahu bahwa pemblokiran sedang terjadi. Pengelola situs baru menyadarinya berbulan-bulan kemudian, saat trafik dari pengguna Inggris anjlok hampir nol.

Sebenarnya ini bukan bug. Filternya bekerja persis seperti yang didesain: ia mengenali konten terkait kekerasan dan memblokirnya. Masalahnya, sistem filter konten tidak paham konteks. Ia tidak bisa membedakan resource yang membahas kekerasan untuk menolong penyintas dengan konten yang justru mempromosikannya. Dan begitu infrastruktur filtering sudah ada, cakupannya hampir selalu melebar melampaui tujuan awalnya.

Polanya: Mandat Keamanan yang Berubah Jadi Infrastruktur Kontrol

Logika politiknya selalu sama. Pemerintah mengusulkan filter internet untuk melindungi anak, sesuatu yang hampir tidak ada yang menolak secara prinsip. Undang-undangnya lolos dengan dukungan luas. Infrastruktur teknisnya dibangun: blok di level DNS, deep packet inspection, dan filtering wajib oleh ISP. Lalu, perlahan-lahan, daftar kategori yang diblokir terus bertambah.

Filter internet pertama Australia awalnya diusulkan untuk memblokir materi eksploitasi anak. Ketika akhirnya diterapkan, kategori yang diblokir sudah mencakup resource eutanasia, situs anti-aborsi, pornografi biasa, judi, dan situs seorang dokter gigi di Queensland (yang itu memang kesalahan, tapi tetap diblokir selama berminggu-minggu). “Porn filter” di Inggris juga melebar, memblokir forum, layanan email terenkripsi, dan penyedia VPN. Filter perlindungan keluarga di Turki memblokir resource LGBTQ+. Undang-undang perlindungan anak di Rusia menjadi landasan hukum untuk memblokir media oposisi.

Ini bukan teori konspirasi. Ini ekonomi infrastruktur. Begitu kamu membangun sistem yang mampu memfilter konten internet secara arbitrer, biaya marjinal untuk menambah satu kategori lagi ke daftar blokir hampir nol. Bagian mahalnya, yaitu infrastruktur filtering itu sendiri, sudah ada. Setiap kelompok kepentingan yang punya pengaruh politik pada akhirnya akan bertanya: “Sekalian saja, bisa tolong blokir X juga?”

Mengapa Filter Konten Tidak Bekerja Sesuai Tujuan

Selain masalah perluasan cakupan, ada persoalan yang lebih mendasar: filter konten dalam skala besar sebenarnya tidak bekerja dengan baik. Keterbatasan teknisnya cukup parah.

Masalah Pemblokiran Berlebihan

Sistem filter otomatis menghasilkan false positive dalam jumlah besar. Sebuah studi tentang filter default-on ISP di Inggris menemukan bahwa sekitar 19% dari 100.000 situs teratas diblokir secara keliru oleh setidaknya satu ISP. Situs yang terkena blokir mencakup lembaga amal, organisasi politik, resource pendidikan, dan bisnis kecil. Masalah Scunthorpe, yaitu konten sah yang ikut terblokir karena mengandung substring yang cocok dengan aturan filter, sampai sekarang belum terpecahkan dalam skala besar.

Yang lebih licik, pemblokiran berlebihan ini tidak adil. Situs besar dengan sumber daya melimpah bisa menavigasi proses banding dan membuka blokirnya. Situs kecil untuk remaja LGBTQ+ yang dikelola sukarelawan tidak bisa. Situs yang paling mungkin kena blokir berlebihan justru adalah situs yang paling tidak punya kemampuan untuk melawannya.

Masalah Pemblokiran Kurang

Di sisi lain, pengguna yang memang bertekad akan dengan mudah melewati filter. VPN yang harganya beberapa dolar per bulan membuat filtering di level ISP jadi tidak berguna sama sekali. Blok berbasis DNS bisa diakali dengan mengganti resolver DNS ke 1.1.1.1 atau 8.8.8.8, dan itu bisa dilakukan remaja yang paham teknologi dalam waktu sekitar 30 detik. Bahkan deep packet inspection kesulitan menghadapi trafik terenkripsi, yang sekarang menyumbang lebih dari 95% trafik web.

# Bypassing DNS-based content filtering:
# Step 1: Change DNS resolver (takes 10 seconds)
# On Linux/Mac:
echo "nameserver 1.1.1.1" | sudo tee /etc/resolv.conf
# Or use DNS-over-HTTPS, which is invisible to ISP filters:
# Most modern browsers support this natively.
# Firefox: Settings → Privacy → Enable DNS over HTTPS
# Chrome: Settings → Security → Use secure DNS
# The filter infrastructure cost millions to build.
# Bypassing it took 10 seconds.

Hasilnya malah terbalik: anak-anak yang paling berisiko, yaitu mereka yang punya teman sebaya paham teknologi dan berada di lingkungan yang aktif mencari konten berbahaya, justru akan melewati filter. Yang terkena blokir adalah orang-orang yang sebenarnya tidak akan mencari konten berbahaya, tetapi kebetulan membuka situs yang memicu false positive.

Realita Teknis yang Perlu Dipahami Engineer

Kalau kamu membangun aplikasi, API, atau layanan, mandat filter konten berdampak langsung ke kerjaanmu. Ini yang perlu kamu tahu:

• SNI inspection mulai ditinggalkan. Encrypted Client Hello (ECH) sedang diterapkan di CDN dan browser besar. Setelah meluas, ISP tidak lagi bisa melihat situs spesifik yang dikunjungi pengguna di IP yang dipakai bersama. Mereka hanya bisa melihat domain CDN-nya. Ini membuat filtering berbasis hostname hampir tidak berguna.
• Enkripsi DNS merusak filter berbasis DNS. DNS-over-HTTPS (DoH) dan DNS-over-TLS (DoT) mengenkripsi query DNS sehingga tidak terlihat oleh monitoring di level ISP. Browser besar sedang menjadikannya pengaturan default.
• Client-side filtering adalah medan pertempuran berikutnya. Ketika filtering di level jaringan makin tidak efektif, beberapa usulan bergeser ke mewajibkan software filter di perangkat atau di app store. Secara teknis ini lebih efektif, tapi menimbulkan masalah privasi serius karena software di perangkatmu harus memeriksa semua yang kamu lakukan.
• Mandat verifikasi usia menimbulkan risiko privasi. Beberapa yurisdiksi sekarang mewajibkan verifikasi usia untuk konten tertentu. Implementasinya bervariasi, mulai dari pengecekan kartu kredit (yang menciptakan database riwayat browsing yang terhubung ke identitas) sampai verifikasi biometrik (yang menormalisasi pengenalan wajah untuk akses internet).

Apa yang Benar-Benar Melindungi Anak di Internet

Kenyataan yang tidak nyaman: filtering konten di level jaringan adalah pendekatan paling tidak efektif untuk keselamatan anak, tapi justru paling menarik secara politik karena tidak menuntut perubahan apa pun pada cara platform beroperasi atau cara orang tua berinteraksi dengan teknologi.

Pendekatan yang benar-benar bekerja cenderung kurang heboh tapi lebih efektif:

• Perubahan desain platform — Membuat algoritma rekomendasi tidak terlalu agresif untuk pengguna muda, menonaktifkan pesan langsung dari orang asing secara default, dan mengurangi fitur perbandingan sosial. Pembatasan akun remaja di Instagram terbukti berdampak nyata pada interaksi bermasalah.
• Kewajiban transparansi — Mewajibkan platform mempublikasikan data tentang keputusan moderasi konten, rekomendasi algoritmik untuk anak di bawah umur, dan prevalensi konten berbahaya. Sinar matahari adalah disinfektan yang lebih baik daripada filter.
• Infrastruktur pelaporan dan respons — Berinvestasi pada takedown yang lebih cepat untuk konten ilegal sungguhan (CSAM, grooming) di level platform, dengan dukungan khusus dari penegak hukum. Ini menyasar bahaya yang sebenarnya, bukan membangun alat sensor serbaguna.
• Kontrol orang tua di level perangkat — Kontrol sukarela yang dikelola orang tua pada perangkat tertentu, bukan filter di level ISP yang memengaruhi semua orang. Cara ini memberi orang tua kendali tanpa menciptakan infrastruktur sensor nasional.

Pertanyaannya bukan apakah kita harus melindungi anak di internet. Tentu saja harus. Pertanyaannya adalah apakah kita perlu membangun infrastruktur sensor yang memengaruhi seluruh populasi untuk melakukannya, terutama ketika infrastruktur itu juga tidak benar-benar berfungsi.

Efek Gentar pada Open Source dan Riset Keamanan

Mandat filter konten punya dampak langsung ke komunitas teknologi yang sering terlewat. Peneliti keamanan rutin mempublikasikan detail kerentanan, kode exploit, dan analisis malware, dan semuanya bisa ditandai oleh filter otomatis. Proyek open source yang berurusan dengan enkripsi, anonimisasi, atau tool circumvention ikut terkena blokir yang dirancang untuk tujuan yang sama sekali berbeda.

Website Tor Project pernah diblokir filter konten di beberapa negara. Bukan karena konten ilegal tertentu, tapi karena tool tersebut bisa dipakai untuk mengakses situs yang diblokir. Website penyedia VPN juga diblokir dengan alasan yang sama. Ini menciptakan siklus yang saling memperkuat: filtering mendorong pengguna ke tool circumvention, tool itu diblokir, dan pengguna pun beralih ke tool circumvention yang lebih obscure.

Bagi developer, dampaknya nyata. Kalau kamu meng-host dokumentasi, tool, atau library yang menyentuh topik keamanan, situsmu bisa saja diblokir di yurisdiksi tertentu tanpa pemberitahuan dan tanpa proses banding yang jelas. Ada baiknya memantau pola akses berdasarkan geografi dan menyiapkan kanal distribusi alternatif.

Apa yang Bisa Dilakukan Engineer

Sebagai engineer, kita sering diminta untuk mengimplementasikan sistem filter ini. Tapi kita juga yang paling siap memahami keterbatasannya dan mengadvokasi pendekatan yang lebih baik.

1. Dukung enkripsi di mana saja. HTTPS, DNS terenkripsi, dan SNI terenkripsi melindungi privasi pengguna dan membuat filtering model “palu godam” makin sulit. Ini bukan soal memungkinkan konten berbahaya; ini soal memastikan keputusan filtering diambil di level yang tepat (platform, bukan ISP).
2. Bangun transparansi ke dalam sistem moderasi. Kalau kamu membangun moderasi konten, buat keputusanmu bisa diaudit. Publikasikan statistik tingkat false positive. Sediakan proses banding yang jelas. Perbedaan antara moderasi dan sensor sering kali hanya soal transparansi.
3. Tolak security theater. Ketika product manager memintamu membangun filter konten yang kamu tahu tidak akan benar-benar berfungsi, katakan terus terang. Dokumentasikan keterbatasannya. Usulkan alternatif yang menyelesaikan masalah sebenarnya.
4. Terlibat dalam kebijakan. Orang teknologi terkenal suka menghindari diskusi kebijakan, padahal perspektif kita sangat penting. Organisasi seperti EFF, Open Technology Institute, dan Access Now sudah bekerja di isu-isu ini dan butuh keahlian engineering.
5. Rancang untuk regulator terburuk. Kalau kamu membangun sistem yang bisa dipakai untuk filtering konten, pikirkan bagaimana sistem itu bisa disalahgunakan. Apakah daftar blokirnya bisa diaudit? Apakah setiap blokir bisa dibanding? Apakah ada klausul kedaluwarsa? Rancang sistemmu agar meski orang yang salah memegang kendalinya, kerusakannya tetap terbatas.

Kekuatan terbesar internet selalu ada pada keterbukaannya: kemampuan setiap orang untuk mempublikasikan, mengakses, dan membangun di atas apa yang sudah ada. Mandat filter konten, sebaik apa pun niatnya, perlahan menggerogoti keterbukaan itu. Tantangan bagi generasi engineer kita adalah mencari cara melindungi pengguna yang rentan tanpa membangun infrastruktur kontrol. Ini masalah yang sulit, dan jawabannya tidak mudah. Tapi langkah pertama adalah jujur tentang apa yang sebenarnya dilakukan tools yang kita bangun, dan apa yang tidak bisa mereka lakukan.