Untuk mengumpulkan data perilaku pengguna sebanyak-banyaknya, mereka perlu membuat pengguna betah mengakses produk mereka selama mungkin.
Caranya termasuk dengan membiarkan konten-konten berbahaya yang umumnya bersifat sensasional seperti ujaran kebencian, berita bohong, dan perundungan. Padahal, penyebaran konten-konten itu secara masif dapat berujung pada kekerasan di dunia nyata.
Contoh terbaru dapat kita lihat saat gelombang konten kebencian yang masif dan sistematis menyasar pengungsi Rohingya di akhir 2023 lalu. Kala itu, Instagram, Facebook, X, TikTok, hingga YouTube dipenuhi oleh konten kebencian.
Akun-akun palsu UNHCR Indonesia menjamur di TikTok. Bahkan ada yang jumlah pengikutnya melebihi akun resmi badan PBB itu.
Rangkaian serangan digital yang sistematis dan masif berujung pada persekusi fisik terhadap etnis Rohingya yang dilakukan oleh sekelompok mahasiswa lokal pada 27 Desember 2023.
Melihat fakta bahwa demokrasi kita diancam gas beracun, sementara perusahaan media sosial panen uang dari model bisnis iklan bertargetnya, negara perlu hadir untuk menuntut tanggung jawab perusahaan media sosial dalam memoderasi konten. Namun, moderasi konten tidak boleh jadi dalih penyensoran baru.
Sejauh ini, Peraturan Menteri Komunikasi dan Informatika No. 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat (Permenkominfo 5/2020) menjadi regulasi yang paling banyak mengatur tanggung jawab perusahaan media sosial.
Namun, peraturan ini mengandung banyak pasal karet. Penggunaan frasa “mengganggu ketertiban umum” dan “meresahkan masyarakat” sangat berpotensi multitafsir.
Lalu, siapa yang dapat menafsirkan kedua frasa itu? Kominfo menjadi pihak yang berwenang di sini.
Ini menimbulkan masalah lainnya: terlalu kuatnya peran pemerintah dalam mengontrol ruang digital. Di sini, dewan media sosial-lah yang seharusnya memainkan peran, bukan pemerintah.
Kewenangan untuk menilai suatu konten layak atau tidak berada di internet tidak boleh dimonopoli oleh pemerintah karena berpotensi menyensor suara-suara kritis.
DMS harus bersifat independen, bukan di bawah lembaga eksekutif maupun perusahaan media sosial.
Dalam konteks Indonesia, bentuk DMS dapat menjadi lembaga negara independen seperti Dewan Pers. Jika kedudukan DMS yang dibayangkan oleh Kominfo berada di bawah kementeriannya, sama saja DMS kehilangan esensinya.
Salah satu prinsip DMS yang juga penting untuk diperhatikan adalah keterwakilan kelompok. DMS harus melibatkan representasi dari kelompok-kelompok rentan dan marjinal yang selama ini menanggung ekses buruk dari operasi perusahaan media sosial.
DMS juga harus melibatkan pihak-pihak lain yang relevan seperti pakar kebebasan berekspresi, akademisi, asosiasi dan regulator media, serta organisasi masyarakat sipil. Tujuannya, agar pengaturan moderasi konten dapat melihat berbagai perspektif secara inklusif.