Pemerintah Spanyol meluncurkan sistem kecerdasan buatan (AI) baru, yang disebut HODIO (Huella del Odio y la Polarización – “Jejak Kebencian dan Polarisasi”), untuk memantau ujaran kebencian dan polarisasi di platform media sosial. Pengumuman tersebut, yang disampaikan oleh Perdana Menteri Pedro Sánchez pada KTT Internasional pertama melawan Kebencian dan Pelecehan Digital di Madrid, menandai langkah signifikan dalam upaya negara tersebut untuk mengatur konten online.
Mengapa Ini Penting
Langkah ini dilakukan ketika meningkatnya kekhawatiran mengenai peran algoritma media sosial dalam menyebarkan konten yang memecah belah dan meningkatkan polarisasi masyarakat. Pemerintah Spanyol memandang lingkungan digital yang tidak terkendali sebagai tempat berkembang biaknya ekstremisme dan perilaku berbahaya. Ini bukan hanya masalah Spanyol; Pemerintah di seluruh dunia kesulitan menyeimbangkan kebebasan berpendapat dengan kebutuhan untuk melindungi warga negara dari penyalahgunaan dan manipulasi online.
Cara Kerja HODIO
HODIO akan menganalisis data publik dalam jumlah besar dari jejaring sosial, melacak intensitas, jangkauan, dan evolusi ujaran kebencian. Tujuannya adalah untuk mengidentifikasi pola penyebaran konten yang bersifat polarisasi dan memahami bagaimana dinamika platform memperkuat pesan-pesan berbahaya. Data ini kemudian akan menjadi masukan bagi kebijakan publik yang dirancang untuk memerangi pelecehan digital dan menekan perusahaan teknologi untuk lebih bertanggung jawab dalam moderasi konten.
“Jika kebencian sudah berbahaya, jejaring sosial telah mengubahnya menjadi senjata polarisasi massal yang akhirnya merembes ke dalam kehidupan sehari-hari,” kata Perdana Menteri Sánchez. “Lingkungan digital tidak bisa menjadi ruang tanpa aturan; saat ini, jejaring sosial adalah negara yang gagal.”
Dorongan Keamanan Internet yang Lebih Luas
Inisiatif ini merupakan bagian dari strategi pemerintah yang lebih luas untuk meningkatkan keamanan internet, khususnya bagi anak di bawah umur. Awal tahun ini, Spanyol mengusulkan pelarangan akses media sosial bagi anak-anak di bawah 16 tahun, yang mengharuskan platform tersebut menerapkan sistem verifikasi usia yang lebih ketat. Pemerintah menyebut meningkatnya angka cyberbullying dan paparan terhadap konten online yang berbahaya sebagai pembenaran atas tindakan tersebut.
Perhatian UE
Namun, dorongan peraturan Spanyol yang agresif telah menarik perhatian Komisi Eropa. Brussels memperingatkan bahwa langkah-langkah nasional harus sejalan dengan Undang-Undang Layanan Digital (DSA) UE, menghindari penjangkauan berlebihan yang dapat bertentangan dengan kebijakan digital Eropa yang lebih luas. DSA bertujuan untuk menstandardisasi aturan moderasi konten di seluruh UE, namun negara-negara anggota tetap memiliki otonomi dalam menerapkannya.
Pemerintah Spanyol bermaksud menggunakan data HODIO untuk mendukung keputusan kebijakannya dan meningkatkan tekanan pada platform teknologi untuk mematuhi standar keselamatan yang lebih ketat. Perkembangan ini menjadi preseden bagi negara-negara lain yang bergulat dengan tantangan dalam mengatur pembicaraan online dan melindungi warga negara dari bahaya digital.
Implikasi jangka panjang dari HODIO masih belum terlihat, namun peluncurannya menggarisbawahi semakin mendesaknya pemerintah untuk mendapatkan kembali kendali atas lanskap digital.
