Le gouvernement espagnol déploie un nouveau système d’intelligence artificielle (IA), appelé HODIO (Huella del Odio y la Polarización – « Empreinte de haine et de polarisation »), pour surveiller les discours de haine et la polarisation sur les plateformes de médias sociaux. Cette annonce, faite par le Premier ministre Pedro Sánchez lors du premier Sommet international contre la haine et le harcèlement numérique à Madrid, marque une étape importante dans les efforts du pays pour réglementer les contenus en ligne.
Pourquoi c’est important
Cette décision intervient alors que les inquiétudes grandissent quant au rôle que jouent les algorithmes des médias sociaux dans la diffusion de contenus qui divisent et l’intensification de la polarisation sociétale. Le gouvernement espagnol considère les environnements numériques incontrôlés comme un terrain fertile pour l’extrémisme et les comportements nuisibles. Ce n’est pas seulement un problème espagnol ; Les gouvernements du monde entier ont du mal à trouver un équilibre entre la liberté d’expression et la nécessité de protéger les citoyens contre les abus et la manipulation en ligne.
Comment fonctionne HODIO
HODIO analysera de grands volumes de données publiques provenant des réseaux sociaux, en suivant l’intensité, la portée et l’évolution des discours de haine. L’objectif est d’identifier les modèles de diffusion des contenus polarisants et de comprendre comment la dynamique des plateformes amplifie les messages nuisibles. Ces données éclaireront ensuite les politiques publiques conçues pour lutter contre le harcèlement numérique et feront pression sur les entreprises technologiques pour qu’elles assument davantage de responsabilités en matière de modération du contenu.
“Si la haine est déjà dangereuse, les réseaux sociaux en ont fait une arme de polarisation de masse qui finit par s’infiltrer dans la vie quotidienne”, a déclaré le Premier ministre Sánchez. “L’environnement numérique ne peut pas être un espace sans règles ; aujourd’hui, les réseaux sociaux sont un État en faillite.”
Action plus large en matière de sécurité sur Internet
Cette initiative fait partie d’une stratégie gouvernementale plus large visant à renforcer la sécurité sur Internet, en particulier pour les mineurs. Plus tôt cette année, l’Espagne a proposé d’interdire l’accès aux réseaux sociaux aux enfants de moins de 16 ans, obligeant les plateformes à mettre en œuvre des systèmes de vérification de l’âge plus stricts. Le gouvernement cite l’augmentation des taux de cyberintimidation et l’exposition à des contenus en ligne préjudiciables pour justifier cette mesure.
Attention de l’UE
Cependant, les efforts réglementaires agressifs de l’Espagne ont suscité la prudence de la Commission européenne. Bruxelles prévient que les mesures nationales devraient s’aligner sur la loi sur les services numériques (DSA) de l’UE, en évitant les excès qui pourraient entrer en conflit avec la politique numérique européenne plus large. Le DSA vise à normaliser les règles de modération du contenu dans l’ensemble de l’UE, mais les États membres conservent une certaine autonomie dans leur mise en œuvre.
Le gouvernement espagnol a l’intention d’utiliser les données HODIO pour soutenir ses décisions politiques et accroître la pression sur les plateformes technologiques pour qu’elles se conforment à des normes de sécurité plus strictes. Cette évolution crée un précédent pour d’autres pays aux prises avec les défis de la réglementation de la parole en ligne et de la protection des citoyens contre les dommages numériques.
Les implications à long terme de HODIO restent à voir, mais son lancement souligne l’urgence croissante parmi les gouvernements de reprendre le contrôle du paysage numérique.
