De Spaanse regering introduceert een nieuw systeem voor kunstmatige intelligentie (AI), genaamd HODIO (Huella del Odio y la Polarización – “Voetafdruk van haat en polarisatie”), om haatzaaiende uitlatingen en polarisatie op sociale-mediaplatforms te monitoren. De aankondiging, gedaan door premier Pedro Sánchez tijdens de eerste Internationale Top tegen Haat en Digitale Intimidatie in Madrid, markeert een belangrijke stap in de inspanningen van het land om online-inhoud te reguleren.
Waarom dit belangrijk is
Deze stap komt omdat er steeds meer zorgen ontstaan over de rol die algoritmen van sociale media spelen bij het verspreiden van verdeeldheid zaaiende inhoud en het intensiveren van de maatschappelijke polarisatie. De Spaanse regering beschouwt ongecontroleerde digitale omgevingen als een voedingsbodem voor extremisme en schadelijk gedrag. Dit is niet alleen een Spaanse kwestie; Overheden over de hele wereld worstelen met de vraag hoe ze de vrijheid van meningsuiting in evenwicht kunnen brengen met de noodzaak om burgers te beschermen tegen online misbruik en manipulatie.
Hoe HODIO werkt
HODIO zal grote hoeveelheden openbare gegevens van sociale netwerken analyseren en de intensiteit, het bereik en de evolutie van haatzaaiende uitlatingen volgen. Het doel is om patronen te identificeren in de manier waarop polariserende inhoud zich verspreidt en om te begrijpen hoe platformdynamiek schadelijke berichten versterkt. Deze gegevens zullen vervolgens het overheidsbeleid informeren dat is ontworpen om digitale intimidatie te bestrijden en technologiebedrijven onder druk te zetten om meer verantwoordelijkheid te nemen voor het modereren van inhoud.
“Hoewel haat al gevaarlijk is, hebben sociale netwerken er een wapen van massapolarisatie van gemaakt dat uiteindelijk in het dagelijks leven doorsijpelt”, aldus premier Sánchez. “De digitale omgeving kan geen ruimte zijn zonder regels; vandaag de dag zijn sociale netwerken een mislukte staat.”
Bredere push voor internetveiligheid
Dit initiatief maakt deel uit van een bredere overheidsstrategie om de internetveiligheid te verbeteren, vooral voor minderjarigen. Eerder dit jaar stelde Spanje voor om de toegang tot sociale media voor kinderen onder de 16 jaar te verbieden, waardoor platforms strengere leeftijdsverificatiesystemen moesten implementeren. De regering noemt het stijgende aantal cyberpesten en de blootstelling aan schadelijke online-inhoud als rechtvaardiging voor de maatregel.
EU-voorzichtigheid
De agressieve regelgevende druk van Spanje heeft echter geleid tot voorzichtigheid bij de Europese Commissie. Brussel waarschuwt dat nationale maatregelen moeten aansluiten bij de Digital Services Act (DSA) van de EU, waarbij overdreven reikwijdte moet worden vermeden die in strijd zou kunnen komen met het bredere Europese digitale beleid. De DSA heeft tot doel de regels voor inhoudsmoderatie in de hele EU te standaardiseren, maar de lidstaten behouden enige autonomie bij de implementatie ervan.
De Spaanse regering is van plan HODIO-gegevens te gebruiken om haar beleidsbeslissingen te ondersteunen en de druk op technologieplatforms te vergroten om aan strengere veiligheidsnormen te voldoen. Deze ontwikkeling schept een precedent voor andere landen die worstelen met de uitdagingen van het reguleren van online-spraak en het beschermen van burgers tegen digitale schade.
De gevolgen van HODIO op de lange termijn moeten nog worden bezien, maar de lancering ervan onderstreept de groeiende urgentie van overheden om de controle over het digitale landschap terug te winnen.
