Španělská vláda zavádí nový systém umělé inteligence (AI) nazvaný HODIO (Huella del Odio y la Polarización – „Track of Hate and Polarization“) ke sledování nenávistných projevů a polarizace na platformách sociálních médií. Oznámil to premiér Pedro Sánchez na prvním mezinárodním summitu proti nenávisti a digitálnímu obtěžování v Madridu, což znamená významný krok v úsilí země regulovat online obsah.
Proč je to důležité?
Tento krok přichází uprostřed rostoucích obav o roli algoritmů sociálních médií při šíření rozdělujícího obsahu a zvyšující se sociální polarizaci. Španělská vláda považuje nekontrolované digitální prostředí za úrodnou půdu pro extremismus a destruktivní chování. Toto není jen španělský problém; vlády po celém světě se potýkají s tím, jak vyvážit svobodu projevu s potřebou chránit občany před online násilím a manipulací.
Jak HODIO funguje
HODIO bude analyzovat obrovské množství veřejně dostupných dat sociálních médií a bude sledovat intenzitu, dosah a vývoj nenávistných projevů. Cílem je identifikovat vzorce v šíření polarizujícího obsahu a pochopit, jak dynamika platformy zesiluje škodlivé zprávy. Tato data pak budou informovat vládní politiky zaměřené na boj proti digitálnímu obtěžování a vyvíjejí tlak na technologické společnosti, aby převzaly větší odpovědnost za moderování obsahu.
„Pokud je nenávist již nebezpečná, sociální média z ní udělaly zbraň masové polarizace, která proniká do každodenního života,“ řekl premiér Sánchez. “Digitální prostor nemůže být zónou bez pravidel; sociální média jsou dnes zhrouceným státem.”
Širší úsilí o bezpečnost na internetu
Tato iniciativa je součástí širší vládní strategie pro zlepšení online bezpečnosti, zejména pro nezletilé. Začátkem tohoto roku Španělsko navrhlo zakázat přístup k sociálním sítím pro děti mladší 16 let, což vyžaduje, aby platformy zavedly přísnější systémy ověřování věku. Vláda jako odůvodnění opatření uvádí nárůst kyberšikany a vystavení škodlivému online obsahu.
Varování z EU
Agresivní postoj Španělska k regulaci však vyvolal u Evropské komise opatrnost. Brusel varuje, že národní opatření musí být v souladu s unijním zákonem o digitálních službách (DSA), a vyhnout se tak přílišným zásahům, které by mohly být v rozporu s širší evropskou digitální politikou. Cílem DSA je standardizovat pravidla pro moderování obsahu v celé EU, ale členské státy si ponechávají určitou autonomii při jejich implementaci.
Španělská vláda hodlá využívat data HODIO k podpoře svých politických rozhodnutí a ke zvýšení tlaku na technologické platformy, aby dodržovaly přísnější bezpečnostní standardy. Tato událost představuje precedens pro další země, které čelí výzvám v regulaci online řeči a ochraně občanů před digitálním poškozením.
Dlouhodobý dopad spuštění HODIO se teprve uvidí, ale jeho zavedení zdůrazňuje rostoucí naléhavost mezi vládami znovu získat kontrolu nad digitálním prostorem.
