Hiszpański rząd wdraża nowy system sztucznej inteligencji (AI) o nazwie HODIO (Huella del Odio y la Polarización – „Track of Hate and Polarization”) w celu monitorowania mowy nienawiści i polaryzacji na platformach mediów społecznościowych. Oświadczenie to ogłosił premier Pedro Sánchez podczas pierwszego międzynarodowego szczytu przeciwko nienawiści i molestowaniu cyfrowemu w Madrycie, co stanowi ważny krok w wysiłkach kraju na rzecz uregulowania treści w Internecie.
Dlaczego to jest ważne?
Posunięcie to wynika z rosnących obaw dotyczących roli algorytmów mediów społecznościowych w rozpowszechnianiu treści powodujących podziały i zwiększaniu polaryzacji społecznej. Rząd hiszpański postrzega niekontrolowane środowisko cyfrowe jako podatny grunt dla ekstremizmu i destrukcyjnych zachowań. To nie jest tylko problem Hiszpanii; rządy na całym świecie borykają się z problemem zrównoważenia wolności słowa z potrzebą ochrony obywateli przed przemocą i manipulacją w Internecie.
Jak działa HODIO
HODIO przeanalizuje ogromne ilości publicznie dostępnych danych z mediów społecznościowych, śledząc intensywność, zasięg i ewolucję mowy nienawiści. Celem jest identyfikacja wzorców rozpowszechniania polaryzujących treści i zrozumienie, w jaki sposób dynamika platformy wzmacnia szkodliwe komunikaty. Dane te zostaną następnie wykorzystane w polityce rządów mającej na celu zwalczanie molestowania cyfrowego i wywrą presję na firmy technologiczne, aby przejęły większą odpowiedzialność za moderowanie treści.
„Jeśli nienawiść jest już niebezpieczna, media społecznościowe zamieniły ją w broń masowej polaryzacji, która przenika do codziennego życia” – powiedział premier Sanchez. „Przestrzeń cyfrowa nie może być strefą bez zasad; dzisiejsze media społecznościowe to państwo upadłe”.
Szersze wysiłki na rzecz bezpieczeństwa w Internecie
Inicjatywa jest częścią szerszej strategii rządowej mającej na celu poprawę bezpieczeństwa w Internecie, zwłaszcza nieletnich. Na początku tego roku Hiszpania zaproponowała zakaz dostępu do mediów społecznościowych dla dzieci poniżej 16 roku życia, wymagając od platform wdrożenia bardziej rygorystycznych systemów weryfikacji wieku. Jako uzasadnienie podjęcia tego środka rząd podaje wzrost liczby cyberprzemocy i narażenia na szkodliwe treści w Internecie.
Ostrzeżenia z UE
Jednak agresywne stanowisko Hiszpanii w sprawie regulacji skłoniło Komisję Europejską do ostrożności. Bruksela ostrzega, że środki krajowe muszą być zgodne z unijną ustawą o usługach cyfrowych (DSA), unikając nadmiernej interwencji, która mogłaby być sprzeczna z szerszą europejską polityką cyfrową. DSA ma na celu ujednolicenie zasad moderowania treści w całej UE, ale państwa członkowskie zachowują pewną autonomię w ich wdrażaniu.
Hiszpański rząd zamierza wykorzystywać dane HODIO do wspierania swoich decyzji politycznych i zwiększania presji na platformy technologiczne, aby przestrzegały bardziej rygorystycznych norm bezpieczeństwa. To wydarzenie stanowi precedens dla innych krajów stojących przed wyzwaniami w zakresie regulowania wypowiedzi w Internecie i ochrony obywateli przed szkodami cyfrowymi.
Długoterminowy wpływ wprowadzenia HODIO na rynek dopiero się okaże, ale jego wdrożenie podkreśla rosnącą pilność rządów w zakresie odzyskania kontroli nad przestrzenią cyfrową.
