Obecnie w kalifornijskim sądzie toczy się proces, który może zmienić krajobraz prawny firm technologicznych. Po raz pierwszy w Stanach Zjednoczonych jury decyduje, czy projekt platform mediów społecznościowych można uznać za wadę produktu nie ze względu na treści generowane przez użytkowników, ale ze względu na celowy sposób zaprojektowania platform.
Ta sprawa jest K.G.M. vs. Meta i Google to przełomowy moment w debacie na temat odpowiedzialności Big Tech, mogący wywołać reakcję łańcuchową na całym świecie. Powódka, 20-letnia kobieta, twierdzi, że platformy takie jak Instagram i YouTube celowo stworzyły funkcje uzależniające, które przyczyniły się do jej depresji, stanów lękowych, dysmorfii ciała i myśli samobójczych. TikTok i Snapchat porozumiały się z nią przed procesem, pozostawiając Meta i Google jako jedynych pozostałych oskarżonych.
Główna zmiana prawna: projekt jako wada
Przez dziesięciolecia sekcja 230 ustawy o przyzwoitości komunikacyjnej w dużej mierze chroniła firmy technologiczne przed odpowiedzialnością za treści publikowane przez użytkowników. Jednak ten pozew omija te zabezpieczenia, przedstawiając szkody nie wynikające z treści generowanych przez użytkowników, ale w wyniku własnych decyzji projektowych platform: nieskończonego przewijania, rekomendacji algorytmicznych, nieprzewidywalnych nagród i automatycznej gry.
Powodowie twierdzą, że funkcje te działają na tych samych zasadach zachowania, co automaty do gier, celowo wykorzystując ludzką psychikę. Podejście to postrzega projektowanie algorytmiczne jako decyzję dotyczącą produktu podlegającą tym samym wymogom bezpieczeństwa, co każdy inny wytwarzany produkt. Sąd pozwolił na kontynuację tego toku rozumowania, co stanowi przełomową decyzję o dalekosiężnych konsekwencjach.
Co wiedziały firmy: dokumenty wewnętrzne pod mikroskopem
Kluczowym elementem sprawy jest to, że Meta i Google wiedziały o potencjalnej szkodliwości swojego projektu. W „Facebook Papers” z 2021 r., które wyciekło, ujawniono, że badacze firm wyrazili obawy dotyczące negatywnego wpływu Instagrama na wizerunek ciała i zdrowie psychiczne nastolatków. Wewnętrzna komunikacja przedstawiona w sądzie rzekomo porównuje uzależniające mechanizmy platform do sprzedaży narkotyków i hazardu.
Jeśli jury uzna, że firmy wiedziały o tych zagrożeniach, ale nadal przedkładały zaangażowanie nad dobro użytkowników, może wykryć zaniedbanie i narazić się na znaczne kary finansowe. Główny prawnik powodów, Mark Lanier, wygrał już wielomiliardowe wyroki przeciwko Johnson & Johnson, wskazując skalę żądanej przez nich odpowiedzialności.
Nauka o uzależnieniach: trudna, ale ważna
Chociaż debata naukowa na temat uzależnienia od mediów społecznościowych pozostaje złożona, standard prawny skupia się na przewidywalności. Pytanie nie brzmi, czy sieć społecznościowa szkodzi wszystkim w równym stopniu, ale czy projektanci platformy mieli obowiązek wziąć pod uwagę ryzyko dla bezbronnych młodych użytkowników, zwłaszcza biorąc pod uwagę wewnętrzne dowody potwierdzające, że wiedzieli o tych zagrożeniach.
Naukowcy odkryli, że decyzje dotyczące projektu platformy mogą zaostrzyć problemy zdrowia psychicznego w niektórych populacjach. Jeśli ława przysięgłych uzna, że Meta i Google nie zachowały należytej staranności przy projektowaniu swoich produktów, sprawa może stworzyć precedens pozwalający na pociągnięcie firm technologicznych do odpowiedzialności za przewidywalne szkody.
Szersze implikacje: zmieniający się krajobraz prawny i regulacyjny
Nawet jeśli nauka pozostaje kontrowersyjna, krajobraz prawny i regulacyjny szybko się zmienia. Tylko w 2025 r. 20 stanów USA przyjęło nowe przepisy regulujące korzystanie przez dzieci z mediów społecznościowych, a podobne przepisy nabierają tempa na całym świecie.
Pozew K.G.M. to więcej niż jedna sprawa; reprezentuje zasadniczą zmianę w sposobie postrzegania projektowania algorytmicznego. Jeśli zasada pociągania platform do odpowiedzialności za decyzje projektowe zakorzeni się, każda firma technologiczna będzie musiała ponownie rozważyć nie tylko, jakie treści pojawiają się na ich platformach, ale także dlaczego i w jaki sposób są dostarczane.
Ten pozew może na nowo zdefiniować relacje między Big Tech a jego użytkownikami, zmuszając firmy do przedkładania za wszelką cenę bezpieczeństwa i odpowiedzialności nad integrację.
