In een rechtszaal in Californië vindt momenteel een proces plaats dat het juridische landschap voor technologiebedrijven zou kunnen hervormen. Voor het eerst in de Verenigde Staten weegt een jury af of het ontwerp zelf van sociale-mediaplatforms als een productfout kan worden beschouwd, niet vanwege door gebruikers gegenereerde inhoud, maar vanwege de manier waarop de platforms opzettelijk zijn gebouwd.
Deze zaak – K.G.M. v. Meta en Google – is een keerpunt in het debat over de aansprakelijkheid van Big Tech, met het potentieel om een domino-effect te creëren in rechtsgebieden over de hele wereld. De aanklager, een 20-jarige vrouw, beweert dat platforms als Instagram en YouTube opzettelijk verslavende functies hebben ontwikkeld die haar depressie, angst, lichaamsdysmorfie en zelfmoordgedachten hebben aangewakkerd. TikTok en Snapchat schikten vóór de rechtszaak met haar, waardoor Meta en Google de resterende beklaagden bleven.
De belangrijkste juridische verschuiving: ontwerp als defect
Decennia lang heeft Sectie 230 van de Communications Decency Act technologiebedrijven grotendeels beschermd tegen aansprakelijkheid voor inhoud die door gebruikers is geplaatst. Deze rechtszaak omzeilt deze bescherming echter door de schade niet te framen als gevolg van gebruikersinhoud, maar van de eigen ontwerpkeuzes van de platforms: oneindig scrollen, algoritmische aanbevelingen, onvoorspelbare beloningen en autoplay.
De aanklagers beweren dat deze functies op dezelfde gedragsprincipes werken als speelautomaten, waarbij opzettelijk gebruik wordt gemaakt van de menselijke psychologie. Deze benadering beschouwt algoritmisch ontwerp als een productbeslissing, onderworpen aan dezelfde veiligheidsverplichtingen als elk ander gefabriceerd goed. De rechtbank heeft deze redenering voortgezet, een baanbrekende beslissing met verstrekkende gevolgen.
Wat de bedrijven wisten: interne documenten onder de loep
Een cruciaal element van de zaak berust op wat Meta en Google wisten over de mogelijke schade van hun ontwerpen. Uit het ‘Facebook Papers’-lek uit 2021 bleek dat de eigen onderzoekers van het bedrijf zorgen uitten over de negatieve effecten van Instagram op het lichaamsbeeld en de geestelijke gezondheid van adolescenten. In interne communicatie, die nu voor de rechtbank wordt gepresenteerd, wordt naar verluidt de verslavende werking van de platforms vergeleken met het pushen van drugs en gokken.
Als de jury tot de conclusie komt dat de bedrijven zich bewust waren van deze risico’s, maar betrokkenheid boven het welzijn van de gebruikers bleven stellen, zou dit nalatigheid kunnen aantonen en de weg kunnen vrijmaken voor aanzienlijke financiële boetes. De hoofdadvocaat van de aanklagers, Mark Lanier, heeft eerder vonnissen ter waarde van meerdere miljarden dollars veiliggesteld tegen Johnson & Johnson, wat aangeeft hoe groot de aansprakelijkheid is die wordt nagestreefd.
De wetenschap achter verslaving: complex maar consequent
Hoewel het wetenschappelijke debat over verslaving aan sociale media complex blijft, richt de wettelijke norm zich op voorspelbaarheid. De vraag is niet of sociale media iedereen in gelijke mate schade berokkent, maar of platformontwerpers de plicht hadden om rekening te houden met de risico’s voor kwetsbare jonge gebruikers, vooral gezien intern bewijs dat erop wijst dat zij zich bewust waren van die risico’s.
Onderzoekers hebben ontdekt dat de ontwerpkeuzes van de platforms geestelijke gezondheidsproblemen bij bepaalde bevolkingsgroepen kunnen verergeren. Als de jury bepaalt dat Meta en Google er niet in zijn geslaagd om redelijke zorg te betrachten bij het ontwerpen van hun producten, zou de zaak een precedent kunnen scheppen voor het aansprakelijk stellen van technologiebedrijven voor voorzienbare schade.
De bredere implicaties: een veranderend juridisch en beleidslandschap
Ook al blijft de wetenschap onzeker, het juridische en beleidslandschap verandert snel. Alleen al in 2025 hebben twintig Amerikaanse staten nieuwe wetten aangenomen die het gebruik van sociale media door kinderen regelen, en soortgelijke wetgeving wint wereldwijd aan populariteit.
Het K.G.M. -proces is meer dan slechts één zaak; het vertegenwoordigt een fundamentele verschuiving in de manier waarop naar algoritmisch ontwerp wordt gekeken. Als het raamwerk waarin platforms verantwoordelijk worden gehouden voor hun ontwerpkeuzes vaste voet krijgt, zal elk technologiebedrijf niet alleen opnieuw moeten beoordelen welke inhoud op hun platforms verschijnt, maar ook waarom en hoe deze wordt geleverd.
Deze proef heeft het potentieel om de relatie tussen Big Tech en zijn gebruikers te herdefiniëren, waardoor bedrijven gedwongen worden om koste wat het kost prioriteit te geven aan veiligheid en verantwoordelijkheid boven betrokkenheid.
