Oplichters maken steeds meer gebruik van geavanceerde kunstmatige intelligentie om zich voor te doen als mondiale supersterren als Taylor Swift en Rihanna, en gebruiken hun gelijkenissen om gebruikers tot frauduleuze plannen te verleiden. Volgens het authenticatiebedrijf Copyleaks verspreiden deze deepfake-advertenties zich op TikTok, waarbij ze vaak legitieme media-omgevingen nabootsen om het vertrouwen van de gebruiker te winnen.
De anatomie van de zwendel
De frauduleuze advertenties zijn ontworpen om er zeer overtuigend uit te zien door gebruik te maken van gemanipuleerde beelden van beroemdheden in vertrouwde omgevingen met hoge autoriteit. Veel voorkomende tactieken zijn onder meer:
- Authentieke instellingen nabootsen: Oplichters gebruiken AI om beroemdheden te plaatsen in gesimuleerde rode loper-interviews, podcasts of talkshowsegmenten.
- Belooft ‘Easy Money’: De meeste advertenties promoten misleidende beloningsprogramma’s. Ze beweren dat gebruikers een aanzienlijk inkomen kunnen verdienen door simpelweg TikTok-video’s te bekijken of feedback te geven op de inhoud.
- Imiteren van officiële branding: Sommige advertenties bevatten officiële TikTok-logo’s om een vals gevoel van veiligheid te creëren, waarbij gebruikers worden omgeleid naar sites van derden die zijn ontworpen om persoonlijke gegevens te verzamelen.
In specifieke gevallen is gezien dat een door AI gegenereerde Taylor Swift een niet-bestaande functie genaamd TikTok Pay ‘promoot’, terwijl een deepfake van Rihanna is gebruikt om te beweren dat gebruikers geld kunnen verdienen door alleen maar ‘inhoud te bekijken en een mening te geven’.
Een groeiende crisis voor sociale mediaplatforms
Deze trend benadrukt een systemische strijd binnen de technologie-industrie: de snelle vooruitgang van AI overtreft de moderatiemogelijkheden van grote sociale platforms.
Het probleem beperkt zich niet tot TikTok. De omvang van het probleem in het digitale landschap is enorm:
– Meta (Instagram en Facebook): Uit rapporten blijkt dat gebruikers dagelijks worden blootgesteld aan miljarden oplichtingsadvertenties. Meta’s eigen toezichtsraad heeft formeel de strijd van het platform met deepfake-inhoud erkend.
– YouTube: Het platform heeft verklaard dat het “zwaar investeert” in technologieën om oplichting met beroemdheden op te sporen en te bestrijden.
De kern van het probleem ligt in het ‘overtuigende’ karakter van moderne deepfakes. Naarmate generatieve AI toegankelijker wordt, neemt de barrière voor het creëren van misleidende inhoud van hoge kwaliteit af, waardoor het voor geautomatiseerde filters en menselijke moderators moeilijker wordt om onderscheid te maken tussen de goedkeuring van een echte beroemdheid en een kwaadwillige verzinsel.
Het antwoord van beroemdheden: juridische bescherming
Naarmate digitale nabootsing van identiteit steeds geavanceerder wordt, gaan beroemdheden verder dan eenvoudige verwijderingsverzoeken en richten ze zich op proactieve juridische verdediging.
Onlangs heeft Taylor Swift nieuwe handelsmerkaanvragen ingediend, specifiek voor fragmenten van haar stem. Deze stap vertegenwoordigt een strategische poging om juridisch eigendom over haar vocale gelijkenis te vestigen, waardoor een sterker raamwerk wordt geboden om ‘AI-copycats’ en ongeoorloofd stemklonen in de rechtbank te bestrijden.
De opkomst van deepfakes van beroemdheden markeert een verschuiving in digitale fraude, van eenvoudige phishing-pogingen naar zeer gepolijste, AI-gestuurde psychologische manipulatie die misbruik maakt van het vertrouwen dat gebruikers in beroemde figuren stellen.
Conclusie: Nu AI-technologie ervoor zorgt dat deepfakes steeds minder van de werkelijkheid te onderscheiden zijn, verschuift de verantwoordelijkheid voor de verdediging naar een combinatie van platformbrede moderatie en nieuwe wettelijke handelsmerken
