Oszuści coraz częściej wykorzystują wyrafinowaną technologię sztucznej inteligencji, aby podszywać się pod światowe supergwiazdy, takie jak Taylor Swift i Rihanna, i wykorzystując ich podobizny do wabienia użytkowników do oszustw. Według firmy uwierzytelniającej Copyleaks tego typu deepfake mnożą się na TikToku, często imitując legalne środowiska medialne, aby zdobyć zaufanie użytkowników.
Anatomia oszustwa
Fałszywe reklamy są tworzone tak, aby były jak najbardziej przekonujące, poprzez wykorzystanie manipulacji sekwencjami wideo, na których celebryci znajdują się w znajomym, autorytatywnym otoczeniu. Typowe taktyki obejmują:
- Symuluj autentyczne ustawienia: oszuści wykorzystują sztuczną inteligencję do umieszczania celebrytów w symulowanych miejscach — wywiadów na czerwonym dywanie, podcastów lub fragmentów talk-show.
- Obietnica „Łatwych pieniędzy”: większość reklam promuje oszukańcze programy nagród. Twierdzą, że użytkownicy mogą zarobić znaczne dochody, po prostu oglądając filmy na TikTok lub zostawiając recenzje treści.
- Wykorzystanie oficjalnego brandingu: Niektóre reklamy zawierają oficjalne logo TikTok, aby stworzyć fałszywe poczucie bezpieczeństwa poprzez przekierowywanie użytkowników do witryn stron trzecich przeznaczonych do gromadzenia danych osobowych.
W oddzielnych przypadkach wygenerowana przez sztuczną inteligencję Taylor Swift rzekomo „promowała” nieistniejącą funkcję o nazwie TikTok Pay, podczas gdy fałszywa podróbka Rihanny została wykorzystana do twierdzenia, że użytkownicy mogą zarabiać pieniądze po prostu „oglądając treści i wyrażając swoje zdanie”.
Narastający kryzys platform społecznościowych
Tendencja ta uwypukla problem systemowy w branży technologicznej: Gwałtowny postęp w dziedzinie sztucznej inteligencji przewyższa możliwości moderacji głównych platform społecznościowych.
Problem nie ogranicza się do TikToka. Skala problemu w całej przestrzeni cyfrowej jest ogromna:
– Meta (Instagram i Facebook): Raporty pokazują, że użytkownicy są codziennie narażeni na miliardy fałszywych reklam. Rada nadzorcza Meta oficjalnie przyznała, że platforma ma trudności ze zwalczaniem treści typu deepfake.
– YouTube: Platforma stwierdziła, że „aktywnie inwestuje” w technologię umożliwiającą wykrywanie i zwalczanie oszustw związanych z wizerunkiem gwiazd.
Sedno problemu leży w „przekonywaniu” współczesnych deepfakes. W miarę jak generatywna sztuczna inteligencja staje się coraz bardziej dostępna, bariera w tworzeniu wysokiej jakości zwodniczych treści zostaje obniżona, co utrudnia automatycznym filtrom i ludzkim moderatorom odróżnienie prawdziwych rekomendacji celebrytów od złośliwych oszustw.
Odpowiedź gwiazdy: obrona prawna
W miarę jak cyfrowe wykorzystywanie podobizny innych osób staje się coraz bardziej wyrafinowane, gwiazdy odchodzą od prostych próśb o usunięcie treści na rzecz agresywnej obrony prawnej.
Taylor Swift niedawno złożyła nowe wnioski o znaki towarowe specjalnie dla swoich klipów głosowych. Posunięcie to stanowi strategiczną próbę ustalenia własności prawnej wizerunku wokalu, co zapewni silniejszą podstawę do walki w sądzie z „naśladowczą sztuczną inteligencją” i nieautoryzowanym klonowaniem głosu.
Wzrost popularności deepfakes znanych osób oznacza zmianę w oszustwach cyfrowych z prostych ataków phishingowych na zaawansowane technologicznie techniki manipulacji psychologicznej oparte na sztucznej inteligencji, które wykorzystują zaufanie użytkowników do znanych postaci.
Wniosek: Ponieważ technologie sztucznej inteligencji sprawiają, że deepfakes są coraz bardziej nieodróżnialne od rzeczywistości, odpowiedzialność za ochronę przesuwa się w stronę połączenia moderacji obejmującej całą platformę i nowych mechanizmów prawnych ochrony znaków towarowych.
