Teen Marvel-stjärnan Xochitl Gomez är det senaste offret för deepfake-porr. Men efter att ha hittat de sexuellt explicita deepfakes utan samtycke som cirkulerade på X, tidigare Twitter, blev hon förvirrad när plattformen misslyckades med att vidta åtgärder och ta bort dem.
Många problem har uppstått tillsammans med framväxten av artificiell intelligens, men deepfake porr är en av de mest oroande. Medan deepfakes har funnits ganska länge, har framsteg inom teknik gjort dem mer tillgängliga och övertygande. Som ett resultat har många individer, särskilt kvinnor, funnit att deras bild tagits eller återskapats utan deras samtycke och används i pornografiskt innehåll. Det har blivit ett enormt problem för kvinnliga kändisar, men också för vanliga kvinnor som har upplevt att deras likhet används i sexuellt explicit innehåll för hämndporr, trakasserier och mobbning. Det finns också en stor oro över att deepfakes används för att skildra barnmisshandel.
Tyvärr finns det för närvarande inga federala lagar mot djupfalsk porr utan samtycke, och endast ett fåtal stater har lagstiftning som skyddar medborgarna från det. Många kvinnor som har blivit offer för deepfake pornografi har funnit sig utan alternativ att bekämpa den på grund av bristen på reglering och laglösheten på internet. De flesta har inte de ekonomiska resurserna att vidta rättsliga åtgärder. Även kändisar som Scarlett Johansson har förklarat att det är meningslöst att försöka slåss mot deepfakes.
En liten skyddsnivå kvinnor har kommer från de sociala medieplattformarna som har förbjudit deepfake och AI-genererad porr. Om dessa webbplatser upprätthåller sådana förbud skulle det försvåra spridningen av detta skadliga innehåll. Men Gomez erfarenhet visar att sociala medier inte upprätthåller sina regler.
Xochitl Gomez berättar om sin erfarenhet av deepfake porr
(Axelle/Bauer-Griffin/Getty)
Medan han medverkade i Taylor Lautner och hans frus podcast, Squeeze , Xochitl Gomez (a.k.a. America Chavez) öppnade upp om sina upplevelser som ett offer för djupfalsk pornografi. 17-åringen avslöjade att hon hittade det sexuellt explicita materialet som cirkulerade på X, tidigare Twitter, men att hon har extremt svårt att ta bort det. X förbjöd AI-genererad porr redan 2018 och har policyer mot sexuellt explicita djupfalska bilder och videor, såväl som vilseledande media och nakenhet utan samtycke. Med tanke på att bilderna på Gomez tydligt bryter mot X:s regler och att detta innehåll innehöll en minderårig, skulle man ha trott att plattformen omedelbart skulle vidta åtgärder.
Men Gomez blev chockad när hon upptäckte att hennes team redan hade försökt vidta åtgärder mot innehållet utan resultat. NBC News rapporterad att så sent som den 19 januari 2024 kunde bilderna fortfarande finnas på X, som inte svarade på önskemål om kommentarer. Gomez förklarade att innehållet gjorde henne konstig och desperat önskade att det skulle tas ner eftersom det inte såg bra ut för henne. Hon frågade, varför är det så svårt att ta ner? Det var hela min tanke om det, var: 'Varför är detta tillåtet?'
Men till slut sa hon upp sig för att acceptera att innehållet helt enkelt inte gick att ta ner, och avslöjade att hon bara försöker att inte tänka på det och lägger undan sin telefon för att ta itu med problemet. Frågorna hon ställde är fortfarande väldigt relevanta. Varför är det så svårt att ta bort det här innehållet? Det är moraliskt förkastligt och äckligt när deepfake porr görs av en icke-samtyckande individ. Det är rent av hemskt när det involverar en minderårig. Det finns faktisk barnpornografi som cirkulerar på X, och plattformen gör, bisarrt nog, ingenting åt det, även om detta borde vara den mest pressande frågan att ta itu med.
Det låter knappast som en komplex situation om en individ rapporterar sexuellt explicit material och meddelar plattformen att de inte samtyckt till det. Materialet strider mot flera regler på webbplatsen. Vad finns det mer att granska eller fastställa? Det är redan traumatiserande nog för en individ att hitta den här typen av innehåll på sociala medier; det minsta dessa plattformar kan göra är att följa deras begäran om att få den borttagen. Ingen individ, särskilt inte en minderårig, borde bara behöva acceptera att innehållet finns där eftersom X och andra sociala medieplattformar ihärdigt och förbryllande vägrar att skydda sina användare.
(utvald bild: Axelle/Bauer-Griffin/FilmMagic/Getty)
