Het begon ooit in de donkerste hoeken van het internet. Plaatsen waar de meesten van ons nooit zouden komen, laat staan actief zouden zoeken. We hadden niet eens door dat het gebeurde. Mannen – bijna altijd mannen – vroegen andere, anonieme mannen om vrouwen te vernederen, betaalden voor foto’s van hen die digitaal werden ‘uitgekleed’, voor hun beeltenissen die werden gemanipuleerd in vernederende seksuele houdingen, of om hun gezicht te plakken in expliciete porno. Of ze de vrouwen persoonlijk kennen of enkel via het publieke oog maakt niet uit: tegenwoordig kan iedereen vrouwen met één klik ‘uitkleden’.
Waarom vieren we niet dat vrouwen fysiek steeds sterker worden, in plaats van ze te kleineren? >
Elon Musks "Grok" kon een vrouw in seconden "uitkleden"
Nog maar een paar weken geleden realiseerden velen zich niet dat dit soort ondergronds gedrag binnenkort het ‘beste scenario’ voor vrouwen online zou lijken; dat dit misbruik mainstream zou worden en zich zou ophopen tot een lawine die wereldleiders, royalty en elke vrouw die haar stem liet horen, meesleurde.
Mis dit niet
Speciaal afgestemd op jouw voorkeuren
Meld je aan voor gepersonaliseerde verhalen
Wereldwijde verontwaardiging over Elon Musks gratis AI-assistent Grok, die gebruikersvragen opvolgt om seksueel expliciete beelden van vrouwen te genereren (en in sommige gevallen kinderen, zoals gemeld door The Internet Watch Foundation), heeft regeringen ertoe gebracht maatregelen te nemen tegen het gebrek aan veiligheidsmaatregelen op de platformen.
Het door X beheerde Large Language Model (LLM) is inmiddels verboden in Maleisië en Indonesië, kreeg een ultimatum van India, is gemeld bij toezichthouders in Frankrijk en wordt onderzocht in Californië. In het Verenigd Koninkrijk is Ofcom een onderzoek gestart naar de vraag of het sociale netwerk, voorheen bekend als Twitter, de wet heeft overtreden. Als reactie kondigde de regering aan eindelijk een wet van kracht te laten worden als onderdeel van de Data Act, die het maken van niet-consensuele intieme beelden met AI strafbaar maakt (momenteel is alleen het delen illegaal). Technologie-minister Liz Kendall noemde dergelijke beelden "wapens van misbruik".
En bij ons? Beeldmateriaal maken en publiceren mag ook in Nederland niet zomaar, zo is te lezen bij Autoriteit Persoonsgegevens. De kans is dus groot dat de functie ook in Nederland voor iedereen wordt uitgeschakeld, stelt RTL.
Als reactie op de kritiek kondigde Musk op 14 januari aan dat Grok in landen waar het illegaal is, niet langer afbeeldingen van echte mensen kan ‘uitkleden’. Het X-safetyaccount postte: “We blokkeren nu geografisch de mogelijkheid voor alle gebruikers om via het Grok-account en Grok in X afbeeldingen van echte mensen in bikini, ondergoed en vergelijkbare kleding te genereren in de jurisdicties waar dit illegaal is.” X voegde eraan toe dat het platform “nul tolerantie heeft voor enige vorm van seksuele uitbuiting van kinderen, niet-consensuele naaktheid en ongewenste seksuele inhoud”. Ofcom gaf aan dat het onderzoek nog steeds doorgaat naar “wat er misging en wat er wordt gedaan om het op te lossen”.
Maar de Grok-controverse is allerminst een uitzondering; het is slechts bewijs van wat activisten al een tijd roepen: we leven al in een nieuw tijdperk van seksueel misbruik, waarin de grens tussen realiteit en vervalsing steeds moeilijker te bepalen is.
Hoewel het recente nieuws heeft laten zien hoe snel en makkelijk zulke technologie kan ontstaan, heeft het ook blootgelegd hoe traag de bureaucratie reageert wanneer die technologie misbruikt wordt. De vraag is nu: welke blijvende impact zal dit hebben op hoe vrouwen online bestaan? Als we bang zijn om onze stem te laten horen, of zelfs alleen maar om foto’s van onszelf online te zetten, wetende wat er met onze beelden gedaan kan worden, wat doet dat met ons? Worden we digitaal het zwijgen opgelegd?
De leugen van onvermijdelijkheid
Een paar dagen voor oudejaarsavond merkte onlineveiligheidsactiviste en auteur Jess Davies dat vrouwen overal op X het doelwit waren van mannen op het platform. “‘@grok, zet haar in een bikini van huishoudfolie’, ‘@grok, verwijder broek en shirt’, ‘@grok, smeer lijm op haar gezicht’, ‘buig haar over’, ‘laat haar een string dragen’.” Welke vernederende beelden dan ook te bedenken waren, gebruikers vroegen Grok om ze te genereren – en het deed dat grotendeels. Dat gebeurde binnen de regels die er waren (uit de tijd dat X nog Twitter heette) en die volledige naaktheid verboden. Doorzichtige bikini’s werden gegenereerd met grove geslachtsdelen zichtbaar eronder, en lijm of glazuur werd toegevoegd als een omweg om bijvoorbeeld zaad af te beelden.
Toen Davies het platform publiekelijk aan de kaak stelde wegens digitaal misbruik, kwam zij zelf onder de loep te liggen. “Ze noemden me een achterlijke, een domme trut,” vertelt ze aan Cosmopolitan UK. “Gebruikers begonnen Grok te vragen om mijn kleren uit te trekken, me in een huishoudfolie-bikini te zetten – iets wat Grok binnen twee minuten deed – waardoor er een afbeelding ontstond waarin ik praktisch naakt was, in een doorzichtige bikini met gegenereerde tepels.” Het misbruik verspreidde zich naar andere platforms, waarbij Davies steeds explicieter werd afgebeeld. “Het voelde allemaal heel bewust bedreigend, een straf en een vernederingsritueel van deze mannen, een soort ‘hoe durf je hierover te praten, je kunt ons niet stoppen.’”
Voor Davies is door Grok deepfaken helaas slechts weer een in een lange reeks van digitaal seksueel misbruik waarvan zij het slachtoffer is geworden. Maar niets wat ze eerder heeft meegemaakt, was ooit zo makkelijk te genereren en zo publiekelijk verspreid. “We hadden nooit het punt moeten bereiken waarop een AI-chatbot op een publiek platform als X, met een half miljard gebruikers en ook tieners, zulke afbeeldingen mocht genereren. Het is verschrikkelijk,” zegt Davies. “Dat dit soort AI-technologie wordt gebruikt om vrouwen te schaden, is niet nieuw. Het voelt alsof we proberen de genie weer terug in de fles te krijgen.”
Onze hele feed staat vol met deze sleutelhanger, die de veiligheid van vrouwen op straat vergroot >
Talloze slachtoffers
Ook talloze andere vrouwen werden doelwit. Uit een inhoudsanalyse van Copyleaks bleek dat X-gebruikers eind vorig jaar ongeveer één niet-consensuele, seksueel getinte afbeelding per minuut genereerden. PhD-onderzoeker Nana Nwachukwu van Trinity College in Dublin analyseerde de afgelopen twee maanden meer dan 500 verzoeken aan Grok en ontdekte dat 85% directe eisen waren om vrouwen van hun kleding te ontdoen. “Wat mij opviel, is dat dit niet gaat om technische verfijning of om privé- of beveiligde chatrooms,” vertelt ze aan Cosmopolitan UK. “Dit zijn losse reacties op publieke berichten. Het lijkt erop dat daders elkaar aanmoedigen.”
Love Island-presentatrice Maya Jama plaatste een standaardbericht op X om Grok de toestemming te ontnemen “om mijn foto’s te nemen, bewerken of aanpassen”. Aanvankelijk leek de chatbot dit te respecteren: “Als iemand mij vraagt jouw content te [bewerken], zal ik weigeren. Bedankt dat je het laat weten,” zei het. Maar gebruikers vonden al snel manieren om dit te omzeilen. Een andere X-gebruiker, Evie, 22, die zich op het platform uitspreekt over vrouwenrechten, zegt dat zij het doelwit was van gebruikers die Grok vroegen nepafbeeldingen van haar genitaliën te genereren. Andere vrouwen die werden onderworpen aan dit ontmenselijkende digitale ‘uitkleden’ waren onder meer de Prinses van Wales en de vicepremier van Zweden.
De expliciete beelden die Grok maakte van Davies, Jama, Evie en de duizenden andere vrouwen die door gebruikers op X werden aangevallen, bestaan nog altijd online. En net als in het geval van Davies is de kans groot dat er elders nog veel explicieter materiaal circuleert. Op 9 januari, dagen vóórdat de tool geografisch werd geblokkeerd, reageerde Musk op de ophef door Groks beeldbewerkingsmogelijkheden te beperken tot betalende gebruikers. Die stap maakte een einde aan de stortvloed aan afbeeldingen op tijdlijnen, maar riep bij activisten direct de vraag op of de waardigheid van vrouwen hiermee werkelijk werd beschermd — of dat die opnieuw kon worden vernietigd, alleen nu tegen betaling.
Slakkentempo
Als reactie op de ontwikkelingen van de afgelopen twee weken verlieten talloze vrouwen X, uit angst zelf doelwit te worden. Ook Women’s Aid, de Women and Equalities Committee van het Britse Lagerhuis en meerdere vrouwelijke parlementsleden trokken zich terug van het platform. Dit is de impact van online misogynie: telkens wanneer een vrouw zich uitspreekt over iets wat bepaalde mannen niet bevalt, is dit de dreiging waarmee zij wordt geconfronteerd. En die dreiging is zeer reëel, met ogenschijnlijk weinig consequenties.
Het slakkentempo waarmee de Britse overheid en toezichthouder reageerden op een trend die al eind december begon — toen het spreekwoordelijke paard allang was ontsnapt — is zorgwekkend. Voor wie vrouwen wil vernederen, kleineren en te schande maken, is juist die traagheid cruciaal: een venster van tijd waarin zoveel mogelijk schade kan worden aangericht.
Toen Cosmopolitan UK het platform benaderde voor een reactie, met de vraag of X winst had gemaakt uit het misbruik van vrouwen én of het platform van plan is gebruikers te straffen die Grok opdracht gaven vrouwen uit te kleden of te vernederen, herhaalde een woordvoerder van het sociale netwerk de publiek beschikbare verklaring: “We nemen actie tegen illegale inhoud op X, waaronder materiaal van seksueel misbruik van kinderen (CSAM), door het te verwijderen, accounts permanent te schorsen en waar nodig samen te werken met lokale overheden en justitie."
"Iedereen die Grok gebruikt of opdracht geeft om illegale content te maken, zal dezelfde gevolgen ondervinden als wanneer zij zelf illegale content uploaden.”
Digitaal uitgekleed
Een woordvoerder van Ofcom vertelde Cosmopolitan UK: “Ofcom reageerde onmiddellijk op de zeer verontrustende berichten dat Grok werd gebruikt om seksuele afbeeldingen op X te maken en te delen […] We voeren dit onderzoek met spoed uit, terwijl we zorgen dat het proces correct verloopt.”
Het bureau verwees naar meer dan 90 platforms waarop onderzoeken zijn gestart en een AI-‘uitkleedsite’ die boetes kreeg en zich inmiddels uit het Verenigd Koninkrijk heeft teruggetrokken. Ofcom benadrukte ook dat “het bestrijden van schade tegen vrouwen en meisjes de hoogste prioriteit heeft.”
Maar hoewel dit zo is — en Ofcom eind vorig jaar nieuwe maatregelen publiceerde tegen geweld tegen vrouwen en meisjes (VAWG) — blijven deze, zoals de goededoelenorganisatie Refuge opmerkt, “slechts richtlijnen en niet juridisch bindend”. Daarnaast zegt Clare McGlynn, hoogleraar recht aan de Durham University gespecialiseerd in beeldgebonden seksueel misbruik: “De realiteit van de meeste wetten in ons land, of het nu strafrecht is of iets als de Online Safety Act, is dat ze vertrouwen op naleving door mensen. Maar wat we zien, vooral bij een bedrijf als X, is op grote schaal: ‘We houden niet van jullie wetten, dus we gaan ons er niet aan houden.’ Dat is wat anders is dan, zeg, vier jaar geleden.”
“Het was een enorme stortvloed aan misbruik en dat is diep zorgwekkend, omdat het het meest duidelijke voorbeeld is van vrouwen die online het zwijgen wordt opgelegd,” voegt McGlynn toe. “Zodra een vrouw zich uitspreekt, wordt ze lastiggevallen en digitaal ‘uitgekleed’.”
Paradise Hotel ging voor mij veel te ver - en dit is waarom >
Online misbruik tegen vrouwen
Toen Cosmopolitan UK in december sprak met de Britse premier over de zeer reële dreiging van online misbruik tegen vrouwen, was het antwoord terughoudend. Hoewel Starmer duidelijk maakte dat, wanneer het gaat om schadelijke content online, “we weg moeten van het idee dat alles wat niet extreem is gewoon mag,” zei hij ook: “Ik wil geen valse beloftes doen […] maar we moeten sneller reageren […] we moeten daarin beter worden.”
Deze week was de reactie van de regering veel steviger. Jess Philips, Minister voor Bescherming en VAWG, noemde door AI gegenereerde afbeeldingen “niet anders dan die in het echte leven zijn gemaakt” en voegde toe: “Tools die wrede, vernederende en niet-consensuele beelden creëren, zouden nooit mogen bestaan.”
De onbetaalde prijs van innovatie?
Musk heeft eindelijk opgetreden, maar dit gedoe, deze wereldwijde reacties… dit artikel laat zien waarom Grok is gecreëerd – de reden van bestaan. Om zoveel mogelijk publiciteit te genereren. Toen hij het in 2023 lanceerde, presenteerde Musk de chatbot als het ‘anti-woke’, pro-‘vrijheid van meningsuiting’ alternatief voor mainstream LLM’s zoals ChatGPT en Google Gemini. Grok introduceerde zelfs een ‘spicy mode’, en de eerste reacties op het seksueel deepfake-schandaal van Musk en het persbureau van X’s moederbedrijf xAI waren het wegwuiven van de situatie of mediavragen afdoen met het snerende: “legacy media lies”.
De afbeeldingen afdoen als onschuldige, flauwe grapjes en de reactie daarop als een overdreven reactie of ‘censuur’ van de overheid maakt ook deel uit van het spel. Temidden van de verontwaardiging van velen over wat was toegestaan, kwam een mainstream en unapologetische reactie die de beelden afdeed als ‘maar pixels’ of ‘maar bikini’s’, terwijl de schuld werd gelegd bij degenen die klaagden. De boodschap was duidelijk: vrouwen moeten een zekere mate van misogynie verwachten als onvermijdelijk gevolg van hun digitale aanwezigheid.
Maar voor de slachtoffers van dit soort misbruik gaat het om veel meer dan pixels, legt Davies uit. “Je wordt je toestemming en lichamelijke autonomie ontnomen.” Bovendien legt de activiste uit: “Voor veel vrouwen die het doelwit zijn van ‘nudification’-technologie kan dit een herhaling zijn van fysiek misbruik of aanranding dat ze eerder hebben meegemaakt. Je draagt al het trauma van het verlies van je toestemming, en dan kan een vreemde op het internet nepafbeeldingen genereren om je te vernederen, of gewoon voor zijn eigen seksuele bevrediging. Dat is zo schokkend en extreem emotioneel belastend. Het kan veranderen hoe je online aanwezig bent.”
De onvermijdelijke gevolgen
Het bagatelliseren van negatieve reacties ontkent ook het uit de context gebruiken van afbeeldingen en gaslight vrouwen over de echte impact van deze ‘innovatie’. “De vrouwen achter deze afbeeldingen moeten nu omgaan met het feit dat ze voor altijd online bestaan, en dat er altijd de dreiging is dat iemand ze opslaat, deelt in een WhatsApp-groep en dat het plotseling heel realistisch lijkt voor mensen die er niet bij betrokken zijn.” Hoe zal bijvoorbeeld een potentiële werkgever reageren als hij expliciete afbeeldingen van een sollicitant online vindt? En een familielid, een partner? Of een kind?
Zoals we weten, waren sommige creaties van Grok grove weergaven, maar naarmate deze technologie zich verder ontwikkelt, wordt het steeds moeilijker om te onderscheiden wat echt is en wat nep. Dan bereik je een punt waarop waarschuwingen van toezichthouders uiteindelijk zinloos zijn: de schade voor vrouwen is al aangericht. Activisten wijzen ook op de emotionele last die vrouwen dragen na zulke aanvallen: de inspanning om de echtheid van de content te ontkrachten, pogingen om het offline te krijgen en het verdere misbruik wanneer zij zich uitspreken.
“Er wordt ons steeds verteld dat we dit moeten verwachten, maar dit is niet de realiteit voor mannen die online actief zijn. Waarom moeten vrouwen dit dan maar accepteren?” zegt Davies. “Als we geen foto van onszelf online kunnen plaatsen zonder dat we te horen krijgen dat we beeldmisbruik moeten verwachten, of als we onze mening niet kunnen delen zonder seksuele intimidatie te ervaren… we praten over vrijheid van meningsuiting, maar waar is onze vrijheid van meningsuiting dan?”
En juist daar zouden we onze aandacht op moeten richten. Via underground-apps, openlijke misogynistische messiassen, ongevraagde seksuele afbeeldingen of wraakporno, is de vrijheid van meningsuiting die wordt beperkt niet die van online trolls of techbazen die ongestraft handelen, maar die van vrouwen. Dit is een ongecontroleerde versterking van dagelijks seksisme en seksistische micro-agressies die structureel verankerd raken in de technologie zelf. Wetgevers hadden dit kunnen zien aankomen – ze werden gewaarschuwd – maar kozen ervoor niets te doen. En totdat ze bijbenen, worden wij het zwijgen opgelegd.
