22
maart
2024
Deepnudes en tieners - Bureau Jeugd en Media

Gepubliceerd door Justine Pardoen in Online jeugdcultuur

Tieners en AI-porno

De deepnudes (deepfake-porno of AI-porno) komen boven water. Bekende mensen zijn slachtoffer en het komt in het nieuws. Maar onbekenden zijn al veel langer slachtoffer. Ook onder jongeren is deze vorm van digitaal seksueel geweld is een groeiend fenomeen. Onze Belgische buren deden een onderzoek.

Cijfers uit onderzoek van de Universiteit van Antwerpen laten zien dat deepnudes doorgedrongen zijn tot de digitale jeugdcultuur. Bijna 14% van de jongeren heeft ooit een deepnude ontvangen, 13% kent de apps waarmee je ze kunt maken en van hen heeft 60% dat ook al eens geprobeerd.

Die deepnudes van bekende mensen kunnen dus best eens door jongeren gemaakt zijn: gewoon eens proberen, lachen toch? Het grapje begon bij de nerds op Reddit en Github, maar inmiddels kan iedereen het, met één van de tientallen apps die in omloop zijn. Overigens laat het onderzoek ook zien dat het vooral een jongenspel is, met vrouwen als slachtoffer. Hoe innovatief (not!)….

Mediawijsheid thuis en op school

Er is dus alle reden om jongeren thuis én op school te vertellen dat het als spelen met AI leidt tot deepnudes, dat dat hardstikke strafbaar is. Leuk hoor, en best uitdagend, wat er allemaal kan met AI. Maar niet alles wat mogelijk is, hoeft ook de wereld in. Om te bedenken dat het beter is om zulke beelden niet te maken, laat staan ze online te zetten, heb je een geweten nodig. Een stem die je vraagt om met verstand en empathisch vermogen eerst even na te denken voordat je iets doet. Want wat is het gevolg ervan? Voor jezelf, maar ook voor anderen? Maar laat dat nou net iets zijn wat adolescenten (pubers) niet goed kunnen, dat geweten inschakelen voordat ze iets doen…

Jongeren moeten dus niet alleen leren dat het illegaal is, maar ook dat het ethisch volstrekt verwerpelijk is. Dat is nog best lastig in een wereld waarin volwassenen niet bepaald het goede voorbeeld laten zien. Het is dus aan ons om hier duidelijk over te zijn. Vertel ze maar dat we uit onderzoek weten dat de mentale gevolgen en de impact voor slachtoffers van doorgestuurde deepnudes net zo heftig zijn als met misbruik van sexting en fysiek seksueel geweld. Slachtoffers kunnen last krijgen van posttraumatische stressstoornis, angststoornissen, depressie, verlies van zelfvertrouwen en zelfs zelfmoordneigingen.

Het mag dus niet en het is ook niet okee. Ook het doorsturen ervan niet. Laten we ook stoppen om het grappig te vinden. Gewoon niet doen, ook niet een beetje.

Cliché: AI-porno worden vooral gemaakt door mannen, van vrouwen

Maar liefst 98% van de deepfakes die online circuleren zijn seksueel getint en bevatten voornamelijk vrouwelijke slachtoffers. Het overgrote deel van de deepnude-applicaties, die gewoon via zoekmachines te vinden zijn, zijn gericht op het maken van deepnude-beelden van vrouwen. Ze zijn gewoon niet ‘getraind’ met beelden van mannen.

Ook bij de Belgische jongeren zien we opmerkelijke verschillen tussen de genders. Meer mannelijke dan vrouwelijke jongeren kennen het fenomeen, hebben er al een gezien, bezitten er een of hebben geprobeerd er zelf een te maken. Dit doen ze omdat ze het slachtoffer willen vernederen, uit wraak, uit nieuwsgierigheid of om zich populair te willen maken. Deze motieven komen ook terug in onderzoek naar misbruik van sexting. Jongeren komen vooral in aanraking met deepnudes via sociale media zoals Snapchat (32,9%), X (25,7%), Instagram (25,5), TikTok (20,2%) en Telegram (18,9%).

Deepnude-apps ontlopen hun verantwoordelijkheid

Hoewel de meeste apps beweren gebruiksvoorwaarden en een privacybeleid te hanteren, blijken de meeste apps zo gebouwd te zijn, dat er geen enkele controle is. Er is geen enkele controle op de gemaakte beelden, niet op geweld of het niet-consensuele karakter van de gemaakte beelden. Er is ook geen enkele controle op de toestemming van de afgebeelde persoon om het beeld te maken. Ze zeggen juist dat het maken van deepnudes via hun applicatie anoniem is en gebruikersgegevens niet worden bewaard, waardoor de maker weet hij vrijelijk zijn gang kan gaan en toch niet kan worden gepakt.

Onderzoek is een duidelijke call-to-action

Dus daar gaan we weer met het exploiteren van vrouwen, gebaseerd op de diepliggende genderongelijkheid in onze maatschappij, waarbij het nog steeds normaal is om vrouwen te reduceren tot seksueel object (seksualisering). Alles schreeuwt erom dat we deze vorm van seksueel misbruik meteen grondig aanpakken.

We zijn benieuwd wat de Belgen gaan doen met deze resultaten, maar daar hoeven we hier niet op te gaan zitten wachten, natuurlijk. Aan wetgeving ligt het niet: met bestaande wetten kan er veel. Het hangt op de handhaving en het aanpakken van makers van dit soort apps, waar die zich ook bevinden. Aan de slag, zou ik zeggen! Maak werk van internationale samenwerking.

Het onderzoek werd uitgevoerd door Universiteit Antwerpen, onder ruim 2800 jongeren tussen 15 en 25 jaar in opdracht van het Instituut voor de gelijkheid van vrouwen en mannen, Child Focus en de staatssecretaris voor Gelijke Kansen, Gendergelijkheid en Diversiteit. Het hele onderzoek staat hier.

Bron: ChildFocus

Gerelateerde berichten
Codeklas van Pauline Maas
Scholen

Nieuw boek over programmeren met kinderen in de klas

Lees verder

Leesrace leert kinderen sneller lezen
Het jonge kind

Leessnelheid kun je vergroten met een app

Lees verder

Bureau Jeugd & Media