Wanneer Lotte’s dochter van 16 thuiskwam met tranen in haar ogen, wist ze meteen dat er iets ergs was gebeurd. “Mama, iemand heeft foto’s van mij gemaakt… maar dan zonder kleren,” fluisterde haar dochter. Het bleek dat een klasgenoot een gewone schoolfoto had gebruikt in een zogenaamde deepfake-app om haar naakt te laten lijken.
Verhalen zoals dat van Lotte spelen zich dagelijks af in huishoudens door heel Europa. Jongeren, voornamelijk meisjes, worden slachtoffer van digitaal seksueel misbruik door middel van zogenaamde “uitkleed-apps” die kunstmatige intelligentie gebruiken om kleding van foto’s te verwijderen.
Nu grijpt het Europees Parlement eindelijk in. Deze week stemde een overweldigende meerderheid voor een algeheel verbod op deze schadelijke applicaties, met als doel de wetgeving nog voor de zomer van kracht te laten worden.
Wat zijn uitkleed-apps en waarom worden ze nu verboden?
Uitkleed-apps, ook wel “deepnude” applicaties genoemd, gebruiken geavanceerde AI-technologie om kleding digitaal te verwijderen van foto’s van mensen. Deze apps zijn de afgelopen jaren explosief populair geworden, vooral onder tieners en jongvolwassenen.
Het Europees Parlement heeft met 523 stemmen voor, 45 tegen en 17 onthoudingen besloten tot een volledig verbod. De nieuwe wetgeving maakt het niet alleen illegaal om dergelijke apps te ontwikkelen en te verspreiden, maar ook om ze te gebruiken.
“We kunnen niet langer toestaan dat onze kinderen digitaal worden misbruikt terwijl wij toekijken. Deze technologie vernietigt levens en toekomsten.”
— Maria Gonzalez, Europarlementariër Digitale Rechten
De nieuwe regels gaan verder dan alleen apps. Ook websites, software en andere digitale tools die vergelijkbare functionaliteit bieden, vallen onder het verbod. Bedrijven die deze technologie aanbieden, kunnen rekenen op boetes tot 6% van hun jaarlijkse wereldwijde omzet.
De harde cijfers achter het probleem
Recent onderzoek door het European Centre for Digital Rights toont de schokkende omvang van het probleem. De cijfers liegen er niet om:
| Categorie | Statistiek |
|---|---|
| Europese tieners die slachtoffer werden | 1 op de 8 meisjes (12,5%) |
| Gemiddelde leeftijd slachtoffers | 15,3 jaar |
| Downloads uitkleed-apps in 2023 | 24 miljoen in Europa |
| Gerapporteerde gevallen bij politie | 156% stijging sinds 2022 |
| Slachtoffers met psychische klachten | 78% |
De impact op jongeren is verwoestend. Uit het onderzoek blijkt dat slachtoffers kampen met:
- Ernstige angst- en depressieklachten
- Schooluitval of verminderde schoolprestaties
- Sociaal isolement en verbroken vriendschappen
- Zelfverwonding in extreme gevallen
- Langdurig wantrouwen in digitale omgevingen
“Ik zie wekelijks jongeren in mijn praktijk die getraumatiseerd zijn door deze apps. Het is digitale verkrachting, punt uit.”
— Dr. Thomas Vermeulen, kinder- en jeugdpsycholoog
Wat betekent dit verbod in de praktijk?
Het nieuwe verbod heeft verstrekkende gevolgen voor verschillende partijen. App stores zoals Google Play en Apple’s App Store moeten alle uitkleed-apps binnen 30 dagen na inwerkingtreding van de wet verwijderen.
Voor gewone gebruikers betekent het verbod dat het downloaden, gebruiken of delen van content gemaakt met deze apps strafbaar wordt. De straffen variëren per EU-land, maar kunnen oplopen tot twee jaar gevangenisstraf en boetes van €50.000.
Ouders krijgen ook nieuwe rechten. Ze kunnen voortaan een “digitale beschermingsorder” aanvragen als hun kind slachtoffer wordt. Dit zorgt ervoor dat alle beelden onmiddellijk van het internet worden verwijderd en de dader kan worden vervolgd.
“Eindelijk hebben ouders wettelijke instrumenten om hun kinderen te beschermen. We hoeven niet meer machteloos toe te kijken.”
— Jennifer De Wit, voorzitter Oudervereniging Digitale Veiligheid
Tech-bedrijven moeten hun AI-systemen aanpassen om te voorkomen dat ze voor deze doeleinden worden gebruikt. Ze krijgen een overgangsperiode van zes maanden om hun technologie aan te passen, anders riskeren ze miljoenenboetes.
Internationale samenwerking cruciaal voor succes
Hoewel het EU-verbod een belangrijke stap is, werken criminelen vaak vanuit landen buiten Europa. Daarom start de Europese Unie gesprekken met de VS, Canada en Australië om tot internationale afspraken te komen.
De nieuwe wetgeving bevat ook bepalingen voor internationale samenwerking. Europese autoriteiten kunnen voortaan sneller optreden tegen servers en diensten in andere landen die deze illegale apps hosten.
“Criminelen houden zich niet aan landsgrenzen, dus onze wetten ook niet. Deze internationale aanpak is essentieel.”
— Commissioner Elena Hartmann, Europese Commissie Justitie
Slachtoffers krijgen ook betere bescherming. Er komt een Europees meldpunt waar jongeren en ouders terecht kunnen voor hulp en juridische bijstand. Dit meldpunt werkt samen met lokale politiediensten en kan binnen 24 uur actie ondernemen.
Voor scholen worden speciale programma’s ontwikkeld om jongeren voor te lichten over de gevaren van deze technologie. Leraren krijgen training om signalen van digitaal misbruik te herkennen en slachtoffers de juiste hulp te bieden.
De nieuwe wet treedt naar verwachting in juni in werking, zodra alle EU-landen de regelgeving hebben omgezet in nationale wetgeving. Experts verwachten dat dit een keerpunt wordt in de strijd tegen digitaal seksueel misbruik.
Veelgestelde vragen
Wanneer gaat het verbod precies in?
Het verbod wordt naar verwachting in juni 2024 van kracht, zodra alle EU-landen de regels hebben ingevoerd.
Wat gebeurt er als ik al zo’n app heb gedownload?
Je moet de app onmiddellijk verwijderen. Gebruik na de ingangsdatum is strafbaar en kan leiden tot boetes of gevangenisstraf.
Kunnen slachtoffers schadevergoeding krijgen?
Ja, de nieuwe wet maakt het mogelijk om schadevergoeding te eisen van zowel de makers van de apps als de personen die ze hebben gebruikt.
Geldt dit verbod ook voor AI-tools die andere doeleinden hebben?
Nee, alleen tools die specifiek bedoeld zijn om kleding te verwijderen of naaktbeelden te maken worden verboden. Legitieme AI-toepassingen blijven toegestaan.
Hoe kunnen ouders hun kinderen extra beschermen?
Praat open over online veiligheid, gebruik ouderlijk toezicht op apparaten en meld verdachte situaties bij het nieuwe Europese meldpunt.
Wat als de app-makers buiten Europa zitten?
De EU werkt samen met internationale partners om ook buitenlandse aanbieders aan te pakken. Bovendien zijn Europese app stores verplicht alle dergelijke apps te verwijderen.