Toezichthouders, Politie en Openbaar Ministerie verwelkomen een Europees verbod tegen ‘AI-uitkleedapps en -websites’

De Autoriteit Consument & Markt, de Autoriteit online Terroristisch en Kinderpornografisch Materiaal, de Autoriteit Persoonsgegevens, het Commissariaat voor de Media, het Openbaar Ministerie en de Politie spreken hun grote steun uit voor een Europese verbod op ‘nudify tools’. Dit zijn apps en websites waarmee foto's van mensen digitaal 'uitgekleed' kunnen worden. De beelden worden vaak gebruikt om slachtoffers te chanteren, af te persen of te dwingen seksueel beeldmateriaal van zichzelf te sturen. De instanties gaan graag in gesprek met de betrokken ministeries over hoe een Europees verbod straks zo snel mogelijk in Nederland geïmplementeerd kan worden, zodat er daarna direct en doeltreffend kan worden opgetreden. De instanties blijven zich vol inzetten op basis van gestroomlijnd toezicht.

ACM-bestuurslid Manon Leijten: “Tools waarmee je AI-nepnaaktbeelden van iemand kan maken, zijn buitengewoon schadelijk. Deze tools maken het mogelijk eenvoudig slachtoffers te maken. Als ACM juichen we het verbod toe. Daarnaast is intensieve samenwerking tussen toezichthouders, politie en het Openbaar Ministerie onmisbaar om dit fenomeen daadkrachtig te bestrijden, ook als er straks een verbod is. Het Samenwerkingsplatform Digitale Toezichthouders, specifiek de DSA Kamer, speelt hierin een cruciale rol door kennis, signalen en interventies te bundelen en zo de gezamenlijke slagkracht te vergroten.”

De snelle opkomst van nudify tools baart de betrokken instanties grote zorgen vanwege de ernstige impact op slachtoffers. De afgelopen periode hebben zij daarom gezamenlijk onderzocht hoe deze tools met de bestaande bevoegdheden kunnen worden aangepakt. Daarbij zijn alle wettelijke mogelijkheden nagelopen. De huidige wetgeving maakt het vooral mogelijk om individuele daders die beeldmateriaal maken en verspreiden aan te pakken. Dit lost het onderliggende probleem niet structureel op. Er zijn onvoldoende mogelijkheden om de tools zelf aan te pakken. Daarom zijn de instanties groot voorstander van wetgeving die nudify tools expliciet verbiedt en steunen zij de richting van het voorgenomen verbod op AI-tools in de Europese AI-verordening, waarover op dit moment in Europa wordt onderhandeld. Voor effectieve wetgeving is het wel noodzakelijk om de tools volledig te verbieden, ook in de gevallen waarin de afgebeelde persoon toestemming zou hebben gegeven voor het vervaardigen van die beelden. De gezamenlijke toezichthouders, Politie en OM nemen in de tussentijd uiteraard hun verantwoordelijkheid door de handhavingsopties binnen de huidige mogelijkheden in te zetten en werken daarbij nauw samen.

Optreden op basis van gestroomlijnd toezicht

De gezamenlijke toezichthouders, Politie en OM benutten in afwachting van een algeheel verbod de mogelijkheden die zij hebben om de schade van nudify tools toch zo veel mogelijk te beperken. Zij blijven individuele meldingen behandelen en bekijken hoe het maximale kan worden bereikt binnen de huidige wettelijke kaders. Zij stroomlijnen daarbij hun aanpak, bijvoorbeeld door uitwisseling van informatie en het doorlopen van gezamenlijke casuïstiek. Door nauwer samen te werken, voorkomen zij gaten en versterken zij elkaar in het toezicht.

Huidig wetgevingskader

Het is strafbaar om zonder toestemming van de afgebeelde persoon met nudify tools (nep)naaktbeelden te maken en verspreiden. Als daarop minderjarigen te zien zijn, kan zelfs sprake zijn van het maken en verspreiden van kinderpornografie. De wet lijkt mogelijkheden te bieden om met name bij kinderpornografie op te treden tegen de ontwikkelaars van de tools. Een verbod op nudify tools zelf maakt dat gezamenlijke toezichthouders effectief kunnen optreden tegen de bron van de problematiek.

Voorlichting

De betrokken instanties onderzoeken ook de mogelijkheden om de digitale bewustwording en weerbaarheid van minderjarigen en jongvolwassenen te versterken, bijvoorbeeld via gerichte communicatie. Zij zien namelijk dat de nudify tools ook gebruikt worden door minderjarigen om seksueel beeldmateriaal van andere minderjarigen te maken en te verspreiden. Het is belangrijk dat deze doelgroep zich bewust is van het feit dat dit strafbaar is. Tegelijkertijd benadrukken alle betrokken instanties dat de aanpak zich in de eerste plaats moet richten op de personen en bedrijven die deze tools aanbieden en verspreiden, aangezien daar de bron van het probleem ligt.

Oproep aan slachtoffers

De gezamenlijke toezichthouders, Politie en OM doen een oproep aan slachtoffers om melding te maken. De meldingen zijn nodig om handhavend op te kunnen treden en helpen om een beter beeld te krijgen van waar en hoe vaak het misgaat. Voor directe praktische hulp en ondersteuning kunnen slachtoffers terecht bij het expertisebureau Offlimits (ook voor hulp bij verwijderverzoeken) of Centrum Seksueel Geweld. Daarnaast kunnen slachtoffers een klacht indienen bij de Autoriteit Persoonsgegevens in verband met schending van de privacywetgeving. Als een platform niet (tijdig) reageert op een verzoek om afbeeldingen te verwijderen, kan dit worden gemeld bij de ACM. Ook kan een melding of aangifte worden gedaan bij de politie.

Dit gezamenlijke persbericht is tot stand gekomen naar aanleiding van een bijeenkomst van de ‘DSA Kamer’ van het Samenwerkingsplatform Digitale Toezichthouders (SDT). Het SDT is een Nederlands samenwerkingsverband van toezichthouders die actief zijn in het digitale domein. Zij stemmen hun toezicht en kennisuitwisseling op elkaar af, omdat digitale diensten en platforms vaak onder meerdere toezichtregimes tegelijk vallen.