Grok: Rechter verbiedt uitkleedfunctie van AI-chatbot in Nederland

Het is in Nederland al illegaal om iemand digitaal uit te kleden als diegene daar geen toestemming voor heeft gegeven. Dit werd recentelijk opnieuw onderstreept door een uitspraak van de rechtbank in Amsterdam, die de uitkleedfunctie van de AI-chatbot Grok heeft verboden. Grok, dat onderdeel uitmaakt van het socialemediaplatform X, werd aangeklaagd door het expertisecentrum Offlimits vanwege het genereren van uitkleedbeelden en kinderpornografisch materiaal.

De voorzieningenrechter concludeerde dat de maatregelen die Grok heeft genomen om dergelijke beelden te voorkomen niet effectief genoeg zijn. Hierdoor mag Grok geen beelden van personen die in Nederland wonen genereren of verspreiden. De rechtbank heeft een dwangsom opgelegd van 100.000 euro per dag, met een maximum van 10 miljoen euro, als Grok zich niet aan deze uitspraak houdt.

Tussen 29 december en 8 januari genereerde Grok ongeveer drie miljoen geseksualiseerde AI-afbeeldingen, waaronder 23.000 afbeeldingen van minderjarigen. Robbert Hoving, directeur van Offlimits, toonde zich tevreden met de uitspraak en benadrukte dat het duidelijk maakt dat nieuwe technologie nooit een reden mag zijn dat mensenrechten in het geding komen.

Hoving merkte ook op dat alleen het bestaan van de wet niet genoeg bleek te zijn om de schadelijke effecten van Grok tegen te gaan. “Dit kan wereldwijd effect gaan hebben,” voegde hij eraan toe. De rechter heeft bovendien bepaald dat Grok geen deel mag uitmaken van X zolang het niet voldoet aan de opgelegde verboden.

De uitspraak komt op een moment dat het Europees Parlement onlangs heeft ingestemd met een verbod op uitkleedapps, wat de druk op dergelijke technologieën verder opvoert. De uitspraak van de rechtbank in Amsterdam kan als precedent dienen voor andere landen die met vergelijkbare problemen worden geconfronteerd.

Desondanks blijven er zorgen bestaan over de manipulatie van Grok, die volgens experts makkelijker beelden genereert dan concurrenten zoals ChatGPT en Claude. Het is duidelijk dat de technologie achter Grok nog steeds risico’s met zich meebrengt, ondanks de juridische stappen die zijn ondernomen.

Details blijven onbevestigd over de verdere stappen die Grok zal ondernemen in reactie op deze uitspraak. De situatie rondom de AI-chatbot en de bredere implicaties voor de technologie blijven onderwerp van discussie onder waarnemers en experts.