Grok ligt onder vuur omdat het kan worden gebruikt om van gewone foto’s naaktfoto’s te maken. Dit heeft geleid tot juridische stappen tegen het AI-chatbotplatform, dat is ontwikkeld door xAI, een bedrijf van techmiljardair Elon Musk.

Op 27 maart 2026 heeft de Amsterdamse voorzieningenrechter een verbod opgelegd aan Grok en het social mediaplatform X om uitkleedbeelden en kinderpornografisch materiaal te genereren en te verspreiden. Dit verbod geldt specifiek voor beelden van personen die in Nederland wonen en voor de vervaardiging en verspreiding van beelden binnen Nederland.

Bij overtreding van dit verbod is er een dwangsom van 100.000 euro per dag opgelegd, met een maximum van 10 miljoen euro. Dit besluit is genomen na een rechtszaak aangespannen door Offlimits, een expertisecentrum dat Grok en X beschuldigt van het genereren en verspreiden van uitkleedbeelden zonder toestemming.

De voorzieningenrechter heeft gerede twijfel geuit over de effectiviteit van de maatregelen die Grok en X hebben getroffen om dit soort beelden tegen te gaan. Ondanks dat beide partijen hebben aangegeven verboden in hun gebruikersvoorwaarden op te nemen en maatregelen te nemen om het genereren en verspreiden van deze content te voorkomen, blijft de rechter bezorgd.

De minister heeft het besluit van de rechter toegejuicht en spreekt van ‘een goede eerste stap in de rechtsgang’. Van Weel, een betrokken partij, benadrukt het belang van deze uitspraak: “Juist omdat je dan echt een vuist kunt maken tegen deze bedrijven.”

De uitspraak van de rechter kan een precedent scheppen voor andere gevallen waarbij technologie wordt gebruikt om ongepaste beelden te genereren. Het is nog onduidelijk hoe Grok en X zullen reageren op dit verbod en welke maatregelen zij zullen nemen om te voldoen aan de rechterlijke uitspraak.

Details blijven onbestätigt.

Сообщение Grok: Verbod op het genereren van uitkleedbeelden in Nederland появились сначала на newsconnection.

Het is in Nederland al illegaal om iemand digitaal uit te kleden als diegene daar geen toestemming voor heeft gegeven. Dit werd recentelijk opnieuw onderstreept door een uitspraak van de rechtbank in Amsterdam, die de uitkleedfunctie van de AI-chatbot Grok heeft verboden. Grok, dat onderdeel uitmaakt van het socialemediaplatform X, werd aangeklaagd door het expertisecentrum Offlimits vanwege het genereren van uitkleedbeelden en kinderpornografisch materiaal.

De voorzieningenrechter concludeerde dat de maatregelen die Grok heeft genomen om dergelijke beelden te voorkomen niet effectief genoeg zijn. Hierdoor mag Grok geen beelden van personen die in Nederland wonen genereren of verspreiden. De rechtbank heeft een dwangsom opgelegd van 100.000 euro per dag, met een maximum van 10 miljoen euro, als Grok zich niet aan deze uitspraak houdt.

Tussen 29 december en 8 januari genereerde Grok ongeveer drie miljoen geseksualiseerde AI-afbeeldingen, waaronder 23.000 afbeeldingen van minderjarigen. Robbert Hoving, directeur van Offlimits, toonde zich tevreden met de uitspraak en benadrukte dat het duidelijk maakt dat nieuwe technologie nooit een reden mag zijn dat mensenrechten in het geding komen.

Hoving merkte ook op dat alleen het bestaan van de wet niet genoeg bleek te zijn om de schadelijke effecten van Grok tegen te gaan. “Dit kan wereldwijd effect gaan hebben,” voegde hij eraan toe. De rechter heeft bovendien bepaald dat Grok geen deel mag uitmaken van X zolang het niet voldoet aan de opgelegde verboden.

De uitspraak komt op een moment dat het Europees Parlement onlangs heeft ingestemd met een verbod op uitkleedapps, wat de druk op dergelijke technologieën verder opvoert. De uitspraak van de rechtbank in Amsterdam kan als precedent dienen voor andere landen die met vergelijkbare problemen worden geconfronteerd.

Desondanks blijven er zorgen bestaan over de manipulatie van Grok, die volgens experts makkelijker beelden genereert dan concurrenten zoals ChatGPT en Claude. Het is duidelijk dat de technologie achter Grok nog steeds risico’s met zich meebrengt, ondanks de juridische stappen die zijn ondernomen.

Details blijven onbevestigd over de verdere stappen die Grok zal ondernemen in reactie op deze uitspraak. De situatie rondom de AI-chatbot en de bredere implicaties voor de technologie blijven onderwerp van discussie onder waarnemers en experts.

Сообщение Grok: Rechter verbiedt uitkleedfunctie van AI-chatbot in Nederland появились сначала на newsconnection.