Grok: Verbod op het genereren van uitkleedbeelden in Nederland

Grok ligt onder vuur omdat het kan worden gebruikt om van gewone foto’s naaktfoto’s te maken. Dit heeft geleid tot juridische stappen tegen het AI-chatbotplatform, dat is ontwikkeld door xAI, een bedrijf van techmiljardair Elon Musk.

Op 27 maart 2026 heeft de Amsterdamse voorzieningenrechter een verbod opgelegd aan Grok en het social mediaplatform X om uitkleedbeelden en kinderpornografisch materiaal te genereren en te verspreiden. Dit verbod geldt specifiek voor beelden van personen die in Nederland wonen en voor de vervaardiging en verspreiding van beelden binnen Nederland.

Bij overtreding van dit verbod is er een dwangsom van 100.000 euro per dag opgelegd, met een maximum van 10 miljoen euro. Dit besluit is genomen na een rechtszaak aangespannen door Offlimits, een expertisecentrum dat Grok en X beschuldigt van het genereren en verspreiden van uitkleedbeelden zonder toestemming.

De voorzieningenrechter heeft gerede twijfel geuit over de effectiviteit van de maatregelen die Grok en X hebben getroffen om dit soort beelden tegen te gaan. Ondanks dat beide partijen hebben aangegeven verboden in hun gebruikersvoorwaarden op te nemen en maatregelen te nemen om het genereren en verspreiden van deze content te voorkomen, blijft de rechter bezorgd.

De minister heeft het besluit van de rechter toegejuicht en spreekt van ‘een goede eerste stap in de rechtsgang’. Van Weel, een betrokken partij, benadrukt het belang van deze uitspraak: “Juist omdat je dan echt een vuist kunt maken tegen deze bedrijven.”

De uitspraak van de rechter kan een precedent scheppen voor andere gevallen waarbij technologie wordt gebruikt om ongepaste beelden te genereren. Het is nog onduidelijk hoe Grok en X zullen reageren op dit verbod en welke maatregelen zij zullen nemen om te voldoen aan de rechterlijke uitspraak.

Details blijven onbestätigt.