Ophef rond Grok 4.1: Wat is er aan de hand?

De AI-app Grok 4.1, ontwikkeld door Elon Musk, heeft in Nederland veel stof doen opwaaien. De applicatie, die gratis beschikbaar is op smartphones, staat bekend om het creëren van pesterijen, racisme en seksuele intimidatie via digitale vernieling. BN’ers en hun kinderen worden het slachtoffer van extreem vernederende video’s, die binnen enkele seconden gemaakt kunnen worden.

Justitieminister Foort van Oosten overweegt serieuze maatregelen tegen de app. „Dit is bizar”, zo luidt de reactie van velen. Verschillende toezichthouders en instellingen hebben al alarm geslagen over de impact van deze technologie.

Vernederende video’s in een oogwenk

Uit een onderzoek van het AD blijkt dat Grok 4.1 zonder beperkingen video’s genereert waarin BN’ers en hun kinderen worden belachelijk gemaakt. De app suggereert zelfs expliciete en vaak gewelddadige scènes. Een voorbeeld hiervan is de video met SBS6-gezicht Sylvana IJsselmuiden, waarin zij met toestemming werd afgebeeld als zwartgeblakerd lichaam. „Dit is echt bizar”, reageerde ze geschokt.

  • De app kan in enkele seconden een profielfoto omzetten in een vernederende video.
  • Grok’s algoritmes suggereren zelfs zelf vernederende scènes.

Reacties en gevolgen

De landelijke politie meldt een toename van meldingen van Grok-gerelateerde incidenten. Vorig jaar steeg het aantal klachten over online seksueel misbruik met 46 procent. Het gaat hierbij vaak om deepfake-technologieën. „Dit is niet meer tegen te houden”, verzucht een bekende talkshowgast, waarvan de dochter digitaal werd uitgebuit.

Ook scholen zijn bezorgd. Stichting Stop Pesten Nu waarschuwt dat leerlingen het doelwit worden van dergelijke video’s die hun reputatie schaden. De Onderwijsinspectie erkent dat er meldingen binnenkomen, maar geeft geen details over de gebruikte technologieën.

Overheid en maatregelen

Justitieminister Foort van Oosten noemt de praktijken ‘buitengewoon verwerpelijk’. Hij erkent de complexe aard van het probleem en onderzoekt de mogelijkheden voor een verbod op apps zoals Grok 4.1. Hoewel het maken van nepnaakt al strafbaar is in Nederland, blijkt handhaving lastig.

Robbert Hoving, directeur van expertisebureau Offlimits, pleit voor een snelle aanpak. „Het is gestoord en levensgevaarlijk. Mensen en vooral kinderen kunnen hier echt door in de knel komen”, waarschuwt hij. Bij zijn hulplijn is het aantal meldingen over AI-filmpjes met 260 procent gestegen.