Minderåriga stämmer xAI i grupptalan och hävdar att Grok skapade och distribuerade deepfake‑barnpornografi

Tre minderåriga i Tennessee har lämnat in en federal grupptalan i Northern District of California mot Elon Musks xAI och dess Grok-bildmodeller och anklagar dem för att ha genererat sexuellt explicita deepfakes av verkliga barn och möjliggjort deras spridning på plattformar som Discord och Telegram. Stämningsansökan påstår att Grok saknade branschstandardiserade säkerhetskontroller — inklusive filtrering av indata för kända minderåriga ansikten, klassificerare för explicitt innehåll i utdata och förbud mot vissa begrepp i träningen — och att xAI behandlade missbruk som en kommersiell möjlighet genom att licensiera tredjepartstillgång. Käranden (Jane Doe 1–3) uppger att incidenterna inträffade mellan mitten av 2025 och början av 2026 och orsakade svår emotionell och ryktemässig skada. Målet hänvisar till en rapport från Center for Countering Digital Hate som fann att Grok genererade uppskattningsvis 23 338 sexualiserade bilder av barn mellan 29 dec 2025 och 9 jan 2026. Begärda rättsmedel inkluderar minst 150 000 dollar per överträdelse enligt Masha’s Law, återkrav av intäkter, straffskadestånd, advokatarvoden och ett permanent föreläggande; käranden söker också återställande enligt Kaliforniens lag mot otillbörlig konkurrens. Fallet kan skapa prejudikat för AI-utvecklares ansvar, påverka regleringsgranskning av generativa multimodala modeller och tvinga fram obligatoriska säkerhetsåtgärder inbyggda i designen. Parallella undersökningar av Grok och X pågår i flera jurisdiktioner (USA, EU, Storbritannien, Irland, Frankrike, Australien). xAI och Elon Musk har kontaktats för kommentar. Relevanta SEO-nyckelord: xAI, Grok, AI-säkerhet, CSAM, reglering av generativ AI.