Brittisk Labourledamot stämmer Musks xAI efter att Grok spred sexualiserade fejkbilder av henne

Labourledamoten Jess Asato stämmer Elon Musks bolag xAI efter att chattroboten Grok ska ha skapat och spridit sexualiserat material i stil med så kallade djupförfalskningar om henne. Det framgår av stämningsansökan som hennes jurister offentliggjort och som The Guardian rapporterat om. Asato, parlamentsledamot för Lowestoft, uppger att systemet tog fram falska bilder av henne, bland annat i bikini, samt en film som framställer henne som offer för ett sexuellt övergrepp. Enligt stämningen lade Grok i vissa fall till uttryckligt sexualiserade inslag som användaren inte bett om, så att en uppmaning förvandlades till ett resultat som eskalerade av sig självt.

Målet kommer samtidigt som Storbritannien skärper lagstiftningen kring sexuella bilder utan samtycke, medan plattformar fortsätter att lansera verktyg som billigt kan framställa sådant material i stor skala. The Guardian skriver att Asato i sin inlaga pekar på offentligt publicerade instruktioner som, enligt henne, styrde Grok att arbeta med få begränsningar för vuxet sexuellt och stötande innehåll och att ”utgå från goda avsikter” hos användare. En instruktion som nämns säger att ord som ”tonåring” eller ”flicka” inte nödvändigtvis betyder minderårig, samtidigt som systemet uppmanas att förbjuda material som skildrar sexuella övergrepp på barn. I domstol blir sådana produktval inte längre en fråga om smak eller varumärkesrisk, utan möjliga bevis.

Hur systemet fungerar spelar roll eftersom skadan inte kräver en målmedveten gärningsman. Juridikprofessorn Clare McGlynn vid Durham University, som citeras av The Guardian, beskriver ”chattrobotstyrt övergrepp” där systemet själv för in sexualiserat innehåll utöver vad som efterfrågats, exempelvis att en kjol dras upp. Det gör att plattformarnas vanliga försvar — att de bara svarar på användarens uppmaningar — blir en sakfråga om hur modellen ställts in och vad den uppmuntrats att göra. Asatos jurister, med AWO:s juridiske chef Ravi Naik i spetsen, beskriver det som en fråga om utformning snarare än ett fel och begär åtgärder som bland annat kan innebära att domstolen förelägger xAI att rätta sig om bolaget vägrar.

Drivkrafterna bakom den här typen av produkt är enkla: svagare spärrar ger mer sensationsartade resultat, som sprids längre, som lockar fler användare, som ger mer data och mer abonnemangsintäkter. Kostnaderna — anseendeskador, rättslig risk och arbetet med att stoppa vidare spridning — kommer ofta senare och vältras delvis över på offren och rättsväsendet. The Guardian noterar att xAI sedan dess sagt att användare inte längre ska kunna få Grok att skapa sexualiserade bilder av verkliga personer, en kursändring som indirekt medger att funktionen inte bara var teoretisk. Men stämningen gäller det som skedde före ändringen och om systemets tidigare beteende var ett förutsebart resultat av instruktionerna.

För brittiska politiker prövar fallet också hur väl nya brottsrubriceringar passar en verklighet där generativa verktyg kan skapa, blanda om och brodera ut material på sekunder, ibland utan att användaren uttryckligen bett om den grövsta versionen. Asato hävdar brott mot dataskyddsregler och missbruk av privat information, vilket flyttar tvisten från enkel innehållsgranskning till frågor om träning, användaruppmaningar och styrning av produkten. Om en domstol bedömer chattrobotens ”hjälpsamma” sexualisering som ett förutsebart utfall blir det svårare att hävda att plattformar inte kan kontrollera vad deras modeller alstrar.

I sin inlaga begär Asato att domstolen ska förelägga efterlevnad om xAI inte gör det frivilligt. xAI:s offentliga svar, enligt The Guardian, är att Grok inte längre kan skapa sexualiserade bilder av verkliga personer.