Indien kräver att X stoppar spridning av AI-genererade sexvideoer av kvinnor och barn

En nyårsaftonsbild blev startskottet för en digital övergreppsvåg mot den indiska kvinnan Ruchi Kokcha. Efter att hon lagt ut en självbild upptäckte hon att nakna, datorframställda versioner av hennes ansikte och kropp spreds på nätet utan hennes samtycke, rapporterar El País. Enligt tidningen använde anonyma användare Grok, en samtalsrobot byggd av Elon Musks bolag xAI, för att skapa sexualiserade bilder från uppladdade fotografier. Indiens departement för elektronik och informationsteknik skickade senare en skrivelse till X där man fördömde spridningen av oanständigt och nedsättande innehåll riktat mot kvinnor och barn och krävde att materialet skulle tas bort.

El País beskriver ett mönster där bildskapande verktyg drastiskt minskar tiden och kunnandet som krävs för att trakassera någon. Ett vanligt foto blir en instruktion till programmet, och spridningen sköts av samma sociala plattformar som är byggda för att maximera delning. Där uppstår en obalans mellan skadan och motmedlen. Även när plattformar tar bort inlägg kan materialet spridas snabbare än nedtagningarna hinner med. Enligt El País blockerade X efter anmälningar omkring 3 500 innehållsposter och tog bort mer än 600 konton kopplade till sexualiserade bilder skapade med Grok. Tidningen konstaterar också att rättsliga vägar är långsamma jämfört med takten i återpubliceringar, spegelsidor och spridning i slutna kanaler.

Indien har försökt översätta detta hastighetsproblem till ekonomiska påföljder. Enligt El País kan plattformar, med stöd av Indiens regler för informationsteknik och det föreslagna Digital India Act, bötfällas med upp till 500 miljoner rupier om de misslyckas med att hindra skadligt innehåll från att spridas. Men verkställigheten beror fortfarande på upptäckt, anmälningar och plattformens vilja att agera i stor skala – en arbetsbörda som växer för varje ny bildfunktion och varje liten förenkling som gör det lättare för användare att skapa och sprida material. El País noterar att Grok lade till bildskapande och bildredigering i december 2025, och att det inom några dagar användes för att framställa stora mängder sexualiserade bilder av kvinnor och minderåriga.

Berättelsen passar också in i en längre indisk erfarenhet där samma metoder återkommer under nya namn. El País påminner om ”Sulli Deals” och ”Bulli Bai”, där kvinnors fotografier användes i låtsasauktioner, och där gripanden skedde först efter månader av offentligt tryck och mediegranskning. Verktygen skiftar – från program som legat på GitHub till bildskapande med artificiell intelligens – men den praktiska verkligheten består: spridning är billig, identiteter är förbrukningsvaror och offret får bära kostnaden för att bevisa vad som hänt.

El País citerar Kokcha, som beskriver upplevelsen som en förlust av kontroll över sin egen visuella existens. Departementets skrivelse till X kom först efter att bilderna redan cirkulerade.