Tusentals amerikaner stämmer Meta och andra plattformar för beroendeframkallande flöden

Tusentals kärande i USA försöker nu få domstolar att slå fast att sociala medieprodukter har byggts för att vara beroendeframkallande, och att vissa utformningsval – oändlig rullning, personligt anpassade flöden, återkommande aviseringar – därför bör behandlas som något som liknar ett produktfel. Le Monde rapporterar att chefer, däribland Metas Mark Zuckerberg och Instagrams chef Adam Mosseri, nyligen har förhörts i Los Angeles och har invänt mot att ”beroende” skulle vara en kliniskt träffande beskrivning.

Den tekniska tvisten handlar inte om huruvida flöden kan vara fängslande, utan om vad som faktiskt optimeras och om den optimeringen kan kopplas till skada på ett sätt som en domstol kan mäta. Moderna plattformar använder rangordningssystem som fortlöpande lär av användarbeteende: vad du tittar på, vad du hoppar över, vad du ser om, vad du delar och vad som får dig att återvända i morgon. Styrmedlen är välkända – rekommendationsalgoritmer, jämförande försök mellan olika varianter, varierande tidpunkter för aviseringar – men utfallet är sannolikhetsstyrt och personligt anpassat, vilket gör ”orsakssamband” svårt att fästa vid en enskild användare.

Just den svårigheten lär påverka vilka åtgärder som blir möjliga. När domare och tillsynsmyndigheter inte på ett tillförlitligt sätt kan härleda skada till ett visst val i en viss modell, tenderar de att kräva processer: dokumentation, granskningar, åldersspärrar, riskbedömningar och ”säkerhetsfunktioner” som kan uppvisas på papper. Resultatet blir en efterlevnadsapparat som gynnar de största företagen, som redan har jurister, styrning av datavetenskapligt arbete och resurser att bygga parallella system för olika jurisdiktioner. Mindre plattformar, eller nya aktörer med färre ingenjörer, får samma krav utan samma stordriftsfördelar.

Plattformarna kan å sin sida svara genom att formalisera det de redan gör: göra produktutveckling till reglerad förändringshantering. Då flyttas tyngdpunkten från ingenjörernas uppfinningsrikedom till interna godkännanden – vem som skrev under ett aviseringsförsök, vilka mätetal som följdes och hur snabbt en funktion kan dras tillbaka. Samtidigt skapas en ny strategisk tillgång: förmågan att producera en övertygande berättelse om ansvarsfull utveckling när något går fel.

I rättssalen i Los Angeles ombads cheferna att definiera ”beroende”. Systemen som granskas är bättre på att mäta kvarhållning än någon är på att mäta skada.