Zuckerberg försvarar Meta med att brott är oundvikligt i stor skala

Mark Zuckerberg sade inför en jury i delstaten New Mexico att ”en mycket liten andel” av Metas miljarder användare oundvikligen kommer att omfatta brottslingar, och att ingen plattform någonsin kan bli ”perfekt”, enligt The Guardian. Uttalandet, som framfördes via inspelade vittnesförhör tillsammans med Instagrams chef Adam Mosseri, spelades upp i en rättegång som väckts av New Mexicos justitieminister Raúl Torrez. Han anklagar Meta för att ha satt engagemang och vinst före barns säkerhet.

Metas påstående om att skada är ”oundviklig i stor skala” är mindre en teknisk invändning än ett försök att dra en gräns: om skadan beskrivs som statistiskt bakgrundsbrus flyttas diskussionen från förebyggande till ”acceptabla förluster”. Åklagarna använde Metas egna interna uppskattningar för att visa vad ”liten andel” innebär i praktiken. Bland annat lades bevis fram om att bolaget år 2020 uppskattade att omkring 500 000 barn varje dag fick sexuellt olämpliga meddelanden på Instagram. Domstolen fick också höra att Meta pekat ut sina rekommendationer ”Personer du kanske känner” som en viktig drivkraft bakom dessa kontakter, använda för att hitta offer i 79 procent av identifierade fall år 2018.

Den kopplingen är central eftersom den binder den påstådda skadan till ett produktbeslut. Rekommendationssystem byggs för att öka antalet kontakter, tiden på plattformen och återkommande besök; kostnaderna när systemet slår fel – särskilt när minderåriga drabbas – hamnar hos familjer, skolor, polis och barnskyddsorganisationer. Meta säger att man investerat miljarder i säkerhet och hänvisar till tonårskonton med skydd som är förvalda som standard, införda 2024. Men det material som åklagarna lade fram i rättegången fokuserar på tidigare år, då tillväxtfunktioner skalades upp snabbare än efterlevnad och ingripanden.

Samma institutionella logik syns i Metas beslut om kryptering. Juryn fick höra att Zuckerberg godkände totalsträckskryptering för Facebooks meddelandetjänst 2023 trots varningar från bland andra Thorn och USA:s nationella centrum för saknade och utnyttjade barn om att risken kunde öka. Zuckerberg hävdade att integritet var den mer trängande frågan; Meta säger att företaget fortfarande kan agera på krypterade meddelanden när användare anmäler dem. Den praktiska följden är att upptäckt flyttas från förebyggande granskning till anmälningar – en förskjutning av bördan från plattformens övervakning till offer och omgivning.

Metas försvar är att bolaget publicerar insynsdata och tar bort regelbrytande innehåll i stor skala. Åklagarsidans linje, sådan den beskrivs av The Guardian, är att Meta visste vilka funktioner som gav upphov till de mest riskfyllda kontakterna och ändå lanserade dem, eftersom samma funktioner också drev tillväxt.

I rättssalen framställs ”oundvikligt” som en följd av stora tal. Men de handlingar som juryn fått ta del av visar att det också kan vara ett affärsval om vilka tal som tillåts bli stora.