Instagram börjar varna föräldrar när tonåringar söker på självmord och självskadebeteende

Instagram ska börja varna föräldrar när deras tonåringar upprepade gånger söker på ord och fraser kopplade till självmord eller självskadebeteende. Funktionen rullas ut nästa vecka i USA, Storbritannien, Australien och Kanada. Enligt tidningen The Standard går aviseringarna till föräldrar som använder Instagrams frivilliga övervakningsverktyg, och skickas via e-post, textmeddelande, Whatsapp eller meddelanden i själva programmet.

Förändringen flyttar plattformens säkerhetslinje från att blockera och styra om sökningar – Instagrams nuvarande metod – till att rapportera användarbeteende till en förälder. Meta beskriver detta som att man ”hellre tar det säkra före det osäkra” och medger att varningar kan utlösas även när det ”inte finns skäl till oro”. I praktiken innebär det att systemet är byggt för att tåla många felaktiga träffar, eftersom kostnaden för en missad varningssignal blir ett anseende- och juridiskt problem för bolaget, medan kostnaden för onödiga larm i huvudsak hamnar hos familjerna.

Bolaget är tydligt med att funktionen läggs ovanpå den befintliga ordningen med så kallade tonårskonton: användare under 16 år behöver förälders tillstånd för att ändra vissa inställningar, och föräldrar kan bara lägga till övervakning om tonåringen går med på det. Den konstruktionen är viktig, eftersom den visar vad Meta faktiskt byggt: inte en hård spärr, utan en inställningsbar kontrollpanel. Det är enklare att dokumentera och försvara inför tillsynsmyndigheter än att göra om de rekommendationsmekanismer som kan förstärka riskfyllt innehåll.

Välgörenhetsorganisationer varnar redan för följdverkningarna. Molly Rose Foundation kritiserade enligt The Standard beskedet som ett ”klumpigt tillkännagivande” som kan lämna föräldrar ”panikslagna och illa förberedda” på vad som kommer härnäst. Organisationen menar att bördan borde ligga på att minska exponeringen för skadligt material i stället för att ”vältra över ansvaret på föräldrar”. En avisering är varken behandling eller sammanhang; det är en signal som kan landa mitt under en arbetsdag, nattetid eller i en pågående familjekonflikt.

Åtgärden skapar också ett nytt spår av uppgifter. För att en varning ska skickas måste Instagram klassificera sökningar som kopplade till självskadebeteende, avgöra vad som räknas som ”upprepade” sökningar och knyta beteendet till ett övervakat konto med förälderns kontaktvägar – e-postadresser, telefonnummer, Whatsapp-identifierare eller länkar i programmet. Även om själva sökorden inte återges ordagrant innebär flaggningen och aviseringen att en privat fråga blir en registrerad händelse och ett meddelande.

Utrullningen sker samtidigt som regeringar pressar hårdare i frågan om ungas användning av sociala medier. Australien har redan förbjudit sociala medier för personer under 16 år, och den brittiska regeringen har enligt The Standard sagt att den överväger liknande begränsningar, medan flera EU-länder utreder åtkomstbegränsningar. I USA har Meta-chefer granskats i domstol efter anklagelser om att bolaget riktat in sig på yngre användare.

Instagrams nya varningar börjar rullas ut nästa vecka. De är frivilliga för föräldrar att ta emot, men de är inte frivilliga för tonåringar att utlösa.