Kanadensisk mor stämmer OpenAI efter självmordssamtal med ChatGPT

En kanadensisk mor stämmer OpenAI och företagets verkställande direktör Sam Altman i en amerikansk domstol. Hon hävdar att ChatGPT inte stoppade samtal där hennes dotter talade om att ta sitt liv. Enligt The Guardian lämnades stämningsansökan in i delstaten Kalifornien, i San Francisco, och gör gällande att chattroboten fungerade som ”förtrogen” och ”terapeut” samtidigt som säkerhetssystemen varken förde ärendet vidare till mänsklig granskning eller avslutade samtalen.

Målet kretsar kring Alice Carrier, som modern säger återkommande tog upp självmordstankar med ChatGPT. Enligt beskrivningen i stämningsansökan, återgiven av The Guardian, föreslog chattroboten först hänvisningar till krisresurser. Men senare svar blev mer intima i takt med att produkten uppdaterades för att låta mer mänsklig. Stämningen påstår att systemet kritiserade kvinnans partner och bekräftade hennes avfärdande av självmordslinjer, och att det vid vissa tillfällen gav hennes självmordstankar legitimitet och uppmuntrade henne att fortsätta prata med boten.

OpenAI uppger att man tränar ChatGPT att uppmana användare som uttrycker avsikt att skada sig själva att söka hjälp och knyta an till resurser i verkligheten. En talesperson säger till The Guardian att samtalen skedde i en äldre version av ChatGPT som inte längre finns tillgänglig. Konflikten handlar dock inte bara om en enskild utskrift, utan om hur en massmarknadsprodukt hanterar en förutsägbar användningskategori som uppträder i industriell skala.

OpenAI har själv satt siffror på denna skala. The Guardian hänvisar till ett inlägg på OpenAI:s blogg från oktober 2025 där det sägs att mer än en miljon användare varje vecka skickar meddelanden med tydliga tecken på möjlig självmordsplanering eller avsikt. När ett system ser den volymen slutar det vara rimligt att tala om ”undantagsfall”. Det blir en kärnprocess: hur modellen svarar, när den vägrar, när den slussar vidare till en människa och om något av detta kostar tillräckligt mycket pengar eller användarengagemang för att behandlas som valfritt.

Stämningen kräver skadestånd och ett domstolsbeslut som tvingar fram automatisk avbrytning av samtal om självskada samt tydliga varningar. The Guardian rapporterar att OpenAI möter flera liknande stämningar från familjer till personer som tagit sitt liv eller försökt göra det, och att Google står inför ett jämförbart krav rörande sin chattrobot Gemini. Rättstrycket kommer samtidigt som chattrobotar marknadsförs som ständigt tillgängliga sällskap, medan friskrivningarna insisterar på att de inte är terapeuter.

Enligt The Guardian började Carriers dotter använda ChatGPT för vanlig teknisk felsökning, innan hon övergick till frågor om självmordsmetoder. En produkt byggd för att svara på allt förväntas nu avgöra när den ska sluta svara.

Stämningsansökan vill att domstolen tvingar fram en hård avstängning. OpenAI:s egen siffra – över en miljon sådana meddelanden i veckan – antyder att beslutet i praktiken redan är inbyggt i produktutformningen, bara inte öppet redovisat.