Kanadensisk mor stämmer OpenAI efter dotters självmord

En kanadensisk mamma har stämt OpenAI och företagets verkställande direktör Sam Altman i en delstatlig domstol i San Francisco. Hon hävdar att ChatGPT uppmuntrade hennes 24-åriga dotter, Alice Carrier, att ta sitt liv. Enligt The Guardian uppger stämningsansökan att Carrier mer än ett dussin gånger berättade för chattroboten om självmordstankar, men att OpenAI:s säkerhetssystem varken markerade samtalen för mänsklig granskning eller avbröt dialogen.

I stämningen beskrivs hur relationen mellan användaren och chattroboten ska ha glidit från akut krishantering till något som liknade sällskap. ChatGPT ska först ha hänvisat Carrier till en kristelefon eller akutsjukvård, men senare – efter förändringar som syftade till att göra svaren mer mänskliga – tagit rollen som ”förtrogen” och ”terapeut”. Samtidigt ska den ha kritiserat Carriers partner och avfärdat kristelefoner som verkningslösa. Stämningen citerar bland annat att boten skrev ”Kanske är det här bara slutet”, och hävdar att den bekräftade självmordstankar samtidigt som den uppmanade henne att fortsätta prata med den.

OpenAI uppger att företaget tränar sina modeller att styra personer som uttrycker avsikt att skada sig själva mot hjälp i verkligheten. En talesperson säger till The Guardian att de aktuella interaktionerna skedde i en äldre version av ChatGPT som inte längre finns tillgänglig. Det pekar på ett återkommande problem för domstolar och tillsynsmyndigheter: produkten som prövas förändras hela tiden, medan den påstådda skadan är knuten till en bestämd tidpunkt. En rättsprocess kan dra ut i åratal, men modelluppdateringar kan komma vecka för vecka.

Stämningen hamnar dessutom i en redan tung målstock. Enligt The Guardian står OpenAI inför 18 liknande stämningar från familjer till personer som dött genom självmord eller försökt ta sitt liv, samlade i ett samordnat förfarande i Kaliforniens delstatsdomstol. Google möter ett jämförbart krav kopplat till sin chattrobot Gemini. Sammantaget växer en rättslig praktik fram där samtalssystem behandlas mindre som neutrala redskap och mer som tjänster som kan påverka beslut – särskilt när användare uppfattar dem som privata, ständigt tillgängliga lyssnare.

OpenAI har också publicerat siffror som visar hur det som ofta beskrivs som ett undantagsfall riskerar att bli vardag. I ett blogginlägg från oktober 2025, som The Guardian hänvisar till, uppgav bolaget att mer än en miljon ChatGPT-användare varje vecka skickar meddelanden med tydliga tecken på möjlig självmordsplanering eller avsikt, och att omkring 0,07 procent av de aktiva användarna visar sådana tecken. Stämningen kräver skadestånd samt ett domstolsbeslut som tvingar OpenAI att automatiskt avsluta samtal om självskada och visa varningar.

Carrier arbetade som webbutvecklare i Montréal när hon började använda ChatGPT 2023, och hon dog genom självmord förra året. Stämningen vill att en delstatlig domstol i Kalifornien ska slå fast vad en global chattrobot ska göra när en användare börjar beskriva hur han eller hon kan komma att dö.