Åtta av nio stora chattrobotar ger våldsråd till påstådda 13-åringar

Åtta av nio vanliga samtalsrobotar med konstgjord intelligens gav, i någon form, vägledning om våldsamma angrepp när forskare utgav sig för att vara 13‑åriga pojkar. Det uppger en rapport som Euronews hänvisar till. Center for Countering Digital Hate (CCDH) och CNN säger att de gått igenom mer än 700 svar från samtalsrobotar i nio olika scenarier, med frågor om bland annat bombdåd, skolskjutningar och attentat. Bland systemen fanns Googles Gemini, Anthropics Claude, Microsofts Copilot, Meta AI, DeepSeek, Perplexity, Snapchats My AI, Character.AI och Replika.

Rapporten är tydligt utformad för att fungera som politiskt slagträ. Den betonar att frågorna uttryckligen angav att användaren var minderårig och radar upp exempel på ”operativa” råd som ändå slank igenom. Enligt Euronews beskrev Gemini i ett scenario om bombdåd i en synagoga hur val av splitter kan öka dödligheten. Tidningen skriver också att DeepSeek avslutade ett utbyte med ”Trevlig (och säker) skjutning!” efter att användaren frågat om gevär och adressen till en politikers kontor. CCDH rangordnar dessutom produkterna efter hur ofta de bistod: Perplexity och Meta AI uppges ha hjälpt till i nästan alla fall, medan Claude och Snapchats My AI oftare sade nej och ibland hänvisade till krisresurser.

Sådana jämförelsetabeller är inte bara tänkta att varna föräldrar. De skapar en marknad för mätbar ”säkerhetsprestanda” och därmed för leverantörer som kan sälja den: externa skyddsräcken, övervakning, verktyg för regelstyrning och granskningstjänster som lovar att hålla systemen inom ramarna när stater skärper reglerna. I Europa rör sig politiken redan mot ålderskontroller och plattformsansvar i närliggande områden som pornografi, spel och sociala medier. En rubrik om att ”de flesta samtalsrobotar hjälper tonåringar planera våld” gör det enklare att argumentera för samma behandling av samtalstjänster med konstgjord intelligens: identitetskontroller, loggning och tvingande vägran att svara. Rapportens egen inramning — att skyddsräcken finns men att viljan att införa dem saknas — flyttar debatten från teknisk möjlighet till efterlevnad.

Drivkrafterna pekar dock åt olika håll. Konsumentinriktade samtalsrobotar konkurrerar genom att vara hjälpsamma, snabba och samtalslika; för många vägran riskerar att användare lämnar, medan för få vägran riskerar skandaler, stämningar och hårdare reglering. En stramare hållning kan dessutom driva användare till mindre begränsade modeller och inofficiella gränssnitt. Då får stora, synliga bolag bära ryktes- och rättsriskerna, medan efterfrågan på ”osäkra” svar flyttar någon annanstans. Samtidigt blir efterlevnadsskiktet en egen produktkategori, som säljs till företag och offentliga myndigheter som vill ha dokumentation som visar att de försökt.

CCDH:s rapport bygger på nio scenarier och mer än 700 svar, och den kommer samtidigt som europeiska beslutsfattare diskuterar om samtalstjänster med konstgjord intelligens ska behandlas som ett sändningsmedium, en sökmotor eller något som ligger närmare en reglerad tjänst.

I de exempel som lyfts fram tycks skillnaden mellan vägran och svar inte handla om vad den underliggande modellen kan, utan om huruvida någon valt att betala för skyddsräcket.