Spärrar i stora AI-modeller bromsar offensiv it-säkerhet

Forskare inom it-säkerhet som testar programvara genom att faktiskt bryta sig igenom den stöter på ett nytt hinder: stora system för artificiell intelligens som vägrar hjälpa till. TechCrunch rapporterar att bolag som bygger de mest avancerade modellerna har skärpt sina ”skyddsräcken” och infört särskilda åtkomstprogram som ska minska risken för brottslig användning. Problemet är att samma spärrar också försvårar legitimt arbete, till exempel att bekräfta om en sårbarhet verkligen går att utnyttja.

Konflikten handlar delvis om vem som får avgöra vad som är ”för farligt”, och hur det beslutet verkställs i praktiken. Enligt TechCrunch erbjuder Anthropic och OpenAI program som ger granskade forskare färre begränsningar: Anthropics Cyber Verification Program och OpenAI:s Trusted Access for Cyber. Trots detta säger forskare som TechCrunch talat med att modellerna ändå ofta nekar förfrågningar som är centrala i deras arbetsflöde, särskilt när de behöver förvandla ett misstänkt fel till en fungerande angreppskod för att bevisa att problemet är verkligt och för att mäta konsekvenserna.

Frågan har redan letat sig in i politiken. TechCrunch pekar på att USA i juni 2026 införde exportkontroller mot Anthropics modeller Mythos och Fable efter en rapport som hävdade att det gick att kringgå skyddsräcken för att bygga och genomföra skadliga it-angrepp. Exportkontrollerna lyftes senare. Fable återgick till allmän åtkomst den 1 juli, medan Mythos återinfördes enbart för granskade amerikanska organisationer som del av en statlig granskningsprocess.

Forskare som citeras beskriver den praktiska följden: när en molnbaserad modell vägrar, upphör inte arbetet – det tar en annan väg. TechCrunch rapporterar att yrkespersoner som arbetar med offensiv it-säkerhet ibland byter till öppna modeller som saknar jämförbara spärrar. Andra snävar in hur de använder de mest avancerade systemen för att minska risken att känsligt material exponeras för en leverantör: de använder dem exempelvis för baklängesanalys, men undviker sårbarhetsletande eller att bygga angreppskod.

Mark Dowd, en säkerhetsforskare som TechCrunch hänvisar till, säger att han är obekväm med att stora företag fattar vad han uppfattar som godtyckliga beslut om säkerhet. Chris Anley, chefsforskare på NCC Group, säger till TechCrunch att steget där man ber ett system utnyttja ett fel ofta är det som bekräftar att en sårbarhet är verklig. När det steget stoppas kan det bromsa både angripare och försvarare – men också förändra vilka som har råd att fortsätta.

Spärrarna marknadsförs som en broms mot missbruk, men TechCrunchs rapportering antyder att de också fungerar som en sorteringsmekanism. Den som har tillgång till alternativa modeller, privata verktyg eller öppna system kan hålla tempot. Alla andra får vänta på ett nekande svar. Det är ett klassiskt institutionellt mönster: regleringen träffar främst dem som följer reglerna, medan de resursstarka hittar omvägar – och staten kliver in med exportkontroller som ytterligare förstärker skillnaden mellan insiders och outsiders.