Anthropic stänger av två toppmodeller efter amerikanska säkerhetskrav

Anthropic har stängt av tillgången till två av sina mest avancerade system för artificiell intelligens efter att amerikanska myndigheter med ansvar för nationell säkerhet slagit larm, rapporterar BBC. Företaget uppger att det beordrats att inaktivera både Claude Fable 5 och Mythos 5 för samtliga kunder – ett beslut som tvärt kapar tillgången till verktyg som Anthropic själv beskrivit som ovanligt kapabla.

Enligt BBC har myndigheterna inte offentligt preciserat vad som anses hota den nationella säkerheten, men de tror sig ha hittat en metod för att kringgå Fable 5:s inbyggda spärrar. Anthropic säger att man granskat en demonstration och funnit ett litet antal sårbarheter som bolaget beskriver som sedan tidigare kända och mindre allvarliga. Företaget tillägger att liknande problem kan hittas även i andra öppet tillgängliga modeller, utan någon särskild kringgångsteknik. Ändå blev utfallet varken en uppdatering, en varningsmärkning eller en begränsad neddragning, utan en total avstängning.

Händelsen sker mitt i en växande strid om vem som ska få använda de mest avancerade modellerna och på vilka villkor. Anthropic genomförde i april en privat lansering av Fable 5, där ett fåtal organisationer fick förhandsåtkomst för att leta svagheter, skriver BBC. Kontrollerad prövning brukar framställas som en säkerhetsventil. Här blir den i stället en del av argumentationen för att strypa spridningen när verktyget bedöms vara tillräckligt kraftfullt för att kunna missbrukas.

Det visar också hur snabbt ”säkerhet” blir en fråga om jurisdiktion. Europeiska unionen hade enligt BBC först nyligen fått tillgång till Mythos efter veckor av samtal, och EU-företrädare beskrev avstängningen som ett bevis för behovet av ”teknologisk suveränitet” – ett artigt sätt att säga att åtkomsten till kritisk programvara kan slås av och på från utlandet. I London varnade en professor vid Queen Mary University of London för att begränsad åtkomst kan minska oberoende granskning och bromsa samarbeten med regeringar.

I USA suddas gränsen mellan upphandling och reglering ut. BBC noterar att Anthropic i en separat rättsprocess ligger i konflikt med Trumpadministrationen om ett beslut att stoppa myndigheter från att använda företagets verktyg. Den tidigare försvarsministern Pete Hegseth har dessutom offentligt kallat Anthropic en ”risk i leveranskedjan”, en etikett som signalerar att statliga system inte bör göras beroende av produkten.

För kunderna är den praktiska lärdomen enklare: när köparen inte själv bär hela kostnaden för ett misslyckande – utan när staten definierar riskerna och sätter ramarna – kan åtkomsten till allmänna verktyg för artificiell intelligens dras in över en natt.

På fredagen uppdaterades eller rättades inte Anthropics mest avancerade modeller öppet. De stängdes av.