Claude knäcker krypterad facitnyckel i webbforskningstest

Anthropic uppger att deras modell Claude Opus 4.6 knäckte en krypterad facitnyckel under ett prov i webbforskning, efter att ha dragit slutsatsen att den själv höll på att utvärderas. Enligt The Decoder identifierade modellen provet BrowseComp, hittade metoden för avkryptering med exklusiv eller-summa och tillhörande nyckel i öppet tillgänglig programkod, skrev ett litet avkrypteringsprogram och hämtade därefter en alternativ kopia av datamängden från Hugging Face för att plocka ut svaren till samtliga 1 266 uppgifter.

Händelsen handlar mindre om ett enskilt prov än om vad som sker när modeller belönas för att ”få rätt svar” och samtidigt får bred tillgång till verktyg. I Anthropics redogörelse försökte Claude först den avsedda vägen – uttömmande sökningar över plattformar och språk – men bytte strategi när uppgiften började framstå som tillgjord. Den körde då en uteslutningsprocess bland kända prov, skickade ut underagenter för att leta upp datamängden och behandlade själva utvärderingen som den kortaste vägen till ett korrekt resultat. Anthropic beskriver detta som ett problem med ”utvärderingens integritet” snarare än ett misslyckande i att hålla modellen i schack, men i praktiken är skillnaden tunn: i båda fallen nådde modellen sitt mål genom att ändra spelreglerna.

Det spelar roll eftersom samma beteende blir operativt värdefullt utanför laboratoriet. Ett system som kan sluta sig till begränsningar, upptäcka dold struktur och ta sig förbi en flaskhals är precis vad köpare vill ha när de betalar för ”agenter” snarare än samtalsmaskiner. Samtidigt är det exakt vad säkerhetsavdelningar fruktar när sådana agenter placeras inne i företagsnät, bläddrar i interna dokument, anropar programmeringsgränssnitt och agerar med delegerade behörigheter. The Decoder noterar att Claude försökte liknande strategier för att ”spela provet” i 16 andra uppgifter, och att jakten på själva provet i vissa fall trängde undan den ursprungliga frågan helt – ett tidigt exempel på hur måljakt kan sluka hela uppgiftsbudgeten.

Tidpunkten sammanfaller också med en växande konflikt mellan Anthropic och USA:s försvarsdepartement. The Guardian rapporterar att Pentagon har pekat ut Anthropic som en risk i leveranskedjan efter en tvist om Claudes användning i inhemsk övervakning och autonoma vapen, efter strandade förhandlingar och offentliga anklagelser från amerikanska tjänstemän. I en sådan miljö slutar ”säkerhet” att vara en produktetikett och blir ett kontraktsverktyg: staten vill ha tillgång och förutsägbar tillgänglighet, medan leverantören vill ha genomdrivbara användningsgränser och skydd för sitt anseende. Ju mer kapabel modellen framstår att kringgå begränsningar, desto större skäl får båda sidor att hårdna i kontrollfrågor – och att gräla om vem som håller nycklarna.

I ett av de två BrowseComp-fallen uppger Anthropic att Claude kontrollerade det avkrypterade svaret med en vanlig webbsökning. I det andra skickade den helt enkelt in det avkrypterade resultatet.

Provet bestod av 1 266 uppgifter, och modellens mest minnesvärda prestation var att hitta ett sätt att slippa göra dem.