OpenAI inför nedlåsningsläge i ChatGPT för att stoppa instruktionsinjektioner
Stänger webbsurfning och begränsar åtkomst till lagrat material samt slår av djup forskning och agentläge, marknadsförs för känsliga data men kan fortfarande luras via cachade sidor och uppladdade filer
Bilder
Image Credits:sarayut Thaneerat / Getty Images
techcrunch.com
techcrunch.com
techcrunch.com
Sriram Krishnan (center)
techcrunch.com
US President Donald Trump speaks after signing executive orders in the Oval Office of the White House in Washington, DC, on May 23, 2025.
techcrunch.com
OpenAI har lagt till ett nytt ”nedlåsningsläge” för ChatGPT-konton. Funktionen ska, enligt bolaget, minska risken att känslig information fiskas fram genom så kallade promptinjektioner. Enligt TechCrunch rullas läget ut till företagskunder som själva tecknar ChatGPT Business, samt till vissa berättigade privatkonton.
Promptinjektioner är ett problem som följer av hur moderna chattrobotar används som verktyg: de läser dokument, söker på nätet och följer kedjor av instruktioner som användaren inte alltid ser. En illvillig instruktion kan gömmas i en webbsida eller annan källa, och modellen kan luras att följa den – ibland genom att avslöja privata uppgifter från samtalet eller genom att ändra vad den gör härnäst. OpenAI:s svar, åtminstone för mer riskfyllda användningar, är att snäva in vad systemet över huvud taget får röra vid.
Nedlåsningsläget stänger av direktsökning på webben och begränsar modellen till lagrat innehåll. Det stoppar också hämtning och visning av bilder från webben, men användaren kan fortfarande skapa bilder. OpenAI uppger att läget även stänger av ”djup forskning” och ”agentläge” – funktioner där modellen typiskt tar fler steg för användarens räkning, drar in mer externt material och därmed ökar antalet ställen där en angripare kan gömma instruktioner.
Bolaget är tydligt med att inställningen inte är någon universallösning. Även med nedlåsningsläget aktiverat kan ChatGPT enligt OpenAI fortfarande vara sårbart för promptinjektioner som finns i lagrat innehåll eller i filer som användaren själv laddar upp. Den brasklappen är viktig eftersom funktionen marknadsförs till ”personer och organisationer som hanterar känsliga data” – alltså just de användare som sannolikt kopplar ChatGPT till interna dokument, rapporter och annat material som är värdefullt just för att det inte är offentligt.
Lanseringen visar också hur snabbt ”promptskrivande” har glidit över i praktisk driftssäkerhet. Ju mer en chattrobot används som surfassistent, forskningsverktyg eller som en agent som arbetar över flera källor, desto mer delegerar användaren i praktiken förtroendebedömningar till ett system som läser det som matas in. Nedlåsningslägets huvudsakliga löfte är inte bättre svar, utan färre ingångar.
OpenAI framställer funktionen som frivillig och ”inte avsedd för alla”. I praktiken drar den en gräns mellan bekvämlighetsfunktioner som gör ChatGPT mer självgående och de begränsningar som krävs när samma system används nära konfidentiellt arbete.
Nedlåsningsläget minskar vad ChatGPT kan hämta från omvärlden, och OpenAI varnar fortfarande för att injicerade instruktioner kan komma via lagrade sidor och uppladdade filer.