Kaliforniens kärnkraftverk Diablo Canyon tar in generativ AI för att söka i regelpärmar

Energibolaget Pacific Gas and Electric, PG&E, har börjat använda ett verktyg för generativ artificiell intelligens, kallat Neutron, vid kärnkraftverket Diablo Canyon i Kalifornien för att söka igenom ”miljontals sidor” av teknisk och regelstyrd dokumentation, rapporterar Business Insider. Bolaget uppger att systemet, som liknar ChatGPT, minskar tiden det tar att hitta rutiner, händelseloggningar och andra handlingar som personalen behöver för att besvara frågor och ta fram underlag. Införandet beskrivs som den första användningen på plats av ett generativt verktyg vid ett amerikanskt kärnkraftverk.

Det omedelbara problem Neutron är byggt för att lösa handlar inte om reaktorstyrning utan om genomströmningen i pappersarbetet. Kärnkraftsdrift omges av en tät mur av av den federala kärnkraftsmyndigheten föreskrivna rutiner, åtgärdsuppföljningar, arbetsorder, utbildningsmaterial och konfigurationsdokumentation; i praktiken består en stor del av anläggningens ”arbete” i att visa tillsynsmyndigheter och interna granskare att arbetet faktiskt är utfört. Om ett verktyg kan göra en dokumentjakt som annars tar timmar till minuter flyttar det flaskhalsen i organisationen: mindre tid åt sökande ger mer tid åt åtgärder, men också större beroende av vad systemet väljer att plocka fram.

Den förskjutningen är viktig eftersom generativ artificiell intelligens inte fungerar som ett deterministiskt register. Ett traditionellt söksystem ger en lista med dokument; en språkmodell kan i stället ge ett svar som låter som ett dokument, och användaren kan behandla det som om det vore ett dokument. I en säkerhetskritisk miljö är skillnaden inte filosofisk utan handlar om spårbarhet. Om ett underhållsbeslut senare ifrågasätts måste granskningskedjan vila på stabila hänvisningar: vilken version av vilken rutin, vilket tekniskt grunddokument, vilket godkänt undantag. En sannolikhetsstyrd hjälpreda som sammanfattar och omformulerar kan snabba upp mänskligt arbete och samtidigt göra det svårare att i efterhand bevisa vad operatören faktiskt stödde sig på.

Det förändrar också drivkrafterna kring regelefterlevnad. Om den interna ”kostnaden” för att producera berättelser och underlag i tillsynsmyndighetsdugligt skick sjunker kan organisationer öka mängden efterlevnadsarbete utan att anställa fler. Det kan vara bra – bättre ordning i dokumentationen, snabbare svar på säkerhetsfrågor – men det kan också blåsa upp ytan av papperskontroller som ser fullständiga ut men förblir tunt prövade i den verkliga anläggningen. Generativa system är särskilt lockande i miljöer där resultatet är text och framgångsmåttet är ”besvarade vi granskarens fråga”, inte ”fungerade maskinen”.

Diablo Canyon är planerat att fortsätta vara i drift längre än den ursprungligen tänkta avvecklingen, vilket innebär att dokumentmassan både är ovanligt stor och ovanligt långlivad. Neutrons löfte är att göra detta ackumulerade institutionella minne sökbart i samma tempo som ett samtalsfönster.

Vid Diablo Canyon är den första uppmärksammade användningen av generativ artificiell intelligens alltså inte att köra reaktorn, utan att hitta sidnumret som förklarar hur den körs.