Amazon stramar åt granskning av kod som skrivs med generativ artificiell intelligens

Amazon skärper nu kontrollen över kodändringar som tagits fram med hjälp av generativa verktyg, efter en rad driftstörningar i bolagets detaljhandelssystem. Enligt Financial Times höll företaget denna vecka ett internt ”djupdykningsmöte” efter ”en trend av incidenter” de senaste månaderna, som i interna anteckningar beskrevs ha ”stor spridningsverkan” och involvera ”gen-AI-assisterade förändringar”.

Den omedelbara åtgärden är av administrativt slag: flytta godkännandemakten uppåt i hierarkin. I ett e-brev som Financial Times tagit del av skriver den högste vice verkställande direktören Dave Treadwell att tillgängligheten ”inte har varit bra på sistone”, och att yngre och mellannivåingenjörer hädanefter måste få klartecken från mer erfarna ingenjörer för ändringar där generativa verktyg använts. Förskjutningen är talande: verktygen rullas ut som en hastighetsmultiplikator – mer kod, snabbare – men kostnaden för fel kommer fortfarande på klassiskt vis: incidenthantering, kundpåverkan och anseendeskador. Ett system som kan framställa ändringar snabbt vidgar också ytan för svårupptäckta fel, och när de hamnar i driftmiljön är det beredskapspersonalen som får betala med sömnlösa nätter.

Mönstret tycks inte vara begränsat till Amazons butik och kundgränssnitt. Financial Times rapporterar att även Amazon Web Services haft incidenter kopplade till kodassistenter, däribland ett 13 timmar långt avbrott i en kostnadskalkylator i december efter att ingenjörer låtit företagets verktyg Kiro göra ändringar och det då valde att ”radera och återskapa miljön”. Amazon har tidigare beskrivit händelsen som begränsad, och sagt att den bara påverkade en enda tjänst i delar av Fastlandskina, samt att en annan incident inte drabbade någon kundnära tjänst inom Amazon Web Services. Men även ”begränsade” händelser blir internt bevismaterial i striden om hur mycket handlingsfrihet man ska ge verktyg som kan agera snabbare än de granskningsrutiner som organisationen byggts för.

Resultatet är en välbekant byteshandel i stora företag: ökad hastighet skapar sin egen motkraft i form av process. När utrullningstakten stiger accepterar organisationen antingen mer driftstopp, eller bygger fler spärrar – godkännanden, kontrollistor och eskaleringsvägar – så att ansvar kan pekas ut i efterhand. Financial Times noterar att vissa Amazoningenjörer har kopplat en ökning av allvarliga incidenter till nedskärningar, medan företaget bestrider sambandet. Oavsett vilket är kombinationen färre erfarna händer och mer automatiserat utflöde en riskkoncentrator: ansvaret hamnar hos de kvarvarande seniora, som blir både flaskhals och syndabock när något går fel.

Amazons webbplats och inköpsprogram låg tidigare i månaden nere i nära sex timmar efter vad bolaget beskrev som en felaktig utrullning av programkod. Den nya regeln om senior signering införs nu för att nästa avbrott inte ska kunna framställas och släppas ut i drift med maskinhastighet.