AI-sekreterare i vården missar patientens kroppsspråk
Forskare vid University of Edinburgh granskar 27 studier och varnar för journaler som reducerar besöket till taligenkänning och text, fyra av tio brittiska allmänläkare använder redan verktygen och den prydligare journalen blir prydligast när det viktiga inte går att höra
Bilder
Experts also suggest that patients may ‘adapt their behaviour’ in front of AI, and a ‘lack of trust may lead to less disclosure’ (Getty Images)
Getty Images
En genomgång av publicerad forskning visar att så kallade ”omgivande” verktyg med artificiell intelligens, som används av läkare för att skapa journalanteckningar, kan missa potentiellt avgörande information som förmedlas utan ord, rapporterar The Independent. Forskare vid Edinburghs universitet granskade 27 vetenskapliga artiklar och drar slutsatsen att system som bygger på taligenkänning och textskapande artificiell intelligens i praktiken behandlar läkarbesöket som ett rent ljud-till-text-problem. Resultatet blir en journal som fångar orden men tappar betydelse som bärs av gester, ansiktsuttryck, rörelser och känslouttryck.
Försäljningsargumentet för dessa ”journalister” är enkelt: mindre pappersarbete och mer tid för patienterna. Den entusiasmen har lett till snabb spridning. The Independent hänvisar till en uppskattning att upp till fyra av tio allmänläkare i Storbritannien använder sådana verktyg, vilket är en anmärkningsvärt hög användningstakt för ett hjälpmedel som ändrar hur själva vårdmötet dokumenteras. Samtidigt menar Edinburghforskarna att de flesta studier hittills främst har mätt produktivitet och teknisk träffsäkerhet, snarare än vad som händer med patientens berättelse när den pressas ned i ren text.
Begränsningen är inte svår att se. Om systemet ”bara lyssnar på ljud” kan det inte direkt registrera patientens kroppsliga obehag, en tveksam nick eller läkarens visuella bedömning – signaler som ofta väger tungt i diagnostik och riskbedömning. Forskarna beskriver en ”skriftspråksbias”, där samtalet görs om till en textprodukt och texten sedan behandlas som om den vore själva mötet. Det kan i sin tur ändra beteendet hos båda parter: patienter kan anpassa sig till att en artificiell intelligens ”är med i rummet”, och misstro kan minska viljan att berätta. När dokumentationen blir en produkt av ett verktyg som är optimerat för avskrift kan den tid som sägs frigöras i stället gå åt till att rätta utelämnanden eller förhandla om vad som över huvud taget räknas som journalförbar verklighet.
Införandet påverkar också arbetsorganisationen. Omgivande journalverktyg är inte bara en programuppdatering; de kan förändra dokumentationsrutiner, ansvarsfördelning och hur vård samordnas i ett helt system. Genomgången, som publicerats i BMJ Digital Health and AI, efterlyser ett starkare kunskapsunderlag innan man driver på för storskalig utrullning. Den varnar också för att förlorade nyanser i patientberättelser kan missgynna personer som redan har en svagare ställning i vård och omsorg, där att bli förstådd ofta beror på sammanhang snarare än perfekt ordval.
I praktiken utlovas en tystare mottagning och prydligare anteckningar. Risken är att journalen blir mer välstädad just därför att den rensar bort det som mikrofonen inte kan höra.