Læger bruger dyrebar tid på at træne en privatejet algoritme

I starten af 00’erne blev talegenkendelse udrullet på danske hospitaler, og siden da har det været en fast del af arbejdet.

Alligevel har det ikke været specielt undersøgt i forskningen.

Faktisk kunne Silja Vase, som er postdoc på Datalogisk Institut, kun finde et enkelt studie om emnet, og det daterede helt tilbage til 2009. Hun besluttede sig for at tage sagen i egen hånd, og det er der nu kommet en ph.d.-afhandling ud af.

Silja Vase fik lov til at følge tre læger fra de mødte ind om morgenen, til de tog hjem om aftenen. Hun var med, når dagen begyndte på sengeafsnittet blandt indlagte patienter, og senere på dagklinikken, hvor patienter møder ind, hvis de for eksempel skal have gipsen af en arm. Hun så, hvordan frokosten konsekvent blev sprunget over, fordi der altid var travlt. Og midt i det hele observerede hun, hvordan lægerne anvendte det teknologiske værktøj.

Et økosystem af opgaver

Det var Digitaliseringsstyrelsen og Kommunernes Landsforening, der i løbet af 00’erne talte for at indføre talegenkendelse på landets hospitaler. Håbet var, at det nye værktøj kunne optimere arbejdsprocesserne.

Tidligere var alle læger udstyret med en diktafon, som de brugte til at dokumentere deres patientundersøgelser. Når dagen var omme, afleverede de den til en sekretær, som gik i gang med at transskribere fra diktafonen og ind i journalen. I samme ombæring kunne sekretæren booke tider til eksempelvis røntgen.

Hvis vi trænede generativ AI til at være mere specifik, ville vi kunne få et virkelig godt produkt. Det kræver bare, at fagfolk får tid til at gennemse og godkende det

Silja Vase, postdoc på Datalogisk Institut

Det viste sig dog at være en langsommelig proces, for sekretæren var ofte gået hjem fra arbejde, når lægen havde fyraften, hvorfor journalerne først blev opdateret den følgende dag. Derfor besluttede man, at lægerne selv skulle begynde at skrive journalerne. Det var bakset for mange, især de mindst computervante læger. For at optimere processen overgik man til talegenkendelse.

Talegenkendelse har, ifølge Silja Vase, på mange måder lettet processen, men opgaven med journalføring ligger stadig hos lægerne, som kvalitetssikrer arbejdet. Og det kan give problemer, især i et miljø, hvor alting skal gå hurtigt.

For eksempel opdagede hun, at et af talegenkendelsessystemerne til tider missede ordet ’ikke.’ Hvis lægen ikke var opmærksom på det, kunne der pludselig stå ’patienten har smerter’ i journalen, hvor der burde stå, at patienten var smertefri.

»Når du lige har indtalt noget og skimmer det igennem, kan du nemt blive blind over for, hvad der står,« siger Silja Vase.

Talegenkendelsen kunne også være kreativ med ordene, så sætningerne pludselig ikke gav mening.

»Der var et fagudtryk, som blev til ’voksenkondom’. Det har givet anledning til mange grin, men der er også nogle læger, som føler sig nedgjort i deres faglighed.«

Der følger desuden en masse opgaver med journalføringen. Hvis lægen konstaterer, at der er brug for at booke en fysioterapeut, er det oftest nemmest for lægen selv at gøre det, selvom det er en sekretæropgave.

LÆS OGSÅ: Kan en algoritme overhale lægen?

»Problemet opstår, når politiske og administrative beslutninger om automatisering bliver truffet på afstand af praksis,« siger Silja Vase.

Hun peger op på et whiteboard på væggen på kontoret. Her er et mylder af små post-it-sedler, som er forbundet af tuschstreger. Det illustrerer, hvordan en simpel opgave som transskribering af journaler trækker tråde ud i et helt netværk af opgaver.

»Man implementerede talegenkendelse, fordi man ønskede at automatisere transskriberingen som arbejdsproces. Man overså bare, at når man rykker en arbejdsopgave, roder man ved et helt økosystem af opgaver.«

Gratis arbejdskraft

Siden Silja Vase begyndte at forske i projektet, er der sket en eksplosion i AI-teknologi. Det har på mange områder forbedret værktøjet, men det har også skabt nye udfordringer.

»Når du arbejder med en AI, opstår en vekselvirkning mellem dig og maskinen. Det er en plastisk form for samarbejde. Lægen skal lære at prompte den, så den kan give noget ordentligt substans tilbage,« siger Silja Vase og fortsætter:

»Mange arbejdsopgaver er pludselig blevet mere tekniske. Alligevel bliver de ikke nødvendigvis anerkendt som selvstændige arbejdsopgaver. Derfor indgår de i den samlede tid, der er afsat til patienten.«

LÆS OGSÅ: Nyt center vil påvirke brugen af kunstig intelligens i Danmark

Rent praktisk betyder det ifølge Silja Vase, at læger nu bruger tid, der er afsat til patienten, på at sidde og træne en algoritme, som er ejet af private udbydere.

»Det skaber en stor værdi for de private udbydere, hvis datasæt kun bliver bedre af lægens prompter. En læges tid er enormt dyr, og det har de private udbydere fået helt gratis. Sygehuset betaler ovenikøbet licens for at få adgang til talegenkendelsen.«

Jeg ser helt sikkert fordele i at bruge generativ AI til dokumentation i fremtiden. Men vi skal være opmærksomme på de opgaver, der følger med.

Silja Vase, postdoc på Datalogisk Institut

Spørger man Silja Vase, ville en løsning på problemet være, at man overvejede opdelt ejerskab, hvor det offentlige ejer noget af data og derved får flere muligheder for at være medejere på udbuddene. Men hun er skeptisk, for det kan resultere i en politisk hårdknude, når det offentlige bliver nødt til at lave udbudsrunder for at sikre fri konkurrence:

»Udbuddene er jo til, fordi man ikke må favorisere en leverandør over en anden. Det kan man ikke undgå, hvis man samtidig ejer en andel hos en af leverandørerne. Så det er et politisk anliggende at få løst problemet.«

Hvis det ikke lykkes, opfordrer Silja Vase til, at man fra politisk side undersøger, om man kan stille krav til leverandørerne om, at de skal arbejde med open source-data.

»Det kunne være et midlertidigt plaster på såret, når nu vores offentlige midler bliver brugt på at træne privatejede AI-modeller.«

Mindre effektivitet, mere kvalitet

Den teknologiske udvikling går hurtigt i dag, men spørger man Silja Vase, vil der ikke gå lang tid, før farten bliver taget lidt af udviklingen. I stedet forestiller hun sig, at der kommer et større fokus på at kvalitetssikre de produkter, som kommer på markedet.

»Vi skal være sikre på at få nuancerne med. Hvis vi trænede generativ AI til at være mere specifik, ville vi kunne få et virkelig godt produkt. Det kræver bare, at fagfolk får tid til at gennemse og godkende det. Og at vi anerkender, at man ikke kan forhaste processen.«

Forskeren advokerer desuden for, at der bliver lavet mere forskning og udvikling i samarbejde med det personale, som faktisk skal bruge værktøjerne. Ellers ender man konsekvent i en situation, hvor det, der skulle optimere en arbejdsproces, viser sig at bebyrde de ansatte mere.

LÆS OGSÅ: Forskningsresultat: AI presser unge kandidater ud af arbejdsmarkedet

»Jeg ser helt sikkert fordele i at bruge generativ AI til dokumentation i fremtiden. Men vi skal være opmærksomme på de opgaver, der følger med. Vi skal altid have øje for økosystemet. For lige meget hvor smart en model bliver, vil det stadig påvirke den afdeling og den organisation, som den indgår i.«

Silja Vase skeler op på sit whiteboard, inden hun tilføjer:

»Vi skal huske fagligheden, og vi skal huske, at mennesker også skal kunne genkende sig selv i det arbejde, de laver.«