KU-forskere vil ændre loven, så færre AI-projekter ender på den digitale kirkegård

I 2022 fik Københavns Kommune en idé, der på papiret lød som en lille genistreg.

Ved hjælp af AI ville kommunen hjælpe flere borgere med at klare sig selv længst muligt.

Systemet skulle analysere oplysninger fra tidligere sager, så sagsbehandlerne lettere kunne vurdere, hvem der ville have gavn af vedligeholdende træning eller rehabilitering.

Myndighederne oplever simpelthen, at der ikke er tilstrækkeligt hjemmelsgrundlag til, at de må bruge systemer med kunstig intelligens i deres sagsbehandling

Henrik Palmer Olsen, professor på Det Juridiske Fakultet

Men der var et problem.

Kommunen endte med at opgive projektet fordi Datatilsynet i en vurdering af systemet kom frem til, at der ikke var tilstrækkelig lovhjemmel til at bruge AI-systemet i den daglige sagsbehandling.

Det er et eksempel på det problem, som to forskere fra Københavns Universitet nu forsøger at finde en løsning på.

Professor Henrik Palmer Olsen og adjunkt Aysel Küçüksu fra Det Juridiske Fakultet har i et nyt studie undersøgt de juridiske rammer for anvendelsen af kunstig intelligens i den offentlige sektor.

Ifølge forskerne er der opstået det, de selv kalder en ’digital kirkegård’, hvor kommuner og andre myndigheder bruger ressourcer på at udvikle AI-systemer, som aldrig bliver taget i brug.

»Myndighederne oplever simpelthen, at der ikke er tilstrækkeligt hjemmelsgrundlag til, at de må bruge systemer med kunstig intelligens i deres sagsbehandling,« siger Henrik Palmer Olsen.

Kun seks projekter fik vinger

Problemet bliver tydeligt i en evaluering af 40 offentlige såkaldte AI-signaturprojekter, der blev sat i gang mellem 2020 og 2022 for at afprøve teknologiens muligheder.

Da evalueringen blev gennemført i 2024, var 22 af projekterne afsluttet. Men kun seks var kommet i drift. De sidste 16 var afsluttet uden at blive taget i brug.

Nogle projekter havde problemer med data eller med at få teknologien til at fungere efter hensigten.

Men en af de væsentligste barrierer for at få projekterne på vingerne var de juridiske udfordringer. Ifølge evalueringen oplevede 68 procent af de deltagende kommuner og regioner juridiske udfordringer, og for fire af de 16 projekter, der ikke kom i drift, var juraen primær stopklods.

For Henrik Palmer Olsen illustrerer sagerne, hvorfor myndighederne har brug for tydeligere regler, før de investerer i nye systemer.

Kommuner og andre offentlige myndigheder skal ifølge professoren få styr på det juridiske grundlag langt tidligere, når de planlægger at tage kunstig intelligens i brug.

»Ellers er det jo spild af penge, for at sige det ligeud,« siger Henrik Palmer Olsen.

Fælles lov i stedet for urskov af særregler

I dag kan myndighederne forsøge at løse problemet ved at få ændret lovgivningen på det enkelte område.

Det er blandt andet sket i forbindelse med SU-handicaptillæg, hvor Folketinget i 2025 vedtog en lovændring, der giver mulighed for at fastsætte regler om brug af kunstig intelligens i sagsbehandlingen.

Her kan teknologien være med til at forkorte ventetiden for studerende, der søger om handicaptillæg.

Hvis ikke der er en mulighed for, at et menneske på en intelligent måde kan interagere med afgørelsen, er det jo i realiteten et automatisk beslutningssystem

Henrik Palmer Olsen, professor på Det Juridiske Fakultet

Men ifølge Henrik Palmer Olsen er det ikke en holdbar løsning, hvis der skal vedtages ny lovgivning, hver eneste gang en offentlig myndighed ønsker at anvende AI til en ny opgave.

»Hvis man skulle gå ned igennem hele vores offentlige forvaltning og gøre det i hvert enkelt tilfælde, kunne lovgiverne næsten ikke lave andet,« siger han.

Derfor anbefaler han og Aysel Küçüksu i deres studie, der er publiceret i det videnskabelige tidsskrift Politica, at Danmark indfører en fælles rammelov.

En sådan lov skal skabe et generelt juridisk grundlag for at anvende kunstig intelligens i offentlig sagsbehandling, hvor der behandles personoplysninger.

Forskerne har blandt andet hentet inspiration fra Norge og Finland, hvor lovgivningen nu er tilpasset den teknologiske udvikling.

Men en fælles lov skal ifølge Henrik Palmer Olsen ikke nødvendigvis betyde, at kunstig intelligens skal kunne bruges overalt. Tværtimod mener han, at politikerne bør tage stilling til, om der er områder, hvor teknologien slet ikke bør anvendes.

Det kunne være i sager, der handler om særligt udsatte borgere, mener professoren.

Han nævner blandt andet familier med alvorlige sociale problemer og mennesker, hvis sygdom eller livssituation gør det nødvendigt med en særlig forståelse for individuelle forhold.

I disse sager kan der være behov for en menneskelig vurdering, som et AI-system ikke kan levere.

»Det er nogle meget indgribende beslutninger, hvor det er vigtigere, at man afsætter nogle ekstra ressourcer til en menneskelig sagsbehandling,« siger Henrik Palmer Olsen.

Han understreger dog, at det ikke er nogen enkel opgave at afgøre, hvor grænsen skal gå. Også mennesker, der søger om SU-handicaptillæg, kan befinde sig i en udsat situation.

Derfor mener han, at den endelige afgrænsning må være en politisk beslutning.

Dilemmafyldte grænser

Politikerne har faktisk allerede taget et skridt i retning af en ny rammelov for brugen af kunstig intelligens i det offentlige.

I september blev et nyt udkast til en AI-hjemmelslov sendt i høring. Forslaget lægger op til at skabe et fælles juridisk grundlag for offentlige myndigheders behandling af personoplysninger med kunstig intelligens. På den måde imødekommer det en væsentlig del af forskernes budskab.

Men lovudkastet opstiller ikke generelle forbud mod at bruge AI på bestemte sagsområder. Det er ellers en mulighed, som Henrik Palmer Olsen mener, at politikerne bør overveje.

I stedet får de enkelte ministre mulighed for at fastsætte særlige beskyttelsesforanstaltninger på deres egne områder, når der behandles følsomme oplysninger.

Henrik Palmer Olsen peger på, at det kan føre til nye forskelle mellem de juridiske rammer på tværs af den offentlige sektor, hvis der ikke sker en koordinering på tværs af ministerierne.

»Så kan man risikere, at man får nogle lidt forskellige hjemmelsgrundlag på forskellige områder, hvilket kan skabe en ny juridisk udfordring« siger han.

Han nævner ældreområdet og sundhedsområdet som eksempler på steder, hvor sagerne kan overlappe hinanden, men hvor forskellige ministerier har ansvaret for hver deres del af lovgivningen.

Hvis reglerne bliver forskellige, kan der efter hans vurdering opstå ny usikkerhed om, hvornår en myndighed må anvende kunstig intelligens.

»Man kan ikke bare fjerne medarbejderne«

Selv med klarere juridiske rammer er der dog stadig et dilemma.

Regeringen, KL og Danske Regioner har en fælles ambition om, at kunstig intelligens skal frigøre mindst 50 millioner arbejdstimer i den offentlige sektor frem mod 2035. Det svarer til mindst 30.000 årsværk.

Men Henrik Palmer Olsen advarer mod at indkassere besparelserne for hurtigt.

Regeringens lovudkast giver mulighed for at anvende AI som beslutningsstøtte, men giver ikke i sig selv hjemmel til fuldautomatiske afgørelser. Derfor skal sagsbehandlerne fortsat have tid til at kontrollere systemernes anbefalinger.

Ellers risikerer man ifølge professoren, at de menneskelige vurderinger gradvist forsvinder. Det skyldes blandt andet fænomenet automatiseringsbias, hvor mennesker bliver mindre tilbøjelige til at forholde sig kritisk til anbefalingerne fra et system, der normalt leverer korrekte svar. Dermed kan fejl i AI-systemers vurderinger risikere at blive overset.

Hvis medarbejderne samtidig får mindre tid til at efterprøve resultaterne, kan den menneskelige kontrol ende med blot at blive en formalitet.

»Hvis ikke der er en mulighed for, at et menneske på en intelligent måde kan interagere med afgørelsen, er det jo i realiteten et automatisk beslutningssystem,« siger han.

Sådan risikerer myndighederne at handle i strid med loven ved at overskride grænsen til fuldautomatiske afgørelser, selv om det på papiret stadig er et menneske, der træffer beslutningen. Ansvaret for afgørelsen ligger dog fortsat hos myndigheden, understreger han.

Henrik Palmer Olsen er grundlæggende optimistisk omkring mulighederne for at bruge AI i det offentlige. Men før myndighederne begynder at reducere bemandingen, bør de undersøge, hvor meget menneskelig kontrol der fortsat er nødvendig for at sikre kvaliteten af sagsbehandlingen.

»Det kan godt være, og det tror jeg er rigtigt, at man kan få mere effektiv og hurtigere sagsbehandling, men man kan ikke bare fjerne medarbejderne,« siger Henrik Palmer Olsen.