Kunstig intelligens kan ændre spillereglerne i asylretten

I fremtiden skal advokater og sagsbehandlere kunne bruge AI, når de skal træffe afgørelser i asylsager.

Det arbejder to professorer med i projektet Explainable Artificial Intelligence and Credibility in Asylum Decision-making over de næste fem år.

Den ene er juraprofessor Thomas Gammeltoft-Hansen hos Nordic Asylum Law and Data Lab og leder af Grundforskningscenter for Globale Mobilitet ved Københavns Universitet. Den anden er Thomas Moeslund, en af verdens førende forskere inden for Explainable AI, der er ansat ved AAU.

Tilsammen har de fået 12 millioner kroner fra Villum Fonden til at udvikle en AI, som Thomas Gammeltoft-Hansen mener vil kunne skabe helt nye muligheder for at understøtte afgørelser i asylsager.

»Vores AI skal sikre transparens om, hvordan sagsbehandlere eller dommere træffer de retmæssigt mest korrekte afgørelser på asylområdet. Derudover håber vi, at nyansatte jurister og advokater kan bruge den som et træningsværktøj,« siger Thomas Gammeltoft-Hansen.

Deres kunstige intelligens skal altså ikke erstatte og overtage menneskelige beslutninger, men skal understøtte advokater og sagsbehandlere og minimere bias i vurderingen.

Bias er en stor udfordring i AI

På sit kontor på Søndre Campus fortæller Thomas Gammeltoft-Hansen, at i asylretten eksisterer der en grundlæggende udfordring, når det drejer sig om at verificere asylansøgeres oplysninger: Ofte afhænger udfaldet helt af ansøgerens troværdighed.

»Praksis for sagsbehandling på asylområdet varierer temmelig meget fra land til land, og der er ikke fælles standarder for at vurdere troværdighed. Derfor kan der nemt snige sig forskellige typer af individuel, systemisk og institutionel bias ind,« siger Thomas Gammeltoft-Hansen.

Man træner en AI op ved hjælp af tidligere afgørelser, men det giver en stor risiko for, at den fremstiller præcise kopier af og forstærker allerede eksisterende bias og skævvridninger. Derfor ser Thomas Gammeltoft-Hansen ikke nogen mulighed for at bruge AI i dag til selvstændigt at træffe afgørelser i asylretssager på en etisk forsvarlig måde.

En undersøgelse fra Canada af afgørelser på asylretsområdet viser, ifølge Thomas Gammeltoft-Hansen, at antallet af opnåede opholdstilladelser varierede fra 13,8 til 95,1 procent alt efter hvilken dommer, der behandlede sagen.

Ifølge Thomas Gammeltoft-Hansen er problemet ikke lige så stort i Danmark. Her er ikke en kønnet slagside, som man ser i andre lande, men religion kan spille en større rolle i sagernes udfald. Det er præcis nogle af disse underliggende og ofte usynlige mønstre, som projektet skal udforske og afdække.

»I asylretten vil der stort set altid indgå en subjektiv vurdering, der handler om, i hvor høj grad sagsbehandleren tror på og vægter hele ansøgerens forklaring. En måde, vi kan prøve at arbejde med det problem er ved at sige, at det subjektive er med hele vejen. Når vi skal træne vores AI, er vi nødt til at forholde os til, at vi har et datasæt, hvor bias er til stede konstant,« siger Thomas Gammeltoft-Hansen.

AI til asylret skal kunne efterprøves

Ifølge Thomas Gammeltoft Hansen udnytter han og Thomas Moeslund forskellige teknologier til at løse udfordringerne, og de har allerede testet en pilotmodel.

»Ud fra resultaterne med pilotmodellen tør jeg godt sige, at vores AI-model er verdensførende, når det kommer til præcist at kunne forudsige asylafgørelser,« siger han.

For at nå så langt har de skullet gøre brug af det sidste nye inden for kunstig intelligens:

»Thomas og jeg har skullet gøre AI-modellerne mere transparente og kontrollerbare, men det er stadig relativt nyt at arbejde med vores område inden for kunstig intelligens. De store landvindinger, vi har set i AI i de seneste år, bygger næsten alle på modeller, hvor evnen til at forudsige eller levere resultater kommer på bekostning af muligheden for at efterprøve, hvordan algoritmen når frem til resultatet,« siger Thomas Gammeltoft-Hansen.

»Fænomenet kaldes populært for det sorte boks-problem i en AI, men med en Explainable AI, som vi bruger, går vi i en anden retning: Her er algoritmerne i stedet med til at åbne den sorte boks og give brugerne mulighed for at gennemskue, hvordan store sprogmodeller når frem til resultaterne,« siger han.

På det juridiske område er det ifølge Thomas Gammeltoft-Hansen helt nødvendigt at arbejde på den måde.

»Når man bruger algoritmer til at håndtere personfølsomme data, eller når en AI skal understøtte administrative eller juridiske beslutninger, kræver det individuel og saglig begrundelse, så at få åbnet den sorte boks er vigtigt, ,« siger han .

Fik adgang til helt unikke datasæt

Thomas Gammeltoft-Hansen har altid været interesseret i, hvordan retspraksis ændrer sig over tid. Det var også derfor, han blev opmærksom på, hvordan AI-systemer begyndte at vinde indpas især i amerikansk retspraksis.

Men for at kunne komme til at forske i det, skulle han skaffe sig adgang til et stort datasæt af asylafgørelser, også selv om det er noget, der i en international sammenhæng kan være svært at få fingre i.

»Sammen med nordiske kolleger fik vi adgang til et omfattende datasæt fra både Flygtningenævnet i Danmark, det norske Udlændingedirektorat og det svenske Migrationsverket. Samlet har vi i dag adgang til over 800.000 afgørelser, og desuden er vores data helt unikke,« siger Thomas Gammeltoft-Hansen.

Det særlige er, at der er tale om såkaldt dybe datasæt. De er ikke bare korte resuméer af afgørelser, og derfor kan Thomas Gammeltoft-Hansen og Thomas Moeslund se, hvad asylansøgere er blevet spurgt om undervejs i sagsbehandlingen, hvad ansøgerne har svaret, og hvad advokaten har fremført.

»Det er kun fordi, vi har et godt samarbejde i de skandinaviske lande, at det har kunnet ladet sig gøre, og det har været en lang proces at opbygge tillid og vise, at vi kan håndtere data sikkert og forsvarligt. Det her havde ikke kunnet lade sig gøre ret mange andre steder i verden,« siger Thomas Gammeltoft-Hansen.