Ny KU-database kortlægger AI i det offentlige

I dag træffes mange beslutninger i det offentlige af AI-systemer.

Det kan gøre beslutningsprocesser mere effektive, og det kan bidrage til at løse store samfundsudfordringer.

Men det rejser også en række retslige og etiske udfordringer.

Det fortæller adjunkt Aysel Küçüksu og lektor Zuzanna Godzimirska, som begge forsker og underviser på det Juridiske Fakultet. De har gennem de seneste to år arbejdet på sitet offentlig.ai.dk, som netop er blevet offentliggjort denne uge med støtte fra Københavns Universitet, Dreyers Fond og Illumfonden.

LÆS OGSÅ: Ny undersøgelse: Studerende mangler undervisning i kunstig intelligens

»For to år siden forsøgte vi at sætte vores studerende ind i, hvordan myndighedernes brug af AI påvirker menneskerettighederne, og så fandt vi ud af, at der ikke eksisterer nogen samlet offentlig oversigt over, hvor og hvordan offentlige myndigheder bruger AI,« siger Aysel Küçüksu.

Det bliver et oplysningsværktøj til gavn for forskere, men også for borgere, så de kan blive klogere på, hvordan der bruges AI i det offentlige

Aysel Küçüksu, adjunkt, jura

Derfor satte de to sig for selv at lave den database, der nu skaber overblik over mere en 60 AI-projekter, som bruges i det offentlige, eller som af etiske eller retslige årsager er blevet lukket. Sitet er åbent for, at andre kan registrere nye AI-projekter løbende.

»Det har været et kæmpe arbejde. Det krævede meget detektivarbejde og aktindsigter, og projektholdet var nødt til at ringe til myndighederne for at få adgang til data,« siger Aysel Küçüksu og fortsætter:

»Vi forestiller os, at det bliver et oplysningsværktøj til gavn for forskere, men også for borgere, så de kan blive klogere på, hvordan der bruges AI i det offentlige.«

Manglende gennemsigtighed

Projektet har haft flere studerende ansat til at indsamle data og udarbejde tekster om AI-systemerne, fortæller Aysel Küçüksu. De studerende har været fra både jura, psykologi, filosofi, tekno-antropologi, data science og idéhistorie.

LÆS OGSÅ: AI er eksploderet blandt studerende: KU i kovending med nye regler

Det er særligt koblingen mellem menneskerettigheder og brugen af AI, der interesser de to forskere bag projektet.

»Det handler især om den manglende gennemsigtighed, der er omkring, hvordan data bliver brugt. De her store AI-systemer skal bruge store mængder data til at træne algoritmer og udarbejde beslutningsforslag, og den type data indeholder som regel personfølsomme oplysninger som helbredstilstand, køn, etnicitet eller lignende,« siger Aysel Küçüksu.

Det her går på tværs af mange fag

Zuzanna Godzimirska, lektor, jura

Hun fortæller, at der blandt andet bruges AI-systemer i ældreplejen og sundhedsvæsenet. De skal for eksempel optimere besøgsplaner, aflaste sundhedspersonale og forbedre diagnosticering.

»Ikke desto mindre rejser disse – og andre systemer i databasen – mange spørgsmål om, hvordan borgernes privatliv bedst kan beskyttes, og hvordan vi undgår beslutninger som for eksempel ender med at diskriminere borgere,« siger hun.

Fra Zuzanna Godzimirska lyder opfordringen, at både undervisere, forskere og studerende, der interesserer sig for og beskæftiger sig med AI, orienterer sig på hjemmesiden og anvender den nye database i deres forskning og undervisning.

»Den indeholder ikke kun juridiske perspektiver, det her går på tværs af mange fag,« siger hun.