Hvornår bliver en AI-fejl til videnskabelig uredelighed?

Kunstig intelligens er på få år rykket ind på universiteterne og er blevet et vigtigt værktøj i mange forskeres arbejde. Teknologien kan blandt andet hjælpe med at gennemtrawle bunkevis af litteratur og løse opgaver langt hurtigere, end mennesker hidtil har kunnet.

Men den kan også opfinde kilder og have svært ved at kende forskel på rigtige og forkerte oplysninger.

Det rejser nye dilemmaer. For hvad sker der, når en opdigtet AI-oplysning ender i en forskningsartikel? Er der blot tale om en fejl, eller kan forfatteren have handlet videnskabeligt uredeligt?

Spørgsmålene er ikke længere hypotetiske. For i maj 2025 afgjorde Nævnet for Videnskabelig Uredelighed, at den tidligere professor på Institut for Idræt og Ernæring på Københavns Universitet Hans Bonde havde handlet videnskabeligt uredeligt efter at have indsat fiktive tekststykker og referencer i et forskningsmanuskript ved hjælp af generativ AI.

Sagen blev for nyligt afsløret i Kristeligt Dagblad, og det er første gang, at nævnet kender en forsker skyldig i videnskabelig uredelighed i en AI-sag. Afgørelsen kan derfor få betydning for, hvordan lignende sager fremover bliver vurderet på landets forskningsinstitutioner.

Hans Bonde, der bestrider afgørelsen, har ikke ønsket at medvirke i et interview, men som Uniavisen kan afsløre, har den tidligere KU-professor i samarbejde med sin advokat anmodet Nævnet for Videnskabelig Uredelighed om at genoptage sagen.

LÆS OGSÅ: Skandaleramte Hans Bonde vil have historisk AI-afgørelse genoptaget

Uniavisen har spurgt Thomas Riis og Morten Rosenmeier, der begge er professorer ved Det Juridiske Fakultet på KU, hvordan de eksisterende regler skal bruges på den nye teknologi, og hvilke perspektiver sagen om brugen af AI rejser. Og de er enige om, at ansvaret i sidste ende ligger hos forskeren.

Ukendte henvisninger

I afgørelsen har nævnet vurderet, at de fiktive oplysninger i Hans Bondes manuskript var udtryk for fabrikation. Det er sammen med forfalskning og plagiering en af de tre handlinger, der ifølge loven kan udgøre videnskabelig uredelighed.

I loven defineres fabrikation som »uoplyst konstruktion af data eller substitution med fiktive data«.

Hans Bonde havde sendt manuskriptet til et videnskabeligt tidsskrift med henblik på senere udgivelse.

I indledningen optrådte ti fiktive tekststykker og kildereferencer. Blandt dem var et opdigtet værk af en forfatter ved navn John Doe. Navnet bruges på engelsk om en person, hvis identitet er ukendt – omtrent som NN på dansk. Tidsskriftets redaktør opdagede fejlene, hvorefter Hans Bonde trak manuskriptet tilbage.

I forbindelse med sagen har Hans Bonde bedt Rasmus Grønved Nielsen, professor på Det Juridiske Fakultet på KU, om at udarbejde et juridisk responsum om sagen, som netop er færdigt, og som Uniavisen har fået tilsendt.

Her argumenterer han for, at lovens databegreb som udgangspunkt omfatter primære kilder og ikke litteraturhenvisninger, der alene bruges som baggrund. Rasmus Grønved Nielsen har ikke ønsket at stille op til interview, fordi han mener, at responsummet taler for sig selv.

Men fortolkningen fra Rasmus Grønved Nielsen er Thomas Riis ikke enig i. Han var i en årrække formand for KU’s Praksisudvalg, som behandler sager om tvivlsom forskningspraksis.

»Hvis man læser forarbejderne til uredelighedsloven, står der, at data skal forstås bredt og omfatter alle tilfælde af uoplyst konstruktion. Så jeg har svært ved at se, at fiktive kilder ikke skulle være data i lovens forstand,« siger han til Uniavisen.

Morten Rosenmeier, der blandt andet er forperson for Udvalget til Beskyttelse af Videnskabeligt Arbejde under Akademikerne, vil ikke tage stilling til Hans Bondes konkrete sag, men siger, at fiktive oplysninger godt kan være fabrikerede data. Det afgørende er ikke, om oplysningerne er skrevet af et menneske eller skabt af en maskine.

»Når AI’en hallucinerer og siger noget, der ikke passer, kan der opstå det meget alvorlige problem, at man som forsker kan komme til at gøre sig skyldig i datafabrikation, hvis man gengiver det som ægte data i en artikel,« siger han.

Forskellige afgørelser

Datafabrikation er imidlertid ikke i sig selv nok til, at der er tale om videnskabelig uredelighed.

For at datafabrikation rent faktisk kan betegnes som videnskabelig uredelighed, skal forskeren have handlet med vilje eller groft uagtsomt. Fejlen skal samtidig have haft væsentlig betydning for forskningen. Mindre alvorlige sager kan i stedet blive behandlet af universitetets praksisudvalg som tvivlsom forskningspraksis.

»Der kan sagtens være tilfælde, hvor AI-relateret datafabrikation ikke er uredelighed. For eksempel hvis de falske data står i et afsnit, som ikke er særlig væsentligt,« siger Morten Rosenmeier.

Nævnet har rent faktisk allerede foretaget den sondring. I en anden AI-sag fra februar 2025 vurderede nævnet, at fiktive AI-genererede referencer i en forskningsansøgning var fabrikation. Alligevel fandt nævnet ikke, at der var tale om videnskabelig uredelighed, fordi de anmeldte ikke havde handlet forsætligt eller groft uagtsomt.

Nævnet argumenterede blandt andet for, at anmeldte ikke selv havde skrevet de afsnit, hvor de falske referencer stod, og at de havde fulgt institutionens retningslinjer for gennemgang af ansøgningen.

I sagen om Hans Bonde nåede nævnet frem til det modsatte resultat. Her lagde nævnet blandt andet vægt på antallet af fiktive oplysninger og Hans Bondes erfaring som forsker.

Thomas Riis har læst afgørelsen og kalder fortolkningen af begrebet fabrikation »umiddelbart meget fornuftig«. Han mener heller ikke, at det fritager en forsker for ansvar, at en hallucination er så absurd, at andre hurtigt vil kunne opdage den.

»Det er ikke noget gangbart argument,« siger han.

Ansvaret hos forskeren

Generative AI-systemer gør det lettere at begå fejl, der ser overbevisende ud.

Det skyldes, at en AI kan formulere sig med så stor sikkerhed, at brugeren kommer til at opfatte det som en troværdig kilde, selv om systemet ikke ved, om oplysningerne er rigtige, siger Morten Rosenmeier.

»AI er et fantastisk redskab, men det har det mærkelige indbygget, at det nogle gange lyver. Det er dér, det kan gå galt,« siger han.

Alligevel flytter det ikke ansvaret fra forskeren bag skærmen.

Thomas Riis sammenligner det med at få en henvisning fra en kollega. Forskeren kan heller ikke uden videre skrive den ind i en artikel, men må gå tilbage til den oprindelige kilde og kontrollere, om oplysningen er rigtig.

»Hvis man ikke gør det, har man et problem,« siger han.

Selve brugen af kunstig intelligens er ikke forskningsetisk problematisk, understreger Thomas Riis. AI kan eksempelvis bruges til korrektur, sparring eller til at foreslå en anden struktur. Men brugen skal deklareres, når det kræves, og resultatet skal kontrolleres.

Ikke behov for flere regler

Kunstig intelligens er ikke nævnt i den gældende uredelighedslov, der blev vedtaget i 2017.

Til gengæld er AI skrevet ind i Det danske kodeks for integritet i forskning, som blev opdateret i januar 2026. Her står blandt andet, at brug af AI i forskningsartikler »bør angives i tråd med anerkendte nationale og internationale retningslinjer«.

Kodekset er ikke juridisk bindende, men beskriver fælles standarder for ansvarlig forskning.

Alligevel mener hverken Thomas Riis eller Morten Rosenmeier, at der er behov for nye bestemmelser i uredelighedsloven.

Ifølge Thomas Riis har grænsen for videnskabelig uredelighed aldrig kunnet beskrives præcist på forhånd. Heller ikke ved traditionelt plagiat kan man fastsætte et bestemt antal kopierede ord, som automatisk udløser en afgørelse om uredelighed. Omfanget og placeringen spiller også ind.

»Vi har aldrig haft klare grænser, og det egner reglerne sig heller ikke til. Så kommer der en afgørelsespraksis, som er med til at fortælle, hvor grænsen går,« siger han.

Praksis kan dog udvikle sig forskelligt på landets universiteter. De alvorlige sager afgøres af det nationale nævn, mens mindre alvorlige brud behandles af institutionernes egne praksisudvalg. Det indebærer ifølge Thomas Riis en risiko for, at forskeres brug af AI ikke altid bliver vurderet ens på tværs af universiteterne.

»Det er et problem, hvis det sker. Men nu tror jeg også, at de taler sammen,« siger han.

Både han og Morten Rosenmeier forventer flere lignende sager, efterhånden som AI bliver en større del af forskernes arbejde.

Morten Rosenmeier frygter desuden, at teknologiens muligheder for at gøre forskningen hurtigere med tiden kan føre til forventninger om, at forskerne også skal udgive mere.

»Den effektivitetsforøgelse, som AI kan skabe for forskere, kan blive ledsaget af uhensigtsmæssige forøgelser af publikationspresset. Og hvis det sker, kan det føre til flere brud på god videnskabelig praksis som følge af brugen af AI,« siger han.