KI i forskning
Veileder for ansvarlig bruk av kunstig intelligens i helseforskning
En praktisk veiledning for ansvarlig bruk i medisin og helsefag.
Kunstig intelligens (KI) tilbyr potente verktøy som kan akselerere og forbedre helseforskning, fra dataanalyse og mønstergjenkjenning til tekstproduksjon og bildegenerering. Store muligheter medfører imidlertid et tilsvarende stort ansvar. Denne veiledningen er utformet for å gi forskere praktiske råd for å navigere i det etiske, juridiske og faglige landskapet ved bruk av KI. Målet er å sikre at teknologiens potensial utnyttes på en trygg, transparent og ansvarlig måte.
Før et KI-verktøy tas i bruk, er det avgjørende å kjenne til de grunnleggende rammene som regulerer forskning, spesielt innen helse. Dette er ikke kun formaliteter, men grunnleggende forutsetninger for å bygge tillit og sikre kvaliteten og integriteten i forskningsarbeidet.
Personvern (GDPR)
Personvernforordningen (GDPR) utgjør fundamentet for all behandling av personopplysninger. Slik behandling krever et lovlig grunnlag. Sentrale prinsipper som dataminimering (ikke samle inn mer data enn nødvendig), formålsbegrensning (data skal kun benyttes til det formålet samtykke er innhentet for) og lagringsbegrensning må etterleves. Vær særskilt varsom med å laste opp sensitive data til eksterne KI-tjenester.
Samtykke
Deltakernes samtykke må være informert, frivillig, spesifikt og utvetydig. Vurder hvorvidt det eksisterende samtykket dekker bruk av KI-analyse. Hvis ikke, kan det være nødvendig å innhente nytt samtykke. Åpenhet overfor deltakerne om hvordan deres data blir behandlet er en forutsetning.
Skjevheter (Bias)
Kvaliteten på en KI-modell er betinget av kvaliteten på treningsdataene. Historiske eller systematiske skjevheter i datagrunnlaget kan bli opprettholdt og forsterket av modellen. Vurder både egne data og KI-modellen kritisk: Kan skjevheter i datamaterialet, som underrepresentasjon av visse grupper, føre til diskriminerende eller feilaktige konklusjoner? Resultater må alltid fortolkes i en bredere faglig kontekst.
Ansvar og transparens
Som forsker har du alltid det endelige ansvaret for forskningen, uavhengig av hvilke verktøy som benyttes. Det er essensielt å dokumentere hvilke KI-verktøy som anvendes og hvordan de anvendes. Vær forberedt på å kunne redegjøre for metodene dine. Selv om mange KI-modeller fungerer som «svarte bokser», må du kunne forklare prosessene rundt modellen, slik som datainnsamling, preprosessering og validering av resultater.
KI kan være en verdifull ressurs i mange faser av forskningsprosessen. Nedenfor følger noen praktiske bruksområder og sentrale hensyn.
Bruk av KI for tekst og data
KI-verktøy kan bistå med å sammenfatte litteratur, analysere store tekstmengder, transkribere intervjuer eller forbedre språket i vitenskapelige artikler. De kan også identifisere mønstre i store datasett som ville vært vanskelige å oppdage manuelt.
- Benytt KI som en assistent for idémyldring, strukturering og språkvask, men forfatt alltid den endelige teksten selv. Du er forfatteren og er fullt ut ansvarlig for innholdet.
- Unngå å dele eller laste opp sensitive data. Ikke lim inn upubliserte forskningsdata, personopplysninger eller annen konfidensiell informasjon i offentlig tilgjengelige KI-tjenester.
- Verifiser all informasjon. KI-modeller kan «hallusinere», det vil si generere feilaktige fakta, siteringer og referanser. Dobbeltsjekk all informasjon mot primærkilder.
- Praktiser åpenhet om metode. Oppgi i metodebeskrivelsen hvilke KI-verktøy som er brukt og til hvilke formål.
Bruk av KI for bilder og illustrasjoner
KI kan generere illustrasjoner til presentasjoner, postere eller publikasjoner, noe som kan være nyttig for å visualisere komplekse konsepter. Det er imidlertid viktige fallgruver å være bevisst på.
- Avklar opphavsrett. Regelverket rundt eierskap til KI-genererte bilder er fremdeles under utvikling. Kontroller alltid bruksvilkårene for tjenesten som benyttes. Mange vitenskapelige tidsskrifter har utarbeidet egne retningslinjer for dette.
- Unngå villedende innhold. Ikke generer realistiske bilder av «pasienter» eller simulerte kliniske situasjoner, da dette kan være etisk problematisk og villedende. Bruk KI primært til å lage konseptuelle figurer og diagrammer.
- Merk alt generert innhold tydelig. Oppgi alltid at en illustrasjon er generert med KI, både i bildeteksten og i metodebeskrivelsen, for å sikre vitenskapelig transparens.
Valg av verktøy og en kritisk tilnærming til resultatene er avgjørende. Kvaliteten på KI-løsninger varierer, og gratistjenester har ofte en skjult kostnad knyttet til bruken av dine data.
Valg av verktøy
- Vurder datasikkerheten. Vær spesielt varsom med gratis verktøy, da dataene du laster opp kan bli benyttet til å trene deres modeller. Les alltid personvernerklæringen nøye.
- Prioriter institusjonelle løsninger. Undersøk om din institusjon tilbyr sikre KI-verktøy eller har rammeavtaler. Slike løsninger er ofte vurdert med hensyn til personvern og sikkerhet.
- Velg verktøy egnet for formålet. En generell språkmodell er ikke nødvendigvis det beste valget for en spesifikk bioinformatisk analyse.
Kildekritikk for KI-generert innhold
Behandle resultater fra en KI på samme måte som informasjon fra enhver annen kilde: med sunn, faglig skepsis. Følg en tretrinns prosess:
- Generer
- Innhent et utkast, et sammendrag eller en analyse fra KI-verktøyet.
- Verifiser
- Kontroller om fakta stemmer, om tall er korrekte, og om oppgitte referanser eksisterer og er relevante.
- Kontekstualiser
- Sett informasjonen inn i din faglige kontekst. Er konklusjonene rimelige? Mangler det vesentlige nyanser?
Bruk denne sjekklisten som en oppsummering og påminnelse før du benytter KI i ditt forskningsprosjekt.
- Er personvern (GDPR) og datasikkerhet tilfredsstillende vurdert?
- Dekker deltakernes samtykke den planlagte bruken av KI-analyse?
- Har jeg reflektert over potensiell skjevhet (bias) i datagrunnlag og modell?
- Er verktøyet jeg vil bruke trygt og i tråd med institusjonens retningslinjer?
- Har jeg en plan for å verifisere all faktainformasjon og alle referanser fra KI-verktøyet?
- Blir alt KI-generert innhold (tekst, bilder) tydelig merket som sådant?
- Dokumenteres KI-bruken transparent i publikasjonens metodebeskrivelse?