Innspill til utvalget om kunstig intelligens i høyere utdanning

Forskerforbundets innspill til utvalget om kunstig intelligens i høyere utdanning

KI i høyere utdanning er et tema som opptar svært mange av Forskerforbundets 26 500 medlemmer. Forskerforbundet vil understreke at innføring av ny teknologi, inkludert bruk av KI, må støtte oppunder kjerneoppgavene til institusjonene og ha økt kvalitet på undervisning, forskning, formidling og støttetjenester som overordnet målsetting.

Hva skal høyere utdanning være i KIs tidsalder?

KI utfordrer hva høyere utdanning er eller skal være i framtida. Hvilke ferdigheter, kunnskaper og innsikter er det de ferdig utdannede kandidatene må ha i en tid da kunstig intelligens og generative språkmodeller kan erstatte deler av det arbeidet som utføres av mennesker i dag? Forskerforbundet forventer at utvalget tar seg tid til å gi noen prinsipielle betraktninger og anbefalinger rundt dette helt grunnleggende spørsmålet.

Forskerforbundet mener at utvalget må ta utgangspunkt i universitetenes og høyskolenes lovpålagte oppdrag om å sikre at undervisning, forskning og faglig og kunstnerisk utviklingsarbeid holder et høyt faglig nivå og utøves i samsvar med anerkjente vitenskapelige, kunstfaglige, pedagogiske og etiske prinsipper. Innføring av KI i høyere utdanning må legge til grunn universitets- og høyskoleforskriftens krav om at «Studietilbudet skal være faglig oppdatert og ha tydelig relevans for videre studier eller arbeidsliv». Videre skal læringsutbyttet være i samsvar med Nasjonalt kvalifikasjonsrammeverk. Studietilbudets innhold, oppbygging og progresjon skal være tilpasset læringsutbyttet. Det samme gjelder undervisnings-, lærings- og vurderingsformer. Disse skal være tilpasset læringsutbyttet og utformet slik at studentene oppfordres til en aktiv rolle i å forme læringsprosessen.^[1]

Forskerforbundet mener utvalget må drøfte hvordan studentenes læringsutbytte kan bli påvirket og endret gjennom deres tilgang til og bruk av generativ KI. Snarveier og regelrett juks er en ting, men vel så bekymringsfullt er det at den læringen som skjer gjennom egen lesing, skriving, analyse, refleksjon rundt og bearbeiding av tekst kan bli svekket. Eller i alle fall endret. En kunnskapsoversikt fra forskere ved Kunnskapssenter for utdanning ved UiS viser at studentene på den ene siden kan ha god nytte av ChatGPT for eksempel i en skriveprosess. KI-verktøy kan fungere som en samarbeidspartner eller sparringspartner i en prosess der studentene utvikler og bearbeider en tekst, og forskerne viser til at studentenes læringsprosess på denne måten kan forbedres når de bruker ChatGPT. Samtidig peker de på flere kritiske utfordringer der studentenes læringsprosess kan hemmes ved bruk av ChatGPT. Når det brukes som en erstatning for det studentene selv kan gjøre, kan ChatGPT føre til tap av kreativitet og originalitet på grunn av overavhengighet av verktøyet.^[2]

Forskerforbundet mener videre at det må legges til rette for mer forskning på bruk av digital teknologi generelt og KI-baserte verktøy spesielt, og utvikles UH-pedagogikk som inkluderer KI, og samtidig ivaretar helt sentrale læringsmål for studentene.

Undersøkelser tyder på at viljen til å videreutvikle undervisningen er stor blant vitenskapelig ansatte, men tid og ressurser er en mangelvare (jfr. NOKUTs underviserundersøkelser). Forskerforbundet mener de vitenskapelige ansatte må få reell mulighet til å tilegne seg kompetanse i KI-baserte læringsverktøy- og undervisningsformer, og få kunnskap om hvordan teknologien kan brukes på en måte som fremmer læring. Et forskningsprosjekt ledet av NIFU peker på at KI-kompetansen hos UH-institusjonene er mangelfull. De viser samtidig til at det er krevende å få gjennomført kompetanseheving fordi det er begrensede ressurser og de ansatte mangler tid.^[3]

Forskerforbundet mener KI-utvalget i sin utredning både må vurdere hvordan det kan legges til rette for en UH-pedagogikk som tar høyde for KI-baserte læringsverktøy samt en systematikk rundt opplæringen av de ansatte. Innen 2035 kan vi se for oss at KI er tett integrert i læringsplattformer, bibliotekstjenester og skrive- og labverktøy, og at undervisere får innsiktspaneler som varsler om mulige læringshull og atypisk KI-bruk. Det forutsetter sikker databehandling (GDPR), åpenhet om treningsdata og tydelige retningslinjer for akademisk integritet.

Klare retningslinjer og opplæring

Som nevnt ovenfor er en forutsetting for best mulig håndtering av de nye teknologiene at institusjonene er godt forberedt på hva bruken av KI-verktøy innebærer. Det er behov for klare retningslinjer og reguleringer, både nasjonalt og lokalt. Uklarheter rundt bruk av KI-verktøy kan føre til brudd på personvern, deling av sensitive data og misforståelser rundt hva som er akseptabelt og hva som regnes som juks. Både ansatte og studenter kan risikere utilsiktet misbruk og etiske brudd dersom det er uklarheter rundt hva som er riktig praksis for bruk av KI-verktøy. I en rapport fra NIFU der de har gjennomgått forskningslitteraturen på KI i arbeidslivet, fremkommer det at mangelen på retningslinjer for bruk av KI i yrkessammenheng er en utfordring blant annet med tanke på etiske problemstillinger, ansvar og informasjonssikkerhet.^[4]

Opplæring av de ansatte er helt grunnleggende. Det holder ikke å slippe KI inn på campus og håpe at alle lærer seg bruken underveis. Ansatte trenger en grunnleggende forståelse for hva KI er, hvordan systemene fungerer, og hvilke fallgruver som følger med. Det kan være knyttet til etikk, personvern og/eller opphavsrett for å nevne noen. Utvalget bør ta opp hvordan dette kan gjøres på måter som ikke velter ansvaret og kostnadene for opplæringen over på den enkelte ansatte.

Forskerforbundet oppfordrer KI-utvalget til å gjennomføre en undersøkelse for å kartlegge KI-kompetansen hos ulike grupper ansatte og deres opplæringsbehov. En kartlegging bør også omfatte ansattes erfaringer, praksiser og synspunkter på bruk av KI.

Arbeidsbelastning og undervisningsressurser

Forskerforbundet vil advare mot en forventning om at innføring av ulike KI-verktøy skal resultere i økonomiske innsparinger. Innføring av KI må ha sin motivasjon og begrunnelse i at utdanningene skal bli bedre, ikke billigere. For å kunne bruke KI på en faglig forsvarlig måte, må ansatte sette seg inn i nye verktøy, vurdere etiske og pedagogiske implikasjoner, og utvikle nye undervisnings- og vurderingsformer. Dette er tidkrevende arbeid som kommer i tillegg til eksisterende oppgaver. I lang tid framover vil KI derfor være ressurskrevende arbeidstidsmessig, og det må tas høyde for dette i planlegging og ressursfordeling. For å hindre fusk, eller sikre at studentene faktisk oppnår/ har oppnådd forventet læringsutbytte kan det framover bli behov for mer fysisk undervisning individuelt og i mindre grupper, mer bruk av muntlige eksamens- og vurderingsformer etc. Alt dette vil innebære behov for mer undervisningsressurser og flere timer til eksamensgjennomføring, ikke færre. Det er med andre ord sannsynlig at KI vil medføre økt arbeidsbelastning for de vitenskapelig ansatte.

Opphavsrettslige konsekvenser av KI

Forskerforbundet har tidligere uttalt seg om opphavsrettslige problemstillinger som følger av digitalisering i høyere utdanning og da særlig knyttet til deling av digitale læremidler. Dette dreier seg om både opphavsrett, bruksrettigheter og produsentrettigheter. Her må ansatte sikres mulighet til å gi samtykke til gjenbruk i tilfeller som går utover institusjonenes bruksrett. Med KI kompliseres opphavsretten ytterligere.

KI kan utfordre opphavsrett når læringsmateriale, studentarbeid eller forskningsdata brukes til trening av modeller uten samtykke. Eksempelvis er det behov for klare retningslinjer for bruk av studentarbeider i KI-verktøy og bruk av bøker og forskningsartikler til trening av generative språkmodeller. Rettigheter, både faglige og økonomiske, til innhold produsert av ansatte og studenter må sikres. Tilsvarende gjelder for forskningsdata, hvor hensyn til deling og merbruk må sees i sammenheng med hensynet til eierskap og kvalitetssikring. Generelt må det legges vekt på økt kunnskap og bevissthet om på hvilken måte KI faktisk utfordrer opphavsretten, og på hvem som har opphavsrett til KI-generert materiale.

Forskerforbundet forventer at utvalget drøfter og gir anbefalinger knyttet til de opphavsrettslige utfordringene ved KI i høyere utdanning.

Akademisk frihet og etiske utfordringer

Den raske teknologiske utviklingen drives i stor grad av kommersielle teknologiselskaper. Utdanningsteknologi er blitt en egen industri (edtech). Det kan stilles spørsmål om hvorvidt disse selskapene, som i stor grad motiveres av tilgangen på (big)data og økonomisk gevinst, får en uforholdsmessig stor innflytelse på bekostning av institusjonell autonomi, fri forskning og undervisning, samt akademias rolle som et kritisk samfunnskorrektiv. En kritisk tenkning omkring kunnskapssyn og akademiske verdier i møte med endringsprosesser som en følge av KI, er derfor påkrevd. Forskerforbundet mener at data produsert i undervisning og forskning må forvaltes slik at institusjonene og bidragsyterne beholder kontrollen og ikke gir ubegrensede tilganger til KI-leverandører. Eierskap og tilgangsrettigheter må reguleres nasjonalt.

Medvirkning fra de ansatte har vært, og er, en utfordring knyttet til digitaliseringen i universitets- og høyskolesektoren. Utviklingen skjer raskt, og har medført at tech-selskapene gjennom sine plattformer og infrastruktur har en svært stor inngripen i de ansattes så vel som studentenes arbeidshverdag. Økt bruk av digitale verktøy og analyseverktøy kan føre til at undervisningen blir mer ensartet og gi mindre rom for faglig skjønn og metodefrihet, noe som i sin tur utfordrer den akademiske friheten til de ansatte. Det må aldri sås tvil om de ansattes metodefrihet, også med hensyn til undervisning. Videre er det viktig at digitale fellesløsninger eller plattformer for faglig virksomhet ikke må komme i konflikt med sektorens mulighet til å forvalte sin autonomi.

Forskerforbundet forventer at KI-utvalget drøfter ulike sider ved og konsekvenser av denne utviklingen, og gir anbefalinger om videre oppfølging:

• Hvem fatter beslutninger om valg av og bruk av generative KI-verktøy?
• Hva må til for å sikre en felles KI-politikk ved institusjonene, og unngå «privatiserte» KI-praksiser, med de sikkerhetsmessige og personvernmessige utfordringene det kan medføre?

Bærekraft

I Universitets- og høyskolelovens formålsparagraf står det at institusjonene skal bidra til en miljømessig, sosialt og økonomisk bærekraftig utvikling.^[5] Forskerforbundet mener KI-utvalget må se på bruken av KI-verktøy i høyere utdanning i lys av målet om en bærekraftig utvikling. For å trene avanserte KI-modeller, kreves store mengder datakraft over lang tid. Kunstig intelligens og maskinlæringssystemer bruker mye energi og står for den største andelen av forventet økt energibruk fra digital infrastruktur. Vi vet også at KI påvirker vannforbruket, både direkte til kjøling av datasentre og indirekte til strømproduksjon. Hvordan kan man rettferdiggjøre bruken av ressurskrevende teknologi i kunnskapssektoren, samtidig som man forplikter seg til å redusere miljøavtrykket? Dette reiser noen etiske dilemmaer som utvalget må drøfte.

Medbestemmelse

Ansatte skal ha reell medvirkning i beslutninger om hvordan KI skal tas i bruk i høyere utdanning. Digitaliseringen og innføring av KI-verktøy griper inn og endrer ansattes arbeidshverdag. Ved slike inngripende omleggingsprosesser er det avgjørende viktig at de ansatte sikres representasjon og medbestemmelse gjennom sine tillitsvalgte. Forskerforbundet mener medbestemmelsen må ivaretas langt bedre enn til nå i det videre arbeidet med digitalisering og innføring av KI, både når det gjelder løsninger som går på tvers av institusjoner og ved den enkelte institusjon, og for administrative tjenester så vel som forsknings- og undervisningsvirksomheten.

Det er svært viktig at avgjørende beslutninger om bruk av KI-verktøy i undervisningen tas i organer der medbestemmelse for de ansatte er sikret, og ikke delegeres til administrative it-enheter og lignende. Også når det gjelder de mer fagspesifikke beslutningene om hvilke KI-verktøy som skal brukes i undervisningen på enkelte fag, må disse i størst mulig grad tas i kollegiale organer og der det finnes ansattrepresentanter. På den måten etableres arenaer for erfaringsdeling og diskusjon, og det sikres at de ansatte blir reelt delaktige i de svært viktige beslutningene som blir tatt på dette feltet.

Med vennlig hilsen
Forskerforbundet

Steinar A. Sæther
Leder

Birgitte Olafsen
Generalsekretær

Saksbehandler: Åshild Olaussen
+47 924 65 843 | ashild.olaussen@forskerforbundet.no

---