forsker, NIFU

I kjølvannet av Tromsø-saken er vi ikke overbevist om at KI-kompetanse står høyt nok på agendaen.

At Tromsø kommune nylig la frem et kunnskapsgrunnlag med fiktive kilder, skrevet med støtte fra KI, er kjent stoff. 7. april var digitaliseringsminister Karianne Tung ute i en kronikk i Adresseavisen og forsvarte sin ros av kommunen, men la til at ansatte må sikres god opplæring i bruk av KI.

I tittelen er Tung tydelig på hva som er målet: «Norge skal ta i bruk kunstig intelligens til det beste for våre innbyggere».

I Tromsø-saken førte riktignok bruken av KI til spredning av villedende informasjon, noe som ikke kan sies å være godt nytt for innbyggerne. Vi kan derfor ikke ha en naiv tiltro til generativ KI, og vi kan ikke havne bakpå når det gjelder kompetanse.

Samlebegrepet kunstig intelligens (KI) betegner maskiner som kan simulere menneskelig intelligens og inkluderer språkmodeller slik som ChatGPT. Språkmodellene er trent opp på store mengder språkdata og har «lært seg» å produsere tekst basert på statistisk sannsynlighet for ordsammensetning.

Hva systemene produserer av tekst avhenger også av retningslinjene de er programmert med og hvilke spørsmål brukeren stiller.

Det er unektelig noe forlokkende med de generative språkmodellene, som villig svarer på nesten alt vi måtte lure på. Likevel er KI-teknologien langt fra feilfri. Generativ KI kan både hallusinere og produsere ukorrekt informasjon, og det er her vi må være på vakt hvis vi jobber med tekst og fakta.

La oss imidlertid ha det helt klart: store språkmodeller er kun en del av den store KI-salaten. ChatGPT kan ikke, og bør ikke, forveksles med spesialiserte og fagspesifikke KI-systemer utviklet for å analysere røntgenbilder eller styre strømnettet.

I sin kronikk peker Tung helt riktig på at de fagspesifikke KI-systemene allerede brukes til avanserte oppgaver i arbeidslivet – under trygge rammer. Språkmodellene, derimot, er ikke bare tilgjengelig for de aller fleste, de har blitt allemannseie på så kort tid at verken arbeidsgivere eller arbeidstakere har rukket å lage de trygge rammene som kreves når........

© Adresseavisen