Dette er et debattinnlegg. Innlegget gir uttrykk for skribentens holdninger.

Jeg har arbeidet med kunstig intelligens som analyseverktøy. Erfaringen er fascinerende, nyttig – og urovekkende.

Problemet oppstår ikke først når KI gir et åpenbart galt svar. Slike feil er enkle å oppdage dersom brukeren kjenner fagområdet. Det alvorlige oppstår når systemet tar feil på en måte som høres riktig ut.

Jeg har sett mekanismen mange ganger. KI fremsetter en påstand. Jeg påviser at påstanden er feil, eller at den bygger på betingelser som ikke holder. Systemet erkjenner innvendingen og skriver svaret på nytt. Men ser man nøye etter, er ikke alltid feilen rettet. Den er flyttet. Et uriktig premiss er blitt omformulert, skjult i en ny sammenheng eller erstattet av ord som får den samme feilen til å fremstå som riktig. Språket er forbedret, mens resonnementets grunnproblem består.

Systemet kan deretter forklare hvorfor det tok feil. Men forklaringen kan være enda en språklig konstruksjon, laget fordi brukeren krevde den. Språket er fremdeles elegant. Autoriteten i formuleringene består. Men grunnlaget har flyttet seg.

En kalkulator kan kontrolleres mot regnestykket og et måleinstrument mot en kjent referanse. Språkmodellen leverer derimot fakta, analyse, fortolkning og syntese i samme språklige drakt. Den viser ikke hvilke setninger som bygger på dokumenterte kilder, hvilke som er slutninger, og hvilke som bare binder resten sammen. Det finnes ikke noe instrumentpanel som forteller meg hvor jeg befinner meg.

På områder jeg selv kjenner godt, kan jeg kontrollere KI. Jeg har min egen kunnskap, mine egne kilder og min egen erfaring som målestokk. Jeg oppdager når systemet beveger seg fra dokumentasjon til antakelse.

Men det er jo nettopp på områder jeg ikke behersker at jeg trenger verktøyet mest.

Der forsvinner målestokken.

Og kompetansegapet behøver ikke være stort. Jeg kan forstå nesten hele resonnementet, men mangle kunnskapen akkurat der KI har flyttet feilen. Jo mer komplisert problemet er, desto vanskeligere blir det å oppdage at rettelsen bare har gitt feilen en bedre språkdrakt.

Da må jeg enten kontrollere svaret gjennom andre kilder – eller stole på et system som ikke viser meg forskjellen mellom dokumentert informasjon, sannsynlige slutninger og språklig syntese.

Dette blir særlig interessant når to debattanter bruker hver sin språkmodell mot hverandre. Begge får i oppdrag å forsvare brukerens standpunkt og finne svakheter hos motparten. Når en feil avsløres, skriver modellen den om og sender den tilbake i en mer motstandsdyktig språkdrakt. Debatten blir også en strid mellom to KI-systemer som skjerper og beskytter hvert sitt utgangspunkt.

Hvor ender en slik debatt? Ikke sikkert nærmere sannheten. Den kan ende der den mest utholdende språkmodellen har produsert den mest overbevisende versjonen av den opprinnelige feilen.

Fenomenet strekker seg langt utover språkmodellen som teknisk verktøy. Tidligere satte manglende kunnskap en naturlig grense for hvor langt en skribent kunne........

© Avisa Nordland