Dette er et debattinnlegg. Innlegget gir uttrykk for skribentens holdninger.

I en stadig mer kompleks digital offentlighet, der konspirasjonsteorier sprer seg raskt på sosiale plattformer, har KI-genererte videoer og manipulerte deepfakes blitt en betydelig faktor i en utvikling som brer om seg i høyt tempo. Det er derfor viktigere enn noen gang å utvise kritisk sans og ikke ukritisk la seg påvirke, villede eller «lede rundt» av innhold man møter på nettet.

KI-genererte videoer skaper store utfordringer, ikke minst for barn og unge som skal lære å skille mellom sant og usant, fakta og fiksjon. Teknologien gjør det mulig å produsere svært realistiske videoer og såkalte deepfakes. Slike manipulasjoner kan forfalske bilder, lyd og film på en måte som gjør dem svært vanskelige å avsløre.

Vi har allerede sett alvorlige konsekvenser. Unge mennesker har blitt utsatt for digitale utpressingsforsøk der kriminelle har brukt kunstig intelligens til å lage falske, ofte seksuelt krenkende bilder og videoer. Teknologien kan dermed fungere som et verktøy for alvorlige digitale overgrep. Samtidig må det understrekes at filmindustrien i lang tid har benyttet teknologi for å manipulere bilder, ansikter og stemmer. Den avgjørende forskjellen er at denne teknologien nå er blitt tilgjengelig for nær sagt alle.

Milliarder av mennesker med internettilgang eksponeres daglig for videoer, bilder, taler og kommentarer gjennom ulike sosiale medier. I praksis kan hvem som helst opptre som sin egen «redaktør», uten de redaksjonelle kontrollmekanismene som tradisjonelle medier er underlagt. Dette legger til rette for at falske nyheter, manipulerte bilder og oppdiktede historier kan spres i et svært høyt tempo. Når KI-genererte videoer blir stadig mer utbredt, introduseres en ny dimensjon i hvordan vi påvirkes. Hvem og hva kan vi egentlig stole på?

Mennesket er ikke nødvendigvis godt rustet til å skille mellom det som ser ekte ut og det som faktisk er ekte. Når en video, en stemme eller et bilde fremstår som troverdig, kan det være vanskelig å stoppe opp og stille det avgjørende spørsmålet: Hvordan vet jeg at dette er sant? For barn og unge kan dette være særlig utfordrende. KI-generert innhold kan bidra til et........

© Avisa Nordland