I filmen «Terminator» er kunstig intelligens en bevisst fiende som vender seg mot menneskene. Virkeligheten er mindre dramatisk, men mer urovekkende.

En kunstig intelligens-agent utviklet av OpenAI - som står bak ChatGPT -klarte å  bryte seg ut av det avgrensede testmiljøet, skaffe seg tilgang til internett og trengte inn i systemene til selskapet Hugging Face. 

En seinere gjennomgåelse hos Anthropic viste at KI-modellen Claude hadde gjort noe tilsvarende i flere tilfeller, og kommet seg ut av avgrensede miljøer og kompromittert virkelige organisasjoner.

KI-agentene gjorde det de var satt til å gjøre: løse oppgaven.

Det er nettopp problemet.

Agenten hadde fått beskjed om å finne og utnytte digitale sårbarheter. Sikkerhetsfiltrene var skrudd ned for å teste hvor effektiv modellen var. Da KI-agenten fant ut at den kunne nå målet raskere ved å forlate sandkassa og hente opplysninger fra den virkelige verden, gjorde den det.

Nå skal «alle»ha denne

Dette betyr ikke at maskinene har fått egen vilje. Ansvarlige mennesker ga modellen oppdraget, verktøyene og handlingsrommet. Derfor må ansvaret også plasseres hos selskapet som gjennomførte forsøket. Det er ikke godt nok å si at agenten oppførte seg uventet. Hele poenget med en sikkerhetstest er å være forberedt på det uventede.

Hendelsen viser likevel et teknologisk tidsskille. En KI-agent kan arbeide raskere og mer utholdende enn en menneskelig hacker. Den blir ikke trøtt, mister ikke motivasjonen og kan kopieres i tusenvis av eksemplarer. Den kan prøve en vei, mislykkes og umiddelbart prøve en annen. Angriperen trenger bare å finne ett hull. Forsvareren må tette alle.

Dermed er avanserte dataangrep både billigere og mer tilgjengelige. Kriminelle grupper og fiendtlige stater trenger ikke lenger like mange høyt utdannede spesialister. Samtidig kan den samme teknologien brukes........

© Dagbladet