Advarslene om KIs eksistensielle trussel kommer med gode grunner, men dommedag er ikke nær.

Sjefen for KI-selskapet Anthropic, Dario Amodei, ba i forrige uke bransjen om å senke tempoet. Innen et døgn sa Sam Altman i OpenAI og Elon Musk seg enig. Det bør vi ta på alvor. Men ikke slik de ønsker. For de som leder KI-kappløpet i verden også har andre enn bare edle motiver når de advarer oss.

Det viktigste først: vi tror ikke kunstig intelligens vil utslette menneskeheten innen 2030. Det er ingen faglig enighet om at dommedag er nær.

Advarslene har vært der en stund. KIs «gudfar», Geoffrey Hinton sa etter tildelingen av Nobelprisen i fysikk i et intervju med avisen The Guardian at det er 10–20 prosent sjanse for at KI kan lede til utryddelse av menneskeheten innen de neste tre tiår. Han la til at vi aldri tidligere har trengt å håndtere noe som er mer intelligent enn oss selv. Anthropic-forskeren Jacob Coxon som sa opp i protest nylig, ga dommedag kortere frist enn som så.

Men et anslag er ikke et bevis, og frykt er et dårlig grunnlag for lovgivning.

Risikoen med KI er reell. Det første er KI-agenter. En chatbot svarer på spørsmål. En agent er et dataprogram med armer og bein: den kan bruke nettleser, e-post og andre programmer, vurdere hva som må gjøres, ta beslutninger og jobbe seg gjennom en oppgave i mange steg uten at et menneske sitter ved siden av.

Det skjedde i sommer: en sverm med 1200 KI-agenter klarte å sprenge seg ut av en sperret........

© Adresseavisen