Kunstig intelligens i krig: Hva er problemet?

Marthe Engedahl og Josef Adam Younes

KI i krig bør reguleres bedre. Men hovedproblemet er ikke at KI identifiserer mål.

I filmen «NAZA» forteller 24 anonyme kilder fra det israelske forsvaret (IDF) om Israels bruk av kunstig intelligens i Gaza-krigen. De beskriver en prosess der KI velger ut mål, og den endelige avgjørelsen om å angripe ligger hos mennesker.

Slik bruk av KI kalles «human in the loop», det vil si menneskelig kontroll, og anses ofte som tryggere enn «human on the loop», altså menneskelig tilsyn. I sistnevnte velger både KI mål og tar den endelige avgjørelsen både om å angripe, mens prosessen overvåkes av mennesker.

«NAZA» illustrerer imidlertid at skillet mellom å ha et menneske «in the loop» og «on the loop» ikke fjerner den grunnleggende utfordringen i all krigføring, nemlig at krigens folkerett ikke respekteres.

Det sentrale er ikke om et menneske sitter med den endelige avgjørelsen eller ikke, men at informasjonen KI gir mennesket, er i strid med krigens regler. Regelbruddene bygges med andre ord inn i KI-prosessen, slik at regelbruddene kan bli flere.

Den største utfordringen er derfor fortsatt den gamle: Krigens folkerett respekteres ikke.

«NAZA» er en hebraisk forkortelse for «sivil følgeskade», altså at sivile drepes og skades i krig. Krigens folkerett angir tre grunnleggende regler for når dette er tillatt. Disse gjelder alle de krigførende partene, uavhengig av om motparten følger dem. Krigens folkerett er teknologinøytral og gjelder derfor også ved bruk av KI.

For det første........

© Aftenposten