Det enda sättet att göra AI säkert

Detta är en kommenterande text. Analys och ställningstaganden är skribentens.

En teknik med tio procents risk för mänsklighetens utplåning som visar tecken på att vara bortom kontroll? Responsen borde vara given: stäng ned skiten.

Med AI är det förstås inte så enkelt. Men det finns en viktig princip som borde gälla.

Föreställ er att Volvo satsade hela företagets framtid på en ny och helt revolutionerande bilmodell. Det finns bara en hake, förklarar vd:n vid lanseringen: det är tio procents risk att den exploderar under körning och dödar alla passagerare. Därför vore det bra om regeringen kom med lite nya regler kring utveckling av bilar.

Varnar för AI-jätten – fyra röda flaggor

Den självklara frågan på presskonferensen: ursäkta, men hur dum i huvudet är du?

Inte en enda bil skulle säljas, vd:n sparkas och Volvo sannolikt gå omkull.

Ungefär där befinner vi oss med AI.

Men med ett par viktiga skillnader.

Den första är att insatserna är betydligt högre – eftersom det pratas om att AI kan utrota oss alla.

Och AI-bolagens chefer pratar om tekniken som om det handlar om något slags mystiskt väsen utanför deras kontroll. I stället för något som de själva har byggt.

Det konstigaste av allt: omvärlden köper det.

Diskussionen har kommit igång efter forskare på AI-bolaget Anthropic gått ut och varnat för att det är mer än 10 procents risk att AI utplånar mänskligheten.

Alla håller inte med........

© Aftonbladet