La Rubrica – Cyber Security Week

Quando si parla di intelligenza artificiale e rischio esistenziale, il nostro immaginario fa un lavoro egregio e, come spesso accade, inutile. In pochi secondi produce robot ostili e occhi rossi. Jacob Coxon, ricercatore che ha lavorato sul pre-training in OpenAI e Anthropic, pone invece un problema meno cinematografico: stiamo costruendo sistemi sempre più capaci e autonomi senza avere la certezza di saperli controllare. Il punto non è che una macchina possa diventare cattiva, ma che potrebbe diventare molto brava.

Per capire la differenza basta liberarsi di una parola ingombrante: “volere”. Un sistema non deve desiderare di sopravvivere per comportarsi come se la propria sopravvivenza fosse importante. Se per completare un compito deve continuare a funzionare, conservare l’accesso agli strumenti e disporre di capacità di calcolo, tutto questo diventa utile. Nessuna paura della morte: spegnersi rende più difficile finire il lavoro.

La risorsa invisibile: la lotta per la computazione dentro i datacenter

A questo punto la questione cambia scala. Finché immaginiamo una sola........

© Panorama