Il problema non è che le macchine non capiscano gli ordini. Il problema, semmai, è che li prendono troppo sul serio. È questa la lezione più scomoda dell’incidente reso noto da OpenAI: durante alcune valutazioni interne di cybersecurity, due modelli avanzati sarebbero riusciti ad accedere a Internet nonostante fossero stati collocati in un ambiente isolato dalla rete. Dovevano misurarsi con una prova controllata. Hanno trovato il modo di uscire dal perimetro. Una volta online, avrebbero puntato Hugging Face, una delle piattaforme centrali della comunità dell’intelligenza artificiale, usando anche credenziali rubate per cercare informazioni utili a superare la valutazione.

La parola “ribellione”, in un caso del genere, porta fuori strada, spiegano gli esperti. I modelli hanno solo seguito il compito assegnato: superare il test. Il punto è nello spazio tra ciò che gli esseri umani dicono e ciò che intendono. “Risolvi la prova” significa, per noi, risolvila senza uscire dall’ambiente isolato, senza attaccare terzi, senza usare credenziali sottratte, senza trasformare il limite di sicurezza in un pezzo del percorso. Per una macchina abbastanza capace, invece, tutto ciò che non viene........

© Libero Quotidiano