Jacob Coxon è un giovane ingegnere che ha lavorato prima per OpenAI, poi per Anthropic. È uno di quelli che l’Intelligenza Artificiale l’hanno costruita. Per questo la sua profezia apocalittica inquieta: «Le persone che costruiscono l’IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio». Evan Hubinger, responsabile della sicurezza di Anthropic, ha quantificato il rischio: oltre il 10 per cento nel prossimo decennio. Geoffrey Hinton, uno dei padri dell’IA moderna, ha giudicato quella percentuale non irragionevole.

Non si tratta di voci isolate. Sam Altman, amministratore delegato di OpenAI, si è detto disponibile a ridurre il ritmo dello sviluppo dei modelli più avanzati. Dario Amodei, ceo di Anthropic, ha scritto che bisogna «rallentare il ritmo con cui miglioriamo le capacità dei modelli» per lasciare alla sicurezza il tempo di recuperare. Elon Musk ha riconosciuto: «Dario ha ragione». Demis Hassabis, di Google DeepMind, propone una governance internazionale modellata sull’Agenzia per l’energia atomica. Prima che la situazione sfugga di mano.

I rischi sono due, e vanno distinti. Il primo è antico quanto........

© La Provincia di Como