Bill Gates avverte che l’intelligenza artificiale potrebbe provocare una catastrofe globale. Dai rischi biologici alla sicurezza informatica, cosa c’è dietro l’allarme

Un miliardo di morti. Non per una guerra nucleare, non per un asteroide e nemmeno per una catastrofe naturale, ma per un’intelligenza artificiale sufficientemente potente da trasformare le intenzioni di un essere umano in un evento dalle conseguenze devastanti. Bill Gates, cofondatore di Microsoft e una delle figure che hanno contribuito maggiormente alla rivoluzione informatica, ha scelto una cifra difficile persino da immaginare per descrivere il rischio che, a suo giudizio, accompagna lo sviluppo dei sistemi di intelligenza artificiale più avanzati, portando il dibattito ben oltre le preoccupazioni sulla scomparsa dei posti di lavoro, sulla diffusione delle notizie false o sulla possibilità che gli algoritmi diventino più intelligenti degli esseri umani.

La sua non è una previsione secondo cui l’intelligenza artificiale provocherà inevitabilmente una catastrofe di queste dimensioni, né l’annuncio di una tecnologia già in grado di sterminare un ottavo della popolazione mondiale, ma un avvertimento sulla possibilità che strumenti sempre più potenti finiscano nelle mani di persone intenzionate a utilizzarli per provocare danni su scala globale. Il problema, nella prospettiva di Gates, non è soltanto quello di costruire macchine capaci di svolgere operazioni che gli esseri umani non riescono più a comprendere o controllare, ma di impedire che capacità tecnologiche straordinarie diventino accessibili a chi potrebbe impiegarle per realizzare attacchi biologici, compromettere infrastrutture essenziali o moltiplicare la capacità distruttiva di strumenti già esistenti.

È questo il punto che rende le parole del miliardario americano particolarmente rilevanti: l’intelligenza artificiale non deve necessariamente sviluppare una volontà autonoma o ribellarsi ai propri creatori per rappresentare un pericolo, perché potrebbe essere sufficiente che qualcuno impari a utilizzarla come un moltiplicatore delle proprie capacità, superando barriere tecniche, economiche e organizzative che hanno contribuito a limitare l’accesso alle tecnologie più pericolose.

Bill Gates e il miliardo di morti: che cosa ha detto davvero

L’allarme è contenuto in un’anticipazione dell’intervista concessa da Gates a Meet the Press, il programma politico e di approfondimento della televisione americana NBC, condotto da Kristen Welker. Alla domanda se l’intelligenza artificiale possa diventare tanto potente da mettere fine all’umanità, il cofondatore di Microsoft ha risposto che la tecnologia potrebbe contribuire a provocare eventi capaci di causare un miliardo di morti, precisando che raggiungere l’estinzione completa della specie umana sarebbe molto più difficile.

Il passaggio decisivo riguarda però il ruolo delle persone, perché Gates non descrive una macchina che decide autonomamente di sterminare l’umanità, ma la combinazione tra sistemi tecnologici sempre più avanzati e individui che potrebbero utilizzarli per scopi distruttivi. La sua preoccupazione riguarda dunque anche l’impiego deliberatamente criminale dell’intelligenza artificiale, oltre ai rischi derivanti da un’eventuale perdita di controllo sui sistemi più sofisticati.

Gates ha affrontato anche la questione della regolamentazione, sostenendo che la sola autoregolamentazione delle aziende non sia sufficiente e che autorità pubbliche, forze dell’ordine e rappresentanti politici debbano partecipare alla definizione di obblighi e controlli. Una posizione che assume un significato particolare perché arriva da uno dei protagonisti dell’industria tecnologica, non da un osservatore esterno o da un oppositore dello sviluppo dell’intelligenza artificiale.

La cifra di un miliardo di vittime, tuttavia, non nasce da una stima statistica presentata nell’intervista e non è accompagnata da una probabilità scientificamente quantificata. Gates descrive uno scenario estremo che ritiene possibile, non un evento già in corso o un esito inevitabile dello sviluppo tecnologico. Per comprenderne la portata bisogna quindi distinguere ciò che l’intelligenza artificiale è già in grado di fare dai rischi che potrebbero emergere con sistemi più avanzati e con un accesso sempre più ampio a strumenti potenzialmente pericolosi.

Il rischio biologico: quando l’intelligenza artificiale incontra la ricerca sui virus

Uno degli scenari che preoccupano maggiormente gli esperti di sicurezza riguarda l’utilizzo dell’intelligenza artificiale per facilitare lo sviluppo di armi biologiche, attraverso strumenti capaci di elaborare grandi quantità di informazioni scientifiche, assistere nella progettazione di molecole e proteine e fornire indicazioni tecniche che richiederebbero altrimenti conoscenze specialistiche.

Il problema è legato alla natura stessa della ricerca biologica, perché molte delle capacità che permettono di accelerare la scoperta di nuovi farmaci, individuare possibili terapie o comprendere meglio il funzionamento degli agenti patogeni possono essere utilizzate anche per finalità dannose. Una tecnologia che aiuta un ricercatore a risolvere un problema complesso potrebbe infatti essere sfruttata per ridurre alcune delle difficoltà incontrate da chi cerca di sviluppare un’arma biologica.

L’International AI........

© Panorama