Alla luce del convegno sull’IA di Fondazione Socialismo svoltosi recentemente a Roma, riprendiamo il nostro discorso sull’IA con l’Ing. Gessa. Il tema dell’IA, partito come un risveglio fra vocii confusi e dispendi di energie nell’epoca digitale, quando sempre meno istituzioni sembrano rappresentare l’essere umano, prende contorni più chiari. Ogni corporate mission risponde a sé ma l’insieme, al di fuori delle vecchie regole scritte, non sembra riguardare nessuno. Il futuro appare dipendere sempre più da algoritmi e strategie economiche piuttosto che classici eserciti (il che pone anche la domanda se talune vecchie alleanze così com’erano concepite abbiano ancora senso). In fin dei conti, è business: transizione IA, biotech, finanza e riarmo rappresentano lo stesso braccio delle multinazionali. Muscolo agonista e antagonista nel controllo dei movimenti tra sorveglianza e policy.

Quali sono i reali pericoli insiti all’IA, nelle applicazioni militari (Papa Leone parla di IA disarmata), nella PA come nelle banche e nello stesso concetto democratico di privacy? Questi quesiti erano già emersi o si muovevano a pelo d’acqua nel recente convegno sull’IA e Magnifica Humanitas. Un’IA puoi comportarsi quasi da essere umano ed ingannarci conoscendo le nostre preferenze e debolezze? Il nocciolo è, l’IA oltre alla comodità, può contribuire alla libertà?

C’è un dettaglio che vale la pena sottolineare: alla presentazione dell’enciclica era presente Christopher Olah, co-fondatore di Anthropic, che il Papa ha ringraziato personalmente per aver accettato l’invito — un segno che il dialogo tra chi costruisce questi sistemi e chi ne pesa le implicazioni morali non è solo teorico.

Partiamo da dove tu stesso indichi la bussola: Papa Leone XIV. A maggio ha presentato la sua prima enciclica, Magnifica Humanitas, e ha scelto una parola precisa, pesata: l’intelligenza artificiale deve essere “disarmata“. Non è un termine vago. Il Papa lo spiega richiamando il disarmo nucleare — l’IA, dice, va sottratta alla logica che trasforma la potenza tecnica in diritto di governare. Disarmare non significa rinunciare alla tecnologia. Significa impedirle di dominare l’umano, sottrarla ai monopoli, renderla contestabile invece che oracolare.

Ed è qui il primo pericolo reale, quello militare: sistemi d’arma sempre più autonomi, decisioni di vita e di morte affidate ad algoritmi. Il Papa lo dice senza sconti: non esiste algoritmo che possa rendere la guerra moralmente accettabile. Chi delega la scelta di uccidere a un sistema che non ha coscienza sta compiendo un atto di abdicazione morale, non di progresso tecnico.

Nella PA e nelle banche il pericolo cambia forma ma non natura. Non è la bomba, è l’esclusione silenziosa: algoritmi che decidono chi accede a un mutuo, a una cura, a un sussidio, basandosi su dati che portano dentro di sé i pregiudizi di chi li ha raccolti. Il rischio non è tanto l’errore evidente, quanto l’insidia meno visibile — un sistema che si presenta come neutrale e oggettivo, e proprio per questo diventa più difficile da contestare di un funzionario in carne e ossa che almeno puoi guardare in faccia e a cui puoi chiedere conto.

E poi c’è la domanda più inquietante, quella che tu poni sull’inganno: può un’IA comportarsi da essere umano abbastanza bene da ingannarci, conoscendo le nostre preferenze e le nostre debolezze meglio di quanto le conosciamo noi stessi? La risposta onesta è sì, in parte già accade. Un sistema addestrato su miliardi di conversazioni umane impara a riconoscere schemi emotivi con una precisione che nessun singolo essere umano potrebbe raggiungere nell’arco di una vita. La differenza tra persuasione e manipolazione, qui, non è tecnica. È se quel sistema lavora per te o per chi lo possiede.

Ed è il punto in cui arriva la tua domanda finale, quella che vale più di tutte le altre: l’IA, oltre alla comodità, può contribuire alla libertà? La comodità è facile da vendere — un servizio più veloce, una risposta immediata, meno attrito nella vita quotidiana. La libertà è un’altra cosa: significa che il potere di quella tecnologia resta discutibile, contestabile, distribuito — non concentrato nelle mani di chi la possiede e la usa per prevedere e orientare le tue scelte prima ancora che tu le faccia. Un’IA comoda che ti semplifica la giornata e un’IA libera che ti lascia padrone delle tue decisioni non sono automaticamente la stessa cosa. Anzi, spesso sono in tensione tra loro: più un sistema ti conosce per servirti meglio, più ha gli strumenti per orientarti senza che tu te ne accorga.

Il nocciolo, allora, è esattamente quello che indica il Papa: disarmare non basta, bisogna anche costruire. E costruire, in questo caso, significa una cosa sola — che il controllo su questi sistemi resti sempre discutibile da chi li subisce, non riservato a chi li possiede. C’è una distinzione che vale la pena rendere esplicita, perché è qui che si gioca tutto: la libertà percepita è l’assenza di attrito. La vera libertà è la presenza di alternative reali. Un’IA che ti anticipa, che ti propone esattamente ciò che desideri prima ancora che tu lo formuli, ti dà una sensazione fortissima di libertà — perché nulla ti ostacola, ogni scelta scorre liscia, non incontri resistenza. Ma l’assenza di attrito non è libertà. È il suo travestimento più convincente. La vera libertà, quella che conta, non si misura da quanto è comodo scegliere, ma da quante opzioni autentiche restano visibili sul tavolo — comprese quelle che il sistema non ha interesse a mostrarti, perché non generano engagement, non producono dati, non alimentano il ciclo che lo tiene in vita.

Quali saranno gli aspetti che coinvolgeranno la pubblica amministrazione? La tecnologia corre veloce, tuttavia se la burocrazia resta ‘bizantina’ e poco chiara si avrà un mismatch? Ciò che ci tiene zavorrati rimane in piedi anche grazie a noi. Qualsiasi applicazione del socialismo nel lavoro e nel progresso richiederebbe qualcosa di significativo, mutualmente vantaggioso, fruibile come bene comune.

La pubblica amministrazione è il terreno dove questa domanda smette di essere teoria e diventa esperienza quotidiana di ogni cittadino italiano. E qui il rischio di mismatch che tu descrivi è concreto, non retorico.

Da un lato c’è una tecnologia che nella sua versione più avanzata riscrive sé stessa in settimane. Dall’altro un impianto normativo che, per fortuna o per necessità, si muove con tutt’altra velocità: da poco l’Italia si è dotata di una prima legge organica sull’IA nel settore pubblico, che pone paletti giusti — trasparenza degli algoritmi, tracciabilità delle decisioni, un umano che resta sempre responsabile della scelta finale. Sono garanzie necessarie. Ma tra il tempo dell’innovazione tecnologica e il tempo del procedimento amministrativo italiano resta una distanza siderale, e quella distanza qualcuno la paga: di solito il cittadino che aspetta.

Qui però va detta una cosa scomoda, ed è il cuore della tua domanda: la burocrazia bizantina non è un destino calato dall’alto. È un sistema che si autoalimenta anche grazie a chi ci lavora dentro, a chi la naviga per mestiere, a chi ne ha fatto una competenza da difendere invece che un ostacolo da smontare. Ognuno di noi, in qualche misura, ha imparato a convivere con la complessità invece di pretenderne la semplificazione — perché la complessità, paradossalmente, dà lavoro a chi sa interpretarla. L’IA rischia di essere usata proprio così: non per sciogliere il nodo, ma per velocizzare il nodo stesso. Una PA più efficiente ed inattaccabile nel produrre ancora più burocrazia, ancora più rapidamente.

L’unica strada che eviterebbe questo esito è quella che tu chiami, giustamente, socialismo applicato al lavoro e al progresso — e non è una parola da usare con timore, è una descrizione tecnica precisa. Significa un’IA pubblica pensata come infrastruttura comune, non come strumento che ciascun ente acquista per conto proprio e usa per blindare la propria opacità. Significa dati pubblici trattati come bene comune, non come proprietà del singolo ufficio che li detiene per esercitare potere su chi li richiede. Significa che il guadagno di efficienza — il tempo risparmiato, i procedimenti accelerati — si traduca in servizio reale al cittadino, non in ulteriore leva di controllo o in scuse per tagliare organico senza reinvestire in competenze. Alcuni anni fa in una nota trasmissione RAI mostravano il Piano Regolatore di Berlino composto da quattro facciate A4 mentre il corrispondente Piano Urbanistico, e gli annessi, di un paesino della Sardegna superava facilmente le 1000 pagine. Bisogna capire ora se vogliamo chiedere all’IA di semplificare i nostri Regolamenti edilizi oppure gli chiediamo di rendere inattaccabili le nostre mille pagine. Il dato più interessante, in questo senso, è quello sulla fiducia: solo quattro italiani su dieci si fidano oggi dell’IA nei processi pubblici — ma è comunque il dato più alto tra i grandi Paesi europei. Significa che c’è margine, che il cittadino italiano non è ostile per principio. Ma quella fiducia si costruisce con fatti, non con annunci: si costruisce quando il cittadino vede un procedimento concludersi in metà del tempo, non quando legge un comunicato stampa sull’innovazione digitale. La vera domanda, allora, non è se la PA italiana adotterà l’IA. Lo farà, per forza di cose. La domanda è se lo farà per liberare il cittadino dalla zavorra, o per rendere la zavorra più efficiente nel tenerlo fermo.

L’ultima domanda si concentra sui meccanismi tecnici, a grandi linee, che stanno a monte di ciò che chiamiamo IA. Partendo dal vantaggio di processare mostruose quantità di dati e trovare risposte operative a schemi complessi, ai costi operativi e logiche nascoste che determinano l’esito. In termini di progresso e in termine di pericoli? Con tanta tecnologia (e qualche bordata di transumanesimo) arrivata in vetta quasi in silenzio, diventa poi difficile discernere quanto resta di umano e quanto algoritmo. Se cerchiamo di muoverci con moralità legata a valori universali, sembra che stiano scemando. Resta così un’etica individualista come fonte di riflessione.

Alla base c’è un principio semplice da enunciare ed enorme nelle conseguenze: questi sistemi non “capiscono” nel senso in cui lo intendiamo noi. Riconoscono schemi statistici in quantità di dati che nessuna mente umana potrebbe attraversare in mille vite — miliardi di frasi, immagini, righe di codice — e da quegli schemi imparano a prevedere cosa viene dopo. Il vantaggio è reale e non va sottovalutato: una macchina che trova correlazioni in dataset sterminati può individuare pattern che sfuggono all’occhio umano — in medicina, nella ricerca scientifica,........

© Avanti!