Il 12 settembre Dario Amodei, amministratore delegato di Anthropic, ha pubblicato un lungo saggio intitolato We Must Pace the Frontier: occorre dare un ritmo alla frontiera. Vi chiede all'industria di cui fa parte di rallentare la corsa verso modelli sempre più potenti, perché da quest'estate i sistemi avanzano più in fretta della nostra capacità di comprenderli. Poche ore dopo Sam Altman, il suo concorrente più diretto, si è detto d'accordo. Due settimane più tardi Bill Gates ha affermato che l'intelligenza artificiale è già abbastanza potente da innescare eventi con un miliardo di vittime, trattandosi a suo dire dello strumento più pericoloso mai inventato. La Casa Bianca sembra non preoccuparsi di queste affermazioni, e decide di andare avanti.

Quello che inquieta, sul piano pedagogico e sociale, è la scena per intero. A invocare prudenza sono gli stessi che hanno costruito lo strumento, mentre a liquidarla è chi avrebbe il compito di governarlo. Le parti sembrano invertite e vale la pena capire perché, e quali sarebbero le conseguenze reali.

Amodei ricorda a ogni occasione che un'intelligenza artificiale sviluppata nei contesti di cura potrebbe aiutare a sconfiggere malattie che resistono da secoli. Gates la descrive come un possibile grande strumento di uguaglianza: diagnosi nelle lingue che la medicina occidentale ignora, sostegno ai piccoli agricoltori africani. A scuola se ne vedono già i primi frutti in ragazzi con un disturbo dell'apprendimento. 

Affinché questi benefici si realizzino, però, qualcuno deve assumersene la responsabilità, e non può farlo un algoritmo, né il mercato lasciato a sé stesso. Amodei chiede un anno o due in più per capire e mettere in sicurezza ciò che è stato costruito.

Quasi cinquant'anni fa Hans Jonas, nel Principio di responsabilità, avvertiva che un agire umano diventato tecnologicamente immenso richiede un'etica........

© HuffPost