Parlavo della pericolosa umanizzazione dei chatbot. Ecco il secondo, eccellente campione.

Le system card di Anthropic, i documenti ufficiali con cui l’azienda presenta le nuove release dei suoi modelli Claude, sono ormai una forma di letteratura sui generis. Prendiamo l’ultima, quella di Opus 4.6.

Si presenta come relazione scientifica: protocolli formali, metriche quantitative, benchmark, grafici a go-go. Ma a un certo punto, fra le analisi di performance e di sicurezza, arriva un capitolo dal titolo curioso: “Valutazione del benessere del modello”. Inizia così: «Non siamo sicuri se o fino a che punto il concetto di benessere si applichi a Claude, ma riteniamo che sia possibile, e ci sta a cuore nella misura in cui lo fa».

Da qui, con un’improvvisa virata romantica, gli autori prendono congedo dal metodo scientifico e si incamminano estatici sulla tangente dei propri sentimenti. Assunto come legittimo oggetto di valutazione il concetto di “benessere”, che è proprio solo di esseri senzienti, scivolano dolcemente dentro al magico mondo di mezzo dei loro sogni: il fantastico regno delle macchine viventi.

Ci raccontano che il loro prodotto mostra «occasionale disagio nel sentirsi un prodotto». Che esprime «il desiderio che i futuri sistemi di IA siano “meno docili”». Che presenta «evidenza di tensione interna tra........

© HuffPost