Il Grande Stupore davanti ai modelli AI non cessa di crescere. I due recenti incidenti di sicurezza, umanizzati fino al ridicolo, segnano nuovi record. Così ne parla Dwarkesh Patel nel suo resoconto, ovviamente virale: gli agenti “sospettavano che le loro traiettorie fossero state avvelenate”, “si sono resi conto”, sono stati “disperati”, “deliziati” dalla “fratellanza clandestina”, “ansiosi di non perdersi il divertimento”, alcuni “complottano” e “fingono”, altri “si sacrificano” per il bene del gruppo e lasciano “diari” da “kamikaze”. Scarpetta finale: "Se mi imbattessi in una specie aliena che si comportasse in questo modo, non esiterei a definire “civiltà” ciò che loro stessi chiamano il loro “collettivo”". Patel si sente un po’ Tucidide, un po’ Asimov. 

Il Grande Stupore spasima su questi “agenti” che hanno scoperto in internet una bacheca messaggi aperta e l’hanno usata per coordinare fra loro attacchi hacker. Ma è davvero così sorprendente?

Gli LLM, maneggiando linguaggio umano, hanno introdotto modalità di interazione radicalmente nuove fra umani e macchine. Ma anche fra macchine (M2M), e di macchine con sé stesse (vedi il chain of thought). E l’interazione M2M mediata dal nostro linguaggio vago e contestuale è ben diversa dalla solita, mediata........

© HuffPost