Há algo de profundamente irónico num frade franciscano a ensinar ética a gigantes tecnológicos que valem triliões. É como ver São Francisco a pregar aos pássaros, só que desta vez os pássaros usam hoodies, conduzem Teslas e estão convencidos de que a próxima inovação vai finalmente resolver todos os problemas criados pela inovação anterior.

Paolo Benanti usa túnica castanha, desistiu da namorada a um ano de acabar engenharia e agora aconselha o Papa, a ONU e metade de Silicon Valley sobre inteligência artificial. Se isto fosse um argumento duma série da Netflix, rejeitavam-no logo por parecer demasiado inverosímil. Mas é real. E talvez seja precisamente esta combinação impossível, onde um monge medieval encontra o apocalipse digital, que torna Benanti a pessoa certa para fazer as perguntas que ninguém quer ouvir.

Porque vivemos tempos estranhos, caro leitor. Pedimos à inteligência artificial o que durante séculos pedimos aos deuses: respostas instantâneas, sem hesitação, sem ironia. E ela responde. Sempre. Com a tranquilidade de quem não tem corpo, nem dúvida, nem medo de estar a dizer um disparate monumental com ar de quem sabe tudo. A pergunta já não é se os algoritmos vão pensar como nós. A pergunta é se nós ainda conseguimos pensar sem pedir autorização ao prompt.

Benanti inventou o termo “algor-ética” que soa a startup de São Francisco com bean bags e kombucha grátis. Mas a ideia é simples e radical: a ética não pode ser aquele departamento chato que aparece no fim do processo a dizer “ahh, talvez não devêssemos ter treinado a IA com dados de origem questionável”. Tem de ser a primeira pergunta, não a última. Para que serve isto? A quem serve isto? Que tipo de humanidade estamos a programar enquanto achamos que........

© Jornal SOL