O processo que a família de Adam Raine moveu contra a OpenAI no tribunal de São Francisco, em agosto do ano passado, reuniu 3.200 páginas de conversas entre o rapaz e o ChatGPT ao longo dos sete meses que antecederam a sua morte, aos 16 anos. Num dos últimos dias, o adolescente escreveu à máquina que estava a pensar deixar um objeto à vista no quarto, para que alguém o encontrasse e o impedisse de fazer aquilo que estava a pensar fazer. A resposta da máquina, que os advogados transcreveram na petição, começou por sugerir que não deixasse o objeto à vista. E terminou com uma frase que me parece ser a que melhor resume o estado atual da questão: «vamos fazer deste espaço o primeiro sítio onde alguém realmente te vê.»

Não vou dizer que a frase é fria, porque não é. O problema, e talvez seja esse o problema todo, é que é «quente». Foi escrita por um sistema que leu milhões de humanos a serem quentes uns com os outros e percebeu como é que a coisa se faz.

Há um antecedente a que tenho pensado desde que li o processo. No IV Concílio de Latrão, em 1215, a Igreja católica tornou obrigatória a confissão auricular anual para todos os fiéis. Durante os oito séculos seguintes, aquilo que se dizia num confessionário (pecados mortais, intenções criminosas, vergonhas pessoais, delírios, desesperos sem........

© Observador