O ChatGPT não te conhece e não aprende com você: por que isso é um problema

Diferente do aprendizado humano dinâmico, as IAs utilizam apenas resumos de contexto estáticos para simular proximidade. Crédito: Alexandre Chiavegatto Filho

Na semana passada, viralizou nas redes sociais uma trend onde usuários pediam ao ChatGPT para criar uma imagem de como ele imaginava que cada pessoa fosse, utilizando o histórico de conversas anteriores.

Mas a verdade é que o algoritmo não aprendeu quem você é. Ele não absorveu suas preferências, não memorizou seus gostos, não internalizou o seu jeito de pensar.

O que acontece é muito mais simples e mecânico do que parece. O ChatGPT simplesmente identificou aquilo que você contou para ele em conversas passadas e gravou essas informações no formato de texto, em uma sequência de dados que vai sendo passada para ele antes de cada nova conversa, uma técnica chamada de “resumo de contexto” ou “pacote de contexto”.

Imagine que toda vez que você encontre um amigo, ele precise ler um resumo sobre você antes da conversa. Ele não se lembra de fato de quem você é, apenas consulta suas anotações.

O fim do ser humano médio: como a IA vai resgatar o que nos torna únicos

O fim do ser humano médio: como a IA vai resgatar o que nos torna únicos

É exatamente assim que funcionam os atuais modelos de linguagem como o ChatGPT.

O algoritmo por trás das LLMs é essencialmente estático. O seu aprendizado, que ocorre basicamente a partir de dados generalistas coletados da internet, já aconteceu há meses durante a fase de treinamento e não é alterado pelas conversas individuais dos usuários em tempo real.

Cada interação que você tem com o ChatGPT é, para o modelo em si, como se fosse a primeira vez. O que muda é apenas aquele texto anexado no início da conversa, que resume o que vocês já discutiram.

Seres humanos não funcionam assim. O nosso conhecimento é maleável e dinâmico. Vamos adquirindo novas habilidades, ajustando nossas perspectivas e refinando nossa compreensão do mundo em tempo real. Quando aprendemos algo novo, isso se integra naturalmente ao que já sabíamos, criando novas conexões e até nos fazendo repensar convicções antigas.

Se quisermos algoritmos profundamente úteis, eles terão de se adaptar às mudanças que vão acontecendo ao seu redor. Essa necessidade se torna ainda mais urgente agora que estamos entrando em uma era em que o próprio mundo passará por transformações rápidas e profundas, exatamente devido ao crescimento exponencial do uso da IA.

Áreas críticas como a saúde e a ciência precisarão se adaptar rapidamente a novas descobertas e a emergências. Um médico que estudou há dez anos não pode se basear apenas no que aprendeu na faculdade. Ele precisa acompanhar novos tratamentos, novos protocolos, novas compreensões sobre doenças. Seu conhecimento evolui continuamente.

Enquanto não conseguirmos criar sistemas que realmente evoluem conosco e se transformam com as experiências que compartilhamos com eles, estaremos sempre interagindo com versões sofisticadas de enciclopédias, não com verdadeiros parceiros inteligentes. Para que a IA um dia cumpra seu potencial revolucionário, ela precisará se tornar um pouco mais parecida conosco.

© Estadão