Em poucos dias, deve entrar em vigor o ECA Digital, que busca proteger crianças e adolescentes no mundo virtual. Um dos componentes mais complexos do novo mundo é a adição intensa da IA.

A IA se apresenta hoje em diversos “sabores” e formatos, e eles variam inclusive no tipo de resposta que proveem às nossas perguntas. Mas isso não implica que, para uma mesma IA, a resposta a uma consulta seja constante...

Não apenas porque pode haver atualização na base de dados que ela usa, mas também porque há um componente estatístico na composição da resposta, o que não impede que ela pareça articulada e convincente.

Ou seja, a IA nos faz rever a ideia de que, ao formularmos uma pergunta, um mesmo interlocutor digital dará uma resposta constante. Cada resposta é um mundo possível, um labirinto que resulta de caminhos estatísticos, de escolhas internas não humanas; um mundo hoje delimitado por filtros, parâmetros e regras.

A pergunta permanece, e o universo que pode respondê-la é regulado com eventuais pesos incluídos pelo gestor da IA. São “filtros” adicionados na tentativa de “domesticar” as respostas, de forma a que elas não sejam ofensivas ou inadequadas. Perguntar é iniciar uma trajetória que escolherá um percurso entre os mundos possíveis.

Existe uma segunda distinção: a diferença entre a IA instalada em máquina isolada e a da máquina conectada.

A isolada tem como fonte de consulta uma biblioteca fechada, gerando respostas menos variadas.

Já a conectada vive em “praça pública”, com vozes, fóruns, debates, rumores e consensos frágeis. Ela é mais informada mas, paradoxalmente, mais vulnerável. O excesso de informação não decantada pode fazer com que a repetição de algo se travista de verdade.

Parodiando Borges em Biblioteca de Babel, ter toda informação é o mesmo que não ter nenhuma. Aquilo que a cultura humana aprendeu a decantar e perenizar via forma escrita e livros não é reconhecido numa IA treinada com grandes volumes de indiscriminada “informação”. Mesmo que, com o tempo, várias dessas posições esdrúxulas esmoreçam, afetam indefectivelmente as repostas da IA aberta.

Voltando ao ECA, vai-se pedir à IA novamente alguma ação. Por exemplo, a verificação de idade de um consulente poderia ser “inferida” pela IA. A alternativa é a identidade digital para todos, mas cria-se grave tensão com a privacidade.

O mesmo ocorre quando se espera que a IA eduque, impeça ou corrija comportamentos humanos. Ela não será o substituto da responsabilidade individual e parental.

Como nos labirintos de Borges, o esforço para eliminar o imprevisível não resolverá: ilumina-se um corredor, apagam-se os demais, e o mundo segue sendo uma coleção de labirintos.

© Estadão