Millones de personas le piden ahora a los chatbots que les resuman libros, redacten correos electrónicos e incluso les expliquen acontecimientos políticos. Pero lo que desde cierta perspectiva parece una revolución en la productividad también puede ser algo más inquietante: la silenciosa externalización del juicio mismo.

Los autores que escriben sobre inteligencia artificial llevan mucho tiempo afirmando, quizás fantasiosamente, que supone un riesgo existencial porque, por ejemplo, podría llegar a ser tan poderosa que se volviera contra los seres humanos. Pero la IA puede crear un tipo diferente de riesgo existencial, como señala el filósofo Nir Eisikovits, no en el sentido apocalíptico que a menudo se imagina, sino en relación con la cuestión de qué significa ser humano. Uno de los peligros más subestimados de estos sistemas radica en la creciente tendencia de los usuarios a delegar la tarea de formar juicios en los resultados algorítmicos de los chatbots, arriesgándose así a la erosión gradual de su capacidad de pensamiento independiente.

Los efectos secundarios negativos que acompañan al uso de los grandes modelos de lenguaje (LLM) quedan vívidamente ilustrados por el fenómeno de la «deuda cognitiva». Desde una perspectiva económica, es difícil discutir las ganancias de productividad a corto plazo logradas mediante el uso de sistemas de IA. Al delegar en la IA numerosas tareas que antes realizaban los seres humanos, se observan ganancias de eficiencia, aunque no tan importantes como promete la publicidad: se aceleran los flujos de trabajo, se racionalizan los procesos y, en general, las rutinas organizativas se vuelven más eficientes.

Sin embargo, la resiliencia y la eficiencia generadas mediante la delegación en sistemas de IA podrían amenazar con una pérdida gradual de las capacidades cognitivas que se les están subcontratando. Un reciente estudio del MIT que encontró una actividad cerebral significativamente reducida entre los usuarios habituales de chatbots, por ejemplo, ofrece un respaldo inicial a esta preocupación.

Si bien los debates sobre la amenaza que las corporaciones modernas de IA representan para la democracia tienden a centrarse en el hecho de que los datos (y, por lo tanto, el control sobre los algoritmos) se concentran cada vez más en manos de las pocas grandes empresas tecnológicas que, en gran medida, eluden la supervisión pública, otra cuestión importante que queda sorprendentemente relegada a un segundo plano con frecuencia. Se trata de una cuestión sobre las condiciones previas para que las personas puedan participar en los procesos democráticos y en los proyectos políticos emancipadores.

La externalización del pensamiento no es, por supuesto, un fenómeno nuevo. De hecho, es el tema principal del clásico ensayo de Immanuel Kant de 1784, «¿Qué es la Ilustración?». Para Kant, el proceso de emancipación consiste en liberarse de la «inmadurez autoinfligida» de dejar que otros piensen por uno y, en su lugar, hacer uso de las propias........

© La Haine