Una curiosa característica del boom de la inteligencia artificial es la cantidad de comentaristas que recurren a los grandes libros para comprenderlo. Peter Thiel tomó el nombre de Palantir, la empresa que fundó, del Señor de los Anillos de J. R. R. Tolkien, y dió conferencias reinterpretando al Anticristo del Nuevo Testamento como una fuerza que bloquea el camino hacia un paraíso transhumanista en la tierra. El papa León lo reprendió explícitamente citando a Gandalf, el mago de la saga, en su primera encíclica sobre cómo preservar la dignidad humana en una época de cambios vertiginosos. El periodista científico ganador del Premio Pulitzer Robert Wright encontró su propio sabio en Pierre Teilhard de Chardin, el paleontólogo jesuita que sugirió que la era atómica podría inaugurar la integración espiritual de la humanidad.

The God Test se apoya en la fe de Teilhard en la llegada de una «mente planetaria», una «noosfera» o un «cerebro de cerebros» para generar formas de convivir con la IA. Wright cree que la tecnología desencadenará «la transformación más abruptamente dramática de la experiencia humana y de la sociedad humana en la historia de nuestra especie». Nos ofrece un manifiesto para avanzar con cautela y reparar las cosas, escrito con la amplitud de miras desinhibida que caracteriza a su prolífica actividad como podcaster.

The God Test comienza explicando por qué deberíamos sentir «asombro» y algo de temor ante la llegada de las máquinas de IA. En la década de 1940, Teilhard sugirió que una densa red de medios y comunicaciones constituía un «sistema nervioso generalizado, que emana de ciertos centros definidos y cubre toda la superficie del globo». Esa comunicación que fomentaba condenaría al pasado a las enemistades nacionales y a las mismas naciones. La profecía fue prematura, pero Wright ya vio lo suficiente de las tecnologías de IA actuales como para estar convencido de que pronto se combinarán para formar un «cerebro global». La primera tarea que Wright se impone es explicar el potencial ilimitado, incluso cósmico, de estas tecnologías; la segunda es argumentar que todavía hay tiempo para encauzar su riesgoso poder hacia el bien.

De neuronas y espacio semántico

Wright comienza argumentando a favor del potencial ilimitado de los modelos de lenguaje de gran escala (LLM, por sus siglas en inglés) que cautivan al público. Algunas de las formas de IA más útiles y menos controvertidas asisten a los usuarios humanos en la detección y visualización de patrones en conjuntos de datos limitados. Pero Wright, que tiene debilidad por el «drama», prefiere destacar la IA generativa que habla con nosotros y parece capaz de pensar como nosotros. La «habilidad fundacional» de los chatbots LLM es «tomar la parte inicial de un pasaje y generar lo que tendría sentido como la siguiente palabra». Por estos motivos, el escritor científico Ted Chiang descarta a los chatbots definiéndolos como «máquinas de continuación de oraciones». Wright, en cambio, subraya que son muy diferentes de los dispositivos de «autocompletado sofisticado» de una era anterior, que estaban programados para hacer corresponder un símbolo con otro. En cambio, funcionan como cerebros, construyendo redes entre «neuronas». Los chips de silicio que sostienen los LLM no son realmente neuronas, por supuesto, ni lo es el conjunto de números al que Wright aplica ese término, pero la metáfora nos ayuda a comprender cómo tales modelos pueden comportarse como si entendieran y hablaran nuestros idiomas. Pueden ponderar la probabilidad con la se articulan palabras y conceptos, trazando «vectores» en el «espacio semántico». Cuando una máquina adivina mal, lleva a cabo una «retropropagación», un diagnóstico que reduce la probabilidad de error en el futuro.

Wright refuta a quienes podrían objetar que lo que describe todavía no es más que un simulacro mecánico del lenguaje humano, pura sintaxis sin semántica. Los LLM no están haciendo afirmaciones sobre nada, seguramente. ¿Cómo puede haber algún significado presente cuando no hay ninguna mente que le de significación a lo que un LLM dice? Wright responde cuestionando el experimento de la «habitación china» diseñado en la década de 1980 por el filósofo John Searle para descartar la posibilidad de la inteligencia artificial. Imagínese, dijo Searle, que estoy encerrado en una habitación y me pasan papeles por debajo de la puerta con escritura en caracteres chinos, un idioma que no conozco. Aunque me hayan proporcionado algunas reglas que me ayuden a garabatear respuestas y pasarlas de vuelta por debajo de la puerta, sigue siendo cierto que en esa habitación no hay comprensión.

Para Wright, el experimento de Searle solo es concluyente si se asume que la comprensión es necesaria para atribuir intencionalidad a las oraciones o las acciones. Podríamos querer admitir que hay inteligencia en juego en esas........

© La Haine