La inteligencia artificial no entiende. Conviene subrayarlo al inicio, con todas sus letras. Lo que hace es predecir la palabra, el gesto o la imagen más probable según los patrones que ha visto en la inmensidad de datos con que ha sido entrenada. Esa predicción, vestida de coherencia, puede parecer entendimiento, pero es otra cosa. Es estadística, no conciencia. Es cálculo, no comprensión.

Este matiz es vital porque explica muchas de las limitaciones —y riesgos— de los sistemas que hoy nos deslumbran. Un modelo de lenguaje natural, por ejemplo, no “razona” como lo haría un humano. Lo que hace es ajustar probabilidades para elegir la palabra siguiente en una secuencia. El resultado puede sonar lógico, incluso brillante, pero en el fondo no es más que la consecuencia de un entrenamiento con millones de ejemplos. Es más chanconería que criterio.

Y aquí surge el primer peligro: la IA puede inventar justificaciones plausibles para sus respuestas, aun cuando esas justificaciones no sean........

© Perú21