Una de las cuestiones que más preocupan de la inteligencia artificial es su capacidad para distorsionar la realidad. Las herramientas de IA generativa permiten crear contenido sintético —texto, imagen, audio, vídeo— con un nivel de sofisticación que hace cada vez más difícil distinguir lo auténtico de lo artificial. Sin entrar a valorar la compleja problemática en materia de propiedad intelectual que esto plantea, tanto desde la perspectiva del entrenamiento de los algoritmos como desde la atribución de autoría del contenido generado, existe un riesgo aún mayor: el impacto que la proliferación de estos contenidos tiene sobre nuestras democracias; la capacidad de extorsión a personajes públicos o anónimos, que puede ocasionarse con motivo de la producción de contenidos falsos aparentemente reales; la manipulación y capacidad de alteración de comportamientos de consumo; en definitiva, el riesgo es sistémico para la salud de la vida social y democrática de nuestros días.

Si los ciudadanos no somos capaces de distinguir lo que es realidad de lo que es ficción, corremos el riesgo de ser engañados, manipulados y, en última instancia, de tomar decisiones —incluido nuestro voto— sobre la base de información falsa. Este no es un escenario hipotético. Los deepfakes de figuras políticas y las campañas de desinformación automatizada ya han irrumpido en procesos electorales de todo el mundo.

Las redes sociales y el entorno digital amplifican exponencialmente esta problemática. Un contenido falso puede volverse viral en cuestión de minutos, alcanzando a millones de personas antes de que cualquier mecanismo de verificación pueda........

© El Confidencial