Un estudiante entrega un trabajo brillante. Pero resulta demasiado bien escrito, demasiado estructurado, demasiado “perfecto”. Enseguida surge la sospecha: quizá lo ha hecho una inteligencia artificial. El primer impulso es usar un detector de textos generados por inteligencia artificial. Lo aplicamos sobre el trabajo, y esta herramienta nos responde que se trata de un texto con un 87 % de probabilidades de haber sido generado por una máquina. Entonces damos rienda suelta al sesgo de automatización que nos hace asumir acríticamente las decisiones automatizadas. Caso cerrado. Sentencia dictada.

¿O no? El caso no está cerrado. Este veredicto informático no solo es poco fiable; es, sobre todo, injusto.

Los detectores de inteligencia artificial parecen una solución lógica, pero tienen dos problemas fundamentales. El primero es técnico: no funcionan bien. El segundo problema es más relevante: aunque funcionaran perfectamente, no resolverían el verdadero problema.

¿Quiere recibir artículos como este? Suscríbase a La Conversación Docente y reciba los últimos análisis y tendencias en el sector educativo, seleccionados por nuestra editora de Educación Eva Catalán.

Una solución técnicamente frágil

A diferencia del plagio tradicional, donde se compara un texto con fuentes existentes, aquí no hay un original contra el que contrastar. Se intenta distinguir entre texto estadísticamente humano y texto estadísticamente generado por una máquina para parecer humano. Una línea de separación difícil de trazar y cada vez más borrosa.

Además, hay razones para pensar que esta frontera desaparecerá. Cuanto mejores sean los modelos generativos, más indistinguible será su producción de la humana.........

© The Conversation