'Model Collapse' o por qué tu ChatGPT será cada día más tonto
Puede que seas de los que piensan, como un servidor, que los LLMs —ChatGPT o el que sea— son como ese 'cuñao' que habla de oídas, pero que se cree en posesión de la verdad hasta que rascas un poco y se cae con el carrito del 'helao' para goce y disfrute del que lo sufre.
Pese a su evolución reciente, todavía hay mucho de esto. No vas muy desencaminado.
Pero es que la cosa va a ir a peor y no a mejor.
Así lo afirman investigadores de Oxford y Cambridge en un ‘paper’ que se ha publicado en Nature.
Su tesis no es que sea ‘rocket science’. Viene a decir que: uno, cada vez hay menos contenido generado por personas y más por la propia inteligencia artificial; dos, que, por tanto, las colas de la distribución más creativas, que son las esencialmente humanas, se van progresivamente perdiendo, por lo que se impone la uniformidad; tres, como los nuevos modelos se ‘entrenan’ sobre los anteriores, se repite el proceso y se ahondan sus efectos; Y cuatro, al final nos encontramos, en contra de lo que nos habían prometido, no con un océano que se expande, sino con un mar que se seca.
Esto es: ‘cuñao tonto-a-las-tres’ elevado a la enésima potencia, tantas como iteraciones haya. Al menos aquel se puede desconectar… de momento.
De hecho, si uno se fija bien, el ‘output’ de la IA no es cada vez más rico, sino más pobre, más allá de que se disimule con la puesta en funcionamiento de más mecanismos de manera simultánea para conseguir lo que se pretende (¿he oído ‘agéntico’?).
El daño es irreversible y lo han bautizado como ‘model collapse’. Claro que, en la medida en que el criterio desaparece y las capacidades se delegan, el que no se contenta será porque no quiere. O porque quiere, pero ya no le dejan.
Para los........
