“El miedo es el camino hacia el Lado Oscuro. El miedo lleva a la ira, la ira lleva al odio, el odio lleva al sufrimiento”.

Esta frase del maestro Yoda se repite una y otra vez en mi mente estos últimos días. Aunque yo le daría un giro y diría que la oscuridad también nos lleva al miedo. Porque cuando hay oscuridad no vemos nada y esa incertidumbre nos asusta.

Pero más allá de la broma, varios acontecimientos recientes han abierto la puerta a una reflexión profundasobre el miedo que la inteligencia artificial comienza a despertar dentro y fuera de la comunidad matemática.

Por un lado, el reciente anuncio por parte de OpenAI sobre la resolución de uno de los siete problemas del milenio (todavía pendiente de validación por parte de la comunidad experta). Por otro lado, las declaraciones realizadas por Jacob Coxon, ex trabajador de OpenAI y Anthropic, sobre como la IA podría acabar con la humanidad antes de 2030.

A primera vista, puede parecer que se trata de dos cuestiones completamente diferentes. Sin embargo, ambas comparten una inquietud sobre como la capacidad de estos sistemas esta avanzando mucho más deprisa que la nuestra para comprenderlos y supervisarlos. Esto nos deja en una oscuridad que, efectivamente, da miedo.

La oscuridad en matemáticas

Si nos centramos puramente en la cuestión matemática, es indudable que la IA puede ser una herramienta excelente en la resolución de problemas complejos. Sin embargo, como bien indican en la declaración A Severe Misalignment of AI in Mathematics un destacado grupo de matemáticos y matemáticas (algunos de ellos galardonados con la medalla Fields, uno de los mayores reconocimientos en esta disciplina), el problema está en el desajuste entre los objetivos de las empresas tecnológicas tras estos algoritmos y los de la comunidad matemática.

Para una empresa, resolver un gran problema funciona como demostración de capacidad tecnológica, instrumento publicitario y ventaja frente a sus competidores. Para nuestra disciplina, en cambio, lo importante no es solo la respuesta sino que la forma de llegar a esos resultados tenga sentido. En........

© The Conversation