Lo que debería ser simple sentido común —formar bien a las personas para aprovechar al máximo una herramienta— suele sacrificarse por ganancias de corto plazo.

Resulta desconcertante que el “sentido común” sea el menos común de los sentidos. Parecería sencillamente inteligente que los desarrolladores de IA se aseguraran de que la integración sabia de sus modelos fuese la estrategia principal tanto comercial como operativa. Tanto ellos como nosotros parecemos estar confundidos sobre qué es la integración de modelos de IA; no se trata de “cómo sustituir nuestro esfuerzo dentro de los procesos de trabajo”, sino más bien de “cómo puede complementar nuestro trabajo para que podamos invertir más recursos en lo que realmente somos valiosos”.

Olvidamos que la IA no es capaz de orientarse por sí sola ni de decidir qué es lo mejor. Eso debemos definirlo previamente nosotros y entrenarla para actuar alineada con nuestros criterios. Y eso, precisamente, no es lo que estamos haciendo. Esa es una de las razones principales por las que el caos empieza a expanderse. Esto revela que algo anda mal en nosotros y en nuestra escala de valores.

Parte de la confusión proviene de que los desarrolladores de modelos están tan empeñados en vendernos que su sistema es inteligente por sí mismo, que estamos cometiendo errores graves al integrar la IA en nuestros procesos de trabajo.

Permíteme darte dos ejemplos de cómo una mala orientación puede traer consecuencias graves y desviar el verdadero progreso que un producto podría aportar.

El caso del Boeing 737 MAX

El caso fue, en esencia, un colapso del juicio, transparencia y formación bajo presión comercial. Boeing lanzó una nueva aeronave para competir con Airbus, cuyo modelo más reciente ofrecía motores más grandes y eficientes. Pero incorporar esos motores más grandes al 737 alteró el comportamiento del avión en ciertas condiciones de vuelo, y Boeing introdujo un sistema automatizado para compensar ese........

© Analítica