Los errores cometidos desde la inteligencia ‘artesanal’ son responsabilidad del humano que toma las decisiones, pero ante la posibilidad de que una máquina pueda equivocarse, ¿quién responde?

La Inteligencia Artificial está entrando silenciosamente en decisiones que antes dependían exclusivamente de personas y hoy puede ayudar a seleccionar una hoja de vida, detectar un posible fraude, evaluar la capacidad de pago de una persona, identificar riesgos o determinar qué información recibe un usuario. Ofrece una promesa sencilla y es la de tomar decisiones más rápidas, eficientes y, aparentemente, más objetivas, pero detrás de esa promesa no podemos dejar de preguntarnos ¿qué ocurre cuando el algoritmo toma una decisión que termina discriminando a una persona?

Con frecuencia se piensa que la discriminación desaparece cuando dejamos la decisión en manos de una máquina. En realidad, puede ocurrir exactamente lo contrario. Los algoritmos aprenden de datos y los datos son el resultado de nuestras sociedades. Si esos datos contienen desigualdades históricas, prejuicios o patrones discriminatorios, el sistema va aprenderlos y reproducirlos a una escala mucho mayor. No hace falta que alguien programe una........

© Vanguardia