La gente en la inteligencia artificial
Toda la tecnología –y tal vez más la digital provoca en nosotros respuestas reflejas, más que reflexividad. La tecnología funciona sin exigirnos –e incluso sin permitirnos– adoptar una relación explícita con ella. Esta característica es particularmente intensa en el caso de las tecnologías digitales, que pronto se revisten de un aura de neutralidad, se convierten en algo inadvertido, privilegian el automatismo, lo tácito frente a lo explícito. Las tecnologías en general y el ubiquitous computing en particular se integran en el tejido social hasta hacerse indistinguibles de él, generan un inconsciente digital. Son variaciones de la célebre idea de Langdon Winner del “sonambulismo tecnológico”, es decir, de la falta de conciencia sobre el desarrollo tecnológico y sus consecuencias, indiscutido, funcional y neutro.
No es que las decisiones clave sean delegadas en máquinas en las que no hay ningún humano; se trata más bien de que somos presionados a tomar decisiones de tal manera que no nos preguntamos quién es su verdadero autor. Los sistemas automatizados nos empujan a la irreflexividad en el sentido descrito por Hannah Arendt: la incapacidad de criticar las instrucciones, la falta de reflexión sobre las consecuencias, la disposición a creer que las órdenes son correctas. La ideología de la razón algorítmica no es tanto ocultación deliberada como irreflexividad.........
