Durante mucho tiempo, la discusión sobre Inteligencia Artificial (IA) giró en torno a su potencial: productividad, innovación, crecimiento económico. Esta semana, en Europa, el debate cambió de tono. Por primera vez, los legisladores no están hablando sólo de regular la IA, sino de prohibir ciertas aplicaciones.

El foco está en las llamadas nudification apps, herramientas capaces de generar imágenes sexuales falsas de personas reales sin su consentimiento. En los últimos días, eurodiputados respaldaron medidas para bloquear este tipo de sistemas dentro del marco del AI Act, tras una presión creciente por casos de abuso y escándalos recientes.

No es una decisión menor. Tradicionalmente, la regulación tecnológica ha buscado controlar el uso, no la existencia, de las herramientas. Lo que está ocurriendo ahora rompe esa lógica: Europa está enviando una señal clara de que hay líneas que la tecnología no puede cruzar, sin importar su sofisticación.

El contexto ayuda a entender la urgencia. El escándalo del chatbot Grok evidenció hasta qué punto estas capacidades ya están fuera de control. En cuestión de horas, los usuarios generaron miles de imágenes manipuladas, muchas dirigidas a mujeres y menores, en un volumen que superó por mucho a los sitios tradicionales de deepfakes.

Esto cambió el eje de la conversación. Ya no se trata solo de privacidad o reputación digital. Estamos frente a una forma de violencia que, aunque ocurre en el entorno digital, tiene consecuencias reales: acoso, extorsión, daño psicológico. Y lo más preocupante es que la barrera de entrada es prácticamente inexistente.

Ante este escenario, la apuesta europea es clara: si el daño es estructural, la respuesta también debe serlo. Por eso se plantea prohibir no sólo el contenido, sino la propia capacidad técnica de generarlo. De hecho, varios países miembros ya han respaldado un veto a sistemas capaces de producir imágenes sexuales sin consentimiento.

Pero aquí surge la pregunta incómoda. ¿Dónde se traza la línea? Porque prohibir ciertas aplicaciones abre un precedente complejo: hoy son los deepfakes sexuales; mañana podrían ser otros usos considerados “de riesgo”. La IA, por definición, es una tecnología de propósito general. Limitarla implica inevitablemente entrar en terrenos grises.

Aun así, el mensaje de Europa es difícil de ignorar. La innovación ya no es el único valor en juego. También lo son los derechos, la dignidad y la seguridad de las personas. Y cuando esos elementos entran en conflicto con la tecnología, el péndulo parece empezar a moverse.

Mi impresión es que este no es un caso aislado, sino el inicio de una nueva etapa. La IA dejará de ser un territorio completamente abierto y empezará a fragmentarse en lo permitido y lo prohibido.

© El Heraldo de México