El autor de esta columna comenta una arista poco explorada del uso de la IA, pero sobre todo de su regulación, y que tiene que ver con su uso para generar imágenes de connotación sexual. Sostiene que “es crucial fortalecer el marco legal existente y avanzar con las mociones de algunos parlamentarios que buscan establecer un marco legal que tipifique y sancione de manera explícita la creación y difusión de contenido sexual no consensuado generado por IA. Esta legislación debe establecer penas claras y mecanismos de reparación para las víctimas. Paralelamente, se debe invertir significativamente en la capacitación de las fuerzas de orden y a la fiscalía en la investigación de estos nuevos crímenes cibernéticos, que requieren conocimientos técnicos avanzados. Sin embargo, la regulación por sí sola es insuficiente si no va acompañada de una fuerte inversión en educación, que empodere a las nuevas generaciones con las herramientas necesarias para enfrentar estos desafíos”.

La reciente habilitación de contenido erótico en plataformas de IA como ChatGPT, el modelo  Wan de Alibaba y Grok, sumada a los casos de uso de IA para crear imágenes sexuales falsas en colegios de Chile, subraya una tesis central ineludible: es imperativo reforzar la gobernanza que regula el uso de la IA, con un énfasis particular en el control de sus algoritmos, y es urgente introducir programas de educación sexual y ética de la IA en los currículos educativos. 

Este nuevo escenario nos obliga a plantearnos preguntas cruciales: ¿cómo equilibramos el avance tecnológico con la protección de los menores?........

© CIPER Chile