Los desarrollos emergentes de código abierto, como el modelo DeepSeek de China, han marcado un antes y un después en el panorama global. En solo unos meses, este modelo de lenguaje grande (LLM) ha irrumpido con una velocidad impresionante, al desafiar la supremacía de los gigantes tecnológicos occidentales y ganarse el reconocimiento por su capacidad para manejar tareas complejas. Sin embargo, junto con sus ventajas, surgen preocupaciones significativas sobre su seguridad, específicamente, sobre la vulnerabilidad de DeepSeek a un fenómeno conocido como jailbreak.

Este término, tradicionalmente, se ha asociado con el desbloqueo de dispositivos como teléfonos móviles o consolas de videojuegos, con el fin de eludir las restricciones impuestas por el fabricante. En el contexto de la Inteligencia Artificial (IA), este concepto ha evolucionado para referirse a la manipulación de modelos de IA con el objetivo de sortear sus medidas de seguridad, generalmente implementadas para evitar la generación de contenido dañino. La diferencia radica en el hecho de que un jailbreak en IA permite que un modelo, que normalmente está restringido de producir resultados maliciosos,........

© Expansión