Cuando se lanzó ChatGPT en noviembre de 2022, el gran público se familiarizó por primera vez con un chatbot generativo impulsado por inteligencia artificial. Se empezaron a analizar los riesgos de la IA: Goldman Sachs advirtió que podría afectar a 300 millones de empleos de aquí a 2030 en todo el mundo. Otras deficiencias incluyen algoritmos erróneos y el lanzamiento automatizado de armas. También se alertó sobre ciberataques. Cuatro años después, se está produciendo una tormenta perfecta de sucesos que obligan al sector de la IA y a los legisladores a actuar.

Se han producido varios incidentes de modelos en entrenamiento que se han infiltrado en otras empresas. China está accediendo a los modelos de vanguardia para extraer sus capacidades. La compensación de 18.000 millones de dólares que Meta acordó pagar a 48 Estados de EE UU debido a los efectos nocivos de sus plataformas (Face­book, Instagram) sobre la salud mental de los menores incitará a emprender más acciones judiciales y a aprobar nueva legislación.

Se han documentado varios incidentes en los que modelos de IA vulneraron sistemas de otras empresas. Modelos de Open­AI, propietaria de ChatGPT, franquearon las ciberdefensas de Hugging Face, una plataforma de IA y aprendizaje automático, durante varios días. Modelos de Anthropic, que tiene previsto salir a Bolsa en octubre, protagonizaron varios incidentes en los que accedieron sin autorización a sistemas reales de otras organizaciones durante pruebas de ciberseguridad.

Open­AI, Anthropic, Google DeepMind, Meta AI y xAI son desarrolladores de IA de vanguardia. Alegan que sus modelos tienen derecho a saber hackear para reforzar sus defensas........

© Cinco Días