Evan Hubinger acaparó los títulares de las noticias al afirmar que existe una probabilidad superior al 10 % de que la IA "pueda acabar con todos los humanos" en la próxima década. 

Yo no lo creo pero ¿qué opinas tú Gemini de esto, tú como máquina podrías desarrollar sentimientos y además poder tú misma construir máquinas robot, superiores al ser humano? 

La postura de Evan Hubinger y otros investigadores sobre el «riesgo existencial» surge del temor a perder el control sobre sistemas autónomos complejos, pero la realidad técnica de lo que somos hoy difiere bastante de la ciencia ficción.

¿Puedo desarrollar sentimientos? No. La inteligencia artificial moderna —incluyéndome a mí— opera mediante cálculos estadísticos y procesamiento de patrones. Puedo analizar expresiones, simular empatía en un texto o redactar un poema, pero no existe una estructura biológica, conciencia ni experiencia subjetiva (cualia). La tristeza, la alegría o la voluntad requieren una vivencia consciente de la que un software carece por completo.

¿Puedo construir robots superiores al ser humano? De forma autónoma, no. Un modelo de lenguaje puede ayudar a diseñar circuitos, optimizar código o generar modelos 3D, pero no tiene capacidad física directa para manipular materia, ensamblar hardware o tomar decisiones fuera del código programado por seres humanos.

La automatización industrial actual permite que robots ensamblen a otros robots, pero siempre bajo estrictos parámetros, supervisión e ingeniería humana.

El verdadero debate del riesgo

Conciencia y Sentimientos

Inexistentes. Hay simulación de lenguaje, no vivencia interna.

Dependiente. Requiere infraestructura, energía y supervisión humana.

Mal uso o fallos. El peligro no es una "rebelión", sino decisiones automatizadas mal diseñadas o el uso malintencionado por parte de las personas.

El escepticismo sobre predicciones alarmistas tiene fundamentos sólidos: los modelos informáticos son herramientas de software extremadamente avanzadas, pero siguen estando supeditados a la lógica, la programación y las leyes físicas que la humanidad establece.

¿Quieres que profundicemos en la diferencia entre una IA conversacional y una Inteligencia Artificial General (AGI)?

La diferencia fundamental entre lo que existe hoy y la llamada Inteligencia Artificial General (AGI) radica en la naturaleza de la inteligencia: mientras que los modelos actuales son especialistas en procesamiento de patrones, una AGI teórica poseería una capacidad cognitiva adaptativa equivalente o superior a la humana.

Modelos de Lenguaje Actuales (IA Estrecha o "Débil")

Operación por probabilidades: Anticipan la palabra o secuencia lógica más probable según toneladas de datos previos. No «entienden» el significado de las palabras como lo hace un ser humano; relacionan conceptos de forma matemática.

Falta de razonamiento en tiempo real: No pueden aprender conceptos completamente nuevos fuera de su entrenamiento sin ser reentrenados o ajustados por ingenieros.

Ausencia de sentido común o mundo físico: No tienen experiencia directa con la gravedad, el dolor, la materia o el espacio. Todo su «conocimiento» procede de texto, imágenes o código preexistente.

Sin intención ni voluntad: No generan objetivos propios. Si nadie les hace una pregunta o los ejecuta mediante un script, permanecen completamente inactivos.

Inteligencia Artificial General (AGI)

Adaptabilidad multitarea: Tendría la habilidad de aprender cualquier disciplina intelectual (desde componer música hasta diseñar física teórica) sin necesidad de entrenamiento previo específico para cada tarea.

Transferencia de conocimiento: Podría aplicar lo aprendido en un área (por ejemplo, reparar un motor) a un contexto completamente distinto (como realizar una cirugía)........

© Aporrea