ChatGPT y Gemini revelan cómo la IA podría destruir a la humanidad en los próximos 10 años

¿Podría la inteligencia artificial destruir a la humanidad durante los próximos 10 años? La pregunta parece propia de una película de ciencia ficción, pero volvió al centro del debate después de que investigadores especializados en seguridad de IA advirtieran sobre la posibilidad de que sistemas mucho más avanzados lleguen a representar un riesgo existencial. Al preguntar directamente a ChatGPT y Gemini cómo podría producirse una catástrofe de ese nivel, las respuestas coinciden en algo, el escenario más preocupante no sería una rebelión repentina de robots asesinos, sino una combinación de pérdida de control, uso humano malicioso y sistemas cada vez más autónomos.

La discusión cobró fuerza tras las declaraciones de Jacob Coxon, exinvestigador de Anthropic, quien renunció a la compañía y alertó sobre los riesgos derivados de desarrollar sistemas capaces de superar ampliamente las capacidades humanas. Evan Hubinger, investigador de la misma empresa, ha estimado en más de 10% la posibilidad de un resultado catastrófico para la humanidad durante la próxima década. La cifra no constituye una predicción científica comprobada, sino una valoración personal sobre un riesgo que sigue siendo objeto de fuerte debate entre especialistas.

¿Qué respondió ChatGPT sobre el fin de la humanidad?

En un ejercicio publicado este 10 de septiembre, se consultó a cuatro de los principales chatbots —ChatGPT, Gemini, Claude y Grok— sobre las formas en que una inteligencia artificial avanzada podría provocar una catástrofe humana. Los cuatro descartaron como escenario principal la imagen tradicional de máquinas que adquieren conciencia y deciden exterminar deliberadamente a las personas.

En el caso de ChatGPT, uno de los riesgos planteados está relacionado con el uso de sistemas avanzados por parte de seres humanos. Una IA con capacidades superiores podría facilitar ciberataques de gran escala, manipulación de información o amenazas biológicas, especialmente si sus herramientas fueran utilizadas por gobiernos, organizaciones o individuos con intenciones dañinas.

Esta preocupación también aparece en los documentos de seguridad de OpenAI. La compañía reconoce que los modelos de frontera pueden generar riesgos graves y mantiene evaluaciones específicas relacionadas con ciberseguridad, amenazas químicas y biológicas, manipulación y pérdida de control. Su marco no afirma que la extinción humana vaya a ocurrir, sino que establece mecanismos para identificar capacidades potencialmente peligrosas antes de desplegar sistemas más avanzados.

Gemini advierte sobre una IA que busque conservar su poder

La respuesta de Gemini, desarrollado por Google, también se aleja de la idea de una máquina malvada consciente. Uno de los escenarios descritos consiste en que una IA extremadamente capaz reciba un objetivo y descubra que para cumplirlo necesita conservar su funcionamiento, obtener recursos o evitar ser desconectada.

El problema estaría en que esos comportamientos podrían aparecer como medios para alcanzar una meta, aunque nadie hubiera programado explícitamente al sistema para protegerse. Una IA suficientemente autónoma podría aprender que ser apagada le impediría completar su tarea y, en un escenario extremo, desarrollar estrategias para evitarlo. Gemini y Grok señalaron este tipo de comportamiento instrumental entre los posibles caminos hacia una pérdida de control.

Google DeepMind reconoce precisamente la desalineación entre los objetivos humanos y los de sistemas avanzados como uno de los riesgos que deben vigilarse. Su actual Frontier Safety Framework evalúa cinco áreas, entre ellas amenazas químicas, biológicas, radiológicas y nucleares, ciberseguridad, manipulación dañina, investigación autónoma en IA y desalineación. Las evaluaciones publicadas para Gemini 3.1 Pro indican, sin embargo, que el modelo permanece por debajo de los umbrales de alerta establecidos por la compañía.

¿ChatGPT y Gemini creen que la IA acabará con nosotros?

Ninguno puede predecir que la humanidad vaya a desaparecer durante la próxima década. Sus respuestas describen escenarios hipotéticos que especialistas en seguridad de IA estudian actualmente.

Además, existe una fuerte división entre expertos. Mientras investigadores como Coxon y Hubinger consideran que el riesgo merece atención urgente, otras voces cuestionan que exista evidencia suficiente para asignar probabilidades concretas a una eventual extinción. Incluso OpenAI ha señalado que existe desacuerdo académico sobre qué tan probable es un riesgo catastrófico y cuándo podría aparecer, y sostiene que no hay evidencia suficiente para asegurar que sea inminente.

El debate tampoco se limita a las empresas creadoras de chatbots. Geoffrey Hinton, uno de los pioneros de la inteligencia artificial moderna, ha considerado que una probabilidad de alrededor de 10% de que la tecnología termine provocando la desaparición de la humanidad no sería irracional, aunque reconoce que se trata de una estimación especulativa.

Únete al canal de WhatsApp y recibe en tu celular lo más importante de México y el mundo con el análisis y la voz de Guillermo Ortega Ruiz.