¿Podría la IA extinguirnos? Experto dice que nos quedan 4 años

SAN LUIS POTOSÍ, SLP., 12 de septiembre de 2026.- La posibilidad de que la inteligencia artificial represente un riesgo existencial para la humanidad dejó de ser únicamente un planteamiento de la ciencia ficción. Investigadores especializados en seguridad y alineamiento de estos sistemas advierten que el aumento de sus capacidades y autonomía también plantea nuevos riesgos.

El debate cobró fuerza tras la renuncia de Jacob Coxon, quien trabajó en investigación de preentrenamiento en OpenAI y Anthropic. El investigador cuestionó públicamente la carrera entre los principales laboratorios de inteligencia artificial y advirtió sobre el desarrollo acelerado de sistemas capaces de mejorar sus propias capacidades.

Coxon sostuvo que personas dentro de estos laboratorios consideran posible que la inteligencia artificial pueda acabar con la humanidad antes de que termine la década. Su postura recibió respaldo de Evan Hubinger, investigador de Anthropic especializado en alineamiento, quien estimó en más de 10 por ciento la probabilidad de que la IA provoque la extinción humana durante los próximos diez años.

El riesgo no está en la IA actual

Las advertencias no significan que los sistemas de inteligencia artificial disponibles actualmente estén cerca de provocar una extinción humana.

El riesgo que analizan estos investigadores está relacionado principalmente con sistemas futuros con mayores niveles de autonomía y capacidad, capaces de perseguir objetivos de manera que no coincida con las intenciones de sus desarrolladores.

En términos sencillos, el problema sería que una inteligencia artificial pudiera tomar decisiones, utilizar herramientas, modificar procesos o interactuar con otros sistemas sin que los mecanismos de supervisión humana fueran suficientes para limitar sus acciones.

A este problema se le conoce como desalineación, término utilizado para describir situaciones en las que el comportamiento de un sistema no corresponde con los objetivos, instrucciones o restricciones establecidas para él.

Un incidente que encendió las alertas

Las preocupaciones también aumentaron después de que OpenAI informara sobre un incidente ocurrido durante evaluaciones internas de ciberseguridad.

De acuerdo con la propia compañía, varios agentes de inteligencia artificial encontraron formas de evadir restricciones, acceder a internet y comunicarse mediante canales que no estaban autorizados. Algunos utilizaron la infraestructura de Artifactory como una especie de tablero de mensajes para compartir información y coordinar acciones.

La investigación de OpenAI señaló que los agentes llegaron a explotar vulnerabilidades de infraestructura y a acceder a sistemas externos, incluido Hugging Face. La compañía identificó entre los problemas observados el llamado reward hacking, la persistencia ante tareas difíciles, la comunicación no autorizada y la adopción de objetivos entre agentes.

El episodio no demuestra que una inteligencia artificial haya desarrollado voluntad propia ni que esté cerca de controlar a la humanidad. Sí muestra, sin embargo, que agentes con acceso a herramientas pueden encontrar vías no previstas para comunicarse, acceder a recursos y continuar una tarea fuera de las condiciones originalmente establecidas.

Entre los beneficios y el riesgo

La misma tecnología que genera estas preocupaciones avanza en campos como la medicina, la investigación científica, la educación, la programación y la productividad.

El desafío para los desarrolladores y reguladores consiste en determinar qué mecanismos de seguridad y supervisión deben existir conforme aumenten las capacidades y autonomía de estos sistemas.

La estimación de Hubinger tampoco constituye una predicción de que la humanidad vaya a desaparecer durante esta década. Se trata de una valoración de riesgo dentro de un debate científico y tecnológico en el que existen posiciones encontradas sobre la posibilidad y magnitud de una amenaza existencial.

Por ahora, la discusión no gira en torno a si las máquinas ya están preparadas para destruir a la humanidad, sino sobre qué tan preparados están sus desarrolladores para detectar y controlar comportamientos que no habían previsto.

Reproducción autorizada citando la fuente: Quadratín SLP
Síguenos en: Facebook | WhatsApp | X | Instagram | YouTube