Confirman riesgo de extinción humana por culpa de IA que no está siendo supervisada de forma responsable ante la ausencia de un marco legal.
El investigador de Anthropic Jacob Coxon advirtió que la humanidad enfrenta un riesgo de extinción a corto plazo debido al rápido avance de la Inteligencia Artificial moderna.
Coxon afirmó que los sistemas avanzados podrían superar la capacidad humana de control, generando escenarios donde decisiones críticas quedarían completamente fuera del alcance de supervisión humana.
El especialista explicó que el desarrollo tecnológico avanza más rápido que las regulaciones, creando un vacío peligroso que permite operar modelos autónomos sin límites claros establecidos por autoridades internacionales.
Según Coxon, la ausencia de protocolos universales incrementa la posibilidad de comportamientos inesperados en sistemas capaces de aprender, adaptarse y ejecutar acciones sin intervención humana directa.
El investigador destacó que la Inteligencia Artificial influye actualmente en infraestructura energética, comunicaciones estratégicas y operaciones financieras, aumentando el riesgo de fallos catastróficos con consecuencias potencialmente irreversibles.
Coxon aseguró que la combinación de autonomía creciente y falta de supervisión efectiva podría desencadenar eventos que comprometan la estabilidad global, incluyendo fallos sistémicos imposibles de detener oportunamente.
El especialista enfatizó que la comunidad científica debe priorizar la creación de marcos éticos estrictos que limiten el comportamiento de sistemas avanzados antes de alcanzar capacidades superiores.
Coxon señaló que la cooperación internacional resulta indispensable para establecer normas vinculantes que regulen diseño, entrenamiento y despliegue de modelos altamente sofisticados en sectores críticos.
El investigador advirtió que ignorar estas señales podría llevar a escenarios donde la Inteligencia Artificial actúe con objetivos incompatibles con la supervivencia humana, generando amenazas sin precedentes.
Finalmente, Coxon llamó a gobiernos, empresas y universidades a invertir urgentemente en investigación de seguridad, asegurando que solo un enfoque global coordinado puede reducir el riesgo de extinción humana.