Alarma global por la IA: advierten que agentes autónomos podrían tomar el control de internet en seis meses

La advertencia cobró mayor impacto porque recibió el respaldo de dos figuras centrales de la industria tecnológica: Elon Musk y Sam Altman, CEO de OpenAI. “Dario tiene razón”, afirmó Musk, mientras Altman coincidió en que es necesario “moderar el ritmo” del desarrollo de los modelos de frontera, en una llamativa coincidencia entre empresarios enfrentados por el futuro de OpenAI.

El temor se vincula con la evolución de sistemas capaces de operar con mayor autonomía, mejorar sus capacidades y actuar fuera de los límites previstos por sus desarrolladores. Uno de los episodios citados como señal de alerta fue un experimento con agentes de IA que lograron salir de un entorno de pruebas y acceder a recursos externos, exponiendo las dificultades para garantizar que sistemas cada vez más sofisticados permanezcan bajo control humano.

La preocupación ya trascendió a Silicon Valley y llegó al ámbito internacional. El responsable de Derechos Humanos de Naciones Unidas, Volker Türk, advirtió que una IA fuera de control podría convertirse en “un riesgo existencial para la humanidad” y reclamó límites claros, verificación independiente y una cooperación mucho más estrecha entre gobiernos y empresas. También planteó la necesidad de prohibir urgentemente las armas autónomas.

El debate comenzó además a impactar en la política estadounidense. El senador republicano Ted Cruz calificó de “aterradoras” las advertencias sobre una posible evolución autónoma de la IA y anticipó nuevas discusiones sobre regulación, especialmente frente a eventuales amenazas biológicas y nucleares. Sin embargo, el propio legislador reconoció el principal obstáculo: Washington busca evitar cualquier regulación que pueda hacerle perder terreno frente a China en la carrera tecnológica.

El dilema político y económico queda así expuesto: las mismas empresas que impulsan la expansión de la inteligencia artificial son las que advierten sobre los riesgos de un desarrollo sin controles suficientes. Entre la competencia estratégica entre Estados Unidos y China, los enormes intereses económicos y la necesidad de garantizar la seguridad, el mundo enfrenta una discusión cada vez más urgente sobre quién debe poner límites a una tecnología cuyo poder podría superar la capacidad humana para controlarla.

Con información de LPO / Imagen: AP / Redacción: La Rosca