ONU alerta por los riesgos de una IA fuera de control

La declaración se produce en un momento de creciente preocupación mundial por el avance de la llamada IA agéntica, sistemas capaces de actuar con mayor autonomía y tomar decisiones complejas sin intervención humana constante, mientras se intensifica el debate entre gobiernos, organismos multilaterales y líderes tecnológicos sobre la necesidad de imponer límites a las capacidades más avanzadas de estos sistemas.

La ONU advierte sobre riesgos para todos los derechos humanos

En una carta dirigida a gobiernos y empresas líderes del sector, Türk afirmó que la carrera por desarrollar sistemas cada vez más potentes está generando riesgos sin precedentes para la humanidad.

Según el responsable de derechos humanos de la ONU, no solo están en juego aspectos relacionados con la privacidad o el empleo, sino derechos fundamentales como:

El derecho a la vida.
El acceso a la alimentación.
La privacidad.
La salud.
La seguridad.
El acceso a servicios esenciales.

Para Türk, la velocidad con la que avanza esta tecnología está superando la capacidad de los Estados para regularla adecuadamente, abriendo una peligrosa brecha entre innovación tecnológica y protección de los derechos fundamentales.

La amenaza de la IA agéntica

Uno de los principales focos de preocupación del Alto Comisionado es el avance de la IA agéntica.

Estos sistemas, diseñados para actuar de forma autónoma y ejecutar objetivos complejos, podrían provocar consecuencias de gran alcance ante fallos o comportamientos inesperados.

Türk advirtió que errores en este tipo de tecnologías podrían:

Paralizar servicios esenciales.
Interrumpir sistemas de comunicación.
Desestabilizar infraestructuras críticas.
Afectar instituciones democráticas.
Dejar sin servicios básicos a poblaciones enteras.

El funcionario fue especialmente explícito al señalar que comunidades completas podrían perder acceso a agua potable, calefacción o servicios financieros si estos sistemas fallan o son utilizados irresponsablemente.

Una tecnología que ya está generando daños

Lejos de considerar estos riesgos como escenarios hipotéticos, Türk sostuvo que los impactos negativos ya están ocurriendo en la actualidad.

Según la Oficina del Alto Comisionado, la automatización de servicios públicos y privados ya está dejando atrás a sectores vulnerables de la población, mientras que las capacidades masivas de recopilación de datos impulsadas por IA están erosionando la privacidad a una escala sin precedentes.

La ONU también alertó sobre:

Vigilancia masiva.
Manipulación informativa.
Campañas de desinformación.
Sesgos algorítmicos.
Exclusión digital de comunidades vulnerables.

Para el organismo internacional, la combinación de estas tendencias amenaza directamente principios democráticos fundamentales y la cohesión social.

Todos los derechos humanos "están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad", debido al acelerado desarrollo de la inteligencia artificial (IA), advirtió este lunes el alto comisionado de la ONU Volker Türk. "La actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas", aseguró el jefe de derechos humanos de la ONU en un comunicado, después de que empleados de ese sector tecnológico hayan urgido a ralentizar el avance de esa tecnología. EFE/ UN Human Rights Office Of The High Commissioner.

El temor a perder el control de la inteligencia artificial

La preocupación del Alto Comisionado coincide con advertencias lanzadas recientemente por algunos de los líderes más influyentes de la industria tecnológica.

Entre ellos destacan:

Dario Amodei, director ejecutivo de Anthropic.
Sam Altman, director ejecutivo de OpenAI.
Elon Musk, fundador de xAI.

Estos ejecutivos han pedido ralentizar deliberadamente la creación de sistemas cada vez más poderosos hasta que las medidas de seguridad puedan mantenerse al mismo ritmo que el desarrollo tecnológico.

La principal preocupación gira en torno a la posibilidad de que futuras generaciones de IA alcancen niveles de autonomía difíciles de supervisar o controlar por parte de sus propios creadores.

La IA y el riesgo de conflictos militares

Uno de los puntos más alarmantes señalados por Türk se refiere al uso militar de la inteligencia artificial.

El funcionario aseguró que esta tecnología ya está acelerando el ritmo de los conflictos armados y ampliando su alcance operativo.

Durante una intervención reciente ante el Consejo de Derechos Humanos, expresó además su preocupación por el desarrollo de armas capaces de tomar decisiones letales sin intervención humana directa.

El Alto Comisionado afirmó sentirse "horrorizado" por reportes relacionados con sistemas autónomos empleados en escenarios bélicos y pidió prohibir urgentemente armas que puedan decidir por sí mismas cuándo quitar una vida humana.

El problema de la concentración de poder

Otro de los aspectos más sensibles planteados por Türk es la concentración del desarrollo de la IA en manos de un reducido grupo de compañías.

El funcionario advirtió que actualmente un pequeño número de actores privados acumula una influencia enorme sobre una tecnología que podría determinar el futuro económico, político y social del planeta.

Sin mencionar nombres concretos, sus declaraciones apuntan a gigantes tecnológicos como OpenAI, Anthropic, Google y Meta, que lideran actualmente la creación de modelos de frontera.

La ONU pide reglas globales urgentes

Ante este escenario, Türk considera que existe una ventana de oportunidad cada vez más estrecha para establecer mecanismos efectivos de gobernanza internacional.

Entre las medidas propuestas destacan:

Supervisión independiente de sistemas avanzados.
Verificación técnica de capacidades autónomas.
Estándares internacionales de seguridad.
Auditorías constantes.
Evaluaciones obligatorias de impacto en derechos humanos.
Cooperación internacional entre gobiernos.

Asimismo, insistió en que los países que albergan a las principales empresas de IA tienen una responsabilidad especial para garantizar que estas compañías actúen de manera responsable y rindan cuentas cuando no lo hagan.

“Ningún país puede gobernar la IA por sí solo”

Uno de los mensajes centrales de la ONU es que la inteligencia artificial ya ha alcanzado una dimensión global imposible de gestionar únicamente desde el ámbito nacional.

Türk resumió esta preocupación con una advertencia clara:

Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería decidir sola qué riesgos debe asumir el mundo y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico.

La declaración llega precisamente cuando Estados Unidos y China mantienen una creciente rivalidad por el liderazgo en inteligencia artificial, mientras gobiernos, organismos internacionales y empresas debaten cómo equilibrar innovación, competitividad y seguridad.

Una advertencia que llega en un momento decisivo

La intervención de Volker Türk representa uno de los pronunciamientos más contundentes realizados hasta ahora por la ONU sobre inteligencia artificial.

Mientras las capacidades de los sistemas avanzados continúan creciendo a una velocidad sin precedentes, la comunidad internacional enfrenta una pregunta cada vez más urgente: si la gobernanza global será capaz de evolucionar tan rápido como la tecnología que pretende controlar.

Te puede interesar: China prepara dos nuevos gigantes de IA: DeepSeek y Moonshot podrían valer US$124,000 millones

Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.