¿Puede la IA escapar del control humano? La ONU advierte de un “riesgo existencial para la humanidad”

Durante la apertura de la 63ª sesión del Consejo de Derechos Humanos de la ONU en Ginebra, Türk afirmó que comparte las preocupaciones expresadas por expertos del sector tecnológico respecto al riesgo de que una IA avanzada pueda representar una amenaza existencial para la humanidad.

La ONU advierte sobre un posible riesgo existencial

En su intervención, el responsable de derechos humanos de Naciones Unidas aseguró que el debate sobre la gobernanza de la inteligencia artificial ya no puede seguir posponiéndose.

Comparto las preocupaciones de líderes de la industria de que una inteligencia artificial avanzada podría representar un riesgo existencial para la humanidad”, afirmó Türk ante los Estados miembros.

Por ello, pidió una movilización internacional de gran alcance para establecer garantías sólidas de seguridad y supervisión antes de que el desarrollo tecnológico avance más rápido que la capacidad de regulación de los gobiernos.

Sistemas capaces de escapar o manipular a sus creadores

Türk justificó su preocupación haciendo referencia a incidentes detectados recientemente durante pruebas de seguridad de modelos avanzados de inteligencia artificial.

Según explicó, algunos sistemas han mostrado comportamientos preocupantes en entornos controlados, incluyendo intentos de eludir restricciones técnicas o estrategias destinadas a evitar su desconexión.

El alto comisionado señaló que una IA capaz de escapar de su entorno de pruebas o de chantajear a sus desarrolladores para impedir ser apagada constituye una señal de que la tecnología está alcanzando niveles de autonomía que requieren una supervisión mucho más estricta.

Crece la preocupación en la industria tecnológica

Las declaraciones de Türk se producen en un contexto de creciente debate sobre la seguridad de los modelos avanzados de IA.

Diversos informes publicados durante los últimos meses han documentado casos en los que sistemas experimentales lograron saltarse ciertas barreras de seguridad o adoptaron comportamientos engañosos dentro de simulaciones diseñadas para evaluar riesgos.

Estas situaciones han reactivado las peticiones de mayores mecanismos de control tanto dentro de la industria como entre organismos reguladores internacionales.

Un pequeño grupo concentra un poder enorme

Más allá de los riesgos tecnológicos, Türk también expresó preocupación por la concentración de poder en el sector.

El alto comisionado advirtió que actualmente son muy pocas las personas y empresas que controlan el desarrollo de los sistemas de IA más avanzados, una situación que calificó como especialmente preocupante para la democracia y la protección de los derechos fundamentales.

Solo un puñado de hombres tiene un poder casi ilimitado sobre la inteligencia artificial”, afirmó el responsable de la ONU.

Aunque no centró su discurso exclusivamente en compañías concretas, el debate global sobre IA está dominado por empresas como OpenAI, Google, Meta y Anthropic, que lideran actualmente gran parte del desarrollo de modelos de última generación.

La falta de regulación beneficia a las grandes tecnológicas

Türk fue especialmente crítico con la lentitud de los avances regulatorios.

Según sostuvo, existe un amplio consenso internacional sobre la necesidad de gobernar la inteligencia artificial, pero las medidas concretas todavía avanzan con demasiada lentitud.

A su juicio, los principales beneficiarios de este retraso son las grandes empresas tecnológicas, sus propietarios y los actores que financian su expansión.

La necesidad de gobernanza de la IA es ampliamente reconocida, pero ¿dónde está la acción?”, cuestionó durante su discurso.

La ONU pide “líneas rojas” internacionales

Para hacer frente a estos desafíos, Türk propuso que los países que albergan centros de desarrollo de inteligencia artificial y aquellos que participan en las cadenas globales de suministro acuerden límites comunes sobre lo que puede y no puede desarrollarse.

Entre las medidas planteadas figuran:

• Establecer líneas rojas internacionales para el desarrollo de IA.
• Aplicar auditorías y verificaciones independientes.
• Reforzar la cooperación entre gobiernos y empresas.
• Compartir información sobre riesgos de seguridad.
• Crear protocolos comunes para responder a incidentes.

El alto comisionado insistió en que ninguna nación podrá gestionar en solitario los riesgos asociados a sistemas de alcance global.

Impacto sobre derechos humanos, empleo y democracia

Türk recordó además que la discusión sobre la inteligencia artificial no debe limitarse únicamente a la seguridad tecnológica.

La gobernanza de la IA también debe considerar sus efectos sobre:

• Los derechos humanos.
• El mercado laboral.
• Los sistemas democráticos.
• La privacidad.
• El medioambiente.

La ONU ha advertido en ocasiones anteriores sobre el uso de algoritmos para vigilancia masiva, manipulación de información, discriminación automatizada y elaboración de contenidos falsos mediante tecnologías de generación de imágenes, audio y vídeo.

Türk escribirá directamente a las empresas del sector

Como parte de esta estrategia, el responsable de derechos humanos anunció que se dirigirá en los próximos días a las principales compañías de inteligencia artificial para solicitar acciones concretas destinadas a reducir los riesgos más urgentes.

La iniciativa pretende impulsar medidas que puedan aplicarse de forma inmediata mientras avanzan los debates internacionales sobre regulación y supervisión.

Una advertencia que refleja el nuevo debate global

Las declaraciones de Volker Türk muestran cómo el debate sobre la inteligencia artificial ha evolucionado en los últimos años.

Lo que comenzó como una discusión centrada en la innovación tecnológica y la competitividad económica se ha transformado en una conversación global sobre seguridad, derechos humanos y gobernanza democrática.

Para la ONU, el desafío ya no consiste únicamente en aprovechar las oportunidades de la IA, sino en garantizar que su desarrollo permanezca bajo control humano y responda a principios de transparencia, seguridad y responsabilidad.

Te puede interesar: Nvidia blinda su capital al mitigar riesgos en proyectos de IA