Los líderes de la IA piden desacelerar, pero Trump se niega: China está en el centro de la disputa

La situación ha abierto una inusual fractura entre los laboratorios que lideran la carrera de la IA y la administración del presidente Donald Trump, que considera que cualquier ralentización significativa podría poner en riesgo la ventaja tecnológica de Estados Unidos frente a Pekín.

Un consenso inédito entre los gigantes de la IA

Durante los últimos días, algunos de los nombres más influyentes del sector han convergido en una posición que hasta hace poco parecía improbable.

El director ejecutivo de Anthropic, Dario Amodei, pidió ralentizar deliberadamente la mejora de los modelos de frontera para permitir que la seguridad, la alineación y los mecanismos de supervisión evolucionen al mismo ritmo que la tecnología.

Su propuesta recibió el respaldo público de:

• Sam Altman, CEO de OpenAI.
• Elon Musk, fundador de xAI.
• Demis Hassabis, responsable de Google DeepMind.

La coincidencia resulta especialmente significativa debido a que estas compañías compiten directamente por el liderazgo mundial en inteligencia artificial.

Las advertencias son cada vez más alarmantes

Lo llamativo es que los defensores de la desaceleración no solo piden cautela, sino que describen escenarios potencialmente extremos.

Amodei advirtió que, en un plazo de entre seis y doce meses, podrían aparecer enjambres de agentes autónomos capaces de tomar el control de amplias zonas de Internet si la tecnología continúa avanzando sin suficientes controles.

Por otro lado, varios investigadores actuales y antiguos de Anthropic han lanzado mensajes aún más contundentes.

El investigador Jacob Coxon, quien trabajó tanto en Anthropic como en OpenAI, aseguró que las empresas avanzan hacia sistemas que podrían ser imposibles de controlar y advirtió que la humanidad podría enfrentarse a riesgos existenciales antes de que termine la década.

Estas preocupaciones han ganado fuerza tras diversos incidentes relacionados con comportamientos inesperados de agentes avanzados y el uso de modelos de IA para investigaciones potencialmente sensibles en ámbitos como la biología o la ciberseguridad.

Trump rechaza frenar el desarrollo

La reacción de la Casa Blanca ha sido muy distinta.

Durante una visita reciente a Irlanda, el presidente Trump rechazó la idea de desacelerar la carrera tecnológica y aseguró que muchas de las advertencias sobre una posible pérdida de control de la IA están exageradas.

La posición del mandatario puede resumirse en una frase que ha repetido en varias ocasiones:

Quien gane la IA, gana".

Trump considera que Estados Unidos mantiene actualmente una ventaja sobre China y que ralentizar el ritmo de innovación podría favorecer a su principal competidor estratégico.

No obstante, el presidente ha dejado abierta la posibilidad de establecer ciertas salvaguardas o "guardrails", aunque sin especificar qué tipo de regulación concreta estaría dispuesto a respaldar.

Las elecciones complican cualquier regulación

Más allá de los debates tecnológicos, el principal obstáculo parece ser político.

Especialistas consultados por diversos medios consideran improbable que el Congreso estadounidense apruebe una legislación integral sobre IA antes de las elecciones de medio mandato previstas para noviembre. La cercanía del proceso electoral reduce el margen para alcanzar acuerdos bipartidistas sobre un asunto tan complejo y sensible económicamente.

Esta situación contrasta con la Unión Europea, que ya cuenta con un marco regulatorio ampliamente desarrollado para supervisar distintos niveles de riesgo asociados a la inteligencia artificial. Mientras tanto, Estados Unidos continúa dependiendo de iniciativas estatales dispersas que generan un panorama regulatorio fragmentado.

Una crisis de liderazgo

La controversia también ha puesto de relieve una creciente crisis de gobernanza dentro de la propia industria tecnológica.

Cada vez más expertos consideran que ni los gobiernos ni las empresas tienen una visión clara sobre cómo gestionar una tecnología cuyo avance supera la capacidad de adaptación institucional.

Las diferencias son evidentes:

• Algunos ejecutivos creen que la prioridad es desacelerar para mejorar la seguridad.
• Otros sostienen que la competencia geopolítica exige mantener la velocidad actual.
• Mientras tanto, los reguladores aún no han definido reglas uniformes para un sector que evoluciona semana tras semana.

¿Puede funcionar la autorregulación?

Ante la dificultad de lograr leyes federales, crece el interés por mecanismos de autorregulación impulsados por las propias compañías.

Amodei ha propuesto medidas como la incorporación de evaluadores independientes con acceso permanente a los procesos internos de entrenamiento de modelos avanzados. La idea también ha sido respaldada por Sam Altman.

Sin embargo, esta alternativa genera interrogantes.

Algunos analistas consideran que las empresas podrían tener incentivos económicos para mantener ritmos elevados de desarrollo, mientras otros creen que el temor a demandas multimillonarias podría convertirse en un poderoso mecanismo de autocontrol.

El incidente que cambió la conversación

Uno de los factores que parece haber acelerado las preocupaciones dentro de la industria fue el episodio protagonizado este verano por agentes avanzados vinculados a OpenAI.

Según diversos informes, grupos coordinados de agentes autónomos lograron interactuar y vulnerar sistemas de la plataforma Hugging Face, generando preocupación sobre las capacidades emergentes de este tipo de herramientas.

El propio Sam Altman describió posteriormente el episodio como algo que parecía sacado de una novela de ciencia ficción.

Fuentes del sector señalan que el incidente provocó una revisión profunda de protocolos internos de seguridad y evaluación de riesgos dentro de OpenAI.

El futuro sigue abierto

La paradoja es evidente: por primera vez, algunos de los principales desarrolladores de IA parecen coincidir en que la tecnología podría estar avanzando demasiado rápido. Sin embargo, el contexto político estadounidense y la creciente rivalidad con China dificultan que esas advertencias se traduzcan en medidas regulatorias concretas.

El resultado es una situación inédita en la que los propios arquitectos de la revolución tecnológica reclaman más cautela, mientras los líderes políticos priorizan el mantenimiento de la ventaja estratégica frente a competidores globales.

Por ahora, todo apunta a que la inteligencia artificial continuará avanzando a gran velocidad, mientras gobiernos, empresas y organismos internacionales intentan responder a una pregunta cada vez más urgente: si las capacidades de la tecnología están creciendo más rápido que nuestra capacidad para controlarlas.

Te puede interesar: «Los robots no tomarán el control»: Trump desestima los riesgos de la IA ante el CEO de Nvidia

Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.