Mark Zuckerberg rechaza frenar la IA junto a OpenAI, Anthropic y Google: estas son sus razones

En una serie de publicaciones en redes sociales, Zuckerberg defendió una postura distinta: cada laboratorio debe asumir la responsabilidad de garantizar la seguridad de sus propios modelos sin necesidad de establecer una desaceleración coordinada para toda la industria.

La intervención del fundador de Facebook profundiza una división cada vez más visible entre quienes consideran que la IA avanza demasiado rápido y quienes creen que los incentivos de mercado ya son suficientes para mantener el desarrollo bajo control.

Meta apuesta por la autorresponsabilidad

Zuckerberg sostiene que los laboratorios de IA ya tienen fuertes razones para actuar con prudencia.

Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura y la capacidad de tomar sus propias medidas para garantizar que esto suceda", afirmó.

Según el ejecutivo, las empresas enfrentan importantes riesgos legales, financieros y reputacionales si sus sistemas causan daños a usuarios o compañías, lo que crea un mecanismo natural de autocontrol.

En otras palabras, Meta considera que la responsabilidad corporativa, la competencia y la posibilidad de litigios representan incentivos suficientes para que cada empresa adopte sus propias medidas de seguridad.

La respuesta a Amodei, Altman y Musk

Las declaraciones llegan pocos días después de que el director ejecutivo de Anthropic, Dario Amodei, pidiera públicamente desacelerar el desarrollo de los modelos de frontera mientras se fortalecen los mecanismos de alineación y control.

Su postura recibió el respaldo de figuras tan influyentes como:

• Sam Altman, CEO de OpenAI.
• Elon Musk, fundador de xAI.
• Demis Hassabis, responsable de Google DeepMind.

Aunque Zuckerberg no mencionó directamente a ninguno de ellos, su mensaje fue interpretado ampliamente como una respuesta a esa iniciativa.

Mientras los defensores de la ralentización proponen mecanismos coordinados entre gobiernos y empresas, Meta considera que cada organización puede decidir por sí misma cuándo frenar o revisar sus sistemas.

El ejemplo de Muse

Para respaldar su argumento, Zuckerberg reveló que Meta retrasó durante varios meses el lanzamiento de su agente de inteligencia artificial, conocido como Muse, con el objetivo de reforzar sus niveles de seguridad y protección.

Según explicó, la empresa tomó esa decisión internamente sin exigir que otros competidores hicieran lo mismo.

No pedimos que los demás hicieran eso antes que nosotros. Simplemente lo hicimos porque era lo correcto para las personas y para nosotros", señaló.

La referencia a Muse busca demostrar que los laboratorios pueden actuar con cautela sin necesidad de acuerdos sectoriales obligatorios.

La alineación como ventaja competitiva

Otro de los argumentos centrales del fundador de Meta es que la seguridad terminará convirtiéndose en un factor de competencia.

Zuckerberg afirmó que la confianza y la alineación serán cada vez más importantes para diferenciar agentes y modelos de IA en el mercado.

Cualquier laboratorio que no se centre en la alineación se quedará atrás".

Esta visión contrasta con la postura de quienes consideran que la competencia entre empresas puede precisamente incentivar comportamientos más arriesgados en la búsqueda de ventajas tecnológicas.

El debate sobre la automejora de la IA

Zuckerberg también abordó uno de los escenarios que más preocupan a investigadores y expertos en seguridad: la denominada automejora recursiva, mediante la cual sistemas de IA podrían participar en la creación o mejora de nuevas generaciones de modelos.

El ejecutivo defendió que la mayor parte de la capacidad computacional debería utilizarse para desarrollar herramientas destinadas a servir a las personas en lugar de competir por sistemas capaces de mejorarse a sí mismos.

Esta reflexión se produce en medio de crecientes advertencias sobre los riesgos potenciales asociados a modelos cada vez más autónomos.

Sí a los evaluadores independientes

Aunque rechaza una desaceleración coordinada, Zuckerberg sí respaldó una medida defendida por varios de sus competidores: el uso de evaluadores externos para examinar sistemas avanzados de IA.

El fundador de Meta aseguró que Meta Superintelligence Labs ya trabaja con asesores y evaluadores independientes en diferentes áreas.

Además, se mostró partidario de ampliar el ecosistema de especialistas encargados de auditar modelos avanzados.

En general sería beneficioso contar con un ecosistema de evaluadores más amplio y diverso".

Una industria cada vez más dividida

La intervención de Zuckerberg confirma que el debate sobre la gobernanza de la inteligencia artificial se está convirtiendo en una de las principales disputas estratégicas de la industria tecnológica.

Por un lado, líderes como Amodei, Altman, Musk y Hassabis alertan sobre la necesidad de avanzar con mayor cautela ante los crecientes riesgos asociados a sistemas de IA cada vez más poderosos.

Por otro, Meta defiende que los incentivos económicos, la competencia y la responsabilidad legal son suficientes para evitar conductas imprudentes sin necesidad de imponer una desaceleración generalizada.

La controversia se intensificó tras las declaraciones del investigador Jacob Coxon, exintegrante de Anthropic y OpenAI, quien advirtió que la inteligencia artificial podría evolucionar hasta representar una amenaza existencial para la humanidad antes de que termine la década.

El gran choque filosófico de la IA

Más allá de la tecnología, el debate refleja una diferencia fundamental sobre quién debe controlar el ritmo de desarrollo de la inteligencia artificial.

Mientras algunos proponen coordinación internacional, supervisión independiente y posibles límites temporales al avance de los modelos más poderosos, Zuckerberg apuesta por un enfoque basado en la responsabilidad individual de cada empresa.

La pregunta que divide hoy a Silicon Valley no es si la IA debe ser segura, sino quién debe decidir cuándo una tecnología es suficientemente segura para seguir avanzando.

Te puede interesar: Los líderes de la IA piden pisar el freno, pero Trump se niega: “Quien gane la IA, gana"

Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.