Sam Altman y Elon Musk piden frenar el avance de la IA

Consenso en Silicon Valley: Sam Altman y Elon Musk respaldan frenar el ritmo de la IA por seguridad

El debate sobre el futuro de la inteligencia artificial ha entrado en una nueva fase. Algunos de los principales ejecutivos de Silicon Valley comienzan a coincidir en una cuestión que hasta hace poco parecía difícil de plantear: el desarrollo de los modelos de IA más avanzados podría necesitar una pausa o, al menos, un ritmo más controlado.

Composición tecnológica con dos figuras públicas del sector de inteligencia artificial frente a un fondo digital con circuitos y la palabra “AI”.

Foto: Consenso en Silicon Valley: líderes tecnológicos plantean el debate sobre la velocidad y la seguridad del desarrollo de la IA.

Jhojhanni Fiorini

DIGITAL EDITOR

15.09.2026 16:02

Sam Altman, Elon Musk y otros referentes del sector han expresado preocupación por la velocidad con la que aumentan las capacidades de estos sistemas.

La discusión ya no se limita a cuánto puede avanzar la IA, sino a si las empresas están desarrollando mecanismos de seguridad capaces de acompañar ese progreso.

La preocupación adquiere mayor relevancia después de que investigadores vinculados a Anthropic hayan advertido sobre escenarios extremos asociados con sistemas de IA cada vez más autónomos.

Te puede interesar: Silicon Valley construye el futuro con inteligencia artificial, pero quiere que se parezca al pasado ¿Por qué?

Sam Altman y Elon Musk coinciden en moderar el avance de la IA

Elon Musk fue directo al respaldar la posición de Dario Amodei, CEO de Anthropic, quien sostiene que las capacidades de la inteligencia artificial están avanzando más rápido que las medidas diseñadas para mantenerlas bajo control.

“Dario tiene razón”, escribió Musk en X, sumándose así al llamado a reforzar las garantías de seguridad.

Sam Altman, CEO de OpenAI, adoptó una posición similar. El ejecutivo afirmó que coincide con Amodei en la necesidad de moderar el avance de la frontera de la IA, una cuestión que, según explicó, ha formado parte de los debates internos de OpenAI durante las últimas semanas.

Altman también respaldó la posibilidad de incorporar evaluadores independientes con un acceso comparable al que tienen los empleados de las compañías de IA. La propuesta busca introducir una supervisión externa que permita detectar riesgos antes de que los nuevos modelos lleguen a una escala mayor.

El cambio resulta significativo porque plantea una tensión creciente entre dos objetivos: mantener el liderazgo tecnológico y garantizar que la expansión de la IA no avance más rápido que la capacidad de controlarla.

Te puede interesar: Apple, Google y Oura llevan los wearables más allá del fitness. ¿Qué buscan en el negocio de la salud?

Anthropic alerta sobre los riesgos de los modelos más avanzados

La discusión se intensificó después de la salida de Jacob Coxon, investigador de Anthropic, quien expresó su preocupación por el potencial impacto de la inteligencia artificial avanzada.

Otros miembros de la compañía también han planteado advertencias. Evan Hubinger, responsable de ciencia de alineación, llegó a señalar que considera superior al 10% la probabilidad de que la tecnología pueda provocar la extinción de la humanidad durante la próxima década.

Estas declaraciones han colocado el concepto de alineación de la IA en el centro de la conversación. El objetivo de la alineación es conseguir que los sistemas actúen de acuerdo con los objetivos y valores humanos, incluso cuando sus capacidades aumentan considerablemente.

Dario Amodei ha defendido una mayor supervisión independiente y una coordinación más estrecha entre empresas y gobiernos. Su propuesta apunta a que la seguridad de los modelos más potentes no dependa exclusivamente de las propias compañías que los desarrollan.

La postura también ha provocado resistencia. Aidan Gómez, CEO de Cohere, cuestionó la idea de establecer una ralentización universal de la inteligencia artificial. A su juicio, imponer un freno general podría no traducirse automáticamente en una tecnología más segura y podría afectar de manera desigual a las empresas.

Te puede interesar: ¿Qué coleccionan los nuevos multimillonarios de la inteligencia artificial?

Silicon Valley se divide entre frenar la IA y reforzar sus defensas

El desacuerdo demuestra que no existe todavía un consenso completo sobre cómo gestionar los riesgos de la inteligencia artificial.

Satya Nadella, CEO de Microsoft, ha planteado un principio diferente. Para el ejecutivo, cualquier búsqueda de superinteligencia debe estar subordinada a que los sistemas beneficien a la humanidad y permanezcan bajo control humano.

Desde Hugging Face, Clément Delangue también ha defendido una mayor apertura en materia de seguridad. La compañía ha anunciado una iniciativa centrada en la alineación y ha mostrado interés en mecanismos de evaluación independientes.

George Kurtz, CEO de CrowdStrike, considera que el sector debe prepararse para los riesgos que ya están presentes. En lugar de frenar necesariamente el desarrollo, apuesta por mejorar las defensas, las pruebas independientes y los controles de seguridad para sistemas cada vez más autónomos.

Mark Zuckerberg, CEO de Meta, introduce otra dimensión en el debate: quién controla la IA. El ejecutivo sostiene que puede resultar peligroso que un reducido grupo de laboratorios concentre el acceso a una tecnología con semejante capacidad.

El escenario que emerge es, por tanto, más complejo que una simple división entre quienes apoyan o rechazan la regulación. El verdadero desafío para Silicon Valley consiste en determinar qué velocidad de innovación puede asumir la sociedad sin perder capacidad de supervisión.

La carrera por desarrollar modelos cada vez más potentes continúa, pero las últimas declaraciones de sus protagonistas muestran que la seguridad de la IA ha dejado de ser una cuestión secundaria. Para empresas, gobiernos e inversores, encontrar el equilibrio entre innovación, control y responsabilidad será uno de los grandes desafíos tecnológicos de los próximos años.

Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.