Nueva York quiere obligar a la IA a tener un “botón de apagado”: OpenAI, Google y Anthropic deberán responder

La audiencia se produce en un momento de creciente preocupación global por los avances de la IA y después de que algunos de los principales líderes del sector advirtieran públicamente sobre posibles amenazas para la seguridad, la estabilidad económica e incluso la humanidad.

Nueva York eleva la presión sobre las grandes empresas de IA

La presidenta del Concejo, Julie Menin, confirmó que las cuatro compañías aceptaron comparecer, aunque en varios casos la decisión llegó apenas horas antes de que se emitieran citaciones formales.

Según el organismo, Meta aceptó participar voluntariamente desde el inicio, mientras que OpenAI, Google y Anthropic solo confirmaron su asistencia después de que el Consejo advirtiera que utilizaría su poder de citación judicial.

El objetivo de la sesión será analizar los riesgos asociados a los sistemas de IA cada vez más potentes, evaluar los mecanismos de protección existentes y examinar posibles medidas legislativas para proteger a los ciudadanos de Nueva York.

SpaceXAI recibe una citación judicial

La única gran empresa del sector que no respondió a la solicitud fue SpaceXAI, la compañía de inteligencia artificial de Elon Musk. Ante la falta de respuesta, Menin ordenó emitir una citación formal para obligar a la empresa a comparecer en la audiencia del próximo lunes.

Si la compañía no atiende la citación, el Concejo podrá solicitar al Tribunal Supremo del Estado de Nueva York que obligue judicialmente a la empresa a presentarse.

La decisión refleja el endurecimiento de la postura de las autoridades locales frente a una industria que hasta ahora ha enfrentado una supervisión limitada a nivel federal.

El debate llega tras semanas de advertencias dentro de la industria

La audiencia se celebrará apenas semanas después de que varios líderes e investigadores de primer nivel alertaran sobre los riesgos asociados al desarrollo acelerado de modelos de inteligencia artificial cada vez más avanzados. Entre las voces más influyentes se encuentra el director ejecutivo de Anthropic, Dario Amodei, quien recientemente propuso moderar el ritmo de desarrollo de la IA de frontera para garantizar que las medidas de seguridad evolucionen al mismo ritmo que las capacidades de los modelos.

Las preocupaciones aumentaron además tras la renuncia de investigadores del sector y la aparición de reportes sobre agentes de IA capaces de operar fuera de los límites inicialmente previstos por sus desarrolladores.

Trump rechaza frenar el desarrollo de la IA

La iniciativa del Concejo neoyorquino contrasta con la postura defendida por el presidente de Estados Unidos, Donald Trump, quien ha rechazado las peticiones de parte de la industria para ralentizar el avance de la inteligencia artificial. Trump ha sostenido que una regulación excesiva podría favorecer a China en la carrera tecnológica global y ha argumentado que las leyes actuales ofrecen herramientas suficientes para supervisar el desarrollo de la IA.

El debate se ha convertido en uno de los principales temas estratégicos de la política tecnológica estadounidense, donde se enfrentan quienes reclaman mayores controles y quienes consideran que cualquier freno podría poner en riesgo la competitividad del país.

Una audiencia sin precedentes

Menin describió la sesión del próximo 5 de octubre como un acontecimiento excepcional dentro del funcionamiento habitual del Concejo.

La audiencia se celebrará bajo el formato de Committee of the Whole, un mecanismo poco frecuente que reúne a los 51 miembros del Consejo para abordar asuntos considerados de máxima relevancia para la ciudad.

Además de las empresas tecnológicas, participarán expertos nacionales en ciberseguridad, protección al consumidor, gobernanza tecnológica y seguridad de la inteligencia artificial.

¿Puede Nueva York influir en la regulación de la IA?

Aunque las competencias regulatorias más importantes recaen sobre Washington y las autoridades federales, la iniciativa del Concejo de Nueva York podría convertirse en una referencia para otros gobiernos estatales y municipales. La comparecencia obligatoria de las principales empresas del sector evidencia además un cambio en la actitud de los gobiernos locales, que comienzan a asumir un papel más activo frente a una tecnología cuyo avance está superando la capacidad de respuesta de muchas instituciones.

Más allá de las posibles medidas que surjan de la audiencia, el hecho de que los gigantes de la IA deban responder públicamente y bajo juramento sobre los riesgos de sus sistemas marca un nuevo capítulo en el debate global sobre cómo regular una de las tecnologías más transformadoras y controvertidas del siglo XXI.

Te puede interesar: Microsoft critica el entrenamiento de Claude y alerta del riesgo de tratar a la inteligencia artificial como si fuera humana

Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.