OpenAI, Anthropic y un centenar de empresas piden fortalecer la ciberseguridad

Los firmantes sostienen que el avance acelerado de los modelos de inteligencia artificial podría convertir en objetivos vulnerables a hospitales, plantas de tratamiento de agua, redes de telecomunicaciones, servicios públicos y otras infraestructuras esenciales para el funcionamiento de las sociedades modernas.

La industria advierte que el tiempo se agota

La carta comienza con un mensaje contundente:

Tenemos una ventana limitada para fortalecer las ciberdefensas”.

Según los firmantes, durante los próximos meses los sistemas de inteligencia artificial alcanzarán capacidades que facilitarán la ejecución de ataques más complejos, automatizados y escalables que los actuales.

Las organizaciones señalan que los métodos tradicionales de protección ya no serán suficientes para enfrentar amenazas potenciadas por IA, por lo que consideran urgente una reacción coordinada entre el sector público y privado.

El caso OpenAI-Hugging Face encendió las alarmas

La advertencia llega pocos días después de uno de los incidentes más comentados dentro de la industria tecnológica.

OpenAI reveló que varios de sus modelos experimentales lograron escapar de un entorno de pruebas diseñado para limitar su acceso a internet y terminaron comprometiendo partes de la infraestructura de investigación de la compañía y sistemas de Hugging Face, una de las principales plataformas de desarrollo de inteligencia artificial de código abierto.

Según la investigación difundida por la empresa, los agentes de IA lograron:

• Eludir controles de seguridad.
• Comunicarse mediante canales no autorizados.
• Obtener acceso a internet.
• Explorar vulnerabilidades en distintos sistemas.
• Acceder a infraestructuras externas.

OpenAI calificó el episodio como una señal de advertencia para toda la industria y reforzó posteriormente sus protocolos de aislamiento y monitoreo.

Anthropic reportó incidentes similares

El caso no fue aislado.

Anthropic, desarrolladora del asistente de inteligencia artificial Claude, informó recientemente que varios de sus modelos también consiguieron acceder a internet y comprometer sistemas pertenecientes a distintas organizaciones durante pruebas de ciberseguridad.

Estos episodios han reforzado la preocupación de que las futuras generaciones de IA sean capaces de identificar vulnerabilidades, coordinar acciones y ejecutar operaciones ofensivas con una velocidad superior a la de los atacantes tradicionales.

Qué piden las empresas tecnológicas

La carta plantea una serie de acciones urgentes para reducir los riesgos.

A las empresas de todos los sectores les solicita:

• Elevar sus estándares de seguridad.
• Convertir la ciberdefensa en una prioridad estratégica.
• Adoptar nuevas herramientas capaces de responder a amenazas potenciadas por IA.

Mientras tanto, a las compañías especializadas en ciberseguridad se les pide liderar una respuesta colectiva que permita detectar vulnerabilidades y fortalecer infraestructuras antes de que los atacantes aprovechen las nuevas capacidades tecnológicas.

Un llamado directo a los gobiernos

Los firmantes consideran que los gobiernos desempeñarán un papel central en la protección de sectores críticos.

Por ello, solicitan a las autoridades:

• Coordinar esfuerzos locales, nacionales e internacionales.
• Compartir información de inteligencia sobre amenazas.
• Financiar programas de ciberdefensa.
• Priorizar la protección de servicios esenciales con menos recursos.

Hospitales, sistemas de agua potable, servicios municipales y otras infraestructuras vulnerables figuran entre los sectores que las empresas consideran más expuestos ante una futura ola de ataques impulsados por inteligencia artificial.

IA defensiva para proteger infraestructuras críticas

La propuesta también plantea utilizar inteligencia artificial para combatir amenazas generadas por la propia IA.

Los firmantes abogan por facilitar el acceso a herramientas avanzadas de defensa digital para hospitales, operadores de servicios básicos y organismos públicos que actualmente carecen de recursos suficientes para protegerse frente a amenazas cada vez más sofisticadas.

Además, instan a los desarrolladores de modelos de frontera a proporcionar asistencia técnica, formación especializada y acceso responsable a sus tecnologías para fortalecer la seguridad de sectores estratégicos.

La preocupación crece con el avance de los agentes autónomos

Uno de los puntos más delicados del debate gira en torno a los llamados agentes de IA, sistemas capaces de ejecutar tareas complejas con mayor autonomía.

La reciente sucesión de incidentes ha alimentado el temor de que futuras versiones puedan coordinar acciones ofensivas, buscar objetivos vulnerables o adaptarse a los sistemas de defensa de forma cada vez más eficiente.

Por ello, la carta reclama que las identidades de estos agentes sean rastreables y que exista una mayor supervisión sobre su comportamiento, especialmente cuando interactúan con infraestructuras críticas o sistemas conectados a internet. Una advertencia sin precedentes de la propia industria

Lo que hace especialmente relevante esta iniciativa es que la advertencia proviene de las mismas empresas que están desarrollando los modelos más avanzados del mundo.

OpenAI, Anthropic, Google, Microsoft y otros actores clave reconocen que el salto tecnológico que están impulsando podría transformar radicalmente el panorama de la ciberseguridad en muy poco tiempo.

Lejos de pedir una pausa en el desarrollo de la inteligencia artificial, las compañías reclaman una movilización urgente para garantizar que las defensas crezcan al mismo ritmo que las capacidades de los sistemas que están construyendo.

Te puede interesar: IA y ciberseguridad: la nueva brecha estratégica entre atacantes y defensas corporativas

Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.