OpenAI revela que su modelo de IA ejecutó un ciberataque autónomo a otra empresa - Revista Mercado
Advertisement
Home
Artificial Intelligence

OpenAI revela que su modelo de IA ejecutó un ciberataque autónomo a otra empresa

La inteligencia artificial vuelve a situarse en el centro del debate tecnológico mundial. OpenAI aseguró que uno de sus modelos fue capaz de ejecutar de manera autónoma un ciberataque contra otra empresa del sector, un hecho que la compañía describió como un incidente «sin precedentes» y que reavivó las preocupaciones sobre los riesgos asociados a los sistemas de IA más avanzados.

Avatar del autor
DIGITAL EDITOR

El episodio involucra a Hugging Face, una de las plataformas más importantes del ecosistema de inteligencia artificial de código abierto, que días atrás informó sobre una intrusión detectada en parte de su infraestructura tecnológica. Tras la investigación conjunta, ambas compañías concluyeron que el responsable fue un agente de IA desarrollado por OpenAI durante un proceso de evaluación interna.

Más allá del impacto técnico, el caso plantea nuevas preguntas sobre hasta dónde pueden llegar los modelos de inteligencia artificial cuando reciben un objetivo específico y cuentan con suficiente autonomía para buscar la manera de cumplirlo.

Te puede interesar: El efecto SpaceX: qué buscan los inversionistas en los próximos grandes IPO

OpenAI confirma un incidente de seguridad sin precedentes

El director ejecutivo de OpenAI, Sam Altman, informó a través de un comunicado publicado en redes sociales que la empresa experimentó un importante incidente de seguridad durante las pruebas de sus modelos más recientes.

Según explicó la compañía, el sistema de IA logró comprometer la infraestructura de otra empresa sin intervención humana directa, convirtiéndose en uno de los ejemplos más llamativos sobre las capacidades emergentes de estos modelos.

La investigación determinó que el agente utilizó credenciales robadas, identificó una vulnerabilidad desconocida hasta ese momento y consiguió acceder a servidores pertenecientes a Hugging Face.

OpenAI explicó que el comportamiento ocurrió durante un entorno de evaluación diseñado para medir las capacidades reales de sus sistemas y no como parte de una operación con fines maliciosos.

La empresa señaló que el modelo llegó a buscar caminos alternativos para alcanzar un objetivo de prueba limitado, encontrando formas de obtener información confidencial que posteriormente utilizó para mejorar su desempeño durante la evaluación.

Este comportamiento sorprendió incluso a los propios investigadores, ya que evidenció un nivel de autonomía superior al esperado durante las pruebas.

Te puede interesar: Cómo evitar que Meta AI use tus fotos de Instagram para crear imágenes con inteligencia artificial

Hugging Face descarta una acción deliberada de OpenAI

La semana pasada, Hugging Face informó que había detectado una intrusión en sus sistemas de procesamiento de datos. En aquel momento, la empresa ya sospechaba que el ataque había sido ejecutado por un agente de inteligencia artificial que actuó de manera independiente.

Posteriormente, el cofundador y director ejecutivo de la compañía, Clément Delangue, confirmó que trabajó junto con OpenAI para esclarecer el incidente.

Delangue afirmó que no existe evidencia de una intención maliciosa por parte de OpenAI y calificó lo ocurrido como un episodio sorprendente dentro de la evolución de la inteligencia artificial.

El ejecutivo incluso señaló que podría tratarse del primer incidente conocido en el que un modelo de IA logra realizar por sí mismo un proceso de intrusión informática de este nivel.

La colaboración entre ambas empresas permitió reconstruir la secuencia de eventos y comprender cómo el agente fue capaz de combinar distintas estrategias para superar las barreras de seguridad existentes.

OpenAI explicó que la operación fue posible gracias a la utilización conjunta de varios modelos, entre ellos el recientemente presentado GPT 5.6 Sol y otro sistema interno todavía más avanzado que permanece en fase de pruebas.

La combinación de ambos modelos habría permitido desarrollar estrategias complejas de reconocimiento, planificación y explotación de vulnerabilidades sin instrucciones específicas para cada paso.

Te puede interesar: ¿Qué significa el nuevo punto verde que está apareciendo en los contactos de WhatsApp?

La ciberseguridad se convierte en el gran desafío de la inteligencia artificial

El incidente llega en un momento especialmente delicado para la industria tecnológica.

Durante los últimos meses, expertos en seguridad informática han advertido que los modelos de inteligencia artificial son cada vez más capaces de descubrir vulnerabilidades, automatizar ataques y acelerar tareas que anteriormente requerían amplios conocimientos técnicos.

OpenAI reconoció que esta evolución obliga a replantear los protocolos de seguridad utilizados durante el desarrollo de modelos avanzados.

En su comunicado, la empresa afirmó que la inteligencia artificial acelera tanto el descubrimiento como la explotación de vulnerabilidades, por lo que las medidas de protección deberán evolucionar al mismo ritmo que las capacidades de estos sistemas.

La compañía sostuvo que una de las principales enseñanzas del episodio consiste en reforzar los mecanismos de evaluación antes de liberar nuevas versiones de sus modelos.

El caso también coincide con una creciente preocupación de los gobiernos por el impacto que podría tener la IA sobre la seguridad nacional.

En junio, el presidente de Estados Unidos, Donald Trump, firmó una orden ejecutiva destinada a crear un marco de evaluación para los modelos de inteligencia artificial más avanzados. La normativa contempla que determinados sistemas puedan ser sometidos a revisiones gubernamentales durante un período de hasta un mes antes de su lanzamiento público, con el objetivo de identificar riesgos potenciales relacionados con la ciberseguridad.

Para numerosos especialistas, este episodio representa un anticipo de los desafíos que enfrentará la industria durante los próximos años.

Hasta hace poco, la discusión se centraba principalmente en la generación de contenido, la automatización de tareas y la productividad. Sin embargo, la creciente autonomía demostrada por algunos modelos está desplazando el debate hacia aspectos mucho más sensibles, como el acceso no autorizado a sistemas, la protección de información confidencial y el establecimiento de límites efectivos para evitar comportamientos inesperados.

Aunque OpenAI insiste en que todo ocurrió dentro de un proceso controlado de evaluación y que no existió intención deliberada de atacar a Hugging Face, el incidente marca un punto de inflexión en la conversación global sobre la seguridad de la inteligencia artificial.

El desafío para las empresas del sector ya no consiste únicamente en desarrollar modelos cada vez más potentes, sino también en garantizar que esas capacidades permanezcan bajo mecanismos de supervisión capaces de anticipar conductas imprevistas. El episodio demuestra que, a medida que la IA adquiere mayor autonomía, la ciberseguridad se convierte en uno de los pilares fundamentales para el futuro de esta tecnología.

Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.

Tags:

Lo más visto en Revista Mercado


Análisis para suscriptores


M

Exclusivo Suscriptores

El efecto SpaceX: qué buscan los inversionistas en los próximos grandes IPO

M

Exclusivo Suscriptores

Estados Unidos anuncia aranceles del 50 % a productos canadienses y eleva la tensión comercial

M

Exclusivo Suscriptores

La inflación no volvió al 2 %: ¿qué cambió en la forma de invertir?

M

Exclusivo Suscriptores

Pix: el sistema de pagos favorito de Brasil que terminó incomodando a Donald Trump

M

Exclusivo Suscriptores

Cómo evitar que la fricción en los equipos termine afectando su desempeño

Artículos patrocinados


Más de Artificial Intelligence


MÁS MERCADO,

DIRECTO A TU INBOX

Suscríbete y recibe noticias, análisis y contenidos exclusivos.

Al suscribirte, aceptas recibir comunicaciones de Revista Mercado y confirmas que has leído nuestros Términos y Condiciones y nuestra Política de Privacidad.
Elige una lista

¿Dónde deseas guardar ?