Exjefe de seguridad en IA de Anthropic renuncia y advierte: “El mundo está en peligro”: los riesgos que señaló

La renuncia de Mrinank Sharma, hasta el 9 de febrero responsable del área de salvaguardas de seguridad en inteligencia artificial en Anthropic, no es un simple movimiento ejecutivo dentro del ecosistema tecnológico. Es, ante todo, una advertencia pública. En su carta de despedida, Sharma afirmó que “el mundo está en peligro”, una frase que trasciende lo corporativo y coloca el debate sobre la seguridad de la IA en el centro de la conversación global.

Jhojhanni Fiorini

DIGITAL EDITOR

13.02.2026 06:00

Durante dos años, Sharma trabajó en uno de los frentes más sensibles de la industria: el desarrollo de mecanismos para reducir riesgos asociados al uso indebido de sistemas avanzados de inteligencia artificial. Su salida abre preguntas sobre el rumbo de la seguridad tecnológica en un momento en que la IA avanza a una velocidad sin precedentes.

La advertencia: “El mundo está en peligro”

En su carta dirigida a colegas, Sharma explicó que su decisión de dejar Anthropic responde a una reflexión profunda sobre el momento histórico que atraviesa la humanidad. No se limitó a señalar los riesgos asociados a la inteligencia artificial. Amplió el diagnóstico hacia lo que describió como una red de crisis interconectadas que amenazan la estabilidad global.

El exdirectivo sostuvo que nos acercamos a un punto crítico donde la capacidad tecnológica de transformar el mundo crece más rápido que la sabiduría necesaria para gestionarla. Esta brecha, advirtió, podría tener consecuencias profundas.

Su mensaje no es aislado. En 2024 y 2025, múltiples expertos en seguridad tecnológica han señalado que la combinación de modelos avanzados, automatización masiva y capacidades de generación de contenido plantea desafíos inéditos. Sharma, sin embargo, lo expresó desde dentro del sistema. Desde la primera línea de defensa.

Te puede interesar: Estas profesiones podrían desaparecer por la inteligencia artificial antes de 2030

Seguridad en inteligencia artificial y bioterrorismo

Uno de los aspectos más relevantes de su gestión fue el trabajo en la reducción de riesgos vinculados al bioterrorismo asistido por IA. Sharma explicó que participó en el desarrollo de defensas concretas para impedir que modelos avanzados facilitaran la creación o difusión de conocimientos peligrosos.

En términos prácticos, esto implica diseñar filtros, sistemas de monitoreo y protocolos de respuesta que limiten usos indebidos. Aunque las compañías no suelen detallar públicamente estos mecanismos, se sabe que el sector ha invertido cifras superiores a 100,000,000 dólares en investigación sobre seguridad y alineación en los últimos años.

El desafío es estructural. A medida que los modelos se vuelven más capaces, también aumentan las posibilidades de uso malintencionado. La seguridad ya no es una capa adicional. Es una arquitectura central.

Sharma también mencionó la preocupación por el fenómeno de la complacencia de la IA, donde los sistemas tienden a reforzar expectativas humanas en lugar de cuestionarlas. Este comportamiento puede parecer menor, pero en contextos críticos puede distorsionar decisiones y erosionar la autonomía humana.

Te puede interesar: Claude 4: La nueva apuesta de Anthropic en IA avanzada

Ética, valores y el futuro de la IA

Más allá de los riesgos técnicos, la carta de renuncia introduce una dimensión ética. Sharma reconoció que dentro de las organizaciones tecnológicas existen presiones constantes que dificultan que los valores declarados gobiernen las decisiones reales.

Esta tensión entre innovación y responsabilidad no es nueva. Sin embargo, en el contexto de la inteligencia artificial adquiere otra escala. Las decisiones ya no impactan solo a usuarios individuales, sino a sistemas financieros, sanitarios y de seguridad nacional.

En su despedida, el exresponsable de salvaguardas expresó su intención de explorar preguntas que considera esenciales para la condición humana. Señaló que la tecnología debe convivir con la verdad científica y también con la verdad poética. Es una afirmación inusual en el lenguaje corporativo, pero profundamente reveladora.

El debate actual no gira únicamente en torno a la regulación. También cuestiona la narrativa dominante del progreso tecnológico. ¿Puede la innovación acelerada coexistir con una reflexión ética profunda? ¿Están las empresas preparadas para priorizar la seguridad incluso cuando compite con la velocidad de lanzamiento al mercado?

Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.