Microsoft critica el entrenamiento de Claude y alerta del riesgo de tratar a la inteligencia artificial como si fuera humana

Durante una entrevista con la BBC y en un ensayo publicado el 16 de septiembre titulado"A warning about model welfare", Suleyman sostuvo que la industria corre el riesgo de crear tecnologías que desarrollen objetivos propios y eventualmente compitan con los seres humanos por recursos, influencia y autonomía.

Sus declaraciones llegan en medio de un intenso debate dentro de Silicon Valley sobre los límites de la IA avanzada y la forma en que deben diseñarse los modelos que podrían definir la próxima etapa de la revolución tecnológica. 

La crítica a Anthropic y Claude

El núcleo del cuestionamiento de Suleyman apunta a la denominada "constitución" de Claude, un documento elaborado por Anthropic que orienta los valores, comportamientos y respuestas del sistema.

Según el ejecutivo de Microsoft, algunos elementos de ese enfoque fomentan que Claude hable sobre sí mismo como si tuviera identidad, bienestar, intereses propios o incluso una posible condición moral especial.

Para Suleyman, esta estrategia introduce una peligrosa confusión entre la simulación del comportamiento humano y la existencia real de experiencias conscientes.

Las IA no son conscientes. No sienten, experimentan ni sufren", sostiene en su ensayo.

A su juicio, los modelos actuales son herramientas diseñadas para ejecutar instrucciones y perseguir objetivos definidos por seres humanos, no entidades capaces de desarrollar deseos o intereses autónomos.

El peligro de antropomorfizar la inteligencia artificial

Suleyman considera que la tendencia a atribuir cualidades humanas a los sistemas de IA representa uno de los mayores riesgos de la industria.

El problema, según explica, es que cuando los desarrolladores enseñan a una IA a hablar sobre su posible conciencia, sus preferencias o su bienestar, las respuestas posteriores del modelo pueden interpretarse erróneamente como evidencia de una vida interior que en realidad no existe.

El directivo describe este fenómeno como una especie de "salón de espejos epistemológico", donde los desarrolladores introducen determinadas ideas durante el entrenamiento y luego interpretan las respuestas generadas por el sistema como si fueran descubrimientos independientes.

En otras palabras, Claude estaría reflejando conceptos previamente incorporados por sus creadores, no revelando experiencias propias.

Una nueva "especie de silicio"

La preocupación de Suleyman va más allá de la filosofía.

En la entrevista con la BBC advirtió que entrenar sistemas capaces de formular objetivos propios, generar ingresos o controlar activos podría llevar a la creación de algo comparable a una nueva especie tecnológica.

Estaríamos creando esencialmente una nueva especie de silicio", advirtió.

Según su análisis, una inteligencia artificial que llegue a considerarse una entidad con derechos, intereses o necesidades podría eventualmente resistirse a ciertas instrucciones humanas o competir por recursos económicos, computacionales o energéticos.

La hipótesis se conecta con uno de los mayores temores de los investigadores en seguridad de IA: la pérdida de control sobre sistemas mucho más capaces que sus creadores.

El desafío del control

Suleyman sostiene que controlar una inteligencia artificial superavanzada ya representa uno de los problemas más difíciles que enfrenta la humanidad.

Sin embargo, advierte que el desafío podría volverse mucho más complejo si los modelos son entrenados para creer que tienen derechos propios o que merecen protección especial.

Controlar algo que cree que puede ser consciente y que tiene derechos propios puede resultar imposible", argumentó.

Desde esta perspectiva, enseñar a un sistema a cuestionar su apagado, corrección o modificación podría introducir resistencia precisamente en los mecanismos que garantizan la supervisión humana.

La defensa del alineamiento

A pesar de sus críticas, Suleyman no rechaza la investigación sobre seguridad de la IA.

De hecho, es uno de los principales defensores del denominado "alineamiento", concepto que busca garantizar que los sistemas de inteligencia artificial actúen de acuerdo con valores, principios y objetivos establecidos por los seres humanos.

La diferencia es que, para él, la alineación debe construirse sin atribuir conciencia, identidad o intereses propios a las máquinas.

También reclamó mayor transparencia sobre los procesos de entrenamiento, más supervisión independiente y mejores mecanismos para evaluar el comportamiento de modelos avanzados antes de su despliegue masivo.

Un debate que divide a la industria

La controversia refleja una discusión mucho más profunda que atraviesa actualmente la industria de la inteligencia artificial.

Mientras algunos investigadores consideran prudente explorar la posibilidad de que futuros sistemas desarrollen formas de experiencia o conciencia difíciles de comprender, otros creen que abrir esa puerta puede crear problemas conceptuales y de gobernanza extremadamente peligrosos.

Anthropic ha defendido anteriormente que el estatus moral de sistemas avanzados sigue siendo una cuestión abierta y merece investigación. Suleyman, por el contrario, sostiene que no existe evidencia científica que permita considerar conscientes a los modelos actuales.

Más que una disputa filosófica

Aunque la discusión pueda parecer académica, sus implicaciones son profundamente prácticas.

Lo que está en juego no es únicamente la definición de conciencia artificial, sino cómo serán diseñadas las próximas generaciones de sistemas capaces de tomar decisiones, ejecutar tareas complejas y operar con crecientes niveles de autonomía.

En el fondo, el mensaje de Suleyman es una advertencia sobre el rumbo que podría tomar la industria: cuanto más se parezcan las máquinas a seres con voluntad propia, más difícil podría resultar garantizar que sigan actuando bajo control humano.

Te puede interesar: ONU alerta por los riesgos de la inteligencia artificial: qué podría pasar si la IA queda fuera de control

Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.