¿Qué son los compañeros de IA y por qué Europa quiere limitar su uso entre menores?

La iniciativa, denominada"IA protectora de los niños", surge en un momento en que Europa endurece su enfoque regulatorio sobre la tecnología y la seguridad digital infantil, coincidiendo además con la presentación de la nueva Ley KIDS de la Unión Europea.

Francia quiere evitar repetir los errores de las redes sociales

El anuncio fue realizado tras una reunión entre Sarah El Haïry, alta comisionada para la Infancia de Francia, y Najat Maalla M’jid, representante especial del secretario general de la ONU sobre la violencia contra los niños.

Durante los próximos dos meses, la coalición reunirá a gobiernos, organizaciones sociales, expertos y empresas tecnológicas para diseñar medidas concretas destinadas a reducir los riesgos que la IA representa para los menores.

Según el Ejecutivo francés, la inteligencia artificial ofrece oportunidades extraordinarias para el aprendizaje, la creatividad y el acceso al conocimiento, pero también introduce amenazas inéditas para la infancia.

Entre ellas destacan:

• Exposición a contenidos inadecuados.
• Manipulación psicológica y emocional.
• Dependencia afectiva hacia asistentes virtuales.
• Recopilación de datos íntimos.
• Recomendaciones peligrosas.
• Creación y difusión de deepfakes sexuales.
• Alteración fraudulenta de imágenes de menores.

El temor a los "compañeros de IA"

Uno de los aspectos que más preocupa actualmente a reguladores y expertos es el crecimiento de los llamados compañeros de IA, chatbots diseñados para mantener conversaciones prolongadas y generar vínculos emocionales con los usuarios.

La preocupación es tal que la propuesta de la Comisión Europea establece que los sistemas de IA no deberán simular relaciones interpersonales capaces de generar dependencia emocional en menores.

Este problema ha ganado relevancia mundial después de varios casos en los que niños y adolescentes desarrollaron vínculos psicológicos intensos con asistentes conversacionales avanzados.

Un "modo menor" para toda la IA

Entre las propuestas impulsadas por Francia destaca la creación de un"modo menor" universal para los servicios de inteligencia artificial.

La idea contempla que todos los sistemas de IA incorporen por defecto mecanismos de protección específicos para usuarios menores de edad.

Asimismo, la coalición estudiará:

• Configuraciones protectoras activadas automáticamente.
• Herramientas de verificación de edad.
• Sistemas de bloqueo de contenidos sensibles.
• Protocolos para prevenir manipulaciones emocionales.
• Controles parentales reforzados.

Otro elemento innovador es la propuesta de incluir un botón de emergencia claramente visible que permita a un niño denunciar inmediatamente una situación peligrosa o un contenido perjudicial.

"No podemos cometer el mismo error"

La alta comisionada francesa Sarah El Haïry fue especialmente contundente al defender la iniciativa.

Con demasiada frecuencia hemos construido el entorno digital antes de preguntarnos cómo proteger en él a los niños. Hoy vemos los daños, especialmente en las redes sociales y la mensajería de los videojuegos. Con la inteligencia artificial no tenemos derecho a cometer el mismo error".

Su mensaje refleja un creciente consenso entre gobiernos europeos: la regulación no debe llegar después de que aparezcan los problemas, sino anticiparse a ellos.

España se suma al esfuerzo

La iniciativa francesa recibió el respaldo de España durante una reunión celebrada en París entre Sarah El Haïry y la ministra española de Juventud e Infancia, Sira Rego.

Rego destacó la importancia de construir alianzas internacionales que permitan desarrollar estándares comunes de protección para los menores en el ecosistema digital.

La participación española refuerza un bloque europeo que en los últimos meses ha defendido mayores restricciones al uso de redes sociales y tecnologías digitales por parte de niños y adolescentes.

La nueva Ley KIDS de la Unión Europea

El lanzamiento de la coalición coincidió con la presentación oficial de la Ley KIDS de la Unión Europea, uno de los proyectos regulatorios más ambiciosos impulsados por Bruselas en materia de protección infantil digital.

La propuesta contempla:

• Prohibir el acceso de menores de 13 años a redes sociales.
• Establecer los 15 años como edad mínima para abrir cuentas propias.
• Permitir cuentas supervisadas para menores de 13 y 14 años.
• Obligar a las plataformas a demostrar que son seguras por diseño.
• Limitar funciones adictivas como el desplazamiento infinito (endless scrolling).
• Restringir las notificaciones durante las horas de sueño.
• Exigir configuraciones de privacidad activadas por defecto.

La presidenta de la Comisión Europea, Ursula von der Leyen, resumió la filosofía de la norma afirmando que ahora serán las plataformas las que tendrán que demostrar que son seguras para los niños y no al revés.

Europa quiere liderar la protección infantil en la era de la IA

La ofensiva francesa y la nueva legislación europea muestran una tendencia cada vez más clara: los gobiernos buscan adelantarse a los riesgos de una tecnología que evoluciona mucho más rápido que los marcos regulatorios tradicionales.

La pregunta ya no es únicamente cómo desarrollar sistemas de inteligencia artificial más potentes, sino cómo garantizar que esas herramientas sean seguras para una generación de niños que crecerá interactuando diariamente con algoritmos, asistentes inteligentes y modelos generativos.

Te puede interesar: Mark Zuckerberg rechaza frenar la IA junto a OpenAI, Anthropic y Google: estas son sus razones

Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.