IA y niños: todo sobre la coalición internacional para regularla

España, Unicef y más de 20 países impulsan una coalición para proteger los derechos de la infancia en la era de la inteligencia artificial.
El acuerdo busca frenar riesgos como los deepfakes, la manipulación algorítmica y el uso indebido de datos de niños y adolescentes.
Más allá de la regulación, las familias siguen siendo un pilar clave para educar a los menores en un uso seguro y crítico de la IA.

La inteligencia artificial ya dejó de ser un asunto exclusivo de laboratorios tecnológicos o salas de juntas corporativas. Hoy participa silenciosamente en la vida cotidiana de millones de niños: recomienda videos, conversa mediante asistentes virtuales, genera imágenes hiperrealistas, ayuda con las tareas escolares y comienza incluso a moldear relaciones sociales.

El problema es que esa presencia creció mucho más rápido que las reglas diseñadas para proteger a quienes todavía no tienen la madurez suficiente para comprender cómo funciona.

Con ese escenario como telón de fondo, España presentó en Ginebra la Coalición Internacional para los Derechos y la Protección de la Infancia en la Era de la Inteligencia Artificial, una iniciativa respaldada por más de veinte países, la Unión Europea, Unicef, Unesco y diversos organismos de Naciones Unidas. El objetivo es construir un marco internacional que coloque los derechos de los menores en el centro del desarrollo de los sistemas de IA.

La iniciativa representa uno de los primeros intentos de trasladar al ecosistema de la inteligencia artificial el mismo principio que durante décadas ha guiado otras políticas públicas: cuando una innovación afecta a la infancia, la protección debe diseñarse desde el inicio y no como una corrección posterior.

¿Puede una coalición internacional proteger realmente a los niños en un ecosistema dominado por empresas privadas, algoritmos globales y plataformas cuya velocidad de innovación supera ampliamente la capacidad regulatoria de los Estados?

El riesgo digital ha cambiado para siempre

Durante años, el debate internacional se concentró en el impacto psicológico de las redes sociales: adicción, ansiedad, pérdida de autoestima, ciberacoso y exposición a contenidos nocivos.

La inteligencia artificial amplía considerablemente ese mapa de riesgos.

Hoy un menor puede mantener conversaciones durante horas con un chatbot que simula empatía, recibir información completamente falsa presentada como un hecho, crear imágenes hiperrealistas imposibles de distinguir de una fotografía o convertirse en víctima de deepfakes capaces de fabricar contenido sexual sin que exista una imagen original.

La propia declaración firmada por la coalición identifica amenazas concretas como:

generación de pornografía sintética y material de abuso infantil mediante IA;
manipulación emocional a través de asistentes conversacionales;
segmentación algorítmica de menores para fines comerciales;
recopilación masiva de datos personales;
exposición automática a contenidos perjudiciales;
amplificación de sesgos y discriminación mediante sistemas automatizados.

A diferencia de las redes sociales tradicionales, muchos modelos de IA interactúan directamente con el usuario, generan respuestas personalizadas y aprenden de cada conversación, aumentando el nivel de influencia que pueden ejercer sobre niños y adolescentes.

¿Qué cambia realmente con la coalición impulsada por España?

La coalición no crea una legislación internacional vinculante ni impone sanciones a las empresas tecnológicas.

Su valor reside en otro aspecto, a partir de construir estándares comunes antes de que las regulaciones nacionales comiencen a fragmentarse.

Entre sus principales compromisos destacan:

promover sistemas de IA diseñados bajo el principio de «seguridad desde el origen» (Safety by Design);
incorporar evaluaciones específicas sobre impacto en la infancia antes del lanzamiento de nuevas herramientas;
fomentar mecanismos de transparencia para explicar cómo funcionan los algoritmos que interactúan con menores;
impulsar investigaciones sobre efectos psicológicos y sociales de la IA en niños y adolescentes;
fortalecer la cooperación internacional frente al abuso sexual infantil generado mediante inteligencia artificial.

En otras palabras, el objetivo es que la protección infantil deje de depender únicamente del control parental y pase también a ser una obligación del diseño tecnológico.

El gran vacío: la ausencia de Estados Unidos y China

Ni Estados Unidos ni China forman parte de la iniciativa, precisamente los dos países donde se concentran la mayoría de las empresas que desarrollan los modelos de inteligencia artificial más utilizados en el mundo.

Esto limita, al menos inicialmente, el alcance práctico de muchos de los compromisos.

Las plataformas que utilizan millones de menores, desde asistentes conversacionales hasta generadores de imágenes y motores de búsqueda impulsados por IA, pertenecen en su mayoría a compañías estadounidenses o chinas.

Sin su participación, la capacidad de establecer estándares verdaderamente globales dependerá de la influencia regulatoria que puedan ejercer la Unión Europea y otros países adheridos, especialmente mediante normas que condicionen el acceso a sus mercados.

La experiencia reciente del Reglamento General de Protección de Datos (GDPR) demuestra que Europa puede terminar exportando estándares regulatorios al resto del mundo cuando las empresas optan por adaptar un único modelo operativo para todos sus usuarios.

Las working mothers enfrentan un desafío distinto al de generaciones anteriores

Para muchas ejecutivas, emprendedoras y profesionales, la inteligencia artificial ya forma parte del trabajo diario.

La paradoja aparece cuando la misma tecnología que aumenta la productividad de los adultos comienza a integrarse en la vida escolar de sus hijos.

El desafío ya no consiste únicamente en limitar el tiempo frente a las pantallas.

Ahora es necesario enseñar pensamiento crítico frente a contenidos que parecen completamente reales.

Diversos estudios muestran que los menores tienden a atribuir autoridad a los sistemas conversacionales cuando estos ofrecen respuestas fluidas y convincentes, incluso cuando contienen errores importantes. Esta tendencia puede favorecer la desinformación o dificultar que desarrollen habilidades para contrastar fuentes.

Para una madre con jornadas laborales extensas, el reto deja de ser únicamente supervisar dispositivos. También implica comprender cómo funcionan herramientas que evolucionan prácticamente cada semana.

5 medidas que refuerzan en casa la protección

Ninguna regulación sustituirá el papel de las familias. La alfabetización digital comienza en el hogar.

Algunas prácticas recomendadas por especialistas en seguridad infantil y educación digital incluyen:

1. Explicar qué es una inteligencia artificial. Los niños deben comprender que un chatbot no piensa ni siente, sino que genera respuestas estadísticas a partir de grandes volúmenes de información.

2. Evitar compartir información personal. Nombre completo, dirección, colegio, fotografías o rutinas familiares nunca deberían introducirse en conversaciones con herramientas de IA.

3. Utilizar la IA como herramienta de aprendizaje, no como sustituto del razonamiento. Resolver ejercicios junto con los hijos resulta mucho más beneficioso que permitir que la plataforma produzca respuestas completas sin análisis posterior.

4. Hablar sobre deepfakes desde edades tempranas. Enseñar que imágenes, videos o audios pueden ser completamente falsos reduce la probabilidad de manipulación.

5. Mantener conversaciones frecuentes. La confianza continúa siendo el mecanismo de protección más efectivo. Los niños suelen informar antes sobre situaciones incómodas cuando perciben que no serán castigados por preguntar.

Es importante tener en cuenta que la velocidad con la que evoluciona la IA obliga a reconocer una realidad incómoda. Ningún acuerdo internacional podrá anticipar todos los riesgos de una tecnología que aprende, se transforma y se distribuye a escala global en cuestión de semanas.

Por ello, la protección infantil dependerá de tres capas complementarias: regulaciones públicas capaces de exigir responsabilidad a las empresas, desarrolladores comprometidos con principios de seguridad desde el diseño y hogares donde la educación digital tenga el mismo peso que cualquier otra competencia esencial del siglo XXI.

Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.