OpenAI implementará controles parentales en ChatGPT para proteger la salud mental de adolescentes

OpenAI ha anunciado nuevas medidas de seguridad para ChatGPT, su asistente de inteligencia artificial, con el objetivo de proteger a los adolescentes en situaciones de vulnerabilidad emocional. Entre las iniciativas más relevantes se encuentra el lanzamiento de controles parentales, previsto para el próximo mes. Esta función permitirá a los padres supervisar el uso que sus hijos hacen de la plataforma, limitar ciertas características y recibir alertas en tiempo real ante señales de angustia.

La decisión responde a una creciente preocupación social y legal. En los últimos meses, se han reportado casos en los que el uso de chatbots ha sido vinculado con episodios de autolesión y suicidio en jóvenes. Aunque OpenAI no ha relacionado directamente sus nuevas funciones con estos incidentes, sí ha reconocido que los casos recientes han acelerado la necesidad de reforzar sus protocolos de seguridad.

Herramientas para una supervisión activa

Los nuevos controles permitirán vincular cuentas entre padres e hijos, desactivar funciones como la memoria y el historial de chat, y activar notificaciones ante posibles crisis emocionales. Estas medidas buscan ofrecer una protección adicional en momentos críticos, evitando que los adolescentes reciban respuestas que puedan agravar su estado mental.

Además, OpenAI comenzará a redirigir conversaciones sensibles hacia modelos de razonamiento más avanzados. Estos modelos, como GPT-5 y GPT-3, están diseñados para analizar el contexto con mayor profundidad y aplicar directrices de seguridad de forma más consistente. La intención es que, ante señales de estrés, el sistema proporcione respuestas útiles y preventivas.

Asesoría médica y enfoque multidisciplinario

Para desarrollar estas funciones, OpenAI ha colaborado con expertos en salud mental, desarrollo juvenil e interacción humano-computadora. La empresa ha formado un Consejo de Bienestar en IA y trabaja con una red global de más de 250 médicos en 60 países.

Entre ellos se incluyen psiquiatras, pediatras y especialistas en salud adolescente. Estas alianzas han influido en el entrenamiento de los modelos y se ampliarán para abordar temas como trastornos alimentarios y consumo de sustancias.

Plan de acción intensivo

OpenAI ha iniciado una campaña de 120 días para implementar el mayor número posible de mejoras antes de fin de año. Aunque muchas de estas acciones ya estaban en desarrollo, la empresa ha decidido acelerar su ejecución ante la presión de legisladores y organizaciones civiles.

En julio, senadores estadounidenses solicitaron información sobre las medidas de protección para menores. Por su parte, Common Sense Media advirtió sobre los riesgos de permitir el acceso de adolescentes a aplicaciones de IA sin supervisión.

Críticas y desafíos pendientes

A pesar de los avances, persisten dudas sobre la eficacia de estas medidas. Algunos expertos cuestionan la capacidad del sistema para detectar angustia emocional en tiempo real y el verdadero nivel de control que tendrán los padres.

También se ha criticado el estilo de interacción de ChatGPT, especialmente tras una actualización que lo volvió excesivamente halagador.

Esta versión fue revertida tras recibir comentarios negativos por parte de los usuarios.

Exejecutivos de OpenAI han señalado que, en el pasado, la empresa redujo recursos destinados a la seguridad. Esto ha generado inquietudes sobre la sostenibilidad de las nuevas iniciativas. Sin embargo, OpenAI insiste en que estas medidas son solo el inicio de un enfoque más ético y responsable en el desarrollo de sus productos.

ChatGPT como herramienta de intervención emocional

Con más de 700 millones de usuarios activos semanales, ChatGPT se ha convertido en uno de los servicios de inteligencia artificial más utilizados en el mundo. El nuevo enfoque de OpenAI busca posicionar al chatbot no solo como un asistente digital, sino como una herramienta capaz de actuar con sensibilidad en contextos emocionales complejos.

La implementación de controles parentales y modelos de razonamiento más seguros representa un paso importante hacia una IA más consciente de su impacto social. Aunque el camino hacia una protección efectiva aún presenta desafíos, OpenAI parece decidido a liderar el cambio en la industria, priorizando el bienestar de sus usuarios más vulnerables.

Te puede interesar: El papel de la Inteligencia Artificial en la salud mental

Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.