ChatGPT Teens: cinco preguntas clave para entender la nueva versión del chatbot para adolescentes

Hace poco menos de una semana, OpenAI anunció el lanzamiento de ChatGPT Teen, una versión de su chatbot diseñada para usuarios menores de 18 años.Esta nueva herramienta incorpora filtros de contenido más estrictos, un modo de estudio, recordatorios de uso saludable y controles parentales. Pero su llegada abre interrogantes sobre privacidad, dependencia emocional y eficacia pedagógica que expertos ya están

debatiendo. El sistema usará un modelo de predicción que analiza indicadores de la cuenta: los temas de las conversaciones, las horas de uso, la frecuencia de acceso y el tiempo que lleva activa la cuenta.Si el sistema estima que el usuario tiene menos de 18 años, o el propio usuario declara tener entre 13 y 17, la experiencia para adolescentes

se activa automáticamente. OpenAI reconoce que “ningún sistema es perfecto” y que la predicción puede equivocarse.René Serral, experto en ciberseguridad y profesor de la Universitat Politècnica de Catalunya, explica a Verificat que esto no implica necesariamente mayor invasión de la privacidad, ya que la empresa ya disponía de esa información derivada del uso del chatbot. La novedad es que ahora

esos datos intervienen explícitamente en la predicción de la edad. OpenAI también contempla verificación mediante documento de identidad o fotografía, información que según la empresa se eliminará en un plazo de siete días.Para Azucena Vázquez, doctora en Educación y Tecnologías Digitales por la UOC, la pregunta de fondo es qué grado de intrusión se está dispuesto a aceptar para proteger

a un menor y quién debe fijar ese límite. En la Unión Europea, el sistema deberá adaptarse al AI Act y al Reglamento General de Protección de Datos. A 31 de agosto, la Comisión Europea clasificó a ChatGPT como motor de búsqueda de muy gran tamaño, lo que le impone obligaciones adicionales bajo el Reglamento de Servicios Digitales.OpenAI anuncia restricciones

en áreas como autolesión, violencia, trastornos alimentarios, actividades peligrosas y contenido sexual explícito. También se limitarán los contenidos que promuevan estándares de belleza extremos o vergüenza corporal, y se prohibirá que el chatbot use lenguaje romántico, fomente la dependencia emocional o sugiera tener sentimientos o consciencia. Sin embargo, la empresa no detalla en qué medida se aplicarán esos filtros.Antoni Baena,

coordinador del Comité de ePsicología del Col·legi Oficial de Psicología de Catalunya y director del Máster de Salud Digital de la UOC, valora positivamente las intenciones, pero advierte al portal Verificat que esos contenidos no deberían estar disponibles en ninguna versión de ChatGPT. “Este año se han conocido casos de personas adultas que han mantenido conversaciones con chatbots antes de

suicidarse”, señala. La experiencia con otras plataformas refuerza el escepticismo: un estudio de Common Sense Media publicado en 2020 encontró que YouTube Kids expone a los niños a contenidos inadecuados a pesar de sus sistemas de filtrado.OpenAI anuncia recordatorios de descanso para que los adolescentes se alejen de la pantalla y señales visuales que identifican constantemente a ChatGPT como una

IA, no como un interlocutor humano. Sin embargo, la información publicada no detalla medidas concretas para reducir la posible vinculación emocional con la herramienta.Según un estudio de GAD3, hasta el 30% de los jóvenes en España usa la IA para hablar de temas personales. “La seguridad no depende solo del contenido de las respuestas, sino también del vínculo que la

herramienta puede generar con el adolescente”, advierte Vázquez a Verificat. Baena considera que conversar con una IA no es necesariamente negativo, pero alerta sobre el riesgo de la sycophancy, el fenómeno por el cual el sistema tiende a validar excesivamente al usuario, y apunta a incorporar mecanismos de regulación del tiempo de conversación como posible solución.ChatGPT Teen incluirá un Modo

Estudio diseñado para guiar al estudiante mediante preguntas, andamiaje cognitivo y veri