Millones de jóvenes incorporaron el chatbot a sus tareas, estudios y conversaciones cotidianas mucho antes de que existiera una experiencia diseñada específicamente para ellos. OpenAI ahora intenta cerrar esa brecha con más restricciones, herramientas educativas y controles para padres.
ChatGPT cumplirá cuatro años de existencia en noviembre. Durante ese tiempo se convirtió en una herramienta cotidiana para estudiantes de secundaria y preparatoria alrededor del mundo: sirve para hacer tareas, estudiar para exámenes, resolver dudas, hablar sobre problemas personales o simplemente pasar el rato.
Pero había una particularidad: aunque desde su lanzamiento los adolescentes podían utilizar ChatGPT, la herramienta no había sido diseñada específicamente para ellos.
Eso cambió este martes. OpenAI anunció ChatGPT for Teens, una experiencia adaptada para usuarios de entre 13 y 17 años que incorpora restricciones de contenido más estrictas, herramientas educativas y controles para padres.
La pregunta inevitable es: ¿por qué hasta ahora?
Los adolescentes llegaron primero
Cuando ChatGPT se lanzó en noviembre de 2022, la edad mínima para utilizarlo era de 13 años. Eso significaba que millones de adolescentes podían acceder a una herramienta que, aunque establecía límites generales de seguridad, no contaba con una experiencia específicamente diseñada para las necesidades y riesgos asociados con su edad.
Un adolescente podía recurrir al chatbot para hablar sobre violencia, sexualidad, autolesiones o problemas emocionales. También podía utilizarlo para algo mucho más cotidiano: pedirle que resolviera completamente una tarea escolar sin necesidad de comprender la respuesta.
Con el crecimiento de los chatbots también aumentó el escrutinio sobre su relación con los menores. Demandas, investigaciones y nuevas propuestas regulatorias han obligado a las empresas tecnológicas a responder una pregunta que ya había aparecido con las redes sociales: ¿qué responsabilidad tiene una plataforma cuando una parte importante de sus usuarios son menores de edad?
OpenAI intenta ahora ofrecer su propia respuesta.
¿Qué cambia para los adolescentes?
Hay tres áreas donde las diferencias son especialmente visibles.
Más restricciones de contenido. ChatGPT for Teens limita por defecto las conversaciones relacionadas con autolesiones, violencia gráfica y contenido sexual o romántico explícito. Cuando una conversación entra en determinadas áreas de riesgo, el sistema puede redirigirla o negarse a responder de la manera solicitada.
Los padres también pueden recibir alertas ante determinadas situaciones que el sistema considere de riesgo, aunque eso no significa que tengan acceso completo a las conversaciones de sus hijos.
Aprender en lugar de copiar. Este quizá sea uno de los cambios más interesantes. Cuando el sistema detecta que un adolescente intenta utilizar ChatGPT simplemente para obtener la respuesta de una tarea, puede dirigirlo hacia Study Mode.
En ese modo, el chatbot intenta comportarse más como un tutor que como una máquina de respuestas: plantea preguntas, divide los problemas en pasos y pide al estudiante explicar qué entiende antes de continuar.
La diferencia parece pequeña, pero toca uno de los debates centrales alrededor de la IA en las escuelas. El problema ya no consiste únicamente en decidir si los estudiantes deben utilizar inteligencia artificial, sino en determinar cómo pueden hacerlo sin sustituir el proceso de aprendizaje.
Controles para padres. Los padres pueden vincular su cuenta con la de sus hijos, establecer horarios en los que ChatGPT no estará disponible mediante Quiet Hours, modificar determinadas configuraciones y recibir alertas ante situaciones de riesgo.
No se trata de un sistema para leer todas las conversaciones del adolescente, sino de una capa adicional de supervisión que antes no existía.
¿Cómo sabe ChatGPT que habla con un adolescente?
Aquí aparece uno de los puntos más complicados, OpenAI utiliza dos mecanismos: la edad que el propio usuario declara al registrarse y un sistema automático que intenta estimar si la persona podría ser menor de 18 años. Si el sistema determina que probablemente lo es, puede aplicar automáticamente la experiencia diseñada para adolescentes.
Ninguno de los dos métodos es infalible.
Declarar una edad falsa al registrarse sigue siendo relativamente sencillo, mientras que un sistema automático de estimación también puede cometer errores. La verdadera eficacia de estas medidas dependerá, por tanto, de cómo funcionen fuera de las pruebas internas y de qué tan sencillo resulte para los usuarios evadirlas.
El experimento va mucho más allá de ChatGPT
Lo que ocurra con esta experiencia será relevante para algo más que OpenAI.
Los chatbots de inteligencia artificial ya forman parte de la vida cotidiana de millones de adolescentes. La pregunta dejó de ser si los jóvenes van a utilizar IA. Ya lo hacen. La discusión ahora gira alrededor de las protecciones que deberían acompañar ese uso y de cuánto control deben tener las empresas, los padres, las escuelas y los propios adolescentes.
OpenAI será una de las primeras grandes compañías de IA que tendrá que probar esas respuestas a gran escala.
Si estas medidas funcionan, podrían servir como referencia para otros servicios y para reguladores que intentan definir qué obligaciones deberían tener las plataformas de inteligencia artificial frente a usuarios menores de edad. Si resultan insuficientes, aumentará la presión para imponer reglas desde fuera de las propias compañías.
También existe una dimensión de negocio. Los adolescentes que hoy utilizan ChatGPT pueden convertirse en los usuarios adultos de herramientas de inteligencia artificial durante las próximas décadas. Crear una experiencia que resulte útil para ellos y, al mismo tiempo, suficientemente segura para generar confianza entre padres, escuelas y reguladores tiene consecuencias que van mucho más allá de la protección de menores.
Durante casi cuatro años, los adolescentes aprendieron a utilizar ChatGPT prácticamente al mismo tiempo que el resto del mundo.
Ahora ChatGPT tendrá que aprender a tratar a los adolescentes de manera diferente.
