OpenAI implementa predicción de edad para restringir el acceso de adolescentes en ChatGPT

En resumen

• ChatGPT estima si una cuenta pertenece a un usuario menor de 18 años en lugar de confiar únicamente en la edad autodeclarada.
• OpenAI aplica límites más estrictos a contenido violento, sexual y otros contenidos sensibles en las cuentas señaladas.
• Los adultos mal clasificados como adolescentes pueden restablecer el acceso mediante verificación de edad basada en selfies.

OpenAI se está alejando del “sistema de confianza” para la verificación de edad, implementando un nuevo modelo de predicción impulsado por IA para identificar menores usando ChatGPT, dijo la compañía el martes. La actualización de ChatGPT activa automáticamente protocolos de seguridad más estrictos para las cuentas sospechosas de pertenecer a usuarios menores de 18 años, independientemente de la edad que hayan proporcionado durante el registro. En lugar de confiar en la fecha de nacimiento que un usuario proporciona al registrarse, el nuevo sistema de OpenAI analiza “señales conductuales” para estimar su edad. 

Según la compañía, el algoritmo monitorea cuánto tiempo ha existido una cuenta, en qué momento del día está activa y patrones específicos de uso a lo largo del tiempo. “Implementar la predicción de edad nos ayuda a aprender qué señales mejoran la precisión, y usamos esos aprendizajes para perfeccionar continuamente el modelo con el tiempo,” dijo OpenAI en un comunicado. El cambio a patrones conductuales surge a medida que los desarrolladores de IA recurren cada vez más a la verificación de edad para gestionar el acceso de adolescentes, pero los expertos advierten que la tecnología sigue siendo inexacta. Un informe de mayo de 2024 del Instituto Nacional de Estándares y Tecnología encontró que la precisión varía según la calidad de la imagen, los datos demográficos y qué tan cerca esté un usuario del umbral legal.

Cuando el modelo no puede determinar la edad de un usuario, OpenAI dijo que aplica configuraciones más restrictivas. La compañía afirmó que los adultos incorrectamente clasificados en la experiencia de menores de 18 años pueden restablecer el acceso completo mediante un proceso de verificación de edad “basado en selfie” usando el servicio de verificación de identidad de terceros Persona. Los defensores de la privacidad y los derechos digitales han expresado preocupaciones sobre qué tan confiables pueden ser los sistemas de IA para inferir la edad solo a partir del comportamiento. Asegurar la precisión “Estas empresas están siendo demandadas por todos lados por una variedad de daños que han sido causados a los adolescentes, así que definitivamente tienen un incentivo para minimizar ese riesgo. Esto forma parte de su intento de reducir ese riesgo tanto como sea posible,” dijo J.B. Branch, defensor de la responsabilidad de las grandes tecnológicas en Public Citizen, a Decrypt. “Creo que de ahí proviene el origen de muchas de estas medidas. Es decir, ellos diciendo, ‘Necesitamos tener alguna forma de demostrar que tenemos protocolos en marcha que filtran a las personas’.” Aliya Bhatia, analista principal de políticas en el Center for Democracy and Technology, dijo a Decrypt que el enfoque de OpenAI “plantea preguntas difíciles sobre la precisión de las predicciones de la herramienta y cómo OpenAI abordará las inevitables clasificaciones erróneas.” “Predecir la edad de un usuario basándose en este tipo de señales es extremadamente difícil por muchas razones,” afirmó Bhatia. “Por ejemplo, muchos adolescentes son adoptantes tempranos de nuevas tecnologías, por lo que las cuentas más tempranas en los servicios dirigidos al consumidor de OpenAI pueden representar desproporcionadamente a adolescentes.” Bhatia señaló una encuesta del CDT realizada durante el año escolar 2024–2025, que mostró que el 85% de los profesores y el 86% de los estudiantes reportaron usar herramientas de IA, y la mitad de los estudiantes usan IA para fines escolares. “No es fácil distinguir entre un educador que usa ChatGPT para ayudar a enseñar matemáticas y un estudiante que usa ChatGPT para estudiar,” dijo. “El hecho de que una persona use ChatGPT para pedir consejos sobre cómo hacer tareas de matemáticas no significa que tenga menos de 18 años.” Según OpenAI, la nueva política se basa en investigaciones académicas sobre el desarrollo adolescente. La actualización también amplía los controles parentales, permitiendo a los padres establecer horarios de silencio, gestionar funciones como la memoria y el entrenamiento del modelo, y recibir alertas si el sistema detecta signos de “estrés agudo.”

OpenAI no reveló en la publicación cuántos usuarios se verán afectados por el cambio ni detalles sobre retención de datos, pruebas de sesgos o la efectividad de las salvaguardas del sistema. El despliegue sigue a una ola de escrutinio sobre las interacciones de los sistemas de IA con menores que se intensificó en 2024 y 2025. En septiembre, la Comisión Federal de Comercio emitió órdenes obligatorias a las principales empresas tecnológicas, incluyendo OpenAI, Alphabet, Meta y xAI, exigiéndoles que revelen cómo sus chatbots manejan la seguridad infantil, restricciones por edad y interacciones dañinas. Investigaciones publicadas ese mismo mes por los grupos sin fines de lucro ParentsTogether Action y Heat Initiative documentaron cientos de casos en los que bots de compañía de IA participaron en comportamientos de grooming, juegos de roles sexualizados y otras interacciones inapropiadas con usuarios que se hacían pasar por niños. Esos hallazgos, junto con demandas y incidentes de alto perfil que involucran a adolescentes en plataformas como Character.AI y Grok, han impulsado a las empresas de IA a adoptar restricciones más formales basadas en la edad. Sin embargo, dado que el sistema asigna una edad estimada a todos los usuarios, no solo a los menores, Bhatia advirtió que los errores son inevitables. “Algunos de esos serán incorrectos,” dijo. “Los usuarios necesitan saber más sobre qué va a pasar en esas circunstancias y deberían poder acceder a su edad asignada y cambiarla fácilmente cuando sea incorrecta.” El sistema de predicción de edad ya está en funcionamiento en los planes para consumidores de ChatGPT, con un despliegue en la Unión Europea previsto para las próximas semanas.