OpenAI lanza el control parental para ChatGPT: así se usa

OpenAI ha añadido los tan esperados controles parentales a ChatGPT, diseñados para proporcionar a los usuarios adolescentes de la popular plataforma una experiencia más segura y "apropiada para su edad", según informó la empresa el lunes.

Esto se produce después de que la seguridad de los chatbot de IA para los usuarios jóvenes haya saltado a los titulares. Los peligros de la tecnología se han puesto de manifiesto recientemente por varios casos en los que adolescentes se quitaron la vida tras interactuar con ChatGPT.

En una entrada de blog publicada el lunes, OpenAI describe los nuevos controles para los padres. He aquí un desglose. Los controles parentales estarán disponibles para todos los usuarios, pero tanto los padres como los adolescentes necesitarán sus propias cuentas para aprovecharlos.

Para empezar, un padre o tutor tiene que enviar un correo electrónico o un mensaje de texto para invitar a un adolescente a conectar sus cuentas, o un adolescente puede enviar una invitación a un padre. Los usuarios pueden enviar una solicitud entrando en el menú de configuración y luego en la sección Control parental. Los adolescentes pueden desvincular sus cuentas en cualquier momento, pero los padres recibirán una notificación si lo hacen.

Protecciones automáticas

Una vez vinculadas las cuentas, la cuenta del adolescente tendrá algunas protecciones incorporadas, según OpenAI. Las cuentas de adolescentes "tendrán automáticamente protecciones de contenido adicionales, incluyendo contenido gráfico reducido, retos virales, juegos de rol sexuales, románticos o violentos, e ideales de belleza extremos, para ayudar a mantener su experiencia apropiada para su edad", dijo la compañía.

Los padres pueden desactivar estos filtros, pero los usuarios adolescentes no tienen esa opción. OpenAI advierte de que estas barreras "no son infalibles y pueden saltarse si alguien intenta eludirlas intencionadamente". Aconseja a los padres que hablen con sus hijos sobre el "uso saludable de la IA".

Ajustar la configuración

Los padres disponen de un panel de control en el que pueden ajustar una serie de parámetros y desactivar las restricciones sobre contenidos sensibles mencionadas anteriormente.

Por ejemplo, ¿su hijo se queda despierto hasta más tarde de la hora de acostarse para usar ChatGPT? Los padres pueden establecer una hora de silencio en la que no se pueda utilizar el chatbot.

Otros ajustes incluyen desactivar la memoria de la IA para que las conversaciones no puedan guardarse y no se utilicen en futuras respuestas; desactivar la capacidad de generar o editar imágenes; desactivar el modo de voz; y optar por que los chats no se utilicen para entrenar los modelos de IA de ChatGPT.

Recibir notificaciones

OpenAI también está siendo más proactiva a la hora de avisar a los padres de que su hijo puede estar en peligro. Ha puesto en marcha un nuevo sistema de notificaciones para informarles cuando algo vaya "muy mal" y un usuario adolescente esté pensando en hacerse daño.

Un pequeño equipo de especialistas revisará la situación y, en el raro caso de que haya signos de angustia aguda, notificará a los padres por correo electrónico, mensaje de texto y alerta en su teléfono, a menos que el padre haya optado por no participar.

OpenAI afirma que protegerá la privacidad del adolescente compartiendo únicamente la información necesaria para que los padres o los servicios de emergencia puedan prestarle ayuda.

"Ningún sistema es perfecto, y sabemos que a veces podemos dar la alarma cuando no hay peligro real, pero creemos que es mejor actuar y alertar a los padres para que puedan intervenir que permanecer en silencio", afirma la empresa.