Instagram teste l'IA pour repérer les utilisateurs mineurs qui mentent sur leur âge
Instagram teste l'utilisation de l'IA pour signaler les utilisateurs mineurs qui mentent sur leur âge, dans le cadre de nouvelles mesures visant à mieux protéger les adolescents en ligne, a déclaré lundi la société mère Meta.
Selon une étude commandée par l'Ofcom, l'autorité publique britannique de régulation de la communication audiovisuelle et numérique, un tiers des enfants sur les médias sociaux ont un profil de plus de 18 ans avec une fausse date de naissance. Dont certains pour contourner l'âge minimal pour rejoindre la plateforme, posé à 13 ans.
La plateforme recherchera désormais de manière "proactive" les comptes d'adolescents qu'elle soupçonne d'appartenir à des utilisateurs mineurs, même si ces derniers ont indiqué une fausse date de naissance lors de leur inscription.
Meta explique qu'elle entraîne son IA à détecter des signaux - tels que l'activité du compte, les détails du profil et les interactions avec le contenu - pour signaler les utilisateurs susceptibles d'avoir fait une fausse déclaration sur leur âge.
Cette solution a été préférée à celles étudiées il y a deux ans. L'entreprise avait évoqué l'idée de faire valider son âge par ses amis, de fournir une pièce d'identité officielle ou encore de réaliser un selfie vidéo qui aurait ensuite été analysé par un service qui estime l'âge selon les traits du visage.
L'application a déjà utilisé l'IA pour estimer l'âge des utilisateurs, mais cette nouvelle approche représente une stratégie plus agressive.
Des comptes adolescents retreints
Si Instagram détermine qu'un utilisateur a menti sur son âge réel, le compte sera reclassé automatiquement dans la catégorie des adolescents. Cette catégorie s'accompagne de paramètres de confidentialité et de sécurité plus stricts.
Lancés à la rentrée en 2024, les comptes d'adolescents revendiquent de limiter les interactions des jeunes avec leurs connaissances de la vie réelle, de contrôler leur temps d'écran et de permettre un contrôle parental.
Privé par défaut, le compte adolescent a une messagerie limitée aux personnes que l'utilisateur suit déjà ou avec lesquelles il est en contact. Les contenus jugés "sensibles", tels que les vidéos violentes ou les messages faisant la publicité de régimes ou de procédures de chirurgie esthétique, sont restreints, a indiqué Meta. La plateforme cache automatiquement certains tags, ou met des filtres pour prévenir qu'une publication contient un sujet sensible.
Les utilisateurs adolescents reçoivent des notifications de limitation de temps après 60 minutes d'utilisation. Un "mode veille" est activé pour désactiver les notifications et envoyer des réponses automatiques aux messages directs de 22 heures à 7 heures du matin.
Protéger les enfants du numérique: le nouveau défi
Instagram commencera également à envoyer des notifications aux parents, les encourageant à discuter avec leurs adolescents de l'importance de fournir des informations précises sur leur âge en ligne, selon Meta.
Cette mise à jour intervient alors que les entreprises technologiques font l'objet d'une surveillance accrue quant à l'impact des médias sociaux sur la santé mentale des jeunes utilisateurs. Plusieurs États américains proposent par ailleurs des lois visant à exiger la vérification de l'âge sur les plateformes sociales, bien qu'un grand nombre de ces efforts aient été contestés sur le plan juridique.
Meta et d'autres entreprises technologiques ont fait valoir que les magasins d'applications, et non les plateformes individuelles, devraient être responsables de la vérification de l'âge des utilisateurs.