l'IA qu'Instagram veut utiliser pour vérifier l'âge de ses utilisateurs

Instagram teste de nouvelles méthodes pour vérifier l’âge de ses plus jeunes utilisateurs, notamment en utilisant une intelligence artificielle qui analyse une photo et estime l’âge de l’utilisateur.

Instagram teste l’IA pour vérifier l’age des utilisateurs

Instagram, propriété de la Méta, a déclaré jeudi dans un billet de blog que l’IA est l’une des trois nouvelles méthodes qu’elle teste pour vérifier l’âge des utilisateurs sur le site de partage de photos. Les utilisateurs devront utiliser l’une des options pour vérifier leur âge s’ils modifient leur date de naissance sur Instagram de moins de 18 ans à plus de 18 ans. Instagram teste d’abord ces options auprès de ses utilisateurs aux États-Unis. Il demande déjà aux utilisateurs de déclarer leur âge lorsqu’ils commencent à utiliser le service, et emploie l’IA d’autres manières pour déterminer si les utilisateurs sont des enfants ou des adultes.

Cette mesure s’inscrit dans le cadre d’un effort continu visant à s’assurer que les plus jeunes utilisateurs de l’application de partage de photos voient des contenus adaptés à leur âge. Elle intervient moins d’un an après que les révélations d’un dénonciateur de Facebook ont suscité des inquiétudes quant à l’impact de la plateforme sur les jeunes utilisateurs. L’année dernière, Instagram a fait l’objet de critiques lorsque des documents divulgués par la dénonciatrice Frances Haugen ont montré qu’elle était consciente de la façon dont le site de médias sociaux peut nuire à la santé mentale et à l’image corporelle, en particulier chez les adolescentes.

La technologie provient d’une société basée à Londres, Yoti. Une vidéo animée qu’Instagram a publiée sur son blog donne une idée du fonctionnement de l’estimation de l’âge par l’IA de Yoti : Un utilisateur est invité à prendre un selfie vidéo sur son smartphone (selon Yoti, cette étape permet de s’assurer qu’une personne réelle se trouve sur l’image obtenue), et Instagram partage une image de ce selfie avec la société. L’IA de Yoti détecte d’abord qu’il y a un visage sur l’image, puis examine minutieusement ses traits faciaux pour déterminer l’âge de la personne.

Julie Dawson, responsable de la politique et de la réglementation de Yoti, a déclaré à CNN Business que l’IA avait été entraînée avec un ensemble de données composé d’images de visages de personnes ainsi que de l’année et du mois de leur naissance. (La documentation que la société a publiée en mai pour expliquer sa technologie indique qu’elle a été entraînée sur « des millions d’images faciales diverses »).

« Lorsqu’un nouveau visage se présente, il effectue une analyse au niveau du pixel de ce visage et sort un nombre – l’estimation de l’âge avec une valeur de confiance », a déclaré M. Dawson. Une fois l’estimation terminée, Yoti et Instagram suppriment la vidéo du selfie et l’image fixe qui en est tirée.

Le casse-tête de la vérification d’age !

La vérification de l’âge d’un utilisateur peut être un problème contrariant pour les entreprises technologiques, en partie parce que de nombreux utilisateurs ne disposent pas d’une carte d’identité avec photo délivrée par le gouvernement qui puisse être vérifiée.

Karl Ricanek, professeur à l’université de Caroline du Nord à Wilmington et directeur du laboratoire de recherche du groupe sur le vieillissement du visage de l’école, pense que la technologie de Yoti est une bonne application de l’IA.

« C’est un effort louable pour essayer de protéger les enfants », a-t-il déclaré.
Pourtant, même si cette technologie pourrait être utile à Instagram, un certain nombre de facteurs peuvent rendre difficile l’estimation précise de l’âge à partir d’une photo, a expliqué M. Ricanek, notamment la puberté – qui modifie la structure du visage d’une personne – ainsi que la couleur de la peau et le sexe.

La documentation récente de Yoti indique que sa technologie est, en moyenne, légèrement moins précise pour estimer l’âge des enfants âgés de 13 à 17 ans et ayant un teint de peau plus foncé que ceux ayant un teint de peau plus clair. Selon les données de Yoti, son estimation de l’âge était erronée, en moyenne, de 1,91 an pour les filles âgées de 13 à 17 ans dont le teint était classé parmi les deux nuances les plus foncées de l’échelle de Fitzpatrick – une échelle de six nuances couramment utilisée par les entreprises technologiques pour classer les couleurs de la peau – contre une erreur moyenne de 1,41 an pour les filles du même groupe d’âge dont le teint était classé parmi les deux nuances les plus claires de l’échelle. Pour les enfants âgés de 13 à 17 ans, l’estimation de leur âge par la technologie était erronée de 1,56 an, en moyenne, selon le document. (Pour l’ensemble des adolescents, le taux d’erreur moyen est de 1,52 an).

En pratique, cela signifie qu’il y aura beaucoup d’erreurs, a déclaré Luke Stark, professeur adjoint à l’université Western dans l’Ontario, au Canada, qui étudie les implications éthiques et sociales de l’IA. « Nous parlons toujours d’une erreur absolue moyenne, dans un sens ou dans l’autre, d’un an à un an et demi », a-t-il déclaré.

Plusieurs adultes de plus de 25 ans ont essayé une démo en ligne de la technologie d’estimation de l’âge de Yoti. La démo diffère de l’expérience des utilisateurs d’Instagram en ce sens qu’elle prend un selfie, plutôt qu’une courte vidéo, et que le résultat est une estimation de la fourchette d’âge, plutôt qu’une estimation d’âge spécifique, a déclaré Chris Field, directeur du marketing de Yoti.

Les résultats ont varié : Pour quelques journalistes, la fourchette d’âge estimée était tout à fait correcte, mais pour d’autres, elle était erronée de plusieurs années. Par exemple, il a estimé qu’un rédacteur avait entre 17 et 21 ans, alors qu’il a en réalité la trentaine.
Parmi d’autres questions, M. Stark craint également que la technologie ne contribue à ce que l’on appelle la « surveillance rampante ».

« C’est certainement problématique, car cela conditionne les gens à supposer qu’ils vont être surveillés et évalués », a-t-il déclaré.