Harcèlement, santé mentale… les coulisses d'Instagram

“L’IA nous aide à trouver les contenus qui sont clairement en opposition avec nos règles”

“On cherche à créer des règles adaptées, mais aussi à vous donner des outils pour personnaliser votre expérience et créer un espace agréable, positif”. Antigone Davis est vice-présidente et responsable monde de la protection des utilisateurs chez Meta, le groupe propriétaire des réseaux sociaux Facebook, Instagram, WhatsApp… Elle revient sur les moyens mis en place pour lutter contre le harcèlement en ligne et contribuer à préserver la santé mentale des utilisateurs. De nombreux dispositifs ont été mis en place pour lutter contre les harceleurs, notamment la fonction “mots masqués”. Antigone Davis explique ce dont il s’agit : “Vous êtes un ado. Vous allez au collège et les autres se moquent de votre tenue toute la journée. Vous rentrez chez vous, quelqu'un vous contacte sur l'une de nos applis et vous dit : "Sympa, ta tenue." On ne peut pas savoir que c'est du harcèlement. Mais vous, oui, et vous en souffrez. C'est pour ça que nous avons un filtre qui s'appelle "Mots masqués", dans lequel vous pouvez entrer des mots relatifs à des choses blessantes qu'on vous dit, ou qui sont des sujets sensibles, et les exclure. Alors, vous ne verrez plus les commentaires qui les contiennent.” 

L'appel d'eurodéputées contre le harcèlement en ligne des femmes

Le travail de lutte contre le cyber-harcèlement passe chez Meta par une combinaison de technologies d'intelligence artificielle et d'intervention humaine “pour modérer la plateforme et en faire un espace de confiance. Il y a des contenus qui violent nos règles de manière évidente, mais pour d'autres, c'est moins évident. L'intelligence artificielle nous aide à trouver les contenus qui sont clairement en opposition avec nos règles et à les supprimer. Mais il y a des cas où ce n'est pas aussi clair, et le seul moyen d'être sûr, c'est d'avoir un humain qui vérifie, en y passant un peu plus de temps” précise la vice-présidence et responsable monde de la protection des utilisateurs chez Meta. 

Ils ont créé des "Safe Zones" pour lutter contre le harcèlement dans les jeux vidéo en ligne

L’entreprise se base sur les retours des utilisateurs pour apporter des réponses adaptées aux problématiques et le temps de recherche peut parfois prendre du temps : “Nous écoutons les retours pour nous adapter aux expériences des utilisateurs. Quand on construit un outil, c'est beaucoup de travail. On échange avec des experts, avec des utilisateurs, parfois on le teste, ce qui est le plus logique ou le plus pratique. Je vais prendre un exemple. Quand on a créé nos outils de contrôle parental, on s'est réuni avec des parents et des adolescents. Nous voulions que les parents nous disent quels outils leurs seraient utiles. Ils nous ont dit, par exemple: “Je veux pouvoir gérer le temps qu'y passe mon enfant. Je veux savoir avec qui il échange, qui le suit." C'est l'orientation qu'ils nous ont donnée. Nous avons aussi demandé à des experts comment faire pour que les ados aient envie d'utiliser ces outils et ne les rejettent pas, comment créer le bon équilibre. À partir de tous ces éléments, nous avons pu développer nos outils. Souvent, nous lançons nos outils auprès d'un public restreint, pour les tester et voir comment les utilisateurs réagissent. on fait des ajustements sont vraiment utiles pour les gens” décrit Antigone Davis. 

L’imperfection à l’ère des réseaux sociaux

“Internet, c'est immense, Comme dans le monde réel, il y aura toujours des personnes pour mal se comporter”

La responsable recommande aux utilisateurs, parents comme enfants, de se rendre dans les paramètres pour retrouver toutes les solutions permettant de renforcer la sécurité numérique. Dans les paramètres, les deux endroits spécialistes à consulter sont “le centre familial. Notamment si vous êtes parent, vous y trouverez des conseils et des explications concernant tous nos outils. Et vous pouvez aussi aller dans notre centre de sécurité. Ces trois espaces vous donneront une vision d'ensemble”. 

Les réseaux sociaux favorisent-ils l'apparition de tics ?

Pour Antigone Davis, Internet est le reflet de la vie réelle. Il sera donc impossible de totalement empêcher certaines personnes de faire du mal. ”Internet, c'est immense, Et, comme dans le monde réel, il y aura toujours des personnes pour mal se comporter sur la plateforme. Il n'y a aucune chance qu'on arrive à une situation où il serait impossible pour quiconque de faire des choses qui embêteraient ou blesseraient quelqu'un d'autre. Cela dit, nous utilisons l'intelligence artificielle pour repérer les problèmes à grande échelle. Et nous nous servons de l'analyse humaine pour repérer les problèmes plus ciblés. Nous fournissons aux utilisateurs des outils pour qu'ils puissent améliorer leur expérience quand nous manquons d'informations. Nous nous engageons pleinement pour créer une expérience sûre et positive et que nos utilisateurs nous apprennent nous améliorer et à évoluer”. 

Ils se font opérer pour ressembler aux filtres Snapchat

“Notre objectif, c'est : passez un moment agréable, mais déconnectez-vous aussi”

Contrairement aux idées largement répandues, Meta affirme que son objectif est d’apporter la meilleure expérience qui soit à ses utilisateurs, et cela signifie que les utilisateurs puissent rester maîtres du temps qu’ils passent sur les réseaux sociaux. “Nous voulons que les gens aient une expérience positive, et que, quand ils posent leur téléphone, qu'ils ne se disent pas qu'ils ont passé trop de temps sur l'appli, mais qu'ils ont pu gérer leur temps. On a différents outils pour ça. Par exemple, "faites une pause", c'est quelque chose qu'on utilise quand un utilisateur est actif depuis longtemps, un ado. On lui dit : "Tu veux faire une pause ?" On a un autre outil, qui est le mode silencieux. Pour encourager les ados à se déconnecter le soir, on a créé cette fonction. Elle permet d'envoyer des réponses automatiques, disant que l'utilisateur fait une pause, qu'il n'est pas sur son téléphone. Mais ça lui permet aussi, quand il revient, de voir qui a cherché à le contacter. Ça réduit cette peur de passer à côté de quelque chose qui se passerait en ligne. Nous avons créé cette fonction en sachant que ça réduirait le temps passé sur l'appli et, dans de nombreux cas, c'est ce qu'il s'est passé” déclare Antigone Davis. 

Maghla dénonce le harcèlement sexuel envers les streameuses

Elle ajoute : “Notre objectif n'est pas que les gens y passent autant de temps qu'il est humainement possible, c'est plutôt : passez un moment agréable, ayez une relation constructive avec notre appli, appréciez les moments que vous y passez, construisez votre communauté, découvrez les choses qui vous intéressent, mais déconnectez-vous aussi, explorez le monde, gardez cet état d'esprit. On veut vraiment donner aux gens cette possibilité de garder le contrôle et d'apprécier le temps qu'ils passent en ligne”.

Notre rapport à notre visage à l'heure des réseaux sociaux – Brut Philo