La Ligue de football professionnel (LFP) ou l’Olympique de Marseille (OM) protègent leur communauté, leurs joueurs et leurs dirigeants de la haine en ligne via Bodyguard. Cette application mobile gratuite développée en France en 2018, lancée dans sa version payante B2B en janvier 2021, encadre désormais 600 millions d’internautes.

Comment ça marche? Quelle est la différence avec les outils de «machine learning» des GAFA qui suppriment les insultes? Sur Twitch ou Facebook par exemple, les filtres classiques se font par mots clés, mais il faut souvent les entrer soi-même. «La différence la plus importante, c’est que l’intelligence artificielle de Bodyguard prend en compte abréviations (par exemple «fdp» pour fils de pute), mots mal orthographiés, émojis et, surtout, le contexte dans lequel un message est écrit, explique Célia Paris, responsable marketing de Bodyguard. Ainsi, un «je vais te tuer» est adapté sur une plateforme de jeux en ligne comme Powder, mais sera automatiquement bloqué dans un autre contexte.»

Cette sensibilité au langage de la communauté permet un taux de détection des contenus toxiques de 90%, selon Bodyguard. «Pour laisser la place au débat, l’algorithme fera la différence entre des moqueries, des trolls (initiateurs de polémiques, ndlr), du harcèlement ou des contenus haineux, homophobes, racistes ou sexistes, relève Célia Paris. L’entreprise ou la personnalité pourra régler son degré de tolérance en fonction de ces thématiques.» Chaque commentaire masqué est accessible dans une poubelle et peut être restauré si l’utilisateur le souhaite. La version B2B donne une analyse fine des messages supprimés, permet de bloquer automatiquement trolls et «haters» insistants ou, à l’inverse, d’identifier des fans lorsqu’il s’agit de grosses communautés.

Créée à l’origine pour lutter contre le cyberharcèlement chez les jeunes, l’interface a rapidement attiré l’attention des marques, des influenceurs et des politiques. Aujourd’hui, au tour des médecins, chefs d’entreprise, clubs de sport, journalistes ou créateurs de contenu digital de se protéger de la haine véhiculée sur les réseaux sociaux. Avec la pandémie, celle-ci est en hausse de 30%, selon plusieurs modérateurs de réseaux sociaux.

Partages d’expérience

• Blick: Céline Pétremand, responsable des audiences digitales, confirme une augmentation des commentaires virulents, notamment sur le covid. «Nous modérons en rappelant que le débat doit se faire avec respect. Si nécessaire, nous masquons des insultes ou, si le cadre légal n’est pas respecté de manière répétée, il nous arrive de bannir des internautes de la page.»

• Pour les parents: 246 millions de jeunes sont victimes de cyberharcèlement dans le monde. En Suisse, c’est un jeune sur quatre, selon une étude réalisée en 2021 par Swisscom et la Haute Ecole zurichoise spécialisée en sciences appliquées (ZHAW). Une version familiale de Bodyguard existe et signale aux parents les auteurs de contenus toxiques répétés.