« Modération : évitez les extrêmes, pardonnez les injures, autant que vous pensez qu’elles méritent le pardon… »
Benjamin Franklin
Depuis maintenant 24 ans que je parcours Internet, le sujet de la modération en ligne a toujours été présent, que ce soit dans les premiers salons AOL, sur Caramail, dans les forums (avec les fameux « modérateurs »), et désormais sur les réseaux sociaux.
Néanmoins, le volume de modération sur ces derniers est devenu très important, et surtout, il semblerait que l’agressivité, l’extrémisme, le racisme, et plus globalement la haine en ligne… s’y soient largement libérés ces dernières années. Je me souviens notamment d’une formation que j’avais animée pour une grande Fédération Sportive, et où le Directeur Général expliquait qu’il se faisait quotidiennement insulter sans raison particulière sur Twitter. Il arrivait à prendre du recul sur le sujet, mais son équipe était terrorisée d’aller sur ce réseau pour cette raison.
24 ans, c’est aussi l’âge de Charles Cohen, le Fondateur de la startup Bodyguard, et de son application éponyme, que j’ai rencontré pour approfondir ce sujet. Bien que jeune, Charles est un technophile de longue date. Il obtient son premier ordinateur à 10 ans, sans connexion Internet. Cela le motive à s’intéresser au fonctionnement de la machine, et il commence ainsi la programmation informatique à 11 ans. Il fait ses premiers scripts, achète des livres sur le sujet, et sait réellement programmer dès ses 13 ans.
A l’instar d’autres grands noms de la tech, Charles n’attend pas de faire des études pour se lancer. Avec un Bac S en poche, il devient co-fondateur et CTO de Timenote, un calendrier social connecté. Ce dernier se développe et attire 30 000 utilisateurs, mais Charles reste avec une frustration : l’idée ne vient pas de lui, et il souhaite développer son propre projet.
C’est ainsi qu’il lance Bodyguard en 2018, avec une genèse très claire : il entend lutter contre l’auto-censure en ligne, et par extension, contre le cyber-harcèlement qui fait 60 morts par an (on peut citer deux exemples récents en Inde et aux Etats-Unis, avec la disparition de 2 influenceurs). Mais les dégâts sont plus larges que cela : la perte de confiance en soi, la dépression, la peur de parler à des gens sont des problèmes qui peuvent suivre les victimes pendant des dizaines d’années après les faits.
Bodyguard est donc une application gratuite sur iOS et Android qui protège ses utilisateurs en temps réel. Forte de ses 50 000 utilisateurs, elle analyse chaque mois 20 millions de commentaires sur les réseaux sociaux, et compte parmi les inscrits beaucoup d’enfants, de jeunes influenceurs et créateurs de contenu, mais aussi des personnalités publiques du domaine de la culture, de la politique, des médias… A titre d’exemple, la journaliste et autrice Rokhaya Diallo ou encore Bilal Hassani, amplement victimes de propos haineux sur les réseaux sociaux, sont des utilisateurs de Bodyguard.
En quelques clics, les utilisateurs sélectionnent les réseaux sociaux qu’ils souhaitent modérer pour que la technologie Bodyguard récupère tous les commentaires reçus par l’utilisateur, les analyse (toutes les 10s pour les personnes les plus touchées) et bloque ceux qui sont jugés haineux. L’application est disponible pour Twitter, YouTube, Instagram, Twitch, et les règles de modération peuvent être modifiées à tout instant par les utilisateurs.
Le sujet étant d’actualité, cela a permis à Charles Cohen de lever 2 millions d’euros en fin 2019, alors même qu’il était seul dans la structure. Avec une équipe d’une dizaine de personnes désormais (comprenant notamment des développeurs, traducteurs, Product Manager, CMO, DG…), il vient de lancer une V2 de son application avec la possibilité de créer des règles de modération uniques à chaque utilisateur, afin d’être encore mieux protégé, et de mieux gérer l’universalité des langages de haine en temps réel : insultes, moqueries, menaces, trolls, racisme, haine, homophobie, harcèlement sexuel, harcèlement moral… Cette V2 est disponible en français, et bientôt en anglais et en italien.
Concrètement, l’application recherche dans une phrase une suite de mots haineux, ou une insulte (parmi une combinaison de plusieurs dizaines de millions de mots), peu importe l’orthographe, les emojis, le langage SMS, le langage LEET, ou si l’utilisateur essaie de camoufler l’insulte, ou de contourner Bodyguard. Dans un second temps, elle analyse le contexte, à savoir ce qu’il y a avant et après ces mots, à qui est destiné le contenu, et prend une décision en fonction : haineux ou pas haineux. Puis elle va procéder à une action, comme le bloquage de l’agresseur (Twitter), ou le placement sur une liste de commentaires à modérer (YouTube).
La technologie Bodyguard agit automatiquement dans 90% des cas et ne connaît que 2% d’erreurs. Pour les 10% restants, il y a une vérification humaine. J’ai demandé sur ce point si comme pour les modérateurs Facebook, il y avait un risque de traumatisme, mais Bodyguard gère uniquement l’aspect textuel, et pas les images ou vidéos horribles qui tournent souvent dans ce contexte sur Internet. Cependant, pour se rendre compte de l’efficacité de Bodyguard et de ses 90% de contenus haineux identifiés, on peut la comparer à Facebook, qui de son côté n’arrive à identifier que 16% du cyber-harcèlement ! Et de manière générale, les grands réseaux sociaux ont des technologies imparfaites sur le sujet, qu’ils essaient de compenser avec beaucoup de modération humaine. Mais cela prend du temps, et génère autant de dégâts chez les victimes que chez les modérateurs. Bodyguard a ainsi été approchée par Instagram et TikTok, dans le but d’améliorer leur modération pour l’adapter à chaque utilisateur.
En ce qui concerne le business model, l’application pour les particuliers restera gratuite (B2C). Elle pourrait aussi bientôt se retrouver dans des packs proposés par des banques (BNP Paribas est en test pour l’une de ses assurances), ou par des opérateurs mobiles. Concernant le B2B, Bodyguard sortira sous peu une offre SAAS (sur abonnement) permettant d’utiliser la technologie sur les plateformes sociales propriétaires. L’intérêt sera notamment de centraliser la technologie de modération, et de faire bénéficier à tous les améliorations intégrées au fil du temps dans Bodyguard. La tarification se basera sur plusieurs éléments, dont le nombre de contenus, le taux de haine, le type d’entreprise, le type de secteur. Un test est actuellement mené avec des annonceurs de différentes verticales, dont la plateforme jeux-video.com, connue pour ses forums, notamment le sulfureux 18-25.
Quid du futur ? Pour Charles Cohen, il se basera sur une modération personnelle, fixée à l’individu. Bien conscient du danger potentiel des réseaux sociaux entre les fakes news, les manipulations d’élections, il sait qu’il ne sera pas vraiment possible de démanteler ou de fermer les réseaux. Il s’appuie donc sur la technologie pour faire de ces espaces un endroit plus vivable pour tous, et non pas un lieu du déferlement de haine.
Son ambition ? Que le tampon Bodyguard devienne aussi référent que le logo Intel Inside des années 2000. Je ne peux que lui souhaiter cela, tant il m’a donné envie d’installer son application.