L’intelligence artificielle contre les commentaires violents sur Internet

Les réseaux sociaux ont été dernièrement victimes d’une vague de messages violents et racistes. Vous avez déjà sûrement remarqué un commentaire injurieux et parfois même des profils « fake » qui harcèlent les internautes ? Google a réagi en lançant un programme capable de les détecter automatiquement et de les supprimer instantanément.

Le mode de fonctionnement de Conversation AI

Les sites en ligne sont obligés de déployer de nouveaux outils sophistiqués pour lutter efficacement contre les commentaires déplacés et les messages de haine véhiculés. La dernière nouveauté en date est le programme d’intelligence artificielle du géant américain Google.

Le programme fonctionne comme un modérateur traditionnel de réseaux sociaux. Il repère automatiquement les commentaires similaires puis les supprime. Son avantage est qu’il est capable de refuser la publication de plusieurs commentaires à la fois (également appelé « refus en grappe »).

L’intérêt de ce programme est sa capacité à s’adapter en intégrant progressivement des messages types signalés par les internautes. La communauté participe donc à alimenter la plateforme d’intelligence artificielle en signalant les commentaires inappropriés.

Dans le cas du New York Times, Conversation AI est capable en effet d’ingurgiter un très grand nombre d’exemples afin d’avoir des éléments de comparaison pour analyser les quelques 17 millions de commentaires publiés sur le site du journal. Conversation AI a donc la lourde charge de juger si le commentaire est violent ou non. Dans cette tâche, son taux de réussite est de 92% selon Google.

Des milliards de données à traiter chaque jour

L’idée ne date pas d’hier. Jigsaw est né en 2010, mais à l’origine, cette filiale n’avait qu’un objectif : la sécurité en ligne. Depuis peu, la notion de « harcèlement en ligne » est devenue une priorité pour l’entreprise. Les activités des plateformes en ligne et des réseaux sociaux sont en effet perturbées, voire discréditées à cause d’une mauvaise modération des messages haineux. En outre, la gestion de plusieurs millions de messages et autant de photos au quotidien est impensable. On ignore encore aujourd’hui par exemple, combien de personnes sont en charge du contrôle des contenus sur YouTube. L’intelligence artificielle semble être la solution appropriée. Le but étant de supprimer toute propagande incitant à la violence et à la haine contre une ou plusieurs communautés, quelle qu’elle soit.