Cette API (interface informatique), proposée gratuitement, permettra aux éditeurs de créer des programmes qui noteront la "toxicité" des messages envoyés sur leurs forums, et de régler à leur guise le seuil toléré avant publication.
"Perspective" est testé avec plusieurs éditeurs dont le New York Times, The Guardian et Wikipedia, avec un apprentissage automatique (machine learning) à partir des messages jugés haineux ou hors sujet par des modérateurs humains.
Le but est de faciliter la tâche des équipes de modérateurs, souvent débordées par le flot des commentaires haineux qui empêchent les discussions, ce qui a poussé de nombreux journaux à fermer leurs pages de commentaires.
"Les médias veulent encourager les discussions sur leurs contenus, mais trier les millions de commentaires pour repérer ceux qui les trollent leur coûte beaucoup de temps, de travail et d'argent", a souligné sur le blog de Google Jared Cohen, président de Jigsaw, l'incubateur de Google qui a construit l'outil.
Le logiciel est disponible pour les médias membres de la "Digital News Initiative" de Google, mais aussi à toutes les plateformes de réseaux sociaux, dont YouTube, Twitter et Facebook.
L'algorithme de Perspective devrait aider à filtrer les messages bien plus vite que les équipes humaines
Avant Google, Twitter a également annoncé début février qu'il allait s'attaquer aux messages haineux, souvent anonymes, en permettant d'identifier leurs auteurs et de les empêcher de recréer des comptes, ou en les masquant dans les recherches des internautes.
Et Google, Facebook, Twitter et Microsoft ont signé l'an dernier un "code de bonne conduite" avec la Commission européenne où ils s'engagent à examiner dans les 24 heures la majorité des contenus haineux signalés par les utilisateurs, afin de les supprimer si nécessaire.
Avec AFP
