techredac
 

Perspective - l'arme anti-trolls de Google


Rédigé le Dimanche 26 Février 2017 à 00:03
Andrée Navarro


Le groupe américain Google vient d'annoncer le lancement de "Perspective", un outil informatique basé sur l'intelligence artificielle qui aidera les médias à modérer automatiquement les commentaires en ligne en bloquant les messages haineux.


L'API (pour interface informatique) Perspective est proposée gratuitement par Google. Elle permettra aux éditeurs de créer des programmes qui noteront la "toxicité" des messages envoyés sur leurs forums. Ils pourront d'autre part régler le seuil toléré avant publication.

"Perspective" est en période de test avec plusieurs éditeurs dont le New York Times, The Guardian et Wikipedia, avec un apprentissage automatique (machine learning) à partir des messages jugés haineux ou hors sujet par des modérateurs humains. L'intérêt de Perspective est de faciliter la tâche des équipes de modérateurs débordées par l'arrivée massive de commentaires haineux qui empêchent les discussions, obligeant de nombreux journaux à fermer leurs pages de commentaires.

Selon Jared Cohen, président de Jigsaw, l'incubateur de Google qui a construit l'outil Perspective."Les médias veulent encourager les discussions sur leurs contenus, mais trier les millions de commentaires pour repérer ceux qui les trollent leur coûte beaucoup de temps, de travail et d'argent".

Le logiciel est disponible pour les médias membres de la "Digital News Initiative" de Google, et à toutes les plateformes de réseaux sociaux, dont YouTube, Twitter et Facebook.. L'algorithme de Perspective devrait filtrer les messages bien plus vite que les équipes humaines

Twitter a également annoncé il y a trois semaines qu'il allait s'attaquer aux messages haineux, souvent anonymes, en permettant d'identifier leurs auteurs afin de les empêcher de recréer des comptes, ou en les masquant dans les recherches des internautes.

Pour rappel, Google, Facebook, Twitter et Microsoft ont signé l'an dernier un "code de bonne conduite" avec la Commission européenne où ils s'engagent à examiner dans les 24 heures la majorité des contenus haineux signalés par les utilisateurs, afin de les supprimer si nécessaire.




Dans la même rubrique :
< >