Par Super Neuro
Sur Internet, il existe un type de personnes qui aiment enseigner aux autres, qui aiment occuper une position morale élevée et qui aiment gagner des disputes verbales. Ce sont des guerriers du clavier.Aujourd'hui, les différents groupes WeChat qui ont été attaqués les uns les autres à cause de l'incident « Les fans des Warriors et des Cavaliers se disputant entre eux » ont encore suscité leur intérêt. Certains d'entre eux ont suivi le mouvement, mais certains guerriers du clavierProvoquer des troubles partout et tenir des propos irresponsables sont des facteurs de disharmonie pour Internet et la société.
C'est un grand défi de trouver les guerriers du clavier cachés parmi les 4 milliards d'internautes et d'intervenir avec précision.Le New York Times a présenté un outil basé sur l’IA qui semble résoudre ce problème.
Lors du premier match des finales NBA qui s'est terminé le 1er juin, le joueur des Cavaliers JR Smith a pris un rebond clé dans les 4 dernières secondes du match, mais n'a pas choisi de tirer directement mais a emmené le ballon au milieu de terrain, ce qui a permis aux Warriors de remporter la victoire.
JR a été vivement critiqué par de nombreux guerriers du clavier, déclarant : « Quand Dieu répandait la sagesse, JR tenait un parapluie. »
Ces remarques sarcastiques ont également poussé JR à tirer 2 sur 9 lors du deuxième match, marquant seulement 5 points dans l'ensemble du match. Il est difficile de dire que de telles performances n’ont pas été influencées par les guerriers du clavier.
Cependant, le New York Times a récemment introduit l'outil Perspective dans sa propre section de commentaires pour gérer les guerriers du clavier et leurs remarques malveillantes, et l'effet serait bon.
Un outil qui peut rapidement verrouiller et bloquer les commentaires malveillants
Perspective est l'un des produits phares de Jigsaw, utilisant des systèmes d'apprentissage automatique pour gérer la parole de la communauté. Jigsaw est une société technologique d'Alphabet spécialisée dans la résolution des problèmes de sécurité réseau. Leur slogan est « Utiliser la technologie pour rendre le monde plus sûr », ce qui peut être considéré comme un slogan très fort.
Grâce à l'apprentissage automatique, Perspective peut analyser et organiser un grand nombre de commentaires historiques, trouver des commentaires malveillants grâce aux mots-clés des remarques « malveillantes » et à leurs mots associés, et les noter en fonction du « niveau de malveillance ». Plus le score est élevé, plus le degré de malveillance est élevé.
Les diamants sont des commentaires abusifs, les carrés sont des commentaires négatifs et les cercles sont des commentaires normaux.
Sur la base de ces scores, les administrateurs de la communauté peuvent catégoriser les commentaires et filtrer les commentaires appropriés sans fermer complètement la zone de commentaires.
Avec l'aide de Perspective, le New York Times a augmenté le nombre de commentaires ouverts de 10% à plus de 30%, améliorant ainsi l'activité de l'ensemble du site.
Actuellement, Perspective peut uniquement évaluer les commentaires et aider les administrateurs à les catégoriser, mais ne peut pas gérer directement les commentaires. Cependant, Jigsaw a déclaré qu'ils travaillaient à rendre Perspective directement gérable et qu'ils publieraient davantage de modèles d'apprentissage automatique pour aider Perspective plus tard cette année.
Il y a des talents et des racailles dans la section des commentaires
Non seulement le New York Times, mais aussi Wikipédia et The Economist ont commencé à utiliser Perspective pour gérer leurs propres commentaires communautaires.
Les gens accordent de plus en plus d’attention aux messages des communautés en ligne. La raison principale est que les commentaires publiés par certains participants irrationnels de la communauté causeront dans une certaine mesure un préjudice mental aux créateurs, ce que nous appelons souvent la cyberviolence.
Aux États-Unis, plus de 401 personnes subissent ou ont subi des cyberviolences. Les remarques « calomnieuses » des guerriers du clavier deviennent pour eux un nouveau fardeau mental, et le coup mental a un impact plus grand que le coup physique.
Afin de protéger les auteurs et les lecteurs du harcèlement, de nombreux médias ou organisations sociales n’ont d’autre choix que de fermer les commentaires, ce qui n’est pas propice à l’interaction entre les auteurs et les lecteurs. À ce moment-là, les guerriers du clavier sont réapparus : wtf, vous avez effectivement désactivé mes commentaires, vous me privez du droit de parler.
La perspective fonctionne-t-elle pour les Chinois ?
Bien que Perspective ne puisse actuellement identifier que certains messages contenant des mots offensants ou vulgaires, à l'aide d'une grande quantité de données, Perspective est capable d'identifier des remarques malveillantes évidentes et subtiles au niveau technique.
Mais c’est déjà une chose très significative pour gérer les messages de la communauté et protéger les auteurs et les lecteurs.
Mais alors, Perspective peut-il être utilisé sur les sites Web des médias nationaux à l’heure actuelle ? Comparés à l'anglais, les caractères chinois sont non seulement plus complexes dans leur forme, mais aussi très difficiles à exprimer par les machines avec des significations multiples.
On estime que Perspective est encore un peu impuissant face à la profonde culture chinoise, aux diverses métaphores et aux dictons populaires, mais au moins nous avons encore la police d'Internet maintenant.