超神経質で
インターネット上には、他人に教えることを好み、道徳的に優位に立つことを好み、口論で勝つことを好むタイプの人々がいます。彼らはキーボード戦士です。今日、インターネット全体の「戦士騎士ファンファングループ」事件をきっかけとしたさまざまな相互WeChatグループが、彼らの関心をさらに高めています。彼らの何人かはこれに倣ったが、キーボード戦士もいた喧嘩を売ったり、トラブルを引き起こしたり、くだらない話をしたりすることはすべて、インターネットと社会にとって不調和な要素です。
40億人のインターネットユーザーの中に潜むキーボード戦士を探し出し、的確に介入するのは大きな課題だ。ニューヨーク・タイムズは、この問題を解決できると思われる AI テクノロジーを活用したツールを紹介しました。
6月1日に終わったNBAファイナルの第1戦で、キャバリアーズのJ・R・スミス選手は試合開始残り4秒で重要なリバウンドを奪い、直接シュートを選択する代わりにボールをミッドフィールドに運び、ウォリアーズを封じた。勝利。
JRは多くのキーボード戦士から「神が知恵を広めているときにJRは傘をさしているようなものだ」と怒ってコメントされた。
これらの皮肉な発言により、JR は第 2 試合で 9 本中 2 本をシュートし、わずか 5 得点しか記録できなかったが、このパフォーマンスがキーボード戦士の影響を受けなかったとは言い難い。
しかし、ニューヨーク・タイムズは最近、コメントエリア内のキーボードウォリアーとその悪意のあるコメントを管理するツール「Perspective」を自社のコメントエリアに導入し、効果を上げているという。
悪意のあるコメントを素早くターゲットにしてブロックするツール
Perspective は Jigsaw の主力製品の 1 つであり、機械学習システムを使用してコミュニティの発言を管理します。 Jigsaw は、ネットワーク セキュリティ問題の解決を専門とする Alphabet 傘下のテクノロジー企業です。そのスローガンは、「テクノロジーを使用して世界をより安全にする」です。
Perspective は機械学習を通じて、過去の多数のコメントを分析および整理し、「悪意のある」発言とそれに関連する語彙のキーワードから悪意のあるコメントを見つけ出し、「悪意のあるレベル」に応じてスコアを付けます。より悪質な度合いが高くなります。
ひし形は暴言的なコメント、四角は否定的なコメント、丸は通常のコメントです。
これらのスコアに基づいて、コミュニティ管理者はコメント領域を完全に閉じることなく、コメントを分類および管理し、適切なコメントを除外することができます。
Perspective の助けにより、ニューヨーク タイムズはオープン コメントの数を 10% から 30% 以上に増やし、Web サイト全体の活動を改善しました。
現在、Perspective はコメントを評価し、管理者がコメントを分類できるようにすることしかできませんが、コメントを直接管理することはできません。ただし、Jigsaw は、Perspective を直接管理できるようにするために懸命に取り組んでおり、今年後半には Perspective を支援するさらに多くの機械学習モデルもリリースする予定であると述べました。
コメント欄には才能のある人もいるが、クズもいる。
ニューヨーク タイムズだけでなく、ウィキペディアやエコノミストも、独自のコミュニティ コメントを維持するために Perspective を使用し始めています。
人々がオンライン コミュニティのメッセージにますます注目するようになっています。その主な理由は、一部の非合理的なコミュニティ参加者が投稿したコメントが、クリエイティブな主体にある程度の精神的損害を与えること、つまり、私たちがよくオンライン暴力と呼ぶものだからです。
米国では、約 40% 人以上の人々がオンライン暴力を経験している、または経験したことがあるキーボード戦士による「悪意のある中傷」発言が彼らにとって新たな精神的負担となっており、肉体的な打撃よりも精神的な打撃の方が大きな影響を及ぼしています。
多くのメディアや社会組織は、著者と読者を侵入から守るために、コメントを閉じざるを得ませんが、これは著者と読者の間の交流には役に立ちません。このとき、キーボード戦士が再び現れました。なんと、あなたは私のコメントをオフにしているのです。私の発言権を奪っています。
遠近法は中国人にも効果がありますか?
Perspective は現在、不快な言葉や下品な言葉を含む一部のコメントしか識別できませんが、大量のデータを活用することで、明らかな悪意のあるコメントと意図的ではない悪意のあるコメントの両方を技術的に識別できます。
しかし、これはコミュニティのコメントを管理し、作成者と読者を保護するためにすでに非常に意味のあることです。
しかし、そうは言っても、Perspective は現在、国内のメディア Web サイトに適用できるのでしょうか?英語に比べて、中国語の文字は字形が複雑であるだけでなく、機械にとって多言語表現も非常に複雑です。
Perspective は、広大で奥深い中国文化、さまざまな比喩、流行の格言にまだ少し対応できていないと推定されていますが、少なくとも今ではインターネット警察が存在します。