YouTube は人間のレビュー担当者を AI に置き換えた後、彼らを再雇用することを決定した

YouTube、Facebook、Twitter などのソーシャル プラットフォームは、コンテンツのレビューに多大な努力を払っており、特に機械学習テクノロジーを使用して徐々に手作業を置き換えています。しかし、YouTubeは最近、この進歩を一時的に停止し、年初に解雇した人間のレビュアーを再雇用することを決定した。

今年の初めに、YouTube は手動によるコンテンツ レビュー チームを大量に解雇し、コンテンツ レビューを AI に置き換えました。

そのため、今年 4 月から 6 月までの第 2 四半期を通じて、YouTube 上のすべての動画が AI によって正式に審査されました。また、四半期全体にわたって人間の審査員がコンテンツの事前審査に参加しなかったのは、YouTube の歴史上初めてのことです。

この大きな一歩は多大な影響をもたらし、最近 YouTube はこの取り組みを中止し、年初に解雇された多数の手動レビュー チームを再雇用しました。 

AI が人間の労働力に取って代わる: 削除されたビデオの記録的な数

AI 監査が停止された重要な理由の 1 つは、AI 監査のルールが手動の監査よりも厳しく、偶発的な怪我につながる可能性があることです。

Google の定期的な透明性レポートによると、次のようになります。AI がコンテンツ審査を引き継いだ 2020 年 4 月から 6 月にかけて、合計 1,100 万本の動画が AI によって違反のフラグが立てられ、棚から削除されました。、これらのビデオは主に米国、インド、ブラジルからのものです。

しかし、今年の第 1 四半期に、規則に違反していると特定され、棚から削除されたビデオはわずか 660 万本でした。手動から AI に切り替えた後、棚から削除されたビデオの数はほぼ 2 倍になりました。

AIによって削除された1,100万本のビデオのうち、ほとんどはポルノ、虚偽、テロ関連のものでしたが、多くは偶発的なものでした。

で、AIによってフラグが付けられた32万本の動画に対して苦情が申し立てられ、そのうち半数近くが二次審査を通過して再公開された。過去には、苦情ビデオを再リリースできるのは約 25% のみでした。

YouTube のモデレーション AI は、YouTube 配信者を震え上がらせ、コンテンツの自己チェックに多くの時間を費やすことになり、しばらくの間、多数の苦情が YouTube チームに多大な負担を与えました。

人工知能が再び引き継ぐ: まだ機は熟しておらず、AI はまだまだ努力する必要がある

YouTube が今年初めに手動レビュー チームを解雇するまでは、フルタイムまたは外部委託のレビュー ポジションが 10,000 人もありました。

これらの人間のレビュー担当者は、Google のグローバル オフィスまたは外部委託ベンダーのオフィスに配置されています。

  10,000 人のチーム: 莫大な運営コスト 

たとえば、中東でコンテンツ レビューを担当する場合、アラビア語とアラビア語の方言を習得し、関連するコンテンツを迅速にマークアウトするために中東にアップロードされたビデオをレビューする必要があります。テロ、暴力、煽動動画。

この種の仕事では、週に 500 時間以上のビデオをレビューする必要があり、初級レベルのポジションの給与は時給 18.50 ドル、年間給与は約 37,000 ドルに達する場合があります。

コンテンツ レビューの役職がどれほど上級であっても、Google の正社員と同等の待遇を得られるだけでなく、10 万ドル近い年収も得ることができます。ある程度の法律知識を習得する必要があります。

栄光の陰でグーグルも多額のコストを負担しており、それが今年の感染症流行の際にユーチューブが手作業による審査職を廃止することにもつながった。

この YouTube への復帰では、次のことも言及されています。感染症の流行により、手作業によるレビューの費用がより高価になり、より困難になりました。人間の介入が不十分か、AIの介入が過剰か、AIを選択するしかありませんでした。

  マニュアルレビュー: 限界的な職業は肉体的にも精神的にも疲弊している 

コンテンツレビューは簡単な仕事ではなく、毎週決まった作業ノルマがあるだけでなく、長時間児童ポルノや暴力、ホラーシーンと向き合わなければならず、肉体的にも精神的にも疲弊してしまうことが多い。

ワシントン ポスト、フォーチュン マガジン、その他のアメリカの主流メディアは、コンテンツ モデレーターの職業について詳細なレポートを作成しています。インタビューしたコンテンツモデレーターは全員、例外なく、この職業が身体的および精神的健康に強い悪影響を及ぼしていると表明しました。

メディアの世論の影響もあり、テクノロジー企業は不快なビデオの週当たりの視聴時間制限や定期的な心理療法などの措置を講じるなど、この種の立場に対する一連の改善を求められている。

人工知能または AI: 結論を急ぐ必要はありません

手動レビューの費用、人々の心理への悪影響、機械学習の技術進歩により、近年、自動コンテンツ レビューの研究とさまざまなプラットフォームでの迅速な適用が促進されています。

AI には偶発的な損害が発生する可能性がある程度ありますが、違法コンテンツの審査においては手動審査よりも優れた効率性が実証されています。

YouTube の最高製品責任者であるニール モハン氏は、手動レビューの復活についてフィナンシャル タイムズに応じた際、一連のデータについて言及しました。 「AIによって削除のマークが付けられた1,100万本の動画のうち、50%を超える動画はユーザーが再生する前に棚から削除され、80%を超える動画は10回再生以内に棚から削除された。」

AI を使用して人間の労働を大規模に代替する先駆者として、YouTube は落とし穴に遭遇することは必至ですが、同時に、協力関係において他の企業、さらには社会全体にとってより明確な発展の方向性も示しています。人間とAIの間。

このような実験は手間がかかりますが、確かに必要です。そのためには、カニを食べる気概、世間の批判に耐える勇気、そして余波に迅速に対処する決意が求められる。同じオープンで透明なデータにより、メディアや社会も将来の不確実性を受け入れ、より多くの合意と自信を持つことができます。

参照元:

運：「なぜ何千人もの人間のモデレーターがソーシャルメディア上の有害なコンテンツを修正しないのか」

ザ・ヴァージ:「AI システムの過剰検閲を受けて、YouTube が人間のモデレーターを復活させる」「THE TERROR QUEUE」

ワシントンポスト:「YouTube、Facebook、Twitter のコンテンツモデレーターはウェブの最悪の状況を目の当たりにし、静かに苦しんでいます。」

有線：「人類が家に帰る中、FacebookとYouTubeはコロナウイルスの危機に直面している」

- 以上 -