「Spider-Man」、「Elsa」、「Hulk」、さらには「スーパーヒーロー」などの単語をYouTubeに入力する場合、ビデオサイトのアルゴリズムが提供するコンテンツの大部分はおそらくまともであると仮定するのは安全です。ただし、アルゴリズムに呼吸する余地が多すぎると、トロールやいたずらによって作成されたが、何百万人もの子供向けに備えた、YouTubeの暗いコンテンツの不穏でトラウマを鳴らす穴に落ちるかもしれません。
作家のジェームズ・ブライドルとaからの批判的なエッセイニューヨークタイムズのスカスレポートそれは、今週、YouTube上にどれほど疑わしくてトラウマを抱える子供向けプログラミングがこれらの問題を明らかにしたかを調査しました。で彼のミディアムポスト、ブライドルはさまざまな例を使用して、YouTubeのシステムがどのようにして、両親が適切であると想定している数百万人の子供を失敗させているかについての長くて啓示的な作品で彼のポイントを証明しました。 Bridleのエッセイは読む価値がありますが、YouTubeのシステムで彼が抱えている主な問題の断片があります。
このコンテンツに子供をさらすことは虐待です。私たちは、ティーンエイジャーに対する映画やビデオゲームの暴力の議論の余地があるが間違いなく現実的な効果、または若い心に対するポルノや極端な画像の影響について話しているのではなく、私自身の10代のインターネット使用の私の冒頭の説明で言及されていました。これらは重要な議論ですが、ここで議論されているものではありません。私たちが話しているのは、出生時に効果的に、非常に幼い子供たちであり、意図的にこの形の虐待に対して非常に脆弱なネットワークを介して、彼らを傷つけて邪魔するコンテンツで故意に標的にされています。それはトロールについてではなく、デジタルシステムと資本主義のインセンティブの組み合わせに固有の一種の暴力についてです。それはそのレベルの金属までです。
これは私のポイントだと思います：システムは虐待に共謀しています。
Bridleは子供のプログラミングに焦点を当てていますが、YouTubeの問題は常にそのアルゴリズムでした。このタイプの有害なコンテンツを寄せ付けないほど有能なフィルタリングシステムを作成するために構築されたテクノロジーは機能しません。長い間機能していません。 YouTubeはこれを知っています。
YouTubeを取り巻く最も論争の多い議論は、メディア批評家とコミュニティの両方の議論によって、YouTubeのアルゴリズムです。信頼できない情報源からの医師のニュースは、クリエイターがアルゴリズムを詐欺することを学ぶために、大量射撃や深刻なニュースイベントに続いてYouTubeで最も視聴されたビデオになりました。いつYouTubeはこれを修正しようとしました、ウォールストリートジャーナルが指摘したその悪い俳優は、「Up Next」アルゴリズムを操作して、誤った物語を促進するビデオに注意を引き戻すことを学びました。 YouTubeは後に新聞にそれを修正する方法を検討していると語った。
11月1日、ルイジアナ州上院議員のジョン・ケネディは、Googleの法執行機関と情報セキュリティのディレクターであるリチャード・サルガドに、それ自体がニュースアウトレットまたは「中立技術プラットフォーム」であると考えたかどうかを尋ねました。 Salgadoは、Googleが自分自身をハイテク企業と見なしており、ケネディは「それがあなたが言うことだと思ったことだ」と答えて冗談を言ったと言いました。
ケネディは、2016年の選挙でロシアの改ざんを調べるための聴聞会でサルガドを焼いたが、ケネディの質問と同様に、会話はそれをはるかに超えている。 SalgadoがGoogleが自分自身をメディア企業と見なしていると言った場合、それはそのネットワークに表示されるコンテンツに対して責任があるでしょう。ただし、Googleが単なるハイテクプラットフォームである場合、そうではありません。 Googleが定義可能なメディア企業ではない限り、そのサイトに表示されるものの所有権を請求することはできません。
問題は、Googleがメディア企業であり、この傘の下での運営に関連する危険は、その最大のエンティティの1つであるYouTubeの日として明確に見られることです。
YouTubeは、TwitterやFacebookと同じ問題に直面しています。コンテンツ管理と監視の欠如。彼らは、プラットフォームを使用して有害なメッセージや不穏なコンテンツを広めるために、ダークフォースに責任を負いたくありません。また、すべてのツイート、Facebookの投稿、またはビデオを吟味することができないほど大きすぎます。
とのインタビューでRecodeのKara Swisher、YouTube CEOのSusan Wojcickiは、Googleは情報会社であると述べました。 Wojcickiは、Googleの使命は「世界の情報を整理する」ことであり、ビデオは本当に重要な種類の情報であると述べました。しかし、それが情報を整理するという会社の使命であるならば、その聴衆にサービスを提供するために何もしない誤った情報に責任を負わないべきでしょうか？他の何よりも有害な誤報？
Wojcickiはもっとうまくやりたいと思っていますが、今年初めにニューヨーク市のジャーナリストと広告主のグループに語ったように、YouTubeのサイズのためにそれをするのは難しいです。潜在的な広告主に中継された数字のいくつかは、ハリウッドレポーターによって報告されました。
昨年よりも100万人を超える加入者を抱えるチャネルが75％多く、YouTubeでのTVチャンネルの時計は50％増加しました。
Wojcickiは、人々を失望させたことを謝罪し、「私たちはもっとうまくやることができる」と約束しましたが、それは節度チームへの大幅な増加を意味するものではなく、アルゴリズムを調整することを意味しました。しばらくの間、それは何百万ものビデオをデモネタ化し、特定のクリエイターがエンドスレートに外部リンクを含めて、広告主のためにWebサイトをクリーンアップしようとする他の手段を含めることを意味しました。しかし、これはサイトを悩ませている問題を解決するために何もしませんでした。
アルゴリズムは、自分のビデオが見られるようにしたい人によってバラバラになり、分析され、打ち負かされました。最悪の場合、これらは憎悪なコンテンツを促進し、YouTubeの鼻の下に誤った情報を広めるビデオです。他のケースでは、それほど大きな問題ではないように見えるかもしれませんが、サイトの問題を示していることを示しています。つまり、ユニコーンの穏やかなビデオを見ようとしている子供たちは、同じユニコーンを特徴とする4chanジョークにつまずくかもしれません。ヘッドが切り刻まれたかポルノを追加しますそれはアルゴリズムのレーダーの下に飛びます。
YouTubeの幹部は、このタイプの行動を防止しようとするためにルールを入れました。マーベルのスーパーヒーロー、ディズニーのミッキーマウスファミリー、その他のピクサーキャラクターなど、特定のエンティティは、明らかにこれらの目的のために操作されることは想定されていません。 YouTubeはこれらのタイプのビデオを完全に禁止していませんが、アップロードが以下にリストされているカテゴリのいずれかに触れている場合、広告主にとっては友好的ではないと考えられています。
コメディーまたは風刺的な目的で行われたとしても、暴力的、性的、卑劣、または不適切な行動に従事しているアニメーションまたは実写に関与する家族のエンターテイメントやコンテンツを描いたビデオは、広告には適していません。
懸念が高まっているのは、YouTubeがそのアルゴリズムに頼って最悪の犯罪者を捕まえることができないということです。いくつかはすり抜けようとしています。これは、システムを詐欺することができた1人か2人だけでなく、数千人ではありません。絶えず変化するアルゴリズムが、必要なガバナンスの種類に追いつくことを期待するだけでは十分ではありません。子供のショーにポルノをスプライスし、ビデオを確実に確認するためのアルゴリズムをゲームすることができた4chanキャンペーンのように、人々がYouTubeのアルゴリズムを利益のためにリグすることができる方法は無数にあります。
これらの種類の物語について書くたびに、私はすべての最大読み取りを選択するために振り返ってください。最も雄弁に書かれています主題について。 TwitterとFacebookで同様の問題について言えば、「革命をリードした場合、ある時点で統治しなければならない」と主張する概念を読んだことがあります。彼はまた、私たちが住んでいる新しい世界についてのもう1つの興味深いポイント、DIYコンテンツによって覆されたものであり、それはYouTubeのシナリオを最もよくまとめるものです。
「今、世界が変わったので、過去の最高の価値が耐えることを保証するのは彼ら次第です」とリードは書いています。 「彼らは少なくとも問題を認めることから始めることができました。」
YouTubeにとって、その認識は、それが持っているアルゴリズムがしばらくの間、深く欠陥があることに対処することにあります。
