YouTubeの子供たちは2015年以来問題になっています。なぜこれほど長い時間がかかったのですか？

過去数週間で、世界は多くの報告を通じて、YouTubeが子供のコンテンツの問題に悩まされていることを学びました。同社はここ数週間で不適切なコンテンツの波と戦うために節度を増やしましたが、YouTubeがこのポジションに就いたのはこれが初めてではありません。

2015年2月23日、YouTubeは、子供と子どもに適したエンターテイメント向けに構築されたスタンドアロンアプリであるYouTube Kidsを発表しました。アイデアは、YouTubeを、メインサイトを監視せずに子供たちを使用したくない親にとってより安全なプラットフォームにすることでした。最初のブログ投稿キッズアプリについては、「親はYouTube Kidsアプリのビデオが子供に適したコンテンツに絞り込まれていることを知って、少し簡単に休むことができる」と述べています。

親のコントロールには、親がアプリから検索オプションを削除する機能を提供し、子供に「ホーム画面で利用可能な事前に選択されたビデオだけ」にアクセスできるようにすることも含まれていました。 Kidsアプリは、YouTube Kids GroupのプロダクトマネージャーであるShimrit Ben-Yairによると、「家族のYouTubeを再考するための最初のステップ」を示しました。

2か月もたたない今後、2015年5月に、子供と消費者の擁護団体の連合である商業用の子供時代のキャンペーンは、連邦取引委員会（FTC）に不満コンテンツについて彼らは「幼い子供が見るのを邪魔するだけでなく、潜在的に有害な」と呼んだ。

のような人気のあるキャラクターを使用します凍った'S ElsaとSpider-ManであるYouTubersは、お気に入りのキャラクターをフィーチャーした攻撃的なビデオに子供を誘惑することができます。最初はこれらのビデオは普通に見えますが、すぐに同じディズニープリンセスやスーパーヒーローがわいせつまたは暴力行為に参加しています。 YouTubeの検索アルゴリズムにより、子供はこの種のコンテンツでいっぱいの恐ろしいプレイリストトラップに簡単に陥り、ユーザーは自分のビデオに名前を付け、YouTubeのアルゴリズムを回避できるサムネイルを使用して、子供にとってコンテンツが安全に思えるようにします。

レポートGolinとAdvocacyチームの他のメンバーがYouTube Kidsアプリで早期に発見した多くの問題をリストしています。これらには以下が含まれます：

YouTubeの代表者サンノゼマーキュリーニュースに語った苦情が提出された後、会社がYouTube Kidsアプリに取り組んでいたとき、「多数のパートナーや児童擁護、プライバシーグループと相談した」とYouTubeは「常にアプリを改善する方法に関するフィードバックを受け入れることができる」と付け加えました。

しかし、あまり変わっていません。からのレポート2016年6月のガーディアン、当時YouTubeで3番目に人気のあるチャネルは「Web＆Tiaras」であり、子供を対象としたコンテンツをキュレーションしたことを指摘しました。報告によると、このチャンネルは、より成熟した行為を行うスーパーヒーローの衣装やプリンセスの服装の大人の品揃えを主演しました。

チャンネルのコンテンツは疑わしいものでしたが、ほとんどが受け入れられると理解されていました。チャンネルの成功を豚にぶら下げたいと思っていた他の悪い俳優は、同様のコンテンツを投稿し始めましたが、性的イメージと不穏なコンテンツを使用しました。 2016年、チャンネルのスポークスマンであるPhil RantaVergeに言ったこれが起こっているのは驚くことではありませんでした。

「この[新しいジャンル]と同じくらい大きいとき、そして彼らが年間数百万ドルを稼いでいるのを見るのは自然なことだと思います。言った。 「彼らは、このゲームにとどまることができるかどうかに気付く前に、これらの措置を使い果たす必要があります。」

特に1つのチャネル、Web＆Tiaras - Toy Monsterは、Web＆Tiarasの名前を使用して、トレンド協会の下で邪魔なコンテンツを広めていました。これらのビデオの多くは削除されていますが、一部は削除されていますそれでもYouTubeに残っています。この記事が書かれる前に、元のWeb＆Tiarasチャネルが削除されました。

YouTubeは最終的にメインサイトで問題に対処し、コンテンツの緩和方法を変更します。 YouTube CEOのSusan Wojcickiは、同社は2018年に節度隊を10,000人以上の請負業者に拡大し、「当社のポリシーに違反する可能性のあるコンテンツ」に焦点を当てていると述べました。

「人間のレビュー担当者は、コンテンツを削除し、機械学習システムをトレーニングするために不可欠なままです。これは、人間の判断がコンテンツについてコンテキスト化された決定を下すために重要だからです」と彼女は書いた最近のブログ投稿。

ほぼ3年後、YouTubeは、メインサイトとYouTubeの独立した子供アプリの両方で、コンテンツについて親やメディアの批評家によって提起された多くの懸念に応えました。会社は次の声明をPolygonに発行しました。

しかし、将来のコンテンツがキュレーションされるかどうか、またはアプリがより少ない動画を使用してより多くの人間主導のモデレートを可能にするかどうかなど、独立したキッズアプリのコンテンツに関する質問は、ほとんど答えられていません。

YouTubeの代表者はPolygonに、YouTube Kidsのコンテンツの50分の5（0.005）だけが不安になり、会社のポリシーに反対していると考え、コンテンツが報告されると、会社はビデオを削除するために厳格な行動をとると付け加えました。 、アプリからチャネル全体。

「YouTubeはこれを子供たちが探検するための安全な場所としてマーケティングしていますが、子供たちが探検するのに安全な場所ではありません」と、商業用の子供時代のディレクターであるジョシュゴリンのキャンペーンはポリゴンに語りました。 「私たちは本当にこの問題を提起した最初のものであり、これは2年半前にさかのぼります。私たちが暫定的に見つけたことは、それはwhac-a moleのようなものです - 私たちはそれらを見たようにビデオを指摘しました。私たちが苦情で命名したすべてのビデオは[アプリ]から外れましたが、もちろんもっとありました。

「子供向けのアプリを構築するのはひどい方法です」と彼は言いました。

2015年5月19日のFTCへの2015年5月の苦情で、Golinは、YouTubeの検索アルゴリズムが子供にとって安全であると思われる環境内でもどのように悪用されるかを指摘しました。

Golinと彼の同僚は、YouTube Kidsアプリとメインサイトの子供を対象としたコンテンツが問題になっていることに気づいた唯一の人々ではありませんでした。過去数年で、複数の親グループがFacebookに出現し、子供のための安全な体験をナビゲート、フラグを立て、キュレートする方法を学ぶことを目的としています。

YouTubeからのサポートがほとんどないため、これらのグループはしばしばボランティアウォッチドッグとして機能し、最悪のYouTubeを通過してフラグを立てています。 YouTubeの代表者は、Polygonに、独自の機械学習アルゴリズムが毎日改善されているにもかかわらず、子供が受け入れられないコンテンツを学ぶ - チームは、問題のあるビデオやチャンネルに対処するために親からのフラグに依存していると語った。

親が協力して、子どもたちが見ているものに目を向けるために、新しい改良されたシステムを作成するために協力していたとき、YouTubeはアプリの他の側面に焦点を合わせていました。同社は、2016年にYouTube Kidsアプリの他のエリアを強調することを選択しました。これには、Apple TVで表示され、YouTube Redと互換性があるという事実が含まれます。

YouTubeが予防措置に多額の投資を始めたのは、今年までではありませんでした。

何よりもまず、節度。

YouTubeは、そのメインサイトがYouTube Kidsアプリではなく、悪い俳優によって悪用されていると主張していますが、YouTubeがKidsアプリが100％安全であることを保証することはまだ不可能です。会社はUSA Todayに語った子どもたちがコンテンツを邪魔することにつまずいていないことを確認したい親は、「推奨されるビデオ」のオプションをオフにする必要があります。

「あなたの子供は、あなたが彼らに見たくないかもしれないアプリでコンテンツを見つけるかもしれないことがあります」とYouTubeの代表者はUSA Todayに語った。

YouTubeの家族と子供のコンテンツのグローバルヘッドであるMalik Ducard、ニューヨークタイムズに語ったこれらのタイプのビデオは「ヘイスタックの極端な針」であり、アルゴリズムの機械学習と、これらのビデオが滑り込んだ理由で監視の欠如を指摘しました。ダカードはまた、YouTubeの子供たちはキュレーションされた体験を提供していないと言いました。つまり、親は子供たちが見ているものをコントロールする責任がありました。

制限モードがオンになっているため、親が検索機能を無効にし、メインサイトから追加のビデオをアプリにあふれさせることを防ぐことができます。子供がよりオープンで無料のローミング設定に切り替えることは困難です。 YouTubeは、親がアプリにサインアップしたら、会社の最善の努力にもかかわらず、悪い俳優によって作成された不穏なコンテンツが現れる可能性があることを明確にします。

YouTubeの観点から見ると、完全な節度は不可能です。 400時間のビデオが毎分アップロードされます。

しかし、ゴリンにとっては、現在の努力では十分ではありません。ゴリンはポリゴンに、YouTubeがアルゴリズムを「大きな漁網」として扱うことは無責任であると語った。

「YouTube Kidsのアプリの前提全体は、子供の安全性が心配な場合は間違っています」とGolin氏は言います。 「何百万ものビデオがあるアプリを掲載することはできませんが、それは大丈夫です。子どもたちは、何百万ものビデオがあるアプリを必要としません。 1つのアプリに20,000本の卵のビデオは必要ありません。彼らが必要とするのは、コンテンツが審査され安全になった場所です。

「子供の観点から、問題は修正できません」とゴリンは言いました。 「YouTubeモデルは何かを作成しましたが、これは非常に広大ですが、毎分400時間のコンテンツがアップロードされています。それは単に大きすぎます。人々は何年もこれらの問題を提起してきましたが、子育てフォーラムにアクセスしてください。彼らは偽のペッパ豚のビデオについて話してきました。 YouTubeが積極的な措置を講じ始めたのは、ミディアムピースがバイラルになった後だけでした。明確にするために、広告主は親ではなく懸念していたため、彼らは措置を講じました。」

すでにYouTube「Adpocalypse」を通過しました。その中で、大規模な広告主は、憎しみに満ちたコンテンツで満たされたビデオに添付されている広告を見つけた後、プラットフォームから引き出されました。そのため、会社は他の人が去るものを避けたいと考えています。

YouTubeの計画の一部は、人間の節度を増やし、そのアルゴリズムを調整することです。子どもの安全そして、ヘイトスピーチ。」 YouTubeは、これらのビデオに添付された収益化と広告を受け取るチャネルを削減します。 YouTube Kidsには広告も含まれているため、その多くは子供が適切ではないと言いますが、これはプラットフォーム上のチャネルやビデオに影響します。

YouTube Kidsはマネーメーカーです。 YouTubeは、ポリゴンにどれだけ正確にどれだけのことを伝えませんが、それはありません広告を販売していますビデオ。それが何であれ、GolinはYouTubeにアプリを変更するインセンティブがないだけで十分だと考えています。 YouTubeは、会社がコンテンツをキュレートし、今後のビデオの数を制限するかどうかを尋ねられたときにコメントすることを拒否しました。

「彼らの目標はお金を稼ぐことであり、十分な抗議があり、彼らに継続的なプレッシャーがない限り、私たちは同じ問題を見るでしょう」とゴリンは言いました。 「問題が修正可能であることはわかりません。 YouTubeがこれらの問題が修正可能であることに気付いて、それを明確にした場合、それは素晴らしいことです[会社がコンテンツをキュレーションしていない場合]これはビデオを見たい大人向けです。彼らが彼ら自身で彼らを得るだろうと私はあまり信仰を持っていません。」

YouTubeの代表者はPolygonに、報告にもかかわらず、問題の大部分はメインサイトにあると語った。代表者は、メインアプリとサイトの家族をターゲットとする不適切なコンテンツを思いとどまらせるために、現在のポリシーへの消費された変更が導入されたと述べました。これを行うことで、代表者が確認したことで、YouTube Kidsには年齢gateしたコンテンツ（18歳以上の聴衆にフラグが立てられている）が確実に表示されることを確認することになっています。

YouTubeの担当者は、メインのYouTubeサイトにフラグが付けられているコンテンツがKidsアプリに表示されないことを確認しました。ビデオがアプリに向かっている場合、代表者は二次上映が行われることを確認し、チームは常にアプリにフラグを立てられている新しいビデオを緩和するために整っていると付け加えました。

親グループや犬の組織がまだ提起されている質問はまだ提起されています。redditとdiscordでエルサージェート、次のことについてYouTubeのシステムを通過している不気味なチャネルやビデオに注目しています。 YouTubeの代表者は、執筆時点でこれ以上詳細を提供できませんでした。

批評家がYouTubeをゆっくりと呼んでいます - その中で、YouTubeを「有毒廃棄物ダンプ」と呼んだNews Corp CEOのRobert Thompsonの中で - 今では、新年の後に問題がすぐに管理される方法です。 DucardとWojcickiは、同社は「このタイプの状況が発生するのをより効果的かつ積極的に防ぐ方法に取り組んでいる」と述べた。