Tumblrの不安定なアルゴリズムは、無実の投稿にアダルトコンテンツとしてフラグを立てています

ペトラナ・ラドゥロビッチ アニメーション、ファンダムカルチャー、テーマパーク、ディズニー、ヤングアダルトファンタジーフランチャイズを専門とするエンターテインメントレポーターです。

Tumblrは月曜日に発表しました12月17日の時点でNSFWコンテンツを取り締まることになること。誰もが起動していないか、まったく削除されていないが、プラットフォームは新しいガイドラインに違反する投稿にフラグを立て始めます。コンテンツは、元のポスター以外のすべての人から隠されます。

新しいルールに違反する投稿?性的行為を描いた画像、GIFまたはビデオ、完全なヌードと「女性存在乳首」。ガイドラインでは、教育、医療、抗議の目的のためのヌード、および非性的イラストがフラグが立てられないと述べています。あなたがNSFWブログではなく、NSFWの材料に興味がない場合、問題になってはいけませんよね?

さて、ここには問題があります:Tumblrのアルゴリズムは失敗します。

それは非常に失敗しているので、完全に無邪気な投稿がフラグを立てられているように登場します。それが漠然と肉色であるか、人間に似た形状を持っている場合、ポストは不適切であるとマークされる可能性があるようです。この素敵なファンアートはすべて?フラグ付き。

この心温まる瞬間ミスター・ロジャースの近所?若い目のためではありません。

Tumblrは、芸術と彫刻が保護されると主張しましたが、そのアルゴリズムはそうでないと言います。

コンテンツに人間が含まれていなくても、疑わしいです。

LGBTQの個人を描いた多くの投稿も、フラグが付けられていると伝えられています。これ、そしておそらく明示的である他の家族に優しいコンテンツは、アルゴリズムの無能さとTumblr側の意図的な尺度の結果であると思われます。ラベル付けは全面的に矛盾していますが、何も確認できません。

ああ、詩的にも皮肉なことに、砂漠の写真をポルノも誤って宣言した検閲ボットに関する記事もフラグを立てられました。

明確にするために - フラグを立てることは、投稿が削除されたり、ユーザーがブロックされていることを意味しません。実際のブログページでは、バナーがポップアップ表示されません。今のところ、ダッシュボードのみにあります。これは、ガイドラインが削除されたときの警告であり、最初にコンテンツを投稿したブログ所有者はフラグにアピールできます。

それでも、誤検知がどれだけ上がっているかを考えると、NSFWのコンテンツをあまり投稿していない人でさえ、新しいポリシーの迫り来ることは不安定です。

フラグを立てるアルゴリズムによって生成される誤検知症について、およびアルゴリズムを調整する予定かどうかについて、必要に応じて更新するかどうかについて、Tumblrに手を差し伸べました。