成人コンテンツを禁止したTumblrのガバガバ過ぎるAIがポルノ画像と判定してしまった健全な画像まとめ

成人コンテンツを禁止したTumblrのガバガバ過ぎるAIがポルノ画像と判定してしまった健全な画像まとめ

  • GIGAZINE
  • 更新日:2018/12/07
No image

byJulian King

アダルトコンテンツの投稿禁止を新ガイドラインに設けたミニブログサービス・Tumblrが、独自の人工知能(AI)を利用してTumblr上に投稿された画像の中からアダルトコンテンツに相当するものを自動で選別し、警告を送り出しています。しかし、このアルゴリズムの判定があまりにもお粗末なために、健全な画像もポルノ判定を下されまくっていると話題になっていて、Twitterでは次々と報告があがっています。

Tumblr’s porn ban is going about as badly as expected | Ars Technica

https://arstechnica.com/gaming/2018/12/tumblrs-porn-ban-is-going-about-as-badly-as-expected/

Tumblrは2018年12月17日から、ユーザーの年齢にかかわらずアダルトコンテンツの投稿を完全に禁止することを発表しました。これはTumblr上に児童ポルノ画像が含まれていたことを理由に、2018年11月末にAppleのApp Store上から専用アプリが削除されたことがきっかけだといわれています。

No image

Tumblrがアダルトコンテンツの禁止を発表 - GIGAZINE

ただし、この時にTumblrが発表した新ガイドラインにおける定義があいまいだとして、ユーザーからは不満の声もあがっていました。

一方、Tumblrは本格的にアダルトコンテンツの一掃を考えているようで、Tumblr上に投稿された画像を自動でチェックし、違反コンテンツと判断すると警告を送るAIを導入しました。しかし、このAIによる判定精度があまりにも低く、全く性的ではない画像にも警告を送りまくってしまい、Tumblrユーザーは大混乱。なぜかアダルトコンテンツと見なされてしまった「なんでもない画像」がTwitterで次々と報告されています。

女の子のポーズこそセクシーなものの、どうみても健全な画像ですが、Tumblrから違反警告を受けてしまったとのこと。

No image

Tumblrアプリ開いてflaggedになってる対象ざーっと見てみたけど基準が本当によくわからん。どう見てもこれとかセーフでしょwww
— ⛵️す???? (@supistar)
2018年12月4日
from Twitter

事務員による後輩への気遣いを描いた暖かい画像もなぜか違反警告の対象。

No image

Tumblr基準だとアウトらしい
— 凪庵【待機列ガール⑥12/28】 (@nagian)
2018年12月4日
from Twitter

「Tumblrやっちまったな。言葉も出ないよ。ジブリに警告を出すなんて」

No image

Tumblr did it. the unspeakable.
It flagged Ghibli.
— vika (@viria13)
2018年12月4日
from Twitter

「この子はかぎ針で編んだロウソクのケヴィンです。Tumblrだとケヴィンは違反扱いになります。おわかりだとは思いますが、なぜならケヴィンはどう見てもアダルトコンテンツだからです」

No image

This is Kevin, the crochet candle. :D
Over on #tumblr , Kevin got flagged because, you guess it, very obvious adult content #crochet #candle
— JojoMakesArt (@JojoMakes)
2018年12月5日
from Twitter

おじさんが2人並んで涼を取っているだけの画像も「Tumblrには刺激的すぎた」ようです。

No image

2 hotttt 4 tumblr (yes, really)
— Janice Collier (@ardaniel)
2018年12月4日
from Twitter

「アトランタの生水は飲むには危険だし、私がデジタルで描いた洞窟の絵はTumblrには刺激的過ぎて取り扱えない」と、単なる洞窟の絵までアダルト判定を受けてしまいました。

No image

All the water in Atlanta is unsafe to drink and my digital paintings of caves are too hot for Tumblr to handle.
— Anne Sullivan ???? (@annetropy)
2018年12月3日
from Twitter

なんでもない食べ物の画像も、アルゴリズムにはポルノコンテンツに見えてしまった様子。

No image

博多で食べた明太チーズドッグがアウトだったwww #tumblr
— さんだぁ@12/2, 15ファンミLV (@sander786)
2018年12月4日
from Twitter

沖縄名物サーターアンダーギーも違反警告を受けてしまったとのこと。Tumblrのアルゴリズムは、丸く香ばしく揚がったサーターアンダーギーのどの部分を見てアダルトコンテンツの判定を下したのでしょうか。

No image

はいはい、サーターアンダギーがTumblrの規制に引っかかりましたよ。
— MD747/DCC (@MD747_4D)
2018年12月4日
from Twitter

「何かの画像が警告されているというから、2年ぶりにTumblrにアクセスしたら引っかかってたのはこれだった」とのことですが、この画像がそもそもどういう状況なのかがめちゃくちゃ気になります。

No image

went to Tumblr for the first time in 2 years to check if anything got flagged, and it was this
(cc: @nocontextCV )
— Jon the Red (@jontheredrc)
2018年12月3日
from Twitter

「よくやった、Tumblr!危険なアダルトコンテンツを見事捕捉しているぜ!」という画像はクリームたっぷりのキャンディーのCMでした。

No image
No image
No image

i got flagged!!! ????
good job, tumblr ???????????? gotta catch that dangerous "adult" content
— Nick Marino (@NickMarino)
2018年12月3日
from Twitter

また、「ポケットモンスター」のリザードンはどんな画像でもかなりの確率でアダルトコンテンツ判定を受けてしまう模様。

No image

AIが必ずポルノと判定する不思議なリザードン。Tumblrでもやっぱりわいせつ判定された
— ナーケイン (@Ca_Nine9)
2018年12月4日
from Twitter

「Tumblrはリザードンが嫌いなんだ!彼らはリザードンをめちゃくちゃ憎んでる」

No image

tumblr hates charizard ! they hate him so much
— spencer『 HOW DISGUSTING 』soares (@PIZZASCRUB)
2018年12月4日
from Twitter

「すいません、リザードンはTumblrからBANされているんですよ」

No image

Sorry everyone Charizard is banned from Tumblr
— Holiday Dogger (@Ropnolc)
2018年12月4日
from Twitter

大量の画像で違反警告が出されていることに腹を立てたあるユーザーは「おい、スタッフ!俺のところに来て、この画像のどこが違反しているのか説明しろ!」という怒りのメッセージをTumblrに投稿したところ、そのメッセージが違反報告を受けてしまったようです。

No image

My post calling out Tumblr’s wrongful flags got flagged
Cowards #RipTumblr #TumblrIsDeadParty
— Aphex Friend ???? (@CutesyGrungeCat)
2018年12月4日
from Twitter

判定アルゴリズムでは、アダルトコンテンツとセクシュアリティに関する議論は区別されません。そのため、セクシャルマイノリティに属するユーザーの中には「LGBTコンテンツが不平等にアルゴリズムの標的になっているのでは」と疑念の声をあげる人もいました。

No image

I made a post about lgbt content on tumblr getting flagged as sensitive and my post got flagged as sensitive
— Ieuano (@stopcishets)
2018年12月3日
from Twitter

Tumblr公式スタッフブログによるアダルトコンテンツ禁止を告知するポストも違反しているとして警告を送られている始末。結果として自分で自分を警告するというオチまでついたこの騒動について、Tumblrは記事作成時点ではコメントを発表していません。

No image

Also there's nothing explicit about that blog and tumblr is fucking choking on itself. The announcement about removing porn was also flagged as explicit.
— Mistletoe & Hailey ???????? (@SadistHailey)
2018年12月4日
from Twitter

なお、問題ないはずの画像に違反警告が送られてきた場合、異議を申請すれば撤回してもらえるとのことでした。

No image

今朝、ものすごい数の「不適切扱いにしたのは間違いでしたテヘ」メールがtumblrさんから来てました。申請してなかったらこれ全部そのまま削除されてたんでしょうか。オオゥ…。
— toaster (@toasttweet)
2018年12月5日
from Twitter

この記事をお届けした
グノシーの最新ニュース情報を、

でも最新ニュース情報をお届けしています。

外部リンク

ネタカテゴリの人気記事

グノシーで話題の記事を読もう!
本当に怖い超低空飛行。ボーイングC-17が高層ビルすれすれを飛行。周辺にいた人々は大びっくり(オーストラリア)
コンビニで店員さんに暴言を吐くおばあさん。それを見かねた客の対応が話題に
嫌いな人に抱っこされた時だけリアルな死んだフリでやり過ごす子犬がすごい!
自ら助けを求めてきた猫
ねこちゃんホンポ
研究室の机でスヤスヤと眠っていた猫。しかし、目の前にご飯が出されると超可愛い反応をして話題に!
  • このエントリーをはてなブックマークに追加