リベンジポルノと芸術の差、AIには分からず

リベンジポルノと芸術の差、AIには分からず

  • WSJ日本版
  • 更新日:2017/11/13
No image
No image

――筆者のクリストファー・ミムズはWSJハイテク担当コラムニスト

***

人はさまざまな情報を見たり聞いたりして、それを元に多くの判断を下す。ではアルゴリズムはどのくらい効果的にこうした情報をコントロールできるのか? フェイスブックがリベンジポルノ対策として試験的に導入したシステムを見れば、その限界は明らかだ。

このシステムを使って元交際相手が自分のヌード写真を拡散しないようにするには、利用者が自らヌード写真をフェイスブックに提供する必要がある。それだけでも不快だが、その写真は生身の人間が確認する必要もあるという。

フェイスブックのリベンジポルノ対策サービスは人間による作業を挟まなければ、合法的な写真すら簡単に削除させてしまう可能性があるのだ。人工知能(AI)では、利用者のヌード写真とルネサンス期の画家ティツィアーノが描いたヌードデッサンの違いを見抜くことが難しい。

大手IT企業はなるべく人間が関与しなくても済むようなアルゴリズムを開発し、本物のAIを作りだそうとしている。それこそが問題だろう。人間が「介入」しないシステムが問題点を抱え、破滅的な損害を生み出す可能性があることは、ここ1年で多くの事例が示してきた。特にフェイスブックでは、ロシアが関与した約470の「偽」アカウントやそれらと関連した広告が問題になった。これは生身の人間がAIを出し抜く方法を見つけたから生じた事態だ。

碁の対局であろうと、ロシアによる介入作戦を監視するのであろうと、AIのシステムは人が積極的に関わって作成し、管理・運営することで最大限の効果を発揮する。AIは人から仕事を奪うとされていたが、この背景があるため今は新たな非技術職への需要が日々高まっている。そしてこれまでの数多くの証拠を見れば、今後も当分はこの傾向が続くと考えられる。

増えるAIと人の共同作業

フェイスブックは当然、このトレンドの代表例だ。同社では1万人体制でコンテンツのチェックをしているが、最近さらに1万人を追加雇用すると発表した。同社のマーク・ザッカーバーグ最高経営責任者(CEO)は従業員が急増することで将来的な収益にも影響が出るだろうと話している。

そしてこれはフェイスブックに限った話ではない。米アルファベット傘下のグーグルではAIと共に作業する従業員を雇って規約違反の広告を削除し、偽ニュースを監視し、ユーチューブに過激な動画が投稿されないようチェックする業務に当たらせてきた。同社は、このチェック体制や検索結果の最適化、そしてその他のアルゴリズム開発に何人の従業員が当たっているかを明らかにしていない。しかし広報担当者によればその数は数千人単位で、今も増え続けている。

ツイッターにもコンテンツのチェックをするチームがあるが、どのように監視をしているのかについて同社は多くを明らかにしていない。テロリストが所有するアカウントは95%自動的に削除できるシステムがあると発表しているのみだ。

ニューヨーク大学スターン経営大学院のパノス・イペイロティス教授は、AIを使って業務の自動化を図っているほぼすべての大企業が、AIと共に作業できる従業員も必要としていると話す。複数の銀行のコンサルタントを務める同氏は、米国内の5大金融機関ではAIシステムと作業するための非技術職のチームを採用しているという。

AIが人の能力を常に必要とする背景には、われわれがさまざまなサービスをAIに求め続けている点がある。より多くのことをAIに求めれば、コンピューターのアルゴリズムが単独で処理できる可能性は低くなる。一方で人間とAIが共に作業すれば効果も効率も上がる。例えば、詐欺を見抜くために銀行の従業員はこれまで全てのEメールに目を通していたが、今はAIがフラグを立てたEメールだけを調べればいい、とイペイロティス氏は述べる。

AIができること、できないこと

機械学習に基づくAIシステムは、原始的な昆虫のように物事を学んでいくソフトウエアだ。つまりプログラミングをほどこすことは不可能で、全てを一から教えていく必要がある。

AIに学習させるには、まず人間がさまざまなサンプルをシステムに与える必要がある。しかも大量の数のサンプルだ。例えばユーチューブに過激な動画が投稿されたかを見抜くアルゴリズムを作るため、グーグルでは従業員が100万本の動画をひとつずつ視聴し、どれが過激なものとしてフラグを立てるべきかサンプルを見つけていったと同社の広報担当者は明かす。

米クラウドフラワーのロビン・ボードリCEOは、「稼働するに当たって受けたトレーニング用データの質と量」がアルゴリズムの優秀さを左右すると話す。同社はAI向けアルゴリズムの訓練やシステム維持を必要とする企業に人材を派遣。クライアントには自動車メーカーや大手IT企業、金融機関などが含まれる。

AIはトレーニングを受けた後であっても、その判断力は完璧なものではない。ユーチューブへの動画投稿など、前後の脈絡によって受け止められ方が変わるコンテンツは、人間による監視が今も必要だ。グーグルによればAIは人よりも早く83%の不適切なコンテンツを削除することができる。つまり残りの17%は人間の目が必要になる。AIが見落としたものを使い、アルゴリズムを改良することもできる。データを読み込ませればその分だけ精度を高められるからだ。

問題のないコンテンツでもアルゴリズムが不適切だと認識して企業がそれを削除するなど、AIに依存した結果、誤った判定を下す可能性もある。

またフェイスブックのヌード写真フィルター機能のように、AIが全く役に立たないケースも存在する。レシートや名刺を複写することや、動画をタグ付けしてアダルト向けコンテンツを検出する作業は「機械学習ならば簡単なはずだが、実際は形式が定まっていない」ため難しいと英オックスフォード・インターネット・インスティテュートのシニア・リサーチ・フェロー、ビリ・レードンバータ氏は述べる。

レードンバータ氏はこれら作業に携わっている人口をリアルタイムで推計するオンライン・レイバー・インデックスを管理する。同氏の計算によれば、オンライン上のクラウドソーシング向けプラットフォームに委託された同様のタスクは、昨年だけで40%も増えた。

悪用されるリスクのあるシステムは、人間が常時監視していく必要があるとニューヨーク大学のイペイロティス氏は話す。AIは一度訓練を受ければ疲弊することはないが、これは利点だけでなく欠点でもある。アルゴリズムに抜け穴を見つけさえすれば、得られる収穫もその分大きいためだ。

人間はAIよりスピードが遅いものの、少ない情報量を元に一定のパターンを見抜く才能にはたけている。ロシアの工作員が米国人のふりをしてツイッター上でふるまうなどやっかいな事態に対処するとき、生身の人間の代わりを務められるシステムはまだ存在しない。

関連の労働人口は世界で拡大

こうした業務の一部はクラウドフラワーや世界で50万人以上を抱える米アマゾンのメカニカル・タークなどを通し、マイクロタスクとしてアウトソーシングされ処理されている。

世界規模で見れば、毎週1万人から2万人の人がオンラインでこの業務の一端を担い、オンライン掲示板に投稿されたポルノ動画にフラグ付けしたり、自動運転システムが歩行者を見抜く精度を改善したり、顔認証アルゴリズムを改良しているとレードンバータ氏は推測する。各企業が抱えている内部チームを含めれば、AI処理としてうたわれている業務が実際は世界各国の数十万人の人間によって行われているのだと同氏は述べる。

AIと人間が共同で作業する世界最大の市場は中国だが、レードンバータ氏の推計は同国の検閲体制を含んでいない。中国では政府の検閲オペレーションだけで10万人から100万人が働いているとされる。これに加え、コンテンツを配給したり保管したりする中国のインターネット企業は内容をチェックする部門を持つことが定められ、通常は10万人のユーザー当たり1人の検閲担当者を抱えている。

フェイスブックは中国から締め出されている。中国のあるIT企業の役員はウォール・ストリート・ジャーナル(WSJ)に対し、仮にフェイスブックが同国での事業を認められれば、コンテンツのチェックに2万人を雇う必要があるだろう、と語った――それも動画だけでの話だ。

この記事をお届けした
グノシーの最新ニュース情報を、

でも最新ニュース情報をお届けしています。

IT総合カテゴリの人気記事

グノシーで話題の記事を読もう!
無料ってマジかよ! ZOZOがボディーサイズを自動で測る「ZOZOSUIT」の配布受付を開始してたので注文してみた
VITAFULから、ニコチン・タールは0なのに吸いごたえ抜群の「充電式フレーバースティック」発売
全身を瞬時に採寸、ボディスーツ「ZOZOSUIT」無料配布 「ぴったりの服」注文可能に
ZOZOTOWN、着て採寸する「ZOZOSUIT」を無料配布 伸縮センサー内蔵のボディスーツ
ネットワークカメラから誰かが覗いている
  • このエントリーをはてなブックマークに追加