話題のAIスピーカー「アレクサ」に思わぬ弱点があった

話題のAIスピーカー「アレクサ」に思わぬ弱点があった

  • 現代ビジネス
  • 更新日:2018/05/17
No image

アマゾンのAIスピーカー「エコー(アレクサ)」の発売以来、急速に人気が高まってきたスマート・デバイスの音声操作機能。だが、最近そこに思わぬセキュリティ・ホールが発見された。

私たち人間には聞き取れないが、機械にだけは聞き取れるサブリミナル・メッセージを音声や音楽などに忍ばせることで、スマホやAIスピーカーを外部の第三者が自由自在に操れるというのだ。

Alexa and Siri Can Hear This Hidden Command. You Can't.” The New York Times, May 10, 2018

お金を盗まれたり、部屋に侵入される恐れも

このショッキングな研究成果を発表したのは、米カリフォルニア大学バークレイ校の科学者チーム。彼らは録音された音声メッセージや音楽に巧妙な命令を忍ばせ、これをユーチューブなどから流すことで、AIスピーカーのようなスマート・デバイスを秘かに操作することに成功した。

これにより本来の利用者がスマート・デバイスの電源を入れた状態で音楽を聴いたり、動画を見たりしている間に、(自分のアカウントを通じて)悪意を持った第三者から勝手にオンライン・ショッピングをされたり、自分のお金をどこかに送金されたり、甚だしい場合にはドアのロックを外されて部屋に侵入されたりする恐れが出てきたという。

このような危険性が生まれたのは、現在の人工知能(AI)における、以下のような技術的陥穽のためだ。

一般にAIスピーカーやスマホの音声操作機能では、先端AIの一種「ディープラーニング(ディープ・ニューラルネット)」による音声認識機能がそのベースとして使われている。

ディープラーニングは人間の脳をある程度模倣して作られているが、不思議なことにモノを見たり聞いたりするときには、人間の場合とは全く異なる特徴量に注目して対象を認識している。

このため、悪意を持ったハッカーらが、本来の音声信号に極めて微弱な波形(ノイズ)を重ね合わせるだけで、私たち人間の耳が聞き取っているのとは全く異なるメッセージを(こうしたAIを搭載した)デバイスに送ることが可能になるのだ(図1)。

No image

図1)ディープラーニングの騙し方:本来の音声信号に極めて微弱なノイズ(波形)を重ね合わせるだけで、本来のメッセージとは完全に異なるメッセージをスマート・デバイス(機械)に送ることができる。しかし人間の耳には、本来の音声信号(メッセージ)しか聞こえない。
出典:“Audio Adversarial Examples: Targeted Attacks on Speech-to-Text,” Nicholas Carlini, David Wagner, University of California, Berkeley

スマート・デバイスの数は地球人口を上回る

こうした陥穽がもたらす潜在的な被害は甚大だ。

米国の調査会社Ovumの推定によれば、2021年までにはアマゾンの「アレクサ」やアップルの「シリ」、あるいはグーグルの「アシスタント」など、音声操作機能を搭載したデバイス(端末)の総数は地球上の全人口を上回る見込みという。

本来、スマート(賢明)であるべき、これらのデバイスがこんな単純なトリックに騙されてしまうようでは、今から先が思いやられる。

それはまた、音声操作にとどまらない。たとえば自動運転車がビデオ・カメラで撮影した外界映像(イメージ・データ)を解析して、他のクルマや歩行者、障害物などを認識する際にも、こうした人工知能(ディープラーニング)は使われている。

この場合も音声信号と同じように、本来の映像信号(画像データ)に微弱なノイズを重ね合わせるだけで自動運転車(に搭載されたAI)を騙すことができる。つまり私たち人間の目には制限速度「時速40キロ」と映る道路標識でも、自動運転車には「時速120キロ」と見えているかもしれないのだ。

バークレイ校の研究者らによれば、以上のような研究成果は現時点で実験室内でのデモにとどまっている。またアマゾンやグーグルなどスマート・デバイスのメーカー側では、自社製品の安全性を強調しているという。

が、今回のデモによって潜在的な危険性が示された以上、「メーカーなどは今のうちにこの問題を解決しておくべきだ」と研究者らは警鐘を鳴らしている。

No image

DNAのメス、クリスパーの全貌とインパクトがわかる! 中学生にもわかる、生命科学最前線。

この記事をお届けした
グノシーの最新ニュース情報を、

でも最新ニュース情報をお届けしています。

外部リンク

IT総合カテゴリの人気記事

グノシーで話題の記事を読もう!
ビジネスプロジェクトを手軽に管理できる「Backlog」を試してみた
【本日のセール情報】Amazonタイムセールで最大80%以上オフも! デスクライト付き充電ステーションや骨伝導Bluetoothイヤフォンがお買い得に
滑ったバイクを逆噴射で立て直すスラスター安全装置、独Boschが発表。カーブの浮き砂利に効果
35年経っても進化は止まず!5000系フルメタルG-SHOCKは大人が選ぶべき傑作だ
Evernoteだけじゃない、Webページをクリップしておけるサービス4選
  • このエントリーをはてなブックマークに追加