発覚!AIの「うっかりミス」が核戦争を誘発する可能性

発覚!AIの「うっかりミス」が核戦争を誘発する可能性

  • 現代ビジネス
  • 更新日:2018/06/14
No image

米国防総省(ペンタゴン)が「AI(人工知能)による核ミサイル防衛システム」の研究開発を加速している。

https://jp.reuters.com/article/usa-pentagon-missiles-ai-idJPKCN1J31EX

上記記事によれば、偵察衛星が撮影した地上映像などをAIが解析することで、人間の能力を上回る精度とスピードで敵の核ミサイル発射を予測。この情報に基づいて、核ミサイルの発射前にそれを破壊したり、発射後でも早期に迎撃することを目指しているという。

しかし、このAIが衛星画像などを間違って認識し、「フォルス・アラーム(誤警報)」を発した場合、「核戦争の脅威をむしろ高める」との懸念も生じている。

新たな軍拡競争の始まりか

ペンタゴンが来年度、このミサイル防衛システムに割く予算は、前年度の3倍となる8300万ドル(約91億円)。年間で7000億ドル近く(約74兆円)にも達する米国防予算全体のごく一部に過ぎないが、これと同様AIを活用したミサイル防衛システムの開発プロジェクトは他にも多数存在するという。

ペンタゴンが、これら防衛システムの対象として想定しているのは、通称「4プラス1」と呼ばれる「ロシア、中国、イラン、北朝鮮、そして(ISなど)テロ組織」。が、逆にこれらの国々でも米国と同様のAI防衛システム、あるいは防衛用AIを騙すシステムなどを開発している公算が高く、早くも新たな軍拡競争の様相を呈している。

すでに米国では、そうしたAI防衛システムのプロトタイプ(試作版)による実証実験が開始されたという。これは偵察衛星や高性能レーダーなどから得たデータをAIで解析し、トンネルや洞窟、森林などに隠された移動式のミサイル発射台を追尾。その異常な動きなどからミサイル発射を予測する。

No image

画像はイメージです〔PHOTO〕gettyimages

冒頭のロイター記事には書かれていないが、この種のミサイル防衛システムに搭載されているAIは、いわゆる「ディープラーニング」あるいは「ディープ・ニューラルネット」とよばれる最先端の人工知能と見て間違いない。

ディープラーニングのようなニューラルネットは、伝統的に画像・音声などの「パターン認識」を最も得意とする。というよりも、基本的にパターン認識しかできない(ディープラーニングは近年、人間の言葉を理解する「自然言語処理」などにも応用されているが、それは言葉の意味を本当に理解しているわけではなく、パターン認識を巧みに言語処理へと適用することで、いかにも言葉を理解していると見せかけているに過ぎない)。

が、たとえ単なるパターン認識とはいえ、それは私たち人間を凌ぐ高い精度とスピードで、衛星画像などに撮影された移動式の核ミサイル発射台や、その異常な動きなどを識別できる。これが冒頭の核ミサイル防衛システムに、ディープラーニングが利用される最大の理由となっている。

すでに実用化されたAI兵器

こうしたディープラーニング(パターン認識)の応用分野は、(冒頭で紹介したケース以外にも)極めて広範囲に及ぶ。

たとえば核ミサイルを撃ち落とす「迎撃ミサイル」のような防空システムだ。これまで迎撃ミサイルの障害の一つとなってきたのは、大陸間弾道ミサイルなどが大気圏外でばらまく「デコイ(decoy)」と呼ばれる多数の囮(おとり)弾だ。これを迎撃ミサイルが本物の弾頭と誤認識して撃ち落してしまうために、肝心の弾頭に命中できない。

しかし、ここにディープ・ニューラルネットの優れたパターン認識能力を導入すれば、迎撃ミサイルは本物の弾頭と囮弾を正しく識別できるようになり、その命中精度、つまり防空能力は大幅に高まると見られている。

あるいはすでに実用化されたAI兵器としては、米ロッキード・マーチン製の「LRASM(Long Range Anti-Ship Missile:長距離対艦ミサイル)」がある。

昨年12月に日本の防衛省が導入する方針を固めたとされるLRASMには、高度なパターン認識能力が実装され、これによって破壊対象となる標的を自律的に識別し、そこに突っ込んでいく(その様子は以下の動画に示されている)。

AIの過ちが核戦争を招く危険性

この自律型ミサイルにも、恐らくディープラーニングが搭載されていると見ていいだろう。ただ、この種のAI兵器、あるいは一般に「AIの軍事応用」については、深刻な問題も考えられる。

一つはディープラーニングが過ちを犯す危険性だ。

冒頭のロイター記事でも言及しているが、いかにパターン認識に優れたAIとは言え、それはときに「プラスチック製の『亀』を『ライフル銃』と誤って認識する」など、呆れるような過ちを犯す。

米国で毎年開催される「ILSVRC」と呼ばれる画像認識コンテストでは、ディープラーニングの誤認識率は今のところ3%程度だ。つまり「チーター」と「レパード(豹)」など紛らわしい写真を100枚見せられると、(現在のディープラーニングは)そのうちの約3枚で対象物を誤って認識する。

コンテストの写真から動物を誤って認識する程度なら何ら問題はないが、衛星画像から「移動式の核ミサイル発射台」を誤って検知するとなれば事態は深刻だ。

もちろんペンタゴンでは「最終的な判断は(AIによる防衛システムからの情報を参考に)人間の指揮官が行う」と断言しているが、たとえそうだとしても、こうしたシステムが過ちを犯したときの脅威は計り知れない。

万一、指揮官がAI防衛システムからの間違った情報に従って、敵国への対抗措置に踏み切った場合、それは両国間に核戦争を引き起こす恐れもある。

誰のための技術開発なのか?

もう一つ気を付けておかねばならないのは、そうしたAIミサイル防衛のような技術開発が「本当は何のために(あるいは誰のために)行われているのか?」という点だ。

よく軍事関係者の間では「戦争があるから武器が製造されるのではなく、武器を製造するために戦争があるのだ」と言われるが、この皮肉な見方は「当たらずと言えども遠からず」であろう。ペンタゴンとロッキード・マーチンなど軍需産業は密接に結びついており、それは一般に「軍産複合体」と呼ばれている。

No image

〔PHOTO〕gettyimages

実際、AIミサイル防衛にしても、それを包含する「(AIとロボット兵器を次世代兵力の要に据える)第3の軍事刷新」にしても、ペンタゴンがこれら軍事改革を推し進める表向きの理由は「中露など対立国への軍事的優位性を確保するため」だが、結果的に軍需産業が潤うことも厳然たる事実である。

「むしろ、こちらの方が本当の目的ではないのか」と訝るのは多少シニカルに過ぎるかもしれないが、少なくとも頭の片隅に留めておく必要はあるだろう。

たとえば日本の防衛省が導入を決めたとされるLRASM(一基70万~100万ドル≒1億円前後)にしても、「近年のAIブームや北朝鮮有事の可能性などに便乗して、結果的に得をしたのは米国の軍需メーカーではないか」という気がしないでもない。

他方、AIを活用したミサイル防衛システムは(仮に成功すれば)「他国の核兵器を無力化する」という点で、日本にとって魅力的な選択肢と映るかもしれない。が、それは極めて一面的な見方であり、一般にAIの軍事応用は(前述のように)計り知れない危険性を抱えている等、諸手を挙げて賛成できるようなことでは決してないだろう。

No image

DNAのメス、クリスパーの全貌とインパクトがわかる! 中学生にもわかる、生命科学最前線。

この記事をお届けした
グノシーの最新ニュース情報を、

でも最新ニュース情報をお届けしています。

外部リンク

IT総合カテゴリの人気記事

グノシーで話題の記事を読もう!
懐かしのWindows 7、XP、95を今風にデザイン!コンセプト動画
【衝撃】グーグルAIが95%の確率で人の「死亡時期」を予測することが判明! 優先患者の選別可能に...怖すぎる問題点も!
スマホ「4年縛り」、独禁法違反か。auやソフバンにiPhoneの4年縛りプランあり
日本のインターネットは5Gで世界に取り残される
わずか5分でスキルアップ! Excel熟達Tips 第52回 手書きの書類をExcelで入力可能にする
  • このエントリーをはてなブックマークに追加