2017年12月7日木曜日

AI兵器というパンドラの箱

「AI・人工知能が変える戦場」(時論公論) | 時論公論 | NHK 解説委員室 | 解説アーカイブス:

 今回は人工知能(AI)ネタなのですが、結構重い話題で、戦争にAIを適用することの是非に関して。北朝鮮のあたりで一触触発の状況を呈してきていますが、近い将来、AIというテクノロジーが将来の戦場の様相を全く変えてしまうかもしれません。元記事は、NHK解説委員室、別府正一郎解説員によるものです。

 原子爆弾などの大量殺戮兵器とはまた違った意味での究極の兵器。それは、人間の兵士と違って、恐怖も疲れも知らない無敵の「AI兵器」です。もちろん、戦争後遺症(PTSD)を発症することもありません。最近のロボティクス・AI技術の発展から考えると、要素技術は揃いつつありますから、あと数年でAI兵器は現実のものとなる可能性があります。

 ところで、AI兵器(今はまだ軍事用ロボットいう言い方の方が適切かも知れませんが)開発の最前線といえばどこの国でしょうか。世界最大の軍隊を持つ米国だろうと思いきや、意外にもイスラエルがその最前線だという指摘があります。例えば、ストックホルム国際平和研究所によると、2010〜14年にイスラエルが輸出した無人航空機は165機で、米国の132機を抜いて世界一。2008年には、AI搭載の世界初の準自動軍用車を実戦配備しています。もちろん世界を牛耳ろうという米国も遅れを取るわけにいきませんので、両国を中心に世界中を巻き込んだ開発合戦と言ってもいいかも知れません。

 軍事用ロボットは、今のところ兵士1人が1台のロボットを操るというタイプのものが主流のようですが、AI開発で軍と連携するバルイラン大学コンピューター科学部のノア・アグモン上級研究員によれば、近い将来1人が数十台とか数百、数千のロボットを操作する時代が訪れるのだそうです。任務を与えると、ロボットの「群れ」が自動で交信し合って作業を分担し、その任務をこなします。アグモン氏ら世界の研究者が激しい競争を繰り広げているのは、最適な指示を与えるための「意思決定支援ソフト」です。こうなってくるともう、我々がイメージする、運転シミュレータかゲームセンターのレースゲームのような操縦席に座ってロボットの一挙手一投足をリモートコントロールするようなものではなく、Google HomeとかAmazon Echoのような音声操作でロボットの軍隊を指揮するような、そんな世界です。ロボットをリモートコントロールして戦争するのでさえ、操縦者には人を殺戮している実感がないところを、口頭で作戦を伝えるとロボット同士が戦い合うような世界は、もはや殺し合いというよりリアル・ロボット大戦ですよね(↓)。


 そんな世界がもう目の前に迫っている先月、国連のヨーロッパ本部でAI兵器の規制に関する会合が開かれたのだそうです。この会合は、非人道的な兵器を国際的に規制するかどうかを議論するもので、今回はおよそ90か国が代表団を派遣しました。最大の焦点は、人間を殺傷する攻撃を行う判断の主体をAIに委ねることが許されるのか、ということです。つまり、ドローンに代表されるリモートコントロールで人間が操縦する兵器と違って、兵器自らが判断して攻撃を仕掛ける、そんなことが許されるのかということです。

 AI兵器の推進派と反対派の相容れない点は、図(↓)のようになっています。推進派は、AI兵器は人間の兵士より早く正確な判断ができること、人間の兵士を危険な目に合わせなくて済むという点を利点だとしています。しかし一方で反対派は、AIが暴走するリスク、例えばAIは人間が思いもよらない判断を下す場合がありますが、意図的に民間人を殺傷するプログラムが埋め込まれていたというのでもない限り、たとえ民間人を巻き込んでも責任が問われないだろうと考えられています。さらに、人間の兵士を危険な目に合わせなくて済むというメリットは、裏を返せば為政者にとって戦争の敷居が下がることを意味し、今よりも容易に戦争が起きることになると主張します。最後の、倫理的かどうかという点については、個人的には戦争を論じている時点で倫理を持ち出すのは何か違うと思いますが、心を持たないAIが人間の生殺与奪の権を持つということは何とも言えない恐怖がある気がするので、自分はやや反対派に肩入れします。


 国によって事情が違うからか、この議論は収束を見せなかったそうです。途上国が「AI兵器」を幅広く定義して、開発の段階から厳しく禁じるべきだと訴えた一方で、米露の大国は、現時点で予防的な規制を拙速に作るべきではないと先送りしようとしています。


 自分は、AI兵器に関しては「国際的な規制が行われるべき」だと思います。そもそも「戦争」というのは絶対的な「悪」だと思います。AIによって正確に相手を攻撃できるとか、自国の兵士を危険な目に合わせなくて済む、なんていう論理は本能的に受け入れたくないのが実際のところです。極端な話ですが、刃物で殺害するよりも銃で頭を撃ち抜いて殺害する方が、相手は一瞬の苦しみで済む倫理的な殺害方法なのだから、日本でも銃を所持できるようにすべきだという論理は、受け入れたくありません。刃物だろうが銃だろうが、人を殺めることなんで許されるはずがないのです。

 しかし、テクノロジーは放っておくと必ず発展する方へ向かってきます。しかも、そのスピードは加速度的に増していきます。世界の著名な科学者たちは今年8月、AIの軍事利用に反対する共同声明を発表し、AI兵器がひとたび戦場に投入されれば、パンドラの箱が開きもはや閉じることができなくなると危機感を表明しています。十分に議論を尽くす時間は残されていないかも知れませんが、だからと言ってパンドラの箱を安易に開けてしまうことは、何としても避けなければならないと思うのです。

0 件のコメント:

コメントを投稿