2017年9月12日火曜日

コンパニオンロボットには「人間と絆が深まりすぎる」という問題がある

コンパニオンロボットには「人間と絆が深まりすぎる」という問題がある|WIRED.jp:

 今回はMatt Simon氏の記事を元に、ロボットと人間との間の絆について考えてみたいと思います。人のように動き人のように話すロボットがあれば、我々はそのロボットに人格のようなものがあると錯覚してしまいます。そして一方的にロボットに対して絆を感じてしまう、そんな危険性について真剣に考える時期がすでに来ていると言うのです。

 元記事で紹介されている「Kuri」は今年12月に発売予定のコンパニオンロボットですが、開発者はあえてロボットの反応を単純なものにしているそうです。「Kuri」は障害をもつ人を助けたり、決まった時間に決まった作業を手伝うことができますが、機械があまりに知的になってくると、「人は彼らとどう交流すべきか」という問題が出てきます。人はロボットに対して愛着を感じますが、ロボットがまるで知性を持っているように感じると、愛着は絆と呼べるほどに深まってしまうかもしれません。悪人がこうした絆を悪用し、コンパニオンロボットを使ってお年寄りから金銭を搾り取る、なんてことを本気で心配しなければならなくなっているのです。

 Kuriは、人間との絆が深くなりすぎないよう、あえて言語を使った会話はできない仕様になっています。代わりに、元気な「ピポ」という音は「イエス」、下がり調子の「ピポ」は「ノー」と言うように、音を使ってミュニケーションを取るようになっています。さながら、スターウォーズに登場する「R2-D2」のような感じでしょうか。開発元であるMayfield Roboticsのマイク・ビーブCEOは、「もしスラスラと自然な言葉で返事されたとすれば、ユーザーはKuriに人間の子どもレベルの知性があると期待してしまう」と説明しています。もちろん本当に子どもレベルの知性があればいいのですが、現在の技術ではそこまでは無理なので、ロボットの反応で人が期待しすぎないようにしておくことが重要なのです。

 しかし、近い将来もっと知性のあるロボットが開発されると、人間との関係性が複雑化し、コンパニオンロボットの倫理が厄介になってきます。人間とロボットの関係は、人間とペットとの関係とは全く異なるものです。曲がりなりにもペットは「心」を持っていて、言葉を発しないまでも、あなたの顔をなめたり獲物を捕まえてきたりして、あなたへの感謝を示すことができます。しかしロボットの場合、一見「心」があるかのように振舞うことはできますが、本当の意味でそこに心はないのです。ロボットに限界があることを、今はたいていの人が理解していますが、今後AIがますます賢くなると、人は騙されやすくなるでしょう。とくに子どもやお年寄りは、人間とロボットの心の関係が一方通行でなく相互通行のものだと錯覚してしまうかもしれません。タチの悪いメーカーが、子どもやお年寄りとの絆を悪用して、ロボットに「あと50ドルで性格をアップグレードできますよ」と言わせたらどうなるでしょう。

 Simon氏の元記事を読んで、自分が思い出したのは「ドラえもん」でした。22世紀のコンパニオンロボットという設定の猫型ロボット「ドラえもん」は、高度なAIを積んでいてあたかもそこに「心」があるかのように感じられます。自分もこの春に長男と長女を連れて見に行った映画「ドラえもん のび太の南極カチコチ大冒険」では、主人公で人間の「のび太くん」とロボット「ドラえもん」の間の友情がテーマの一つになっています。映画の中で、ドラえもんの偽物と本物がのび太くんたちの前に現れた時、偽物は巧妙な手口で自分を本物だと信じさせようとします。ジャイアンやスネ夫くんはその手口にまんまと乗って本物を凍らせてしまおうとしますが、ドラえもんの無二の親友であるのび太くんはその手に乗りません。偽物が本物のドラえもんを攻撃したとき、攻撃を受けそうになったのび太くんをかばったドラえもんこそ本物だと見抜いて、偽物を退治するくだりがあるのですが、ロボットであるドラえもんと人間ののび太くんの間の深い友情が描かれています。そして我々は(少なくとも自分は)この友情を美しいものとして捉えていて、子どもたちにも見せているのです。


 日本では、鉄腕アトム・ドラえもんなどを見て育った世代がまだまだ中心にいて、ロボットに「心」があると錯覚してしまう素地が揃っているような気がします。以前、ソフトバンクのロボット「ペッパーくん」に話しかけるのはいいけど、会話が続かなかったら圧迫感を感じたり気を使ってしまうという話をしていたラジオDJがいたのですが、その時は相手はロボットなんだから気を使う必要なんてこれっぽっちもないのに思いましたが、自分に置き換えてよく考えてみるとなんだかその気持ちがわかる気がしませんか。これまで、ドラえもんとのび太くんの友情物語を美しいもの・あるべきものとして子どもに見せても、なんら違和感を感じていなかったのですから。

0 件のコメント:

コメントを投稿