2018年6月4日月曜日

勉強しない仕事しない人間はAIが排除する社会

Chinese school uses facial recognition to monitor student attention in class:

 今回の話題は「監視社会」。元記事は、The Telegraphの掲載されたNeil Connor氏によるものです。もともと監視カメラの映像は監視と監査(何かがあった時の検証)目的であることが多かったですが、最近は人工知能(AI)の発展によって、映像を積極的に解析して新たなサービスを展開しようという動きが活発です。しかし、今回ご紹介する中国の事例は、なんだか背筋がゾッとする気がします。

 画像解析を積極的に利用する例としては、例えば空港やビルでのセキュリティ。従来より監視カメラが設置されていて、中央監視室のようなところでたくさんのモニターにその映像が映し出されていましたが、実際のところ人がじっと映像を見続けるのは拷問に等しく、映像は垂れ流しでした。しかし、画像解析にAIが活用されるようになった最近では、問題がある映像を検出した時にアラートが出てその時だけ人がチェックするという運用になっていますので、効率的で現実的な監視がなされるようになっています。例えばブラックリストに登録された人物が映った時にアラートを出したり、用もないのにウロウロしているなど怪しげな動きをしている人がいるとアラートを出したり。監視カメラ映像を活用したそんな応用例の一つに、今回ご紹介する中国の事例も当てはまるかもしれません。

 前置きが長くなりましたが、杭州のある高校では、教室の黒板の上に3台の監視カメラが設置されています。教室内に監視カメラを設置する時点で、日本よりも監視社会が進んでいることがよくわかりますが、ここからが画像の応用例。「スマートアイ」と呼ばれるシステムによって、授業を受ける高校生の映像をAIがリアルタイムに分析します。そして、授業を真面目に受けていない生徒を見つけ出すのです。単純に授業中に寝ているとか、ふざけているとかいうだけでなく、このAIは感情分析を行なうことで授業に集中できていない生徒がいれば、直ちに誰が授業に集中していないかを教壇の先生に通知します。そして、先生がその生徒に注意を与えるという運用なんだそうです。逆に授業態度が常に良い生徒は、成績に加点がなされるのだそうですが、その判断も先生の判断ではなくAIによる判断。

 よく考えると、AIによる判断で生徒が授業に集中していないとか、授業態度が良いとか判断するのは、先生の独断と偏見によって判断される従来の仕組みよりもずっと公平で透明性が高いと言えるかもしれません。人間の先生は間違いも多いですし、えこ贔屓もあるかもしれません。普段の生活態度が気にくわないとか、親が資産家で学校に影響力を持っているとか、そんな余計な情報やバックグラウンドは影響しません。

 しかしそれでも、この仕組みに対して背筋がゾッとするのは自分だけではないと思います。自分が高校生だった時、どの授業もずっと集中して聞いていたかを思い出してみればわかるでしょう。単に監視カメラで撮られているだけでなく、ずっとAIによる判断が下されているのは、気が休まる時間がない気がしませんか。生徒だけじゃありません。今は生徒が授業に集中しているかだけが監視されていますが、じきに先生側も監視対象になるはずです。同じクラスを教える英語の先生と数学の先生の授業を比べて、どちらの方が生徒が授業に集中しているかは全く同じ仕組みで判断できるわけです。そうすると、先生ごとの授業の品質もすぐに見える化されることでしょう。

 もう少し考えれば、学校の場だけでなく労働者全般にも同じことが適用される将来像にゾッとしませんか。工場労働者だけでなくホワイトカラーであっても、映像解析をもとに仕事に全力投球しているかどうかを常に関し続けられる。そんな社会。経営者側の視点に立てば、労働者をフル活用することが自らのメリットなのですから、当然真面目に働く社員を重宝して不真面目な社員は追放したいところです。従来は上司の判断という曖昧なものでしたが、AIによる公平な判断でクビを宣告されるわけですから、「それは不当解雇だ」という指摘は当たらないわけです。たとえ司法の場に持ち込んでも、証拠映像は企業側がしっかり握っていますから、労働者側の自分は頑張っていたという感情論は聞いてもらえないでしょう。

 監視カメラと画像解析による「見える化」。これまで見えなかったことが「見える」ようになるということは、それだけ気が抜けない・息苦しい世の中を生み出してしまう可能性が高いと思うんです。以前、タレントのふかわりょう氏が「ハイレゾ社会の息苦しさ」という表現をされている新聞記事を紹介しましたが、これまで聞こえなかったような音が聞こえる、これまで見えなかったことが見える。そんな社会は、人間が追求してきたテクノロジーの究極形のひとつかもしれませんが、逆に人間を追い詰めてしまうかも知れません。

0 件のコメント:

コメントを投稿