疑念は探究の動機であり、探究の唯一の目的は信念の確定である。

数学・論理学・哲学・語学のことを書きたいと思います。どんなことでも何かコメントいただけるとうれしいです。特に、勉学のことで間違いなどあったらご指摘いただけると幸いです。 よろしくお願いします。くりぃむのラジオを聴くこととパワポケ2と日向坂46が人生の唯一の楽しみです。

AIの未来を妄想してみた。自動化された機械に責任はあるのか?

仕事が始まり、仕事に慣れるために、ここ最近仕事以外何も考えられない生活が続いていた。
仕事先でいろいろ話を聞いてきた中で、次のような疑問が生じた。


AIのアシストについて
現在ではAIは人間の行う何かに対してアシスト(補助)をしている。例えば、自動車のアシスト機能である。他にも医療においてAIがある腫瘍が陽性か陰性かをパーセンテージで判断して、最終的には医者が判断を下すという取り組みもある。

AI研究者の目標は当然ながらAIが全自動ですべて行うことである。例えば自動運転や自動手術などである。しかしいまだそのような自動化は実現されていない。AIは先ほどの例のようにあくまでもアシストにとどまっているのである。アシストにとどまっている理由は単純で、現代ではまだ技術的に自動化が不可能だからである。

しかしもし将来、自動化が実現できたならばどうなるのか? それでもAIはアシストにとどまるのだろうか? 人間が意図的にAIの自動化をやめる決断を下せるのか? 自動化が技術的に可能ならば、本当に自動化を行うのだろうか?

自動化が行われたとき問題となるのは"責任の所在"がわからなくなるということである。責任がなくなる、少なくとも責任の所在が曖昧になってしまう。したがって、医療や運送などの事業には責任の所在をはっきりと示すために、自動化をーーたとえ実現できたとしてもーーしてはならず、アシストにとどめるべきである。そのように私は思った。

この話をいろいろな人にした。私の意見に対していろいろな指摘がなされた。

ある人は私の「たとえ全自動となっても責任の所在をはっきりとするためにアシストにとどめるべきである」という意見に賛成した。しかし、その人はさらに「責任の所在を明確にすべきかはケースバイケースである」と指摘された。つまり、ある場合には逆に責任の所在を曖昧にしたいということがあり、その場合には自動化は喜ばしいことであるということである。

そのような具体例は何かと問い詰めたら、その人はーーあまりいい例ではないがーー戦争と死刑執行を言った。戦争責任は誰しもが取りたくないし、もし機械が勝手に自動で戦争を起こしたのならば、その責任を取らなくて済む。したがって、戦争を行う者にとっては自動化は喜ばしいことであるとのことである。また、現在死刑を執行するさい、死刑のボタンが何個かあり何人かが同時に押している。それは人殺しを実行した責任を感じたくないために、死刑のボタンを何個か設定して、何人かが同時に押している。それは殺したという責任の所在を曖昧にするための処置である。機械が自動で殺すことができるのならば、そのような配慮をすることもなく、誰も責任を取らずに殺すことができる。

これらは自動化による責任の曖昧化のいい例なのかもしれない。

その人と議論する前は「責任の所在が曖昧になることはどのようなケースであってもいいことはない」と思っていたが、場合によってはそうとも限らずむしろ責任が曖昧になっていいこともあるのではないかと思った。ただもっといい例が欲しかったのだが。

もう1人は次のことを言った。

確かに自動化によって責任の所在が不明瞭になるだろう。しかし、自動化することによって手動よりも圧倒的に事故が減少したり、確実に手術が執刀されるのならば、ーーつまり自動化されることにより便利になるのならばーー結局は自動化が主流となるのではないかということである。つまりアシストを超えて完全な自動となるのではないかということである。もちろん、事故がゼロにはならないだろうからもしそうなったら、責任問題が出てくるのは当然である。しかし、そこはうまく社会や政治が責任問題を解決するだろうとのことである。
「もし事故責任がプログラマーとなったら、誰も自動化のプログラムを書こうとはしない。そうしたら、自動化で得られる圧倒的な利便性を社会が享受することができない。そうなれば政治家や社会が『自己責任はプログラマーではない』と考えて、結局事故責任の所在がどこなのかを社会が決めるだろう。それとも自動化の恩恵を受けるためにそもそも"責任"の概念が変容するのかもしれない。」

その人はアシストにとどめるべきであるという私の意見に対して否定的で自動化がよければ結局はそちらに移行するのではないかということである。責任問題はそのときに社会や政治がなんとかするだろうとのことである。


「自動運転の車が事故を起こしたら誰が責任を取るのか」ーー私にはこの単純で、しかし難解な、そして来るべき喫緊の問題に対して全く答えがわからない。これについて法律の専門家たちはどう考えるのだろうか? このような問題をちゃんと考えて欲しいと思う。くだらないことにいつまでも議論することなく。




僕から以上