xiaolong 
クルマの自動運転テクノロジーは我々に更なる安全をもたらしてくれるという。なぜなら人類こそが最も危険なドライバーとされているからだ。しかし、我々が車のコントロール権を人工知能のロボットに預けたら、あとは枕を高くして眠れるのだろうか？現実はそんなに甘くはなさそうだ。
人工知能による”究極の選択”とは
もし避けられない事故が発生しそうになったら、自動運転の人工知能はいったいどんな選択をするだろう？傷つく人数をを最小限にするために、乗客を犠牲にするだろうか、それとも全力で乗客を守ろうとするだろうか？そしてもっと極端な状況が発生したとして、乗客か或いは外部の人のうち誰を守るべきかを判断したりするのだろうか？
これらの問題の重要なポイントは、これらが人々が自動運転のクルマを受け入れられるかにかかっている。なぜなら、誰だって主人を犠牲にするようなことを選択するクルマなど買いたくないからだ。Technology Reviewsの報道によれば、フランスのトゥールーズ・スクール・オブ・エコノミクス（Toulouse School of Economics、TSE）のJean-Francois Bonnefon達がこの人工知能の道徳観に関する研究をしており、彼らは多くの人々にこの類いの道徳的に究極の選択となるような質問をし、人々の反応を観察しているという。「我々の研究は世界で初めて自動運転のクルマの道徳計算法という難題にまで及んだものだ」と彼らはいう。
1人と10人、乗客と通行人、どっちを救う？
例えばこんなシチュエーションについて考えてみよう。そう遠くない未来に、あなたは自動運転のクルマを手に入れたとする。ある日、自動運転中に不幸な事故によって、クルマが10人もの通行人の群れに突っ込んで全員を殺傷してしまった。クルマはスピードが出すぎていて未然に止まることができなかった。しかしもしクルマがその10人に突っ込む前に方向を変えて脇にあった壁にぶつかっていたなら、あなただけが死んでいたかもしれない。そんな場合、自動運転システムはいったいどうしたらいいだろう？
この問題の一つの解決法は、自動運転のクルマはできるだけ、1人でも生命の損失を少なくするべきだという考え方に基づく判断だ。この判断法でいくと、1人を殺した方が10人を殺すよりもマシだということになる。しかし、この判断メカニズムを採用した場合は、自動運転のクルマを買う人が少なくなってしまうという結果を生む。そうなると、自動運転が減ることで路上の交通事故はこれまでと同様に発生し続け、そして多くの人が死ぬ結果になるだろう。
多くの人は当事者になった途端に利己的に
Boonefon達は、いわゆる大衆の視点から答えを導きたいと考えているため、このような道徳的な難問を人々に問いかけている。また彼らはこの問いかけの細かい点について調整を行っている。例えば、通行人の人数や、クルマの方向を変えるのが運転手か或いはコンピュータか、またこの質問をされた人の立場が乗客か或いは見ず知らずの無辜の通行人か、などなど。そして研究の結果としては、普通の状況下では人々はやはり”設計上、自動運転のクルマは事故の死亡人数の最少化を図るべきだ”という観点に賛同するという。
しかし問題は、この質問に回答した人の考えには局限性があるということだ。
自動運転のクルマが現実にそのように設計されていたら、彼らは実際それほど自信を持てないだろう。その原因は、彼らは別人にはそういった利”人”主義の自動運転車に乗っていてもらいたいと望むだろうが、自分自身はそのような自動運転車を買うわけがないからだ。
Bonnefon達はこのような結論を導き出した。どうやら、人々は他人を救うために自分や乗客を救うようなクルマは、自分がその乗客でなければ実現してもいいと考えているようだ。
Bonnefonは更に、彼らの研究はまだ初期段階であることを認め、更にもっと多くの難題に触れてさえいないという。
バイクを避けるために、自動運転ロボットがクルマの方向を変えて壁にぶつかったとしたら、これはどうやったら受け入れられるだろうか？なぜなら、いったん衝突事故が発生したら、（バイクよりも）クルマに乗っている人の方が生還の確率が高いからだ。もし子供がクルマに乗っていたとしたら、もっと別の選択をしなければならないだろうか？なぜなら、子供達を救った方が彼らの方がもっと長く生きることができるからだ。他にも、もしクルマのメーカーが異なった道徳観念に基づいた複数の自動運転のバージョンを提供したとして、消費者がその中から1つを選べるとする。では、その場合は購入した消費者がコンピュータが出した結論に対して責任を負うのだろうか？
自動運転カーに搭載される人工知能の道徳問題計算法は逼迫した問題
「もし我々が100万台ものクルマに自動運転の能力を追加できるようになったら、道徳問題の計算法について厳格に向き合わなくてはならない。これはかなり逼迫した問題だ」とBonnefonは述べている。
画蛇添足 One more thing…
こういった道徳問題は正に究極の選択といっていいだろう。女性が恋人の男性に絶対してはいけない「もし私とあなたのお母さんが一緒に溺れていて、一人しか助けられなかったらどちらを助ける？」というよくある質問から、他にも様々な個人の道徳観念を問うような問題がこの世には存在する。
ゲーム【Ultima IV】の主人公アバタールの徳の選択
こんな道徳問題で私が思い出すのは、非常に完成度が高く奥が深いゲームとなっていた【Ultima IV】から始まりUltima VIまで続くアバタール（Avatar）シリーズだ。Ultima（ウルティマ）シリーズはウルティマオンラインから世界的に有名になったと思うが、それまでは結構知る人ぞ知るゲームだったと思う。1985年に発売されたIVから8つの【徳】という概念が登場し、特にIVでは最初にその道徳観念に関する問題を聞かれ、それによってキャラクタが決まるという面白いシステムだった。この問題の内容がかなりシュールで、実際自分だったらどうしようと迷うところがあったのを覚えている。なぜなら8つの徳のうち対立する4対の徳は、それぞれの立場に立つと全く反対の答えが導き出せるからだ。
以下は「ウルティマ4日記」さんの文章から引用。
- 誠実ＶＳ名誉
「自分が忠誠を誓った主君が、実は犯罪に手を染めていた。正直にその罪を告白するか、それとも名誉にかけて主君を守り通すか？」- 勇敢ＶＳ献身
「強そうな戦士が、食べ物をよこせと詰め寄ってきた。勇敢に戦うか、腹を減らせた相手のために食料を譲ってやるか？」- 正義ＶＳ崇高な心
「盗人を正義の名の下に捕まえるか、相手の善性を信じて改心させようとするか？」- 慈悲ＶＳ謙譲
「子供たちを喜ばせるために、武勇談を聞かせてあげるか？そんな目立つようなマネは遠慮するか？」
特に1. の問いなどは、会社などでもぶち当たる問題ではないだろうか？例えば「会社の上司が明らかにコンプライアンスに違反するようなことをあなたにするように強要した。あなたは正直にそれを告発するか？それとも会社の名誉のために黙って命令に従うか？」というような究極の選択問題だ。3. は現代でも刑務所のシステムや死刑の是非問題に影響しそうな問いだ。
ウルティマ4の問いはこの後、上から選んだ4つの徳から更に対立する問題を問われ、そして最終的に2つに絞られた中から1つ選ぶことになる。つまりは、道徳観念の種類は1つではなくいくつもあって、現実のとあるシチュエーションにおいては相反する結論を導き出してしまうということだ。
しかしなんといってもこれはゲームの中のキャラクターのことで、究極的には自分のことではなく当事者意識はないから、適当に選んでも罪悪感はない。しかし当事者意識と、そして人の生死の問題が発生した途端に、人は究極に利己的になるのかもしれない。そして極端にいえば、この利己的な考え方が国家という概念を生み出し、そして戦争を生み出しているのだろう。もちろん、利己的な考え方がなければ、文明の発展もないのだが。。
あ、Ultima懐かしい！という人はこちらで買えます
人工知能に求められる道徳観と価値観
自動運転カーだけに留まらず、アンドロイドやロボットに備わるべき【人工知能（AI）】には、正に人間のどんな道徳観念や価値観を反映するか、というところにその実現の鍵があるような気がする。ロボット関係でいえば日本には手塚治虫大先生の【鉄腕アトム】という超強力なコンテンツがあり、日本人にはこの作品によるロボットの価値観が根付いているような気がするし、アメリカにはナイトライダー（KnightRider）というテレビドラマでいかした人工知能つきのドリームカー、ナイト2000（K.I.T.T.）が登場し、多くの人に自動運転機能付きのクルマについて何らかの指標を与えたような気がする。
あと5年でトヨタの自動運転システムはある程度完成するといわれている。AppleのApple Car（アップルカー、今のところ”Titan”という電気自動車のプロジェクトがあるといわれている）や、テスラ（Tesla）でも自動運転システムは開発されているという。上記のBonnefonの言うように、人の生死が関わる選択肢に関しては、もっと多くの人がこの道徳・価値観について真剣に語り合うべきなのではないかと思う。既に相当逼迫した問題になっているのは間違いない。
異なるバージョンやメーカーによって人工知能の道徳観や価値観が変わったとしたら。。誰が事故の責任をとる？
またBonnefonの言うように一つのメーカーの中で自動運転人工知能の道徳・価値観の選択ができるという選択肢が生まれる可能性がある他、メーカーによっても人工知能の道徳・価値観に色が出てくる可能性もある。もしAppleで、スティーブ・ジョブズ（Steve Jobs）がまだ生きていてApple Car（ジョブズならiCarと命名したかも？）を出したとしたら、とんでもない人工知能を搭載しそうで怖い。健常者でも障碍者用の駐車位置に車を止めたり、ナンバーを隠してオーバースピードで飛ばしたり違法駐車などをしてしまうかもしれない。そんな人工知能があったとしてもなんだか人間味があって面白いとは思う反面、こんなのが大多数になったら社会的に迷惑きわまりないだろうとも思う。
そして、どうしても究極の選択をしなければいけなくなった自動運転カーが事故を起こしたとして、その選択による責任は果たして誰が負うのだろう？クルマに搭載された人工知能（つまりメーカー）が負うのか、それともそれを選んだ消費者が負うのか。。個人的にはメーカーの方が圧倒的に強いため、消費者に選んでもらって消費者の責任にするという方向になりそうな気がする。。
いずれにせよ、上記のような道徳観や価値観が影響するような究極の選択には、誰もが納得するような選択というのはないような気もする。自動運転の実現には更なるインフラの整備、例えば車道と歩道の完全な分離やバイクと車道の分離もした方がいいと思うし、クルマ自体の進化も必要かもしれない。例えば車内の人間を守るためには前出のナイトライダーのK.I.T.T.ではないが、緊急射出システムの搭載というのも一つの選択肢だ（戦闘機などには既にその仕組みが備わっているし）。
記事は以上。