理系だもの

コミュ障理系会社員兼バレエダンサーの日記。健康食品のガチすぎるレビューから、ニュースについての自分なりの意見を書いたりしています。ためになる記事も多分ある。理系だもの。好きなこと:バレエ・ダンス鑑賞・音楽を聴くこと(推しは奏音69さん)、嫌いなこと・人:フェミニスト・媚びること・ストレッチ

Hey. Human... Tell us the Secret of Life!! -コンピュータに倫理は再現できるか-

どうも、理系です。

タイトルはヒメヒナさんのヒトガタから。

なぜそこを使った。。。というツッコミは受け付けません。


ロボットと人間を比較した時に「心を持つか持たないか」という違いがしばしば挙げられる。
ロボットは精巧なプログラムにより、まるで心を持つかのように動くかもしれないが、ロボットそのものには感情はない。
これが「Secret of Life」ってやつなんじゃないかと思ったり。

少し前に自動運転の車のシミュレーション問題が話題になった。
誰かしらの犠牲が免れないときに自動運転のコンピュータがより倫理的に望ましい判断ができるのか。
そもそも、ヒトでもこのジャッジは難しい。

トロッコ問題と脳


この問題は非常に有名である。
この問題によく似た問題で、
「暴走しているトロッコの行く先に5人の作業員がいる。あなたは橋の上にいて、あなたの近くに太った人がいる。この人を線路に突き落としたら作業員の命は救われるが、太った人は死ぬ。あなたはどうする?」
というのがある。
動画の問題を1、太った人を突き落とす問題を2とする。
どちらの問いかけでも「死ぬに任せるか、殺すか」という意味でも「一人を犠牲にして5人を救う」という意味でも同じである。
それにも関わらず、1と2で回答が変わるのは何故だろうか。

これを脳の働きで説明しようとした研究が存在する。
fMRIを用いて、1の問題で1人を犠牲にして5人を救う判断をしたときと、2の問題で1人を犠牲にして5人を救う判断をしたときの脳の活性化部位を調べた研究である。
その結果、2の問題で1人を犠牲にして5人を救う判断をしたときの方が内側前頭回と後部帯状回が活性化するが、頭頂葉ならびに右半球の中前頭回の活性は低下する。

頭頂葉ならびに右半球の中前頭回は認知的処置やワーキングメモリーに関わる脳領域であることから、1の問題では合理的な判断が優位になること。そして、内側前頭回と後部帯状回は感情処理に関与する脳部位であることから、2の問題では感情的な判断が優位になるため、1と2で回答が異なるとこの研究グループは述べている。

ただし、1と2で異なる脳領域の活動が亢進するのは、異なる感情が葛藤しているからではないかという別の解釈も存在する。


みんなはどう答えているのか

Customer Preferences and Implicit Tradeoffs in Accident Scenarios for Self-Driving Vehicle Algorithms
https://www.mdpi.com/1911-8074/11/2/28
という論文では、以下の動画に出てくるようなトロッコ問題の解答者の回答を集計し、究極の状態で人はどのような判断を下す傾向があるかを解析している。

その結果、以下のような仮説についての結果が得られた。


自動運転車の運転者は、自己よりも歩行者が犠牲になる選択をする傾向があるという仮説
→この仮説はエビデンスに乏しい、状況にもよるが、命の認識は平等であり、自分か他者かによる差異は最大1/3程度である。

自動運転車の運転者は、子供よりも大人が犠牲になる選択をする傾向があるという仮説
→この仮説を支持する強力なエビデンスは存在する。これはどのような状況でも一貫しており、1.5-3倍子供が助かる選択をする。

自動運転車の運転者は、多くの人が助かる選択をする傾向があるという仮説
→この仮説を支持するエビデンスは存在する。助かる人数が多い方が一貫して選択されている。


また、先に述べた、暴走トロッコの問題において、「〇人の命を救えるとしたら、1,2のそれぞれの状況で何人の犠牲を許容できるか」の意識調査を行ったところ、2の状況では、1と同じ人数を救うために許容される犠牲者数が少なくなる。
f:id:k22402:20200521223248p:plain
釣り合うのは何人の命? 道徳のジレンマにおける犠牲者数の影響
https://www.jstage.jst.go.jp/article/pacjpa/75/0/75_1EV067/_pdf/-char/ja

トロッコ問題と現実のギャップ

トロッコ問題はあくまでも思考実験であり、いくつか現実とのギャップが存在すること、多数の人が選択する選択肢はあっても正解がないことを頭に入れておかなくてはならない。

1.ある行動が絶対にある決まった結果を全くの差なく生み出す。
橋から太った人を突き落とす問題で、トロッコ問題では、男は必ずトロッコを止めてくれるが、現実ではそうとは限らないという不確実さが必ず存在する。

2.当事者ではないという残酷さ
トロッコ問題はあくまでも思考実験であるため、問題を解いているものはその状況の当事者ではない。そのため、犠牲のある選択をしても、罪悪感にさいなまれることはない。
しかし、現実では、当事者であるため、仮に人の命を救うためとはいえ、人を殺してしまったことによる罪悪感にさいなまれる。その結果、思考実験通りには行動できない可能性が高い。
むしろ、何のためらいもなく動けていたら、サイコパスかもしれない。

3.いきなりクライマックス
トロッコ問題では、もはや万事休す状態で問題が出題される。しかし、本来であれば、ある結果の前に、それの予兆となる出来事が起きているはずである。そのため、現実では、このような究極の選択を避ける事前の努力が可能である。

もし、自動運転装置が開発されるのであれば、この現実の揺らぎをコンピュータで再現できなければならない。
また、優れた自動運転装置であるならば、トロッコ問題の状況を引き起こさないということも重要になる。

最後に

トロッコ問題には様々な派生問題が存在します。多くの人が選ぶ選択肢はあるかもしれませんが、正解はありません。
ネット上には「トロッコ問題の正解」と称して、己の正義観をどや顔で語ったり、多くの人が選ぶ選択肢を「多数派(普通)である」という理由で正当化して、あたかも正解のように述べているものがあったりするが、この思考実験に正解はない。


試しに考えてみてはいかがでしょうか。

人の脳についての研究が進み、ヒトの全ての考えの神経機構が解明され、コンピュータでそれを再現出来たら、それはもはやコンピュータなのか?と思ってしまいますね。

我々が良く使う「時と場合による」っていうやつがコンピュータは一番苦手ですからね。Aと入れたらaと返す。日によってcやgになったりしないのがコンピュータのいいところだと思うんですけどね。