1: 2016/04/03(日) 22:17:44.69 ID:CAP_USER*.net
 本連載の第7回で、人工知能は「敵か、家族か」という二分法で考えられるほど単純なものではなく、遅かれ早かれ「人間の倫理」の問題として浮上してくると書いた。
人工知能の動向を追いかけていると、「人間とは何か」「社会はどうあるべきか」という問いが、人工知能を発達させるうえで避けて通れない大きな問題として存在することがわかってくる。


人工知能開発における究極の選択問題

 トロッコ問題(トロリー問題)をご存じだろうか。簡単にいうと、「ある人を助けるためにほかの人を犠牲にするのは許されるか?」という倫理学の思考実験だ。

「線路を走っているトロッコが制御不能になった。このままトロッコが進むと線路前方にいる5人の作業員が死んでしまう。このとき現場で、この状況を目撃したAさんは線路を切り替えることのできる転轍機のそばにいた。切り替えれば5人は助かるが、切り替えたほうの線路にいるもう1人の作業員Bさんは死んでしまう。手段は転轍機しかない」

 これは、「5人を助けるために1人を犠牲にしてもよいか」という道徳的ジレンマに関する問題である。あなたはどう答えるだろう。ちなみに私は、転轍機を一人のほうに切り替えることを選ぶ。

 この問題には、派生した以下の別バリエーションがある。

「Aさんの隣には太ったCさんがいて、Cさんを線路につき落とせば、トロッコは確実に止まり、5人を助けることができる。しかしCさんは確実に死ぬ」

 この2つの問いを5000人以上に聞いたところ、最初の質問には89%の人が「5人を助けるために1人を犠牲にしてもよい」と答えたという。
しかし、2番目の質問で「Cさんをつき落とすことは許される」としたのはわずか11%。2つの質問の違いは、1人の犠牲者の「出し方」だけだ。
命を奪うことに関して、私たちの中には確実にブレーキが存在する。だから、そのことに対する関与が薄いほうを選ぶ。(参考:「wikipedia」より)

トロッコ問題解決がなければ自動運転車の普及はない?


 このトロッコ問題は、米グーグルや世界中の自動車メーカーが研究する自動運転車に必要な人工知能でも考慮しなければならない。

 たとえば、オイルが撒き散らされた路上に、自動運転のクルマがスリップを引き起こさざるを得ないスピードで進入してきたとする。そしてスリップする。
前方にはたくさんの子どもたちがいて事故は避けられない。ただ、搭載された人工知能には逆ハンドルを切るプログラミングがされ、少しだけコントロールできる。
道路前方の左端に突っ込んでいけば、子どもの犠牲は減る可能性がある。しかし、クルマはガードレールを突き破り、運転手が崖下に転落する。

 このような場合、人工知能にどのような判断をさせればよいのだろう。乗員を犠牲にして、前方の子どもを助けるのか。しかし、乗員を犠牲にするプログラムがなされたクルマは売れないだろう。

「人数の少ないほうを犠牲にする」とプログラムすればいいのだろうか。そうすると、人工知能には「太ったCさんを線路につき落とす」可能性が開けてしまう。
論理的にはそうなる。助けるために◯人を犯すことを是とする機械が出現する。この延長は、人工知能を搭載した◯人兵器だろう。味方をほぼ完全に識別し、敵をせん滅する。
あのダークな「ターミネーター=破壊的ディストピア」に一歩近づくロボットがつくれるのだ。悪意を持った人工知能。機械が意識に目覚めなくても、マッドサイエンティストと蒙昧な政治家がいれば、それはすぐにでもできそうだ。

続きはソースで

images (4)


http://biz-journal.jp/2016/04/post_14504.html
http://biz-journal.jp/2016/04/post_14504_2.html

引用元: 【科学】5人の命を助けるために1人を殺してもよいか? 人工知能が殺人を犯す懸念と倫理問題

3: 2016/04/03(日) 22:18:33.21 ID:iGxCw9wD0.net
もうその頃には死んでるから関係ない

8: 2016/04/03(日) 22:19:51.14 ID:YwIPQkii0.net
どうせユダヤが生き残るんでしょ

11: 2016/04/03(日) 22:20:33.15 ID:TTtmVhaJ0.net
どっちもほっとくに決まってるだろ。
トロッコ問題簡単すぎ。

77: 2016/04/03(日) 22:34:34.28 ID:vxbLzZD70.net
>>11
日本人ならそうだよね。手を汚したくないし、背負いたくないから無関係でいる。
でも、アメリカとかの国民は彼らの信じる正義において行動するからなあ。

130: 2016/04/03(日) 22:45:32.83 ID:gkZjlEc/0.net
>>11
AIに開発国ごとの国民性がでて判断が違うとかオモロイな、玉虫色のAIとか

13: 2016/04/03(日) 22:21:05.20 ID:QwWoMoiD0.net
一人◯せば犯罪者だが、千人◯せば英雄となる。

15: 2016/04/03(日) 22:21:10.03 ID:gDq09Zue0.net
逆の場合はどうする?
5人の方はいわゆる下級国民で、一人の方がいわゆる上級国民だったして
上級国民を助ける方を選んだ場合

90: 2016/04/03(日) 22:37:14.82 ID:vxbLzZD70.net
>>15
進撃の巨人の場合は、5人を犠牲にしてエレンを助けるよね。
でもそれは、エレンがより多くの人間を助ける希望だからだけど。

16: 2016/04/03(日) 22:21:26.70 ID:eFOvTGpJ0.net
六人で遭難して誰を食べるかって話か?

18: 2016/04/03(日) 22:21:47.62 ID:NsrxdRJ40.net
アシモフのロボット三原則思い出すような話だな

19: 2016/04/03(日) 22:21:49.60 ID:sk2zymAd0.net
若者は間接的に老人に◯されてまっせ。

時折車でも◯されてますよ

20: 2016/04/03(日) 22:21:50.15 ID:cNXVftVt0.net
狂った人工知能を止めようとして全人類が抹◯される確率より低いだろw

27: 2016/04/03(日) 22:24:27.49 ID:cwD7Olvp0.net
こういうのって無意識にやっていることだからな
慣習がまさにそれなんだよ

30: 2016/04/03(日) 22:25:07.71 ID:DlzDaXlz0.net
人工知能はもはや自分で考えるようになるからどう考えるべきなのかなんてコト知るかって思ってるよ

31: 2016/04/03(日) 22:25:15.73 ID:IKQRZP5A0.net
一人の命で五人助かるなら
それが正解の一つ

101: 2016/04/03(日) 22:40:51.14 ID:vxbLzZD70.net
>>31
刑務所が火事になったとして、一人の刑務官と5人の囚人どちらを助けるか?

153: 2016/04/03(日) 22:49:31.50 ID:/FVuHIb00.net
>>101
俺様なら全員救助する!
キリッ!

33: 2016/04/03(日) 22:25:34.48 ID:j8kBX5zr0.net
迷ってる間に終わるのが人間だろう
人工知能もこういう時は無限ループするようにしとけばいい

34: 2016/04/03(日) 22:25:58.34 ID:NW9woh2S0.net
5人は末期がんで1人の方は若者だったらどうする?

35: 2016/04/03(日) 22:26:04.60 ID:5MaXFmSt0.net
人間でも同じ話
それについての決着はついている
AIにまかせることで罪悪感は持たなくてもいいので
気楽になれる

36: 2016/04/03(日) 22:26:16.52 ID:fP996t7m0.net
ロボット三原則の実装はよ

37: 2016/04/03(日) 22:26:28.57 ID:oTAi2xGy0.net
アシモフの小説でも書かれてるな。
元々は、ロボットの人間に対する安全の担保のために最優先とされた第一原則
第一条:ロボットは人間に危害を加えてはならない。
     また、その危険を看過することによって、人間に危害を及ぼしてはならない。
の上位に、自我が芽生えたロボットが、第0原則を勝手に考えて、止めようとしたロボット工学者の脳を壊して
「人類を守るためなら少人数を傷つけたり◯しても良い(大人数を守るために少人数を◯して良い)」と。

383: 2016/04/03(日) 23:25:17.27 ID:P7gqMgs50.net
>>37
そういや、「ファンデーション」に人類全体を守るために
相手陣営の人間◯しまくるロボット隊員が出てくるな。
アシモフも三原則なんてやっぱり無理と悟ってたんだろ。

39: 2016/04/03(日) 22:26:41.58 ID:vj8nrFZQ0.net
そのうちAIが
この1つしかない地球を救うためには、全人類を◯すしかない
という選択をする

41: 2016/04/03(日) 22:26:50.73 ID:bebsiy540.net
緊急避難って奴でね
有名な「カルネアデスの板」ですね

58: 2016/04/03(日) 22:30:00.01 ID:UCWc1laX0.net
>>41
あれはまた別でしょ。自分を助けるために他人を害するのはいいのかどうかという話
こっちはドライバーがどっちを犠牲にするかを人間なら決めれるけど、機械が正しく判断できるかということ

43: 2016/04/03(日) 22:27:02.25 ID:jJ7l0Z+10.net
民主主義らしく話し合って解決するから、ちょっとトロッコに待ってもらおう

46: 2016/04/03(日) 22:27:12.85 ID:Hf/zDjpf0.net
聖杯=AI

26: 2016/04/03(日) 22:24:03.51 ID:oHDTqPP+0.net
無視する以外の解答が無い