1: 2017/08/23(水) 13:12:59.67 ID:CAP_USER9
■シンギュラリティは来ない

――2045年にシンギュラリティ(技術特異点、コンピュータが人間の知能を上回る時点)が来るという予測について、どう思いますか?

脳科学の人はシンギュラリティについて、「そんなバカなことを言うな」って考えています。人間の脳はものすごく複雑で、本当はどう動いているのか全然分かっていない。脳型コンピュータの専門家ですら、「今はまだごく表層的な脳の模倣に過ぎない」と言っています。そんな現状で、脳、つまり人間のインテリジェンスを超えるなんて、おこがましい。

ただ自動化や機械の自律化は確実に進む。その中で、人間が思いもよらなかった事態が起きるというのは、十分ありうる。バカなAIが危険な事態を起こす可能性は十分ある。

――雇用に対する影響は、バカなAIでも十分起こるわけですね。

そうだし、それより制御できないという事態が怖い。原発事故がそうですが、人間が想定していなかったいろんな事態が連鎖し大事故が起きる、というのは機械では十分にありうるわけです。特にAIみたいな複雑な判断をする機械だと、やっぱり「ヒューマン・イン・ザ・ループ」じゃないといけない。

――人間が輪の中に入る?

続きはソースで

(撮影:今井 康一)

http://toyokeizai.net/articles/-/185506?page=3
ダウンロード (1)


引用元: 【AI】「シンギュラリティは来ない。しかしバカなAIが危険な事態を引き起こす可能性は十分にある」=東工大・松岡聡教授 ©2ch.net

スポンサーリンク
2: 2017/08/23(水) 13:13:57.40 ID:ucH4lebB0
デデンデンデデン
デデンデンデデン

119: 2017/08/23(水) 14:00:57.37 ID:PEbqzZDY0
>>2
昔のSFは賢くなったAIが人間を滅ぼすってのが定番だったけど
最近の映画だと人間に興味がなくなって別世界へ行くって話が多いよね
未知のウィルスや深海生物みたいに人の知らないところで進化していくのかな

889: 2017/08/23(水) 18:28:50.84 ID:5YL1QvOg0
>>2
この単純な二行だけで、おそらくこのスレにいるほとんどの奴に同じものを想起させる。
これこそ、天才音楽家のなせる業だよな。素直に感嘆するわ。

3: 2017/08/23(水) 13:15:08.15 ID:BGJuTeQm0
既に将棋、囲碁で人間の知能上回ってんだけど

こいつバカか

6: 2017/08/23(水) 13:17:07.04 ID:EZPsR1mW0
>>3
頭の悪い俺に、あれを知能と呼ぶ根拠を教えてくれ

16: 2017/08/23(水) 13:24:55.21 ID:+G9oyBfm0
>>6
これ話すとそもそも知能とはなんぞやという話になるけど、「ごく一部の分野でしか使えない知能」とみる人は結構いる

5: 2017/08/23(水) 13:16:10.70 ID:tyALT2pS0
特異点だー革命だーと主張するのは自由
それを評価するのは後世であっておまえらじゃないよ

886: 2017/08/23(水) 18:25:58.79 ID:L7lZikot0
>>5
だよな
たぶん最近、 AIだー、自動運転だー、シンギュラだー、第4次産業革命だー
とか言い始めたのは、アベノミクスと成長戦略のため以外の何物でもない

ほとんどの人は囲碁将棋ソフトなんて昭和の時代からあるの知ってるし、その性能向上したからと
藤井とAIを常に絡めて報道する様を異様だ
旗ふってメディアが連呼する、戦前と変わってないすなあ

888: 2017/08/23(水) 18:28:30.13 ID:MKlyocHu0
>>886
今のAIの強みはパターン認識に優れている事。
これの産業波及効果は大きいよ。

7: 2017/08/23(水) 13:17:31.55 ID:6KU6r9rG0
だから管理することだよな、個体にうつしてラムの世界だけに閉じ込めない
ちゃんとセンサーとマニュで構成して
一個体ごとに人権があって

8: 2017/08/23(水) 13:17:39.32 ID:WyjswnHS0
>>1
> 脳はものすごく複雑で、本当はどう動いているのか全然分かっていない

ならシンギュラリティが来ないという根拠は無いんじゃ…?

22: 2017/08/23(水) 13:28:07.46 ID:RVhGe63Y0
>>8
深層学習では内部でどういう計算が行われてるのか外から見てもわからんから
AIがどういう計算結果を出してくるか人間には予測できないところがある
なので囲碁や将棋で人間には思いつかなかったような凄い手を打ってくる

同じ理由から、人間には予測できないようなバカな判断ミスをする可能性もある

ただしAIが計算を行う仕組み、原理自体は完全にわかっている(人間が設計して作ったんだから当たり前)

一方、脳については、どういうプロセスで思考してるのかという仕組み自体がよくわかってない
だから脳を超える機能をもったコンピュータを作ることは現時点ではできないという話

28: 2017/08/23(水) 13:32:21.88 ID:PCo1mjfN0
>>22
それ出来ない理由にはなってないよね
人間とは別の方法で出来るようになるかも知れないし

45: 2017/08/23(水) 13:40:10.47 ID:RVhGe63Y0
>>28
シンギュラリティというのは脳とコンピュータの性能比較だから
コンピュータ>>>脳とするためには基準を脳の性能に置いて、それとの比較で論じることになる
つまり人の脳にできることが基本的に全部コンピュータで置き換え可能にならない限り
シンギュラリティにはならない

人の脳の機能をすべて再現できるコンピュータが作れたということは
人の脳の仕組みを完全に原理的に解明できたということとイコールだよ

925: 2017/08/23(水) 19:03:54.21 ID:KEUp8skf0
>>45
わからないから判断ができないってことかな

11: 2017/08/23(水) 13:20:13.02 ID:6KU6r9rG0
シンギュラリティだからゼロに向かうてことだろ
あるんじゃないか

12: 2017/08/23(水) 13:22:08.49 ID:iEpAxwbY0
問題はシナが一番乗りする可能性があるってこと

155: 2017/08/23(水) 14:09:46.71 ID:t2RC5T210
>>12
AI「共産党イラネエ」 
となる根本的な問題があるからシナには無理。

167: 2017/08/23(水) 14:12:59.78 ID:5IGu8qif0
>>155 汎用性AI以前に、専用AIの市場があるだろうから
中国がその期間に各分野でAI開発でリードする可能性はあるね。
専用AIというのは、「限定的」で当たり前なので、
「政治問題の論考禁止」という条件をつけてやればよい。
そんなのなくっても、そこまでは考察しないってのが、専用AIだけどね。
 

14: 2017/08/23(水) 13:23:52.25 ID:oFaAy4aT0
バカなAI「そのAIをつくった人間がゴニョゴニョ」

104: 2017/08/23(水) 13:58:20.66 ID:VSjAFzGd0
>>14
ホント、そうなんよ。

ベースとなる知識・思想が偏ると作られたAIが反日に仕上がったり共産主義万歳ってしたりとなる傾向は失敗したAI群から見て取れるんだよね。

15: 2017/08/23(水) 13:24:14.31 ID:uubYqBGA0
2045年にはこのオッサンも85だから
この話が間違ってても誰もツッこまないだろうから気楽なもんだな。

17: 2017/08/23(水) 13:25:18.47 ID:SL1ydvyr0
得意分野が違うんだよな。
だから、互いを補佐すれば上手く行く。

20: 2017/08/23(水) 13:27:15.66 ID:zv9yQt1r0
シンギュラリティで人間がAIに従って当然の時代に
安物のCPUに安物のAIが混じってくるのは怖い

21: 2017/08/23(水) 13:27:21.61 ID:W0lJguAi0
擬似的な模倣、これは人間を超えない根拠になるのか?

24: 2017/08/23(水) 13:29:42.78 ID:AuseE/H/0
「知的な」判断は、人間でもそもそも難しいので

でも、ただの条件分岐で解決できる問題が多いのも確か

25: 2017/08/23(水) 13:31:22.91 ID:JT2ZR0og0
AIは学習するんだから、いつかは人間の脳を超えるでしょ。

30: 2017/08/23(水) 13:32:39.64 ID:XyrKTqB10
人間がバカやらかす可能性が遥かに高い