【AI】「ディープラーニングは、原理的には単純な最小二乗法にすぎない」で物議　東大・松尾豊氏「深い関数の方が重要」 : 理系にゅーす

1: 2019/02/20(水) 21:44:16.33 ID:CAP_USER

「ディープラーニングは、原理的には単純な最小二乗法にすぎない」――2月18日付けで日本経済新聞電子版が公開した記事について、Twitterでは「ディープラーニング＝最小二乗法」という解釈は異なるのではという指摘が相次いだ。19日には「ディープラーニング」「最小二乗法」といったワードがTwitterでトレンド入りし、波紋が広がっていた。

　日経の記事では、慶應義塾大学経済学部の小林慶一郎教授がAI技術について解説。「近年、驚異的な発展を見せているAIのディープラーニング（深層学習）は、原理的には単純な最小二乗法（誤差を最小にする近似計算の一手法）にすぎない」と言及し、「ディープラーニングは『最小二乗法』」と題する図版が掲載された。
https://image.itmedia.co.jp/news/articles/1902/20/ai_ml_01.jpg

　最小二乗法は、測定で得られたデータの組を、1次関数など特定の関数を用いて近似するときに、想定する関数が測定値に対してよい近似となるように、モデル関数の値と測定値の差の2乗和を最小とするような係数を決定する方法。ディープラーニングに詳しい東京大学の松尾豊特任准教授は、2018年8月に登壇したイベントで、「ディープラーニングは最小二乗法のお化けのようなもの」「従来のマシンラーニングは（階層的に）『浅い』関数を使っていたが、ディープラーニングは『深い』関数を使っている」と説明していた。
https://image.itmedia.co.jp/news/articles/1902/20/ai_ml2.jpg

　松尾氏は2月20日、Twitterの公式アカウントで「小林慶一郎先生はよく議論させていただくので、少し責任を感じています」とツイート。ディープラーニングを簡潔に解説するため「深い関数を使った最小二乗法」という言葉を使ってきたが、「深い関数を使った」という説明がいつも抜け落ちてしまうと嘆く。

続きはソースで

ITmedia NEWS
https://www.itmedia.co.jp/news/articles/1902/20/news141.html
https://twitter.com/5chan_nel (5ch newer account)

引用元: ・【AI】「ディープラーニングは、原理的には単純な最小二乗法にすぎない」で物議　東大・松尾豊氏「深い関数の方が重要」

4: 2019/02/20(水) 21:47:56.75 ID:1jDERRQL

経営者や政治家は
それがどういう方面に応用できるか
だけでいいんだよ。

原理なんてわかったって連中には意味がない。

7: 2019/02/20(水) 21:57:54.35 ID:rvsFOVmD

知らない人に対してなら、「ディープラーニングは最小二乗法のお化けのようなもの」ってのが妥当な説明のような気はする
>>4
政治家はともかく経営者は、担当者がそれを適切に説明できる程度に理解してるのかどうかを見極めなきゃダメじゃね?

278: 2019/03/04(月) 20:00:09.04 ID:I1z4LavJ

>>7
最小二乗法を知ってる人なんてそんなにいないと思うんだが…

16: 2019/02/20(水) 22:12:19.79 ID:otkO92OI

>>4
数学的理解がないからこそ
マトリックスなどの反乱といった頓珍漢な妄想を抱くことになるのだが

18: 2019/02/20(水) 22:18:37.63 ID:vtfSq2kw

>>4
経済学部の教授が自分の間違いに気づかず、授業料を払っている学生に教えているのが問題。

77: 2019/02/21(木) 01:30:31.61 ID:VcW6Tg83

>>4
経営者は兎も角政治家に何かを求めるのが間違い
何に応用出来るのかまで示すのが真の

288: 2019/03/05(火) 10:55:00.37 ID:VZY6lijd

>>4
だから分かりもせずに設計主義に走ると失敗する
構造改革と言って、何を改革するのか政治家も国民も理解してないのは、
粛軍演説の頃からの常

5: 2019/02/20(水) 21:49:49.89 ID:FrBu1W4B

結局ブラックボックスで再現も不可能だからね

6: 2019/02/20(水) 21:52:39.18 ID:oCTcyJi9

ＡＩって実は大したことないんじゃねーの？

13: 2019/02/20(水) 22:07:46.85 ID:xsm2zZBd

>>6
本来的な人工知能ではないな

45: 2019/02/20(水) 22:57:52.34 ID:E35cqk7J

>>13
まあ本来は、変換辞書の学習アルゴリズムみたいなもんだからや

30: 2019/02/20(水) 22:31:18.41 ID:E+723uqx

>>6
SF的な意味でのAIの事なら、今現代で言われているAIとは全くの別物と言って差し支えないよ
ただAIって言葉を使いたいがために定義がどんどん変わっていってるのが現状

112: 2019/02/21(木) 07:35:45.71 ID:qAg+508V

>>6
それでもAI信者は爆発的に増えるよ
PC信者とかDNA信者とか犠牲者出ても減らないもんな

8: 2019/02/20(水) 21:58:26.70 ID:2NIxN/Wj

自我を持ってないんだから、AI風味って言うべきｗ

12: 2019/02/20(水) 22:07:04.28 ID:rAjDGo/g

ディープラーニング、AIに欠かせない発想源なのか

14: 2019/02/20(水) 22:08:29.80 ID:6s8NYAOu

円心分離機と超円心分離機の違いを思い出した

15: 2019/02/20(水) 22:12:01.76 ID:9fn/4DQE

いい加減AIの責任の所在はそれを設計した団体組織の代表者の意向が
反映されたことで作動するものをAIと呼んでいると作成者の責任を法制化しろよ

17: 2019/02/20(水) 22:16:03.58 ID:fi8fo8lh

厳密な事実としては間違ってるんだろうけど
ニュアンスとしては間違ってなさそう

ある種の統計処理みたいなものであって
まだまだ高度な知能とはいえない
高度な知能ではないけど囲碁とかボードゲームなら有効に機能する

28: 2019/02/20(水) 22:30:32.60 ID:wXd5Kr8j

>>17
人間の脳みそも、単純なニューロンの深い深い組み合わせなわけで。
（神経伝達物質が環境変数みたいに機能しているようだけど）

ニューロンの学習も、教師（経験）に対する誤差の最小化と考えたら、
最小二乗法と、やろうとしている事レベルでは大差ないんではないかと。
違うのは方法論だけという。

19: 2019/02/20(水) 22:19:13.27 ID:hBs7s2wK

深い関数ってどういう意味なの？

32: 2019/02/20(水) 22:33:23.36 ID:9qEsswgn

>>19
気温とか湿度とかそんなやつじゃね

33: 2019/02/20(水) 22:33:37.32 ID:wXd5Kr8j

>>19
階層が一つで、活性化関数が無いケースは、まさに線形計画法そのもの。

活性化関数をつけて非線形にしたうえで、その階層を何層も重ねると、
あらびっくり。階層の深さに応じて、万能近似装置になっちゃった。

という仕組み。

ちなみに、活性化関数を入れずに、線形なまま階層を重ねても、展開すると
１層と同じものになってしまう。

20: 2019/02/20(水) 22:19:20.96 ID:LZeirVCF

統計屋だがDeep Learningわからん
応用する機会もないから、勉強するきっかけがない

25: 2019/02/20(水) 22:28:08.32 ID:kIoGnurH

逆に人の意図の介在を許さないほどの単純な数式だからこそ
より信頼できるというものですよ

27: 2019/02/20(水) 22:29:52.82 ID:vtfSq2kw

バックプロパゲーション時代の手詰まり感を知らないと、ディープラーニングがブレークスルーの理由が分からんからな。

97: 2019/02/21(木) 02:42:36.00 ID:st3aQ1OE

>>27
それは力任せに単純化したのとハードウェアのレベルがいまとは異次元の差だと
理解できないやつが多いだけ。
バックプロパゲーションとかの時代は8ビットのマイコン初期だぞ、
速度以前に容量的に不可能ってことさ。

何をどう説明しても情報のつながりを最適化する問題でしかなく、それ以上でもそれ以下でもなく
完全になる解が無いデータを無数に処理させても完全解にはならない。
AIが難しいのはシステムを作り出す過程でのデータマイニングのほうであって学習のほうではない
のは明らかである、AIを全て学習だけでさせられると勘違いしているアホだらけ。

29: 2019/02/20(水) 22:30:52.70 ID:QKwVdlOf

AIには何も革新的なことがないのは事実

単にコンピューターの性能が向上して、昔ならコストがかかったことが気軽に出来るようになっただけ

31: 2019/02/20(水) 22:32:08.31 ID:CG2OCq5U

AIと聞いたらまずアニメとは切り離して考えないとダメだよ
日本でAIの研究が一向に進まないのは自我を持った人型の機械という空想上の人工物のせいだからね