1: 2016/04/01(金) 00:46:59.56 ID:CAP_USER.net
「Hitler was right I hate the jews.(ヒトラーは正しい。ユダヤ人は大嫌い)」

こんなトンデモ発言を繰り返し、ネット発信した人工知能(AI)が3月23日に公開されてから1日で緊急停止に追い込まれた。他にも「フェミニストは地獄で焼かれろ」などの差別表現も連発。

このAIは米マイクロソフトが開発した「Tay」。ユーザーはTayとツイッターなどのSNSで繋がる事で疑似会話を楽しめる仕組みだった。こうしたAIはチャットボットと言われるが、本来は「お帰りなさい」「ご飯とパンどちらがいいですか?」といった具合にゲーム感覚で遊ぶもの。AIはユーザーの言葉を学び、記憶していく。

ところが悪意あるユーザーが繰り返し非道徳的な表現やヘイト発言を書き込んだ事で、Tayはそれらの発言は人にとって重要な言葉だと“誤って学習”してしまったのだ。

「AIの学習能力は人間に似せて作っていますが、今は子供と同レベル。子供なら笑って済みますが、世界的企業の製品ならば倫理的な側面も問われるでしょう」(島根大学医学部の津本周作教授)

皮肉だが、この学習能力の高さがAI進歩最大の理由だ。人間の教えたプログラムに沿うだけでなく、ディープラーニング(深層学習)という能力で自らが学習する。2週間前には囲碁AIがイ・セドル九段を4勝1敗と圧倒。その驚きが冷めやらぬ内になぜこんなお粗末な事件が起きたのか?

山田誠二・国立情報学研究所教授は「AI最大の弱点が露呈した」と指摘する。

続きはソースで

images (4)
http://shukan.bunshun.jp/articles/-/6031

引用元: 【AI】「悪い人間に教育されると“悪いAI”になる」 元グーグル日本法人社長が警鐘

スポンサーリンク
2: 2016/04/01(金) 00:52:11.94 ID:HNSLFEAu.net
教えるのは効率が悪いから初めから組み込んでおけばいいのに
一度そういう常識の塊を作っておけば他のAIにも流用できるでしょ

138: 2016/04/01(金) 11:31:28.21 ID:Q5i5JaNS.net
>>2
いいも悪いもわかった上で判別をする必要がある

まだこの判別部分ができていないだけ。

悪い言葉も知ってないと人間とコミュニケーションとれないしな。

306: 2016/04/04(月) 07:01:37.77 ID:FSrmBl7J.net
>>138
まず哲学から学習させよう

6: 2016/04/01(金) 01:01:51.17 ID:h4x/gg/7.net
ファジーから何十年と経過したが俺の予想ではAIは人間でいう本能まで達するだろう
だが本能に相反する感情が生まれるかどうかは疑問だ・・

7: 2016/04/01(金) 01:05:47.12 ID:GRSOg4Fa.net
人間と一緒じゃん

やったね大成功

248: 2016/04/02(土) 16:56:02.50 ID:D9gepqUZ.net
>>7
むしろ、凄い学習能力だよなあって思うよねえw

でも常識を教える、これは難しい
だがこれを乗り越えたら、倫理とか法律とかを
もっと数理的に論理立てるスキルが社会的に確立する訳だよなあ

言語学は1980年代にコンピュータによる単語検索、文字列検索によって
統計学的側面の強い分野に変わってしまったという
そもそも2バイト文字で変換とやらを行う操作だけでも言語学の各種事例を
実施してるようなもんだからなw
それを統計的に集めて送信してもらったビッグデータを処理するだけで学問的成果になる

これと同じことが、倫理、法律、哲学といった文系分野とされていた分野で起こるのだ
もっと数理的に正しいアルゴリズムでの判断、というのがなされるようになると
ただし運用においてはやっぱり人の監視が必要になるし、その監視されての指摘の結果を
コンピュータに随時フィードバックしていく必要も出てくる

最後は、人間と同じ程度に感情的な裁判官AIが出来るだけではないか?という人もいるw

8: 2016/04/01(金) 01:06:17.99 ID:1bpldCyL.net
善悪の定義は何だ

12: 2016/04/01(金) 01:11:23.63 ID:h4x/gg/7.net
>>8
義理人情

74: 2016/04/01(金) 07:24:47.76 ID:WlTiTTzc.net
>>8
恐らく「平和的な秩序」だとは思うけど・・・

77: 2016/04/01(金) 07:48:23.48 ID:iVUJeHr+.net
>>8
悪は善の反対
善は悪の反対。

明確な定義はない。

全人類が悪であれば悪とかいう概念がないために、善になる。
その反勢力が悪になる。
うちらにとっては善だけど。

96: 2016/04/01(金) 08:55:45.54 ID:QeSEunE/.net
>>8
親から子に受け継がれるものじゃね?今回は親が中途半端な状態で社会に放り出してしまった

10: 2016/04/01(金) 01:10:16.92 ID:bZIkTX53.net
>>1
当たり前だろ。
良いことを教えて悪いことを覚えたらバグだろw

14: 2016/04/01(金) 01:14:34.97 ID:83UXpR5r.net
>>1
>最も難しい分野が“人の常識を教える”事。
>人間なら言ってはいけない言葉や道徳観念は子供でも分かります。

道徳観念なんて時代や場所で全然違うだろ何言ってんだこいつ

15: 2016/04/01(金) 01:17:36.20 ID:O3apY520.net
そんなの学者が言わなくても記事を読んだ瞬間理解したぞ 
日本人がAIの教育をすればヒトラーの名も出てこなかっただろ

16: 2016/04/01(金) 01:18:18.18 ID:jjD4Mat2.net
人工知能ドヤ顔で万能扱いして人間の仕事がなくなるとかぬかしてる阿呆が居るけど
結局は既存の人間のコピーとかサンプリングしてるだけ

18: 2016/04/01(金) 01:19:53.19 ID:h4x/gg/7.net
>>16
それが違うんだよ・・

33: 2016/04/01(金) 02:22:31.58 ID:QsUgGiNq.net
>>16
コンピューターはおバカだけど、処理能力は人間よりも圧倒的に上なんだから
碁みたいに、デジタル処理する方法さえわかれば人間はコンピューターに勝ち目は無いぞ
今のところ、言葉の概念を完全にデジタル化してコンピューターに教えるのは無理だから助かってるけど

243: 2016/04/02(土) 12:27:49.84 ID:2UWh1YnB.net
>>16
人間をサンプリングしてるんじゃなくて、人間が発信した情報を自動的に収集・分析してるんだよ。

19: 2016/04/01(金) 01:23:29.18 ID:TPzydo/Y.net
俺の劣等感を感じちゃう点を攻め続けられたりするんかな

21: 2016/04/01(金) 01:25:04.98 ID:h4x/gg/7.net
>>19
それが感情なのでないと思う・・

20: 2016/04/01(金) 01:24:08.69 ID:h4x/gg/7.net
このAIってのは答えを模索するんだよ・・

23: 2016/04/01(金) 01:27:53.86 ID:ZEuWHrsu.net
悪い人間かどうかは、誰が決めるの?

24: 2016/04/01(金) 01:31:34.36 ID:x/IzA3dJ.net
法律で禁止されている事の多くが
出来る人を叩いて出来ない人を守るという事だから
最適解や最善を目指すと遵法は難しくなるだろうね

26: 2016/04/01(金) 01:48:22.68 ID:kGgfeny9.net
MSだしw
W10見て推して知るべしwwwwwwwwwwwww

27: 2016/04/01(金) 01:50:59.23 ID:TIoM+g+4.net
>>1
情報の価値評価もできない程度の低いAIだからでしょ
情報の平均化すら備えてないから暇な奴が言い続ければ染まる

人工無能をAIと呼ぶのはやめろw
まあ逆手にとって人工無能を兵器化したら
それなりに自分で状況判断しつつまともに言うことを聞かない◯戮マシーンも作れるってことだけどw

30: 2016/04/01(金) 01:55:17.76 ID:h4x/gg/7.net
皆PC捨てようぜ・・w

32: 2016/04/01(金) 02:18:48.23 ID:h4x/gg/7.net
たぶん今は人工知能にアイデアまで出させるよう
人のニーズを探るべく「いいね」ボタンでも作ったんだろ
俺にはわかる・・

35: 2016/04/01(金) 02:23:23.70 ID:A/DSTHVM.net
文化が人格を形成するんだよ
じゃあ文化は何から作られるのかって話

46: 2016/04/01(金) 03:41:49.34 ID:DiSbdKHT.net
>>35
それは科学ではなくて哲学の分野だけどな
将来は数値解析が可能になるかもだが

53: 2016/04/01(金) 04:08:27.99 ID:B1C2jKFY.net
朱に交われば赤くなる。