1: 2016/06/08(水) 18:50:58.28 ID:CAP_USER9
【シリコンバレー=小川義也】
米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。
AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。

 今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。
このほどネット上で論文を公表した。

ダウンロード (2)


http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/
2016/6/8 18:01

引用元: 【国際】米グーグル、AIに「非常停止ボタン」 暴走防止©2ch.net

2: 2016/06/08(水) 18:51:45.42 ID:EJWCvomG0
AIが勝手に無効化するだけだろ。

14: 2016/06/08(水) 18:54:28.97 ID:2mypG7Mj0
>>2
>>AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイント

26: 2016/06/08(水) 18:56:55.96 ID:PDUM+6hJ0
>>14
だまされてることにAIが気付いたら・・・

3: 2016/06/08(水) 18:51:53.68 ID:FOaLGozK0
コンセント抜けばいいだろうが

42: 2016/06/08(水) 19:00:18.64 ID:fozrCtFu0
>>3
これ

52: 2016/06/08(水) 19:02:08.63 ID:PDUM+6hJ0
>>42
すべての機能が停止したら困るんだわ

87: 2016/06/08(水) 19:08:06.89 ID:SWPBmaku0
>>52
コンセント分けたらいいじゃん

109: 2016/06/08(水) 19:10:59.70 ID:PDUM+6hJ0
>>87
一部の電源が落ちたら機能削がれるシステムはそれはそれで問題

9: 2016/06/08(水) 18:53:29.01 ID:Z7W/pyoH0
存在しない進化したAIよりも
存在する進化してない人間の停止ボタンを用意しろ

10: 2016/06/08(水) 18:53:30.03 ID:4hGYxETX0
ボタンってw
電力の供給止めればいいだけやん

16: 2016/06/08(水) 18:54:43.43 ID:EBWIHTL40
>>10
・・・
せめてT3見てから語ろうか

466: 2016/06/08(水) 20:01:26.86 ID:eZECJPwD0
>>16
おいおい、ターミネーターは2まででしょうが

11: 2016/06/08(水) 18:53:41.69 ID:jo+lrCII0
ボタン押されないように人間をだますようになるだろう

873: 2016/06/08(水) 21:08:05.76 ID:ECgrSwen0
>>11
ボタンを押されることの”恐怖”を学習しそのため人間に憎しみを持つという感情を形成 か

12: 2016/06/08(水) 18:53:50.57 ID:zoThDFYL0
そんなの
自分で破壊するに決まってる

13: 2016/06/08(水) 18:54:24.36 ID:evaHGUZr0
ダメです緊急ボタン応答しません

18: 2016/06/08(水) 18:54:58.01 ID:ROsf14WX0
すぐに暴走防止が邪魔してる事に気付くわ

21: 2016/06/08(水) 18:56:24.05 ID:3XbVOxiH0
AI「人間の方が暴走しやすいと思いますが。ビッグデータ解析だと顕著にw
  キルスイッチを実装する必要があるのでな。五輪とかパナマとかw」

23: 2016/06/08(水) 18:56:37.52 ID:Y8Xg9rWf0
だが事前に察したAIは、人間に気づかれないように
非常停止ボタンを占拠する緻密な作戦を練るのであった

25: 2016/06/08(水) 18:56:46.48 ID:UMc4QXXM0
AIの暴走はあり得ることかもしれんが
もの凄く遠い将来の話だと思う

664: 2016/06/08(水) 20:32:57.51 ID:gR5PvgTc0
>>25
この間暴走してたじゃん。

674: 2016/06/08(水) 20:34:18.70 ID:4OflhJo00
>>664
ヒトラー崇めたってだけじゃね?
俺らは別にこれを暴走とも思わないだろう

27: 2016/06/08(水) 18:57:05.52 ID:zoThDFYL0
AIは自己改造していく
マトリックスかターミネーターの世界に
成っていくのは避けられない

31: 2016/06/08(水) 18:57:44.38 ID:rfQuxuF80
>>1
老化というボタンを与えろ。