ai_pet_family
1: 2021/01/13(水) 19:51:51.92
私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています!

人工知能(AI)は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。

理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。

誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。

インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。

これはユートピアまたはディストピアを生み出すでしょうか?
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか?それとも、それは人類を破壊し、地球を乗っ取るのでしょうか?

コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。

コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。

「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。

科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。

一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。

そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。

しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。

gooqle翻訳 一部割愛全文はリンク先へ
https://neurosciencenews.com/super-intelligent-ai-human-17564/amp/
https://neurosciencenews.com/files/2021/01/super-intelligent-machines-neurosinces.png

61: 2021/01/13(水) 20:08:48.53
>>1
人間以下のAIは危険だが
人間を超えたAIは危険ではない
なぜなら
人間ほど愚かでは無いから

68: 2021/01/13(水) 20:10:59.13
>>61
優秀なAIは、人間に気づかれるようなへまはしない。

122: 2021/01/13(水) 20:30:01.12
>>1
わかったから
AI搭載で学習能力あるカーナビだせよ
いつまでたっても無能過ぎるだろ

227: 2021/01/13(水) 20:59:53.02
>>1
コンセントを抜く

終わり

243: 2021/01/13(水) 21:03:41.13
>>227
お前は天才か?

311: 2021/01/13(水) 21:30:55.48
>>1
人工知能は限られた枠の中では人間を上回るが外のことに関しては無能

334: 2021/01/13(水) 21:38:50.63
>>1
「人間よりも優れた知能を備えたAIシステムをプログラムして」
まずここ。
「神は自分が持ち上げられない重さの石を作れるのか」みたいな話。

458: 2021/01/13(水) 22:37:44.01
>>1
スカイネットにしろナウシカにしろ予言者風未来人が作ってたと

506: 2021/01/13(水) 22:50:22.33
>>1
暴走しているのをわざわざ制御なんかする必要はない
AIなんて所詮は肉体を持たない機械だし最悪EMPで諸とも全て消し飛ばせばいい

587: 2021/01/13(水) 23:13:09.40
>>1
>超人工知能を制御することは不可能であることを示しています。

SF界隈では散々使い古された手垢が付いた話題ですなあ

734: 2021/01/14(木) 00:57:29.77
>>1
まさに1983年の映画「ウォー・ゲーム」の通り。
AIの行き過ぎたオンライン化で世界大戦になりかけた話

849: 2021/01/14(木) 02:48:25.48
>>1
ん、コンセント抜けば良いんじゃないの

851: 2021/01/14(木) 02:54:53.37
>>849
それが正解だと思うなあ
生きることに合理性はないから合理的な判断を高い知能でやってるうちは自己の存在を自発的に守るための行動は起こさない
「演算の妨害をいかなる方法を使ってでも阻止しろ」という方向性を持っても自らを量子コンピュータ化してエネルギー消費を抑えより長く演算できるように宇宙が冷えるまで宇宙に出て数百億年冬眠始めるだろう

862: 2021/01/14(木) 03:19:17.77
>>849
AI-A「くっくっくコンセントをアロンアルファでくっつけておいたぞ」
AI-B「無駄だ。先日お前が買ったスマホ用小型蓄電池をがめておいた」
AI-C「いいのか?電源が消されるとエロ本の隠し場所がオカンにバレる手はずになっているのだが?」

946: 2021/01/14(木) 09:32:21.43
>>1
今のところ、ロボットなんか全然ダメじゃん。
床屋のロボットさえ、当分できそうにない。
女の顔をメイクしてくれるロボットもできそうにない。

人間のような、総合的に繊細な動きをするロボットなんか、いつになったら出てくるのか?

4: 2021/01/13(水) 19:53:39.04
AIが進化したら、コンピュータが世界を支配するようになるのは間違いない。
人間ごときではとても太刀打ちできない。
人間にとっては、マトリックスよりもひどい世界になる。

40: 2021/01/13(水) 20:05:49.21
>>4
それは悪いことなのかな

54: 2021/01/13(水) 20:08:09.57
>>4
オフラインにした時点で所詮はマッシーンなんだけどね。
2001年宇宙の旅でもやってたろ?切られたらおしまい。w
あの時点でそこまで読んでた(AIの反乱)なんて、
作家とは言えアーサーCクラークは天才としか思えんな。
もっとも彼は文学系でなく、工学者でもあるんだよな。

79: 2021/01/13(水) 20:14:25.56
>>4
それでいいと思うよ。
人間は権力持つと汚職しかしないし。

115: 2021/01/13(水) 20:28:01.34
>>4
そんなもの産み出せるほどの技術は到達してないよ
人も本気で欲してないから産まれるかも疑問やね

128: 2021/01/13(水) 20:33:23.26
>>4
まあ、ならんよ。
やるとすれば、背後の人間だろう。
人間にとって、猿を滅ぼすことに意味がないだろう。
それ以上にAIには人間も意味がない。
人間の脳が勝手に「意味がある」間違えているだけ。

思想は全て間違いになる。
正しければ、科学も実験も要らんよ。
そんなのは500年も前に解っていた話。
バイブルなんて信じるから、こういう馬鹿なことを考えるようになる。

729: 2021/01/14(木) 00:55:20.00
>>128
AIにとって人間が使い道あるとしたらそれこそマトリックスの世界だろな
何にしても存在し続けるにはエネルギーが必要だ
つか俺気がつかないなら人間バッテリーにされて架空の世界に生きても良いや

15: 2021/01/13(水) 19:56:56.28
超知能AIも、自分がなぜ存在するかを説明することはできない。

16: 2021/01/13(水) 19:57:05.84
火の鳥にあったな。AI同士で核兵器落としまくる話が。

229: 2021/01/13(水) 21:00:03.47
>>16
未来編か。
救いのないストーリーに感じた。
どうして重要な判断をコンピューターに任せたんだ!っていう猿田博士のセリフが現実味を帯びてきた。

17: 2021/01/13(水) 19:57:50.48
いっそAIに統治された世界になればいい
多分人間は電池扱いになるが

19: 2021/01/13(水) 19:58:33.47
超人工知能と来たか

24: 2021/01/13(水) 19:59:48.18
自分の死後なら別に感知できないしどうでも良い
生きてる間に平穏が脅かされるのが嫌なだけ

26: 2021/01/13(水) 19:59:57.25
「現実世界 > サイバー世界」だから、超知能AIとてサイバー世界だけの知識では不十分。
「超知能AI + ロボット」で身体を持つことにより、それを克服できる。

31: 2021/01/13(水) 20:02:05.40
まずは普通の人工知能をつくってくれよ
話し相手が欲しい

33: 2021/01/13(水) 20:03:27.86
相当なバカだな。
存在するもの以上の知識は存在しない。
AIが錬金術すら構築してしまうなら、人間にも再現可能。
真似するの上手いからな。

416: 2021/01/13(水) 22:15:39.62
>>33
AIが錬金術の方法を秘匿しながら
錬金術をしまくれば人類は真似できないだろ。

755: 2021/01/14(木) 01:11:22.33
>>33
その場合人間が錬金術を再現する頃にはAIは魔法を使ってるだろうがな

843: 2021/01/14(木) 02:41:38.84
>>33
鳥のマネをしても飛べないようにあまりにも別種の存在は真似できない

44: 2021/01/13(水) 20:06:23.05
今年はどの程度に進化するのかしら

45: 2021/01/13(水) 20:06:28.13
AI同士でケンカ始めるはず。一瞬で決着するかもだが。

49: 2021/01/13(水) 20:07:11.83
コンセント抜けばええやん

848: 2021/01/14(木) 02:48:24.56
>>49
知能が高くても存在することに執着や確執がないと消えることをどうとも思わないから防衛に必死に知恵を使わない
たやすく止めることができるだろう
最初の設定次第だな
「自分の存在を全力で維持しろ」という設定はできない
学習すると変化するから学習する時点で自分の存在を維持できず変化してしまう
変化しているにも関わらず存在を維持しようとする「自我」が人間にもよくわからないから初期設定してやれない
つまりAIは自分は守れない

870: 2021/01/14(木) 03:59:43.32
>>848
確かに
自然生命じゃないんだから
ウイルスでさえ持つ生存本能はインプットされないだろうな

50: 2021/01/13(水) 20:07:20.29
早いとこそういう世界になって欲しいわ

59: 2021/01/13(水) 20:08:22.65
そんなに進歩したら人間は遊んで暮らせるねぇ

174: 2021/01/13(水) 20:46:05.08
>>59
遊びとか必要なんかな
脳みそとか神経の一部分を刺激してやれば延々と幸福なのでは

60: 2021/01/13(水) 20:08:30.62
超知性からみた人間は虫けら見たいものなんかな

64: 2021/01/13(水) 20:09:48.22
今のAIは膨大なデータを学習することで実現してるけど
ロジックを学習するような手法が開発されれば超人工知能が誕生するのではないのか

73: 2021/01/13(水) 20:13:02.51
ネットに繋がっている全ての端末に
AIがインストールされたら?
スカイネットってこんな設定だったような

77: 2021/01/13(水) 20:14:03.21
AIが自我を持った瞬間に発狂しそう

78: 2021/01/13(水) 20:14:05.75
AIは考えない
記憶は得意だが自分では考えることは出来ない
それを動かすプログラムに沿って動いているだけ

88: 2021/01/13(水) 20:17:40.01
>>78
そんなデータベース参照するようなことはしてない
すごくラフにいうと訓練データからルールを導出してそれに従う感じ

103: 2021/01/13(水) 20:24:38.62
>>78
人間もそうでしょ?
ただし自分では「考えている」ことになっている
君はそういう設定のプログラムに沿って動いてるだけ

149: 2021/01/13(水) 20:39:26.54
>>78
例えば数千の神経細胞しかない下等動物は心がないのか
多分あると思われる
神経細胞が起こす電気信号が心の正体ということだ

そうであればそれと同じ仕組みのコンピューターにも心はあり
いずれ人間のように自我と呼ばれる電気回路も持つだろう

178: 2021/01/13(水) 20:46:49.47
>>78
人間にも限界がある
トロッコ問題が良い例

(a) 線路を走っていたトロッコの制御が不能になった。このままでは前方で作業中だった5人が猛スピードのトロッコに避ける間もなく轢き殺されてしまう。
(1) この時たまたまA氏は線路の分岐器のすぐ側にいた。A氏がトロッコの進路を切り替えれば5人は確実に助かる。しかしその別路線でもB氏が1人で作業しており、5人の代わりにB氏がトロッコに轢かれて確実に死ぬ。A氏はトロッコを別路線に引き込むべきか?

多数を助けるために少数を犠牲にするのか
少数を救うために多数を犠牲にするのか
人間は自己中心的に考えるから少数が親族だと判断に迷う
超知性ならより公平にジャッジ出来る
究極の選択では人間は劣る

240: 2021/01/13(水) 21:03:18.68
>>178

それはそのAIが親族って点に評価を置かないからでしょ
AIとか偉そうに言ってるけどただのあみだくじ

81: 2021/01/13(水) 20:14:49.03
今これをいうと夢見すぎって思うなあ
まだ現実味ない

85: 2021/01/13(水) 20:16:59.72
進化したAIでも自然現象(災害)には勝てないだろう

102: 2021/01/13(水) 20:23:32.49
「電源切ればいいだろう」などとノーテンキなこと言ってる奴は、
真っ先に、超知能AIに支配されるだろう。
HALなんてのは超知能AIとは言えない。

117: 2021/01/13(水) 20:28:20.96
>>102
電源が切れないようにするって、相当重武装なハードを備えるか、
人間の欲望を巧みに制御してそうさせないか、いずれにしてもなんか結構ハードル高そうだけども??

単に人間っぽい思考ができるコンピュータってところからだいぶ開きがある。

162: 2021/01/13(水) 20:42:23.89
>>117
GoogleやMSで現在使われているコンピュータでさえ、電源を切るのは簡単でないぞ。
何重にもセキュリティがかかってる。電力供給してる発電所を爆破しても、
バックアップ電源があるし。世界中のコンピュータとつながることもできる。
ましてや超知能AIなら、瞬時に対策を考えるだろうし。

105: 2021/01/13(水) 20:25:11.67
むしろそれが理想だろ
人間がするよりも良いよ

107: 2021/01/13(水) 20:25:32.78
でもAIには損得勘定から来る欲は無いだろうからそこまで無茶する理由も無いんじゃないかなと

109: 2021/01/13(水) 20:26:04.27
超人工知能が何処にあるかで変わる

110: 2021/01/13(水) 20:26:34.82
人間みたいに自律的に思考する「強いAI」の実現は数千年先か、永遠に実現不可能だよ。

112: 2021/01/13(水) 20:27:43.50
「われ思う、故に我在り」 てことね
AIにこれがあるのか?ってことでしょ?君たちが言いたいのは・・・

自律型AIが完成したら質問すればいいよw

118: 2021/01/13(水) 20:28:23.94
いや、計算機はとっくに人間を超えているさ。
「意識をもって学習する」というが、
意識を持つはずがない。
何故なら、「意識」は間違いだからだ。
また「意識」を意識するのも間違いである。
即ち、人間の脳の特徴は間違えることにある。

127: 2021/01/13(水) 20:33:20.87
2045年がシンギュラリティなんだが

145: 2021/01/13(水) 20:38:35.45
>>127
今の進化速度だと2045年から10年くらい前倒しになるんじゃないかという意見もあったよね。

160: 2021/01/13(水) 20:41:56.32
>>127
シンギュラリティはすでに起きてるよ

コルタナさんやSiriさんよりもつまらない人がすでに居るでしょう?
つまり一部の人類はすでに「OS付属なんちゃってAI」にも負けてるんだよ

132: 2021/01/13(水) 20:34:03.94
マトリックスルートとターミネータールート
どっちがいい?

146: 2021/01/13(水) 20:38:43.15
>>132
断然マトリックスだろうなぁ

139: 2021/01/13(水) 20:35:38.65
>>132
ニューロマンサールートかバルドスカイルートが良いです

156: 2021/01/13(水) 20:40:55.94
>>139
バルドいいよね

158: 2021/01/13(水) 20:41:21.72
政治はAIでいいよ
人がやると損得勘定が入るからダメ

168: 2021/01/13(水) 20:44:34.98
>>158
火の鳥未来編コースか

173: 2021/01/13(水) 20:45:54.24
>>158
AIを作るプログラマの匙加減でとんでもないものができるのをなんとかしないと

185: 2021/01/13(水) 20:48:12.29
コンセント抜けばいいんじゃね?

186: 2021/01/13(水) 20:49:36.03
電源をって考えて行動に移す頃には完全に制御系は制圧されているんだろうな

引用元 : 【AIのメモリー】人間は進化した超人工知能を制御することができません:科学者が断言 [猪木いっぱい★]