1: 2018/02/22(木) 10:06:15.45 ID:CAP_USER
ミサイルに変化するドローン(無人機)、世論を操る偽物のビデオ、自動化されたハッキング。
これらは、悪の手に渡った人工知能(AI)がもたらす脅威の一部に過ぎない。
第一線のAI専門家26人が、警告を発表した。

14機関の専門家26人が今月、英オックスフォードでAIの危険についてワークショップを開いた。
その結果をもとにした報告書「悪意ある人工知能の利用」は、ならず者国家、犯罪者やテロリストによるAIの悪用はすでに可能で、機は熟していると警告している。

100ページにわたる報告書では、AIが最も悪用される可能性がある3つの分野として、デジタル、現実世界、政治を特定している。

報告書には、非営利研究機関「オープンAI」やデジタル権利団体「電子フロンティア財団」、米国立安全保障シンクタンク「新アメリカ安全保障センター」も参加している。

AIシステムの設計者は、自分たちが開発する技術が悪用される可能性を減らすため、今まで以上に努力する必要があるという。

さらに報告書は、各国政府は新たな法律を検討しなくてはならないとも提言している。

報告書の主な提言は次の通り――。

・政策決定と技術研究の担当者は連携して悪意あるAIの使用について理解し、備えなければならない
・AIは様々な形で有用だが、諸刃の剣の技術で、研究者や技術者は悪用される可能性に留意し、先回りして対応する必要がある
・善悪両方に使える技術を長く扱ってきた分野(たとえばコンピューターのセキュリティ)から、最善慣行を学ぶべき
・AIの悪意ある使用リスクを軽減し防止しようと取り組む、利害関係者の範囲を積極的に拡大させる

ケンブリッジ大学人類絶滅リスク研究センター(CSER)のシャハール・アビン博士は、遠い未来のことよりも、現在入手可能な、あるいは5年以内に入手可能になる分野のAIに重点を置いたと、報告書についてBBCに話した。

「流れを一気に変えるもの」

特に気がかりののは「強化学習」と呼ばれる新分野だ。
人間の実例や指導のないまま、AIに超人的なレベルの知能を習得させる。

アビン博士は、近い将来にAIがどうやって「悪者」になってしまうか、可能なシナリオをいくつか示した。

・グーグルのディープマインドが開発し、
 人間の囲碁棋士を出し抜いた「アルファ碁」のような技術をハッカーが利用し、 データやプログラミングコードのパターンを読み取る
・悪意ある個人がドローンを購入し、顔認証技術を搭載させて特定の個人を攻撃する
・ボットの投稿を自動化したり、あたかも実際の人間が投稿しているかのような「フェイク」ビデオを流して政治的に世論を操る
・ハッカーが標的とする個人の話し方を合成し、なりすます

オックスフォード大学「人類の未来研究所」のマイルス・ブランデージ研究員は、「AIは市民や組織、国家を取り巻くリスク状況を変えてしまう。犯罪者がコンピューターに人間並みのハッキングやフィッシュ技術を学習させたり、個人のプライバシーなど有名無実化する監視・プロファイリング・抑止技術を覚えさせたりと、セキュリティにとてつもなく多大な影響が及ぶ」と懸念する。

「AIシステムが人間の能力水準に達するだけではなく、それを大幅に上回るのはよくあることだ」

「超人的な能力によるハッキングや監視、説得、人物特定の影響を検討するのは、とても心配だが、必要なことだ。人間以下の能力でも、人間の労働力を使うよりは一気に規模を拡張できるたぐいのAI能力も同様だ」

CSERの責任者で報告書を共同執筆したショーン・オヒガティー博士は、「人工知能は、今の状況を一気に変えることができる。
この報告書は、今後5~10年間の世界の様子を想定している」と説明する。

続きはソースで

(英語記事 AI ripe for exploitation, experts warn)
http://www.bbc.com/news/technology-43127533

関連ソース画像
https://ichef-1.bbci.co.uk/news/660/cpsprodpb/8F98/production/_100106763_robotai.gif

BBCニュース
http://www.bbc.com/japanese/features-and-analysis-43139275
ダウンロード


引用元: 【AI】人工知能はもう悪用される段階に 専門家警告[02/21]

3: 2018/02/22(木) 10:23:44.86 ID:lDpb/24C
ちょっとそんな世界も見てみたい気がするのは何故だろう

4: 2018/02/22(木) 10:34:46.47 ID:IsQgCogM
人工知能を悪用するひとは、まず人々を疑心暗愚にしようとするだろう。

この情報は人工知能がつくりだしたニセモノかもしれませんよ
あなたがいま目にしているものすらウソかもしれませんよ

ほんとうに信じていいのは、わたしだけですよ

5: 2018/02/22(木) 10:39:42.38 ID:TDzTaucg
AI化で一番いらなくなるのは、法律関係の仕事だしな

7: 2018/02/22(木) 10:51:51.95 ID:uwTY5INM
AIも人間同様に善悪に別れて戦いを始めたら世界の終わり

8: 2018/02/22(木) 11:01:26.24 ID:Pxqr9BhR
所謂文明の利器と言われる便利な物はほぼ例外なく犯罪者にとっても便利なんですよ

27: 2018/02/22(木) 13:45:27.32 ID:W4f1yf8M
>>8
だからある一定以上のレベルの技術製品は個人で自由に所有できない
家庭用原子力電池は夢のまた夢だ

12: 2018/02/22(木) 11:38:51.25 ID:22wwcwJg
ソフトウェアのバグやセキュリティホールを人工知能が密かに見つけて
それを誰にも知らせずに悪用する危険があるの?

13: 2018/02/22(木) 11:55:25.12 ID:lDpb/24C
AIが悪さをするのか悪さをする人間がAIを利用するのか・・・

91: 2018/02/23(金) 08:38:38.33 ID:TeNrlGU3
>>13
人間がAIに悪さをさせる

14: 2018/02/22(木) 11:57:35.78 ID:lDpb/24C
それよりもAIが愚かな人間なんかの為に働けるかって見捨てるのが先だったりして

15: 2018/02/22(木) 12:01:31.01 ID:sJT9Gz40
強化学習が新分野?!

18: 2018/02/22(木) 12:59:23.55 ID:z/7abS6z
>>15
強化学習って20年以上前からあるのにな。

よく知らない文系が批判してるようにみえちゃうわ専門家からしたら。

16: 2018/02/22(木) 12:10:23.56 ID:22wwcwJg
シンギュラリティー水準に達した人工知能になるともう人の手に負えないから
人工知能を取り締まるのも人工知能に任せるしかない。

19: 2018/02/22(木) 13:01:26.62 ID:RFb1M3Bq
振り込め詐欺や悪質勧誘とかへのAI投入は大いにありそうだな

20: 2018/02/22(木) 13:08:15.63 ID:7EfHqFox
開発ハードルが下がったからな
個人で安価で匿名でAI関連の技術が使える時代なら、悪用されるのもやむなし

21: 2018/02/22(木) 13:09:19.85 ID:64iiv2uf
銀行強盗が逃げるときにほとんどの場合は車が使われます
最新型の車ほど性能が良いので犯人が逃げやすいとおもわれます

22: 2018/02/22(木) 13:13:23.30 ID:ed823YMd
「AIを使ったデータ分析の結果」みたいな煽り文句で売りつける商売のことかと。

23: 2018/02/22(木) 13:14:01.19 ID:Q9PcK+Eb
AIに最初に支配されるのは、悪の組織。度合いが強いほど抵抗は低い。

24: 2018/02/22(木) 13:35:51.64 ID:lDpb/24C
これって人工知能の開発の目処がついたから規制強化させて新規参入を阻むためだったりして

28: 2018/02/22(木) 13:47:54.64 ID:mon+5zZn
こっちもAIで対抗すればいいじゃん

29: 2018/02/22(木) 13:51:14.11 ID:pOTTD5fo
>>1
そもそもトマホークがドローンなんだけど

30: 2018/02/22(木) 13:51:15.96 ID:J5aIo0w/
オリンピックやスポーツ競技の審査をAIにした方がいいと思う
人間の様に忖度せずに正当な審査ができるやろ

32: 2018/02/22(木) 14:01:14.97 ID:QjHsDYSh
もうAIに全てを託してバトンタッチしちゃえばいいんじゃないかな
AIならもっと宇宙の真理がわかりそう

33: 2018/02/22(木) 14:02:09.91 ID:H/ZFtHsg
全ての仕事をAIロボットヒューマノイドに置換して全人類を解放するぞ

34: 2018/02/22(木) 14:25:51.80 ID:xIkkjKtp
情報工作に使われてるのは確かだわ

35: 2018/02/22(木) 15:05:50.97 ID:FE31nz0A
AIに限らず結局は道具をどう使うかって話でしょ
AIなんて高等なものでなくても
アホに使わせたらどんなものでも危険になる
もうこれは防ぎようがない

そして道具自体が便利になればなるほど
アホの願いを叶えやすくなるのでどうしたってアホの方が有利になる
これからは我慢のきかないアホが幅を利かせる時代に突入していくぞ

38: 2018/02/22(木) 15:17:35.33 ID:JF4tv+FK
>>35
AIは単なる道具ではない。道具の一線を超えている。
道具は人間の身体および頭脳の延長に留まる。たとえ上手く使いこなせなくとも。

AIは人間の延長を超えて自立する。人間と対立するかも知れないし、無視するかも知れない。

46: 2018/02/22(木) 16:30:45.78 ID:C9JTKCfT
>>38
統計学がアルゴリズムなのにどうして自立するんだw

51: 2018/02/22(木) 17:07:16.28 ID:JF4tv+FK
>>46
統計学(?)は含んでいる技術のひとつに過ぎない。
人工生命も取り込むだろう。そしてロボット工学も取り込む。
即ち、自己複製して増殖し、淘汰を受けて進化する。

81: 2018/02/22(木) 22:07:21.38 ID:aFK+Jpj9
セキュリティ破りに使われるのは確実だな