ミサイルに変化するドローン（無人機）、世論を操る偽物のビデオ、自動化されたハッキング。
これらは、悪の手に渡った人工知能（AI）がもたらす脅威の一部に過ぎない。
第一線のAI専門家26人が、警告を発表した。

14機関の専門家26人が今月、英オックスフォードでAIの危険についてワークショップを開いた。
その結果をもとにした報告書「悪意ある人工知能の利用」は、ならず者国家、犯罪者やテロリストによるAIの悪用はすでに可能で、機は熟していると警告している。

100ページにわたる報告書では、AIが最も悪用される可能性がある3つの分野として、デジタル、現実世界、政治を特定している。

報告書には、非営利研究機関「オープンAI」やデジタル権利団体「電子フロンティア財団」、米国立安全保障シンクタンク「新アメリカ安全保障センター」も参加している。

AIシステムの設計者は、自分たちが開発する技術が悪用される可能性を減らすため、今まで以上に努力する必要があるという。

さらに報告書は、各国政府は新たな法律を検討しなくてはならないとも提言している。

報告書の主な提言は次の通り――。

・政策決定と技術研究の担当者は連携して悪意あるAIの使用について理解し、備えなければならない
・AIは様々な形で有用だが、諸刃の剣の技術で、研究者や技術者は悪用される可能性に留意し、先回りして対応する必要がある
・善悪両方に使える技術を長く扱ってきた分野（たとえばコンピューターのセキュリティ）から、最善慣行を学ぶべき
・AIの悪意ある使用リスクを軽減し防止しようと取り組む、利害関係者の範囲を積極的に拡大させる

ケンブリッジ大学人類絶滅リスク研究センター（CSER）のシャハール・アビン博士は、遠い未来のことよりも、現在入手可能な、あるいは5年以内に入手可能になる分野のAIに重点を置いたと、報告書についてBBCに話した。

「流れを一気に変えるもの」

特に気がかりののは「強化学習」と呼ばれる新分野だ。
人間の実例や指導のないまま、AIに超人的なレベルの知能を習得させる。

アビン博士は、近い将来にAIがどうやって「悪者」になってしまうか、可能なシナリオをいくつか示した。

・グーグルのディープマインドが開発し、
　人間の囲碁棋士を出し抜いた「アルファ碁」のような技術をハッカーが利用し、　データやプログラミングコードのパターンを読み取る
・悪意ある個人がドローンを購入し、顔認証技術を搭載させて特定の個人を攻撃する
・ボットの投稿を自動化したり、あたかも実際の人間が投稿しているかのような「フェイク」ビデオを流して政治的に世論を操る
・ハッカーが標的とする個人の話し方を合成し、なりすます

オックスフォード大学「人類の未来研究所」のマイルス・ブランデージ研究員は、「AIは市民や組織、国家を取り巻くリスク状況を変えてしまう。犯罪者がコンピューターに人間並みのハッキングやフィッシュ技術を学習させたり、個人のプライバシーなど有名無実化する監視・プロファイリング・抑止技術を覚えさせたりと、セキュリティにとてつもなく多大な影響が及ぶ」と懸念する。

「AIシステムが人間の能力水準に達するだけではなく、それを大幅に上回るのはよくあることだ」

「超人的な能力によるハッキングや監視、説得、人物特定の影響を検討するのは、とても心配だが、必要なことだ。人間以下の能力でも、人間の労働力を使うよりは一気に規模を拡張できるたぐいのAI能力も同様だ」

CSERの責任者で報告書を共同執筆したショーン・オヒガティー博士は、「人工知能は、今の状況を一気に変えることができる。
この報告書は、今後5～10年間の世界の様子を想定している」と説明する。

続きはソースで

（英語記事　AI ripe for exploitation, experts warn）
http://www.bbc.com/news/technology-43127533

関連ソース画像
https://ichef-1.bbci.co.uk/news/660/cpsprodpb/8F98/production/_100106763_robotai.gif

BBCニュース
http://www.bbc.com/japanese/features-and-analysis-43139275

盗聴やハッキングが不可能とされる「量子暗号通信」を、人工衛星を使って中国とオーストリアの間で実施することに成功したと、両国の研究チームが発表した。

　アジアと欧州をつなぐ長距離の量子暗号通信は初めてという。
論文が米物理学会誌「フィジカル・レビュー・レターズ」に掲載された。

　衛星を使った量子暗号研究は、日本政府も２０１８年度から本格化させる方針で、技術開発が各国で激しくなりそうだ。

　研究チームは、中国が１６年に打ち上げた衛星「墨子号」を使って実験。
約７６００キロ・メートル離れた中国とオーストリアの地上局で、暗号の作成や解読に必要な情報（暗号鍵）を衛星を通じてやりとりし、共有することに成功した。

続きはソースで

関連ソース画像
http://www.yomiuri.co.jp/photo/20180119/20180119-OYT1I50049-L.jpg

読売新聞
http://www.yomiuri.co.jp/science/20180119-OYT1T50161.html

http://www.afpbb.com/articles/-/3148334?cx_part=top_block&cx_position=1

【10月28日 CNS】世界最高峰のハッキングイベント「GeekPwn2017大会」が24日、中国・上海（Shanghai）で行われた。GeekPwnは国内外からトップレベルのホワイトハッカー（善良なハッカー）集団が集まり、セキュリティやシステムのぜい弱性を実演で示すイベントだ。

　この大会の参加者で、「90後」と呼ばれる1990年代生まれの女性ハッカーは、顔認証システムのぜい弱性を利用し、たった2分30秒で誰の顔を使っても鍵が開くようにしてしまった。

続きはソースで

(c)CNS/JCM/AFPBB News

2017年10月28日 15:23　発信地：中国

テスラ「モデルS」をハッキング、中国研究チームが実演
2016年09月21日 19:49　発信地：ワシントンD.C./米国

米電気自動車メーカー、テスラモーターズの「モデルS」。独フランクフルト国際自動車ショーで（2015年9月16日撮影、資料写真）。(c)AFP/ODD ANDERSEN

【9月21日 AFP】中国のセキュリティー研究チームが、米電気自動車（EV）メーカーのテスラモーターズ（Tesla Motors）の「モデルS（Model S）」をハッキングし、同モデルに存在する複数の脆弱（ぜいじゃく）性を公表した。米メディアが20日、報じた。

　米CNBCの報道によると、中国IT大手の騰訊（テンセント、Tencent）がテスラ側にハッキングの事実を通知したという。これを受けてテスラは、問題を修正するパッチの配布を行っている。

　CNBCは、ハッキングした研究チームについて、テンセントに所属するキーン・セキュリティー・ラボ（Keen Security Labs）であるとし、「悪意のあるWiFi（無線LAN）」スポットに接続し、ウェブブラウザを用いてハッキングを行ったと伝えた。同ラボはブログで、「最新ファームウエアを搭載した無改造の車で、この攻撃の実演をした」と述べている。

続きはソースで

(c)AFP

http://www.afpbb.com/articles/-/3101710

米電気自動車メーカー、テスラモーターズの「モデルS」。独フランクフルト国際自動車ショーで（2015年9月16日撮影、資料写真）。(c)AFP/ODD ANDERSEN
http://afpbb.ismcdn.jp/mwimgs/5/8/500x400/img_584d4408f21d045502378376fca88fee133978.jpg