【敵対的機械学習】カラープリントした紙で「AIの監視」から逃れる方法 : 理系にゅーす

1: 2019/04/29(月) 20:08:50.63 ID:CAP_USER

人工知能（AI）を利用した映像技術が、店舗やオフィス、公共スペースなど、あらゆる場所で利用されるようになり、私たちの顔や行動を追跡している。中には、治安維持や政府による監視活動を強化する目的でこうした技術を取り入れている国もある。

だが幸いなことに、ベルギーのルーベン・カトリック大学の研究チームが先日、発表した研究のように、単純なカラー印刷物を使ってAI映像システムから逃れられることも多い。

研究チームは、独自に設計した画像を使って、AIベースのコンピューター・ビジョン・システムから人間全体を隠す方法を考案。著名なオープンソースの物体認識システムである「YoLo（v2）」でその効果を実証した。

このトリックによって、犯罪者が防犯カメラから隠れたり、反政府活動家が政府の監視を逃れたりできる可能性がある。著者の1人であるウィーブ・ファン・ランスト（博士課程生）は、「私たちの研究は、敵対的パッチを使うことでカメラ監視システムを回避できることを証明するものです」と述べている。

ファン・ランストによると、市販の映像監視システムにこの手法を適用するのは、それほど難しいことではないという。MITテクノロジーレビューの取材に対し、次のように説明する。「現時点では、使われている検知器が何かを知る必要があります。今後、私たちが目指しているのは、複数の検知器で同時に機能するパッチを生成することです。

続きはソースで

https://cdn.technologyreview.jp/wp-content/uploads/sites/2/2019/04/25000712/acr13282673947520124191772-cropped-1400x787.jpg
https://www.technologyreview.jp/nl/how-to-hide-from-the-ai-surveillance-state-with-a-color-printout/

引用元: ・【敵対的機械学習】カラープリントした紙で「AIの監視」から逃れる方法［04/29］

3: 2019/04/29(月) 20:15:37.05 ID:eQIxfZma

ＡＩ「この偽装を看破するには課金アイテムが必要です　ショップへどうぞ

4: 2019/04/29(月) 20:18:21.25 ID:vsfFogYp

立体を画像処理で認識できるかって話ね、レンズデータと連動したらいけるんじゃないの
焦点距離データ全部と組み合わせて

5: 2019/04/29(月) 20:34:38.84 ID:0LFU+KRf

つまり、他人の顔をモザイク印刷すれば回避できるのか

6: 2019/04/29(月) 20:34:46.13 ID:yHCwlomX

笑い男マークを出すようなもんか
現状のAIを欺けてもその先のAIはさらに賢くなるからなあ
いたちごっこだわな

8: 2019/04/29(月) 20:38:47.21 ID:TQe0duRd

こんなプリントされた紙を腰に装着してたら
逆に目立っちゃうだろ・・・

9: 2019/04/29(月) 20:43:18.19 ID:yHCwlomX

>>8
怪しすぎて職務質問の嵐だなw

10: 2019/04/29(月) 20:47:47.37 ID:StjVq83A

中には、治安維持や政府による監視活動を強化する目的でこうした技術を取り入れている国もある。

11: 2019/04/29(月) 20:51:38.61 ID:KmymGPau

家から出ないのが最大の防衛になる時代が来そう

12: 2019/04/29(月) 21:20:38.77 ID:SNa0at7T

AIから姿を消すお札

13: 2019/04/29(月) 22:00:22.10 ID:0zWVSiT6

こんな特殊な印刷物じゃなくても頭に紙袋かぶればＯＫだろ

14: 2019/04/29(月) 22:37:22.59 ID:mjDfDLft

映画だとシリコンのお面を被ってる

15: 2019/04/29(月) 22:40:14.19 ID:qSpiusJo

オクトカムみたいな物ってそろそろ実現できないのかね？

電子ペーパーのカラー版があればいけそう

17: 2019/04/29(月) 23:43:37.01 ID:mjDfDLft

用がなければ出掛けない
人が集まる場所はリスク

18: 2019/04/29(月) 23:49:40.87 ID:4hKb3xBG

たしかグーグルだったかのＡＩは、黒人とゴリラの区別ができなくて、その後再教育しても改善しなかったよな。
もしかしてＡＩは黒人犯罪者の個体識別も難しかったりするんじゃないのか。

30: 2019/05/02(木) 22:27:21.71 ID:0H8yJ8sC

遠くに人がいる風景のようなプリントの服を着ておけば
景色と勘違いするのか
GANで生成したのなら、その画像を見破る認識技術も同時に出来てきてるはずだけど

>>18
問題ないよ
現実では人がいるところにゴリラいねーから
黒人とゴリラが区別できなくても問題が起きないんだよね
まあゴリラがいたら黒人の一人としてデータ登録されるだろうけど

23: 2019/04/30(火) 01:33:59.54 ID:blmWr4eZ

昔からある忍者の隠れ蓑の術じゃん

26: 2019/04/30(火) 02:39:48.76 ID:L9wZ0Yqx

あー、これな
戦時中の空母の迷彩とかがまさにそれだわ
欺瞞工作・錯誤を起こさせる技術が全力で発達した。
死にたくなかったので必死になってたんだな
速力や進行方向を上空の戦闘機パイロットや潜水艦から錯覚させる塗装しまくってた。

これは戦時中じゃないと分からないやつ。
それのAI版ってことね。

29: 2019/05/01(水) 07:13:50.32 ID:9hWpJBPp

着てる服の所為でモノが買えないとかの時代は来るんだろうな

32: 2019/05/03(金) 11:53:33.17 ID:l3H0mzZT

独裁国家の支那が最先端なんだろ(笑)？
画像認識AIは

34: 2019/05/03(金) 13:52:40.77 ID:6YJkoZnZ

いや、これ、動いたら駄目だろ。
景色は移動しないから。

35: 2019/05/06(月) 14:38:46.05 ID:7uax6AKX

>>1
パナのデジカメの顔認識AFで試したら、がっつりロックオンしてたぞ