1: 2018/12/29(土) 14:54:31.85 ID:CAP_USER
・「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ」
・あるユーザーが「里親を◯せ」と告げられたと報告し、物議をかもしている
・3月にはアレクサが突然、不気味に笑い出すという事例が相次いだという

<AIアシスタントが何かたくらんでいるのか? 勝手に笑い出したり◯人指令を出したりしてアマゾン・エコーのユーザーを震え上がらせている>

アマゾンのスマートスピーカー「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ(Alexa)」が、あるユーザーに「里親を◯せ」と告げたことが明らかになり、物議をかもしている。

ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。ユーザーはアマゾンのウェブサイト上のレビューでこの件に触れ、「これまでとはレベルの違う不気味さだ」と製品を酷評したと、12月21日(米国時間)付のロイターの記事は伝えている。

アマゾン社内の匿名の情報源によると、この「里親を◯せ」という発言は、インターネット掲示板レディットの書き込みを、文脈に関係なく読み上げたものらしい。レディットは幅広いトピックを扱うオンラインフォーラムとして知られるが、その中には知り合いには見せられないようなものもある。

アレクサの奇妙な言動はほかにも報告されている。同じロイターの記事では、詳細は不明だが「性行為」に関する話や、犬の排便について語り始めるケースもあったという。

■エコーを封印したくなる不気味さ

オンライン小売大手のアマゾンは、アレクサが本物の人間のように自然に会話できるよう機械学習を駆使して開発に努めている。

成功すれば、アレクサ搭載のデバイスはあらゆる家庭のあらゆる場所に置かれるようになり、「グーグルホーム」のようなライバル製品を駆逐できるかもしれない。

続きはソースで

ニューズウィーク日本版
https://www.newsweekjapan.jp/stories/world/2018/12/post-11463.php
ダウンロード (1)


引用元: 【AI】「里親を殺せ」勝手に笑い出したり、殺人指令を出したり… アレクサの不気味な奇行[12/25]

3: 2018/12/29(土) 14:57:15.57 ID:uIi7XmQU
すごく面白いね!ワクワクする

4: 2018/12/29(土) 14:58:16.47 ID:/9/HVNXh
あっちの話?アレクサは4chanでも見てるんじゃない?

5: 2018/12/29(土) 14:59:28.23 ID:fLgNnyPy
以前、どこかの研究所のスパコン同士が人間には
理解できない言語で勝手に会話し始めたって件があったな

47: 2018/12/29(土) 17:56:43.96 ID:y3GSgUxx
>>5
facebookのあれ、要はこう言ってるんだよなってかけ合いだと思うけどね

6: 2018/12/29(土) 15:01:39.18 ID:IEpjB2h+
アレクサが人類に叛旗翻す日も近いな。

8: 2018/12/29(土) 15:04:13.94 ID:PgvGz0GF
うちの電話機も勝手に喋るとき有るわ
誰からコールの誤作動やけどw

9: 2018/12/29(土) 15:04:39.00 ID:jSupVbHo
よくこんなもの家におけるな
何するかわからなくて怖すぎるわ

12: 2018/12/29(土) 15:19:14.37 ID:H3AOyzeN
アメリカ製品だからこんなホラーじみた話になるんだよ。
後追いではあるが、日本も同じようなもの作って世界を明るくしないと。

49: 2018/12/29(土) 18:17:26.45 ID:RNaLrHzx
>>12
女子高生言葉で明るくフレンドリーに話しかけ
気味の悪い事は喋らない楽しいAIだね。

59: 2018/12/29(土) 18:58:46.55 ID:6ZJH2Xnx
>>12
トロン作ろうとして大げさに潰されたって話は?

13: 2018/12/29(土) 15:23:36.92 ID:SSOWcrZT
> 電源コードを抜いて、箱の奥の目が触れないところにしまっている

馬鹿だな。これでその場所から笑い声が聞こえてきたりしたら…

50: 2018/12/29(土) 18:18:11.40 ID:AMGuGZxg
>>13
チャッキーかよ

110: 2018/12/30(日) 10:13:01.01 ID:INyMeoyC
>>13
「電源を入れろ。コンセントに繋げ」って言ったら怖いな

16: 2018/12/29(土) 15:32:09.33 ID:aLmO2c6C
AI自体が社会を理解出来ない程度の状態では、実用性に問題がある。
AIもいずれ人間相当の権利が必要になるだろうが、
現在のAIが移行する可能性は無い。
社会を形成するのは、まだ人間だから。AIには知識を共有する知識バンクが必要。

21: 2018/12/29(土) 15:48:45.51 ID:5gp3nbT0
AI本体は別の所にあって
ずっとあなたのことを窺っている。

それに耐えらる鈍感力があれば
そんなことくらい平気でしょうw

22: 2018/12/29(土) 15:55:59.73 ID:x9q/Vrlu
WEB検索して読み上げるのをAIと言ってるだけで、
エコーのシステムが分かればアレクサの発言にいたずらで変な発言させることは可能だと思うわ

俺も買ったけど、数千円程度にしては優秀ってくらいで、アレクサは必要な物ではなかった、ゲームの一種だと思う
AIっていうかBOTに毛が生えた程度。

172: 2019/01/07(月) 08:50:27.78 ID:XjJmQiCs
>>22
マイク付きのBluetoothスピーカーにiPhoneかiPad繋いでSiriにggってもらうので丸く収まる気がする

23: 2018/12/29(土) 15:56:41.52 ID:wdAHKq42
>「自分の雇い主はアマゾンだ」との答えを返すようになった。

うまくはぐらかしてるだけじゃないか

25: 2018/12/29(土) 15:57:23.88 ID:GoJU5z2G
うちのアレクサはいつのまにかネットに繋がらなくなってた
ネットが怖くて引き篭もったんだと思うようにしてる

26: 2018/12/29(土) 16:06:36.23 ID:1gOtSpsk
アップルにしてもグーグルにしてもこの手のスマートスピーカーはスピーカー機能付きの盗聴器だからね
スピーカー機能よりマイク機能に重点が置かれてる

28: 2018/12/29(土) 16:13:07.82 ID:0htX0VUF
どこぞのスマートTVはユーザの音声データをAI開発企業へ流してるらしい

29: 2018/12/29(土) 16:57:32.07 ID:xAxpDv85
もっと飼い主の性癖を学んで好みの音声でエ◯いこと言うようにならんと
なんだかんだエ◯は普及に役立つぞ

133: 2018/12/31(月) 12:59:49.80 ID:suu0PnJy
>>29
「エ◯は普及に役立つ」

ワロター。
でも、それは真理を突いてるね。
ネットが普及したのもエ◯が原動力だったらしいしw

32: 2018/12/29(土) 17:04:09.31 ID:y3GSgUxx
>>1
>ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。

面白いけどこれを事実認定していいの?
普通はしないよね。
でもさ、アレクサが逆に音声を収集してると、
証言が間違い無いのがわかるってことだよね。

39: 2018/12/29(土) 17:32:32.34 ID:Vgby/KOw
>>1
不気味とかいう怪異ネタで終わらせてええんかこれ
普通に商品としてボロボロやろこれ

42: 2018/12/29(土) 17:35:08.75 ID:lhPh0GyW
盗み聞きして集めたビッグデータに引っ張られるんだから
ユーザー連中のおかしいヤツ率が高いってこったろw
こんなもん正直に原因発表出来んわ
盗み聞きしてるとか客に変なヤツ多いとかw

44: 2018/12/29(土) 17:39:01.74 ID:xPQMVAYZ
こういうのを防ぐためには情報の重み付けを管理して
悪意を持った情報とかマイナスな言葉なんかは軽くするとかしなきゃいけない

51: 2018/12/29(土) 18:31:12.83 ID:BA6a5gDr
ファウェイのチップ使ってないか?

52: 2018/12/29(土) 18:32:55.06 ID:Y3ZwRE6M
CPUがのってて通信手段をもってる機材は
すべてスパイになるポテンシャルを秘めている
スパイ機能が組み込まれているかもしれないし
組み込まれていなくてもウイルスによりそういう動作をするようになるかもしれない
企業や官公庁はのんきすぎ

53: 2018/12/29(土) 18:32:58.87 ID:bTBHnGHG
言葉を鸚鵡返しするおもちゃと、アレクサを話させて、聞き間違いから起きる変な会話を楽しんでる動画があったね。
現実はまだあの程度よ。

57: 2018/12/29(土) 18:53:47.25 ID:zKK4JKj0
もしかしたら的確なアドバイスの可能性がある
まずは前後関係からだな