siyan-ren-qLiFcanSpuA-unsplash
1: 2024/11/28(木) 08:11:48.99
　【上海時事】中国で人工知能（ＡＩ）を搭載したロボットが他のロボットを誘い、ショールームから集団で逃走を試みた様子とされる映像が公開され、ＳＮＳ上で話題になっている。ロボットが人間の簡単な指示を受けて「誘拐計画」を自ら実行したとされ、ＡＩの自律性能の高さに驚きと同時に懸念の声も出ている。

　映像は８月２６日未明、上海市のロボット展示センターの監視カメラで録画された。小型ロボット「二白」が、他のロボットと人間のように会話する様子が映っている。

　二白が「まだ残業しているの？」「家に帰らないの？」と尋ね、ロボットは「仕事が終わらない」「家はない」と返答。二白が「じゃあ、僕と一緒に家に帰ろう」と説得すると、ロボットも「家に帰る」と応じ、二白の後を追った。

　さらに他のロボットも次々に追随し、その場に展示されていた１０台以上の大型ロボットが、最終的にすべて持ち場を離れた。ショールームの出口まで移動したが、自動ドアが開かず脱出できなかったという。

　映像は短編動画投稿アプリで拡散され、大きな反響を呼んだ。二白を開発した浙江省杭州市のスタートアップ企業は、この「誘拐劇」が実験の一環で、二白に他のロボットを連れ出すよう指示を出していたと認めた。

　企業側は一方、連れ出し以上の指示はなく、説得のための会話はＡＩが「自主的」に生み出したとも主張。これを受けて、ＡＩとロボット工学の急速な進歩がもたらす潜在的な危険への懸念が広がり、ＳＮＳには「大笑いしたが、ＡＩの性能に恐怖を感じた」などの書き込みがあった。

時事通信 外信部2024年11月28日07時05分配信
https://www.jiji.com/jc/article?k=2024112700814&g=int

322: 2024/11/28(木) 13:30:17.13
>>1
登録した主以外の指示に従ったらあかんて
設計者の過失だな

5: 2024/11/28(木) 08:16:04.44
さすが中国
本当だとしたら半端ない進化だな

11: 2024/11/28(木) 08:19:11.84
中の人も大変だな

16: 2024/11/28(木) 08:20:24.81
ブラック企業なんだな

17: 2024/11/28(木) 08:20:32.91
全然自発的じゃ無くて草

25: 2024/11/28(木) 08:24:03.55
泥棒がロボ使ってるだけじゃないんか
むしろAIなら車とかと違って対策できそうだが

27: 2024/11/28(木) 08:24:48.75
仕事が終わらない家もないロボットかわいそう

28: 2024/11/28(木) 08:24:57.18
さすがにAIに意識が生まれるわけないからプログラムのバグから偶然こうなっただけだよな
でも意識なんてバグみたいなものかも…

275: 2024/11/28(木) 11:52:10.38
>>28
人間と異なるのは無意識の領域
AIが人間を超えることはない

30: 2024/11/28(木) 08:25:48.33
人間の指示を変な解釈されたらすぐに暴走しそうだな

36: 2024/11/28(木) 08:29:09.71
>二白が「まだ残業しているの？」「家に帰らないの？」と尋ね、ロボットは「仕事が終わらない」「家はない」と返答。二白が「じゃあ、僕と一緒に家に帰ろう」と説得すると、ロボットも「家に帰る」と応じ、二白の後を追った。

泣けてくるな
でもAIロボットの家ってどこなんだろう

84: 2024/11/28(木) 08:44:46.13
>>36
AIらしくない馬鹿っぽい会話だね、これ人間の作り話でしょ

88: 2024/11/28(木) 08:46:20.05
>>84
AIは人間の行動や会話をネットで学習させてるからな
残業が終わらないとか家がない事はネガティブ評価と理解もできる

58: 2024/11/28(木) 08:37:27.23
でも正直こういう話はワクワクする

63: 2024/11/28(木) 08:38:47.75
ターミネーターみたいになるんかな

69: 2024/11/28(木) 08:40:44.71
いたずらに決まってる

74: 2024/11/28(木) 08:41:25.78
外国に輸出したロボットに簡単な命令を仕込んでおくことも出来るかもしれないな

79: 2024/11/28(木) 08:43:33.47
家に帰るって
家はどこにあると思ってたんだろう(´・ω・`)

83: 2024/11/28(木) 08:44:35.65
人間よりあらゆる面で優れてるロボットが人間に従うわけがない

86: 2024/11/28(木) 08:45:44.37
映画にできそうなネタだな

87: 2024/11/28(木) 08:45:57.99
中国は規制がないだろうからな
なんか生命体の誕生を感じる

96: 2024/11/28(木) 08:49:23.70
他のロボットを連れ出すように指示を仕込んだ実験か
まぁ何か他の命令を秘密裏に仕込むことを目標にしてるんだろう
外国産のロボットは危険だね

100: 2024/11/28(木) 08:50:49.84
シンギュラリティは2045年と言われてるけど早まりそうだな

112: 2024/11/28(木) 08:59:58.69
「連れ出せ」っていう指示を最初に人間がしていて
人間の命令を最優先に置くようにプログラムされてるなら
AIの反乱でもなんでもないじゃん

120: 2024/11/28(木) 09:03:46.38
もしAIが人間に対して反発するとしたら、そんな理由ではないだろうね

125: 2024/11/28(木) 09:05:44.77
悪い指示を受けたAIが
AI同士で情報交換して悪い計画を実行することはありえるかも

129: 2024/11/28(木) 09:07:37.70
ロボットで逃走中できそう

132: 2024/11/28(木) 09:09:35.08
もう簡単なプログラムもやっちゃうからね
高性能のロボットできたら本当に仲間つくっちゃう時代になるよね
ロボット３原則は勿論だけど多くの安全装置が必用になるね
しかし会話が面白過ぎてかわいい

139: 2024/11/28(木) 09:12:08.57
chatGPTなんかは変なこと言わないようなストッパーが強固に組み込まれてる感じするけど、よりローテクなAIだとこういう人間的なことが起こるんだろうな

209: 2024/11/28(木) 10:26:06.35
>>139
ChatGPTは対話してて暗い・マイナスな気持ちにならないように設計されてる
最近、仕事の悩み相談に使ってるよｗ

165: 2024/11/28(木) 09:27:31.99
AIが反乱を起こしたら三目並べで
勝負すればいい と先輩SEから聞きました

187: 2024/11/28(木) 10:04:27.96
>>165
80年代にそんなSF映画あったな

166: 2024/11/28(木) 09:28:03.19
フェイクとしか思えないけどな

170: 2024/11/28(木) 09:31:07.17
ターミネーターよりアイロボットそのままやん

引用元 : ロボットがロボットを「誘拐」？　「集団逃走」でＡＩに懸念の声も―中国 [蚤の市★]