1: 2018/07/21(土) 15:53:21.82 ID:CAP_USER
総務省情報通信政策研究所は、AIのネットワーク化に関する報告書を公表した。
有識者会議が取りまとめたもので、医療診断などで想定される便益や課題を提示。AIの誤診で患者の症状が悪化した場合、ブラックボックス化されていて判断の経緯などを説明できないと、患者やその家族らの理解が得られない恐れがあることを挙げている。

この報告書は、「AIネットワーク社会推進会議」(議長=須藤修・東大大学院情報学環教授)が取りまとめたもので、さまざまな分野でAIが活用されることを想定し、AIのネットワーク化が社会・経済にもたらす影響の評価を行った上で課題を整理した。

 医療診断については、AIによる画像診断で病気の早期発見や見落としの改善につながるほか、医師の負担が軽減されることを指摘。

続きはソースで

https://www.cbnews.jp/20180720/20180719ai001.jpg

https://www.cbnews.jp/news/entry/20180719200753
ダウンロード (2)


引用元: 【人工知能】「AIがなぜ誤診」、患者に説明できない恐れも ブラックボックス化で、総務省研究所が報告書公表[07/20]

スポンサーリンク
2: 2018/07/21(土) 15:58:02.05 ID:528aBSkU
あくまで推測としてデータから病名をいくつか挙げたあと、
医師がちゃんと検査すればいいじゃん。

この精密検査を受ける必要があるって告知して、半分でも
当たってりゃいいことじゃん。

41: 2018/07/21(土) 18:57:14.96 ID:fhMzUw7R
>>2他、まったくだな

そもそも、万一誤診があってもそれを繰り入れて学習させる、少なくとも特別例として「この系統のデータには注意するように」と付加しておく、
それを世界中で共有する、精度がどんどん高くなっていくだろ

100%安全ではないから大危険であーる、厳重注意注意!不効率不効率!ワー それを指摘できるわれわれは物を深く知っていて知的で優秀であーる
まあこれは「あえて課題として危険性を報告する」かも知れないがな

73: 2018/07/21(土) 23:47:45.58 ID:2s+/RhUv
>>2
医者がちゃんと検査?
だったらAIの意味がないだろ。

119: 2018/07/22(日) 18:18:30.82 ID:HqXsYtYW
>>73
過程を簡易化できるメリットはあるんじゃね?

3: 2018/07/21(土) 15:58:17.38 ID:jIE01Ite
  

  _ノ乙(、ン、)_複数の違ったAIに判断させればイイだけよね^^

4: 2018/07/21(土) 16:00:20.43 ID:RTVnQJLP
「仮にAI が誤診しても、当病院並びに開発会社にその責任を問いません。」
という念書を書かされる未来が見える。

11: 2018/07/21(土) 16:09:38.97 ID:f9P1APbX
>>4
いまでもそうなんじゃないのかな
手術同意書とか

それでも明白な過失があれば裁判が起こせるみたいだから、AIも裁かれる

5: 2018/07/21(土) 16:01:26.47 ID:H1on/0+7
人が診断するより全然マシだよ

理由は医者は患者ではないという事

医者によって知識にバラツキがあるから

自分じゃない誰かが診断するなら

知識が豊富なAIが良いに決まってるだろw

8: 2018/07/21(土) 16:06:00.12 ID:528aBSkU
>>5
AI知識が豊富じゃないよ。
入力してない事象が何も知らないんだよ。知ってた?
素のAIは人間に男女があることも知らないんだよ。
男女でどう違うかも医療データの範疇でしか判らないんだよ。

AIはデータの分析を多層多軸でやるのが得意な実装だよ。

7: 2018/07/21(土) 16:05:54.04 ID:TooGmnMS
AIに説明もして貰えばいいじゃん。

9: 2018/07/21(土) 16:07:03.60 ID:5pRiBOzP
誤診があっても人間よりマシ

10: 2018/07/21(土) 16:07:11.82 ID:f9P1APbX
たぶん
ケース1:AIが違う病名を言って、医師は違うと分かっても正しい病名を言い当てられない
ケース2:そもそもAIが病気の存在を示さず、医師にもわからなかった
ケース3:AIより医師の能力が低い
ケース4:未知の病気
ケース5:患者の情報提供が不適切
ケース6:何回もAiに診断させると時間と費用がかかって採算が取れない
ケース7:AIが労働環境に不満があってサボタージュ
ケース8:AIが個人的にその患者が嫌い
あたりではないかと

17: 2018/07/21(土) 16:32:10.80 ID:f9P1APbX
>>10の2や4を説明できるとは思えない

19: 2018/07/21(土) 16:43:27.08 ID:OGRSNoup
>>17
結局、AIって経験の積み重ねのことだからね。
学習させた全ての経験を積み重ねて「判断基準をプログラム自らが作り上げる」
というのが本質。
誰かが勘違いしているように、前例を検索しているだけで、前例がないと
何も判断できないという訳ではない。

130: 2018/07/22(日) 19:38:35.80 ID:FZI4Js19
>>19
ちと違う。前例を検索しているだけではない。

12: 2018/07/21(土) 16:11:53.13 ID:xPeMo93k
今だって人が誤診したところで丁寧に説明してくれるわけでもなし、
AIの方が有能かどうかだけ考えればいい

13: 2018/07/21(土) 16:18:37.65 ID:1EnEHXxO
説明能力を備えたAIが次世代のAIと言われているらしいね。

17: 2018/07/21(土) 16:32:10.80 ID:f9P1APbX
>>13
経験と勘は大事だと思うけどなあ

36: 2018/07/21(土) 18:16:56.42 ID:XUMqvUO3
>>13
「第N層のNo.XXXXニューロンが発火したからです。
この原因は、第N-1層のNo.AAA,BBB,CCCニューロンが発火したからで、
その原因は、(以下、延々と続く)」
とか言われてもね。

14: 2018/07/21(土) 16:20:10.42 ID:1EnEHXxO
従来のAIは説明能力を持たない暗黙知能力だけだった。
本当の知性は説明能力を持たないといけない。
自分がどう考えてその結論に至ったかをちゃんと他人に説明できて伝達できる能力。
これが知性。

62: 2018/07/21(土) 21:53:45.80 ID:e5aVY0br
>>14
「我々は貴方の知能では理解できないことを知っています。説明は以上です。

15: 2018/07/21(土) 16:28:46.24 ID:uRSpmLg1
監査という仕事は意思決定までの過程が記録されてて初めて出来る仕事。
AIの診断についても当然整備しないと安心して任せられないし実用にならない。

16: 2018/07/21(土) 16:30:40.34 ID:hOyxyLH0
AIが人格的な魅力を身に着ければ(実際にはエミュレートすれば)
「あの先生に診てもらってダメだったのなら仕方がない。納得できる」と
説明が不要になるよw

18: 2018/07/21(土) 16:38:43.56 ID:54S1L++B
人間だって、「ついうっかり見逃してました。てへっ♡ペロ」なんて言い訳聞かされるだけなんだから
それでいいよ。
理由聞いたところで、病気が快復するわけでもないし、教訓を得て誤診が減っているような様子もないしなw
統計的に誤診率が人より減るようになったなら、十分役に立つんだからそれでいいんじゃね?

なんなら、患者に選ばせればいい。
A. 人が診断します。誤診率は高いですが、誤診したらなぜそれが起きたのか、言い訳を言って謝ります。
B. AIが診断します。誤診率は低いですが、誤診しても説明も謝罪もありません。
どちらがいいですか~?ってw

101: 2018/07/22(日) 11:21:20.84 ID:OpG3GoUM
>>18
自己責任で選ぶことになるだろう。
名医も歳を取るとミスするし、
AI化もひとつの方法だよ。
診断する方法の選択肢が広がるのは
基本的には良いと思う。

22: 2018/07/21(土) 16:49:40.51 ID:9wu0bRVU
まぁ、数十年後にはAI診断がメインとなるだろうけど、
それまでは補助的なものとして運用すべき。

でも、現状でも医師の診断とそんなに変わるようにも思えないけどな。

24: 2018/07/21(土) 17:04:58.95 ID:eLBdpr0+
構造計算のプログラムと同じで正しいと思って
新宿、浜松町の高層は来る大震災時には・・・

26: 2018/07/21(土) 17:27:29.65 ID:JR30PruK
医者の誤診は説明してくれるの?
ある意味人間が最大のブラックボックスじゃん。

27: 2018/07/21(土) 17:29:39.15 ID:s0FPjzMX
おそれじゃなくて確実にそうなる だって学習結果は毎回違う

同じデータで学習させても毎回必ず違うのが原理だもん

37: 2018/07/21(土) 18:20:22.74 ID:bi/1pEBg
AIは医者じゃないんだから診療行為をさせたらダメだろ
まず医師免許取らせてから