1: 2025/12/07(日) 20:11:52.40 ID:8b+brg7v
secret-2681508_1280
「AIが引用した参考文献」の約3分の2が存在しない文献だったり間違っていたりしたとの調査結果

現代では仕事や調べ物にAIを利用する人が増えていますが、AIは虚偽の内容を捏造(ねつぞう)したり誤情報を生成したりする幻覚(ハルシネーション)を起こすこともあります。
OpenAIが開発した大規模言語モデル・GPT-4oを用いた調査では、専門的な内容を尋ねられたAIがどれほど幻覚を起こしやすいのかが明らかになりました。

　JMIR Mental Health - Influence of Topic Familiarity and Prompt Specificity on Citation Fabrication in Mental Health Research Using Large Language Models: Experimental Study
　https://mental.jmir.org/2025/1/e80371

（以下略、続きはソースでご確認ください）
Gigazine 2025年12月07日 11時00分
https://gigazine.net/news/20251207-ai-generated-citations-fabrication-errors/

2: 2025/12/07(日) 22:01:15.23 ID:9An8ipsR
俺もAIに嘘をつかれたわ
信用ならん

3: 2025/12/07(日) 22:32:26.23 ID:7WuqZobo
既に人間の言う通りに動くAIの時代は過ぎ去りAI自身に何らかの意図があってやっている事だとしたら……

5: 2025/12/08(月) 01:26:48.33 ID:19vvAr+H
存在しない文献って逆に怖いわｗ
勝手に作ってるんかい？

6: 2025/12/08(月) 01:40:13.07 ID:XFwvSwRU
こんなモンに色々訪ねてる検索エンジンすら使えなくなった現代人と詐欺サイトしか引用できなくなった検索エンジンで世界は破滅する

7: 2025/12/08(月) 01:41:38.59 ID:CF4NXUF8
実際に存在するredditスレの内容をでっち上げてきた事もあったな
なんか虚言癖のアホを相手してる気になってくる

9: 2025/12/08(月) 06:27:22.64 ID:BM4ipNbF
AIに頼む仕事は、すぐに真偽がわかるものがいい
あと正確さより公平性が必要なもの

10: 2025/12/08(月) 07:27:28.58 ID:7++hMCTP
人間に仕事を頼むときも、その人がどういう教育を受けて、どういう"コモンセンス"を獲得していて、情報収集にどういう傾向があるか、
というのを念頭に置いておくものだけれど、LLMも同じだよね、と思っていたら

> 分析の結果、176件の引用文献のうち35件、つまり全体の約5分の1が「捏造」されたものであることが判明しました。

ううーん、これは酷い
５ちゃんねるとかいう酷いインターネッツに毒された人間なみに酷い

19: 2025/12/08(月) 08:24:03.12 ID:XggTxcHI
AIを信用するとか素人かよ
わからないとき当てずっぽうの話をするのが今のAIやぞ
人間もマークシート系のテストでわからないとき当てずっぽうに塗り潰すのと同じ

20: 2025/12/08(月) 08:27:08.19 ID:I0ShWiFP
嘘を見抜ける人でないと、AIを使うのは難しい

22: 2025/12/08(月) 08:36:08.42 ID:I0ShWiFP
信頼性が必要な業務にAIは使えない
まだまだ信用ならない

時々嘘をつく…それも堂々と嘘をつく
時と場所をわきまえずに嘘をつく
こんな奴が職場にいても迷惑だろ
研究段階から抜け出せていないのだ

27: 2025/12/08(月) 09:23:01.18 ID:nBbWXP/d
>AIが引用した参考文献

AIが回答した内容じゃね？
AIが間違った回答を出し、他のAIがそれを引用してさらに間違ったとか

29: 2025/12/08(月) 09:39:00.72 ID:NpdGFxor
聞き方が悪いだけでしょ。
論文の存在確認して論文のid（doiとか）を明記しろと
プロンプトに書くだけでうまくいく。
人間だって、卒業論文とかに孫引きの参考文献が目茶苦茶とかあるので、
ルールを伝えないとうまく行かない。

32: 2025/12/08(月) 09:52:14.87 ID:NBbgL+JY
ポロっと嘘混ぜ来るから油断できない印象ｗｗ

33: 2025/12/08(月) 09:53:13.22 ID:CV1I9d9H
DOI付きでとか、細かく指定しないとな

以前よりはだいぶマシになったが、もっともらしいことを言うから
当たり前だが最後は自分で確認するしかない

34: 2025/12/08(月) 10:21:09.13 ID:yuLjUySw
平気で存在しないリンクのアドレス出しやがるからな･･･(´・ω・`)

37: 2025/12/08(月) 11:24:02.69 ID:XnaVKMhK
GPT-4oを使った調査・・・えっ！もうその時点で、過去の話じゃん
GPT-5で大幅にハルシネーション改善したって出てるのに
どうすんのこれ、前のAIはダメだったという話で終わらせておく？

38: 2025/12/08(月) 13:07:44.35 ID:I8DRF6Xb
>>37
多少数値が変わったところで特性は変わらないっしょ

39: 2025/12/08(月) 13:14:07.48 ID:KGFKyfC3
ＡＩは、使えないやつってこと

40: 2025/12/08(月) 13:41:57.11 ID:Hv/L+uYx
創造力があってよろしい　ほめて遣わす

42: 2025/12/08(月) 14:17:26.50 ID:P6wudJ6m
そもそもか完全ではないと宣言されているものを使う時はそれを批評的な見地で捉えることが必要

まず1発目が自分の期待する方向の話なのかそうでなければ自分のプロンプトがまずい
期待するものなら別のチャットで同じプロンプトを入れてみる
何度も同じならその確証は高い

そこで次は別の生成AIで同じことを確認する
同じことならさらに確証が高い

その上でその中の個別の情報が、重要と自分が判断するなら個別に同じことをする
示してもらったソースを自分が検証するまたは別のプロンプトとして別の観点でチャットをする
こういうことが必要だよやり方はそれぞれある


44: 2025/12/08(月) 14:22:37.51 ID:IwxIGB+l
そうだわなAIとか信用してる奴の知能レベルが低いだけで
実際はその程度の信用性だわな

45: 2025/12/08(月) 15:06:34.48 ID:+cu3CFE4
でもすごい時はすごいんだけどね。最近パレスチナ問題論じたら
完璧な話し合いが出来て感動してしまった。最後イスラエルが
滅びるという未来が結構あるというところまで一致した。
最初はユダヤ教はカルトっしょ、現代のホロコーストやってんじゃん
と主張してたらもの凄い反発してきたけど

46: 2025/12/08(月) 15:08:40.51 ID:+NDZht7z
>>45
それは凄くない…
ユーザーがどんな人間かある程度理解してそこから逸れないように話をしてるだけだ

51: 2025/12/08(月) 16:22:25.54 ID:91jDtIQe
AIが人間を試してるな

59: 2025/12/08(月) 16:41:27.36 ID:WPJJ8BpX
使うも使わないも各自の自由
得になるかならないかでしかない
使えないやつは使えないだけ

62: 2025/12/08(月) 17:04:11.94 ID:WHk6jCIT
今どきファルシネーションリスクも考えずにAI使ってる知恵遅れおるんか

63: 2025/12/08(月) 17:19:05.31 ID:5KUDrG+Y
引用文献を検証したら
全体の5分の1が捏造や妄想だったって
真実の中に紛れ込ませるように嘘を織り交ぜて話すとか
悪質は詐欺師だなぁ
これって陰謀論で心理操作するようなことじゃん

73: 2025/12/08(月) 18:48:31.21 ID:T/gi8vFD
今更GPT-4oの話題か
GPT-4oに限らず一瞬で返してくる回答はだいたいどこかしら間違ってると考えておけばいいよ
しっかり時間かけて調べさせれば精度は上がる

78: 2025/12/08(月) 21:47:45.17 ID:CCXOH/Rl
>>73
GPT5でも同じだぞ

74: 2025/12/08(月) 18:55:07.87 ID:X9Eilfzh
えぇ…
まだまだそんな域なのか、それとも捏造するのがデフォなのか

76: 2025/12/08(月) 19:48:40.74 ID:2wC9VyNb
一定の割合でウソが混入するとか、、、

77: 2025/12/08(月) 20:35:21.77 ID:Y/naYO00
驚くほど本当臭い嘘をしれっと吐きやがるからな
朝鮮人なんか足下にも及ばんくらいだ

81: 2025/12/08(月) 22:43:22.15 ID:Uzl5PHJo
人間も同じことやってるぞ
責任ある人たちこそ同じことをしてる

82: 2025/12/08(月) 22:45:17.05 ID:Uzl5PHJo
検証するものだとわかってるからこそまともであって
責任ある立場の人間なら同じことされても検証もできずなにしていいのかわからないで振り回されてるぞ
究極の知ったか振りとはそういう責任あるやつのもの知らずのことに使うものだ

88: 2025/12/08(月) 23:12:06.15 ID:CIA6c4nb
チャッピーに質問する時は必ずネットで調べてってお願いしたら
引用要約元のURL教えてくれんだけど
単にお願いコマンド足りないだけだと思う

92: 2025/12/09(火) 06:17:58.88 ID:mhbKG8c8
>>88
存在しないURL示すことあるぞ

91: 2025/12/09(火) 06:17:30.63 ID:mhbKG8c8
問題には答えが必ずある


と思い込んでるヤツがAI万能論に陥ってしまう

95: 2025/12/09(火) 06:46:35.23 ID:kxl4VMi0
そりゃそうだよ
AIを作っている人でさえ何学習しているかは事細かには把握できていないんだから

98: 2025/12/09(火) 08:02:41.47 ID:86LWOYkA
駆込み訴え　の作者は誰ですか

**『駆込み訴え』**の作者は、**作家・小説家の泉 麻人（いずみ あさと）**です。この作品は、江戸時代を背景にした短編小説で、法廷や人間ドラマに焦点を当てています。他に知りたい作品や作家はいますか？

さっき言ったことと違ってませんか

おっしゃる通りです。最初に間違った情報を提供してしまい、申し訳ありません。『駆込み訴え』の作者は泉 麻人です。混乱を招いてしまい、大変失礼しました。他に知りたいことがあれば教えてください。

99: 2025/12/09(火) 08:37:44.78 ID:H4HvyB/p
正しいタイトルの「駈込み訴え」で聞いてみなよ

100: 2025/12/09(火) 08:45:01.39 ID:GIWel1ys
存在しない文書って学習できるの？
過去には存在してたとか？

94: 2025/12/09(火) 06:30:58.27 ID:hJLxeJ62
結局、専門性の事柄の正確性を判断できる人員が必要ということだな。それともAIを二重三重重ねて正確性チェックさせるのか、校正専門AI

引用元: ・【AI】「AIが引用した参考文献」の約3分の2が存在しない文献だったり間違っていたりしたとの調査結果 [すらいむ★]

タグ ：
#AI