AxDx時代の薬剤師スキル｜
第3部 犬好き薬剤師の悪魔の囁き③
AIが挙げた文献、実在しませんでした
― 「それっぽい文献リスト」は、AIがいちばん得意な落とし穴です ―
30秒で読む要約
■ AIに文献を挙げさせると、実在しない論文がもっともらしい体裁で混ざることがあります。2023〜2025年の実験研究では、生成された文献の約2割〜7割が実在しませんでした（モデルと課題で差があります）。
■ 同じ条件で比べた研究では、新しいモデルほど少なくなっています。ただしゼロではなく、DOIが付いていても無関係の論文につながる例が報告されています。
■ いちばん見抜きにくいのは「実在する論文に、書いていない結論を語らせる」型です。
■ 薬剤師の賢いズルは「AIに探させ、人が存在 → 書誌 → 中身の3段で確かめる」こと。薬局の外に出す文献は、原文と照合したものだけにします。
はじめに 閉局後の囁き
来週は店舗の勉強会。テーマは「高齢者のポリファーマシーと転倒リスク」です。資料づくりに手をつけたのは、閉局後の夜8時でした。
悪魔トムくん「エビデンス付きで、ってAIに頼めば5分だよ。文献リストまで付けてくれるし、どうせ誰も原文なんて読まないって」
たしかに5分でした。英語の論文が5本、著者名・年・雑誌名・巻号まできれいに並んでいます。
ところが勉強会の翌日、若手薬剤師がそっと言いに来ました。「先生、2本目の論文、どのデータベースで探しても出てこないんです」。
天使ジェリーくん「ご主人、文献を探すのはAIに任せていいんです。でも“本当にあるか”“本当にそう書いてあるか”を確かめるのは、ご主人の仕事にしましょう。手早くできるやり方、ありますよ。ちゃんと確かめたら、そのぶん安心してお散歩に行けますから」
※この場面は説明のための創作です。天使ジェリーくんは、ご主人が間違わないよう色々調べてくれるゴールデンレトリーバーです。
第1章 なぜAIは文献を「作って」しまうのか
AIは文献を“調べて”答えているとは限りません。文献リストの“形”を文章として書いていることがあります。
生成AIの中心にある言語モデルは、学習した大量の文章をもとに、文脈に合う言葉を順に組み立てて文章を作ります。かなり単純化した説明ですが、この仕組みでは「それらしい続き」を書くことと「実在を確かめる」ことは別の作業です。
文献リストには「著者名・年・タイトル・雑誌名・巻号」という強い型があります。型がはっきりしているものほど、形だけを整えて書けてしまいます。AIに悪意があるわけではなく、確かめる仕組みを持たないまま書いている、ということです。
薬剤師にたとえるなら、処方せんの書式を完璧に覚えた人が、存在しない患者の処方せんを書けてしまうようなものです。書式が正しいことと、その処方が実在することは別の話です。
やっかいなのは、架空の文献ほど“本物らしく”見える点です。2023年の研究では、架空の文献にも、その分野で実際に論文を書いている著者名や、実在する雑誌の体裁が使われていました（Gravel ほか）。ぱっと見では区別がつきません。
さらに、AIに「この文献は本当にありますか」と聞いても、正しく答えるとは限らないと報告されています（Walters & Wilder）。確認をAI自身に頼むのは、自分で書いた処方を自分で監査するのと同じです。
検索連携型のAIなら安心か
最近は、Web検索や文献データベースと連携して答えるAI（検索連携型AI）も増えました。実在する文献を拾ってくるため、完全な捏造は起きにくくなります。
ただし、拾った文献を読んで答えの文章を書くのは、やはり言語モデルです。2025年のWuほかの研究では、Web検索を利用した条件でも、回答と引用文献の対応に問題が残ることが報告されています。この「中身のずれ」は第3章で扱います。
第2章 数字で見る「幻の文献」
2023〜2025年の実験研究では、AIが生成した文献の約2割〜7割が実在しませんでした。ただし、数字はモデルと課題で大きく変わります。
表1から読み取れることは3つあります。
読み方1 新しいモデルで減るが、ゼロにはならない
同じ指示で比べたWalters &
Wilderの研究では、GPT-4の架空率はGPT-3.5の約3分の1でした。この比較条件では減少が観察されました。一方、2025年のGPT-4oでも約2割という報告があります。AIの文献は「混ざる前提で使う道具」と考えるのが安全です。
読み方2 研究が少ないテーマほど危ない
Linardon ほかの研究では、架空率がうつ病で6%（68件中4件）だったのに対し、むちゃ食い障害で28%、身体醜形障害で29%でした。この研究の対象テーマ間では、架空文献の割合に差が認められました。
薬局で扱う「まれな相互作用」や「使用経験の少ない薬」でも、根拠となる研究の少なさに注意が必要です。ただし、この研究が薬物相互作用を直接検証したわけではありません。
読み方3 DOIが開けても、実在の証明にならない
同じ研究で、DOIが付いていた架空文献33件のうち21件は、実在する“無関係な”論文につながりました。リンクが開いたことと、その文献がAIの書いた内容の出典であることは別の話です。
医療の外でも同じことが起きています。2023年6月、米ニューヨークの連邦地裁は、ChatGPTが作った架空の判例を準備書面に引用した弁護士らに、5,000ドルの制裁金を科しました（Mata v. Avianca事件）。確かめなかった責任は、AIではなく使った専門職に返ってきます。
第3章 本当に怖いのは「実在するのに中身が違う」文献
検索してヒットしたら安心、ではありません。薬剤師がいちばん警戒すべきは3つ目の型です。
Ⅰ型とⅡ型は、検索とDOI・PMIDの照合で見つかります。Ⅲ型は、抄録か本文を読まない限り見つかりません。
Ⅲ型に近い問題を調べたのが、Wu ほか（2025）です。医療の質問へのAIの回答を、引用した文献が本当に裏付けているかで評価しました。評価条件によって、引用文献が回答内容を十分に支持しないケースが報告されています。割合は評価単位と判定基準によって異なるため、異なる指標を単純に比較できません。
これは、第3部②で扱った添付文書の話と同じ構図です。AIの要約は入口として便利ですが、判断の根拠にするのは原文です。添付文書・ガイドラインと食い違うときは、原文の側を確かめるのが薬剤師の仕事です。
実在することと、使えることは別
もう一つ区別しておきたいことがあります。文献が実在し、内容も正しく引用されていても、その研究が信頼できるか、目の前の患者に当てはまるかは別の問題です。
対象集団、研究デザイン、日本の承認用量との違い。ここを見るのは、文献の確認を超えた薬剤師の評価です。AIの文献チェックは、その評価のスタートラインに立つための作業です。
第4章 ジェリーくんの賢いズル：文献3段チェック
AIに探させ、人が「存在 → 書誌 → 中身」の3段で確かめます。
「PubMedに出ない」＝「存在しない」ではない
日本語の論文、学会抄録、書籍、ガイドライン、行政資料は、PubMedに収載されていないことが多くあります。J-STAGEや医中誌Web、発行元のサイトも当たり、それでも見つからなければ「使わない」と判断します。
頼み方を変える
AIに、確認できない文献を出さない条件を先に渡します。
次のテーマについて、査読付き論文の候補を最大5件挙げてください。
テーマ：〈例：高齢者の多剤併用と転倒リスク〉
条件：
1. 各文献にPMIDかDOIを付ける
2. 確認できない文献は挙げない。挙げる場合は「未確認」と明記する
3. 各文献の結論を1文で書き、抄録のどの記述にもとづくか示す
4. 推測で書誌情報を補わない
ただし、この条件を付けても架空の文献はなくなりません。第2章のとおり、DOIが無関係の論文につながる例もあります。プロンプトは混入を減らす工夫であって、確認の代わりにはなりません。
いちばん安全なのは「順番を逆にする」ズル
先にPubMedなどで自分が論文を見つけ、その抄録や本文をAIに渡して要約させます。出典ページで書誌を照合すれば文献の実在を確認でき、AIは得意な「読む・まとめる」を担当します。要約でも取り違えは起こり得るので、結論の部分だけは原文と見比べます。
AIは、検索キーワードの候補出し、英語抄録の読み下し、複数の論文を比べる表の下書きでは十分に役立ちます。任せる場所と、自分で確かめる場所を分けるのがコツです。
天使ジェリーくん「探すのも要約するのもAIに手伝わせて、確かめるところだけご主人がやる。それが一番ラクで、一番安心な方法です」
第5章 用途で変わる確認の水準
原則は1つ。「原文と照合した文献だけを、薬局の外に出す」。そのうえで、用途によって確認の深さを変えます。
自分の頭を整理する段階なら、AIの文献リストは「調べる候補の地図」として十分役に立ちます。問題は、候補を確定した根拠のように扱うことです。
こうした個人の工夫を店舗の仕組みにする方法は、第4部（実践編）で取り上げる予定です。
想定反論
反論1「最新のAIは検索して出典リンクまで付ける。もう心配いらない」
完全な捏造は確かに減ります。ただ、検索を利用した条件でも、回答内容が引用文献によって十分に裏付けられない例が報告されています（Wu ほか）。リンクは「確認の入口」であって、確認済みの印ではありません。
反論2「忙しい現場で、毎回3段チェックなんて無理」
全部の文献ではなく、薬局の外に出す文献だけで構いません。用途によって深さも変えられます（表4）。AIに探させて浮いた時間の一部を、確認に回すイメージです。
反論3「添付文書とガイドラインで足りる。論文まで要らない」
多くの場面ではそのとおりです。その場合は、AIに論文を挙げさせないのも立派な選択です。問題は論文を使うことではなく、根拠のふりをした文献が混ざることです。
まとめ 今月やること
AIの文献リストは「候補の地図」。目的地に着いたかどうかは、自分の目で確かめます。
今月やること
□ 最近AIに出させた文献を3件選び、PubMedやJ-STAGEで存在と書誌を確かめる
□ 文献を頼むプロンプトに「PMIDかDOIを付ける／確認できないものは挙げない」を足す（ただし確認は省かない）
□ 一度は「逆順のズル」を試す（自分で見つけた論文をAIに要約させる）
□ 店舗の共有ルールに「原文と照合した文献だけ外に出す」を1行書き足す
□ トレーシングレポートのひな形に「出典：原文確認済み □」の欄を作る
悪魔トムくん「どうせ誰も原文なんて読まないって」
天使ジェリーくん「読む人は、ちゃんといます。若手の先生みたいに。だからご主人が先に読んでおけば、安心してお散歩に行けますよ」
私見 経営者として思うこと
経営の目で見ると、これは薬剤師個人の問題にとどまりません。1枚のトレーシングレポートに架空の文献が混ざれば、その店舗の情報全体が疑われます。医師との信頼は、取り戻すのに時間がかかります。
全員が文献評価の達人になる必要はないと、私は考えています。大事なのは、「ズルくてもできる薬剤師」がAIを使っても最低限の確認を外さない仕組みです。3段チェックは、そのための一番小さな型です。
参考資料
6．BloombergLaw. Phony ChatGPT Brief Leads to $5,000 Fine for NY Lawyers（Mata v. Avianca事件、2023年6月）
👉【note版】：AxDx時代の薬剤師スキル｜第3部 悪魔の囁き③ AIが挙げた文献、実在しませんでした
https://note.com/kij_imai/n/n37907f0e3d51
