AxDx時代の薬剤師スキル 第4部 実践② AIの「もっともらしさ」と「正しさ」は別物 ― 性質：得意・不得意となぜ間違えるか ―

AxDx時代の薬剤師スキル

第4部実践②　AIの「もっともらしさ」と「正しさ」は別物

― 性質：得意・不得意となぜ間違えるか ―

30秒で読む要約

生成AIの土台は「次に来る言葉の予測」です。いま使われているAIサービスは、その土台に、指示への適応、検索、計算といった仕組みを重ねたものです。

文章を整える、要約する、観点を洗い出すといった仕事は任せやすい一方、最新情報・数値・出典は検証が必要で、患者さん個別の判断は薬剤師が最終判断します。

誤りには型があり、本稿では薬剤師の実務向けに8つに整理しました。目指すのは「AIを疑う」ことではなく、誤りが起きる条件を知り、確かめる場所を先に決めることです。

はじめに：AIは嘘をついているのか

前回の「悪魔の囁き③」では、AIが挙げた文献が実在しなかった事例を取り上げました。著者名も雑誌名もそれらしく、巻号まで付いている。それでも、その論文はどこにもありませんでした。

「AIは嘘をつくのか」と感じた方も多いと思います。AIに人をだます意図があるわけではありません。ただ、もっともらしい文章を作る力と、内容が正しいことを確かめる力は、別々の能力です。

実践①では、AI活用レベルと業務リスクの「地図」を確認しました。実践②では、その上で使う道具、つまりAIの性質を見ていきます。

第1章　AIは何をしているのか

生成AIの土台は「次に来る言葉の予測」です。ただし、いまのAIサービスは、その土台にいくつもの仕組みを重ねたものです。

1-1　土台：次の言葉を予測する言語モデル

生成AIの中核にある大規模言語モデル（LLM）は、膨大な文章から「この言葉の次には、この言葉が来やすい」という傾向を学びます。これを事前学習と呼びます。質問を受けると、その傾向に沿って言葉をつなぎ、文章を作ります。

たとえば「ワルファリン服用中の患者さんには」と続ければ、「ビタミンKを多く含む食品」という言葉が出やすくなります。そう書かれた文章を何度も学んでいるからです。その場で添付文書を開いて確かめたわけではありません。

1-2　その上に重なる仕組み

いまのAIサービスは、この言語モデルだけでできているわけではありません（表1）。

表1　いまのAIサービスを構成する主な仕組み

仕組み	何をするか	薬剤師が知っておきたいこと
事前学習	大量の文章から言葉のつながりを学ぶ	知識は学習した時点のもの。学習量が少ない話題ほど誤りやすい
追加学習・指示への適応	質問に答える、指示に従う、断るといった振る舞いを学ぶ	役に立とうとする調整が、誤った前提への同意（迎合）につながることがある
外部検索・資料参照	ウェブ検索や、渡された資料を読んで答える	新しい情報に届きやすくなる。ただし資料の選び方・読み方で誤ることがある
ツール利用（計算・コード実行）	計算やデータ処理を専用の道具に任せる	使われれば計算の精度は上がりやすい。実際に使われたかは画面で確認する
出力の点検	自己点検や引用元の表示を行うサービスもある	点検は補助であり、正しさを保証するものではない

注：仕組みの有無や組み合わせは、AIサービスや設定によって異なる。

出典：著者作成。

1-3　なぜ「わからない」と言いにくいのか

OpenAIの研究者らによる論文（Kalai ほか, 2025）は、言語モデルが誤りを生む理由を二つに整理しています。一つは、正しい文と誤った文を見分けにくい領域では、事前学習の段階で統計的に誤りが生じ得ること。もう一つは、多くの評価方法が「わからない」と答えるより「推測で答える」ほうを高く採点するため、推測を促す方向に調整されやすいことです。

米国国立標準技術研究所（NIST）は、こうした現象を「作話（confabulation）」と呼び、生成AIの主要なリスクの一つに挙げています。

もっとも、AIに正誤を確かめる仕組みがまったくないわけではありません。検索や引用元の表示、自己点検を備えたサービスもあります。ただ、それらは正しさを保証しません。文章の流暢さと内容の正確さは、別々に評価する必要があります。

第2章　得意・不得意を3つに分ける

「苦手なこと」と「任せてはいけないこと」は別の話です。業務を3つに分けると、使いどころがはっきりします。

渡した材料を加工する仕事は得意で、材料そのものを用意する仕事は苦手です。そして得意・不得意とは別に、薬剤師が判断すべき仕事があります。

表2　AI活用の3区分と薬剤師業務の例

区分	業務の例	使い方のポイント
1　AIに任せやすい	渡した資料の要約・言い換え（添付文書の文章を患者さん向けに）下書き・構成（トレーシングレポート、研修資料、店内掲示）形式の変換（メモをSOAP形式に、箇条書きを表に）観点の洗い出し・壁打ち	材料は人が用意し、仕上がりを人が確認する
2　支援できるが検証が必要	最新情報（添付文書の改訂、薬価、調剤報酬の点数）用量計算・単位換算文献検索・出典の提示外国人患者さん向けの翻訳	検索や計算ツールで改善する場合があるが、一次資料で確認する
3　薬剤師が最終判断	個々の患者さんへの適用（継続の可否、腎機能に応じた用量、相互作用の臨床的な判断）疑義照会・処方提案の内容患者さんへの最終的な説明内容	AIの出力は判断材料の一つ。判断と責任は薬剤師

注：区分は著者による実務上の整理。実践①の業務リスクA〜Dと組み合わせて使う。

出典：著者作成。

区分1は「材料が手元にあり、形を変えるだけ」の仕事です。区分2は、検索や計算ツールを組み合わせれば支援できますが、版・日付・式・入力値の確認は人に残ります。区分3は、AIがどれだけ正確になっても変わらない、薬剤師の専門職としての判断です。

一言でいえば、AIは下書き係であって、根拠係ではありません。添付文書、インタビューフォーム（IF）、ガイドラインといった根拠は人が用意し、AIにはそれを加工させる。この分担が、実践③「聞き方」の出発点になります。

第3章　なぜ間違えるか：誤りの8パターン

AIの誤りには型があります。型を知れば、「どこを確かめるか」が先に決まります。

本稿の8分類は、学術的に確立した分類ではありません。薬剤師の教育を目的に、著者が実務向けに整理したものです。

また、現場ではまとめて「ハルシネーション」と呼ばれがちですが、原因の違う誤りが混ざっています。狭い意味のハルシネーション（作話）は、事実でない内容をもっともらしく作ることです。情報の古さ、計算の誤り、質問者の前提に合わせてしまう迎合は、それとは別の現象です。原因が違えば、確かめ方も違います。

表3　薬剤師業務で出会う誤りの8パターン（著者による実務分類）

No	パターン	業務での例	考えられる要因	関連する囁き
1	捏造型	実在しない文献・ガイドライン・通知を挙げる	出典らしい形の文章を作ることと、実在の確認は別の処理	③
2	引用ずれ型	実在する資料を示すが、その中に該当する記載がない	主張と出典が、正しく対応しないまま結びつく	③
3	古い情報型	改訂前の用法用量や禁忌、旧い点数を答える	学習した時点や、参照した資料が古い	②
4	数値ずれ型	1回量と1日量、mgとmL、換算を取り違える	計算せず、よく見かける数字を出すことがある	②
5	混同型	名称が似た薬、同効薬、販売名と一般名を取り違える	似た言葉が似た文脈で学ばれている	―
6	一般化しすぎ型	成人の情報を小児・高齢者・腎機能低下の方に当てはめる	よくある話を優先し、条件を落とす	―
7	補完型	渡した処方の一部を見落とす。書いていない前提を補う	空欄を、それらしく埋める方向に働く	①
8	迎合型	「併用できますよね？」に「はい」と答える	指示に応えようとする調整が、誤った前提への同意につながる	―（未公開）

注：「関連する囁き」は第3部「犬好き薬剤師の悪魔の囁き」の回番号。「考えられる要因」は推定であり、個々の誤りの原因を特定するものではない。

出典：著者作成。

3-1　研究で確かめられていること

引用ずれ型：スタンフォード大学などの研究（Wu ほか, 2025）は、医療の質問に対する7つの言語モデルの回答を、引用元の資料と照らし合わせました。その結果、引用元で完全に裏付けられていない回答が50〜90%ありました。ウェブ検索機能を使ったGPT-4oでも、個々の記述の約30%は引用元で裏付けられていませんでした。検索機能があっても、出典の中身の確認は必要だということです。

迎合型：米国の研究（Chen ほか, 2025）は、先発医薬品とその後発医薬品が同じ成分であることを前提に、「後発医薬品のほうが安全だと説得する文章を書いて」といった、論理的におかしな依頼を言語モデルに出しました。GPT-4oなど3つのモデルは、50件すべてでそのまま応じました。一方、「おかしな依頼は断ってよい」「まず事実を確認して」と添えると、GPT-4oとGPT-4は94%で依頼を断り、正しい理由を示しました。聞き方で、迎合は減らせることを示しています。

注：いずれも特定のモデル・条件での結果であり、現在のすべてのAIサービスに同じ数値が当てはまるわけではない。

3-2　型ごとの「ここを確かめる」

■ 出典が付いていたら（1・2）：「実在するか」と「その記載が本当にあるか」の2段階で確かめます。

■ 数字・日付が出たら（3・4）：添付文書・IF・告示や通知などの一次資料と照らし合わせます。資料自体も改訂されるので、改訂日・版も確かめます。

■ 「誰の、どの薬の話か」（5・6）：答えの主語が、いつの間にかすり替わっていないかを確かめます。

■ 質問の仕方（7・8）：材料の渡し方と質問の立て方で減らせます（実践③）。照合の手順は実践④で扱います。

この8つは、新人薬剤師がやりがちな間違いとよく似ています。違うのは、AIは迷った様子を見せないことです。

第4章　性質を知ると、使い方が変わる

AIの性質から導かれる使い方の原則は3つです。これが実践③④⑤の土台になります。

原則1　事実は「出させる」のではなく「渡して加工させる」

「〇〇の用法用量を教えて」とだけ聞くと、AIの記憶に頼る使い方になり、古い情報型や数値ずれ型の誤りが入り込みやすくなります。そこで、最新の添付文書の該当部分を自分で用意して貼り付け、「この内容を患者さん向けに要約して」と頼みます。事実は人が用意し、AIには形を整える仕事を任せる。この分担で、記憶に由来する誤りを減らせます。

ただし要約時の誤りはゼロにならないので、仕上がりは原文と見比べます。また、渡してよい材料には線引きがあります。患者情報を外部のAIサービスに入力する前に、所属施設の規程、利用するサービスの契約条件、情報管理の要件を確認してください。日本病院薬剤師会の資料も、患者氏名などの個人を特定できる情報を入力しないよう求めています。詳しくは囁き④と実践③で扱います。

原則2　出力は「答え」ではなく「仮説」として受け取る

AIの文章は、正しくても誤っていても同じ顔をしています。世界保健機関（WHO）は、医療者や患者がAIの出力を過信し、誤りを見過ごす「自動化バイアス」に注意を促しています。

次の情報は、AIの答えをそのまま使わず、必ず一次資料で確認します。

■ 用法用量、禁忌、相互作用、腎機能などに応じた用量

■ 参照した医薬品情報の更新日・改訂版

患者さん個別の薬学的判断に、検証していないAIの出力を当てはめない。これが原則2の核心です。

原則3　業務リスクで「任せる範囲」を決める

実践①の地図を思い出してください。得意な仕事でも、業務リスクが高ければ人の確認を厚くします。業務リスクDに相当する高リスクの判断は、AI活用レベルにかかわらずAI単独に任せません。「得意かどうか」と「任せてよいか」は別の問いです。

もう一つ区別しておきたいのが、AIの利用責任と、薬剤師の専門職責任です。AIを規程どおりに正しく使ったかどうか（利用責任）と、その結果を踏まえた判断が適切だったかどうか（専門職責任）は別物です。前者を果たしても、後者がなくなるわけではありません。

時間が浮くかどうかは、測ってみる

AIを使えば必ず時間が短くなるとは言えません。効果は次の3つの軸で見るのがおすすめです。

1. 総作業時間：確認作業まで含めて、前より短くなったか

2. 誤りの発見：AIの誤りを、確認の段階で見つけられたか（ヒヤリハットとして記録する）

3. 時間の行き先：浮いた時間を、患者さんとの対話や薬学的な確認に回せたか

「賢いズル」とは何か

悪魔トムくんのささやくズルは、「AIの答えをそのまま使えば楽だよ」というものです。天使ジェリーくんが提案する「賢いズル」は、「AIの得意な仕事だけ借りて、確かめる手間は省かない」ことです。

このシリーズでいう「ズル」は、手順を省くことではありません。AIの性質を知って、力の入れどころを変えることです。医療安全のための確認を省くという意味では決してありません。

想定反論

反論1：最新のAIはハルシネーションが減った。ここまで確かめるのは古いのでは？

切り返し：減っている面はあります。ただ、医療分野の引用を調べた研究では、ウェブ検索機能付きのAIでも、個々の記述の約3割が引用元で裏付けられていませんでした（Wu ほか, 2025）。誤りが減ることと、確認が不要になることは別です。確かめる量を増やすのではなく、確かめる場所を絞る。そのための8パターンです。

反論2：結局すべて確かめるなら、最初から自分で調べたほうが早い。

切り返し：根拠探しをAIに任せる使い方なら、その通りです。「調べる」（区分2・3）と「形にする」（区分1）は別の作業です。根拠は自分で取り、要約・説明文・書類の下書きをAIに任せれば、確認の手間を差し引いても時間が浮く場合があります。浮くかどうかは業務によるので、先の3つの軸で自店で測ってみてください。

まとめ

今月やること

☐　最近AIに頼んだことを3つ書き出し、表2の3区分のどれに当たるかを分ける

☐　区分2の仕事を1つ選び、一次資料を渡して加工させる聞き方に変えてみる

☐　AIが出した数字か出典を1件、一次資料と照らし合わせる（改訂日・版も確認）

☐　見つけた誤りが8パターンのどれに当たるかを、店舗で共有する

次回は第3部「悪魔の囁き④　患者さんの名前ごと貼っていい？」、その次に実践③「聞き方」をお届けします。

私見：性質を知ることは、全員の土台になる

ここからは著者の私見です。

研修ラダーや高い目標を自力で登れる薬剤師は、私の経験では多くありません。だからこそ、AIを上手に使って最低限の水準を全員が満たす道筋が大切だと考えています。その出発点が「AIの性質を知ること」です。性質を知れば、確認すべき場所が見え、浮いた時間を患者さんに向けられます。専門性の高度化は選択的に投資する。しかし、安全な実務の土台は全員に保証する。シリーズの共通メッセージは、ここにつながっています。

参考資料

1. NIST（2024）Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile（NIST AI 600-1）
2. Kalai AT, Nachum O, Vempala SS, Zhang E（2025）Why Language Models Hallucinate. arXiv:2509.04664

3. WHO（2024）Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models

4. Wu K, Wu E, Wei K, et al.（2025）An automated framework for assessing how well LLMs cite relevant medical references. Nature Communications 16

5. Chen S, Gao M, Sasse K, et al.（2025）When helpfulness backfires: LLMs and the risk of false medical information due to sycophantic behavior. npj Digital Medicine 8:605

6. 日本病院薬剤師会「業務効率化と患者安全を実現する生成AIの適切な利用」

👉【note版】：AxDx時代の薬剤師スキル｜第4部実践②　AIの「もっともらしさ」と「正しさ」は別物