AI on AI ～医療現場で安全に使えるAI～

医療現場でAI活用が進んでいます。
画像診断、検査値の解釈、記録作成、業務効率化など。
ただし、医療である以上、それっぽい答えやハルシネーションは許されません。

さらに、医療AIにはもう一つの大きなリスクがあります。
人は、AIが出した回答を「正しい」と認識してしまうバイアスがかかります。
これは自動化バイアス、アンカリングバイアスと呼ばれ、経験年数に関係なく起きます。
一度AIの答えを見てしまうと、
・自分の判断をAIに寄せにいく
・違和感があっても修正しにくくなる
・反証を探さなくなる

これは、医療では特に怖い！！

そこで考えているのが、3レイヤー構造のAI活用設計です。

【第1レイヤー：実務AI】

現場で直接使う実務AI（主に業務効率化）。
・検査データからの所見案作成
・診療記録、サマリーの下書き
・業務手順・マニュアルの検索、要約
・過去症例との類似ケース提示　など

速くて便利。ただし、この段階では「正しいとは限らない」。

【第2レイヤー：AIをチェックする監督AI】

第1レイヤーのアウトプットを、別視点で評価するAI（AI on AI）。
ここで学習させるのは、
・指導医やベテラン医療従事者の思考プロセス
・「理論上はOKだが、臨床的には危ない」という感覚
・経験から生まれる“勘”

具体的には、
・論理破綻の有無
・臨床的に“違和感”があるパターンの検出
・過去のヒヤリハット事例との照合

→ エビデンス＋経験知のフィルター

このレイヤーの目的は、人が自動化バイアスに陥る前に、一度立ち止まらせることです。

「正解かどうか」ではなく、「現場で通していい判断か」見るAIです。

【第3レイヤー：人（最終判断）】

最終判断は、必ず「人」。
・この患者に当てはめてよいか
・今の状況で使うべき判断か
・その判断の責任を負えるか

AIはここでは決めるのではなく、人が判断しやすい形に、情報を整えるだけです。

この構造で何が変わるでしょうか。
・AIの誤りを前提に設計できる
・人のバイアスを前提に安全性を高められる
・ベテランの暗黙知を形式知化できる
・属人化を減らしつつ、経験の価値は下げない
・若手の判断補助・育成にも使える

結果として、業務改善 × 安全性 × 人材育成を同時に進められます。

医療DXは、「AIを入れるかどうか」ではなく、判断と責任、そして使う人のバイアスをどう設計するかだと考えます。

「AI on AI」

これは、便利になるためのAIではなく、人の判断をより強固にするためのAI活用設計です。

医療現場を前提に考えていますが、AIの判断をそのまま信じてしまう「人のバイアス」が存在する以上、この考え方は医療に限らず、さまざまな分野で応用できるのではないでしょうか。

＼ 最新情報をチェック ／