「AIが嘘をつく」— それが医療の現場で起こったら？
ある日、AIが「この薬は安全です」と断言したとします。
しかし、実際には重大な副作用があり、過去に死亡例も報告されていました。
にもかかわらず、AIは確信を持って誤った情報を伝えたのです。
こうした「AIのハルシネーション（幻覚）」は、決してSFの話ではありません。
実際に、AIが誤った医療情報を生成し、それを信用した医師や患者が問題に直面するケースが増えています。
特に、医療のように人の命がかかる分野では、AIの誤情報が致命的なミスを招く可能性があります。
では、どうすればAIの情報をより信頼できるものにできるのでしょうか？
その答えの一つが、メイヨー・クリニックが採用した「リバース RAG」という新技術です。
この技術は、AIの回答を一度生成した後に、正確性を検証する仕組みを持っています。
従来の方法と何が違うのか？
どのようなメリットがあるのか？
この記事で詳しく解説していきます。
AIのハルシネーションとは？ なぜ問題になるのか？
AIは、大量のデータを学習し、それをもとに文章を生成します。
しかし、学習データの中に正しくない情報が含まれていたり、関連情報が不足していたりすると、AIは「それっぽいが間違った情報」を作り出してしまうことがあります。
例えば、過去には医療AIが架空の医学論文を捏造したり、存在しない治療法を提案したりしたケースが報告されています。
特に生成AI（ChatGPT のようなモデル）は、情報を「創作する」能力があるため、ユーザーが見抜くのが難しくなっています。
ハルシネーションが引き起こすリスクは、医療だけではありません。
金融の分野では、AIが架空の投資情報を生成し、それを信じた人が大損する可能性もあります。
法律の分野では、AIが誤った判例を参照し、誤った法的助言をしてしまうことも考えられます。
「リバース RAG」とは？ 従来のAIとの違い
こうした問題を解決するために登場したのが、メイヨー・クリニックが採用した「リバース RAG」です。
メイヨー・クリニックは米国でトップランクの病院の一つであり、この新しい技術を活用して医療情報の正確性を確保しています。
一般的なAIは、質問に対して即座に回答を生成します。
通常の RAG（検索拡張生成）では、LLM が特定の関連データソースから情報を取得するプロセスを経ます。
しかし、メイヨー・クリニックの「リバース RAG」はその逆のアプローチを取ります。
具体的には、モデルが関連情報を抽出した後、すべてのデータポイントを元のソースコンテンツに関連付けるという方法です。
まず、AIが生成した要約を個々の事実に分割し、それらをソース文書と照合します。
次に、別の LLM がその事実とソースの整合性をスコアリングします。
この仕組みにより、AIの回答を事後的にチェックすることで、ハルシネーションのリスクを大幅に低減できるのです。
メイヨー・クリニックによれば、この方法により非診断的なユースケースにおけるデータ取得ベースのハルシネーションはほぼ完全に排除されたとのことです。
リバース RAG の技術的背景
メイヨー・クリニックはこの技術を実現するために「CURE（Clustering Using Representatives）アルゴリズム」と LLM、ベクトルデータベースを組み合わせています。
CURE は階層的な技術を用いて、近接性に基づいてデータをグループ化します。
このアルゴリズムは、他のデータと一致しない「外れ値」を検出する能力も持っています。
具体的な実装では、患者記録を迅速に取得できるようにベクトルデータベースを使用しています。
最初は概念実証のためにローカルデータベースを使用し、本番版では CURE アルゴリズム自体にロジックを持たせた汎用データベースを使用しているとのことです。
リバース RAG のメリットと実際の活用例
メイヨー・クリニックでは、この技術を最初に退院サマリー（退院後のケアのヒントを含む訪問のまとめ）に活用しました。
これは単純な情報抽出と要約であり、LLM が得意とする分野です。
まだ診断を行うような複雑なタスクには使用していませんが、大きな効果を上げています。
例えば、外部の医療記録を処理する際にも有効です。
複雑な問題を抱えた患者の外部記録は、異なる形式で大量のデータを含んでいることがあります。
これらを医師が初めて患者に会う前に確認し、要約する必要がありますが、これはAIが情報を抽出し、分類し、患者の概要を作成することで効率化されます。
通常、この作業は医師の1日のうち約90分を要しますが、AIを使えば約10分で完了するとのことです。
メイヨー・クリニックではこの技術に「信じられないほどの関心」があり、管理業務の負担を軽減するためにより広い実践への拡大を目指しています。
これからのAIと人間の関係性
AIの活用が進む現代社会においては「どれだけ便利か」だけでなく「どれだけ正確か」が強く問われる時代になっています。
リバース RAG のような技術は、AIをより信頼できるパートナーにするための重要なステップなのです。
メイヨー・クリニックでは、さらに高度な領域でのAI活用も視野に入れています。
例えば、Cerebras Systems と提携して患者に最適な関節炎治療法を予測するゲノムモデルを構築したり、Microsoft と画像エンコーダーや画像基盤モデルに取り組んだりしています。
医療現場でのAI活用は、診断の補助から治療方針の提案まで広がりつつあります。
しかし、患者の命を左右する重大な判断においては、情報の正確性が何よりも重要です。
リバース RAG は、医師がAIを信頼して利用するための橋渡し役となる可能性を秘めています。
メイヨー・クリニックの医療戦略担当ディレクターであり放射線科の責任者である Matthew Callstrom 氏は「患者ケアにおいて私たちが扱う複雑なデータこそ、私たちが焦点を当てている領域です」と述べています。
そして「これらのモデルには、より患者中心または患者特有のケアを提供するために、患者のケア方法や診断方法を実際に変革する信じられない能力があることを認識しています」と付け加えています。
もちろん、どれほど精度の高いAIであっても、人間の判断が完全に不要になるわけではありません。
むしろ、AIの提案を活用しつつ、最後は人間がチェックするという協働の形が、AIと共存する上での理想的な姿ではないでしょうか。
メイヨー・クリニックが採用したリバース RAG の技術は、AIと人間がより信頼関係を深め、互いの強みを生かして共に発展していくための重要な一歩であり、今後のAIの進化において、一つの重要なマイルストーンとなるでしょう。
参考：Mayo Clinic’s secret weapon against AI hallucinations: Reverse RAG in action
コメント