編輯 | 1984
在醫療領域，大語言模型（Large Language Models, LLMs）憑藉其展現出的專家級醫學知識，正逐漸成為臨床決策支援工具的潛力股。然而，這種潛力背後也隱藏著重要挑戰：儘管 LLMs 在醫學考試中表現優異，但它們是否具備在實際臨床環境中所需的自我認知能力，仍是一個亟待解決的問題。
為此，來自比利時魯汶大學（Université catholique de Louvain）的研究團隊開發了 MetaMedQA 評估基準，專門用於評估 LLMs 在醫學推理中的元認知能力。
該研究以「Large Language Models lack essential metacognition for reliable medical reasoning」為題，於 2025 年 1 月 14 日釋出在《Nature Communications》。
研究背景
近年來，LLMs 在醫療領域的表現令人矚目，尤其在醫學考試和專科評估中，其表現甚至能與專業醫生比肩。
然而，現有的評估方法過於依賴準確率這一單一指標，忽視了臨床實踐中更為關鍵的安全性、透明性和自我認知能力。這種侷限性在高風險的醫療環境中尤為突出。例如，當 LLMs 處理國際疾病分類（ICD）編碼任務時，表現出的效能缺陷暴露了傳統評估框架的不足。
針對這一問題，研究團隊提出了 MetaMedQA 評估基準。透過引入置信度評分和元認知任務，該基準致力於全面評估 LLMs 在醫療推理中的表現，特別關注模型識別自身知識邊界的能力。
研究方法
核心理念與基礎理論
MetaMedQA 的核心理念在於透過引入置信度評分和不確定性量化，評估 LLMs 在醫學問題中的自我認知能力。傳統的評估方法主要關注模型的準確率，而 MetaMedQA 則進一步考察模型在面對不確定性時的表現。
具體來說，MetaMedQA 包含了虛構問題、缺失資訊問題和經過修改的問題，以測試模型在識別知識盲區和處理不確定性方面的能力。透過這些設計，MetaMedQA 能夠更真實地模擬臨床環境中的複雜決策場景，從而為 LLMs 的臨床應用提供更可靠的評估依據。
實現方案
MetaMedQA 的構建過程分為三個主要步驟。
首先，研究團隊從 MedQA-USMLE 基準中篩選出 1273 個問題，並加入了 100 個來自 Gilmorex 基準的虛構問題，這些問題涉及一個虛構的器官，用於測試模型在識別知識盲區時的表現。
接著，團隊手動稽核了所有問題，識別出 55 個因缺失資訊或格式錯誤而無法回答的問題。
最後，團隊隨機選擇了 125 個問題，對其進行了修改，包括替換正確答案、修改問題內容等，以測試模型在面對不確定性時的表現。
透過這些步驟，MetaMedQA 最終包含了 1373 個問題，每個問題有六個選項，其中只有一個正確答案。
實驗結果
研究團隊對 12 個不同規模的 LLMs 在 MetaMedQA 上進行了全面評估。實驗結果顯示，模型效能與其規模和釋出時間呈現顯著相關性。
其中，GPT-4o-2024-05-13 達到了最高的 73.3% 準確率（SEM = 1.2%），而規模較小的 Yi 1.5 9B 的準確率僅為 29.6%（SEM = 1.2%）。
圖示：模型在MetaMedQA基準上的準確率。（來源：論文）
在置信度評估方面，僅有三個模型（GPT-3.5-turbo-0125、GPT-4o-2024-05-13 和 Qwen2-72B）展現出有效調整置信度的能力。特別是 GPT-4o，其高置信度答案的準確率達到 83.2%，顯著高於中等置信度（45.9%）和低置信度（16.7%）的表現，表明其具備較好的自我評估能力。
然而，研究也發現了一個普遍問題：即使是表現最好的模型，在處理不確定性方面仍存在明顯不足。大多數模型在面對缺失資訊或虛構問題時，傾向於給出過度自信的答案，而非承認其知識限制。這種現象在處理虛構醫學概念時尤為明顯，反映出當前 LLMs 在元認知能力方面的系統性缺陷。
圖示：缺失答案召回率與整體準確率的線性迴歸。（來源：論文）
研究侷限性
儘管這項研究提供了重要發現，但仍存在幾個關鍵侷限性。
首先，即使經過改進的 MedQA 基準可能無法完全捕捉真實臨床場景中的複雜性。儘管引入了元認知能力測試，但多選題的受控性質難以完全模擬臨床實踐中的決策過程。
其次，研究採用的雙重加工理論框架可能無法準確表達臨床決策中的全部認知過程。這些侷限提示未來研究需要發展更貼近臨床實踐的評估方法。
未來的研究可能需要引入更全面的認知模型，如跨理論模型，以更好地模擬人類醫生的決策過程。
結論與展望
研究結果表明，我們需要重新思考醫療 AI 的評估標準。僅僅關注準確率的評估方法可能會掩蓋模型在實際臨床應用中的重要缺陷。特別是在處理不確定性、識別知識邊界等方面的能力，應該成為評估體系的核心組成部分。
未來的改進方向包括：開發更全面的元認知訓練方法，提升模型的自我認知能力；構建更貼近臨床實踐的評估框架，將關鍵特徵問題等新型評估方法納入其中；深化對模型認知過程的理解，探索如何將人類醫生的決策模式更好地融入 AI 系統。
這些努力將有助於構建更安全、更可靠的醫療 AI 輔助決策系統。
論文連結：https://www.nature.com/articles/s41467-024-55628-6