Medical Interpretability and Knowledge Maps of Large Language Models

该文章通过四种可解释性技术系统研究了五种大语言模型在医疗领域的知识表示与处理机制，绘制出医疗知识图谱，并发现了模型内部医疗知识编码的特殊现象，为医疗大模型的优化提供了明确方向。一、文章主要内容研究目标：探究大语言模型（LLMs）如何表示和处理医疗知识，包括患者年龄、症状、疾病、药物及剂量等核心医疗概念的存储位置与编码方式。研究对象：五种开源大语言模型，分别是Llama3.3-70B、Gemma3-27B、MedGemma-27B、Qwen-32B和GPT-OSS-120B。研究方法：采用四种独立的可解释性技术，从多维度验证医疗知识在模型中的分布：UMAP投影：将模型中间层激活值投影到低维空间，通过轮廓系数（Silhouette Score）衡量聚类效果，用局部各向异性衡量年龄编码的“一维性”。梯度显著性：计算模型权重对损失函数的梯度，评估各层权重与医疗知识的关联程度。层损伤：将模型某一层替换为恒等函数，通过GPT-4o评分评估模型响应的退化程度，判断该层对医疗知识的重要性。激活修补：替换模型某一层的激活值，通过归一化对数差异衡量该层对医疗知识表示的贡献。核心发现：知识存储位置：Llama3.3-70B的医疗知识主要存储在模型前半层；GPT-OSS-120B和Qwen-32B则相反，医疗知