Differentiating hype from practical applications of large language models in medicine -- a primer...

文章主要内容总结本文聚焦大型语言模型（LLMs）在医学领域的应用，旨在区分其 hype 与实际价值，为医疗从业者提供参考。核心内容包括：LLMs 的本质与局限：LLMs 是基于 Transformer 架构的深度学习模型，通过大规模文本训练实现自然语言处理，但本质是“统计语言模仿者”，缺乏对客观真理的理解，仅能生成符合统计规律的输出。医学应用中的风险：存在隐私泄露（如违反 HIPAA 法规）、“幻觉”（生成虚假信息，如伪造参考文献）、数据污染（如通过“论文工厂”注入偏见）、训练数据中的偏见传播等问题。实际应用场景：包括为非技术人员提供数据查询接口、解析电子健康记录（EHR）等非结构化数据、通过嵌入聚类和检索增强生成（RAG）整合动态医学数据、生成文献摘要或文档框架、辅助解决排班等约束性问题、实时监测患者数据并预警等。核心结论：LLMs 应作为人类的辅助工具而非替代者，需在创新与风险间平衡，强调人类监督的必要性。创新点直观类比解释 LLMs 本质：通过“智能章鱼”类比（章鱼仅模仿电报信号规律却不理解语言），清晰揭示 LLMs 缺乏真正理解能力的核心局限。针对性分析医学领域风险：详细探讨医学场景特有的风险，如论文工厂对训练数据的污染、NIH 禁止使用 LLMs 生成 grant 申请等具体案例，凸显风险的实