ArgMed-Agents：通过多个智能体论证方案增强大模型，进行可解释的临床决策推理

• • 提出背景
  • ArgMed-Agents 框架
  • • 目的
    • 解法拆解
    • 逻辑链
  • 临床讨论的论证方案（ASCD）
  • • 论证方案用于决策（ASDM）
    • 论证方案用于副作用（ASSE）
    • 论证方案用于更好的决策（ASBD）
    • 药物选择的决策
  • 全流程优化
  • • 1. 问题识别
    • 2. 解决方案设计
    • 3. 解法优化
    • 4. 细化和证明
    • 5. 四问总结

 

---

论文：ArgMed-Agents: Explainable Clinical Decision Reasoning with LLM Disscusion via Argumentation Schemes

提出背景

ArgMed-Agents 提高使用 LLMs 进行临床决策时的可解释性。

1. 问题识别：

   • 大型语言模型擅长自然语言处理，但在复杂的推理和计划任务中，特别是在临床环境中，表现不佳。
   • LLMs以难以让用户理解的方式做出决策，这可能导致信任度下降，尤其是当这些决策涉及健康时。

2. 解决方案 - ArgMed-Agents：

   • ArgMed-Agents框架利用多个代理（LLMs）相互作用，使临床决策更加可解释。
   • 这种交互涉及所谓的“自我辩论迭代”，使用“临床讨论的辩论方案”。
   • 这一方案本质上是一种结构化的方式，用来模拟临床医生的思维和推理过程。

3. 工作原理：

   • 辩论过程（代理之间的来回讨论）被可视化为一个有向图，展示了不同观点或论点的冲突或一致性。
   • 使用符号求解器来筛选这些论点，找到支持临床决策的连贯且合理的论点序列。

4. 好处：

   • ArgMed-Agents不仅提高了在复杂情境下临床决策的准确性，还使这些决策背后的推理过程对用户透明。
   • 这种透明度增加了用户的信心，因为他们可以理解决策是如何以及为什么做出的。
   • 这些代理之间的互动允许动态生成和验证论点，提高系统在复杂临床场景中的推理能力。
   • 该方法不仅提高了准确性，还增强了临床推理的可解释性和安全性，这对避免医疗决策中可能的有害错误至关重要。

5. 评估：

   • 该框架在 MedQA 和 PubMedQA 数据集上进行了零样本设置测试，显示出其在准确性和可解释性方面相比直接生成或思维链方法的有效性。

     MedQA：源自美国医学执照考试的多项选择题，包含英语、简体中文和繁体中文，题量分别为12,723，34,251和14,123。

     PubMedQA：从PubMed摘要中收集的生物医学问答数据集，任务是使用相应的摘要回答是/否/也许的研究问题。

   • ArgMed-Agents在预测准确性上接近知识基CDSS的水平，显示出较高的解释能力。

   • 推理过程的追溯性：与CoT方法相比，ArgMed-Agents提供了更加精细和完整的推理过程。

6. 问题：

   尽管LLMs在处理复杂临床场景时展现出潜力，但在深度推理和可靠决策制定方面仍面临挑战，ArgMed-Agents通过引入论证和迭代讨论的方法，旨在提高决策的准确性和透明度。

   • 错误推理：当ArgMed-Agents未能产生符合临床标准的决策时，往往是因为系统可能忽视了关键医学信息或误解了数据，导致推理错误。

     情景：假设一个使用ArgMed-Agents的临床决策情境中，有一个患者报告了持续性胸痛。系统初步推荐进行心电图（ECG）和心脏超声检查。

     问题：系统未能生成接受的决策，推荐了不适当的检查流程。

     错误推理：ArgMed-Agents可能没有考虑到患者的完整病史，如已知的消化性溃疡，这可能导致误解胸痛的原因，错误地将其归咎于心脏问题而非胃部问题。

     分析方法：在此案例中，通过分析系统未能考虑消化性溃疡的数据点，揭示了系统在整合患者历史信息方面的缺陷，这种信息对正确诊断至关重要。

   • 冲突和知识不足：ArgMed-Agents面对医学知识中的广泛冲突时，必须能够精确地分辨和整合这些矛盾信息，这是确保其推理准确性的关键挑战。

     情景：在处理一种罕见疾病的治疗方案时，ArgMed-Agents需要在几种潜在的治疗选项中做出选择。

     问题：存在多个相互冲突的治疗建议，如一项研究推荐使用药物A，而另一项研究则显示药物B更有效。

     冲突处理：ArgMed-Agents在分析这些研究时发现了知识冲突。系统需要决定哪些研究结果是更可靠的，这要求系统不仅要分析数据的质量，还要考虑研究的样本大小、实验设计和结果的统计显著性。

     挑战：ArgMed-Agents面临的挑战是如何整合这些冲突的信息，并生成一个逻辑上一致和医学上可靠的治疗建议。在这种情况下，系统可能需要额外的算法支持，来评估各项研究的权威性和适用性。

这种方法试图弥合医疗保健中机器学习常见的“黑箱”性质与需要透明、可理解的决策过程之间的差距，从而获得临床医生和患者的信任。

ArgMed-Agents 框架

这张图展示了使用ArgMed-Agents框架在MedQA USMLE数据集上的一个临床问题的完整推理过程。

图中详细阐述了如何通过不同的代理（生成器、验证器和推理器）以及符号求解器，来处理一个48岁女性患者面临的睡眠困难、食欲减退和情绪低落的临床案例。

主要组成部分和步骤：

1. 问题描述：

   • 48岁女性患有失眠、食欲减退、情绪低落等症状。问题要求决定最合适的治疗选项。

2. 论证框架（Argumentation Framework）：

   • 字母A、B、C、D代表由生成器产生的不同的治疗推荐及其论证。
   • 框架中的节点显示了各个论点之间的支持或反对关系。

3. 生成器（Generator）：

   • 提出初步治疗建议和理由。例如，节点A和C提出使用特定药物的理由。

4. 验证器（Verifier）：

   • 对每个治疗建议提出关键问题，如药物可能带来的副作用，以及是否有更好的治疗方法。
   • 验证器检查生成器提出的论点，通过问答形式验证这些论点的合理性。

5. 符号求解器（Symbolic Solver）：

   • 分析论证框架中的逻辑关系，帮助推理器确定最终的治疗决策。
   • 负责处理论证中的逻辑关系，找出一组合理且一致的论点。

6. 推理器（Reasoner）：

   • 基于符号求解器的分析结果，决定最终的治疗建议。在这个例子中，最终推荐了Trazodone作为治疗方案。

7. 决策输出：

   • 最终的决策是推荐使用Trazodone治疗。

这张图非常详细地展示了ArgMed-Agents如何在一个复杂的医疗决策环境中工作，通过迭代的论证和关键问题检验来提高治疗建议的准确性和可解释性。

 

目的

ArgMed-Agents 框架的主要目的是提升大型语言模型（LLM）在临床决策中的解释能力，通过模拟临床讨论过程，使决策过程更加透明，从而不需要专家直接编码知识，即可实现复杂的临床推理。

解法拆解

ArgMed-Agents 框架的解决方案可分为几个具体的子解法，每个子解法都针对框架的一个关键功能设计，以确保整个系统的有效运行。

1. 子解法1：生成器（Generator）

   • 特征：根据当前临床情境生成相关论点。
   • 原因：生成器可以动态捕捉临床环境的变化，并提出初始的诊断或治疗建议，是启动论证过程的第一步。

2. 子解法2：验证器（Verifier）

   • 特征：检查生成的论点，并通过提问和回答关键问题（CQs）来验证论点的准确性。
   • 原因：验证器通过反复的质疑和自我验证过程，确保每个生成的论点都经得起逻辑和事实的考验，增强决策的可靠性。

3. 子解法3：推理器（Reasoner）

   • 特征：装备有符号求解器，负责记录论证过程，并在所有论点中识别出支持和反对的关系，最终构建出一整套的论证框架。
   • 原因：推理器能够综合考虑所有论点的合理性和相关性，通过精确的计算找出最终的决策支持论点，确保决策的一致性和逻辑严密性。

逻辑链

这些子解法之间形成了一个复杂的逻辑网络，其中生成器、验证器和推理器相互依赖，共同作用，形成了一个闭环的决策支持系统：

• 生成器 提出初步论点 →
• 验证器 对这些论点进行验证，反馈问题 →
• 生成器 根据反馈修改或提出新的论点 →
• 推理器 分析所有论点，构建最终的论证框架 →
• 输出 最终决策支持。

这种设计不仅模拟了临床讨论的动态过程，也利用了LLM在处理大量数据和复杂逻辑时的优势，通过递归和迭代的方式提炼出最合理的决策建议。

以MedQA中18岁女性患者的头痛病例为例，ArgMed-Agents如何应用上述定义和框架进行决策：

1. 生成器 提出头痛可能的治疗药物（如普萘洛尔或维拉帕米）。
2. 验证器 对这些治疗方案提出可能的副作用和其他患者情况的影响。
3. 推理器 分析所有的论点和证据，确定最终推荐使用哪种药物。

这个过程展示了如何通过ArgMed-Agents框架将复杂的临床讨论转化为具体的、可操作的医疗决策建议。

临床讨论的论证方案（ASCD）

针对临床讨论不同方面的不同方案：

• 决策论证方案（ASDM）：专注于构建专门用于临床设置中决策的论证结构。
• 副作用论证方案（ASSE）：针对治疗副作用相关的论点。
• 危险呼吁论证方案（ASDA）：用于构建关于临床场景中潜在危险或关键问题的论点。

这张图展示了一个结构化的论证方案模型，用于医学决策。

它包含三种不同的论证方案，它们相互联系，共同帮助形成关于治疗决策的理性论证：

1. 论证方案用于决策（ASD）：

   • 前提：基于病人的具体情况（Fact F），目标是实现某一目标（Goal G），并且认为决策D可以推动这一目标。
   • 结论：应考虑决策D。
   • 关键问题（CQ）：
     • CQ1：是否有证据支持决策D能推动目标G？
     • CQ2：决策D是否引起了患者的副作用？
     • CQ3：通过实施决策D能否实现目标G？
     • CQ4：是否有其他决策可以实现同样的目标G？

2. 论证方案用于副作用（ASSE）：

   • 前提：考虑到病人的具体情况和决策D导致的副作用SE。
   • 结论：应谨慎使用决策D。
   • 关键问题：
     • CQ1：是否有证据支持决策D导致副作用SE？
     • CQ2：这种副作用SE是否不可接受？
     • CQ3：是否有办法减轻观察到的副作用？

3. 论证方案用于更好的决策（ASBD）：

   • 前提：鉴于决策D1和D2，以及病人的具体情况，对于目标G，决策D2比D1更好。
   • 结论：应考虑决策D2。
   • 关键问题：
     • CQ1：是否有证据支持决策D2比D1更能推动目标G？

图中还显示了这些论证方案之间的联系，如从一个方案派生出新的目标或额外的考虑因素，这有助于更全面地评估每一决策的利弊，以及它们对治疗结果的潜在影响。

这种结构化的方法使得医疗决策过程更加透明和有条理，有助于医生做出更加明智的治疗选择。

论证方案用于决策（ASDM）

案例背景：
患者事实（F）：患者是一位30岁的女性，近期经常感到疲劳、心跳加速和体重减轻。

目标（G）：确定患者的症状背后的原因，并提出有效的治疗方案。

决策（D）：进行甲状腺功能检测，以确定是否为甲状腺功能亢进。

论证方案应用：

1. 前提1：患者报告疲劳、心跳加速和体重减轻。
2. 前提2：目标是诊断出引起这些症状的疾病。
3. 前提3：这些症状可能是甲状腺功能亢进的表现。

结论：应该对患者进行甲状腺功能检测。

关键问题解析：

• CQ1：有没有证据支持这些症状可能与甲状腺功能亢进相关？

  • 医生需要考虑这些症状与甲状腺功能亢进的典型症状是否相匹配，以及是否有足够的流行病学支持和文献复习来支持这一决策。

• CQ2：进行甲状腺功能测试有没有可能对患者造成不利影响？

  • 考虑检测的副作用或误诊的风险。

• CQ3：通过进行甲状腺功能检测，可以确定患者的病因吗？

  • 分析这种检测的准确性和在此情况下的诊断价值。

• CQ4：有没有其他检查或方法可以达到同样的诊断目标？

  • 探讨是否需要进行其他激素水平测试，或是进行影像学检查等。

通过回答这些关键问题，医生可以更全面地评估是否进行甲状腺功能检测的必要性和可能性。

这个过程不仅帮助医生做出更为精确的诊断，也使患者对治疗决策过程感到更加明确和安心。

这种结构化的决策论证方法确保了医疗决策的透明度和科学性。

论证方案用于副作用（ASSE）

案例：
在决定使用吗啡后，医生和患者讨论其副作用：

• 前提：患者有心脏病史（Fact F），吗啡可能引起心脏并发症（Side Effect SE）。
• 结论：应谨慎使用吗啡。
• 关键问题：
  • CQ1：心脏并发症是吗啡的已知副作用。
  • CQ2：对于有心脏问题的患者，这种副作用可能是不可接受的。
  • CQ3：讨论使用降低剂量或监测心脏功能的方法来减轻这一副作用。

论证方案用于更好的决策（ASBD）

案例：
医生考虑另一种药物，比如布洛芬来治疗慢性疼痛，比较吗啡和布洛芬：

• 前提：布洛芬对患者心脏影响较小，适合心脏病史患者（D2），与吗啡（D1）相比。
• 结论：应考虑布洛芬作为更安全的替代品。
• 关键问题：
  • CQ1：研究表明布洛芬对慢性疼痛也有治疗效果，但对心脏的影响较小，适合心脏问题患者使用。

药物选择的决策

这张图展示的是ArgMed-Agents系统如何通过一个复杂的论证过程来处理关于药物选择的决策。

具体来说，图中的各个节点和箭头代表了不同药物的推荐及其逻辑关系，这有助于医生或决策者理解为什么某些药物被推荐或排除。

药物和考量因素

• 节点A, B, C, D, E：这些节点代表不同的药物及其相关的考量因素。例如：
  • A：丙戊酸（Valproic acid），被考虑因为它是一种抗癫痫药，也有情绪稳定的效果。
  • B：心得安（Propranolol），一种β阻滞剂，可能被考虑用于治疗某些与焦虑相关的生理症状。
  • C：维拉帕米（Verapamil），一种钙通道阻滞剂，用于治疗高血压和心脏病，但也可能对情绪有影响。
  • D 和 E：可能指出了某些药物的潜在副作用或者特定患者情况下的使用警告。

箭头（支持或反对关系）

• 箭头方向：表示一个节点（药物或考量因素）是如何影响另一个节点的决策。例如，如果箭头从D指向A，这可能意味着由于D节点描述的风险或副作用，A药物的选择被视为不适合。
  • 这可以表示为：使用丙戊酸（A）的决策需要考虑其潜在的副作用或风险（D），如肝脏毒性或畸形风险。

结合推理过程

• 符号求解器 和 推理器：这些组件帮助系统综合考虑所有的信息（即所有节点和箭头），并生成一个综合推荐。例如，符号求解器可能分析所有的支持和反对关系，帮助推理器确定最终的药物推荐。

通过这种方式，ArgMed-Agents不仅提供了特定药物的推荐，还阐明了每种推荐背后的医学逻辑，使决策过程更加透明和可靠。

这对于确保医疗决策的安全性和有效性至关重要，尤其是在涉及多种可能治疗方案和复杂患者状况的情况下。

全流程优化

要实现一个从问题到解决方案的全流程分析，我们可以将其应用到ArgMed-Agents的临床决策推理过程。

1. 问题识别

• 问题：在临床决策中，医生需要在复杂的医疗信息和多种治疗选项中做出最佳选择。
• 特征分析：识别问题的关键是理解患者的病情特征和与之相关的治疗选项的潜在效果与风险。

2. 解决方案设计

• 基本解法：使用ArgMed-Agents框架通过多代理协作模拟临床讨论，利用生成器、验证器和推理器来迭代推理。
• 子特征-子解法：
  1. 生成器：根据患者的具体症状和医学知识生成初步治疗建议。
  2. 验证器：对生成的治疗建议提出关键问题，验证其医学适应性和潜在风险。
  3. 推理器：综合所有有效信息，使用符号求解器决定最合适的治疗方案。

3. 解法优化

• 直接特征挖掘：通过深入分析每个药物的作用机理和患者的具体反应，直接从医学文献和临床数据中提取关键信息。

• 优化子解法：对生成器和验证器的反馈机制进行改进，确保能更快更准确地反应患者状况和最新医疗研究成果。

• 对比分析替换解法：

  • 比较不同药物治疗方案的效果和副作用，优化治疗方案选择。
  • 通过模拟不同的治疗方案应用场景，评估其在实际临床环境中的表现。

• 增强个性化：从其他领域借鉴成功策略，如在个性化教育平台中使用的自适应学习算法，以增强ArgMed-Agents从每次患者互动中学习，从而个性化和改进其诊断算法。

• 增强安全性：严格质疑ArgMed-Agents的每一个决策过程环节，以识别潜在的偏见或伦理问题。这种质疑可以导致开发一个伦理审查功能，确保所有建议都遵循最新的医疗标准和伦理指南。

4. 细化和证明

• 环节优化：通过迭代测试和用户反馈，对ArgMed-Agents的决策模型进行细化，增强其在特定病例下的适应性和准确性。
• 整体与局部优化：确保每个代理在其职能范围内都达到最优表现，同时整体框架能有效协调各代理的操作，最大化决策效果。
• 证明：通过与传统决策支持系统的对比实验，验证ArgMed-Agents在实际应用中提供更高准确性和更好解释性的决策。

这样的全流程分析不仅提升了临床决策的效率和安全性，也通过持续的优化和验证确保了解决方案的科学性和实用性。

5. 四问总结

第一步：我听到什么？

• 内容概述：ArgMed-Agents是一个多代理框架，结合了大型语言模型（LLMs）来提供解释性的临床决策支持。系统通过模拟临床讨论的形式，整合生成器、验证器和推理器这三种角色，不断迭代，以形成合理且连贯的治疗建议。
• 功能复述：ArgMed-Agents通过对临床情境的深入分析，生成关于患者治疗的多种建议，这些建议经过验证和推理过程的筛选，最终提供最合适的治疗方案。

第二步：我想到什么？

• 发现模式：ArgMed-Agents利用的是一个基于争论和批判性思维的决策过程，类似于人类专家团队在面对复杂医疗案例时的讨论方式。模型背后的模式是利用人工智能来模仿和扩展人类的决策过程，尝试通过增加透明度和可解释性来减少对人类专家的依赖。
• 碎片知识的整合：系统将医学知识、患者数据和治疗效果的碎片信息综合起来，通过算法处理生成有助于决策的连贯知识。

第三步：我变成什么？

• 调整与改变：虽然ArgMed-Agents模拟了专家的决策过程，但它可能在处理极端或非典型病例时需要调整。这需要对现有算法进行微调，以适应更广泛的临床情况，或是加入更多的人工干预，确保决策的准确性和适用性。
• 模型的优化：考虑到每个临床案例的独特性，ArgMed-Agents需要更灵活的学习机制，以便不断从新的临床实践中学习并优化其推理模型。

第四步：我用到哪里？

• 实际应用：通过在医院和诊所部署ArgMed-Agents，可以帮助医生在诊断和治疗决策中减轻负担，尤其是在资源有限或需快速决策的环境中。此外，它也可以用作医学教育工具，帮助医学生和年轻医生通过模拟案例学习临床推理。
• 持续改进：根据实际使用中收集的反馈，不断调整和改进ArgMed-Agents的功能，使其更贴近临床需求，同时也在医疗人工智能领域推广这一新模式。