基于Llama 3的最强开源医疗AI模型发布，刷新榜单

news2024/9/25 23:24:40

转自：火星AIGC

一家名为Saama AI Labs发布了他们基于Llama 3 微调的开源医疗AI大模型OpenBioLLM-Llama3-70B 和 OpenBioLLM-Llama3-8B，刷新抱抱脸上的医疗大模型榜单，并占据榜首。其在生物医学领域的测试性能超越 GPT-4、Gemini、Meditron-70B、Med-PaLM-2等行业巨头。

图片

想要掌握如何将大模型的力量发挥到极致吗？叶老师带您深入了解 Llama Factory —— 一款革命性的大模型微调工具。9月22日晚，实战专家1小时讲解让您轻松上手，学习如何使用 Llama Factory 微调模型。

加助理微信提供直播链接：amliy007，29.9元即可参加线上直播分享，叶老师亲自指导，互动沟通，全面掌握Llama Factory，关注享粉丝福利，限时免费CSDN听直播后的录播讲解。

LLaMA Factory 支持多种预训练模型和微调算法。它提供灵活的运算精度和优化算法选择，以及丰富的实验监控工具。开源特性和社区支持使其易于使用，适合各类用户快速提升模型性能。

基准测试表现

OpenBioLLM-70B 展示了卓越的性能，在 9 个不同的生物医学数据集中超越了 GPT-4、Gemini、Meditron-70B和 Med-PaLM-2 等更大的模型。尽管与 GPT-4 和 Med-PaLM 相比，其参数数量较少，但它取得了最优的结果，平均得分高达 86.06%，令人印象深刻。

图片

详细的医学主题准确性的评测结果

图片

微调过程

微调过程分两个阶段进行，对使用 LLama-3 70B 和 8B 型号作为基础进行微调

1、策略优化：利用直接偏好优化DPO 数据集和微调配方。《直接偏好优化：你的语言模型实际上是一个奖励模型》arxiv.org/abs/2305.18290

图片

2、微调数据集：自定义医疗指导数据集。耗时约 4 个月收集数据，纳入 3000 个医疗保健和 10 多个医学主题数据，与医学专家合作审查其质量，并过滤掉不合格的例子。该数据集详细信息尚未发布。

官方应用示例

总结临床记录

OpenBioLLM 可以高效地分析和总结复杂的临床记录、EHR 数据和出院摘要，提取关键信息并生成简洁、结构化的病历摘要。

图片

病例摘要

**主诉：**呼吸急促，进行性加重，伴心电图异常。

相关病史：

结肠炎和憩室炎，目前正在接受治疗。

高血压病史。

心脏杂音，未定期随访。

长期呼吸急促。

体格检查：

未明确提及，但根据心电图结果推测：

二尖瓣反流严重。

大量胸腔积液。

诊断：

未明确说明，但根据心电图结果推测：

二尖瓣反流。

充血性心力衰竭（CHF）。

治疗方案：

目前药物：

速尿（利尿剂）。

钾补充剂。

肼屈嗪（抗高血压药）。

抗生素治疗。

甲状腺补充剂。

可能需要进一步评估和治疗二尖瓣反流和充血性心力衰竭。

其他信息：

患者为 86 岁女性，因腹痛和血便入院治疗。

患者活动能力有限，多年来一直呼吸急促。

患者有大量胸腔积液，但未定期随访。

有高血压病史，但无糖尿病、血脂异常病史，不吸烟。

家族史无特殊。

患者正在服用多种药物，包括：氨氯地平、卡维地洛、布洛芬。

患者不吸烟，不喝酒，无娱乐性药物使用史。

回答医疗问题

OpenBioLLM 可以为广泛的医学问题提供答案。

图片

医疗文档分类

执行各种生物医学分类任务，例如疾病预测、情感分析、医疗文档分类

图片

临床实体识别

可以通过从非结构化临床文本中识别和提取关键医学概念（例如疾病、症状、药物、手术和解剖结构）来执行高级临床实体识别。通过利用对医学术语和上下文的深刻理解，该模型可以准确地对临床实体进行注释和分类，从而从电子健康记录、研究文章和其他生物医学文本源中实现更高效的信息检索、数据分析和知识发现。此功能可以支持各种下游应用，例如临床决策支持、药物警戒和医学研究。