Milvus×全诊通:从导诊到智能超声,如何将人效比翻倍

news2025/1/9 2:50:10

59e3e77a34d99296dd07583e806252a3.png

ed2d314bc5503e231302573b883c0aea.png

AI与智慧医疗的结合已是未来发展的必然趋势。近年来,国家卫健委推崇智慧医疗和AI技术,如智能导诊、预问诊、辅助诊断等,以提高医疗服务效率和诊断准确性,改善患者就医体验。

全诊通是一家专注于医疗SaaS和人工智能的公司,成立于2016年,其推出的基于大模型的全诊AI医疗服务智能体,覆盖患者服务、智能病例、决策辅助、医学教育等,为医疗客户提供”基础-模型、应用的一站式解决方案,旨在提升医疗服务的效率和质量。截止目前,全诊通的产品和方案已在16省成功应用,包括50+家大中型医院、100多个区县卫健局、15000+ 医疗机构。

f10969b7943aa25f596610cf8badbcc9.jpeg

01.

Milvus助力基于RAG的医学知识召回

Milvus作为整个RAG应用的向量搜索引擎及向量存储,将通用医疗知识+专有医院的医疗知识结合,服务医疗知识检索、问答场景、AI 辅助诊断等场景的RAG应用。

1.1 医疗场景下的知识问答

如“患者服务AI”应用,主要目的是减轻病人就医痛苦,为病患提供AI导诊、AI预诊、医学解答。

以就医导诊场景为例,在医院中有多个院区,病患问诊会涉及医院通用知识查询(如医院就诊流程查询、B超检查是否要空腹)和专有院区知识查询(如B超原因:消化系统问题还是妇科检查?),这就需要在全院和院区两个知识库中联合检索,以提高查询效率。Milvus为通用知识及专有院区知识建立不同分区(partition),用户咨询问题的时候,导诊系统就对这两个partition同时做search,再将结果合并反馈给大模型进行结果生成。

这将以往基于知识图谱的传统导诊升级为AI根据患者的具体描述,结合年龄、性别等信息,基于鉴别诊断逻辑对病患进行精准引导提问 ,AI基于对病情的诊断和医院科室信息的分析,精准推荐就诊科室。

例如,全诊通已经为某市第一人民医院提供了导诊+预问诊+门诊+住院+手术全场景应用,成为医生全能助手 。

1.2 AI辅助诊断

临床决策需要依赖大量医学知识和历史病例。不同医院因其类型和受众的特殊性,其擅长的领域、独特的治疗方案及对应的沉淀和规范也不尽相同,如科室通用编码、模板和优选患者病例数据,因此需要灵活的AI辅助诊断解决方案。全诊AI将各个医院/院区海量非结构化的医学文献、病例库、临床指南等数据Embedding后存入Milvus。医生在门诊接诊时,只需一键启动「全诊AI」,辅助诊断过程如下:

  • AI自动记录医患对话,将语音embeding后进行语义提取;

  • Milvus将对话语义信息作为Prompt在海量医疗指导数据特征数据中进行检索;

  • 通过RAG技术快速找到与当前患者情况相关的信息生成为医生提供实时提醒与指导。

基于RAG的AI辅助诊断颠覆了医患交流方式,显著降低错误率,确保问诊决策的全面性、准确性、实时性。

c86454ce578a2be6c43df0fb2bc6782c.png

1.3 医学图像的应用

医疗图像是医务工作中一块庞大的业务,如杭州某三甲医院每年需要处理几百万例超声检查。超声科医生在检查过程中需要同时使用双手进行操作,导致无法腾出手来写报告。为了解决这个问题,全诊AI提出了基于RAG技术和SFT(Supervised Fine-Tuning)技术结合的问答模型来提高这部分的工作效率。比如为超声图像识别和报告生成提供了一种高效、准确的端到端解决方案,实现了AI从服务患者到服务医生的转变。

RAG技术从外部知识库中检索相关的信息,并将其作为上下文提供给语言模型,增强了模型生成文本的能力。SFT技术则通过在少量已标注数据上进行再次训练与强化学习,进一步提升模型的适应性和准确性。

Milvus在这一过程中至关重要,主要负责存储和检索高维数据,如超声图像的向量表征,使得RAG技术能够快速从大量数据中检索出与查询最相关的信息。此外,Milvus还支持RAG技术在处理复杂查询和生成信息丰富的回答方面的能力,这对于医疗领域中的超声图像识别尤为重要,因为它需要准确理解和生成自然语言的指令。

这种方法可以释放掉写超声报告的双手,提高工作效率。同时,这种技术也可以应用于小医院,整体人效可以提升100%以上。

02.

医疗模式的升级带来业务效能提升

整个医疗模式从传统的知识图谱或基于专家系统规则库的方式转变为利用大型模型的新方法。而医疗模式的转变直接带来了整个医疗效能的提升。仍然以AI导诊为例,全诊通首席大模型架构师刘睿介绍道,传统AI导诊需要两个人以上一个月左右的时间完成系统设置,而现在实施时间缩短到一周左右。在人力和资源投入上,向量引擎起到了关键作用。

03.

未来探索:多模态的端到端的医疗大模型

未来,全诊通的产品目标是利用多模态技术赋能全诊AI成为医生和病患的全能助手。

过去,医院的超声模型主要采用传统的图像检测和分类技术,专注于识别图像内容、病变类型及其特性。未来,全诊通计划利用病例数据对模型进行训练。为了实现这一目标,未来将需要医疗单位将大量的病例数据存入向量数据库中,以便更有效地管理和检索这些数据。

04.

插曲:Milvus一直是向量检索场景的首选

提到为什么会选择Milvus,刘睿回忆道,在以往的工作经历中就他就接触到了Milvus,也调研了各个主流的向量检索平台,发现Milvus正好符合当时的业务需求,而选择的原因最重要的有以下三点:

  • Milvus非常优秀,以高性能、低延迟、高QPS和强大的可扩展性而著称;

  • 同时可以支持向量检索和标量过滤,既简化了查询操作,又提升了结果的准确性;

  • 分区的支持,如电商很多业务场景需要做跨库查询,用分区查询来做类似跨库查询,能保持性能。比如:搜品牌词时,过程是跨类目的,单独在一个类目里搜其实是不够的,那么这对应到医疗问答也是一样的场景。

而后来当多个业务涉及到文本搜索、图像搜索及RAG场景时,Milvus都毫无悬念地成了刘睿的不二之选。

推荐阅读

a1b1763bf9fbb139c8e75053a8c8dcef.png

9690af3459f09963d4348398cdcd6d84.png

ec30e05f0263df147c8f92b9c38424aa.png

0235eb674ef2a9b5f5a64b6f7c812607.png

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2273536.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

C#使用MVC框架创建WebApi服务接口

第一步,使用VS2019新建MVC-Web API应用程序 创建BridgeApi 第二步,运行将生成默认的示例网页,网页Url为 https://localhost:44361/home/index 右键 项目 添加 WebAPI控制器类 添加 我们可以看到App_Start目录下 有三个文件: BundleConfig.cs代表 捆绑文件的引用 有脚本文件…

跨年烟花C++代码

嘿&#xff0c;朋友们&#xff01;今天来给大家讲讲一段挺有意思的C代码呀&#xff0c;这段代码主要是用来实现一个烟花效果展示的程序哦&#xff0c;下面咱们一点点来看哈。 效果 1. 开头包含的那些头文件 #include <graphics.h> #include <conio.h> #include &…

Unity 2d描边基于SpriteRender,高性能的描边解决方案

目标 以Unity默认渲染管线为例&#xff0c;打造不需要图片内边距&#xff0c;描边平滑&#xff0c;高性能的描边解决方案 前言 在2d游戏中经常需要给2d对象添加描边&#xff0c;来突出强调2d对象 当你去网上查找2d描边shader&#xff0c;移植到项目里面&#xff0c;大概率会…

自动驾驶相关知识学习笔记

一、概要 因为想知道SIL、HIL是什么仿真工具&#xff0c;故而浏览了自动驾驶相关的知识。 资料来源《自动驾驶——人工智能理论与实践》胡波 林青 陈强 著&#xff1b;出版时间&#xff1a;2023年3月 二、图像的分类、分割与检测任务区别 如图所示&#xff0c;这些更高阶的…

“深入浅出”系列之FFmpeg:(1)音视频开发基础

我的音视频开发大部分内容是跟着雷霄骅大佬学习的&#xff0c;所以笔记也是跟雷老师的博客写的。 一、音视频相关的基础知识 首先播放一个视频文件的流程如下所示&#xff1a; FFmpeg的作用就是将H.264格式的数据转换成YUV格式的数据&#xff0c;然后SDL将YUV显示到电脑屏幕上…

日志服务 SQL 引擎全新升级

作者&#xff1a;戴志勇、顾汉杰&#xff08;执少&#xff09; SQL 作为 SLS 基础功能&#xff0c;每天承载了用户大量日志数据的分析请求&#xff0c;既有小数据量的快速查询&#xff08;如告警、即席查询等&#xff09;&#xff1b;也有上万亿数据规模的报表级分析。SLS 作为…

20250107在WIN10下使用无线ADB连接Andorid7.1.2

connected to 192.168.3.217:5555 adb shell 20250107在WIN10下使用无线ADB连接Andorid7.1.2 2025/1/7 18:12 缘起&#xff1a;公司买了一台6000-7000&#xffe5;的地面站【Andorid7.1.2】&#xff0c;需要通过ifconfig命令来获取其中的网络信息。 虽然系统是VERY非常的陈旧&a…

浙江省自然资源厅:基于“浙里办”的自然资源移动政务服务创新实践——“浙里自然资源”

摘 要&#xff1a;本文基于浙江省自然资源移动政务服务的创新实践&#xff0c;设计和实现“浙里自然资源”应用&#xff0c;依托浙江省省域空间治理数字化平台特有的架构基础&#xff0c;在提升功能性和可用性、加强运营力度、丰富服务内容等方面采取了管理举措和技术创新。通…

使用 Jupyter Notebook:安装与应用指南

文章目录 安装 Jupyter Notebook1. 准备环境2. 安装 Jupyter Notebook3. 启动 Jupyter Notebook4. 选择安装方式&#xff08;可选&#xff09; 二、Jupyter Notebook 的基本功能1. 单元格的类型与运行2. 可视化支持3. 内置魔法命令 三、Jupyter Notebook 的实际应用场景1. 数据…

NeurIPS 2024 | 像素级LLM实现图像视频理解、生成、分割和编辑大统一(昆仑万维等)

Accepted by NeurIPS 2024 文章链接&#xff1a;https://arxiv.org/pdf/2412.19806 项目链接&#xff1a;https://vitron-llm.github.io/ Github链接&#xff1a;https://github.com/SkyworkAI/Vitron 亮点直击 首次提出了一种通用的视觉多模态大语言模型&#xff08;MLLM&…

嵌入式技术之Linux(Ubuntu) 一

一、Linux入门 1.硬件和操作系统以及用户的关系 一个传感器&#xff0c;获得数据后&#xff0c;需要向服务器发送数据。传感器传数据给上位机。 上位机需要一个程序来接收数据&#xff0c;那么这个上位机是什么机器&#xff1f; 我们的笔记本电脑就可以当成上位机。 两个手…

用户界面软件02

基于表单的用户界面 在“基于表单的用户界面”里面&#xff0c;用户开始时选中某个业务处理&#xff08;模块&#xff09;&#xff0c;然后应用程序就使用一系列的表单来引导用户完成整个处理过程。大型机系统上的大部分用户界面都是这样子的。[Cok97]中有更为详细的讨论。 面…

YOLOv8/YOLOv11改进 添加CBAM、GAM、SimAM、EMA、CAA、ECA、CA等多种注意力机制

目录 前言 CBAM GAM SimAM EMA CAA ECA CA 添加方法 YAML文件添加 使用改进训练 前言 本篇文章将为大家介绍Ultralytics/YOLOv8/YOLOv11中常用注意力机制的添加&#xff0c;可以满足一些简单的涨点需求。本文仅写方法&#xff0c;原理不多讲解&#xff0c;需要可跳…

【express-generator】05-路由中间件和错误处理(第一阶段收尾)

一、前言 上篇文章我们介绍了express-generator的请求体解析&#xff0c;重点讲了常用的请求体数据格式&#xff08;JSON/URL 编码的表单数据&#xff09;以及一个FILE文件上传&#xff0c;同时搭配代码示范进行辅助理解。 二、本篇重点 我们继续第一阶段的知识&#xff0c;…

python无需验证码免登录12306抢票 --selenium(2)

提示&#xff1a;文章写完后&#xff0c;目录可以自动生成&#xff0c;如何生成可参考右边的帮助文档 [TOC](python无需验证码免登录12306抢票 --selenium(2)) 前言 提示&#xff1a;这里可以添加本文要记录的大概内容&#xff1a; 就在刚刚我抢的票&#xff1a;2025年1月8日…

深度学习驱动的蛋白质设计技术与实践

通过设计特定的蛋白质结构&#xff0c;可以实现预期的生物功能&#xff0c;如催化特定化学反应、识别和结合特定分子、调控生物信号传导等&#xff0c;为生物医学、药物研发、生物技术等领域提供重要工具和解决方案。传统的蛋白质设计方法主要依赖于已知蛋白质结构的同源建模、…

【动态重建】时间高斯分层的长体积视频

标题&#xff1a;Representing Long Volumetric Video with Temporal Gaussian Hierarchy 来源&#xff1a;浙江大学 链接&#xff1a;https://zju3dv.github.io/longvolcap/ 文章目录 摘要一、前言二、主要方法2.1 时间高斯分层2.2 高效渲染2.3 层次结构更新2.4 紧凑的外观模型…

【STM32+CubeMX】 新建一个工程(STM32F407)

相关文章&#xff1a; 【HAL库】 STM32CubeMX 教程 1 --- 下载、安装 目录 第一部分、新建工程 第二部分、工程文件解释 第三部分、编译验证工程 友情约定&#xff1a;本系列的前五篇&#xff0c;为了方便新手玩家熟悉CubeMX、Keil的使用&#xff0c;会详细地截图每一步Cu…

el-date-picker 不响应change事件的解决办法

前言 接到需要把element plus组件的日期时间选择器的input输入框展示隐藏&#xff0c;遇到点击确认按钮change事件不被触发问题&#xff0c;解决办法如下&#xff1a; ①visible-change的回调参考 即根据visible-change的方法里的回调参数进行需要操作 const visibleChange …

api开发如何在代码中使用京东商品详情接口的参数?

选择编程语言和相关工具 以 Python 为例&#xff0c;你可以使用requests库来发送 HTTP 请求获取接口数据。如果是 Java&#xff0c;可以使用OkHttp等库。 Python 示例 假设你已经安装了requests库&#xff0c;以下是一个简单的代码示例来获取和使用京东商品详情接口参数&#…