SAM(segment anything model)分割一切 Demo测试及API调用

news2024/11/16 5:47:27

SAM 分割一切

  • 一，SAM介绍
    • 1.1 介绍
    • 1.2 项目链接
  • 二，Demo-Test：
    • 2.1 Demo功能介绍
      • 2.1.1，首页就是这个SAM，点击try demo，可以选择它的自带图片，也可以自己添加。
      • 2.1.2 , 自己上传图片测试：
  • 三：Code-Test
    • 3.1 下载：
    • 3.2 配置环境：
    • 3.3 下载预训练模型：
    • 3.4 SAM模型的使用方法
      • 3.4.1 导入相关库并定义显示函数
      • 3.4.2 导入待分割图片
    • 3.5 使用不同提示方法进行目标分割
      • 3.5.1 方法一：使用单个提示点进行目标分割
      • 3.5.2 方法二：使用多个提示点进行目标分割
      • 3.5.3 方法三：用方框指定一个目标进行分割
      • 3.5.4 将点与方框结合，进行目标分割
      • 3.5.5 方法五：多个方框同时输入，进行多目标分割
  • 四，扩展阅读：
  • 五，参考文章：

一，SAM介绍

1.1 介绍

Meta发布一种新的语义分割模型，Segment Anything Model (SAM)。仅仅3天时间该项目在Github就收获了1.8万个star,火爆程度可见一斑。有人甚至称之为CV领域的GPT时刻。SAM都做了什么让大家如此感兴趣？

-SAM与传统单纯的语义分割方式不同，加入了Prompt机制，可以将文字、坐标点、坐标框等作为辅助信息优化分割结果，这一方面增加了–交互的灵活性，另一方面这也是解决图像分割中尺度问题的一次有益尝试。
-当在识别要分割的对象时遇到不确定性，SAM 能够生成多个有效掩码。
-SAM 的自动分割模式可以识别图像中存在的所有潜在对象并生成蒙版。
-贡献了目前全球最大的语义分割数据集。

关于更多SAM知识可以阅读论文或者文章最后知乎话题链接。

1.2 项目链接

项目地址：
https://github.com/facebookresearch/segment-anything
在这里插入图片描述

论文名称与地址：Segment Anything
https://arxiv.org/pdf/2304.02643.pdf
在这里插入图片描述
Demo地址：https://segment-anything.com/
在这里插入图片描述

二，Demo-Test：

在这里将尝试使用Dome进行简单测试：进入网址：https://segment-anything.com/

2.1 Demo功能介绍

2.1.1，首页就是这个SAM，点击try demo，可以选择它的自带图片，也可以自己添加。

在这里插入图片描述
当你进入体验页面时，网页左侧有四个选项。下面一一介绍：
在这里插入图片描述
（1） Hover &Click: 这个选项可以悬浮划过鼠标，看每个物体的分割效果，也可以点击想要提取的物体，根据你点击的点，自动提取物体范围生成边缘。
在这里插入图片描述
（2） Box：框住想选的物体，识别物体边缘。
在这里插入图片描述
（3） Everything: 识别出图像中所有的物体，并分割。
在这里插入图片描述
（4） Cut-outs:当你在前三个选项里选择Cut out Object后，将会在这个选项里得到分割后的物体
在这里插入图片描述

2.1.2 , 自己上传图片测试：

自然图像：
在这里插入图片描述
在这里插入图片描述
医学图像：
该图片是测试图片，从网站上下载的。
在这里插入图片描述
在这里插入图片描述
以上就是体验部分的全部。
因为官方的代码是开源的，所以也可以在python里进行安装和调用。
第三节主要讲如何进行配置环境以及简单的调用方法，并测试医学图像效果。

三：Code-Test

3.1 下载：

从github上下载开源项目到本地：https://github.com/facebookresearch/segment-anything

3.2 配置环境：

该代码需要python>=3.8，以及pytorch>=1.7和torchvision>=0.8
先安装一些基础依赖
pip install opencv-python pycocotools matplotlib onnxruntime onnx

(可能在下载环境依赖的时候，出现问题，可以分开多次下载以上基础依赖)

3.3 下载预训练模型：

下载安装完成以及配置环境完成后，需要先下载官方训练好的模型，一共有三个选择，官方说法是有不同长度的主干网络:
这里一共提供了H、L、B三种不同size的模型。
链接：https://github.com/facebookresearch/segment-anything#model-checkpoints
在这里插入图片描述

在项目里建models文件夹，并把三个模型放入，便于后面调用：测试文档见：test_seg.py
整个项目文档，包括三个模型，下述代码，都已放到网盘上，有需要的可以整体下载，可能比较大，因为上述预训练好的大模型就已经2.4G：
各位好兄弟感觉这篇文章有用的话，帮忙点个赞！！！

百度网盘链接：
链接：https://pan.baidu.com/s/1Eg3paKLOXh5dtAgJ-DCccg
提取码：rd6e

在这里插入图片描述

3.4 SAM模型的使用方法

3.4.1 导入相关库并定义显示函数

下面导入了运行所需的第三方库，以及定义了用于展示点、方框以及分割目标的函数。

import numpy as np
		import torch
		import matplotlib.pyplot as plt
		import cv2
		
		def show_mask(mask, ax, random_color=False):
		    if random_color:
		        color = np.concatenate([np.random.random(3), np.array([0.6])], axis=0)
		    else:
		        color = np.array([30/255, 144/255, 255/255, 0.6])
		    h, w = mask.shape[-2:]
		    mask_image = mask.reshape(h, w, 1) * color.reshape(1, 1, -1)
		    ax.imshow(mask_image)
		    
		def show_points(coords, labels, ax, marker_size=375):
		    pos_points = coords[labels==1]
		    neg_points = coords[labels==0]
		    ax.scatter(pos_points[:, 0], pos_points[:, 1], color='green', marker='*', s=marker_size, edgecolor='white', linewidth=1.25)
		    ax.scatter(neg_points[:, 0], neg_points[:, 1], color='red', marker='*', s=marker_size, edgecolor='white', linewidth=1.25)   
		    
		def show_box(box, ax):
		    x0, y0 = box[0], box[1]
		    w, h = box[2] - box[0], box[3] - box[1]
		    ax.add_patch(plt.Rectangle((x0, y0), w, h, edgecolor='green', facecolor=(0,0,0,0), lw=2))

3.4.2 导入待分割图片

image = cv2.imread('test.jpg')
		image = cv2.cvtColor(image, cv2.COLOR_BGR2RGB)
		
		plt.figure(figsize=(10,10))
		plt.imshow(image)
		plt.axis('on')
		plt.show()

在这里插入图片描述

3.5 使用不同提示方法进行目标分割

首先，加载SAM预训练模型

import sys
		sys.path.append("..")
		from segment_anything import sam_model_registry, SamPredictor
		
		sam_checkpoint = "./models/sam_vit_b_01ec64.pth"
		model_type = "vit_b"
		
		device = "cpu"  # or  "cuda"
		
		sam = sam_model_registry[model_type](checkpoint=sam_checkpoint)
		sam.to(device=device)
		
		predictor = SamPredictor(sam)

通过调用SamPredictor.set_image函数，将输入的图像进行编码，SamPredictor 会使用这些编码进行后续的目标分割任务。

predictor.set_image(image)

在图片上,选择一个点。点的输入格式为(x, y)和并表示出点所带有的标签1(前景点)或0(背景点)。可以输入多个点，在这里我们先只用一个点，选择的点会显示为一个五角星的标记。

3.5.1 方法一：使用单个提示点进行目标分割

# 单点 prompt  输入格式为(x, y)和并表示出点所带有的标签1(前景点)或0(背景点)。
		input_point = np.array([[270, 240]])  # 标记点
		input_label = np.array([1])  # 点所对应的标签
		
		plt.figure(figsize=(10,10))
		plt.imshow(image)
		show_points(input_point, input_label, plt.gca())
		plt.axis('on')
		plt.show()

在这里插入图片描述
用 SamPredictor.predict进行分割，模型会返回这些分割目标对应的置信度。

masks, scores, logits = predictor.predict(
	    point_coords=input_point,
	    point_labels=input_label,
	    multimask_output=True,
	)

参数说明：
point_coords: 提示的坐标点位置
point_labels: 提示点对应的类型，1前景，0背景
boxes: 提示的方框
multimask_output: 多目标输出还是但目标输出True or False
multimask_output=True （默认），SAM模型会输出3个分割目标和对应的置信度scores。这个设置主要是用于面对歧义的提示点，因为一个提示点可能在多个分割的目标内部，multimask_output=True 能够将包含该提示点的所有目标都分割出来。
如下面示例所示：2种车窗户、还有整个车均包含了五角星的提示点。

输出置信度不同的分割图：

print(masks.shape)  # (number_of_masks) x H x W
		
		# 三个置信度不同的图
		for i, (mask, score) in enumerate(zip(masks, scores)):
		    plt.figure(figsize=(10,10))
		    plt.imshow(image)
		    show_mask(mask, plt.gca())
		    show_points(input_point, input_label, plt.gca())
		    plt.title(f"Mask {i+1}, Score: {score:.3f}", fontsize=18)
		    plt.axis('off')
		    plt.show()

在这里插入图片描述

3.5.2 方法二：使用多个提示点进行目标分割

单个提示点通常会存在歧义的影响，因为可能多个目标均包含该点。为了得到我们想要的单个目标，我们可以在目标上进行多个点的提示，以获取该目标的分割结果。如果我们想要剔除，可以使用背景点（label=0），将其他部分剔除掉。

多点prompt

input_point = np.array([[270, 240], [260, 240]])
		input_label = np.array([1, 1])
		
		mask_input = logits[np.argmax(scores), :, :]  # Choose the model's best mask
		
		masks, _, _ = predictor.predict(
		    point_coords=input_point,
		    point_labels=input_label,
		    mask_input=mask_input[None, :, :],
		    multimask_output=False,
		)
		
		print(masks.shape)
		
		plt.figure(figsize=(10,10))
		plt.imshow(image)
		show_mask(masks, plt.gca())
		show_points(input_point, input_label, plt.gca())
		plt.axis('off')
		plt.show()

在这里插入图片描述

3.5.3 方法三：用方框指定一个目标进行分割

SAM模型可以用一个方框作为输入，格式为[x1,y1,x2,y2]。来进行单个目标的分割，如下面所示，通过方框对车的轮子进行分割。

# 方框prompt SAM模型可以用一个方框作为输入，格式为[x1,y1,x2,y2],左上，右下。来进行单个目标的分割
			
			def box_prompt():
			    input_box = np.array([200, 200, 370, 290])
			
			    masks, _, _ = predictor.predict(
			        point_coords=None,
			        point_labels=None,
			        box=input_box[None, :],
			        multimask_output=False,
			    )
			
			    plt.figure(figsize=(10, 10))
			    plt.imshow(image)
			    show_mask(masks[0], plt.gca())
			    show_box(input_box, plt.gca())
			    plt.axis('off')
			    plt.show()

在这里插入图片描述

3.5.4 将点与方框结合，进行目标分割

通过方框和点配合使用，更加准确。

 #将点与方框结合，进行目标分割
		def box_point_prompt():
		    input_box = np.array([200, 200, 370, 290])
		    input_point = np.array([[270, 240]])
		    input_label = np.array([1])
		
		    masks, _, _ = predictor.predict(
		        point_coords=input_point,
		        point_labels=input_label,
		        box=input_box,
		        multimask_output=False,
		    )
		
		    plt.figure(figsize=(10, 10))
		    plt.imshow(image)
		    show_mask(masks[0], plt.gca())
		    show_box(input_box, plt.gca())
		    show_points(input_point, input_label, plt.gca())
		    plt.axis('off')
		    plt.show()

在这里插入图片描述

3.5.5 方法五：多个方框同时输入，进行多目标分割

通过同时输入多个方框，可用于分割不同方框中的目标。

多个方框同时输入，进行多目标分割

def multi_box_prompt():
	
	    input_boxes = torch.tensor([
	        [200, 200, 350, 290],
	        [220, 300, 290, 340],
	
	    ], device=predictor.device)
	
	    transformed_boxes = predictor.transform.apply_boxes_torch(input_boxes, image.shape[:2])
	    masks, _, _ = predictor.predict_torch(
	        point_coords=None,
	        point_labels=None,
	        boxes=transformed_boxes,
	        multimask_output=False,
	    )
	    print(masks.shape)  # x H x W
	
	    plt.figure(figsize=(10, 10))
	    plt.imshow(image)
	    for mask in masks:
	        show_mask(mask.cpu().numpy(), plt.gca(), random_color=True)
	    for box in input_boxes:
	        show_box(box.cpu().numpy(), plt.gca())
	    plt.axis('off')
	    plt.show()

在这里插入图片描述

以上便是SAM模型的使用方法，可以通过不同的提示方式得到不同的分割结果。总体来说，效果还是很不错的，关键是居然还可以在CPU环境下快速运行。

四，扩展阅读：

分割一切还不够，还要检测一切、生成一切，SAM二创开始了
https://github.com/IDEA-Research/Grounded-Segment-Anything

五，参考文章：

介绍：
SAM - 分割一切图像【AI大模型】
https://blog.csdn.net/shebao3333/article/details/130037926
【segment-anything】- Meta 开源万物可分割 AI 模型 - Taylor的文章 -
知乎 https://zhuanlan.zhihu.com/p/620004338
知乎话题：Meta 发布图像分割论文 Segment Anything，将给 CV 研究带来什么影响？

  • 知乎 https://www.zhihu.com/question/593914819
    话题：
    Meta 发布 AI 模型 SAM，有哪些技术亮点？
  • 知乎 https://www.zhihu.com/question/593996820
    Segment Anything Model (SAM)——卷起来了，那个号称分割一切的CV大模型他来了
    https://blog.csdn.net/Together_CZ/article/details/129991631
    代码：
    【CV大模型SAM（Segment-Anything）】真是太强大了，分割一切的SAM大模型使用方法:可通过不同的提示得到想要的分割目标
    https://blog.csdn.net/qq_42589613/article/details/130061434
    Meta 发布图像分割论文 Segment Anything，将给 CV 研究带来什么影响？ - Glenn的回答 - 知乎 https://www.zhihu.com/question/593914819/answer/2971671307
    SAM的使用体验和方法（简略教程） - 沈熙载的文章 - 知乎 https://zhuanlan.zhihu.com/p/620013907

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/442728.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

[java基础]面向对象(五)

[java基础]面向对象(五)

访问控制修饰符：--------------保护数据的安全(隐藏数据、暴露行为)，实现封装 public：公开的，任何类 private：私有的，本类 protected：受保护的，本类、派生类、同包类 默认的&…
阅读更多...
learn_C_deep_3 (最名不符实的关键字 - static、static关键字总结、基本数据类型、最冤枉的关键字 - sizeof）

learn_C_deep_3 (最名不符实的关键字 - static、static关键字总结、基本数据类型、最冤枉的关键字 - sizeof）

目录 最名不符实的关键字 - static stati修饰全局变量和函数 static修饰局部变量 static关键字总结 几个问题 1.c语言要设置全局变量和函数可以跨文件使用的原因 2.C程序地址空间是什么样的？ 3.局部变量为什么具有临时性 4.全局变量为什么具有全局性 5.为…
阅读更多...
vue-cli版本号始终是2.9.6，且无法删除，安装更新无效的问题。

vue-cli版本号始终是2.9.6，且无法删除，安装更新无效的问题。

参考博客 目录 1.问题出现原因2.我的解决办法：删除原脚手架&删除原vuevue.cmd 1.问题出现原因 从各种博客我得知，这种问题出现在2处： 没有卸载原来的脚手架原来的vue和vue.cmd没删除干净 2.我的解决办法：删除原脚手架&…
阅读更多...
[oeasy]python0135_命名惯用法_name_convention

[oeasy]python0135_命名惯用法_name_convention

命名惯用法 回忆上次内容 上次 了解了isidentifier的细节 关于 关键字关于 下划线 如何查询 变量所指向的地址？ id 如何查询 已有的各种变量？ locals 如果 用一个变量a的值 给另一个变量b 赋值是什么样的过程 呢？？🤔…
阅读更多...
Kernel 超时计时

Kernel 超时计时

阅读更多...
当，Kotlin Flow与Channel相逢

当，Kotlin Flow与Channel相逢

前言 之前的文章已经分析了Flow的相关原理与简单使用，Flow之所以用起来香，Flow便捷的操作符功不可没，而想要熟练使用更复杂的操作符，那么需要厘清Flow和Channel的关系。 本篇文章构成： 1. Flow与Channel 对比 1.1 Fl…
阅读更多...
AVL树(C++实现)

AVL树(C++实现)

文章目录 AVL树的概念AVL树结点定义AVL树的插入AVL树的旋转左单旋右单旋左右单旋右左双旋 AVL树的验证AVL树的性能AVL树及测试完整代码 AVL树的概念 二叉搜索树虽然可以缩短查找的效率,但如果数据有序或接近有序,那么二叉搜索树将退化为单支树,查找元素则相当于在顺序表中搜索…
阅读更多...
从零手写Resnet50实战——利用 torch 识别出了虎猫和萨摩耶

从零手写Resnet50实战——利用 torch 识别出了虎猫和萨摩耶

大家好啊，我是董董灿。 自从前几天手写了一个慢速卷积之后（从零手写Resnet50实战—手写龟速卷积），我便一口气将 Resnet50 中剩下的算法都写完了。 然后，暴力的，按照 Resnet50 的结构，将手写的…
阅读更多...
【Flowable】Flowable基础表结构

【Flowable】Flowable基础表结构

1.表结构讲解 表结构创建文件：flowable-engine-6.3.0.jar!\org\flowable\db\create\flowable.mysql.create.engine.sql 工作流程的相关操作都是操作存储在对应的表结构中，为了能更好的弄清楚Flowable的实现原理和细节，我们有必要先弄清楚Fl…
阅读更多...
Python边缘检测之prewitt, sobel, laplace算子

Python边缘检测之prewitt, sobel, laplace算子

文章目录 滤波算子简介具体实现测试 滤波算子简介 ndimage中提供了卷积算法，并且建立在卷积之上，提供了三种边缘检测的滤波方案：prewitt, sobel以及laplace。 在convolve中列举了一个用于边缘检测的滤波算子，统一维度后&#xf…
阅读更多...
es6 const的使用

es6 const的使用

1.const用来定义常量&#xff0c;赋值知乎不能再赋值&#xff0c;再次赋值会报错。 <script>//1.定义常量&#xff0c;赋值后不能再赋值&#xff0c;在赋值报错const count 1// count 2</script> ​ 2.const不能只声明不赋值&#xff0c;会报错。 <script>…
阅读更多...
智能学习 | MATLAB实现CS-BP多变量时间序列预测（布谷鸟搜索算法优化BP神经网络）

智能学习 | MATLAB实现CS-BP多变量时间序列预测（布谷鸟搜索算法优化BP神经网络）

智能学习 | MATLAB实现CS-BP多变量时间序列预测（布谷鸟搜索算法优化BP神经网络） 目录 智能学习 | MATLAB实现CS-BP多变量时间序列预测（布谷鸟搜索算法优化BP神经网络）预测效果基本介绍程序设计参考资料预测效果 基本介绍 MATLAB实现CS-BP多变量时间序列预测（布谷鸟搜索算法…
阅读更多...
chatGPT衣食住行10种场景系列教程（01）chatGPT热点事件+开发利器

chatGPT衣食住行10种场景系列教程（01）chatGPT热点事件+开发利器

导读 时隔5个多月&#xff0c;chatGPT可谓是一日千里&#xff0c;越演越火&#xff0c;携带着AIGC行业一起飞了起来&#xff0c;那么在短短5个月当中有那些值得我们关注的事件&#xff1f;有那些好玩的场景&#xff1f;以及有那些chatGPT好用的工具&#xff1f;本文都将一一告…
阅读更多...
大数据时代必备技能，学好数据可视化

大数据时代必备技能，学好数据可视化

互联网时代&#xff0c;都在强调数据分析的重要性&#xff0c;但是干巴巴的数据没人爱看&#xff0c;老板们对“简单直观地看数据”的需求愈发强烈。随着大数据建设的如火如荼&#xff0c;别讲底层技术和算法牛逼&#xff0c;最终的效率提升、业绩提升要通过数据展示出来&#…
阅读更多...
vba：消息框基础，msgbox

vba：消息框基础，msgbox

常量常量值说明vbOKOnly0只显示“确定”按钮&#xff08;缺省值&#xff09;VbOKCancel1显示“确定”和“取消”按钮VbAbortRetryIgnore2显示“终止”、“重试”和“忽略” 按钮VbYesNoCancel3显示“是”、“否”和“取消”按钮VbYesNo4显示“是”和“否”按钮VbRetryCancel5显…
阅读更多...
Python爬虫实战——获取电影影评

Python爬虫实战——获取电影影评

Python爬虫实战——获取电影影评 前言第三方库的安装示例代码效果演示结尾 前言 使用Python爬取指定电影的影评&#xff0c; 注意&#xff1a;本文仅用于学习交流&#xff0c;禁止用于盈利或侵权行为。 操作系统&#xff1a;windows10 家庭版 开发环境&#xff1a;Pycharm Co…
阅读更多...
Linux 服务简单优化

Linux 服务简单优化

硬件优化 处理器&#xff1a;核心数、主频、制程工艺、线程数、缓存等 核心数&#xff1a;1、2、4、6、8、12、24、32等 主频&#xff1a;2.0GHz、2.3GHz等等 制程工艺&#xff1a;22nm、14nm、10nm等等 线程数&#xff1a;1、2 缓存&#xff1a;L1、L2、L3 建议&#xff1a;尽…
阅读更多...
OpenHarmony 3.2 Release特性更新简析

OpenHarmony 3.2 Release特性更新简析

1.ArkUI 组件能力增强 支持XComponent控件&#xff0c;可用于EGL/OpenGL ES和媒体数据写入&#xff0c;并在XComponent组件显示&#xff1b;通过XComponent组件&#xff0c;配合NDK能力&#xff0c;构建C/ArkTS混合开发能力&#xff0c;支持游戏、媒体应用开发支持AbilityCom…
阅读更多...
前端学习：HTML内联框架

前端学习：HTML内联框架

目录 一、HTML Iframe 二、添加iframe的语法 三、Iframe设置高度和宽度 ​编辑 四、Iframe删除边框 五、使用iframe作为链接的目标 六、补充 一、HTML Iframe iframe用于在网页内显示网页。 二、添加iframe的语法 <iframe src"URL"></iframe> 提示…
阅读更多...
“计数”排序

“计数”排序

目录 一、什么是计数排序&#xff1f;二、如何实现计数排序&#xff1f;三、适用场景四、时间复杂度和空间复杂度 一、什么是计数排序&#xff1f; 计数排序&#xff0c;是通过统计每一个数字出现的次数&#xff0c;并把它映射到与它自己本身数值相同的下标处&#xff0c;再遍…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023