位置: IT常识 - 正文

【CV大模型SAM(Segment-Anything)】真是太强大了,分割一切的SAM大模型使用方法:可通过不同的提示得到想要的分割目标(cvg模型)

编辑:rootadmin
【CV大模型SAM(Segment-Anything)】真是太强大了,分割一切的SAM大模型使用方法:可通过不同的提示得到想要的分割目标 目录前言安装运行环境SAM模型的使用方法导入相关库并定义显示函数导入待分割图片使用不同提示方法进行目标分割方法一:使用单个提示点进行目标分割方法二:使用多个提示点进行目标分割方法三:用方框指定一个目标进行分割方式四:将点与方框结合,进行目标分割方法五:多个方框同时输入,进行多目标分割总结

推荐整理分享【CV大模型SAM(Segment-Anything)】真是太强大了,分割一切的SAM大模型使用方法:可通过不同的提示得到想要的分割目标(cvg模型),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:cv模板是什么,cv模型公式推导过程,cv模型部署,cv33模型,cv模型公式推导过程,cv33模型,cvmodel,cv模型公式推导过程,内容如对您有帮助,希望把文章链接给更多的朋友!

本文主要介绍SAM模型的使用方法:如何使用不同的提示进行目标分割。而且该模型在CPU的环境下就可以快速运行,真心不错~,赶紧来试试吧

关于Segment-Anything模型的相关代码、论文PDF、预训练模型、使用方法等,我都已打包好,供需要的小伙伴交流研究,获取方式如下:

关注文末名片GZH:阿旭算法与机器学习,回复:【SAM】即可获取SAM相关代码、论文、预训练模型、使用方法文档等

前言

最近GPT一直都被炒的火热,没想到这么快就见到了CV的大模型,而且拥有新数据集+新范式+超强零样本泛化能力。 虽然此次出现的CV大模型没有NLP中的GPT那么强大的效果:用一个模型就可以处理N多下游任务。但这也是一个很好的开始,也应该是CV未来的发展趋势。 SAM(Segment-Anything Model)的出现统一了分割这个任务(CV任务的一个子集)的下流应用,说明了CV的大模型是可能存在的。其肯定会对CV的研究带来巨大的变革,很多任务会被统一处理,可能再过不久,检测、分割和追踪也会被all in one了。

项目地址:https://github.com/facebookresearch/segment-anything Demo:https://segment-anything.com/

安装运行环境

运行需要python>=3.8, 以及pytorch>=1.7和torchvision>=0.8。 安装依赖库:

pip install git+https://github.com/facebookresearch/segment-anything.gitSAM模型的使用方法导入相关库并定义显示函数

下面导入了运行所需的第三方库,以及定义了用于展示点、方框以及分割目标的函数。

import numpy as npimport torchimport matplotlib.pyplot as pltimport cv2def show_mask(mask, ax, random_color=False): if random_color: color = np.concatenate([np.random.random(3), np.array([0.6])], axis=0) else: color = np.array([30/255, 144/255, 255/255, 0.6]) h, w = mask.shape[-2:] mask_image = mask.reshape(h, w, 1) * color.reshape(1, 1, -1) ax.imshow(mask_image)def show_points(coords, labels, ax, marker_size=375): pos_points = coords[labels==1] neg_points = coords[labels==0] ax.scatter(pos_points[:, 0], pos_points[:, 1], color='green', marker='*', s=marker_size, edgecolor='white', linewidth=1.25) ax.scatter(neg_points[:, 0], neg_points[:, 1], color='red', marker='*', s=marker_size, edgecolor='white', linewidth=1.25) def show_box(box, ax): x0, y0 = box[0], box[1] w, h = box[2] - box[0], box[3] - box[1] ax.add_patch(plt.Rectangle((x0, y0), w, h, edgecolor='green', facecolor=(0,0,0,0), lw=2)) 导入待分割图片image = cv2.imread('images/truck.jpg')image = cv2.cvtColor(image, cv2.COLOR_BGR2RGB)plt.figure(figsize=(10,10))plt.imshow(image)plt.axis('on')plt.show()

使用不同提示方法进行目标分割

首先,加载SAM预训练模型。【文末已将所有文件打包,感兴趣的小伙伴可自行获取】

import syssys.path.append("..")from segment_anything import sam_model_registry, SamPredictorsam_checkpoint = "./models/sam_vit_b_01ec64.pth"model_type = "vit_b"device = "cpu" # or "cuda"sam = sam_model_registry[model_type](checkpoint=sam_checkpoint)sam.to(device=device)predictor = SamPredictor(sam)

通过调用SamPredictor.set_image函数,将输入的图像进行编码,SamPredictor 会使用这些编码进行后续的目标分割任务。

predictor.set_image(image)

在上图车的图片上,选择一个点。点的输入格式为(x, y)和并表示出点所带有的标签1(前景点)或0(背景点)。可以输入多个点,在这里我们先只用一个点,选择的点会显示为一个五角星的标记。

方法一:使用单个提示点进行目标分割input_point = np.array([[500, 375]]) # 标记点input_label = np.array([1]) # 点所对应的标签plt.figure(figsize=(10,10))plt.imshow(image)show_points(input_point, input_label, plt.gca())plt.axis('on')plt.show()

用 SamPredictor.predict进行分割,模型会返回这些分割目标对应的置信度。

masks, scores, logits = predictor.predict( point_coords=input_point, point_labels=input_label, multimask_output=True,)【CV大模型SAM(Segment-Anything)】真是太强大了,分割一切的SAM大模型使用方法:可通过不同的提示得到想要的分割目标(cvg模型)

参数说明:

point_coords: 提示的坐标点位置 point_labels: 提示点对应的类型,1前景,0背景 boxes: 提示的方框 multimask_output: 多目标输出还是但目标输出True or False

multimask_output=True (默认),SAM模型会输出3个分割目标和对应的置信度scores。这个设置主要是用于面对歧义的提示点,因为一个提示点可能在多个分割的目标内部,multimask_output=True 能够将包含该提示点的所有目标都分割出来。 如下面示例所示:2种车窗户、还有整个车均包含了五角星的提示点。

masks.shape # (number_of_masks) x H x W(3, 1200, 1800)for i, (mask, score) in enumerate(zip(masks, scores)): plt.figure(figsize=(10,10)) plt.imshow(image) show_mask(mask, plt.gca()) show_points(input_point, input_label, plt.gca()) plt.title(f"Mask {i+1}, Score: {score:.3f}", fontsize=18) plt.axis('off') plt.show()

方法二:使用多个提示点进行目标分割

单个提示点通常会存在歧义的影响,因为可能多个目标均包含该点。为了得到我们想要的单个目标,我们可以在目标上进行多个点的提示,以获取该目标的分割结果。 例如下面在卡车上用2个提示点,从而直接提取出整个车的分割结果,而不是窗户。这是需要设置multimask_output=False,用于提取单个目标分割结果。

input_point = np.array([[500, 375], [1125, 625]])input_label = np.array([1, 1])mask_input = logits[np.argmax(scores), :, :] # Choose the model's best maskmasks, _, _ = predictor.predict( point_coords=input_point, point_labels=input_label, mask_input=mask_input[None, :, :], multimask_output=False,)masks.shape(1, 1200, 1800)plt.figure(figsize=(10,10))plt.imshow(image)show_mask(masks, plt.gca())show_points(input_point, input_label, plt.gca())plt.axis('off')plt.show()

如果我们仅想得到窗户的分割结果,我们可以使用背景点(label=0,下图红的五角星)将车子的其他部分剔除掉。 ​

input_point = np.array([[500, 375], [1125, 625]])input_label = np.array([1, 0])mask_input = logits[np.argmax(scores), :, :] # Choose the model's best maskmasks, _, _ = predictor.predict( point_coords=input_point, point_labels=input_label, mask_input=mask_input[None, :, :], multimask_output=False,)plt.figure(figsize=(10, 10))plt.imshow(image)show_mask(masks, plt.gca())show_points(input_point, input_label, plt.gca())plt.axis('off')plt.show()

方法三:用方框指定一个目标进行分割

SAM模型可以用一个方框作为输入,格式为[x1,y1,x2,y2]。来进行单个目标的分割,如下面所示,通过方框对车的轮子进行分割。

input_box = np.array([425, 600, 700, 875])masks, _, _ = predictor.predict( point_coords=None, point_labels=None, box=input_box[None, :], multimask_output=False,)plt.figure(figsize=(10, 10))plt.imshow(image)show_mask(masks[0], plt.gca())show_box(input_box, plt.gca())plt.axis('off')plt.show()

方式四:将点与方框结合,进行目标分割

如下示例:将轮胎的中心轮毂部分剔除,仅得到轮胎外部。 方框用于得到轮胎;点标记为背景(input_label = np.array([0])),起到剔除作用。

input_box = np.array([425, 600, 700, 875])input_point = np.array([[575, 750]])input_label = np.array([0])masks, _, _ = predictor.predict( point_coords=input_point, point_labels=input_label, box=input_box, multimask_output=False,)plt.figure(figsize=(10, 10))plt.imshow(image)show_mask(masks[0], plt.gca())show_box(input_box, plt.gca())show_points(input_point, input_label, plt.gca())plt.axis('off')plt.show()

方法五:多个方框同时输入,进行多目标分割

通过同时输入多个方框,可用于分割不同方框中的目标。下面是对车的不同目标的分割效果。

input_boxes = torch.tensor([ [75, 275, 1725, 850], [425, 600, 700, 875], [1375, 550, 1650, 800], [1240, 675, 1400, 750],], device=predictor.device)transformed_boxes = predictor.transform.apply_boxes_torch(input_boxes, image.shape[:2])masks, _, _ = predictor.predict_torch( point_coords=None, point_labels=None, boxes=transformed_boxes, multimask_output=False,)masks.shape # (batch_size) x (num_predicted_masks_per_input) x H x Wtorch.Size([4, 1, 1200, 1800])plt.figure(figsize=(10, 10))plt.imshow(image)for mask in masks: show_mask(mask.cpu().numpy(), plt.gca(), random_color=True)for box in input_boxes: show_box(box.cpu().numpy(), plt.gca())plt.axis('off')plt.show()

总结

以上便是SAM模型的使用方法,可以通过不同的提示方式得到不同的分割结果。总体来说,效果还是很不错的,关键是居然还可以在CPU环境下快速运行。感兴趣的小伙伴,也可以自己试试哦~

如果文章对你有帮助,感谢点赞+关注!

关注下方名片GZH:阿旭算法与机器学习,回复:【SAM】即可获取SAM相关代码、论文、预训练模型、使用方法文档等,欢迎共同学习交流

本文链接地址:https://www.jiuchutong.com/zhishi/297270.html 转载请保留说明!

上一篇:JavaScript实现留言板(javascript保留字有哪些)

下一篇:微信小程序中如何实现微信支付(微信小程序中如何打开不加检验文件的网页)

  • 真正网赚的10种方法小结

    真正网赚的10种方法小结

  • 人脸识别解除微信红包异常(解除微信人脸识别登录)

    人脸识别解除微信红包异常(解除微信人脸识别登录)

  • 华为手机简体字繁体字在哪里切换(华为手机简体字繁体字转换器)

    华为手机简体字繁体字在哪里切换(华为手机简体字繁体字转换器)

  • 小米10青春版耳机没声音(小米10青春版耳机孔插不进去)

    小米10青春版耳机没声音(小米10青春版耳机孔插不进去)

  • oppo闪充在哪里设置(oppo手机闪充功能设置在哪里)

    oppo闪充在哪里设置(oppo手机闪充功能设置在哪里)

  • 小米分身隐藏了哪里找(小米分身隐藏了怎么恢复)

    小米分身隐藏了哪里找(小米分身隐藏了怎么恢复)

  • 抖音怎么提现(抖音怎么提现钱到微信)

    抖音怎么提现(抖音怎么提现钱到微信)

  • 百兆口最大网速多少(百兆网口有多快)

    百兆口最大网速多少(百兆网口有多快)

  • cpu会坏吗(笔记本cpu会坏吗)

    cpu会坏吗(笔记本cpu会坏吗)

  • 嘀嗒拼车1+1是什么意思(嘀嗒拼车拼车1+1订单怎么收费)

    嘀嗒拼车1+1是什么意思(嘀嗒拼车拼车1+1订单怎么收费)

  • 快充一夜会损害电池吗(快充充电一晚上会损坏手机电池吗)

    快充一夜会损害电池吗(快充充电一晚上会损坏手机电池吗)

  • 淘宝下架的商品可以退吗(淘宝下架的商品还能买到吗)

    淘宝下架的商品可以退吗(淘宝下架的商品还能买到吗)

  • set键是什么功能(set-按键)

    set键是什么功能(set-按键)

  • qq的创始人是谁人(qq的创始人是马化腾吗)

    qq的创始人是谁人(qq的创始人是马化腾吗)

  • 华为nova5有什么特色功能(华为nova5有什么颜色)

    华为nova5有什么特色功能(华为nova5有什么颜色)

  • 一手数据和二手数据的区别(一手数据和二手数据的例子)

    一手数据和二手数据的区别(一手数据和二手数据的例子)

  • 手机通讯录怎么删除(手机通讯录怎么恢复)

    手机通讯录怎么删除(手机通讯录怎么恢复)

  • 文档背景色怎么设置(文档背景色怎么设置为浅绿色)

    文档背景色怎么设置(文档背景色怎么设置为浅绿色)

  • 亲情白条怎么用(亲情白条可以在哪里消费)

    亲情白条怎么用(亲情白条可以在哪里消费)

  • 这个手机怎样截屏(这个手机怎样截图)

    这个手机怎样截屏(这个手机怎样截图)

  • 魔筷星选开通要收费吗(开通魔筷星选还用交保证金吗)

    魔筷星选开通要收费吗(开通魔筷星选还用交保证金吗)

  • 最近删除的照片在哪里(最近删除的照片超过30天删除怎么恢复苹果)

    最近删除的照片在哪里(最近删除的照片超过30天删除怎么恢复苹果)

  • iphone8充电口防水吗(苹果8p充电口防水吗)

    iphone8充电口防水吗(苹果8p充电口防水吗)

  • 【蓝桥杯Web】第十四届蓝桥杯(Web 应用开发)模拟赛 1 期-大学组 | 精品题解(蓝桥杯2021出结果)

    【蓝桥杯Web】第十四届蓝桥杯(Web 应用开发)模拟赛 1 期-大学组 | 精品题解(蓝桥杯2021出结果)

  • 2022年底,我手里一共负责了30套系统(20221年的手抄报)

    2022年底,我手里一共负责了30套系统(20221年的手抄报)

  • 安装服务费税率是多少
  • 工程施工的材料购进计入哪里
  • 税局用户名
  • 黑盘报税流程视频教程
  • 开具16个点发票情况说明
  • 自产的不同产品有哪些
  • 财政收回项目资金的整改报告
  • 应交税费里的应交企业所得税意思是交了吗
  • 国税和地税要怎么合并
  • 停车场收入怎么做账
  • 增值税发票收款人复核人空白可以吗
  • 营改增后为何还要交地税?
  • 发票签收单怎么填
  • 浅析税收滞纳金问题的政策法规
  • 关联交易的解释
  • 新疆税收扶持丝路古镇喀什重放异彩
  • 税务机关核定应纳税额的具体程序和方法
  • 备查账簿根据企业的实际需要设置没有固定的格式要求
  • 注销企业很麻烦
  • 委托代销售应确认什么
  • 三星笔记app功能介绍
  • 内存条松动导致黑屏
  • 在建工程会计账务处理是否有利润表
  • 利润是如何转化成平均利润的
  • 个体工商户应申报套餐无增值税吗
  • 天猫收取的三大费用
  • PHP:mb_stripos()的用法_mbstring函数
  • 房地产企业开发成本
  • 销项负数发票怎么报税
  • 办理不动产证需要什么手续及证件
  • 发财树怎么养护与浇水
  • 个人出售二手房要交增值税吗
  • smarty怎么用
  • 冰岛羊 (© John Porter LRPS/Alamy)
  • uniapp下拉菜单
  • pytorch如何训练模型
  • php文件上传用什么请求方法
  • 提取备用金记账凭证图片
  • python一点都不简单
  • vue之间的组件通信
  • vue父子组件如何传递数据
  • 进口固定资产支付的关税
  • 网上抄税报税操作流程
  • 购房发票可以对折吗
  • wp留言板插件
  • 交易性金融资产公允价值变动计入
  • 通用发票如何缴销
  • 商业汇票贴现时间轴
  • 企业增资相关知识点
  • 企业支付的一次性就业补助金
  • 个别计价法下,把每一种存货的实际成本
  • 计入资本公积的固定资产转出
  • 垃圾清运费会计处理
  • 城乡居民死亡后需要办理什么手续
  • 长期股权投资其他权益变动
  • 支付中标服务费借款情况说明怎么写
  • 利润总额与应纳税所得额的差异国内动态
  • windows vista X86 RTM/OEM 中文正式版下载地址
  • fedora修改ip地址
  • windows性能监视器怎么用
  • 笔记本如何一键锁屏快捷键
  • windows任务管理器打不开
  • linux创建个人主页
  • win8 休眠
  • Knockout visible绑定使用方法
  • jquery设置鼠标样式
  • 如何解决焦虑的心理
  • python任务调度之schedule
  • python提供三种基本数值类型
  • node基础知识
  • 学习JavaScript事件流和事件处理程序
  • unity-
  • jquery原理解析
  • 江苏省国家税务局
  • 税收科研工作思路
  • 2020年海南个人所得税新规定
  • 电子税务平台怎么红冲纸质发票
  • 个人的社会信用代码怎么查
  • 广东省广州电子税务局
  • 资源税的征税对象和纳税环节
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设