通过ModelScope开源Embedding模型将图片转换为向量

news2024/11/24 22:50:27

本文介绍如何通过ModelScope魔搭社区中的视觉表征模型将图片转换为向量，并入库至向量检索服务DashVector中进行向量检索。

ModelScope魔搭社区旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单。

ModelScope魔搭社区的愿景是汇集行业领先的预训练模型，减少开发者的重复研发成本，提供更加绿色环保、开源开放的AI开发环境和模型服务，助力绿色“数字经济”事业的建设。 ModelScope魔搭社区将以开源的方式提供多类优质模型，开发者可在平台上免费体验与下载使用。

在ModelScope魔搭社区，您可以：

免费使用平台提供的预训练模型，支持免费下载运行
一行命令实现模型预测，简单快速验证模型效果
用自己的数据对模型进行调优，定制自己的个性化模型
学习系统性的知识，结合实训，有效提升模型研发能力
分享和贡献你的想法、评论与模型，让更多人认识你，在社区中成长

前提条件

DashVector：
- 已创建Cluster：创建Cluster
- 已获得API-KEY：API-KEY管理
- 已安装最新版SDK：安装DashVector SDK
ModelScope：
- 已安装最新版SDK：pip install -U modelscope

商品图像同款特征

简介

本模型是对商品图像进行表征向量提取，用户可基于表征向量进行大规模的同款/相似款商品搜索；无需额外输入，模型可自动进行箱包商品的主体抠图，并基于主体提取结果完成表征向量提取。

模型ID	向量维度	度量方式	向量数据类型	备注
damo/cv_resnet50_product-bag-embedding-models	512	Cosine	Float32

说明

关于商品图像同款特征模型更多信息请参考：商品图像同款特征

使用示例

说明

需要进行如下替换代码才能正常运行：

1. DashVector api-key替换示例中的{your-dashvector-api-key}

2. DashVector Cluster Endpoint替换示例中的{your-dashvector-cluster-endpoint}

Python示例：

from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks
from dashvector import Client


product_embedding = pipeline(
    Tasks.product_retrieval_embedding,
    model='damo/cv_resnet50_product-bag-embedding-models'
)


def generate_embeddings(img: str):
    result = product_embedding(img)
    return result['img_embedding']


# 创建DashVector Client
client = Client(
    api_key='{your-dashvector-api-key}',
    endpoint='{your-dashvector-cluster-endpoint}'
)

# 创建DashVector Collection
rsp = client.create('resnet50-embedding', dimension=512)
assert rsp
collection = client.get('resnet50-embedding')
assert collection

# 向量入库DashVector
img_url = 'https://mmsearch.oss-cn-zhangjiakou.aliyuncs.com/maas_test_img/tb_image_share_1666002161794.jpg'
collection.insert(
    ('ID1', generate_embeddings(img_url))
)

# 向量检索
docs = collection.query(
    generate_embeddings(img_url)
)
print(docs)

免费体验阿里云高性能向量检索服务：https://www.aliyun.com/product/ai/dashvector