文章目录
前言
一、ModelScope是什么?
二、使用步骤
1.注册ModelScope
2.新建创空间
3.创空间基本说明
4.部署创空间
5.访问创空间
三、其他补充说明
总结
前言
随着AI大模型的应用越来越广泛,模型应用部署的需求也越来越多,包括hugging face、ModelScope(又叫魔塔)都提供了相关的应用部署服务,这些服务以简单实用的功能,获得了很多用户的欢迎。本文在此就介绍下国内ModelScope创空间的使用。
一、ModelScope是什么?
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!
ModelScope提供模型、数据集、服务部署等功能,可以方便的进行模型、模型推理的部署应用。
其中创空间,主要就是进行模型推理部署,类似hugging face的space功能。
二、使用步骤
1.注册ModelScope
第一次使用ModelScope需要进行注册
魔搭社区汇聚各领域最先进的机器学习模型,提供模型探索体验、推理、训练、部署和应用的一站式服务。https://modelscope.cn/https://modelscope.cn/https://modelscope.cn/
2.新建创空间
基本信息随便填写即可
接入SDK,就是选择一个前端框架,这里我选择的Streamlit。Gradio也类似,都是为了方便构建模型推理web应用的框架。
点击,创建创空间,就会创建好一个创空间。如下就是创建完成后的截图
可以理解为就有一个虚拟空间,然后你可以按照指定要求往这里上传文件,接下来就可以运行程序。
3.创空间基本说明
如上图,基本说明了后续如何使用创空间。
新建创空间后,就有了一个git仓储地址,可以git clone下载到开发机器
然后修改后再上传即可,主要工作是app.py,当然这里需要对这块相对熟悉,当然直接问AI毫无问题。
还有一点需要注意,上面有个token,方便进行git上传的。可以点击个人头像--账号设置--访问令牌去查看与设置
4.部署创空间
假设代码已经修改完成,就可以准备部署了。
这个时候,可能会有一些疑问
1)我有python包需要安装怎么办?
那么,你在上一步的时候新建一个requirements.txt,里边写上需要安装的包即可,上传到创空间会自动进行安装。
2)我有api key不能写死吧
这个也可以,创空间设置,可以配置环境变量
接下来,创空间--设置,点击上线,即可开始部署。
后续有更新的情况则是重启创空间(用于只是修改了代码的情况),还有一个深度重启的选项(则是整个创空间都重新初始化了,比如还需要重新安装包的情况等)
部署过程一般需要几分钟时间
5.访问创空间
点击创空间--空间内容,即可访问创空间。
如果报错了,也可以通过设置--查看日志。
三、其他补充说明
创空间是很简单的部署服务的方式,但是受限也比较大,比如环境安装只能是requirements文件,本来python包就很容易由于各种冲突出问题,还需手动调整,现在完全自动更没法控制。
那么就需要控制好requirements,不需要的包不要写进去,我就遇到一个不需要的包写进入导致安装包报错的问题。
再一个,创空间不像docker这种可以ssh登录,调试啥的不方便,如果报错了也不方便修改调试,那么我们可以先在本地开发环境调试好了,再部署,这样效率高一些。
创建官方使用介绍
创空间介绍 · 文档中心https://modelscope.cn/docs/studios/intro
总结
以上就是今天要讲的内容,本文把如何使用ModelScope创空间的过程进行了逐一介绍,希望可以帮助到大家,欢迎一起学习进步。