引言
3月份AI应用大爆发催生了国内大量需求。
然而,所有的需求都不可避免得遇到很多非技术性的问题:
-
部署开源模型的成本巨大,且效果成谜,65B的模型推理应用最少需要130G显存,而微调训练则需要额外添加8倍的资源。
-
ChatGPT官方API不对中国用户开放,且续费无法使用国内信用卡。强行使用存在法律隐患。
-
企业用户对安全隐私存在更高的要求。
要解决上面问题,允许私有部署的云服务厂商无疑是最佳选择。
微软作为OpenAI的主要投资者之一,早在2021年11月就推出了Azure OpenAI 服务,支持模型的私有部署,并由Azure来提供安全保证。
在定价方面,Azure OpenAI和OpenAI官方一致,且不限制使用中国信用卡付费。
在网络访问层面,Azure的服务并没有被限制。
⚠注意
1.本文仅提供技术指导,不提供任何商业服务。
2.Azure国际版是否存在其他法律风险,请咨询专业法务人士。
3.截止2023年7月24日,有消息称美国政府准备限制中国公司使用美国云计算服务。到时候Azure OpenAI是否会受到影响,尚未可知。
申请
声明
本文省略申请Azure国际版账号和绑定信用卡的步骤。如若尚未申请,请参照此网页进行。这里将不再赘述。
再次强调:提供OpenAI服务的是国际版Azure,而不是国内版。
申请步骤
截止2023年7月24日,Azure OpenAI服务仅开放企业用户申请,需要在此处进行填表。
所有的信息请以英文如实填写。
需要特别注意的事项如下:
1.目前只支持企业邮箱,当前Azure对于企业邮箱的认定规则为:邮箱的域名必须和第12条的Company Website域名一致。
比如,如果你所在公司的网页为xxx.abc.com,那么你的企业邮箱必须为yy@abc.com。
2.第22条的OpenAI service feature请只选择Text and code models,这个是大语言模型。
DALL-E 2是OpenAI画图模型。一旦勾选会增加额外的审核流程。
3.第23条的Select your use case(s),需要覆盖你的AI模型的应用场景,请按需选择。
4.提交申请后,你会在10个工作日内收到核审通过的邮件。
而审核失败的话,则会列出失败原因。
可选操作:
通过审核后,你可以再申请GPT4模型的部署权限。
部署
获得权限后,我们进入Azure主页,点击创建资源。
搜索OpenAI,点击创建->Azure OpenAI。
在自己的订阅下新建一个资源组,区域选择离我们最近的地域,名称随意,定价层选标准的即可。
一直点击下一步。
作为演示,我们使用默认配置,有其他需求的,请按照自己的需求进行定制。
点击服务名称进入详细画面。
点击模型部署,前往部署画面。
点击管理部署,进入Azure OpenAI Studio。
点击新建部署,按需选择gpt模型,添加部署名,按需更改默认值,最后创建。
部署成功后,勾选部署模型,点击在操场中打开。
进入调试画面后,点击查看代码。
复制终结点和键,这些信息会在我们接下来的应用实例中用到。
应用
部署
接下来我们将演示一个实际的案例,具体请点👉:将AI整合进工作(实例及代码)