目录
- 前言
- 1. 云服务商
- 2. ChatBox
- 参考
前言
上篇博文中探索了(本地)部署大语言模型,适合微调、数据高隐私性等场景。随着Deepseek-R1
的发布,大语言模型的可及性得到极大提升,应用场景不断增加,对高可用的方案的需求激增。目前Deepseek-R1
的使用方案主要包括以下四种:
- 官网:免费,网页可用;但近期流量大,访问不稳定;
- 第三方产品,如纳米AI;
- 云服务:收费,需要配置;但较稳定;
- 本地部署:不适合个人日常使用;
下文介绍了云服务的使用方案。
1. 云服务商
阿里云、华为云、腾讯云等云服务商都提供了云端部署模型。以阿里云百炼大模型服务平台为例,展示了Deepseek API的获取过程。
1)登录阿里云百炼平台。
2)开通百炼的模型服务。开通百炼不会产生费用,仅调用、部署、调优模型会产生相应费用(超出免费额度后)。
3)鼠标悬停于页面右上角的image图标,在下拉菜单中单击API-KEY。
4)在左侧导航栏,选择全部API-KEY
或我的API-KEY
,然后创建(图中位置①)或查看(图中位置②)API Key。
注意:调用API会产生费用,请不要将API Key以任何方式公开,避免因未经授权的使用造成安全风险或资金损失。
表1. 百炼平台部署的Deepseek模型(2025/2/13)
模型 | 上下文长度(tokens) | 最大输入(tokens) | 最大输出(tokens) | 输入成本(每千Token) | 输出成本(每千Token) |
---|---|---|---|---|---|
deepseek-r1 | 65,792 | 57,344 | 32,768 | 0.002元 | 0.008元 |
deepseek-v3 | 65,792 | 57,344 | 8,192 | 0.001元 | 0.004元 |
2. ChatBox
Chatbox
是一款支持多平台的AI客户端应用,主要用于与本地AI模型交互。它支持Windows、MacOS、Android、iOS、Linux和网页版,适用于各种设备和操作系统。
1)访问ChatBox官网,下载安装程序,然后按界面提示完成安装。
2)打开安装完成的ChatBox
,按以下步骤进行配置。
ChatBox配置步骤。其中第三步需要填写的信息如下:
①名称输入:阿里云-DS-R1
(自定义名称,不固定)
②API域名输入:https://dashscope.aliyuncs.com/compatible-mode/v1
③API路径输入:/chat/completions
④API密钥输入:API key
,具体获取过程参考上节
⑤模型输入:需要使用的DeepSeek模型,此处以deepseek-r1
为例;
最后单击保存,完成设置。
3)输入提示词,以下是一个输出示例,包括推理过程、补全和tokens消耗量。
参考
阿里云百炼平台API key获取