🌈个人主页: 鑫宝Code
🔥热门专栏: 闲话杂谈| 炫酷HTML | JavaScript基础
💫个人格言: "如无必要,勿增实体"
文章目录
- 【AI】大模型API调研及推荐
- 引入
- 调研
- Kimi
- API对接
- 国内GPT4的转发
- API对接
- 总结
【AI】大模型API调研及推荐
引入
最近写了脚本对接用阿里云的通义大模型API
来完成一些社区的问题回答,以此获得一些每日的积分和流量。🤤
为什么选择阿里云的通义大模型呢?因为在此之前是免费的,然而,最近开始收费了。是的,价格还是蛮贵的,看了下我之前调用的模型是qwen-max
,都收费到了0.12元/1000 tokens
。这个收费是什么概念呢,我统计了下,我每天用这个API
回答5
个问题, 我最近20
天回答了100
个问题,就用了大概 1000 * 1000 tokens
,还好在免费额度里,算了下账,都差点要120
元了😭.
大家都知道程序员的💰是最难赚的,是的,所以我果断就选择了弃用阿里云的API
,开始调研大模型最便宜的方案。
PS: 有小伙伴们会问,有一些模型才
0.008元/1000 tokens
呀。是的,但是调用大模型最好就调用最好的,这样可以省去很多时间。🐶
调研
于是楼主在相关论坛上发布了相关帖子进行调研。其中有两个方案呼声最高。分别如下:
- 月之暗面的Kimi
- 国内的GPT4转发站
国内的GPT4转发站请自寻寻找,由于这种转发站具有不稳定性(这里的不稳定是指我不知道会不会搭建房圈钱跑路亦或是提高价格杀熟🐶) 所以此处不贴链接,还请谅解。
Kimi
呼声最高的便是当今国内人工智能炸子鸡公司,月之暗面,这家公司融资了10
亿美元,旗下的Kimi
可以说是国内长文本最🐮的利器。价格在0.024元/1000 tokens
,而且注册用户还送15
元,爽歪歪。
这里分享两个常用链接:
- 直接可以对话使用的Kimi
- Kimi的研发文档
API对接
由于我这里使用的都是
http
请求对接,我这里就贴下http
请求的js
代码, 本人自用,欢迎自取。😃
const callMoonShot = async (prompt) => {
const url = "https://api.moonshot.cn/v1/chat/completions";
const params = {
model: "moonshot-v1-32k",
messages: [
{
role: "user",
content: prompt,
},
],
};
const res = axios
.post(url, params, {
headers: {
"Content-Type": "application/json",
Authorization: `Bearer ${MOON_API_KEY}`,
},
})
.then((response) => {
const { data } = response;
const content = data.choices[0].message.content;
return content;
})
.catch((error) => {
console.error("调用月之暗面报错:", error);
});
return res;
};
PS: 这边要吹一下
Kiwi
为开发者做的努力,如果你看其他方法的调用,例如Python等,会发现它引入了OpenAI
的包,我认为这个包是为了在接口层面让用户跟调用GPT4
一样调用Kiwi
,方便开发者迁移。上面的代码是我在写完国内GPT4的转发的接口后,改了一行model
和api_key
就通了😋
国内GPT4的转发
其次,与之类似的方案便是调用GPT4
,是的,你没有看错,这个GPT4
是实打实的GPT4
,不过不是很稳定,因为这个GPT4
是由国内的转发站进行转发的,经过楼主的计算,这个价格也是在0.024元/1000 tokens
,采用的价格是0.8元人名币
汇算成1美元
PS: 为什么会这么便宜,听说是先通过购买正版GPT4(20美元人名币),然后用国内的请求做成转发,转发到国外的GPT4接口,如果用户量大的话,那么搭建者应该能回本,大概率能小赚一笔,但是由于如果用户量过多,那么请求也会过多,会导致响应的不稳定。其二,由于是个人搭建,所以会不会跑路依靠于搭建者的个人道德水平。🐶
API对接
const callGpt4 = async (prompt) => {
const url = "https://国内转发站地址";
const params = {
model: "gpt-4",
messages: [
{
role: "user",
content: prompt,
},
],
};
const res = axios
.post(url, params, {
headers: {
"Content-Type": "application/json",
Authorization: `Bearer ${GPT_KKSJ_API_KEY}`,
},
})
.then((response) => {
const { data } = response;
const content = data.choices[0].message.content;
return content;
})
.catch((error) => {
console.error("调用GPT4报错:", error);
});
return res;
};
总结
目前楼主觉得性价比最高的模型就是如上两个,这两个有不同的使用场景
- 如果追求稳定回复,那么推荐
Kiwi
- 如果追求最佳答案,那么推荐
国内GPT4转发站
PS:如果大家有觉得更好更便宜的大模型,欢迎在评论区打出,楼主都会一一调研的。