项目接入星火认知大模型demo
导言
随着国内的语言大模型不断兴起，科大讯飞的星火大模型，阿里的通义千问，百度的文心一言等。
这些大模型给我提供了很好的便利
同时星火大模型提供了 开放api功能 使得我们能够将大模型接入到我们自己的项目当中。
这使得该项目的产生
项目介绍
我通过星火大模型提供的开放api，将大模型成功接入到自己网页中
gif正在加载中！！！
项目地址
zou-hong-run/xinghuo: 讯飞星火认知大模型接入网页 (github.com)
演示视频地址
讯飞星火认知大模型接入网页demo演示(项目接入大模型功能)_哔哩哔哩_bilibili
运行项目
-
下载该项目
-
到讯飞开发平台注册账户，这样可以添加应用
- 讯飞开放平台-以语音交互为核心的人工智能开放平台 (xfyun.cn)
-
到讯飞控制台添加一个应用，这样可以获取 APPID，APISecret，APIKey等
- 控制台-讯飞开放平台 (xfyun.cn)
-
打开我们项目
-
修改xinghuodemo/main.js中的代码，填写自己的APPID，APISecret，APIKey
let requestObj = { APPID: '', APISecret: '', APIKey: '', Uid:"随机用户名", sparkResult: '' }
-
-
然后执行下面指令
cd xinghuodemo pnpm i pnpm run dev -
然后访问地址，可以开始使用啦
- http://localhost:5173/
show代码
网页布局代码
<!doctype html>
<html lang="en">
<head>
<meta charset="UTF-8" />
<link rel="icon" type="image/svg+xml" href="/vite.svg" />
<meta name="viewport" content="width=device-width, initial-scale=1.0" />
<title>讯飞星火认知大模型接入网页成功</title>
<style>
* {
margin: 0;
padding: 0;
box-sizing: border-box;
}
h1{
text-align: center;
color: #5165EA;
}
html,body{
width: 100%;
height: 100%;
background-color: #F3F8F9;
}
body{
padding: 10%;
}
#results{
width: 100%;
height: 80%;
background-color: #E2EEFF;
}
#results #result{
width: 100%;
height: 100%;
padding: 10%;
background-color: #E2EEFF;
white-space:pre-line;
}
#sendVal{
display: flex;
width: 100%;
height: 20%;
}
#sendVal #question{
width: 70%;
height: 100%;
padding: 5%;
border: 2px dotted blue;
}
#sendVal #btn{
width: 30%;
height: 100%;
background-color: #5D7CFF;
}
</style>
</head>
<body>
<h1>讯飞星火认知大模型接入网页成功</h1>
<div id="results">
<textarea id="result"></textarea>
</div>
<div id="sendVal">
<input id="question" type="text">
<button id="btn">发送信息</button>
</div>
<script type="module" src="main.js"></script>
</body>
</html>
功能实现代码 main.js
import * as base64 from 'base-64'
import CryptoJs from 'crypto-js'
let questionInput = document.querySelector("#question");
let sendMsgBtn = document.querySelector("#btn");
let result = document.querySelector("#result");
let requestObj = {
APPID: '',
APISecret: '',
APIKey: '',
Uid:"red润",
sparkResult: ''
}
// 点击发送信息按钮
sendMsgBtn.addEventListener('click', (e) => {
sendMsg()
})
// 输入完信息点击enter发送信息
questionInput.addEventListener('keydown', function (event) {
if (event.key === 'Enter') { sendMsg(); }
});
// 发送消息
const sendMsg = async () => {
// 获取请求地址
let myUrl = await getWebsocketUrl();
// 获取输入框中的内容
let inputVal = questionInput.value;
// 每次发送问题 都是一个新的websocketqingqiu
let socket = new WebSocket(myUrl);
// 监听websocket的各阶段事件 并做相应处理
socket.addEventListener('open', (event) => {
console.log('开启连接！！', event);
// 发送消息
let params = {
"header": {
"app_id": requestObj.APPID,
"uid": "redrun"
},
"parameter": {
"chat": {
"domain": "general",
"temperature": 0.5,
"max_tokens": 1024,
}
},
"payload": {
"message": {
// 如果想获取结合上下文的回答，需要开发者每次将历史问答信息一起传给服务端，如下示例
// 注意：text里面的所有content内容加一起的tokens需要控制在8192以内，开发者如有较长对话需求，需要适当裁剪历史信息
"text": [
{ "role": "user", "content": "你是谁" }, //# 用户的历史问题
{ "role": "assistant", "content": "我是AI助手" }, //# AI的历史回答结果
// ....... 省略的历史对话
{ "role": "user", "content": inputVal }, //# 最新的一条问题，如无需上下文，可只传最新一条问题
]
}
}
};
console.log("发送消息");
socket.send(JSON.stringify(params))
})
socket.addEventListener('message', (event) => {
let data = JSON.parse(event.data)
// console.log('收到消息！！',data);
requestObj.sparkResult += data.payload.choices.text[0].content
if (data.header.code !== 0) {
console.log("出错了", data.header.code, ":", data.header.message);
// 出错了"手动关闭连接"
socket.close()
}
if (data.header.code === 0) {
// 对话已经完成
if (data.payload.choices.text && data.header.status === 2) {
requestObj.sparkResult += data.payload.choices.text[0].content;
setTimeout(() => {
// "对话完成，手动关闭连接"
socket.close()
}, 1000)
}
}
addMsgToTextarea(requestObj.sparkResult);
})
socket.addEventListener('close', (event) => {
console.log('连接关闭！！', event);
// 对话完成后socket会关闭，将聊天记录换行处理
requestObj.sparkResult = requestObj.sparkResult + " "
addMsgToTextarea(requestObj.sparkResult);
// 清空输入框
questionInput.value = ''
})
socket.addEventListener('error', (event) => {
console.log('连接发送错误！！', event);
})
}
// 鉴权url地址
const getWebsocketUrl = () => {
return new Promise((resovle, reject) => {
let url = "wss://spark-api.xf-yun.com/v1.1/chat";
let host = "spark-api.xf-yun.com";
let apiKeyName = "api_key";
let date = new Date().toGMTString();
let algorithm = "hmac-sha256"
let headers = "host date request-line";
let signatureOrigin = `host: ${host}\ndate: ${date}\nGET /v1.1/chat HTTP/1.1`;
let signatureSha = CryptoJs.HmacSHA256(signatureOrigin, requestObj.APISecret);
let signature = CryptoJs.enc.Base64.stringify(signatureSha);
let authorizationOrigin = `${apiKeyName}="${requestObj.APIKey}", algorithm="${algorithm}", headers="${headers}", signature="${signature}"`;
let authorization = base64.encode(authorizationOrigin);
// 将空格编码
url = `${url}?authorization=${authorization}&date=${encodeURI(date)}&host=${host}`;
resovle(url)
})
}
/** 将信息添加到textare中
在textarea中不支持HTML标签。
不能使用
标签进行换行。
也不能使用\r\n这样的转义字符。
要使Textarea中的内容换行，可以使用 或者 来进行换行。
表示回车符； 表示换行符；
*/
const addMsgToTextarea = (text) => {
result.innerHTML = text;
}
结尾
很久前我就开始研究如何接入各家大模型，但是人家还没有开放api出来，星火大模型是最先出的，太棒了！！
觉得不错的请三连支持一下！！！bxin
