如何使用 ERNIE 千帆大模型基于 Flask 搭建智能英语能力评测对话网页机器人（详细教程）

news2024/11/18 13:57:16

ERNIE 千帆大模型

ERNIE-3.5是一款基于深度学习技术构建的高效语言模型，其强大的综合能力使其在中文应用方面表现出色。相较于其他模型，如微软的ChatGPT，ERNIE-3.5不仅综合能力更强，而且在训练与推理效率上也更高。这使得ERNIE-3.5能够支持更丰富的外部应用开发，为更多国内开发者提供强大基础工具。

ERNIE-3.5在语义和语境理解上有了显著提升，能够更准确地回答问题和进行交流。在与用户的聊天对话中，它表现出了更高的准确性和自然度，使得其在虚拟助手、在线客服和社交媒体等场景中具备了更出色的表现。在中文测试中，ERNIE-3.5的理解和生成能力更是超过了GPT-4，这显示了其在中文语境下的强大实力。

ERNIE-3.5支持多种NLP任务，包括文本分类、命名实体识别、语义匹配等，适用于需要文本分析和理解的场景，如情感分析、智能问答、文本摘要等。同时，它在创意写作、问答、推理、代码生成等方面也有显著的改进，展现了出色的功能和性能。

此外，ERNIE-3.5的训练速度和推理速度相较于之前的版本也有了大幅提升。据对比数据显示，其训练速度提升了2倍，推理速度提升了17倍，这将大大提高模型迭代升级效率，并大幅降低训练及使用成本。

ERNIE-3.5的推出标志着我国人工智能企业和研究机构在大模型、深度学习等关键技术方面取得了新突破，其水平已赶上世界前列。这不仅有利于人工智能产业生态的繁荣，还为人工智能在更广泛复杂场景中的应用提供了支持。例如，ERNIE-3.5可支持更加开放的外部开发，使其能够被应用于更长文本的生成、图文问答等需求，有助于推动人工智能从单一领域向综合性知识服务领域进一步拓展。

安装环境

pip install qianfan

在调用 SDK 前，需要先初始化 应用API Key（即AK） 和 应用Secret Key（即SK），支持通过参数初始化、内置函数初始化、环境变量初始化三种方式进行初始化。

配置密钥

地址：https://console.bce.baidu.com/iam/#/iam/accesslist

在这里插入图片描述
SDK 调用千帆大模型

方案一：加载环境变量 .env 配置文件

QIANFAN_ACCESS_KEY=安全认证 Access Key
QIANFAN_SECRET_KEY=安全认证 Secret Key

方案二：直接属性设置

chat_completion = qianfan.ChatCompletion(ak="API Key", sk="Secret Key")

SDK 调用接口

import qianfan
import dotenv
dotenv.load_dotenv()

chat_comp = qianfan.ChatCompletion()

resp = chat_comp.do(model="ERNIE-Bot-4", messages=[{
    "role": "user",
    "content": "你好"
}])

if resp.code == 200:
    print(resp.request.json_body)
    # 
    print(resp.body)

resp.request.json_body 数据结构（数据类型：dict）

{  
    'messages': [  
        {'role': 'user', 'content': '你好'}  
    ],  
    'stream': False,  
    'extra_parameters': {  
        'request_source': 'qianfan_py_sdk_v0.3.7.1'  
    }  
}

resp.body 数据结构（数据类型：dict）

{  
    'id': 'as-u2tgxkd8z4',  
    'object': 'chat.completion',  
    'created': 1712759343,  
    'result': '你好，有什么我可以帮助你的吗？',  
    'is_truncated': False,  
    'need_clear_history': False,  
    'usage': {  
        'prompt_tokens': 1,  
        'completion_tokens': 8,  
        'total_tokens': 9  
    }  
}

POST 请求调用接口

加载环境变量 .env 配置文件

CLIENT_API_KEY=应用 API KEY
CLIENT_SECRET_KEY=应用 SECRET KEY

地址：https://console.bce.baidu.com/qianfan/ais/console/applicationConsole/application

在这里插入图片描述

详细源码

import os

import requests
import json
import dotenv

dotenv.load_dotenv()


def get_access_token():
    url = f"https://aip.baidubce.com/oauth/2.0/token?grant_type=client_credentials&client_id={os.environ['CLIENT_API_KEY']}&client_secret={os.environ['CLIENT_SECRET_KEY']}"

    payload = json.dumps("")
    headers = {
        'Content-Type': 'application/json',
        'Accept': 'application/json'
    }

    response = requests.request("POST", url, headers=headers, data=payload)
    return response.json().get("access_token")


def qianfan_chat_post(content):
    url = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions_pro?access_token=" + get_access_token()

    payload = json.dumps({
        "messages": [
            {
                "role": "user",
                "content": content
            }
        ]
    })
    headers = {
        'Content-Type': 'application/json'
    }
    
    response = requests.request("POST", url, headers=headers, data=payload)
    return response.json().get("result")

服务器端源码

读取数据

PROBELM_LIST = []

with open('english.txt', encoding='utf-8', mode='r') as file:
    # 使用 for循环逐行读取文件
    for line in file:
        # 打印每一行的内容
        PROBELM_LIST.append(line.replace("\n", ""))

百度智能云调用

import qianfan
import dotenv

dotenv.load_dotenv()

chat_comp = qianfan.ChatCompletion()


def qianfan_ask(content):
    resp = chat_comp.do(model="ERNIE-Bot-4", messages=[{
        "role": "user",
        "content": content
    }], system="结果用纯英语返回，不带有任何中文，内容不超过100个词。")
    if resp.code == 200:
        return resp.body.get("result")


print(qianfan_ask("问题；What is the past tense of the verb “to run”?, 我的回答：run。请问简要评价我的回答情况"))

配置服务器源码

from datetime import datetime

from flask import Flask, jsonify, request, make_response
from flask_cors import CORS
from flask_pymongo import PyMongo
from read_data import PROBELM_LIST
from qianfan_api import qianfan_ask


app = Flask(__name__)
CORS(app)

# 配置 MongoDB 连接
app.config['MONGO_URI'] = 'mongodb://localhost:27017/hnu'
mongo = PyMongo(app)


def insert_mongo_data(user: str, content: str):
    collection = mongo.db.message
    # 获取当前日期和时间
    now = datetime.now()
    # 格式化日期和时间
    formatted_time = now.strftime("%Y-%m-%d %H:%M:%S")
    collection.insert_one({'time': formatted_time, 'user': user, 'content': content})


@app.route('/problem')
def ramdon_problem():
    index = int(request.args.get('index'))
    # problem = random.choice(PROBELM_LIST)
    # 题目循环取余操作
    problem = PROBELM_LIST[index % len(PROBELM_LIST)]
    # 记录机器人数据
    insert_mongo_data("机器人", problem)
    result = {'code': 200, 'data': problem}
    return jsonify(result)


@app.route('/answer', methods=['POST'])
def answer_problem():
    data = request.get_json()
    problem = data.get('problem', "")
    answer = data.get('answer', "")
    # 记录使用者数据
    insert_mongo_data("使用者", answer)
    # 千帆大模型分析回答质量
    analysis = qianfan_ask(f"问题{problem}。我的回答：{answer}。请问简要评价我的回答情况")
    # 记录机器人数据
    insert_mongo_data("机器人", analysis)
    result = {'code': 200, 'data': analysis}
    return jsonify(result)


if __name__ == '__main__':
    app.run(host="0.0.0.0", port=3000, debug=True)

导出 Json 数据

开启接口支持导出 json 数据

@app.route('/json', methods=['GET'])
from flask import Flask, jsonify
from flask_cors import CORS
from flask_pymongo import PyMongo

import pandas as pd
import io
from openpyxl import Workbook

app = Flask(__name__)
CORS(app)

# 配置 MongoDB 连接
app.config['MONGO_URI'] = 'mongodb://localhost:27017/hnu'
mongo = PyMongo(app)


@app.route('/json', methods=['GET'])
def get_data():
    # 查询 MongoDB
    data = mongo.db.message.find()
    # 将 ObjectId 转换为字符串
    result = []
    for d in data:
        # 处理 ObjectId
        d['_id'] = str(d['_id'])
        result.append(d)
    return jsonify(result)


if __name__ == '__main__':
    app.run(host="0.0.0.0", port=3000, debug=True)

导出 Excel 数据

开启接口支持导出 excel 数据

from flask import Flask, make_response
from flask_cors import CORS
from flask_pymongo import PyMongo

import pandas as pd
import io
from openpyxl import Workbook

app = Flask(__name__)
CORS(app)

# 配置 MongoDB 连接
app.config['MONGO_URI'] = 'mongodb://localhost:27017/hnu'
mongo = PyMongo(app)


def generate_excel(data):
    # 创建一个 Excel 工作簿和工作表
    wb = Workbook()
    ws = wb.active
    ws.title = "Data"

    # 将数据写入工作表
    for row_num, row_data in enumerate(data, 1):
        ws.append(row_data)

    # 将工作簿保存到 BytesIO 流中
    excel_data = io.BytesIO()
    wb.save(excel_data)
    # 重置流的位置到开头
    excel_data.seek(0)  

    # 设置 HTTP 响应头，以便浏览器知道这是一个 Excel 文件
    response = make_response(excel_data.read())
    response.headers["Content-Disposition"] = "attachment; filename=data.xlsx"
    response.headers["Content-Type"] = "application/vnd.openxmlformats-officedocument.spreadsheetml.sheet"
    return response


@app.route('/excel', methods=['GET'])
def get_data_excel():
    data = mongo.db.message.find()
    # 将 ObjectId 转换为字符串
    result = []
    for d in data:
        # 处理ObjectId
        d['_id'] = str(d['_id'])
        result.append(d)
    # 将查询结果转换为 DataFrame
    df = pd.DataFrame(result)
    # 生成 Excel 文件并返回
    return generate_excel(df.values.tolist())


if __name__ == '__main__':
    app.run(host="0.0.0.0", port=3000, debug=True)

前端效果预览

聊天界面效果

在这里插入图片描述

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1662342.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

玩游戏专用远程控制软件

玩游戏专用远程控制软件

玩游戏专用远程控制软件：实现远程游戏的新体验 随着网络技术的不断发展和创新，远程控制软件已经逐渐渗透到我们生活的方方面面，尤其是在游戏领域。玩游戏专用远程控制软件，作为这一趋势下的产物，为玩家提供了全新的游…
阅读更多...
Ubuntu安装库 版本问题，错误E: Unable to correct problems, you have held broken packages.

Ubuntu安装库 版本问题，错误E: Unable to correct problems, you have held broken packages.

一、问题描述： Ubuntu系统指令安装 : sudo apt install -y build-essential提示： Reading package lists... Done Building dependency tree... Done Reading state information... Done Some packages could not be installed. This may mean that y…
阅读更多...
win10 miniconda始终无法在指定的位置创建虚拟环境，原来是管理员权限问题

win10 miniconda始终无法在指定的位置创建虚拟环境，原来是管理员权限问题

当我想用conda创建虚拟环境时 envs_dirs: F:\miniconda3\envsC:\Users\fengx.conda\envsC:\Users\fengx\AppData\Local\conda\conda\envs 创建的虚拟环境始终在C:\Users\fengx.conda\envs\xxxx这个位置下， 我已经明显指定了位置是在F:\miniconda3\envs下&#xff…
阅读更多...
Java面试——MyBatis

Java面试——MyBatis

优质博文：IT-BLOG-CN 一、MyBatis 与 JDBC 的区别 【1】JDBC 是 Java 提供操作数据库的 API；MyBatis 是一个持久层 ORM 框架，底层是对 JDBC 的封装。 【2】使用 JDBC 需要连接数据库，注册驱动和数据库信息工作量大，每…
阅读更多...
【Java难点】多线程-高级

【Java难点】多线程-高级

悲观锁和乐观锁 悲观锁 synchronized关键字和Lock的实现类都是悲观锁。 它很悲观，认为自己在使用数据的时候一定有别的线程来修改数据，因此在获取数据的时候会一不做二不休的先加锁，确保数据不会被别的线程修改。 适合写操作多的场景&…
阅读更多...
无线收发模块家电控制实验

无线收发模块家电控制实验

zkhengyang可申请加入数字音频系统研究开发交流答疑群(课题组) 当然可以先用固定电平发送，可以实现，0/1数据发送，接收。 可以使用51单片机来编码码，解码，或者任何MCU或者SOC，DSP，FPGA。 注意G…
阅读更多...
【全开源】酷柚易汛ERP 源码部署/售后更新/上线维护

【全开源】酷柚易汛ERP 源码部署/售后更新/上线维护

一款基于FastAdminThinkPHPLayui开发的ERP管理系统，帮助中小企业实现ERP管理规范化，此系统能为你解决五大方面的经营问题：1.采购管理 2.销售管理 3.仓库管理 4.资金管理 5.生产管理，适用于：服装鞋帽、化妆品、机械机电…
阅读更多...
QX---mini51单片机学习---（6）独立键盘

QX---mini51单片机学习---（6）独立键盘

目录 1键盘简绍 2按键的工作原理 3键盘类型 4独立键盘与矩阵键盘的特点 5本节相关原理图 6按键特性 7实践 1键盘简绍 2按键的工作原理 内部使用轻触按键，常态按下按键触点才闭合 3键盘类型 编码键盘与非编码键盘 4独立键盘与矩阵键盘的特点 5本节相关原理…
阅读更多...
Python 全栈系列242 踩坑记录:租用算力机完成任务

Python 全栈系列242 踩坑记录:租用算力机完成任务

说明 记一次用算力机分布式完成任务的坑。 内容 1 背景 很早的时候，做了一个实体识别模型。这个模型可以识别常见的PER、ORG、LOC和TIME几种类型实体。 后来，因为主要只用来做PER、ORG的识别，于是我根据业务数据，重新训练了模…
阅读更多...
一个可以同时使用USB和WIFI传输文件到电脑的软件

一个可以同时使用USB和WIFI传输文件到电脑的软件

双轨快传 结合USB2.0和WIFI6技术，通过1000Mbps网口实现每秒高达150MB的传输速率（理论上可达40MB/s通过USB和110MB/s通过WIFI）。 使用 模式 支持普通模式和Root模式，Root模式可访问~/Android/data/与/data/data/目录下的文件。 …
阅读更多...
web安全之登录框渗透骚姿势，新思路

web安全之登录框渗透骚姿势，新思路

不管漏洞挖掘还是挖SRC，登录框都是重点关注对象，什么漏洞都有可能出现， 本篇文章做个总结，后面发现新思路后会继续更新 万能密码 or 弱口令 SQL注入 水平越权 垂直越权 逻辑漏洞 短信轰炸 邮箱轰炸 信息泄露 验证码DOS XSS万能密…
阅读更多...
搭建本地yum仓库

搭建本地yum仓库

步骤 找个地方存你的rpm包 #我创建了一个rpm文件夹存放我的rpm包 makdir -p /opt/repo/rpmcreaterepo 这个很重要，一定要安装 # 我的能连外网，所以直接yum安装，你的自己想办法 yum install createrepo -y创建repodata 安装了createrepo后…
阅读更多...
【SRC-CPP-OpenCV】给图片更换背景色

【SRC-CPP-OpenCV】给图片更换背景色

文章目录 Part.I IntroductionPart.II Main_bodyChap.I 源码简析Chap.II 效果展示 Part.III 源码Reference Part.I Introduction 本文将介绍如何用 OpenCV 更换图片的背景色（附有完整代码）。 Part.II Main_body Chap.I 源码简析 配置部分&#xff1a…
阅读更多...
Electron 报错：WinState is not a constructor

Electron 报错：WinState is not a constructor

文章目录 问题分析 问题 在使用 electron-win-state 库时报错如下 代码如下： const WinState require(electron-win-state) const winState new WinState({ defaultWidth: 800,defaultHeight: 600,// other winState options, see below })const browserWindow…
阅读更多...
区块链的跨链交互：从学校间交流看跨链技术

区块链的跨链交互：从学校间交流看跨链技术

区块链是一种去中心化的分布式账本技术，它通过加密学和共识机制来确保数据的安全性和不可篡改性。每个区块链就像一所独立的学校，有自己的制度、学生和重点专业。它们各自运行，有时在同一领域展开不同的活动。随着区块链技术的不断发展&#…
阅读更多...
Java入门基础学习笔记15——强制类型转换

Java入门基础学习笔记15——强制类型转换

大范围类型的变量是否可以赋值给小范围类型的变量呢？ IDEA直接报错。直接报错，是提醒你有问题。但是我非常进行类型转换。 非要强行赋值呢？ 强制类型转换，强行将类型范围大的变量，数据赋值给类型范围小的变量。 数据…
阅读更多...
几个字符串函数的使用和模拟实现（1）

几个字符串函数的使用和模拟实现（1）

下面介绍几个常见的字符串函数的使用并且学会自己创建实现与它们一样的功能&#xff0c;借此来巩固与字符串、函数、指针相关方面的知识。 strlen函数&#xff08;头文件是<string.h>&#xff09; 由此可见&#xff1a; strlen函数的返回值是返回值是size_t&#xff0c;…
阅读更多...
【回溯 状态压缩 深度优先】37. 解数独

【回溯 状态压缩 深度优先】37. 解数独

本文涉及知识点 回溯 状态压缩 深度优先 LeetCode37. 解数独 编写一个程序&#xff0c;通过填充空格来解决数独问题。 数独的解法需 遵循如下规则&#xff1a; 数字 1-9 在每一行只能出现一次。 数字 1-9 在每一列只能出现一次。 数字 1-9 在每一个以粗实线分隔的 3x3 宫内只…
阅读更多...
突然连接不上 Bitbucket.org?

突然连接不上 Bitbucket.org?

提交或拉取时都出现了错误 查找一下 Bitbucket.org 的IP&#xff0c;使用这个网址 https://site.ip138.com/bitbucket.org/ 找到C:\Windows\System32\drivers\etc下的hosts文件用记事本/notepad 打开&#xff0c;咱加到host文件里面 一切又恢复正常
阅读更多...
UE5 C++软引用

UE5 C++软引用

一.软引用通常是仅储存资源对象的资源路径没有与资源产生耦合关系的引用&#xff08;软引用加载到内存中&#xff0c;只有在需要的时候才会被加载&#xff09; 软引用通常有FSoftObjectPath、FSoftClassPath、TSoftObjectPtr、TSoftClassPtr。它指向的资源未被加载&#xff0c…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023