OpenAI GPT3 + Flask 利用 text-davinci-003 API 制作自己的交互网页教程

OpenAI GPT3 + Flask 利用 text-davinci-003 API 制作自己的交互网页教程 | 附源码和 Github链接

news2024/10/5 16:20:39

1. OpenAI GPT3 text-davinci-003 API

最近ChatGPT很火，使用与InstructGPT相同的方法，使用来自人类反馈的强化学习 Reinforcement Learning from Human Feedback (RLHF) 来训练该模型，但数据收集设置略有不同。ChatGPT是在 GPT-3.5 系列中的一个模型进行微调的，该模型于 2022 年初完成训练。

现在因为官网 https://chat.openai.com/ 一直是满载状态，我决定使用GPT-3的公开API做一个基于python flask的网站。GPT-3的模型虽然比不上GPT-3.5的，但其功能仍然是十分强大。如果你有账号的话可以在https://platform.openai.com/playground运行GPT-3。

GPT-3 一共有4个模型，其中davinci是最有能力的模型，而ada是最快的模型。Davinci 最大请求量是4000个tokens，这其中包含了问题和回答。

在这里插入图片描述

目标：

这篇文章将教你如何把GPT-3的API用在自己的网站上，使用的是python flask框架。

2. 环境介绍

OpenAI API Key
Python 3
python库：openai flask

第一步非常的复杂，需要先注册一个OpenAI的账号。这里不详细展开，可以tb或者查找其他教程（如sms虚拟电话）注册后获取API key，这里放一张图。
注意：添加一个key后需要在弹出的对话框内复制key的内容，关掉后将无法再查看，但是可以重新生成一个key。
在这里插入图片描述
其次，电脑要有python 3 的环境。这个也不展开。

最后需要确认用pip安装 openai 和 flask 两个库。

pip install openai
pip install flask

3. Python Flask 代码

python 文件为 main.py。

在代码openai.api_key = 'your API'的地方用自己的API key 进行替换。

from flask import Flask, request, render_template, redirect
import openai

openai.api_key = 'your API'  # 用自己的API key 进行替换

server = Flask(__name__)

def send_gpt(prompt,tem):
    try:
        response = openai.Completion.create(
        model='text-davinci-003',
        prompt=prompt,
        temperature=tem,
        max_tokens=3500,   # prompt and answer together have 4096 tokens
        top_p=1.0,
        frequency_penalty=0,
        presence_penalty=0)

        return response["choices"][0]["text"]
    except:
        mess = "Connection Error! Please try again."
        return mess

@server.route('/', methods=['GET', 'POST'])
def get_request_json():
    if request.method == 'POST':
        if len(request.form['question']) < 1:
            return render_template(
                'chat.html', question="NULL", res="Question can't be empty!")
        question = request.form['question']
        temperature = float(request.form['temperature'])
        print("======================================")
        print("Receive the question:", question)
        print("Receive the temperature:",temperature)
        res = send_gpt(question,temperature)
        print("Q：\n", question)
        print("A：\n", res)

        return render_template('chat.html', question=question, res=str(res), temperature=temperature)
    return render_template('chat.html', question=0)

if __name__ == '__main__':
    server.run(debug=True, host='0.0.0.0', port=80)

4. 网页代码

html网页（chat.html）放在templates文件夹里，templates文件夹和python文件（main.py）放在同一目录下。

<!DOCTYPE html>
<html lang="en">

<meta name="viewport" content="width=device-width,initial-scale=1" />

<head>
    <meta charset="UTF-8">
    <title>GPT 3</title>
    <style>
      body {
        color: #333;
        background-color: #eee;
      }
    @media (prefers-color-scheme: dark) {
      body {
        background: black;
        color: white;
      }
    }
    </style>

    <script type="text/javascript">
        function show(){
            tem = document.getElementById("tem");
            num = document.getElementById("num");
            num.value = tem.value;
        }
    </script>
</head>

<body>

    <div align="center">
        <h1>Davinci-003</h1>
        <div align="right">
            <h2>Temperature Guide</h2>
            <p>Code Refactoring --- 0.2</p>
            <p>Email Parser --- 0.3</p>
            <p>Chat Bot --- 0.5</p>
            <p>Summarise Text --- 0.5</p>
            <p>Code Generation --- 0.8</p>
            <p>Story Writing ---0.8</p>

        </div>
        <hr />
        <br><br>
        {% if message %} {{ message }} {% endif %}
        <form method="post" onsubmit="submit.disabled=true">
            <textarea style="width:60%; " name="question" placeholder="Type your question here." rows="4"></textarea>
            <br>
            <div align="center">
                <h3>Temperature 
                <input type="range" name="temperature" id="tem" min=0 max=1 step=0.1 value=0.5 onchange="show()">
                <input type="text" value=0.5 id="num" style="border: none;background: none; width: 20px;" disabled />
                </h3> 
            </div>
            <br>
            <input type="submit" style="width:150px;height:50px;background-color:none;font-size:30px;margin-top:10px;" value="Submit" id="submit" />
        </form>
        <div id="loading" style="display:none; color:gray;"><b>Waiting for the response...</b></div>
        {% if question %}
        <div style="margin-top: 10px; margin-left: 10%; margin-right: 10%;">
            <div style="text-align: left"><b>Legend:</b>
                <pre id="question">{{ question }}</pre>
            </div>
            <hr />
            <div style="text-align: left"><b>Davinci-003-Tem{{ temperature }}:</b>
                <pre style="text-align:left; white-space: pre-wrap;" id="res">{{ res }}</pre>
            </div>
        </div>
        {% endif %}
    </div>
</body>
<script>
    let loading = document.getElementById('loading');
    let form = document.querySelector('form');
    form.addEventListener('submit', () => {
        loading.style.display = 'block';
    });
</script>
</html>