透传:通俗理解国内ping不通国外大模型,需要做一层代理通过本地调用国外大模型官方的key。
一、利用 vercel 部署 OpenAI Proxy
第一步:Fork OpenEE 这个仓库
https://github.com/openaiee/openaiee
第二步:创建vercel项目
第三步:注册vercel账号
第四步:通过github登录vercel
第五步:创建新的vercel项目,选择github作为代码库
第六步:部署vercel项目
第七步:出线以下内容表示部署成功
这个域名就是我们的base url,后面所有的请求都需要在这个 base url 上进行
验证代理是否成功:
代码测试
from openai import OpenAI
# 设置 API 密钥和代理 URL
client = OpenAI(
api_key="your-api-key",
base_url="https://openaiee-zeta.vercel.app/v1"
)
response = client.chat.completions.create(
model="gpt-3.5-turbo",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "中国的首都是哪?"}
]
)
print(response.choices[0].message.content)
二:获取openai的key
1、注册openai账号,有略过
2、登录后,然后选择Dashboard — > API keys。
3、在API keys页面,您可以创建一个新的密钥,每次创建都会生成一个新的密钥。
4、创建密钥后,请复制并安全存储您的密钥,因为这是您将用来访问OpenAI API的凭据。