使用 Azure OpenAI 服务生成文本

关注TechLead，分享AI全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验，同济本复旦硕，复旦机器人智能实验室成员，阿里云认证的资深架构师，项目管理专业人士，上亿营收AI产品研发负责人。

环境准备

• Azure 订阅 - 免费创建订阅

• 已在所需的 Azure 订阅中授予对 Azure OpenAI 的访问权限

  目前，仅应用程序授予对此服务的访问权限。 可以通过在 https://aka.ms/oai/access 上填写表单来申请对 Azure OpenAI 的访问权限。

• Python 3.7.1 或更高版本

• 以下 Python 库：os、requests、json

• 已部署 gpt-35-turbo-instruct 模型的 Azure OpenAI 服务资源。

设置

使用以下项安装 OpenAI Python 客户端库：

• [OpenAI Python 0.28.1]
• [OpenAI Python 1.x]

pip install openai==0.28.1

pip install openai

检索密钥和终结点

若要成功对 Azure OpenAI 服务发出调用，需要准备好以下各项：

变量名称	值
ENDPOINT	从 Azure 门户检查资源时，可在“密钥和终结点”部分中找到此值。 也可在“Azure OpenAI Studio”>“操场”>“代码视图”中找到该值。 示例终结点为：https://docs-test-001.openai.azure.com/。
API-KEY	从 Azure 门户检查资源时，可在“密钥和终结点”部分中找到此值。 可以使用 KEY1 或 KEY2。
DEPLOYMENT-NAME	此值将对应于在部署模型时为部署选择的自定义名称。 此值可在 Azure 门户中的“资源管理”>“部署”下，或者在 Azure OpenAI Studio 中的“管理”>“部署”下找到此值。

在 Azure 门户中转到你的资源。 可以在“资源管理”部分找到“终结点和密钥”。 复制终结点和访问密钥，因为在对 API 调用进行身份验证时需要这两项。 可以使用 KEY1 或 KEY2。 始终准备好两个密钥可以安全地轮换和重新生成密钥，而不会导致服务中断。

为密钥和终结点创建和分配持久环境变量。

环境变量

为密钥和终结点创建和分配持久环境变量。

• [命令行]
• [PowerShell]
• [Bash]

setx AZURE_OPENAI_KEY "REPLACE_WITH_YOUR_KEY_VALUE_HERE" 

setx AZURE_OPENAI_ENDPOINT "REPLACE_WITH_YOUR_ENDPOINT_HERE" 

[System.Environment]::SetEnvironmentVariable('AZURE_OPENAI_KEY', 'REPLACE_WITH_YOUR_KEY_VALUE_HERE', 'User')

[System.Environment]::SetEnvironmentVariable('AZURE_OPENAI_ENDPOINT', 'REPLACE_WITH_YOUR_ENDPOINT_HERE', 'User')

echo export AZURE_OPENAI_KEY="REPLACE_WITH_YOUR_KEY_VALUE_HERE" >> /etc/environment && source /etc/environment

echo export AZURE_OPENAI_ENDPOINT="REPLACE_WITH_YOUR_ENDPOINT_HERE" >> /etc/environment && source /etc/environment

创建新的 Python 应用程序

1. 创建名为 quickstart.py 的新 Python 文件。 然后在你偏好的编辑器或 IDE 中打开该文件。

2. 将 quickstart.py 的内容替换为以下代码。 修改代码以添加密钥、终结点和部署名称：

• [OpenAI Python 0.28.1]
• [OpenAI Python 1.x]

import os
import openai

openai.api_key = os.getenv("AZURE_OPENAI_KEY")
openai.api_base = os.getenv("AZURE_OPENAI_ENDPOINT") # your endpoint should look like the following https://YOUR_RESOURCE_NAME.openai.azure.com/
openai.api_type = 'azure'
openai.api_version = '2023-05-15' # this might change in the future

deployment_name='REPLACE_WITH_YOUR_DEPLOYMENT_NAME' #This will correspond to the custom name you chose for your deployment when you deployed a model. 

# Send a completion call to generate an answer
print('Sending a test completion job')
start_phrase = 'Write a tagline for an ice cream shop. '
response = openai.Completion.create(engine=deployment_name, prompt=start_phrase, max_tokens=10)
text = response['choices'][0]['text'].replace('\n', '').replace(' .', '.').strip()
print(start_phrase+text)

import os
from openai import AzureOpenAI
    
client = AzureOpenAI(
    api_key=os.getenv("AZURE_OPENAI_KEY"),  
    api_version="2023-10-01-preview",
    azure_endpoint = os.getenv("AZURE_OPENAI_ENDPOINT")
    )
    
deployment_name='REPLACE_WITH_YOUR_DEPLOYMENT_NAME' #This will correspond to the custom name you chose for your deployment when you deployed a model. 
    
# Send a completion call to generate an answer
print('Sending a test completion job')
start_phrase = 'Write a tagline for an ice cream shop. '
response = client.completions.create(model=deployment_name, prompt=start_phrase, max_tokens=10)
print(response.choices[0].text)

1. 使用快速入门文件中的 python 命令运行应用程序：

   python quickstart.py
   

输出

输出将包含 Write a tagline for an ice cream shop. 提示后的响应文本。 在此示例中，Azure OpenAI 返回了 The coldest ice cream in town!。

Sending a test completion job
Write a tagline for an ice cream shop. The coldest ice cream in town!

再运行代码几次，以查看会得到其他哪些类型的响应，因为响应并不始终相同。

理解结果

由于我们的 Write a tagline for an ice cream shop. 示例提供的上下文有限，因此模型通常不会始终返回预期结果。 如果响应似乎是意外响应或被截断，可以调整最大令牌数。

Azure OpenAI 还会对提示输入和生成的输出执行内容审核。 检测到有害内容时，可能会筛选提示或响应。

关注TechLead，分享AI全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验，同济本复旦硕，复旦机器人智能实验室成员，阿里云认证的资深架构师，项目管理专业人士，上亿营收AI产品研发负责人。