关于openAI大模型如何使用？Azure OpenAI 是一套 AI 服务，允许你对数据应用自然语言算法，而无需任何数学、数据科学或机器学习的先验知识。它可以帮助您使应用更加智能，而无需为自然语言编写实际代码。

二、什么是 Azure OpenAI 

2.1 网络结构       

        Azure OpenAI是指Microsoft Azure（云计算平台）和OpenAI（人工智能研究组织）之间的协作。

2.2 、为什么使用 Azure OpenAI

        它包括广泛的功能，包括自然语言处理、计算机视觉、语音识别等。Azure OpenAI 的主要功能之一是它能够使用高级语言模型生成高质量的、类似人类的文本。

借助 Azure OpenAI，可以利用这些语言模型对数据执行各种任务。

例如

1. 汇总大型文件或文档
2. 提取最重要的信息并以简洁的格式呈现。
3. Q&A App（询问有关您的私人数据或公共数据（互联网）的问题，并获得基于最新可用信息的答案。
4. 自动生成代码。
5. 分析和汇总其他类型的媒体，例如视频或图像文件。
6. 要求自然语言查询到您的结构数据（帮助从英语文本构建 SQL 查询并生成结果。
7. 编写博客、电子邮件、测试用例、基于规范的示例数据和描述等。
8. 还有很多

2.3 如何使用 Azure OpenAI

        Azure OpenAI 提供了一个 Web 应用，只需单击几下即可使用模型。此外，它还以 JSON 格式为您生成代码，这可以帮助您更深入地理解它。该服务使用基于文本、代码或嵌入构建的模型。您可以对您的私人数据或来自互联网数据的公共数据应用简单或语义搜索。

三、从哪里开始 Azure OpenAI 之旅

        随着你对 Azure OpenAI 的熟悉程度越来越高，你可以探索更高级的功能，例如 Azure 认知搜索和具有嵌入模型的矢量数据库。

3.1 关于 Azure OpenAI，我还需要了解什么

        若要充分利用 Azure OpenAI，需要 Azure 认知搜索或矢量数据库。对于向量数据库，还必须使用嵌入模型。

3.2 RBAC 权限和角色

3.3 演示 1：在公共数据上应用 Azure Open AI（通过 Internet）

让我们在 Open Data 上创建 Azure OpenAI

通过执行这些步骤，用户可以轻松了解设置、测试、部署和使用 Azure OpenAI 服务的过程。

1. 创建 Azure OpenAI 实例：Create Azure OpenAI Instance：第一步是设置 Azure OpenAI 实例。
2. 使用数学查询进行测试： 使用搜索框输入一个简单的数学查询，例如“2 + 2 =？”。验证结果是否显示为“4”。
3. 使用位置查询进行测试：查询当地信息，例如，“在北安普敦哪里可以搭乘火车？观察并确认系统是否提供了北安普敦的火车位置地址。
4. 一键部署：如果你具有必要的权限，只需单击一下即可部署 Azure OpenAI 实例，从而生成 Web 应用。请注意，您需要客户端 ID 和密钥，因此您需要创建应用程序注册的权限，或者您需要拥有客户端 ID
5. 自动代码生成： 系统将自动生成各种格式的代码片段，例如 JSON、C#、CURL 等。
6. 终结点和密钥预配： 部署过程还将为你提供终结点和密钥，使你能够有效地调用 Azure OpenAI 服务。

3.3 演示 2： 在自己的数据（私有数据）上应用 Azure Open AI

        让我们使用存储在 Azure Data Lake Gen2 中的自己的数据创建一个 Azure OpenAI 模型。

高级设计图：

需要以下 Azure 资源：

1. 创建 Azure AI 搜索。
2. 使用容器创建 Azure Blob 存储。

• 在 Azure 门户中，创建新的 Azure Blob 存储资源。
• 在存储帐户中，创建一个容器来保存文件（例如 PDF）。

3. 上传PDF文件：

• 将所需的 *.pdf 文件上传到在步骤 3 中创建的容器。

4. 创建 Azure OpenAI 实例。

5. 模型部署：

• 将经过训练的模型部署到在步骤 4 中创建的 Azure OpenAI 实例。

6. Chat Playground — 添加您的数据：

• 访问 Chat Playground 功能。
• 选择“Azure Blob 存储”作为数据源。
• 配置 Blob 存储、容器和 Azure OpenAI 等属性。
• 提供合适的索引名称，然后选择矢量搜索以外的选项。

7. 生成索引：

• 系统将根据您的配置生成索引。
• 可以在 Azure AI 服务中查看此索引。

8. 使用查询进行测试：

• 使用基于您的数据的查询（例如，“您能给我一份迪拜的酒店列表吗？
• 系统将从存储在 Azure Blob 存储中的文件中检索相关信息。

9. 一键部署：

• 如果具有必要的权限，只需单击一下即可部署 Azure OpenAI 实例。
• 这将为你生成一个 Web 应用程序。
• 请注意，需要客户端 ID 和机密。确保您有权创建应用注册或获取客户端 ID。

10. 自动代码生成：

• 系统将自动生成各种格式（JSON、C#、CURL等）的代码片段，供您部署使用。
• 当您单击 查看代码 ，您还将在下面看到步骤 11 中需要的内容。

11. 端点和密钥配置：

• 模型部署过程将为你提供终结点和密钥。
• 可以使用这些来有效地调用 Azure OpenAI 服务。

四、如何使用无代码方法将 Azure OpenAI 集成到 Azure 数据工厂管道、Azure Synapse 数据集成管道或 Microsoft Fabric 中

可以将 Azure OpenAI 用作 Rest API。让我们看看如何使用 Azure 数据工厂使用它

• 在 ADF 管道中，添加 Web 活动。
• 配置 Web 活动以向 Azure OpenAI REST API 终结点发出 HTTP 请求。
• 将必要的参数（例如提示或输入数据）传递给 API。
• 处理 ADF 管道中的响应。

        注意 — 同样的想法在 Azure Synapse 数据集成管道和 Microsoft Fabric 中有效

五、如何使用 Postman 测试 Azure OpenAI？

        使用 Azure OpenAI Rest URL+Key +API version +Content-Type，可以按如下方式调用 Azure OpenAI 到 Postman。

六、几个关键词：

•大型语言模型 （LLM）：预构建模型 ChatGPT 和 GPT-4

•令牌：令牌是模型读取或写入的一段文本。例如，“hello”是一个标记，“.”是另一个标记。

•提示：提示是您作为输入提供给模型的文本。例如，“写一首关于爱情的诗”就是一个提示。

•完成：完成是模型根据提示作为输出提供的文本。例如，“爱是一种充满心灵的感觉/充满喜悦、温暖和光明”是一种完成。

•嵌入：嵌入是表示文本含义的数字。例如，“cat”的嵌入更接近于“dog”的嵌入，而不是“car”的嵌入。

•温度：温度是一个数字，用于控制模型输出的创造性或可预测性。例如，在高温下，模型可能会写“爱是燃烧灵魂的火/充满激情、愤怒和痛苦”。在低温下，模型可能会写“爱是连接两个人的纽带/带着信任、尊重和关怀”。

七、几个提示：

部署后的耐心： 在 Azure OpenAI 中部署模型后，必须耐心等待。有时，可能会出现最初的打嗝或错误。给它一点时间安顿下来并稳定下来。如果遇到任何问题，请定期刷新页面以查看问题是否已解决。

语义搜索和索引设置： 将语义搜索与 Azure AI 搜索配合使用时，请确保为语义功能正确配置了搜索索引。

区域选择： 为 Azure OpenAI 和 Azure AI 搜索选择正确的区域。请记住，Azure OpenAI 可能并非在所有区域都可用。

Azure AI 搜索 SKU：Azure AI Search SKU： 设置 Azure AI 搜索时，请考虑至少使用基本 SKU。

AI 搜索的计划选择： 如果将“将自己的数据与 Azure AI 搜索配合使用”，请注意所选的搜索计划。

YouTube录制：待定

八、结论 

        Azure OpenAI 是一个功能强大的平台，提供对高级 AI 模型和工具的访问。它可用于执行与数据分析和处理相关的各种任务，包括文本摘要、问答、代码生成和媒体分析。通过利用 Azure OpenAI 的功能，企业和开发人员可以节省时间和资源，同时从数据中获得有价值的见解。

九、其它文章

如何使用 Azure OpenAI 服务生成文本 — Azure OpenAI |Microsoft学习

如何使用 Python 在 OpenAI 和 Azure OpenAI 服务终结点之间切换 — Azure OpenAI 服务 |Microsoft学习

快速入门 - 开始将 GPT-35-Turbo 和 GPT-4 与 Azure OpenAI 服务配合使用 — Azure OpenAI 服务 |Microsoft学习