【Ai生态开发】Spring AI上架，打造专属业务大模型，AI开发再也不是难事！

news2024/9/22 13:33:08

大家好 这里是苏泽 后端是工作 ai是兴趣 

对于ai的产生我的立场是拥抱ai的  是希望拿他作为提升能力的工具  那么这一篇带大家来学习如何使用ai打造一个专属的业务大模型 

需求 就是说假设现在有一个 商城系统 里面有查询订单的api和获取商品购买方式的api   用户只需要输入 “帮我看看我前几天买过最便宜的衣服”  经过语言处理 ai就能够调用 查询订单的api并在里面自动的添加查询条件以及 排序条件  这是我们的目标  本文就是来讲解实现这样的目标

Spring AI介绍

Spring AI 是 AI 工程师的一个应用框架，它提供了一个友好的 API 和开发 AI 应用的抽象，旨在简化 AI 应用的开发工序。

提供对常见模型的接入能力，目前已经上架 https://start.spring.io/，提供大家测试访问。（请注意虽然已经上架 start.spring.io，但目前还是在 Spring 私服，未发布至 Maven 中央仓库）

基本知识讲解：

函数调用

函数调用（Function Calling）是OpenAI在2023年6月13日对外发布的新能力。根据OpenAI官方博客描述，函数调用能力可以让大模型输出一个请求调用函数的消息，其中包含所需调用的函数信息、以及调用函数时所携带的参数信息。这是一种将大模型（LLM）能力与外部工具/API连接起来的新方式。

比如用户输入:

What’s the weather like in Tokyo?

使用function calling，可实现函数执行get_current_weather(location: string)，从而获取函数输出，即得到对应地理位置的天气情况。这其中，location这个参数及其取值是借助大模型能力从用户输入中抽取出来的，同时，大模型判断得到调用的函数为get_current_weather。

开发人员可以使用大模型的function calling能力实现：

  • 在进行自然语言交流时，通过调用外部工具回答问题（类似于ChatGPT插件）；
  • 将自然语言转换为调用API调用，或数据库查询语句；
  • 从文本中抽取结构化数据
  • 其它

实现步骤

1. 添加依赖

 <dependency>
      <groupId>org.springframework.boot</groupId>
      <artifactId>spring-boot-starter-web</artifactId>
  </dependency>
  <dependency>
      <groupId>org.springframework.ai</groupId>
      <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
  </dependency>

 <!-- 配置 Spring 仓库 -->
  <repositories>
      <repository>
          <id>spring-milestones</id>
          <name>Spring Milestones</name>
          <url>https://repo.spring.io/milestone</url>
          <snapshots>
              <enabled>false</enabled>
          </snapshots>
      </repository>
  </repositories>

2. 配置 OpenAI 相关参数

spring:
  ai:
    openai:
      base-url: # 支持 openai-sb、openai-hk 等中转站点，如用官方则不填
      api-key: sk-xxxx
 

3.创建一个Spring Controller处理HTTP请求。

在Spring项目中创建一个Controller类，用于处理提取要素的HTTP请求和生成调用的API和变量集合。

import com.google.gson.Gson;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.http.ResponseEntity;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestBody;
import org.springframework.web.bind.annotation.RestController;

import java.util.HashMap;
import java.util.Map;

@RestController
public class ElementExtractionController {

    @Autowired
    private ElementExtractionService elementExtractionService;

    @PostMapping("/extract-elements")
    public ResponseEntity<Map<String, Object>> extractElements(@RequestBody String userInput) {
        Map<String, Object> result = elementExtractionService.extractElements(userInput);
        return ResponseEntity.ok(result);
    }
}

3.创建一个ElementExtractionService服务类来提取要素

创建一个服务类，用于封装提取要素的逻辑。在这个服务类中，可以使用自然语言处理技术来分析用户输入并提取需求和变量。可以使用现有的开源NLP库或API，如NLTK、SpaCy、Stanford CoreNLP、Google Cloud Natural Language API等
这里使用NLTK库来进行文本分析和实体识别，以提取用户输入中的需求和变量：

import org.springframework.stereotype.Service;
import edu.stanford.nlp.simple.Document;
import edu.stanford.nlp.simple.Sentence;

import java.util.HashMap;
import java.util.List;
import java.util.Map;

@Service
public class ElementExtractionService {

    public Map<String, Object> extractElements(String userInput) {
        // 使用NLTK库进行文本分析和实体识别
        Document doc = new Document(userInput);
        List<Sentence> sentences = doc.sentences();

        // 提取需求
        String requirement = extractRequirement(sentences);

        // 提取变量
        Map<String, String> variables = extractVariables(sentences);

        // 构建结果
        Map<String, Object> result = new HashMap<>();
        result.put("api", requirement);
        result.put("variables", variables);
        return result;
    }

    private String extractRequirement(List<Sentence> sentences) {
        // 在这里根据实际需求，从句子中提取需求
        // 可以使用关键词提取、模式匹配等方法

        // 这里示例直接返回第一句话作为需求
        if (!sentences.isEmpty()) {
            return sentences.get(0).text();
        }

        return "";
    }

    private Map<String, String> extractVariables(List<Sentence> sentences) {
        // 在这里根据实际需求，从句子中提取变量
        // 可以使用实体识别、关键词提取等方法

        // 这里示例直接从第一句话中提取名词作为变量
        Map<String, String> variables = new HashMap<>();
        if (!sentences.isEmpty()) {
            Sentence sentence = sentences.get(0);
            for (String word : sentence.words()) {
                if (isNoun(word)) {
                    variables.put(word, "true");
                }
            }
        }

        return variables;
    }

    private boolean isNoun(String word) {
        // 在这里根据实际需求，判断一个词是否为名词
        // 可以使用词性标注、词典匹配等方法

        // 这里示例简单判断是否以大写字母开头，作为名词的判断条件
        return Character.isUpperCase(word.charAt(0));
    }
}

那么下一步 ：


4.封装一个API来操作open ai的Assistants API

创建一个Spring Service来操作OpenAI Assistants API。

创建一个服务类，用于封装操作OpenAI Assistants API的逻辑。

import com.google.gson.Gson;
import okhttp3.*;

import org.springframework.stereotype.Service;

import java.io.IOException;

@Service
public class OpenAIAssistantsService {

    public String callOpenAIAssistantsAPI(String prompt) {
        OkHttpClient client = new OkHttpClient();
        MediaType mediaType = MediaType.parse("application/json");

        JsonObject requestBody = new JsonObject();
        requestBody.addProperty("prompt", prompt);
        requestBody.addProperty("max_tokens", 32);
        requestBody.addProperty("stop", null);

        RequestBody body = RequestBody.create(mediaType, requestBody.toString());
        Request request = new Request.Builder()
                .url(OPENAI_API_URL)
                .post(body)
                .addHeader("Authorization", "Bearer " + OPENAI_API_KEY)
                .build();

        try {
            Response response = client.newCall(request).execute();
            if (response.isSuccessful()) {
                String responseBody = response.body().string();
                JsonObject jsonObject = new Gson().fromJson(responseBody, JsonObject.class);
                return jsonObject.getAsJsonObject("choices")
                        .get(0)
                        .getAsJsonObject()
                        .get("text")
                        .getAsString();
            } else {
                System.out.println("OpenAI Assistants API调用失败: " + response.code() + " - " + response.message());
            }
        } catch (IOException e) {
            System.out.println("OpenAI Assistants API调用异常: " + e.getMessage());
        }

        return null;
    }
}

创建一个自定义函数签名。

创建一个函数，它将调用其他项目中的API，并返回结果。

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;

@Service
public class CustomFunctionService {

    @Autowired
    private OtherAPIService otherAPIService;

    public String customFunction(String apiId, String inputParameters) {
        // 根据API的ID筛选需要调用的API
        String apiEndpoint = getApiEndpoint(apiId);

        // 调用其他项目中的API，并进行处理
        String result = otherAPIService.callOtherAPI(apiEndpoint, inputParameters);

        // 对结果进行处理，并返回
        return "处理后的结果：" + result;
    }

    private String getApiEndpoint(String apiId) {//这里还会有很多具体业务的api就不一一列举了
        // 根据API的ID获取相应的API的URL或其他信息
        // 这里可以根据实际情况进行实现
        if (apiId.equals("api1")) {
            return "https://api.example.com/api1";
        } else if (apiId.equals("api2")) {
            return "https://api.example.com/api2";
        } else {
            throw new IllegalArgumentException("无效的API ID: " + apiId);
        }
    }
}

创建一个Spring Controller来调用自定义函数。

创建一个Controller类，它将调用自定义函数，并返回结果。

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.http.ResponseEntity;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestBody;
import org.springframework.web.bind.annotation.RestController;

import java.util.HashMap;
import java.util.Map;

@RestController
public class CustomFunctionController {

    @Autowired
    private CustomFunctionService customFunctionService;

    @PostMapping("/call-custom-function")
    public ResponseEntity<String> callCustomFunction(@RequestBody String userInput) {
        String result = customFunctionService.customFunction(userInput);
        return ResponseEntity.ok(result);
    }
}

在上面提取要素的服务（ElementExtractionService）的基础上，我们可以再封装一个Assistants服务，它将接受用户的请求并调用提取要素的服务。然后，Assistants服务将提取的要素和变量（uid）作为输入传递给封装了OpenAI的服务（OpenAIAssistantsService），并根据要素选择适当的API进行调用，并返回对应的结果。

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;

import java.util.Map;

@Service
public class AssistantsService {

    @Autowired
    private ElementExtractionService elementExtractionService;

    @Autowired
    private OpenAIAssistantsService openAIAssistantsService;

    public String processUserRequest(String userInput) {
        // 提取要素
        Map<String, Object> elements = elementExtractionService.extractElements(userInput);

        // 获取要素和变量
        String requirement = (String) elements.get("api");
        Map<String, String> variables = (Map<String, String>) elements.get("variables");
        String uid = (String) elements.get("uid");

        // 调用OpenAI Assistants服务
        String result = openAIAssistantsService.callOpenAIAssistantsAPI(requirement, variables, uid);

        return result;
    }
}

AssistantsService类接受用户的请求，并调用ElementExtractionService来提取要素。然后，它获取要素、变量和uid，并将它们作为参数传递给OpenAIAssistantsService的callOpenAIAssistantsAPI方法。该方法根据要素选择适当的API进行调用，并返回结果。

具体的业务实现“提取要素”的逻辑部分

请注意，为了实现这个过程，还需要修改ElementExtractionService中提取要素的逻辑，以确保这个服务能符合具体业务的逻辑  例如我提到的 “帮我看看我买过最便宜的衣服”

import org.springframework.stereotype.Service;
import edu.stanford.nlp.simple.Document;
import edu.stanford.nlp.simple.Sentence;

import java.util.HashMap;
import java.util.List;
import java.util.Map;

@Service
public class ElementExtractionService {

    public Map<String, Object> extractElements(String userInput) {
        // 使用NLTK库进行文本分析和实体识别
        Document doc = new Document(userInput);
        List<Sentence> sentences = doc.sentences();

        // 提取需求
        String requirement = extractRequirement(sentences);

        // 提取变量
        Map<String, String> variables = extractVariables(sentences);

        // 构建结果
        Map<String, Object> result = new HashMap<>();
        result.put("api", requirement);
        result.put("variables", variables);
        return result;
    }

    private String extractRequirement(List<Sentence> sentences) {
        // 在这里根据实际需求，从句子中提取需求
        // 可以使用关键词提取、模式匹配等方法

        // 这里示例直接返回第一句话作为需求
        if (!sentences.isEmpty()) {
            return sentences.get(0).text();
        }

        return "";
    }

    private Map<String, String> extractVariables(List<Sentence> sentences) {
        // 在这里根据实际需求，从句子中提取变量
        // 可以使用实体识别、关键词提取等方法

        // 这里示例从第一句话中提取名词作为变量，并根据特定模式进行匹配
        Map<String, String> variables = new HashMap<>();
        if (!sentences.isEmpty()) {
            Sentence sentence = sentences.get(0);
            List<String> words = sentence.words();
            for (int i = 0; i < words.size() - 1; i++) {
                String currentWord = words.get(i);
                String nextWord = words.get(i + 1);
                if (isNoun(currentWord) && nextWord.equals("的")) {
                    variables.put(currentWord, "true");
                }
            }
        }

        return variables;
    }

    private boolean isNoun(String word) {
        // 在这里根据实际需求，判断一个词是否为名词
        // 可以使用词性标注、词典匹配等方法

        // 这里示例简单判断是否以大写字母开头，作为名词的判断条件
        return Character.isUpperCase(word.charAt(0));
    }
}

我将extractVariables方法进行了修改。现在它从第一句话中提取名词作为变量，并且根据特定模式进行匹配。特定模式是判断当前词是否为名词，以及下一个词是否为"的"。如果匹配成功，则将当前词作为变量存储。

这样我们就基本实现了一开始的那个目标：

假设现在有一个 商城系统 里面有查询订单的api和获取商品购买方式的api   用户只需要输入 “帮我看看我前几天买过最便宜的衣服”  经过语言处理 ai就能够调用 查询订单的api并在里面自动的添加查询条件以及 排序条件  这是我们的目标  本文就是来讲解实现这样的目标

更长远的目标：

希望能够开发出一款中间件（作为一个服务被注册到项目当中） 能够作为open ai 和具体项目的桥梁  即在开发配置当中我输入我的已有项目的服务的签名   那这个助手能够根据用户的自然语言输入 自动的去调用执行 项目中已有的各种服务 来做各种各样的复杂的数据库查询 等操作

本文所受启发 参考文献：

  1. Function calling and other API updates: https://openai.com/blog/function-calling-and-other-api-updates
  2. OpenAI assistants in LangChain: https://python.langchain.com/docs/modules/agents/agent_types/openai_assistants
  3. Multi-Input Tools in LangChain: https://python.langchain.com/docs/modules/agents/tools/multi_input_tool
  4. examples/Assistants_API_overview_python.ipynb: https://github.com/openai/opena...
  5. The Spring Boot Actuator is the one dependency you should include in every project (danvega.dev)
  6. Assistants API won't allow external web request - API - OpenAI Developer Forum

 

本文只是简单提供一个可行的思路做参考 真正做出可拓展性的ai开发插件道路还很长 先在这立个小flag吧  希望今年能够完成这个小目标  如果有一起开发这个项目的伙伴可以跟我来讨论哦

 

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1481002.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

ICCV2023：FLatten Transformer: Vision Transformer using Focused Linear Attention

ICCV2023：FLatten Transformer: Vision Transformer using Focused Linear Attention

文章目录 摘要引言PreliminaryVision Transformer and Self-AttentionLinear Attention Focused Linear Attention1.Focus ability2.Feature diversity3. Focused linear attention module 实验推理时间 总结 摘要 self-attention 的二次计算复杂度一直是将Transform模型应用于…
阅读更多...
打印100-200之间的素数

打印100-200之间的素数

#include <stdio.h>int prime(int n){int i 1;for(i 2;i < n;i){if(n % i 0)return 0;}return 1; } //打印100-200之间的素数 int main() {int n 0;int j 100;for(j 100;j < 200;j){if(prime(j)){printf("%d是素数\n",j);n;}}printf("100-200…
阅读更多...
在此处打开命令窗口 (Open command window here)

在此处打开命令窗口 (Open command window here)

在此处打开命令窗口 [Open command window here] 1. 在此处打开命令窗口 (Open command window here)2. .exe 执行References 1. 在此处打开命令窗口 (Open command window here) Shift 鼠标右键 2. .exe 执行 ​​​ 在 .exe 文件所在的文件夹打开命令提示符窗口。如果使用…
阅读更多...
【算法】二叉搜索树的插入、删除、转换操作

【算法】二叉搜索树的插入、删除、转换操作

1 二叉搜索树的插入操作 给定二叉搜索树&#xff08;BST&#xff09;的根节点 root 和要插入树中的值 value &#xff0c;将值插入二叉搜索树。 返回插入后二叉搜索树的根节点。 输入数据 保证 &#xff0c;新值和原始二叉搜索树中的任意节点值都不同。 注意&#xff0c;可能…
阅读更多...
ref和reactive用哪个?

ref和reactive用哪个?

ref和reactive用哪个? 1.&#x1f916;GPT&#x1f916;:ref和reactive用哪个根据数据类型而定 ref 用于将基本类型的数据&#xff08;如字符串、数字&#xff0c;布尔值等&#xff09;转换为响应式数据。使用 ref 定义的数据可以通过 .value 属性访问和修改。 reactive 用于…
阅读更多...
每日一题——LeetCode1556.千位分隔符

每日一题——LeetCode1556.千位分隔符

方法一 个人方法&#xff1a; 把n转为字符串&#xff0c;逆序遍历n&#xff0c;把n的每个元素加入res&#xff0c;每三次加入.&#xff0c;最后将res翻转再转为字符串即为符合题目要求的结果 var thousandSeparator function(n) {nlet res[],lenn.length-1for(let ilen;i>…
阅读更多...
1、jQuery介绍、css()、选择器、事件、动画

1、jQuery介绍、css()、选择器、事件、动画

一、jQuery介绍&#xff1f; 1、什么是jQuery&#xff1f; 是一个JavaScript函数库 2、jQuery特点 写的少&#xff0c;做的多 3、jQuery的安装 直接下载引入 <script src"jquery-1.10.2.min.js"></script>通过cdn引入 <script src"https…
阅读更多...
2369. 检查数组是否存在有效划分（动态规划）

2369. 检查数组是否存在有效划分（动态规划）

2024-3-1 文章目录 [2369. 检查数组是否存在有效划分](https://leetcode.cn/problems/check-if-there-is-a-valid-partition-for-the-array/)思路&#xff1a;代码&#xff1a; 2369. 检查数组是否存在有效划分 思路&#xff1a; 1.状态定义:f[i]代表考虑将[0,i]是否能被有效划…
阅读更多...
【buuctf-gakki】

【buuctf-gakki】

binwalk 查看图片&#xff0c;发现有 rar 文件&#xff0c;提取后如上图所示&#xff08;flag.txt为已经解压后出来的&#xff09;其中这个 rar 需要用 archpr爆破一下 打开后一个 flag.txt 一堆杂乱无章的字符&#xff0c;需要用到 python 脚本进行词频统计&#xff0c;我们…
阅读更多...
GPT4引领科研新时代：无限学习在AI领域的探索与实践

GPT4引领科研新时代：无限学习在AI领域的探索与实践

【最新增加谷歌Gemini模型讲解、自定义GPTs及AI领域中的集中大模型的最新技术】 2023年随着OpenAI开发者大会的召开&#xff0c;最重磅更新当属GPTs&#xff0c;多模态API&#xff0c;未来自定义专属的GPT。微软创始人比尔盖茨称ChatGPT的出现有着重大历史意义&#xff0c;不亚…
阅读更多...
canvas坐标系统 webgl坐标系统 uv纹理坐标系统 原点

canvas坐标系统 webgl坐标系统 uv纹理坐标系统 原点

一、canvas原点在左上角&#xff0c;x轴正方向向右&#xff0c;y轴正方向向下&#xff0c;一个点对应一个像素 二、webgl原点在正中间&#xff0c;x轴正方向向右&#xff0c;y轴正方向向上&#xff0c;数据显示范围在[-1,1]之间&#xff0c;超过此范围不显示数据 三、uv原点在左…
阅读更多...
【C++】用文件流的put和get成员函数读写文件

【C++】用文件流的put和get成员函数读写文件

题目 编写一个mycopy程序&#xff0c;实现文件复制的功能。用法是在控制台输入&#xff1a; mycooy 源文件名 目标文件名 参数介绍 m a i n main main 函数的参数有两个&#xff0c;一个int类型参数和一个指针数组。 a r g c argc argc 表示参数的个数。参数为void时 a r g …
阅读更多...
Jquery操作DOM对象

Jquery操作DOM对象

文章目录 目录 文章目录 本章目标 一.DOM操作分类 二.JQuery中的DOM操作 内容操作 属性值操作 节点操作 节点属性操作 节点遍历 总结 本章目标 使用Jquery操作网页元素使用JQuery操作文本与属性值内容使用JQuery操作DOM节点使用Jquery遍历DOM节点使用JQuery操作CSS-DOM 一…
阅读更多...
linux下cmake的使用

linux下cmake的使用

linux下cmake的使用 总体测试代码 cmake是一个项目构建工具&#xff0c;帮助编译代码&#xff0c;生成可执行文件。 源代码到可执行文件需要经历的步骤&#xff1a; 总体 要使用cmake来编译项目&#xff0c;最重要的就是CmakeLists.txt文件的编写&#xff1a; ①不用链接其它…
阅读更多...
计算机网络之传输层 + 应用层

计算机网络之传输层 + 应用层

.1 UDP与TCP IP中的检验和只检验IP数据报的首部, 但UDP的检验和检验 伪首部 首部 数据TCP的交互单位是数据块, 但仍说TCP是面向字节流的, 因为TCP仅把应用层传下来的数据看成无结构的字节流, 根据当时的网络环境组装成大小不一的报文段.10秒内有1秒用于发送端发送数据, 信道…
阅读更多...
【一】【算法分析与设计】基础测试

【一】【算法分析与设计】基础测试

排列式 题目描述 7254是一个不寻常的数&#xff0c;因为它可以表示为7254 39 x 186&#xff0c;这个式子中1~9每个数字正好出现一次 输出所有这样的不同的式子&#xff08;乘数交换被认为是相同的式子&#xff09; 结果小的先输出&#xff1b;结果相同的&#xff0c;较小的乘…
阅读更多...
rust学习（tokio协程分析二）

rust学习（tokio协程分析二）

例子&#xff1a; 我们如果使用new_current_thread来创建tokio的协程运行runtime时&#xff0c; let rt tokio::runtime::Builder::new_current_thread().enable_all().build().unwrap(); 发现只有调用rt.block_on(...)才能触发。这里我们分析一下为何在new_current_thread…
阅读更多...
【C++初识】语句

【C++初识】语句

文章目录 1.注释 变量 常量 关键字 标识符命名规则 数据类型 sizeof关键字 数据的输入 运算符2.程序流程结构2.1选择结构2.2循环结构2.21while{循环条件}{循环语句}&#xff1b;//满足循环条件&#xff0c;执行循环语句2.22do{循环语句}while{循环条件}&#xff1b;//do....whi…
阅读更多...
你不可不知的数据安全词汇都在这！

你不可不知的数据安全词汇都在这！

关注公众号&#xff0c;回复关键词 “数据安全”&#xff0c;即可获取报告完整版 随着数字化时代的快速发展&#xff0c;数据安全已成为全球企业和组织面临的一项重大挑战。在这一背景下&#xff0c;我们深感需要有一个统一的、全面的数据安全术语基础&#xff0c;以便行业从业…
阅读更多...
c++函数指针 回调函数

c++函数指针 回调函数

目录 函数指针 ​编辑 实例 函数指针作为某个函数的参数 实例 std::function轻松实现回调函数 绑定一个函数 作为回调函数 作为函数入参 函数指针 函数指针是指向函数的指针变量。 通常我们说的指针变量是指向一个整型、字符型或数组等变量&#xff0c;而函数指针是指向…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023