SpringBoot集成阿里百炼大模型（初始demo） 原子的学习日记Day01

news2024/9/21 14:41:45

文章目录

    • 概要
      • 下一章SpringBoot集成阿里百炼大模型（多轮对话） 原子的学习日记Day02
    • 整体架构流程
    • 技术名词解释
    • 集成步骤
      • 1，选择大模型以及获取自己的api-key（前面还有一步开通服务就没有展示啦！）
      • 2，集成SpringBoot
        • 配置文件（配置Api-key）
        • 依赖导入（主要就是导入最后一个sdk其余的看自己的情况，我这里有依赖冲突，排除了lombok）
        • Service文件
        • Controller文件
    • 测试结果

概要

使用springboot集成阿里百炼大模型的第一天！从今天开始，将进入阿里百炼大模型的学习当中！百炼大模型作为先进的人工智能技术成果，拥有诸多优势，尤其在处理自然语言理解和生成任务方面。其中可选择的模型有很多，我选择了，选择什么要根据自己的钱包来看，原子钱包不多，选择了免费试用的！！！！
可以参考官方文档

下一章SpringBoot集成阿里百炼大模型（多轮对话） 原子的学习日记Day02

在这里插入图片描述

百炼大模型的优势

百炼大模型（此处假设指的是阿里云开发的语言模型“通义千问”或类似的大型预训练语言模型）作为先进的人工智能技术成果，拥有诸多优势，尤其在处理自然语言理解和生成任务方面。虽然直接提及“百炼大模型”可能不是具体已知模型的名称，但我们可以基于当前大型语言模型的一般特点，总结这类模型的优势：

广泛的知识覆盖与理解能力：通过在大规模互联网文本数据上进行训练，这些模型能够吸收和理解跨领域的广泛知识，从而在各种话题上提供有质量的回答和讨论。

语境理解与连贯对话：高级的上下文理解能力使得这些模型能够追踪对话历史，生成连贯、贴合上下文的回复，提升人机交互的自然流畅度。

多语言支持：许多大型语言模型支持多语言输入和输出，促进了跨国界、跨文化的沟通与交流。

代码生成与解释：一些先进的大模型展示了编写和解释代码的能力，这对于软件开发、教育辅导等领域有着重大意义。

创意生成与辅助创作：能够根据用户提供的信息或提示生成创意性的文字内容，包括故事、诗歌、文章草稿等，为内容创作者提供灵感和支持。

情感理解和个性化互动：通过学习人类语言中的情感表达，模型能在一定程度上理解和回应用户情绪，实现更加人性化的互动体验。

持续学习与迭代优化：大型语言模型的训练框架允许不断吸纳新数据进行微调，使其随着时间推移不断进步，适应语言和社会趋势的变化。

应用广泛性：可广泛应用于客户服务、教育、娱乐、新闻生成、研发辅助等多个领域，提高工作效率和服务质量。

总之，百炼大模型或同类的大型语言模型，凭借其深度学习能力和大数据训练基础，为推动人工智能技术的实际应用和发展提供了强大的支持。

整体架构流程

使用
Java8+Spring2+阿里百炼大模型集成+SpringBoot

技术名词解释

  • api-key —当您通过API/SDK调用大模型或应用时，需要获取API-KEY作为调用时的鉴权凭证。
  • SDK —SDK是Software Development Kit的缩写，中文意为“软件开发工具包”。它是一系列软件开发工具的集合，旨在为特定的平台、框架、硬件或服务提供便捷的开发环境。SDK通常包括但不限于以下组件：
  • 通义千问—是阿里云研发的大语言模型
  • 灵积----是阿里云推出的模型服务平台，提供了包括通义千问在内的多种模型的服务接口
  • 百炼------是阿里云推出的一站式大模型应用开发平台，同时也提供模型调用服务。
  • DashScope是灵积的英文名，两者指的是同一平台

集成步骤

1，选择大模型以及获取自己的api-key（前面还有一步开通服务就没有展示啦！）

在模型广场中选择自己需要的大模型并注册自己的apikey（要自己保存好喔！）
在这里插入图片描述
在这里插入图片描述

2，集成SpringBoot

配置文件（配置Api-key）
api:
  key: 填自己的apikey
依赖导入（主要就是导入最后一个sdk其余的看自己的情况，我这里有依赖冲突，排除了lombok）
<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>org.example</groupId>
    <artifactId>CommentDemo</artifactId>
    <version>1.0-SNAPSHOT</version>

    <properties>
        <maven.compiler.source>8</maven.compiler.source>
        <maven.compiler.target>8</maven.compiler.target>
    </properties>
    <parent>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-parent</artifactId>
        <version>2.4.2</version>
    </parent>
    <dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
            <version>2.4.2</version>
        </dependency>
        <dependency>
            <groupId>mysql</groupId>
            <artifactId>mysql-connector-java</artifactId>
            <version>8.0.22</version>
        </dependency>
        <dependency>
            <groupId>com.alibaba</groupId>
            <artifactId>druid-spring-boot-starter</artifactId>
            <version>1.1.10</version>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-data-redis</artifactId>
            <version>2.4.2</version>
        </dependency>
        <dependency>
            <groupId>org.apache.commons</groupId>
            <artifactId>commons-pool2</artifactId>
        </dependency>
        <dependency>
            <groupId>com.alibaba.fastjson2</groupId>
            <artifactId>fastjson2</artifactId>
            <version>2.0.7</version>
        </dependency>


        <dependency>
            <groupId>com.google.guava</groupId>
            <artifactId>guava</artifactId>
            <version>19.0</version>
        </dependency>
        <dependency>
            <groupId>com.baomidou</groupId>
            <artifactId>mybatis-plus-boot-starter</artifactId>
            <version>3.4.0</version>
        </dependency>
        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
            <version>1.18.30</version>
        </dependency>
        <!-- https://mvnrepository.com/artifact/com.alibaba/dashscope-sdk-java -->
        <dependency>
            <groupId>com.alibaba</groupId>
            <artifactId>dashscope-sdk-java</artifactId>
            <version>2.16.0</version>
            <exclusions>
                <exclusion>
                    <artifactId>lombok</artifactId>
                    <groupId>org.projectlombok</groupId>
                </exclusion>
            </exclusions>
        </dependency>
    </dependencies>

</project>
Service文件
package com.demo.yuanzi.service.impl;

import com.alibaba.dashscope.aigc.generation.Generation;
import com.alibaba.dashscope.aigc.generation.GenerationParam;
import com.alibaba.dashscope.aigc.generation.GenerationResult;
import com.alibaba.dashscope.common.Message;
import com.alibaba.dashscope.common.Role;
import com.alibaba.dashscope.exception.ApiException;
import com.alibaba.dashscope.exception.InputRequiredException;
import com.alibaba.dashscope.exception.NoApiKeyException;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.stereotype.Service;

import java.util.Arrays;
@Service
public class YuanZIGpt {

    @Value("${api.key}")
    private String apiKey;


    public GenerationResult callWithMessage() throws ApiException, NoApiKeyException, InputRequiredException {
        Generation gen = new Generation();
        Message systemMsg = Message.builder()
                .role(Role.SYSTEM.getValue())
                .content("You are a helpful assistant.")
                .build();
        Message userMsg = Message.builder()
                .role(Role.USER.getValue())
                .content("java的特性？")
                .build();
        GenerationParam param = GenerationParam.builder()
                .model("qwen-turbo")
                .messages(Arrays.asList(systemMsg, userMsg))
                .resultFormat(GenerationParam.ResultFormat.MESSAGE)
                .temperature(0.8f)
                .apiKey(apiKey) // 添加 API key 到参数中
                .build();
        return gen.call(param);
    }
}
Controller文件

    @GetMapping("/test2")
    public String show2() {

        try {
            GenerationResult result = yuanZIGpt.callWithMessage();
            System.out.println(result.getOutput().getChoices().get(0).getMessage().getContent());
        } catch (ApiException | NoApiKeyException | InputRequiredException e) {
            // 使用日志框架记录异常信息
            System.err.println("An error occurred while calling the generation service: " + e.getMessage());
        }
        System.exit(0);
        return "测试";


    }

测试结果

在这里插入图片描述

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1984670.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

遗传算法与深度学习实战——生命模拟与进化论

遗传算法与深度学习实战——生命模拟与进化论

遗传算法与深度学习实战——生命模拟与进化论 0. 前言1. 模拟进化1.1 代码实现1.2 代码改进 2. 达尔文进化论3. 自然选择和适者生存3.1 适者生存3.2 进化计算中的生物学 小结系列链接 0. 前言 生命模拟通过计算机模拟生物体的基本特征、遗传机制、环境互动等&#xff0c;试图模…
阅读更多...
KMZ格式详解，javascript写入读取KMZ示例

KMZ格式详解，javascript写入读取KMZ示例

还是大剑师兰特&#xff1a;曾是美国某知名大学计算机专业研究生&#xff0c;现为航空航海领域高级前端工程师&#xff1b;CSDN知名博主&#xff0c;GIS领域优质创作者&#xff0c;深耕openlayers、leaflet、mapbox、cesium&#xff0c;canvas&#xff0c;webgl&#xff0c;ech…
阅读更多...
myeclipse 2020 下载 安装 汉化

myeclipse 2020 下载 安装 汉化

1&#xff0c;解压 myeclipse 2020 压缩包到当前目录下&#xff1a; 点击此处蓝色字体下载压缩包 提取码 k3x9 2&#xff0c;鼠标右键 点击 myeclipse 2020.exe 选择 以管理员身份运行 &#xff1a; 3&#xff0c;等待加载&#xff1a; 4&#xff0c;点击 Next &#xff1a; 5…
阅读更多...
【数学建模】2024华数杯A题思路（已完成）

【数学建模】2024华数杯A题思路（已完成）

视频预览&#xff1a; 2024华数杯A题已完成 作品连接&#xff1a;https://mbd.pub/o/bread/ZpmWmJxu 文章目录 一、题目二、分析三、代码示例 一、题目 机器臂是一种自动化装置&#xff0c;广泛应用于工业生产、精密操作、危险环境作业和物流等领域。关节角路径的优化设计对于…
阅读更多...
Transformer在生成细胞数据上的应用

Transformer在生成细胞数据上的应用

来自&#xff1a;scTranslator: A pre-trained large generative model for translating single-cell transcriptome to proteome 工程地址&#xff1a;https://github.com/TencentAILabHealthcare/scTranslator 在scTranslator中&#xff0c;有3个阶段&#xff1a;paired bu…
阅读更多...
【xilinx】XCZU1CG-1SBVA484I FPGA 的 VCC_PSBATT 引脚的正确电压范围是多少？

【xilinx】XCZU1CG-1SBVA484I FPGA 的 VCC_PSBATT 引脚的正确电压范围是多少？

我正在做一个涉及 XCZU1Cg-1SBVA484I FPGA IC 的项目。对于 PSBATT 部分&#xff0c;根据 DS925 文档&#xff0c;提到 VCC_PSBATT 电压范围为 1.2V ~ 1.5V。但在同一文档中&#xff0c;注释部分规定&#xff1a;Vcc_psbatt 最高可接受 1.89V。 根据 UG1085 文档&#xff0c;使…
阅读更多...
HarmonyOS 习题（二）

HarmonyOS 习题（二）

1、在类Web开发范式自定义组件创建后&#xff0c;加入到Page组件树时&#xff0c;会触发以下哪一项回调。 A&#xff09;Onlnit B&#xff09;OnAttached C&#xff09;OnLayoutReady D&#xff09;OnDetached 答案&#xff1a;B 分析: onlnit:自定义组件初始化生命周期回调&a…
阅读更多...
HTML常用标签和CSS的运用

HTML常用标签和CSS的运用

目录 1.HTML标签 1.1 文档结构标签 1.2 文本格式标签 1.3 列表标签 1.4 链接和媒体标签 1.5 表格标签 1.6 表单标签 1.7 分区和布局标签 1.8 元数据标签 2.css样式 2.1 字体样式 2.2 文本样式 2.3 背景样式 2.4 边框样式 2.5 间距样式 2.6 宽度和高度 2.7 显示…
阅读更多...
NLP——Transfromer 架构详解

NLP——Transfromer 架构详解

Transformer总体架构图 输入部分&#xff1a;源文本嵌入层及其位置编码器、目标文本嵌入层及其位置编码器 编码器部分 由N个编码器层堆叠而成 每个编码器层由两个子层连接结构组成 第一个子层连接结构包括一个多头自注意力子层和规范化层以及一个残差连接 第二个子层连接结构包…
阅读更多...
音质提升秘籍：专业音频剪辑软件汇总

音质提升秘籍：专业音频剪辑软件汇总

现在欣赏传输音频文件比以前简单多了&#xff0c;这些音频的质量也影响了听众的体验与感受。所以使用一些靠谱的音频剪辑工具处理音频能让你的音频文件呈现更好的效果。 1.福昕音频剪辑 链接直达>>https://www.foxitsoftware.cn/audio-clip/ 这是一款电脑端软件。别看…
阅读更多...
MySQL查询最近7天的分组数据，无则补零

MySQL查询最近7天的分组数据，无则补零

需求是&#xff1a;有个查询最近7天的折线图&#xff0c;这个就要求没有数据就要补0 现在表名为&#xff1a;wo_work_order 时间字段为&#xff1a;create_time SQL如下&#xff1a; SELECTDATE_FORMAT( a.timeDay, %Y-%m-%d ) AS day,IFNULL( b.count, 0 ) AS count FROM(S…
阅读更多...
5.怎么使用Element ui来做一个前端登录页面

5.怎么使用Element ui来做一个前端登录页面

找到Layout 布局 他通过基础的 24 分栏&#xff0c;迅速简便地创建布局。 找一个对齐方式 这个就不错,找到对应的代码 这个 复制进入idea 引入我们的图片和文字 我这里图片有点问题 然后我再添加一条分割线 加入表单校验 把里面的代码同上加入idea 结果 对表单内容进行调整 …
阅读更多...
半导体设备SAP实施的主要特点有哪些?

半导体设备SAP实施的主要特点有哪些?

在半导体这一高度技术密集且竞争激烈的行业中&#xff0c;企业的高效运营和精准管理成为了决胜市场的关键。SAP作为全球领先的企业管理软件提供商&#xff0c;其半导体设备解决方案以其独特的功能和特点&#xff0c;为半导体企业带来了显著的运营优化和竞争力提升。本文将跟大家…
阅读更多...
C# 类型转换

C# 类型转换

隐式&#xff08;implicit&#xff09;类型转换 1.不丢失精度的转换 2.显示&#xff08;explicit&#xff09;类型的转换 有可能丢失精度的转换 使用convert转换 ToString方法&#xff1a;将数值类型转换成字符串型
阅读更多...
【Deep-ML系列】Linear Regression Using Normal Equation(正规方程求解线性回归)

【Deep-ML系列】Linear Regression Using Normal Equation(正规方程求解线性回归)

题目链接&#xff1a;Deep-ML import numpy as np def linear_regression_normal_equation(X: list[list[float]], y: list[float]) -> list[float]:X np.array(X)y np.array(y).reshape(-1, 1)x_transpose X.Ttheta np.linalg.inv(x_transpose.dot(X)).dot(x_transpose…
阅读更多...
K8s部署篇之手动部署二进制高可用集群架构

K8s部署篇之手动部署二进制高可用集群架构

一、系统环境初始化 一&#xff09;架构设计 所有节点都操作&#xff1a;3个master&#xff08;etcd集群三个节点&#xff09;和2个node 1、K8s服务调用如图 2、各组件说明 1、API Server 供Kubernetes API接口&#xff0c;主要处理 REST操作以及更新ETCD中的对象所有资源增删…
阅读更多...
virtualbox7安装centos7.9配置静态ip避坑方案

virtualbox7安装centos7.9配置静态ip避坑方案

1.背景 我大概在一年之前安装virtualbox7centos7.9的环境&#xff0c;但看视频说用vagrant启动的窗口可以不用第三方工具(比如xshell、secure等)连接centos7.9&#xff0c;于是尝鲜试了下还可以&#xff0c;导致系统文件格式是vmdk了&#xff08;网上有vmdk转vdi的方法&#xf…
阅读更多...
LLaVAR: Enhanced Visual Instruction Tuning for Text-Rich Image Understanding

LLaVAR: Enhanced Visual Instruction Tuning for Text-Rich Image Understanding

发表时间&#xff1a;2 Feb 2024 论文链接&#xff1a;https://arxiv.org/pdf/2306.17107 作者单位&#xff1a;Georgia Tech Motivation&#xff1a;指令调整增强了大型语言模型 (LLM) 与人类交互的能力。此外&#xff0c;最近的指令跟踪数据集包括图像作为视觉输入&#xf…
阅读更多...
从古代驿站体系看软件安全管控@安全历史04

从古代驿站体系看软件安全管控@安全历史04

在古代&#xff0c;车、马都很慢&#xff0c;信息传递很不顺畅&#xff0c;中央的政令又是如何传达至地方的呢&#xff1f;实际上&#xff0c;很多朝代都有专门的驿站制度&#xff0c;可以保障全国各地的信息传递&#xff0c;对于维护统治和稳定有着关键作用。 若将国家比作一个…
阅读更多...
jvm方法返回相关指令ireturn，areturn，return等分析

jvm方法返回相关指令ireturn，areturn，return等分析

正文 看图&#xff1a; 做的事情如下: 1:弹出当前的方法栈帧 2:获取上一个方法 3:从当前方法的操作数栈中获取执行结果,并推送到上一个方法的操作数栈中对应的伪代码&#xff1a; Override public void execute(Frame frame) {Thread thread frame.thread();Frame curren…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023