DataFun: ChatGPT背后的模型详解

news2024/11/28 18:58:04

ChatGPT背后的模型详解

Overview

在这里插入图片描述

Transofrmer

在这里插入图片描述

各个构件都有一定的作用

Multi-head self attention

在这里插入图片描述
每个字的重要性不一样，学习QKV三个矩阵（query，key，value）

多组QKV

RLHF

在这里插入图片描述

ChatGPT训练过程

在这里插入图片描述

思维链 COT

在这里插入图片描述

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/741796.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

C++_简单模拟实现string的基本结构

C中，string早于STL问世。使用string中的构造函数可以实现对string类型的字符串的一系列操作。今天来模拟C中的string的基本结构。注意仅仅是简单模拟，string内部结构其实非常复杂，并且不同版本的IDEstring的内部结构也不尽相同。尽管有所不…

SpringBoot2+Vue2实战(十五)高德地图集成

1.地图官网： 高德开放平台 | 高德地图API 2.开发文档(web js) 正式集成： 1.再index.html中引入script标签 <script type"text/javascript" src"https://webapi.amap.com/maps?v2.0&key您申请的key值"></script>…

第五章 PCIe介绍 5.1-5.7

5.1 从PCIe的速度说起为什么SSD要用PCIe接口？因为它快，比SATA快。 Lane：通道，PCIe最多可以有32个通道。 1. PCIe的工作模式两个设备之间的PCIe连接，叫做一个Link。如下图，设备A和设备B是个双向连接&#…

【读书笔记】只管去做

《只管去做》是一本很容易读完的书，这本书是以故事的形式来阐述把愿景落实到每天的行动中的方法，对我们做人生规划很有帮助。

使用leaflet在html中加载天地图且去掉左上角的缩放图标以及右下角的logo

前言我们这一节使用轻量化的javascript库leaflet来实现在html中加载天地图，实现类似高德地图、百度地图的效果。效果图如下： 话不多说，进入主题！！ 一、注册开发者权限我们需要在天地图平台注册一个账号&#xff0…

【Qt】VS2013+QT5.6.3环境搭建

安装VS2013 略安装Qt 安装文件：qt-opensource-windows-x86-msvc2013-5.6.3.exe（官网已经不提供下载了。） 安装步骤：安装到C盘根目录，其它略。安装qt vs插件 1、下载地址： https://download.qt.io/a…

string常见功能模拟

学到string终于就不用像c语言一样造轮子了，接下来我们就模拟一下string方便我们更好理解string，首先我们都知道库里有个string，所以为了避免我们的string和库里的冲突，要用命名空间my_string将我们写的string包含在内。string的成…

精准医学时代：探索人工智能在DCA曲线下的临床医学应用

一、引言在当今医学领域中，精准医学作为一种以个体差异为基础的医疗模式逐渐受到重视和应用[1]。精准医学基于个体基因组、环境和生活方式因素的综合分析，旨在实现个体化的预防、诊断和治疗方案，从而提供更好的临床结果[2]。与传统医学相比&…

maven3.x 各个版本安装包官网下载地址

Index of /dist/maven/maven-3

MACD进阶版指标公式，提前一天判断MACD金叉

MACD是一种常用的技术分析指标，用于判断价格的趋势和动能，其原理是基于两条指数移动平均线的比较和对价格的平滑处理，MACD金叉是指MACD指标中的快线DIF从下方向上穿过慢线DEA。快线、慢线都是根据收盘价计算出来的，如果想提前一天…

STM32基础知识点总结

一、基础知识点 1、课程体系介绍单片机概述arm体系结构STM32开发环境搭建 STM32-GPIO编程-点亮世界的那盏灯 STM32-USART串口应用SPI液晶屏 STM32-中断系统 STM32-时钟系统 STM32-ADC DMA 温湿度传感器-DHT11 2.如何学习单片机课程多听理论、多理解、有问题及时提问自己多…

论文阅读：基于深度学习的大尺度遥感图像建筑物分割研究

一、该网络中采用了上下文信息捕获模块。通过扩大感受野，在保留细节信息的同时，在中心部分进行多尺度特征的融合，缓解了传统算法中细节信息丢失的问题；通过自适应地融合局部语义特征，该网络在空间特征和通道特征之间建…

时间序列预测 | Matlab基于粒子群算法(PSO)优化径向基神经网络(PSO-RBF)的时间序列预测

文章目录效果一览文章概述部分源码参考资料效果一览文章概述时间序列预测| Matlab基于粒子群算法(PSO)优化径向基神经网络(PSO-RBF)的时间序列预测评价指标包括:MAE、MBE和R2等，代码质量极高，方便学习和替换数据。要求2018版本及以上。部分源码 %% 清空环境变量 warni…

2023年开放式蓝牙耳机选购指南！多款热门开放式蓝牙耳机品牌盘点

前言大家好，作为专注耳机研究多年的发烧级爱好者，毫不夸张地说我为耳机花的钱比买衣服还多，很多人都在问我开放式耳机到底有没有必要买？答案毫无疑问是有必要！开放式耳机佩戴舒适又安全的特质让它在耳机届风靡&#…

zabbix server is not running错误解决方法

1.错误：zabbix server is not running 打开zabbix server的时候，底部飘着一行黄色的警告字 2.解决方法 (1)关闭selinux (2)查看日志文件 #tail -f /var/log/zabbix/zabbix_server.log 发现内存溢出了 __zbx_mem_realloc(): out of memory 那…

vitepress使用

vitepress使用初始化项目 pnpm init pnpm add vitepress vue 创建一个docs文件夹在docs下新建index.js文件 # Hello VitePress在package.json中增加打包以及运行的指令 "scripts": {"docs:dev": "vitepress dev docs", // 本地运行调试&qu…