GPT-4o多模态大模型的架构设计

news2024/10/6 12:27:48

c2327171b0c60ae67fd073418750992a.jpeg

GPT-4o:大模型风向,OpenAI大更新

   

f96189c3f23981190707efc6c9112d90.jpeg


OpenAI震撼发布两大更新!桌面版APP与全新UI的ChatGPT上线,简化用户操作,体验更自然。同时,全能模型GPT-4o惊艳亮相,跨模态即时响应,性能卓越且性价比飙升。相较于GPT-4 Turbo,GPT-4o不仅性能卓越,更向用户免费开放,引领大模型新风向。不容错过,立即体验OpenAI的最新科技成果!


1. 桌面版及新 UI ChatGPT

ChatGPT 发布桌面版 APP,支持与计算机语音对话,提升用户与模型交互体验。对于免费和付费用户,OpenAI 推出了适用于 macOS 的新 ChatGPT 桌面应用程序,该应用程序旨在无缝集成到用户的计算机上执行的任何操作。通过简单的键盘快捷键(Option + Space),用户便可向 ChatGPT 提问,并支持直接在应用程序中截取屏幕截图进行讨论。与此同时,ChatGPT 支持与计算机直接语音对话,并在未来将推出新音频和视频功能。

OpenAI率先为Plus用户推出macOS应用程序,并计划在未来数周内全面上线,预计2024年晚些时候还将推出Windows版本,为用户提供更多选择。

OpenAI全面革新UI界面,以更友好、对话性的设计,增强用户与平台的自然互动,简化操作流程,提升用户体验。

2. GPT-4o 实现毫秒级视觉音频理解

GPT-4o,OpenAI新旗舰,兼具GPT-4强大模型能力与卓越推理速度,更拥有多模态处理文本、图像、音频的创新功能。发布会亮点纷呈,为您揭示AI新时代的无限可能。

GPT-4o引领人机交互新纪元,实现毫秒级响应,即时语音对话。它兼容文本、音频、图像多元输入,并灵活输出,全面升级交流体验。相较于GPT-3.5的2.8s和GPT-4的5.4s延迟,GPT-4o音频响应最短至232毫秒,平均仅320毫秒,媲美人类对话速度。这一革命性突破,极大地提升了人机交流的自然度和效率,开启了人机交互的新篇章。

GPT-4o彰显卓越视觉与音频理解力,实时感知语气语态。用户可随时打断对话,模型则能灵活生成多音调回复,富含人类情感。通过与AI视频通话,即时解答疑问,体验前所未有的智能交互。

GPT-4o API的性价比显著跃升,其速度翻倍,成本减半,同时速率限制提升5倍,相较于GPT-4 Turbo,展现出卓越的性能与价值。

3. 端到端多模态 GPT-4o,刷新 SOTA 性能飞跃

传统语音 AI 通常经过三步法实现对话功能,在这过程中会丢失很多信息且不能判断情绪变化。三步法具体为:1)语音识别或 ASR:音频到文本,类似 Whisper;2)LLM 计划下一步要说什么:文本 1 到文本 2;3)语音合成或 TTS:文本 2 到音频,类似 ElevenLabs 或 VALL-E。GPT-4 便采用该模式,在这过程中不仅响应速度更慢而且丢失了大量信息,无法直接观察语调、多个说话者或背景噪音,也无法输出笑声、歌唱或表达情感等。

43ce13c423f4c6c577a0984f73bae855.jpeg

GPT-4o,跨模态端到端新模型,实现多模态统一,性能飞跃。其响应迅捷,于文本、推理、编码智能方面均达GPT-4 Turbo水平,更在多语言、音频、视觉功能上刷新记录。GPT-4o,真正的多模态统一模型,引领智能技术新篇章。

GPT-4o在文本推理领域再创新高!在0-shot COT MMLU测试中,它斩获了88.7%的卓越成绩;在5-shot no-CoT MMLU测试中,也达到了87.2%的高分。相较于GPT-4 Turbo,GPT-4o的文本推理能力得到了显著增强,展现了其强大的语言理解和分析能力。

41462687caf6263f64c4a84ca9afa35b.jpeg

GPT-4o在多语言识别上卓越于Whisper-v3,尤其在资源匮乏语言上表现优异,展现出色的跨语言识别能力。

GPT-4o在音频翻译上表现卓越,达到新高度,MLS基准测试成绩超越Whisper-v3,展现强大实力。

1a087fe6eba9aaf349aab735a0103338.jpeg

M3Exam测试涵盖多语言与视觉评估,结合多国标准化测试的多选题与图形图表。在各类语言基准测试中,GPT-4o表现超越GPT-4,凸显其卓越性能。

GPT-4o在视觉感知领域大放异彩,其性能在基准测试中达到了顶尖水平。MMMU测试结果显示,GPT-4o以69.1的高分领跑,远超GPT-4 Turbo的63.1分,以及Gemini 1.0 Ultra、Gemini 1.5 Pro和Claude Opus的59.4分和58.5分。这一突破性的表现,再次彰显了GPT-4o在视觉理解领域的卓越实力。

GPT-4o在端到端多模态架构的加持下,其多模态能力得以显著增强。不仅涵盖文本、图像等经典功能,更拓展至3D物品合成、文本转字体等创新领域,功能多样且强大。

 

-对此,您有什么看法见解?-

-欢迎在评论区留言探讨和分享。-

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1816225.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Java集合自测题

文章目录 一、说说 List , Set , Map 三者的区别?二、List , Set , Map 在 Java 中分别由哪些对应的实现类?底层的数据结构?三、有哪些集合是线程不安全的?怎么解决呢?四、HashMap 查询,删除的时间复杂度五…

k8s中的pod域名解析失败定位案例

问题描述 我在k8s中启动了一个Host网络模式的pod,这个pod的域名解析失败了。 定位步骤 敲kubectl exec -it [pod_name] -- bash进入pod后台,查看/etc/resolv.conf,发现nameserver配的有问题。这里我预期的nameserver应该使用宿主机的&…

【Linux】线程(一)

谈论之前需要先谈论一些线程的背景知识 其中就有进程地址空间,又是这个让我们又爱又恨的东西 目录 背景知识:地址空间: 背景知识: 地址空间: 说在前边,OS通常分为4个核心模块:执行流管理&…

【qt】绘图

绘图 一.画家二.绘图事件三.坐标体系四.画笔1.setColor2.setWidth3.setStyle4.setCapStyle5.setJoinStyle6.给画家配置笔 五.画刷1.setColor2.setStyle3.给画家设置刷子 六.用到的类汇总1.QRect 矩形2.QPoint 点3.QImage 图片4.QPixmap 图片5.QLine 线6.QPainterPath 路径 七.开…

如何关闭端口被占用的进程

如何关闭端口被占用的进程 操作步骤一、打开命令提示符(Command Prompt)二、查看占用端口的进程三、kill杀死占用端口的进程 操作步骤 一、打开命令提示符(Command Prompt) 使用 win R 打开命令行模式 然后在命令行窗口输入下…

【LLM Agent 长文本】Chain-of-Agents与Qwen-Agent引领智能体长文本处理革命

前言 大模型在处理长文本上下文任务时主要存在以下两个问题: 输入长度减少:RAG的方法可以减少输入长度,但这可能导致所需信息的部分丢失,影响任务解决性能。扩展LLMs的上下文长度:通过微调的方式来扩展LLMs的上下文窗…

基于DenseNet网络实现Cifar-10数据集分类

目录 1.作者介绍2.Cifar-10数据集介绍3.Densenet网络模型3.1网络背景3.2网络结构3.2.1Dense Block3.2.2Bottleneck层3.2.3Transition层3.2.4压缩 4.代码实现4.1数据加载4.2建立 DenseNet 网络模型4.3模型训练4.4训练代码4.5测试代码 参考链接 1.作者介绍 吴思雨,女…

搭建自己的多平台镜像站

# 1. 拉取代码 $ git clone https://github.com/wzshiming/crproxy.git $ cd crproxy/examples/default# 2. 修改网关域名 使用vim编辑start.sh文件,将第五行的gateway变量值修改为你自己设定的域名。 原:gatewaycr.zsm.io 修改为:gatewayXS…

go语言 | 快速生成数据库表的 model 和 queryset

就是生成 model 目录的 xxx.go 和 xxx_gen.go 文件 使用的工具: 快速生成 model:gentool:https://github.com/go-gorm/gen/tree/master/tools/gentool 根据 model 生成 queryset:go-queryset:https://github.com/jirfa…

layuimini框架实现点击菜单栏回到起始页

在layui页面中,如果使用了 window.location.href""进行了页面跳转,再点击菜单栏是不会显示起始页,而是跳转后的页面, 解决: 在miniTab.js文件中找到:listen方法 将其中修改为: if …

全球首创4090推理!昆仑万维开源Skywork-MoE模型

昆仑万维近期宣布开源了其2千亿参数规模的稀疏大模型Skywork-MoE。这个模型是基于他们之前开源的Skywork-13B模型中间checkpoint扩展而来的,并且宣称是首个完整应用MoE Upcycling技术的开源千亿MoE大模型。此外,它也是首个支持使用单台RTX 4090服务器&am…

MyBatisPlus代码生成器(交互式)快速指南

引言 本片文章是对代码生成器(交互)快速配置使用流程,更多配置方法可查看官方文档: 代码生成器配置官网 如有疑问欢迎评论区交流! 文章目录 引言演示效果图引入相关依赖创建代码生成器对象引入Freemarker模板引擎依赖支持的模板引擎 MyBat…

Day 20:2806. 取整购买后的账户余额

Leetcode 2806. 取整购买后的账户余额 一开始,你的银行账户里有 100 块钱。 给你一个整数purchaseAmount ,它表示你在一次购买中愿意支出的金额。 在一个商店里,你进行一次购买,实际支出的金额会向 最近 的 10 的 倍数 取整。换句…

【QT5】<总览二> QT信号槽、对象树及常用函数

文章目录 前言 一、QT信号与槽 1. 信号槽连接模型 2. 信号槽介绍 3. 自定义信号槽 二、QT的对象树 三、添加资源文件 四、样式表的使用 五、QSS文件的使用 六、常用函数与宏 前言 承接【QT5】<总览一> QT环境搭建、快捷键及编程规范。若存在版…

Python使用tkinter库设置背景图片、label显示位置和label设置显示图片

tkinter 设置背景图片 label显示位置 label设置显示图片 from tkinter import * import tkinter as tk from PIL import ImageTk from PIL import Imagedef get_img(filename, width, height):im Image.open(filename).resize((width, height))im ImageTk.PhotoImage(im)…

网络仿真方法综述

目录 1. 引言 2.仿真器介绍 2.1 NS-2 2.2 NS-3 2.3 OPNET 2.4 GNS3 3.仿真对比 4.结论 参考文献 1. 引言 网络仿真是指使用计算机模拟网络系统的行为和性能的过程。在网络仿真中,可以建立一个虚拟的网络环境,并通过模拟各种网络设备、协议和应用程…

this关键字,构造函数(构造器)

文章目录 thisthis是什么应用场景 构造器注意事项代码演示 this this是什么 this就是一个变量,可以在方法中,拿到当前对象 应用场景 解决变量名称 冲突问题 构造器 注意事项 必须和类名相同没有返回值只要参数不同(个数不同&#xff0…

【C语言】10.操作符详解

一、操作符分类 • 算术操作符&#xff1a; 、- 、* 、/ 、% • 移位操作符: << 、 >> • 位操作符: & 、|、^、 ~ • 赋值操作符: 、 、 - 、 、 / 、% 、<< 、>> 、& 、| 、^ • 单目操作符&#xff1a; &#xff01;、、–、&、、、…

postman教程-20-Newman安装入门

上一小节我们学习了Postman mock测试的方法&#xff0c;本小节我们讲解一下Postman Newman的安装方法。 Newman是Postman团队开发的一个命令行工具&#xff0c;它允许用户通过命令行接口&#xff08;CLI&#xff09;运行Postman集合&#xff08;Collections&#xff09;和环境…

样式的双向绑定的2种方式,实现样式交互效果

与样式标签实现双向绑定 通过布尔值来决定样式是出现还是消失 show代表着布尔值&#xff0c;show的初始值是false所以文本不会有高亮的效果&#xff0c;当用户点击了按钮&#xff0c;就会调用shows这个函数&#xff0c;并将show的相反值true赋值并覆盖给show,此时show的值为tru…