科技云报到:大模型时代下,向量数据库的野望

news2024/10/22 19:27:07

科技云报到原创。


自ChatGPT爆火,国内头部平台型公司一拥而上,先后发布AGI或垂类LLM,但鲜有大模型基础设施在数据层面的进化,比如向量数据库。

在此之前,向量数据库经历了几年的沉寂期,现在似乎终于乘着ChatGPT的东风成为资本的“宠儿”。然而,一年狂飙之后,市场逐渐退潮,因此有人质疑,向量数据库又凉了?

判断一条赛道是否真的有潜力,资本的注入虽是前提,但更重要的还有市场的态度。大模型应用的逐步落地于向量数据库而言,无疑是最好的催熟剂。

然而任何新技术的到来,都需要更长的时间才能得到市场的接受。

一份关于向量数据库的市场研究是,随着AI应用场景加速落地,据西南证券分析,预计2025年向量数据库渗透率约为30%,其中,中国向量数据库市场规模约为82.56亿元。而据中国信通院测算,到2025年,中国数据库市场规模将达688亿元。这意味着,两年后向量数据库在中国的渗透率将超过10%。

在国内,不少数据库厂商都在尝试推出向量数据库产品,然而从市场验证阶段走向实现盈利,中间还需要一段更漫长的时间。向量数据库究竟是虚火过旺还是星辰大海?在向量数据库这条赛道,能否看到更远的未来?

fcbe28de5c4e8ca9a5ef541ad9d7aca1.jpeg


向量数据库,刚刚开始

向量数据库,顾名思义,是一种专门处理向量数据的数据库。在传统的关系型数据库中,数据通常以表格形式存储,而向量数据库则将非结构化数据(如文本、图像、音频等)转换为向量形式进行存储。这种数据表示方法使得向量数据库能够高效地处理大规模、高维度的数据集,为AI提供了强大的计算基础。

如果说数据库是数据的“硬盘”,那么,向量数据库就是更适合AI体质的“硬盘”,其“AI原生”的体质,具体表现在以下几个方面。

首先,是更高的效率。AI算法,要从图像、音频和文本等海量的非结构化数据中学习,提取出以向量为表示形式的“特征”,以便模型能够理解和处理。因此,向量数据库比传统基于索引的数据库有明显优势。

其次,更低的成本。大模型要从一种新技术转化为产业价值,必须达到合理的投入产出比,而向量数据库可以有效减少存储和计算成本。一个公开数据是,通过腾讯云向量数据库,QQ音乐人均听歌时长提升3.2%、腾讯视频有效曝光人均时长提升1.74%、QQ浏览器成本降低37.9%,就在于检索效率、运行稳定性、运营效率、推荐算法等,有了较大的提升。

第三,更强的数据安全。企业想做大模型,还要确保数据的隐私安全,就必须与数据库产品做好配合,这给向量数据库的本地部署带来了广阔的需求。

第四,更大的扩展性。随着大模型走向行业应用,垂直领域的AI用例不断增多,汹涌的数据洪潮和存算任务,会带来大量向量搜索的需求。而向量数据库嵌入向量的长度不受限制,具有良好的扩展性,可以根据AI用例和模型而变化,更好地处理大规模数据集。

从大模型技术标杆的OpenAI发布的GPT-4o和即将发布的GPT-5消息来看,以及国内外商业化大模型的进展来看,大模型的技术路线还没有发生颠覆性的变革,因此落地应用还是需要向量检索和向量数据库。

由此可见,向量数据库与AI的关系紧密相连。在大模型兴起之前,传统数据库已经在不断尝试与AI结合,主要涉及以下几个方向:数据存储与管理、数据清洗与预处理、数据检索与查询、数据集成与共享、数据安全与隐私保护。随着大模型的兴起,可以看到在这些方向上,数据库与AI间的关联比以往任何时候都要密切。

此外,AI 大模型的兴起还为数据库注入了预测估算的能力。AI模型可以通过学习历史数据和模式,对未来的趋势和结果进行预测和估算。传统数据库可以集成AI模型,实现对数据的预测分析。这使得数据库可以不仅提供对历史数据的查询和分析,还能够提供对未来数据的预测和估算结果,帮助用户做出更准确的决策。

总的来说,几乎所有类型的数据库都在积极向AI靠拢,比如在数据库中添加向量索引,数据库和AI已经密不可分,两者相辅相成,共同推动着技术的进步和应用的拓展。

76fd033d083057560ef071ce0ee86599.jpeg


两大新势力,云是方向

传统数据库厂商不必多说,既有相应的能力建设,也有一定的客户基础,推出相关产品是必然。一些在AI领域积淀已久的科技大厂,如谷歌、微软、Meta、百度等大厂,都有向量数据库的技术积累,也都可以向外输出相关能力和产品。

除了这些常规面孔,向量数据库市场也吸引了新的参与者。作为这一轮大模型投资热和创业热的主要目标之一,向量数据库领域诞生了不少创新创业公司。比如AI创业新秀Pinecone就是闭源的领跑者,凭借良好的开箱即用的产品体验,获得了非常大的增长,B轮估值达到7.5亿美元。其他竞争者大多建立在开源项目的基础上。

不过,作为创业公司,长期盈利能力还有待验证。一个主要原因,是客户大多是尝鲜、实验性质。

企业需要先将非结构化的私密数据,放入一个小的模型中进行数据转化,即数据向量化,产生一个向量的矩阵,再存储到向量数据库里,来供大模型学习和检索。这个过程涉及大量的工程化,会耗费企业许多开发人员、时间成本,一开始可能会因为AI大模型很火而对向量数据库产生兴趣,但能否真正在业务中落地还是个未知数。因此,长期付费意愿还有较大的不确定性。

另一股积极参与的新势力,就是公有云厂商。

从2017年到2019年,于向量数据库的发展而言,是一段更为重要的时间。腾讯云、百度智能云、京东科技等也恰都是在这个时间段将向量数据库的相关组件应用到具体的业务之上。

实际上,这段时间所对应的背景也正是,非结构化数据需求的激增。

一个具有代表性的事件是,2017年,短视频的爆火,催生了新媒体行业,各种结构数据也随之出现。这一现象就导致了不同结构数据的处理需求。

除此之外,京东、腾讯和百度的内部产品也有更多类似的需求。而向量化引擎也正是从这一时间点开始萌芽。

事实上,不是所有企业都有能力自建大模型所需要的基础设施,通过MaaS(模型即服务)业务来训练应用大模型,是更灵活的选择。此外,很多政企客户往往会选择公有云或行业云来满足其业务需求,对云数据库的关注度和接受度上升,而这些用户在探索大模型时,会倾向于以整体解决方案的形式来交付,这就给了云厂商参与到此赛道机会,同时也要求云厂商提供向量数据库的全栈支持。

如今头部云厂商基本建立了全生命周期AI化的向量数据库。有数据显示,企业原先接入一个大模型需要花1个月左右时间,使用某公有云的向量数据库后,3天时间即可完成,极大降低了企业的接入成本。

更何况,前不久火山引擎、阿里云、百度智能云等都围绕大模型API价格,打起了互相抄底的“价格战”,意味着AI创新门槛的降低,而AI应用市场的用户规模扩大,也会带动向量数据库的使用需求。

综合来看,整个云AI市场的格局还在快速变化之中,风物长宜放眼量,AI Native的向量数据库,前景仍然值得期待。


向量数据库,展望AGI时代

从某种程度上而言,无论是向量数据库,还是大模型,归根结底,大家在追捧它时的心态,焦虑大于需求。而这种焦虑则来源于“害怕被落下”。

大模型、多模态等新技术、新应用的出现,正在迅速刷新着人们对AGI时代的期待,仿佛它下一刻就会到来。

而向量数据库的热潮,在一定程度上“外化”了人们的焦虑。但这并不能否定向量数据库的实际价值,甚至更长远的价值。

虽然,目前向量数据库仍处于发展初期,但可以确定的是,向量数据库与大模型一定是捆绑关系。因此,未来其演进方向也一定随着大模型能力的演进而发生变化。

腾讯云数据库副总经理罗云认为,向量数据库帮助大模型解决在专有领域知识不足的问题。通用大模型是基于海量的互联网业务和数据去训练的,但对于一些细分的垂直行业缺少知识。而向量数据库可以帮助企业打通企业私有知识库和大模型的连接,帮助企业更好地利用大模型等AI新技术去实现企业的降本增效,推动企业从“数字化”到“数智化”的跃升,这就是向量数据库在AI时代的重要的定位和价值。

cff54bd2624db77abb6ffc3baffb5ae4.jpeg

而在具体的演进方向上,向量数据库一定会考虑多模态数据的表达以及数据的智能化管理。

首先,在大模型应用百花齐放的背景下,向量数据库对于多模态数据的处理意义,变得十分重要。

罗云进一步举例,比如某教育客户,把一些线下的教育课程,甚至老师上课的教育提纲,全部作为向量,存储到腾讯云的向量数据库里。当家长想要去咨询某节课老师讲了什么,就可以把存储在向量数据库里面内容检索出来,再交给大模型按照人们能理解的语言来回答,这就将向量数据库与大模型进行了很好的匹配。

如果没有向量数据库参与,以及没有合理的多模态数据处理方式,这种情况下是无法查询出这些数据的。

但随着多模态数据规模上的提升,另一个问题也随之出现。不同数据库中数据如何将其统一管理并让数据流通起来,这就涉及到的智能化管理也是向量数据库未来的发力点。

向量数据库作为处理多样性和复杂性数据挑战的得力工具,为各行业提供了高效、灵活的数据管理解决方案。其高维索引、相似性查询、向量聚合等特点,使其在推荐系统、搜索引擎、社交媒体分析、生物信息学和图像视频分析等多个领域得到了成功应用。

不可否认,向量数据库的未来既蕴含着广阔的发展空间,也面临着诸多挑战。得益于大模型火热,向量数据库已逐渐成为资本市场的青睐之选。在未来的AGI道路上,向量数据库仍需要砥砺前行。


【关于科技云报到】

企业级IT领域Top10新媒体。聚焦云计算、人工智能、大模型、网络安全、大数据、区块链等企业级科技领域。原创文章和视频获工信部权威认可,是世界人工智能大会、数博会、国家网安周、可信云大会与全球云计算等大型活动的官方指定传播媒体之一。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2213137.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Yolov11与Yolov8在西红柿识别数据集上对比

Ultralytics 最新发布的 YOLOv11 相较于其上一代产品 YOLOv8,虽然没有发生革命性的变化,但仍有一些显著的改进(值得注意的是,YOLOv9 和 YOLOv10 并非由 Ultralytics 开发)。其中,最引人注目的变化包括&…

4.redis通用命令

文章目录 1.使用官网文档2.redis通用命令2.1set2.2get2.3.redis全局命令2.3.1 keys 2.4 exists2.5 del(delete)2.6 expire - (失效时间)2.7 ttl - 过期时间2.7.1 redis中key的过期策略2.7.2redis定时器的实现原理 2.8 type2.9 object 3.生产环境4.常用的数据结构4.1认识数据类型…

代码复现(四):DBINet

文章目录 datasets/AB2019BASDataset.pydatasets/ext_transforms.pynetwork/modules.pynetwork/DBINet.pynetwork/DBINet_Backbone.pyAB2019_train.py 代码链接:DBINet datasets/AB2019BASDataset.py 加载Australia Bushfire 2019 Burned Area Segmentation Datase…

【论文精读】RELIEF: Reinforcement Learning Empowered Graph Feature Prompt Tuning

Navigating the Digital World as Humans Do: UNIVERSAL VISUAL GROUNDING FOR GUI AGENTS 前言AbstractMotivationSolutionRELIEFIncorporating Feature Prompts as MDPAction SpaceState TransitionReward Function Policy Network ArchitectureDiscrete ActorContinuous Act…

【杂记】之语法学习第一课输入输出与数据类型与选择结构

首先学会新建源文件 1.打开DEV C 2.文件—>新建—>源代码 3.编写程序 4.编译并运行(F11) 第一个程序《Hello,World!》 题目描述 编写一个能够输出 Hello,World! 的程序。 提示: 使用英文标点符号;Hello,World! 逗号后…

8-基于双TMS320C6678 + XC7K420T的6U CPCI Express高速数据处理平台

1、板卡概述 板卡由我公司自主研发,基于6UCPCI架构,处理板包含双片TI DSP TMS320C6678芯片;一片Xilinx公司FPGA XC7K420T-1FFG1156 芯片;六个千兆网口(FPGA两个,DSP四个);DSP与FPGA之…

基于springboot+vue实现的酒店在线预订系统

基于springbootvue实现的酒店在线预订系统 (源码L文ppt)4-082 4.2 系统结构设计 构图是系统的体系结构,体系结构是体系结构体系的一部分,体系结构体系是体系结…

LabVIEW空间相机测控系统

空间相机是遥感技术中的核心设备,其在太空中的性能对任务的成功至关重要。为了确保空间相机能够在极端环境下稳定工作,地面模拟测试成为必不可少的环节。LabVIEW开发的空间相机测控系统,通过对温度、应力和应变等参数进行高精度测量&#xff…

LeetCode 3319. 第 K 大的完美二叉子树的大小

LeetCode 3319. 第 K 大的完美二叉子树的大小 给你一棵 二叉树 的根节点 root 和一个整数k。 返回第 k 大的 完美二叉子树的大小,如果不存在则返回 -1。 完美二叉树 是指所有叶子节点都在同一层级的树,且每个父节点恰有两个子节点。 子树 是指树中的某一…

计算机网络:数据链路层 —— 以太网(Ethernet)

文章目录 局域网局域网的主要特征 以太网以太网的发展100BASE-T 以太网物理层标准 吉比特以太网载波延伸物理层标准 10吉比特以太网汇聚层交换机物理层标准 40/100吉比特以太网传输媒体 局域网 局域网(Local Area Network, LAN)是一种计算机网络&#x…

本地装了个pytorch cuda

安装命令选择 pip install torch1.13.1cu116 torchvision0.14.1cu116 torchaudio0.13.1 --extra-index-url https://download.pytorch.org/whl/cu116 torch版本查看 python import torch print(torch.__version__) 查看pytorch能否使用cuda import torch# 检查CUDA是否可用…

如何用AWG实现脉冲激光输出

脉冲激光二极管提供强功率短脉冲的能力,使其成为目标指定和测距等军事应用的理想选择。事实上,开发这些二极管的许多历史动机都有军事渊源。然而,当今的技术进步和成本降低的大背景之下,在测试测量和医学领域新的应用得以开辟。 …

113.WEB渗透测试-信息收集-ARL(4)

免责声明:内容仅供学习参考,请合法利用知识,禁止进行违法犯罪活动! 内容参考于: 易锦网校会员专享课 上一个内容:112.WEB渗透测试-信息收集-ARL(3)-CSDN博客 等待搭建成功 创建成…

Vue深入了解

Vue深入了解 MVVMv-model (双向数据绑定原理)异步更新keep-alive原理$nextTick原理computed 和 watch 的区别css-scoped虚拟DOMVuex && PiniaVue-router原理proxy 与 Object.defineProperty组件通信方式 MVVM <!DOCTYPE html> <html lang"en">&…

声波驱鸟 全向强声广播的应用

HT-360A多层叠形360向广播是恒星科通自主研发的一款应急广播专用设备&#xff0c;该设备内部采用1-4组换能器垂直阵列设置&#xff0c;水平采用指数函数碟形堆叠技术&#xff0c;在垂直方向上多层碟扬声器可实现360度环形垂直阵列&#xff0c;实现多层声场叠加。 系统可采用4G…

Linux驱动中的并发与竞争处理

Linux是一个多任务操作系统&#xff0c;肯定会存在多个任务共同操作同一段内存或者设备的情况&#xff0c;多个任务甚至中断都能访问的资源叫做共享资源&#xff0c;就和共享单车一样。在驱动开发中要注意对共享资源的保护&#xff0c;也就是要处理对共享资源的并发访问。比如共…

智慧校园打架斗殴检测预警系统 异常奔跑检测系统 Python 和 OpenCV 实现简单

在当今数字化时代&#xff0c;智慧校园建设已成为教育领域的重要发展方向。校园安全作为学校管理的重中之重&#xff0c;如何借助先进的技术手段实现高效、精准的安全监控&#xff0c;成为了教育工作者和技术专家共同关注的焦点。其中&#xff0c;智慧校园打架斗殴检测预警系统…

案例|当大型车企水灵灵地用上美创数据透明加解密“四折叠“...

你知道么&#xff1f; 2024年1-8月全球累计乘用车销量4494.5万辆 中国销量约为1361.37万辆 你知道么&#xff1f; 一辆智能网联汽车每天至少收集10TB的数据 数量庞大 涉及车身状态、出行轨迹、语音、视频... 这还不包括汽车制造产业链、内部管理... 你知道么&#xff1f;…

JDK安装环境配置保姆间教程

文章介绍了Java编程语言的基本知识&#xff0c;包括其创始人和发布年份&#xff0c;然后详细阐述了如何下载和安装JDK&#xff0c;以及如何配置JAVA_HOME和Path环境变量&#xff0c;以确保Java开发环境的正确设置。最后&#xff0c;作者提到在JDK1.5以后的版本中&#xff0c;无…

linux jdk环境变量变量新配置方式

1.jdk17--> jdk8环境变量配置,source /etc/profile了也不生效 which java #假设上命令运行结果为/usr/bin/java rm -rf /usr/bin/javaln -s $JAVA_HOME/bin/java /usr/bin/java source /etc/profile# 断开本次远程连接&#xff0c;重连检查java -version 2.jdk环境变量变…