数据万象技术演进之路

news2024/11/28 10:59:15

前言

Dale(1969)的“经验之塔”指出人们获取信息70%以上是通过视觉途径,在互联网时代也不例外。在当今图片音视频服务等已成为一个互联网应用中占比很大的部分,对图片和音视频等数据的处理能力也相应变成企业和开发者的一项基本技能。

腾讯云存储团队历经数年,精心打磨了一款专注于数据处理的一站式智能平台——数据万象(Cloud Infinite,CI)。本文将以宏观视角,从产品历史、产品能力矩阵、技术架构、 应用场景等方面带大家了解数据万象这款云端处理利器,揭秘日均百亿张图片背后的技术演进之路。

背景故事

2004年QQ空间相册诞生,经历了长期的发展过程,已经深深被用户喜爱,成为大家记忆美好时光和分享快乐的平台。

作为QQ空间乃至腾讯最基础的服务之一,图片处理服务覆盖腾讯各个业务的方方面面。从图片的裁剪、缩放、水印,到压缩、审核、智能识别,伴随着腾讯产品体系的不断完善以及数据量的海量增长,处理服务也经历了一次次的磨炼与升级。

进入云计算时代后,脱胎于QQ空间相册处理服务的数据万象走上了腾讯云公有云的舞台,将QQ空间相册积累的近二十年图片运作经验开放给开发者。2014年,数据万象的前身——万象优图正式成立。起初产品功能以图片处理为主,随后逐渐增加音视频处理、文档处理、AI识别等功能。作为对象存储COS的原生数据处理工具,数据万象主打“智能存储”,帮助客户实现存量数据的批量处理及增量数据的自动化加工。随着产品的发展与升级,数据万象当前日处理图片量已达千亿规模,服务存储量达数百PB。在公司内部,腾讯视频、腾讯新闻、QQ音乐等产品均使用数据万象进行图片及音视频处理;在公司外,数据万象服务了拼多多、小红书、大众点评等各行业客户,为企业降低存储及流量成本、提升内容生产效率及用户提体验。

那么,这款在背后默默为各“大牌”保驾护航的产品是怎样的呢?数据万象的档案就此展开。

智能存储

数据万象(Cloud Infinite,CI) 是专注于数据处理的一站式智能平台,提供图片处理、媒体处理、 内容审核、内容 AI 识别、文档服务等全品类多媒体数据的处理能力。与对象存储 COS 深度集成,通过处理能力下沉到存储,帮助 COS 做智能化升级,提供开箱即用的数据处理及 AI 智能化处理能力,降低用户使用成本, 加速数据流转,提升用户体验,帮助用户挖掘数据价值,提升生产力。

在使用上,数据万象提供同步和异步的处理方式,为用户提供数据持久化处理的选择,用户可在上传时,下载时或者已存储在云上的数据进行处理,满足用户多种场景维度的需求。如果说COS是万物皆可存,那么CI就是万物皆可处理了。

|  目前都支持了哪些能力?   

通过能力矩阵,各位读者也可看出相比当年的QQ相册,数据万象也增加了很多功能,这些能力当然也不是一蹴而就的。接下来的时间线,见证了数据万象如何成为处理工具百宝箱。

|  发展历史     

2014:数据万象的前身——万象优图产品正式成立,开始在内外部提供云上图片处理服务。

2015 - 2017:逐步集成内容审核、AI识别、文档处理、音视频处理能力,全面升级为音视图文全品类数据处理产品,赋能对象存储,极大提升了用户的使用体验。

2018:万象优图更名为数据万象,寓意包揽云上万象、打造一站式数据处理能力。

2019 - 2020:全面升级内容审核服务,提升能力矩阵;推出云上工作流能力,提出全新存储+概念---数据存储即处理。帮助用户实现数据-存储-处理-分发全流程,一站式解决用户业务处理场景。

2021:行业首发avif图片压缩能力,助力客户优化存储及分发成本;媒体服务进入高速发展阶段,持续推出265编码、分片转码、极速高清、关键帧识别、色彩增强等众多能力;内容审核持续深耕,支持审核文档、网页数据;进军海外业务,图片处理全面上线腾讯云国际站。

2022:“智能工具箱”发布,提升用户体验与易用性;内容审核与时俱进,推出直播审核能力;产品体验持续打磨推陈出新,从控制台、SDK、API等全方面提升用户爽感。 

|  技术架构

1、业务方可通过控制台、 API、SDK等多种方式接入数据万象, 同时支持COS源和第三方源。

2、根据传入的请求调用不同的处理模块进行数据处理。同时会进行监控数据等统计上报,方便进行监控告警。通过工作流模块支持批量处理, 根据业务规范,指定模板,自动批量处理, 处理完毕后根据配置进行回调业务方。其中各个内部服务间调用时, 零外网流量。对业务方来说成本更低。

|  应用场景

当前已有众多行业客户接入使用万象,各行业的使用也不尽相同:

                

有了强大的能力支撑,数据万象得以服务众多的行业及场景,帮助客户实现成本优化、协作效率提升、内容生产及版权保护等核心需要。主要场景如下:

  • 成本优化

    通过使用图片、视频压缩能力降低存储及流量成本、提升终端体验

  • 版权保护

    借助明文水印、盲水印等能力有效保护图片资源版权,守护企业、用户的无形资产

  • 内容生产

    提供丰富的内容生产能力,如智能封面、标签识别、海报生成等,助力客户输出爆棚

  • 风险规避

    针对存量或增量数据均可进行敏感内容审核,规避舆论或运营风险

客户案例

案例详情 --小红书

  • 使用数据万象的图片基础处理,可做到一份原图,多尺寸展示,满足客户多种业务场景下的图片需求;

  • 使用数据万象的图片格式转换能力,在图片保证质量的前提下,有效的降低压缩图片的大小;

  • 使用数据万象的盲水印功能,将水印图以不可见的形式添加到原图信息中,保障了客户对图片的所有权;

  • 使用数据万象的异常图片检测功能, 帮客户识别出夹杂在正常图片视频中的黑产文件, 有效减少了被盗刷的风险;

案例优势&客户效益

  • 效率最佳: 图片下载自动触发,减少了频繁的人工处理流程。

  • 性能保障: 减少了图片存储空间和访问流量的50%以上,同时提升了客户访问速度。

  • 安全保障: 解决了盗图维权,流量盗刷等问题,保障了平台的安全性。

  • 节约成本: 多种功能保证了在保质保量的情况,有效降低客户成本30%以上。

结语

数据万象持续丰富数据处理的相关能力,为广大客户及开发者带来更加优质、先进的使用体验,打造智能存储生态。未来我们会推出【数据万象带你玩转视图处理】的系列文章,从后台技术、产品优势、算法能力等多个方面详细介绍数据万象背后的丰富数据处理能力,诸位看官敬请期待!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/85552.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

C++中二叉树的非递归遍历方法2-2

4 代码实现二叉树的非递归遍历 在“2 二叉树的遍历方法”中提到,二叉树的遍历方法有前序遍历、中序遍历、后序遍历属于深度优先遍历。接下来以前序遍历为例,通过代码实现该方法的二叉树非递归遍历。 4.1 前序遍历 4.1.1 前序遍历的非递归步骤 因为前…

记一次go协程读写锁 sync.RWMutex未释放导致其他协程阻塞bug

记一次go协程读写锁 sync.RWMutex未释放导致其他协程阻塞bug记一次go协程读写锁 sync.RWMutex未释放导致其他协程阻塞bug用到的监测工具程序简要介绍示例代码运行结果运行结果分析记一次go协程读写锁 sync.RWMutex未释放导致其他协程阻塞bug 通过一个简单示例模拟某协程结束&a…

[附源码]Python计算机毕业设计电影院订票系统Django(程序+LW)

该项目含有源码、文档、程序、数据库、配套开发软件、软件安装教程 项目运行 环境配置: Pychram社区版 python3.7.7 Mysql5.7 HBuilderXlist pipNavicat11Djangonodejs。 项目技术: django python Vue 等等组成,B/S模式 pychram管理等…

第53篇 Qt Quick项目详解

导语 前面我们一起创建了一个Qt Quick项目,并对里面的文件进行了简单的讲解,虽然这只是一个HelloWorld程序,但对于没有Qt Quick编程经验的同学来说,这个项目还是有点复杂。在这一篇中,我们将从最简单的QML文件讲起&am…

Flutter Web CORS解决方案1-禁用浏览器安全策略

Flutter Web CORS解决方案1设置CHROME_EXECUTABLE关于 CHROME_EXECUTABLE创建 CHROME_EXECUTABLE修改 chrome.dart 禁用安全策略升级 flutterSDK 后需重新修改升级后指定--web-hostname参数问题浏览器启用 Allow-CORS 插件部分协议OPTIONS预检跨域问题本文介绍第一种解决Flutte…

《纳瓦尔宝典》笔记一——你是在跟自己竞争,这是一场单人游戏

目录 一、身体的健康是top1 二、你唯一拥有的就是时间 三、选择短期内更更痛苦的道路 四、人生早期有三个重大决定 五、从雇佣关系中解脱出来 六、找合作伙伴 七、你真的嫉妒别人吗 八、从期待中解放出来 九、向内求-内在的评价标准 十、人生的大赢家就是同时拥有时间…

[附源码]Nodejs计算机毕业设计基于RationalRose的教务管理系统开发Express(程序+LW)

该项目含有源码、文档、程序、数据库、配套开发软件、软件安装教程。欢迎交流 项目运行 环境配置: Node.js Vscode Mysql5.7 HBuilderXNavicat11VueExpress。 项目技术: Express框架 Node.js Vue 等等组成,B/S模式 Vscode管理前后端分…

基于java+swing+mysql图书管理系统3

大作业-基于java swing图书管理系统3一、系统介绍二、功能展示1.管理员登陆2.图书类别添加3.图书类别维护4.图书添加5.图书维护三、系统实现1.BookManageMainFrame.java四、其它1.其他系统实现五.获取源码一、系统介绍 该系统实现了用户登陆、图书类别管理(图书类别添加、图书…

JavaEE 初始化两个上下文对象,导致更新网站访问次数更新失败

问题描述 : 在做网站次数统计的时候,需要用到上下文对象,最终在上下文监听中发现上下文对象创建两次,销毁两次,导致数据库中网站访问次数统计更新失败。 原因 : 我们更改了项目的访问路径,就会导…

使用Java实现上传图片到七牛云

文章目录1.登录七牛云官网&#xff0c;注册账号并登录2.在项目中导入七牛云依赖3.编写创建文件名工具类4.编写连接七牛云工具类5.编写前端请求的Controller6.上传成功1.登录七牛云官网&#xff0c;注册账号并登录 2.在项目中导入七牛云依赖 <!-- 七牛云依赖 --> <!-…

力扣1832.判断句子是否为全字母句(cpp实现+解析)

文章目录1832.判断句子是否为全字母句解法一解法二解法三&#xff08;最优&#xff09;1832.判断句子是否为全字母句 难度&#xff1a;简单 力扣传送门&#xff1a; https://leetcode.cn/problems/check-if-the-sentence-is-pangram/description/ 题目要求&#xff1a; 全字…

Compose学习 -> Image()

基本使用&#xff1a; 通过资源id加载资源文件 Image(painter painterResource(id R.mipmap.test_01),contentDescription "这是内容描述") 通过url地址加载网络图片 1、引入第三方库&#xff0c;并添加网络权限 implementation ("io.coil-kt:coil-comp…

【深入浅出Nacos原理及调优】「原理分析专题」配置中心加载原理和配置实时更新原理分析

官方资源 官方资源 带着问题去思考 客户端长轮询的响应时间会受什么影响为什么更改了配置信息后客户端会立即得到响应客户端的超时时间为什么要设置为30s带着以上这些问题我们从服务端的代码中去探寻结论。 配置中心 (Configuration Center) 系统开发过程中通常会将一些需…

用Python调用OpenAI API做有趣的事

获取 API KEY 首先需要 可以开全局的梯子&#xff0c;选择日本或韩国节点&#xff0c;可以通过 ipinfo 检查当前 IP 地址是否为日本或韩国地区&#xff0c;然后访问 OpenAI 网站注册账号并完成认证。 如果自己完成账号认证的成本太高&#xff0c;可以在某宝直接购买一个已经通…

存储也能“一键美颜”?看 XOCP 如何助力互联科技图片业务转型

近日&#xff0c;XSKY星辰天合联合“互联科技”推出了“图片云在线处理”解决方案&#xff0c;提供海量图片高效存储访问和在线图片处理服务&#xff0c;深入业务场景简化操作流程&#xff0c;提升照片流转速度&#xff0c;为客户打造高效敏捷的拍照体验。互联科技&#xff08;…

DAS Over FC 技术允许 ATTO 分解存储并完成 vSAN 认证套件

一、介绍 最近&#xff0c;ATTO Technology, Inc. 以前所未有的方式 完成了 VMware vSAN ReadyNode 认证套件。 测试台本身是公式化的&#xff0c;以三台 Dell R640 服务器作为主机。 除了用于引导的 SD 卡和用于日志记录的单个 SAS SSD 之外&#xff0c;不存在任何内部存储…

EXCEL基础:IFNA、VLOOKUP、SUMIFS函数的使用

注意&#xff1a;本操作数据来源于excel home&#xff0c;特此声明。 查看原始数据&#xff0c;如下所示为【商品】的相关信息&#xff1a; 查看原始数据&#xff0c;如下所示为【供应商】的相关信息&#xff1a; 主要目的&#xff1a;把以上相关信息搞在一张表上。 把下表…

基于jsp+mysql+ssm台球俱乐部管理系统-计算机毕业设计

项目介绍 台球俱乐部系统设计主要是管理员登录后对整个系统相关操作进行处理&#xff0c;可进行管理员的添加和删除&#xff0c;会员信息管理、付费信息管理、球桌信息管理、订桌信息管理等操作管理。采用目前最流行的ssm框架和eclipse编辑器、mysql数据库设计并实现的 本系统…

[附源码]计算机毕业设计冬奥会网上商城Springboot程序

项目运行 环境配置&#xff1a; Jdk1.8 Tomcat7.0 Mysql HBuilderX&#xff08;Webstorm也行&#xff09; Eclispe&#xff08;IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持&#xff09;。 项目技术&#xff1a; Springboot mybatis MavenVue等等组成&#xff0c;B/S模式…

什么是BPM系统?BPM流程管理系统介绍

一、什么是BPM系统&#xff1f; BPM系统&#xff08;英文全称&#xff1a;Business Process Management&#xff0c;翻译后简称BPM&#xff09;即业务流程管理系统&#xff0c;是指对端到端业务流程进行建模、分析和优化&#xff0c;以实现战略业务目标&#xff0c;其特点是注…