亚马逊云科技:还在苦于ETL?Zero ETL的时代已全面到来

news2024/11/17 4:43:23

在2022亚马逊云科技re:Invent全球大会上,亚马逊云科技数据和机器学习副总裁Swami Sivasubramanian表示:“当前,客户管理的数据既庞大又复杂,这意味着他们不能只用单一技术或几个工具来分析和探索这些数据。在此次2022亚马逊云科技re:Invent全球大会上发布的新功能将帮助我们的客户迈向一个‘Zero ETL的未来’,借助Zero ETL减少在不同服务间手动迁移或转换数据的工作。无论企业和数据的规模有多大,复杂度有多高,通过为客户消除ETL和其它数据迁移任务,我们将助力客户专注于分析数据,面向业务获取新的洞察。”

亚马逊云科技一直在投入开发基于Zero ETL理念的功能,比如Amazon Athena的Federated Query联邦查询,可以对存储在关系数据源、非关系数据源、对象数据源和外部自定义数据源中的数据运行SQL查询,而无需移动数据。还有流式服务(如Amazon Kinesis和Amazon MSK)向数据存储服务(如Amazon S3)无缝注入数据,从而助力客户及时分析数据。同时,亚马逊云科技也发布了更多新的Zero ETL功能助力客户更快、更轻松、更经济地实践“数据一体化融合”。

 

Amazon Aurora Zero ETL to Amazon Redshift

助力PB级分析交易数据进行近实时分析

企业希望更好地了解核心业务驱动因素,制定战略以增加销售额、降低成本、获得竞争优势。因此近乎实时地从购买、预订和金融交易等交易数据中获得洞察的需求不断增加。

然而,数据管道构建成本高昂且难以管理,需要开发人员编写自定义代码并且持续管理基础设施以确保其按需扩展,一些公司甚至需要投入整个团队以完成这项工作。此外,用这种方式准备好数据可能需要几天的时间,而且间歇性地数据传输错误会影响客户获得稍纵即逝的洞察,甚至错失商机。17c1620e57e04298a6230a480ac821d4.png

 

Amazon Aurora Zero ETL to Amazon Redshift(预览版)支持将交易数据在写入Amazon Aurora后的几秒钟内可以自动连续复制,使其在Amazon Redshift中即时可用。一旦数据在Amazon Redshift中可用,客户立即可以开始分析数据,并且利用数据共享和Amazon Redshift ML等高级功能获得全面的预测性洞察。

客户可以将数据从多个Amazon Aurora数据库集群复制到同一个Amazon Redshift实例,跨多个应用程序获得洞察。这样一来,客户可以使用Amazon Aurora支持交易数据库需求、使用Amazon Redshift进行分析,无需构建或维护复杂的数据管道。

 

Amazon Redshift系列创新

均是Zero ETL的实践

发布于re:Invent 2012的首个云原生数据仓库Amazon Redshift在十年中不断演进迭代,Amazon Redshift Serverless作为升级版本也将于今年上线。在Zero ETL方面,2017年发布的Amazon Redshift Spectrum与联邦查询即是一个经典的特性,无需数据移动,用户即可使用Spectrum来访问数据湖Amazon S3中的数据,而今年Redshift的创新还在加速。68247181fe954151a0fdb6c6f18720c9.png

 

Amazon Redshift支持Amazon S3自动复制(预览版):借助这项新功能,Amazon Redshift会将到达您指定的Amazon S3的文件自动加载到您的数据仓库中,例如CSV、JSON、Parquet和Avro,无需手动或重复运行复制过程。Amazon Redshift可自动提取文件并负责幕后数据的加载步骤。

Amazon Redshift streaming ingestion流式数据接入功能:Amazon Redshift streaming ingestion流式数据接入功能已上线,直接让流式数据接入数据仓库,这是打造云原生实时数仓的必要功能,让用户可以轻松地探索实时分析场景,基于历史数据的实时预测、反欺诈等场景。

Amazon Redshift Integration for Apache Spark功能:帮助客户在使用亚马逊云科技的分析和机器学习服务时可以更快更轻松地通过Apache Spark应用程序访问到Redshift上的数据。开发人员可以快速而敏捷地实现分析与机器学习。

 

超百种外部数据连接

助力构建Zero ETL未来

纵观全局,亚马逊云科技数据服务已经可以连接超过100种外部数据源,像Adobe、Salesforce等各类SaaS应用,也包括各类on-premise数据源类型,因此您能更全面地利用所有数据的力量。

Amazon AppFlow在本地系统和应用程序、SaaS应用程序和亚马逊云服务之间提供双向数据集成。使用低代码或无代码、经济实惠的解决方案,只需单击几下,Amazon AppFlow即可在应用程序与“智能湖仓”之间安全地传输数据,帮助客户打破数据孤岛。

典型数据源包括了:

● 营销连接器(例如:Facebook广告、谷歌广告、Instagram广告、领英广告)。

● 用于客户服务和参与的连接器(例如:MailChimp、Sendgrid、Zendesk Sell或Chat等)。

● 业务运营(例如:Stripe、QuickBooks在线和GitHub)。

在2022亚马逊云科技re:Invent全球大会上亚马逊云科技发布了22个新的连接器,现在AppFlow已经支持超过50种连接器。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/107750.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Java反射和new效率差距有多大?

1、创建对象的两种方式 //new 方式创建对象 ReflectDemo reflectDemo new ReflectDemo();//反射创建对象 反射创建对象的三种方式 (1)Class<ReflectDemo> reflectDemoClass ReflectDemo.class; (2)Class<?> aClass Class.forName ("com.whale.springtra…

网络ping不通,试试这8招

摘要&#xff1a;网络ping不通&#xff0c;该怎么办&#xff1f;本文教你8个大招&#xff0c;轻松找到问题根源。本文分享自华为云社区《网络ping不通&#xff0c;该怎么办&#xff1f;》&#xff0c;作者&#xff1a;wljslmz。 如下图&#xff0c;PC&#xff08;192.168.10.1…

使用windows系统给C盘分盘

前言 一般我们使用新电脑的时候&#xff0c;有的时候默认给我们分好了盘&#xff0c;有时候只会把全部的内存都放到C盘&#xff0c;这样就需要我们自己手动进行分配资源和分配其他硬盘资源 今天公司邮寄的新电脑到了&#xff0c;正好属于后者&#xff0c;借助这个机会分享下我…

【C语言进阶】六.预处理

&#xff08;1&#xff09;程序的翻译环境和执行环境 在ANSI C的任何一种实现中&#xff0c;存在两个不同的环境。 第1种是翻译环境&#xff0c;在这个环境中源代码被转换为可执行的机器指令。包含编译加链接第2种是执行环境&#xff0c;它用于实际执行代码。 &#xff08;2…

KingbaseES V8R6集群运维案例---数据块故障自动修复(auto_bmr)

案例说明&#xff1a; 在Oracle11.2版本之后&#xff0c;DataGuard 若搭建实时应用日志的物理备库&#xff0c;那么在主库数据文件少 量坏块的情况下&#xff0c;可以利用ABCR技术快速修复坏块。 Starting in Oracle Database 11g Release 2 (11.2), the primary database auto…

高通Ride软件开发包使用指南(12)

高通Ride软件开发包使用指南&#xff08;12&#xff09;9 PCIe交换机9.1简介9.2 PCIe交换机管理9.2.1工具9.2.2 COM端口和COM端口设置9.2.3更新固件和配置9.2.3.1工具设置9.2.3.2 Platform setup9.2.3.3交换机更新9 PCIe交换机 9.1简介 在Snapdragon Ride的高级配置中&#x…

四、基于kubeadm安装kubernetes1.25集群第三篇

接上篇&#xff1a;https://blog.csdn.net/u011837804/article/details/128355649 1、安装 kubeadm、kubelet 和 kubectl 1.1、配置yum源 cat > /etc/yum.repos.d/kubernetes.repo << EOF [kubernetes] nameKubernetes baseurlhttps://mirrors.aliyun.com/kubernet…

算法| Java的int类型最大值为什么是21亿多?

开篇 本文主要介绍在Java中&#xff0c;为什么int类型的最大值为2147483647。 理论值 我们都知道在Java中&#xff0c;int 的长度为32位。 理论上&#xff0c;用二进制表示&#xff0c;32位每一位都是1的话&#xff0c;那么这个数是多少呢&#xff1f; 我们来计算一下&…

【QGIS入门实战精品教程】10.1:QGIS基于DEM数据的地形分析案例教程

本文讲解QGIS中基于DEM数据的地形分析方法,包括:坡度分析、坡向分析、山体阴影、地貌分析、强度指数(地形复杂性)。 文章目录 一、加载DEM二、坡度分析三、坡向分析四、山体阴影五、地貌分析六、强度指数(地形复杂性)QGIS提供了地形分析的工具,位于工具箱→Raster terrain a…

录屏怎么录声音?电脑录视频怎么带声音?图文教学来了

电脑录屏功能的应用&#xff0c;给我们的日常生活带来了便利。随着电脑录屏功能的应用&#xff0c;“电脑录屏”随着功能的升级&#xff0c;电脑屏幕录制不仅仅是简单的屏幕录制&#xff0c;还有很多额外的功能&#xff0c;比如录制带声音的视频&#xff01;那么录屏怎么录声音…

[C++]类和对象【下】

&#x1f941;作者&#xff1a; 华丞臧 &#x1f4d5;​​​​专栏&#xff1a;【C】 各位读者老爷如果觉得博主写的不错&#xff0c;请诸位多多支持(点赞收藏关注)。如果有错误的地方&#xff0c;欢迎在评论区指出。 推荐一款刷题网站 &#x1f449;LeetCode 文章目录再谈构造…

结构建模设计——Solidworks软件之装配体操作基本总结一(装配体功能界面简介、插入零件操作、基本配合操作)

【系列专栏】&#xff1a;博主结合工作实践输出的&#xff0c;解决实际问题的专栏&#xff0c;朋友们看过来&#xff01; 《QT开发实战》 《嵌入式通用开发实战》 《从0到1学习嵌入式Linux开发》 《Android开发实战》 《实用硬件方案设计》 长期持续带来更多案例与技术文章分享…

漏洞猎人白夜追凶记

编者按 数字化浪潮蓬勃兴起&#xff0c;企业面临的安全挑战亦日益严峻。 腾讯安全近期将复盘2022年典型的攻击事件&#xff0c;帮助企业深入了解攻击手法和应对措施&#xff0c;完善自身安全防御体系。 本篇是第三期&#xff0c;用一个实际案例讲述了企业在面临攻击时&#xf…

【Java枚举类与注解】——一篇文章读懂枚举类与注解

文章目录2.枚举2.1概述2.2定义格式2.3枚举的特点2.4枚举的方法3.注解3.1概述3.2自定义注解3.3 元注解2.枚举 2.1概述 为了间接的表示一些固定的值&#xff0c;Java就给我们提供了枚举&#xff0c;是指将变量的值一一列出来&#xff0c;变量的值只限于列举出来的值的范围内。 …

C. Arpa’s overnight party and Mehrdad’s silent entering(构造+二分图)

Problem - 741C - Codeforces 请注意&#xff0c;阿尔帕的土地上的女孩真的很有吸引力。 阿尔帕喜欢过夜的聚会。在一次聚会中&#xff0c;迈尔达德突然出现。他看到n对朋友围坐在一张桌子旁。第i对包括一个男孩&#xff0c;坐在第i把椅子上&#xff0c;和他的女朋友&#xff…

【LeetCode每日一题】——264.丑数 II

文章目录一【题目类别】二【题目难度】三【题目编号】四【题目描述】五【题目示例】六【解题思路】七【题目提示】八【时间频度】九【代码实现】十【提交结果】一【题目类别】 动态规划 二【题目难度】 中等 三【题目编号】 264.丑数 II 四【题目描述】 给你一个整数 n …

React DAY06

复习&#xff1a; 1.React是一个用于构建用户界面的JS库——不涉及HTML/CSS。可用于创建PC网站、H5、WebApp、NativeApp。2013年中Facebook开源&#xff0c;目前最新版V18.2。 主要知识点&#xff1a; ①使用React的两种方法&#xff1a;脚本引入式、脚手架方式(create-react-…

VUE部署至Nginx

VUE部署至Nginx安装Nginx解压Nginx配置VUE文件配置Nginx启动Nginx快速停止或关闭nginx正常停止或关闭nginx配置文件nginx.conf修改重装载命令安装Nginx 网址&#xff1a;https://nginx.org/en/download.html 选择图中红框下载安装 解压Nginx 只需要解压到目录&#xff0c;无…

GitHub典藏版,腾讯T14级高级程序员亲码的分布式数据库实践,再次爆火

数据库就是要做好五件事&#xff0c;存储、事务、查询、复制和其他。而对分布式数据库来说&#xff0c;不仅要继续做这五件事&#xff0c;还要多出一件事&#xff0c;分片。在这六件事中&#xff0c;存储和其他这两件事与单体数据库差不多&#xff0c;难点就在事务、查询、复制…

论文复现丨基于ModelArts进行图像风格化绘画

摘要&#xff1a;这个 notebook 基于论文「Stylized Neural Painting, arXiv:2011.08114.」提供了最基本的「图片生成绘画」变换的可复现例子。本文分享自华为云社区《基于ModelArts进行图像风格化绘画》&#xff0c;作者&#xff1a; HWCloudAI 。 项目首页 | GitHub | 论文 …