好用的元数据管理工具是什么样

news2024/11/25 2:35:02

元数据是数据的“说明书”,元数据管理工具是企业数据治理的重要抓手,它可以帮助企业解决数据查找难、理解难等问题,促进数据的集成和共享。一个趁手的元数据管理工具是什么样的呢?

01

系统架构

从应用角度看,元数据管理平台可分为数据源层、元数据采集层、元数据管理层、元数据应用层四层架构。亿信华辰元数据管理平台EsPowerMeta是基于B/S架构的软件平台,架构分为5层,数据源层、采集层、数据层、功能层和访问层。下图为亿信华辰元数据管理产品的整体架构图。

△亿信华辰元数据管理平台架构图

1. 数据源层

企业的元数据来自多个方面:

● 业务系统中的元数据,例如ERP、CRM、SCM、OA等;

● 数据管理平台中的元数据,例如数据仓库、ODS、数据湖等;

● 数据处理工具中的元数据,例如ETL工具的脚本元数据;

● 数据分析工具中的元数据,例如Cognos、Power BI中的元数据;

● 各种半结构化数据源,例如Word、PDF、Excel等各种格式化电子文件。

亿信华辰元数据管理平台提供直连多种不同类型的数据源,包括:数据库类型、ETL类型、文件类型、业务系统类型等。

2. 元数据采集层

元数据采集层主要通过对各类数据源的适配,实现元数据的统一采集,并将其存储于符合CWM标准的中央元数据仓库中。亿信华辰元数据管理平台针对不同数据源提供丰富的适配器,实现端到端的自动化采集。同时支持适配器扩展,实现最大限度的自动化采集。

3. 元数据数据层

元数据数据层是基于关系数据库的元数据存储,用于实现元数据和元模型的数据的物理存储。

4. 元数据功能层

元数据功能层提供了元数据管理产品的基本功能,包括元模型增删改查及版本发布功能、元数据增删改查及版本管理、元数据变更管理、元数据分析应用、元数据检核以及产品的系统管理功能。

5.元数据访问层

元数据访问层用于给用户提供访问控制服务。通过门户访问和后台访问,可以实现多种角色的访问控制。同时访问层还提供了多种形式的接口服务,可以很方便地与其它 IT 系统进行集成。

02

元数据采集

通过元数据管理平台可以将分散、异构的信息资源进行统一采集、描述、定位、检索、评估、分析,实现数据的结构化,为机器处理创造可能,从而大大降低数据治理的人工成本。

1. 采集内容

元数据采集内容主要包括业务元数据、技术元数据和操作元数据,详细说明见下表。

元数据采集内容说明

2. 采集方式

元数据管理工具是否强大,部分体现在其对各类数据源的采集能力上,支持的各类数据源类型越多,说明元数据采集能力越强大。元数据采集方式主要有两种:自动化采集和人工采集。

(1)自动化采集

自动化采集主要是通过元数据管理工具提供的各类适配器进行元数据采集。在元数据采集过程中,元数据采集适配器十分重要,元数据采集既要适配各种DB、各类ETL、各类数据仓库和报表产品,还要适配各类结构化或半结构化数据源。元数据采集适配器可以通过自动化的方式对企业各类数据源的元数据进行统一采集、统一管理。

亿信元数据管理平台内置57个采集适配器,让用户通过配置数据源参数及定时采集任务,进行自动化采集,实现直连数据源的端到端元数据采集。在保证自动化采集的同时,还支持对适配器进行扩展。

(2)人工采集

在元数据管理实践中,最难采集的往往不是技术元数据或操作元数据,而是业务元数据。由于企业缺乏统一的数据标准,业务系统竖井化建设,系统建设过程中没有对业务元数据进行统一定义,所以即使通过元数据适配器将业务系统的技术元数据采集到元数据仓库中,也很难识别这些表、视图、存储过程、数据结构的业务含义。这就需要采用人工的方式对现有数据的业务元数据进行补齐,以实现元数据的统一管理。

03

元数据管理

1. 元数据管理功能

亿信华辰元数据管理平台EsPowerMeta提供元数据检索、元模型管理、元数据维护、元数据变更管理、元数据版本管理、元数据核检等功能。

● 元数据检索:提供对元数据的全文检索功能。检索支持对检索范围、检索类型、修改时间进行过滤,过滤条件支持保存,让用户可以将常用的过滤条件保存使用,以便能够更加快速浏览所需元数据。

● 元模型管理:以 Meta Object Facility(MOF)规范为基础,支持 XMI格式的元模型导入和导出,同时内置大量技术元数据、业务元数据的元模型,用户可直接使用。

● 元数据维护:提供对信息对象的基本信息、属性、被依赖关系、依赖关系、组合关系等元数据的新增、修改、删除、查询、发布等功能,以管理企业的数据标准。

 元数据版本管理:提供元数据的版本管理功能,对于元数据新增、修改、删除、发布和状态变更都有相应的流程,同时支持对元数据进行发布、查看历史版本、导出历史版本、版本对比操作等。

● 元数据变更监控:支持实时对元数据变更进行监控,并提供变更订阅功能,将用户关 心的元数据的变更情况定期发送到用户邮箱。

● 元数据核检:提供元数据质量检核功能,包括一致性检核、属性填充率检核和组合关系检核,是保障元数据质量的重要手段之一。

2. 元数据分析功能

亿信华辰元数据管理平台提供了丰富的分析应用,包括:血缘分析、影响分析、全链分析、 关联度分析、属性差异分析、对比分析等,同时支持将分析结果进行导出和收藏。

● 数据资源地图:基于企业元数据生成并以拓扑图的形式展示企业数据资源的全景地图,方便用户清晰直观地查找和浏览企业数据资源。

● 血缘分析:也叫血统分析,采用向上追溯的方式查找数据来源于哪里,经过了哪些加工和处理。常用于在发现数据问题时,快速定位和找到数据问题的原因。

● 影响分析:功能与血缘分析类似,只是血缘分析是向上追溯,而影响分析是向下追踪,用来查询和定位数据去了哪里。常用于当元数据发生变更时,分析和评估变更对下游业务的影响。

● 全链分析:用来分析指定元数据前后与其有关系的所有元数据,不仅反映了元数据的来源与加工过程,也反映了元数据的使用情况,使用全链分析可清晰的了解该元数据的来龙去脉。

● 关联度分析:分析不同数据实体之间的关联关系,从而判断数据的重要程度。

● 属性差异分析:用来比较同类型元数据之间属性值的差异,方便用户识别相似元数据之间的存在的微小差距。

04

元数据管理的关键技术

一般来说,元数据管理项目需要用到众多技术,包括:高度灵活可扩展的架构、角色访问控制和分层、与其他系统的集成。

● 高度灵活可扩展的架构

企业数据环境中的数据杂乱,形态多样,标准不一,若要实现所有元数据的有效采集或者自动化采集和存储,必须有高度灵活可扩展的架构支撑,也意味着元数据的架构要能和企业的各种模型进行“交流”。

● 角色访问控制和分层

企业元数据管理涉及到很多不同的人员,优秀的元数据管理工具应该做好角色访问控制,具体实现方法可以归结为两种:

(1)在平台汇总建立角色分层机制/角色组,将企业中的不同角色按照具体需求分类到不同的角色组中,对不同角色组展示不同的功能。

(2)在工具内部建立角色与功能之间的映射,并且支持根据企业情况进行灵活配置(毕竟各企业的角色和所对应的功能不尽相同),根据映射对不同角色展示不同的功能。

 与其他系统的集成

要实现元数据驱动,除了元数据分类和模型的标准化,元数据管理工具是否与企业的其他系统(比如CRM、ERP、SCM、OA等系统,还有同与数据管理相关的数据标准系统、数据质量系统)集成,为其他系统提供元数据服务,是主要的关键点。

一种方法是向企业中的不同角色、不同用户、不同系统提供可以灵活配置的接口,实现全企业的而高效协作;另一种方法是将元数据管理工具直接集成到企业的portal中,在企业其他信息系统中保留元数据存储库的入口。

亿信华辰元数据管理平台是基于 B/S 架构的软件平台,研发过程中遵循软件工程迭代开发和面向对象设计思想,更是运用了先进的软件开发技术,包括但不限于:

  • SQL 解析技术

  • 全文检索技术

  • 采用 Meta Object Facility(MOF)规范

  • 支持 XMI 数据交换标准

  • 采用 RESTful 架构

  • 支持标准的 OLAP 分析

  • 遵循事实结构的星型数据仓库模型

  • 用户 WEB 界面采用 AJAX 技术

  • 使用国际化编码 UTF-8

05

总结

元数据管理工具提供了可靠、便捷的工具,能够对企业分散的元数据进行统一、集中化管理,帮助企业绘制数据地图、统一数据口径、标明数据方位、控制模型变更。利用元数据管理工具可以更好地获取、共享、理解和应用企业的数据信息,降低数据集成和管理成本,提高数据资产的透明度。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/126330.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

基于颜色直方图优化的图像增强方法

最近改图像颜色迁移的论文,审稿人要求补充基于直方图优化的方法细节。趁此机会,我重新下载了相关文献,决定重新学习下该类方法,并把一些细节记录在本篇博客中,供交流学习。 目录 1. 前言 2. 背景知识 3. 颜色变换 4. 颜…

若依源码分析(二)-登录流程源码分析

若依源码分析(二)-登录流程源码分析 本章节主要分析若依源码登录流程,一步一步走断点查看进入首页的全流程登录信息 1. 前台发起登录请求 http://127.0.0.1/dev-api/auth/login //auth表明这个请求走的是服务名称为auth的服务2. 后台处理流…

【虚幻引擎】UE4像素流推送PixelStreaming

一、前言 虚幻引擎像素流送(Pixel Streaming)允许你从任何有屏幕的联网设备(例如计算机,手机,平板电脑等)播放虚幻项目。在这个教程里,我们将学习如何激活虚幻引擎的像素流送并从任何Web浏览器控…

年尾结款,如何应对客户新的需求风险?

1、进行需求变更管理流程 需要提前建立需求基线,需求基线是需求变更的依据,并制定双方皆认可的需求变更流程。 在前期与用户签订合同时,可以增加一些相关条款,如限定用户提出需求变更的时间,规定何种情况的变更可以接受…

日期和时间的API

一、JDK8之前的日期和时间的API 1.System类中的currentTimeMillis() 返回当前时间与1970年1月1日0分0秒之间以毫秒为单位的时间差,称为时间戳 2.Java.util.Date类 |---java.sql.Date类 1.两个构造器的使用 >构造器一: Date(): 创建一个对应当前时间的Date对象…

CVE-2022-08475-DirtyPipe

前言CVE-2022-0847 DirtyPipe脏管道漏洞是Linux内核中的一个漏洞,该漏洞允许写只读文件,从而导致提权。调试环境• ubuntu 20.04• Linux-5.16.10• qemu-system-x86_64 4.2.1漏洞验证首先创建一个只读文件foo.txt,并且正常情况下是无法修改该…

2022年「博客之星」参赛博主:黛琳ghz

我正在参加年度博客之星评选,请大家帮我投票打分,您的每一分都是对我的支持与鼓励。五星必回,诚信互评,(如果)今日已满,明天必回,言出必行,感谢支持! 我正在…

Protobuf:python版使用

目录 Protobuf详解 Python使用方式 下载protoc 编写.proto协议文件 编译Protocol buffer 存储/读取数据测试 Protobuf详解 深入 ProtoBuf - 简介 - 简书 (jianshu.com)[索引]文章索引 - 简书 (jianshu.com) Protobuf3语法详解 - 望星辰大海 - 博客园 (cnblogs.com) Pyth…

联芸科技冲刺科创板上市:业绩表现不稳定,实控人方小玲为美国籍

12月28日,联芸科技(杭州)股份有限公司(下称“联芸科技”)在上海证券交易所递交招股书,准备在科创板上市。 本次冲刺上市,联芸科技计划募资20.50亿元,其中4.66亿元用于新一代数据存储…

prophet模块学习总结-20221228

prophet模块的基本介绍及相关用法说明。 文章目录1.基本介绍Prophet包的特点2.Prophet 模型介绍2.1 长期趋势模型2.2 The Seasonality Function(季节函数)2.3 The Holiday/Event Function(节日函数)3.使用示例3.1 快速开始3.2 调节…

MetersPhere自动化解决用户登录问题+添加钉钉机器人

MetersPhere自动化解决用户登录问题添加钉钉机器人 现在遇到的问题,做自动化的时候几乎每个接口都需要token,这个token是登录获取的,那我有很多个自动化的场景,如果我每一个场景都加入登录接口,同时执行很多场景的时候…

骨传导耳机有用吗,最好用的骨传导耳机分享

骨传导耳机有没有用这个问题,主要还是看自己需要骨传导耳机的根本需求是什么,骨传导耳机更多的使用场景是在户外运动,但是日常才室内使用或者长时间使用的耳机爱好者,骨传导耳机也能在一定程度上保护听力,下面就分享五…

浅聊OpenHarmony

接触OpenHarmony快一年了,这里简单总结下自己对OpenHarmony的理解,如果有不对的地方,欢迎来讨论。OpenHarmony是什么?了解这个之前我们可以先来看看什么是开源? 一、开源是什么? 开源简单来讲&#xff0c…

阿里云视频点播资源迁移及回溯校验

阿里云视频点播资源迁移及回溯校验一:准备环境1.1、搭建springboot1.2、引入外部包二:表与配置2.1、拉取视频点播文件2.2、建表2.3、yml配置文件三:代码3.1、XML3.2、entity3.3、mapper3.4、Synchronize3.5、视频迁移Controller3.6、视频回溯…

Fedora初始化 | python在Fedora中的初始化搭建

本来是想玩一下ArticlePairMatching-master,结果需要graph-tool工具,这哥们需要c等环境,无法在window中直接安装。 望着不堪重负的win系统,还是安了一个全新的Fedora虚拟机作为实验环境吧。 1. 使用VMWare安装Fedora Fedora的图形…

户外徒步戴什么耳机比较好、最适合户外运动的五款耳机推荐

现在人们对自己的身体状态越来越重视了,无论是怎样的生活,一个健康的身体非常重要,近几年的运动健身热潮的兴起,能看出来人们会花更多的时间去锻炼自己的身体了,与之而来的就是各种健身、运动的蓝牙耳机不断的推陈出新…

2022餐馆设计最新十大排行榜(附餐馆设计案例图片)

随着生活水平的提升,人们对于用餐的环境要求越来越高,对于餐馆设计的要求随之提高,因此在装修时,很多餐饮老板想找一家实力强的餐厅设计公司,那么国内的餐饮设计公司数量庞大,有哪些擅长餐饮设计呢&#xf…

android生成javadoc

生成步骤 菜单 Tools -> Generate JavaDoc! 问题: 1.JavaDoc导出时出现乱码报错 错误: 编码GBK的不可映射字符 菜单 Tools -> Generate JavaDoc,弹出配置面板 在Other command line arguments 栏输入:-encoding utf-8 -charset utf-8 2.提示 程序…

C/S快速开发框架源码 winform快速开发框架源码

C/S系统开发框架源码 C#快速开发框架源码(CS版)00683 源码分享,需要源码学习可私信我。 系统功能: 该框架采用逻辑上的三层模式开发业务处理和数据处理完全分开,采用C#语言和MSSQL进行开发,主要实现了菜…

微信小程序 会议OA项目-其它页面04

目录 1.会议管理 1.1 自定义tabs组件 1.2 会议管理 2.投票管理 3.个人中心 1.会议管理 1.1 自定义tabs组件 文档参考:自定义组件 | 微信开放文档微信开发者平台文档https://developers.weixin.qq.com/miniprogram/dev/framework/custom-component/ 新建一个文件夹&#xff1…