协同数据交换平台详细设计方案(word)

news2024/10/5 17:28:50

本资料来源公开网络,仅供个人学习,请勿商用,如有侵权请联系删除

1 架构设计

1.1 总体架构

6d4b06269a93ef6c608607a7fc71ebb8.jpeg

协同数据交换平台利用企业服务总线、数据抽取ETL、消息中间件、大文件传输等相关技术,包括文件适配器、数据库适配器、Web服务中间件等在内的数据集成基础支撑平台,打通单位业务系统内部集成、横向集成、纵向集成的通道。从设计、生产、质量、财务以及人员等几个方面进行院内部数据应用集成场景的梳理,实现相关系统之间的数据集成与共享。

1.2 技术架构

根据各单位的地域分布和数据交换需求,协同数据交换平台采用三层集成应用架构模式,设立3级数据交换平台:

(1)武汉院级数据交换平台;

(2)孝感院级数据交换平台;

(3)厂所级数据交换平台。

总体技术架构如下图所示:

cfbfb1b1d79330497ff469308fd40055.jpeg

1.3 部署架构

协同数据交换平台采取院级部署和厂所部署相结合的方式,在院级按地域划分,分别建立武汉院级数据交换平台和孝感院级数据交换平台,厂所级单位分别部署数据交换平台。各厂所级单位内部应用通过厂所级数据交换平台完成数据交换,院级应用之间通过武汉院级数据交换平台完成数据交换,院级与厂所应用间通过孝感院级数据交换平台及武汉院级数据交换平台完成数据交换;

0c84985f87b759863709579d5a6ee1e2.jpeg

1.4 功能架构

1.4.1 数据交换平台功能架构

一、 企业服务总线(ESB)

e93b277a12a0554089d7093eb865470c.jpegPrimeton ESB 产品主要包含:

Ø Primeton ESB Studio:主要提供各种服务(中介服务、穿透服务、编排服务等)的开发、调试以及属性设置、元数据导出等,为便捷快速地开发各种服务提供可能;

Ø Primeton ESB Server:提供了多协议的支持以及为服务运行提供了高性能、高可靠的运行环境,支持IBM MQ中间件,方便的扩展机制,为Primeton ESB 融入企业IT环境提供了有效支撑及管控手段,同时不依赖于J2EE容器的特性大大提升了性能;

Ø Primeton ESB Console:提供了独立和集群环境中的ESB Server进行管理,同时对于服务全生命周期进行管理;

Ø Primeton ESB Service State Monitor:提供了对 ESB Server运行时数据的存储、分析能力,增强了客户感知度;

Ø Primeton ESB Software Asset Management:提供了服务注册、服务查找、SLA管理等功能;

二、 DI

Primeton DI由以下六部分产品组件组成:DI Server(数据集成引擎)、DI Agent(数据集成节点代理)、DI Component Library(数据集成组件库)、DI Studio(数据集成建模工具)、DI Governor(数据集成模型治理)、DI Metadata Warehouse(元数据仓库)。

a00489d0db2d0d51b8bc1972f4f47406.jpeg

Ø DI Studio(数据集成建模工具)是基于SWT技术开发的可视化流程设计器,提供可视化数据模型定义与调试、可视化的模型性能监控、元数据管理以及数据处理模型部署等功能。

Ø DI Component Library(数据集成组件库)包括了一组与数据集成相关的服务组件,通过这些丰富的组件,开发人员可以在集成开发环境下基于可视化的组件图元快速开发出高效的数据处理模型。

Ø DI Server(数据集成引擎)基于JAVA构建,是Primeton DI的核心,负责解析数据集成模型定义、处理Governor请求、处理引擎自身的模型调度等。数据集成引擎可以满足大规模数据的并发处理,完成企业级的数据交换场景。

Ø DI Agent(数据集成代理)基于JAVA构建,DIAgent主要适用于网络环境复杂、交换节点比较多的场景,其部署于前置区跟DIServer结合,打造企业多级数据交换平台

Ø DI Server基于元数据驱动,DI Metadata Warehouse(元数据仓库)用于保存通过数据集成建模工具构建的数据处理模型,支持Oracle、DB2、Sybase、MySQL、MS SQL Server、Hadoop Hive、SAP等多种关系数据库,同时可以基于文件形式进行模型存储。DI Server通过解析元数据仓库中对模型的定义数据实例化数据处理模型。

Ø DI Governor(数据集成模型治理)是DI提供的系统管理监控与任务调度工具,系统管理员可以通过它对数据处理模型以及数据处理引擎进行配置和管理。DI Governor与DI其他部件相结合是企业快速构建数据中心、实现数据交换的理想平台,在实施过程中可以对开发过程实现规范化、调度管理统一化、监控可视化等。同时也可以与第三方处理引擎实现互补,增强其统一调度、全局监控等功能。

三、 大文件传输功能特点

Ø 多种协议:支持P2P、HTTP/HTTPS,不允许使用FTP和文件共享;

Ø 自动传输:支持自动监控目录或文件,实时传输;支持特定情况下的业务处理,如定时传输、其他条件触发传输、手动传输等;

Ø 断点续传:支持断点续传,减少冗余数据的传输;

Ø 重传:支持数据重传;

Ø 数据完整:必须有校验的机制,确保数据传输的信息完整性;

Ø 双向传输:传输系统要支持数据的主动下载和主动上传两种传输方式;

Ø 文件无限制:传输系统需要支持各种格式的文件;并且除了操作系统的因素外,系统本身应该对文件的大小不限制;在一个传输任务里,应该可以包括多个文件的传输;支持不小于4G的文件;

Ø 传输模式:支持一对一、一对多、多对一的传输模式;

Ø 完整性校验:在传输完成后能够从文件大小、文件块个数、传输文件的源端、目的端、生命周期等信息校验文件的正确性;

Ø 支持数据加密传输:对传输的数据进行加密;

Ø 支持传输进度监控。

1.1.1 统一管控平台功能架构

一、 统一监控

198dbea1d929feb80035d96333f810d5.jpeg

通过统一监控管理对交换服务和共享服务进行数据质量监测、数据流量统计、历史交换记录、数据查询导出监控,并提供服务管理、路由管理、业务监控、认证授权管理、系统管理等功能,为交换平台实现数据安全、完整、可用、可核查并可靠稳定的运行提供支撑。监控系统随着数据交换平台部署,每层数据交换平台都有独立的监控界面,对本层的数据交换进行监控;院级数据交换平台能够监控跨厂所、院总部与厂所之间的数据交换。其功能特性包括:

Ø 服务管理:服务管理为服务提供了可分类查看当前注册的服务。通过筛选功能,提交服务器,提供服务的类型,相关协议或服务名等分类的条件来进行查找。可以清晰明确的找到某个服务,参与了哪些服务类型,相关协议的种类,服务的名称等情况,令服务的管理一目了然。

Ø 平台监控:平台监控是对系统的运行情况进行查看、干预及控制。平台监控能够有效地对平台中的运行情况,对文件传输、运行实例、服务、流程、数据源等多种对象进行监管。

Ø 路由管理:路由管理根据路由配置和路由算法选择最合适的服务提供者,并查询到实际的服务地址,将请求消息按照实际的地址发送出去。

Ø 集成业务监控:集成业务监控提供业务化的资源管理和监控功能,通过对资源的监控分析和审计管理向管理人员提供全面的业务运行监控数据帮助管理人员快速定位业务系统运行时产生的异常。

Ø 权限管理:权限认证主要是根据用户身份对其进行权限判断,以决定该用户是否具有访问相应资源的权限。通过统一的Coframe权限框架为信息化系统提供方便、简单的、可靠的授权服务,从而对用户进行整体的、有效的访问控制,保护系统资源不被非法或越权访问,防止信息泄漏。

二、 统一调度

5b13e5b048550da558c7865c24b70403.jpeg

调度管理对协同数据交换系统及部署在协同数据交换系统上的相关作业进行集中的调度管理,每层数据交换平台应有独立的调度管理界面,并对本层的相关作业进行统一调度管理;院级数据交换平台可以调度及查看跨厂所、院总部与厂所之间的调度日志。

Ø 日历管理:通过对日历信息的灵活配置和管理,可以最大限度的满足调度任务时间节点基数,从而使调度任务的粒度更精细,支持对数据交换调度的日历管理,可配置日历信息,供计划执行使用,包括工作日、非工作日、自定义等;在任务调度过程中,需要首先配置调度相关的日历参数。

Ø 调度管理:调度引擎是乙方作业调度平台的核心组件,它接收作业触发,监控接口的作业输入,然后检查作业的依赖关系,通过资源管理器的资源分配将作业分发到调度代理执行作业。系统提供日历方案+频度方案+作业+消息配置等按需的任务调度,有利于提高开发效率,降低开发和运维成本。支持灵活的、多角度的作业调度管理,包括事件、文件到达和计划调度以及手工触发。

Ø 消息管理:提供消息管理配置界面,支持对数据交换调度的消息管理,可配置消息发布的邮件内容等进行相关设置,包括接收人、发送详细日志、发送范围等。

Ø 计划管理:计划实际上就是作业调度的具体执行过程,调度平台调度引擎模块是系统的核心模块,和管理平台一样是一个标准的Web应用,可以部署在常用的应用服务器和数据库。作业执行计划负责整个系统作业的调度运行,可以通过接口方式接收管理平台的手动触发事件,也可以接收监听服务发起的触发命令,最终通过内部强大的调度机制实现作业调度运行。

Ø 事件管理:支持对数据交换调度的事件管理,可对触发事件进行相关配置,通过接口文件(文件到达)的方式来触发作业流的运行;该功能实际上在调度中添加了一个作业的监听服务,监听服务是调度监控平台一种重要的作业触发方式,通过它可以实现接受外部触发事件,根据事件类型触发不同的批处理作业。监听服务负责只负责事件的侦听,以及触发调度对应该作业,具体作业运行调度由调度和代理完成。

1.1.2 基础主数据管理平台功能架构

ba2947c331658fbe55b9af5a152f1484.jpeg

一、 系统管理

Ø 本模块进行组织机构信息注册、基于组织机构创建用户信息、创建角色信息、进行功能菜单注册。

Ø 通过管理组织机构所拥有的角色信息、用户所拥有的角色信息及角色所分配的功能菜单进行用户对于功能菜单的权限分配。

Ø 管理员通过角色权限的划分及分配实现三员管理的实现。

二、 数据资源管理

Ø 基于资源目录进行数据资源管理,用于定制数据维护、检索查询时的界面数据内容、编辑内容等,并定义部分数据校验规则,是基于元数据模型的数据应用与管理配置功能。

三、 接口服务管理

Ø 通过注册业务系统信息、管理主数据系统接口及业务系统接口信息,控制业务系统接口访问权限。

Ø 管理数据集成管理方式,通过配置将主数据系统自动分发给业务系统,并记录自动分发日志信息。

四、 待办工作管理

Ø 待办工作管理主要为用户及用户系统权限服务,在用户数据变更或用户系统权限变更时,将用户信息提示到待办工作界面,业务人员处理待办信息并填写待办处理结果后,该待办信息变为已办信息。

五、 数据资源库

Ø 基础主数据库中主要存储两部分内容,分为基础主数据库、数据映射库。其中数据映射库主要提供历史数据映射关系,为核心业务数据集成提供数据映射。

篇幅有限,无法完全展示,喜欢资料可转发+评论,私信了解更多信息。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/416580.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【排序算法(四)】归并排序计数排序(非比较排序)以及八大排序算法的总结

​ ​📝个人主页:Sherry的成长之路 🏠学习社区:Sherry的成长之路(个人社区) 📖专栏链接:数据结构 🎯长路漫漫浩浩,万事皆有期待 文章目录1、归并排序1.1 算法…

图像处理数据集

BSDS500 Berkeley Segmentation Dataset 500 是第一个用于评估超像素算法的数据集。对于参数优化,使用了验证集。 500张数据集200训练集train100验证集val200测试集test 每张图像有 5 个不同的高质量地面真值分割(groundTruth,是.mat文件) …

Android 中的混音器 AudioMixer 实现分析

Android framework 的音频处理模库 libaudioprocessing (位于 frameworks/av/media/libaudioprocessing) 提供了混音器组件 AudioMixer,它主要用在 audioflinger 里,用来将多路音频源数据混音,以方便送进音频设备播放出来。 音频混音操作本身…

MyBatis(九)MyBatis小技巧

一、#{}和${} #{}:先编译sql语句,再给占位符传值,底层是PreparedStatement实现。可以防止sql注入,比较常用。 ${}:先进行sql语句拼接,然后再编译sql语句,底层是Statement实现。存在sql注入现象。…

第09章_异常处理

第09章_异常处理 讲师:尚硅谷-宋红康(江湖人称:康师傅) 官网:http://www.atguigu.com 本章专题与脉络 1. 异常概述 1.1 什么是生活的异常 男主角小明每天开车上班,正常车程1小时。但是,不出…

计网第五章.运输层—TCP流量控制与可靠传输

以下来自湖科大计算机网络公开课笔记及个人所搜集资料 目录一、流量控制死锁死锁的解决:二、超时重传时间的选择解决方案Karn算法三、可靠传输补充:其实TCP的流量控制,可靠传输,拥塞控制,都是围绕滑动窗口机制来实现的…

SpringBoot的统一功能处理

目录 1.统一用户的的登录权限校验 最开始的用户登录 Spring拦截器 2.统一数据返回格式 统一数据的返回格式意义 统一数据返回格式的实现 3.统一异常处理 在上篇博客中我介绍了Spring AOP的基础知识,这篇博客则是AOP的实践练习,通过借助AOP实现三个目标 1.统一用户登录权…

VContainer 初体验

IOC 控制反转 IOC 提供一个对象生成容器,在我们需要取得某个对象时,不再使用New关键字进行对象生成操作,而是通过IOC容器内部控制来获得对象。 使用这种思想方式,可以让我们无需关心对象的生成方式,只需要告诉容器我需…

xmanager连接linux桌面教程 xmanager连接之后黑屏

xmanager 是一款专业的远程服务器管理软件,但习惯了使用Windows系统下的桌面,一时会无法适应linux服务器的命令行界面。下面我就为大家介绍xmanager连接linux桌面教程,xmanager连接之后黑屏的相关内容,让大家在使用linux更加方便。…

node.js详解

文章目录1.Node.js1.1 Node.js 模块化1.2 模块暴露数据1.2.1 模块初体验1.2.2 暴露数据1.3.导入(引入)模块1.4 JavaScript引擎1.5 什么是Node.js1.6 BFF2.包管理工具2.1 npm2.1.1 npm 的安装2.1.2 npm 基本使用2.1.2.1 初始化2.1.2.2 搜索包2.1.2.2 下载安装包2.1.2.3 require …

java遍历字符串的方法

在 java中,我们需要遍历字符串,如何遍历呢?首先我们先了解一下遍历的概念: 在我们的计算机中,存储的都是二进制数据,为了方便存储和管理,我们把一段数据分成多个字符串。在 java中,遍…

BM36-判断是不是平衡二叉树

题目 输入一棵节点数为 n 二叉树,判断该二叉树是否是平衡二叉树。 在这里,我们只需要考虑其平衡性,不需要考虑其是不是排序二叉树 平衡二叉树(Balanced Binary Tree),具有以下性质:它是一棵空…

LabVIEW-簇数据类型

簇数据类似于 C 语言的结构体,创建时,首先将“簇”放置到前面板上: 然后放置簇内的元素,比如“数值输入控件”,当“簇框架”内边沿出现虚线框时,单击“数值输入控件”即可添加到簇中:在簇中也可以修改“数值…

常见网络协议汇总(一)

“网络协议”是指为完成特定的任务而制定的一套规则。网络协议通常用来表示数据传输中一组用于实现一个或多个OT模型级别的规则或规范。在通信时,网络协议定义了在通信时如何进行通信。今天海翎光电的小编就汇总了常见的网络协议,来一起看看。我们先回顾…

Linux基础IO(下)

Linux基础IO(下)FILE自己模拟实现fopen/fclose、fread/fwrite理解文件系统OS如何看待磁盘管理磁盘硬链接软连接ACM时间动态库和静态库见一见Linux下的库为什么要有库写一写库制作一个静态库制作一个动态库关于动静态库的一点小实验FILE 通过前面学习我们…

【SSM】Spring6(十二.Spring6集成MyBatis3.5)

文章目录1. 实现步骤2.具体实现2.1 准备数据库2.2 创建模块,引入依赖2.3 创建包2.4 创建Pojo类2.5 编写mapper接口2.6 编写Mapper配置文件2.7 编写service接口和service接口实现类2.8 编写jdbc.properties配置文件2.9 编写mybatis-config.xml配置文件2.10编写spring…

什么是数字“指纹”?

今天的网站收集有关访问者的大量信息,不仅用于广告、业务优化和用户体验,还用于安全目的。 除了 cookie 之外,网站还使用“指纹识别”来收集有关用户网络浏览器、硬件、设备配置、时区甚至行为模式的信息,以授权合法用户或取消对…

考虑可再生能源消纳的电热综合能源系统日前经济调度模型

目录 1 主要内容 模型示意图 目标函数 程序亮点 2 部分程序 3 程序结果 4 程序链接 1 主要内容 本程序参考文献《考虑可再生能源消纳的建筑综合能源系统日前经济调度模型》模型,建立了电热综合能源系统优化调度模型,包括燃气轮机、燃气锅炉、余热…

飞腾D2000 UOS下安装KVM虚拟机

其他的和x86环境都差不多,开了开发者模式后,virt-manager qemu-efi-aarch64 qemu-system 几个包补齐,启动libvirtd服务,查看日志,报以下日志, 4月 09 21:13:34 actionchen-PC systemd[1]: Starting Virtu…

SQL select总结(基于选课系统)

表详情: 学生表: 学院表: 学生选课记录表: 课程表: 教师表: 查询: 1. 查全表 -- 01. 查询所有学生的所有信息 -- 方法一:会更复杂,进行了两次查询,第一…