340页11万字智慧政务大数据资源平台大数据底座数据治理建设方案

news2024/9/17 8:54:46

  录

第一章 项目概况

1.1 项目名称

1.2 项目单位

1.3 项目建设依据

1.4 项目建设内容和目标

1.4.1 建设内容

1.4.2 建设目标

1.5 项目投资估算及建设周期

1.5.1 项目投资估算

1.5.2 服务周期

第二章 现状

2.1 项目单位概况

2.1.1 单位职责、内设及下属机构、人员编制和业务情况

2.1.2 拟建项目与项目单位职责、业务的关系

2.2 信息化现状

2.2.1 本单位或本领域信息化建设的整体框架规划或设想

2.2.2 现有应用系统的情况

2.2.3 拟建项目与已有系统的关系

2.2.4 现有网络、设备以及其它信息资源情况

第三章 项目的需求分析

3.1 项目建设的背景

3.2 项目建设的依据

3.2.1 《XX公共数据和一网通办管理办法》(X府令9号)

3.2.2 《XX加快推进数据治理促进公共数据应用实施方案》(X委办8号)

3.2.3 《XX公共数据质量管理暂行办法(征求意见稿)》(X数函〔2019〕14号)

3.2.4 《2020年XX深化“一网通办”改革工作要点》 (X委办〔2020〕12号)

3.2.5 《关于加强数据治理促进城市运行“一网统管”的指导意见》(X委办〔2020〕24号)

3.3 项目建设的必要性

3.3.1 业务现状、存在的具体问题和业务目标

3.3.2 业务对信息系统的具体需求

3.3.3 成果应用效果、推广设想、可持续发展情况

3.4 用户和业务流程分析

3.4.1 用户分析

3.4.2 现有业务流程

3.5 平台性能需求分析

3.5.1 平台存储能力要求

3.5.2 平台数据计算/并发能力要求

3.5.3 平台门户使用要求

3.6 业务量需求分析

3.6.1 业务量分析

3.6.2 数据存储量分析

3.6.3 数据存储部署资源分析

3.7 硬件设备需求分析

3.8 功能需求分析

3.8.1 大数据底座

3.8.2 数据采集子系统

3.8.3 数据治理子系统

3.8.4 数据资源中心

3.8.5 数据共享子系统

3.8.6 门户子系统

3.8.7 统一运维子系统

3.8.8 数据安全管理子系统

3.9 数据分析

3.9.1 数据流程和属性分析

3.9.2 数据量分析

3.9.3 信创适配分析

3.10 满足应用的需要

第四章 项目建设方案

4.1 建设目标

4.2 总体架构

4.2.1 总架构图

4.2.2 平台架构关系

4.3 建设内容

4.3.1 大数据底座

4.3.2 数据采集子系统

4.3.3 数据治理子系统

4.3.4 数据资源中心

4.3.5 数据共享子系统

4.3.6 门户子系统

4.3.7 统一运维子系统

4.3.8 数据安全管理子系统

4.4 应用系统

4.4.1 大数据底座

4.4.2 数据采集子系统

4.4.3 数据治理子系统

4.4.4 数据共享子系统

4.4.5 门户子系统

4.4.6 统一运维子系统

4.4.7 数据安全管理子系统

4.5 资源中心建设

4.5.1 中心总体定位设计

4.5.2 XX市级数据湖

4.5.3 杨浦基础库

4.5.4 杨浦主题库

4.5.5 杨浦专题库

4.6 配套实施工作(三清单一目录)

4.6.1 概述

4.6.2 工作范围

4.6.3 梳理思路

4.6.4 梳理工作开展

4.6.5 梳理工作要求

4.7 网络系统

4.8 服务器和存储系统

4.9 系统软件

4.10 信息安全保障方案

4.10.1 安全体系总体设计

4.10.2 各层级的安全策略设计

4.10.3 安全管理要求

4.10.4 应急保障预案

4.11 数据管理方案

4.11.1 数据来源

4.11.2 数据更新机制

第五章 项目实施进度和组织安排

5.1 项目建设周期

5.2 实施进度计划

5.3 责任人和组织保障

5.3.1 项目领导机构

5.3.2 项目实施机构

大数据资源平台基于基础设施(网络&技术&存储)、技术标准体系规范及信息安全保障体系建设数据支撑底座、数据交换、数据资源中心(基础及融合数据库)、数据整理治理、数据服务、数据分析、数据共享应用及数据资源门户模块,并实现与XX大数据资源平台的共享与交换。

一.1.1 总架构图

本次项目建设的总体架构如下图:

931fb11076f8a39ec54a2ab13db87c83.jpeg

功能框架图:

25bd02c5faf3dac7d1a75163381e3f9a.jpeg

整体格局:

5c5521d127e4aff93507e8d339d4da65.jpeg

一.1.2 平台架构关系

f7bb303949294b50a6b97ffd73db07dc.jpeg

一.1 建设内容


结合区级数据平台的建设方向,从聚、管、通、用的业务维度考虑平台的建设功能,将包括数据采集、数据治理、数据共享方面的建设功能,具体功能方面需求描述如下: 

一.1.1 大数据底座

建设统一的大数据底座基础平台,包含大数据存储、计算、分析、处理、管控、运维等能力。

建设统一多租户模型,实现大数据域组件的管控,实现组件资源的运营分析支撑,精细掌握租户分配状态,资源利用情况;建立租户运营流程,实现租户及资源分配的统一管理,租户管理能力标准化。支持租户管理,实现组件资源的分配及实例创建,并支持组件的细粒度授权。

Ø 建设统一多租户模型,贯通Hadoop、Kubernetes、数据中台,打造集合平台、应用及运营的全场景化能力体系

Ø 建设资源服务目录,实现Hadoop组件HDFS、Hive、HBase、Yarn及Kafka的接入。

Ø 实现租户资源管理及实例创建功能,实现区大数据中心、区委办的资源分配的统一管理,提供资源监控能力,租户管理能力标准化

Ø 实现细粒度权限管理,组件的细粒度授权功能,支持组件的精细化管理,提升组件的安全管理能力,并支持数据及资源的开放能力;

Ø 支撑平台运营管理,实现线上的租户管理、租户分析,用量提醒,支持平台运营管理。

一.1.2 数据采集子系统

数据采集需要实现对全区各委办单位的数据采集功能,包括离线采集、准实时采集和实时采集的采集方式,根据各委办局业务数据的情况进行采集技术的实现。

Ø 数据采集:政府数据来源多样,包含视频类数据、物联感知类数据以及传统的政务公共数据,各数据来源的数据格式也不一致,在收集的过程中需对数据进行规范化处理,以便于管理使用。

Ø 大数据存储:实现现有应用的大量结构化数据、半结构化数据,以及将全市统一规划的大量图片、视频资料等非结构化数据的存储需求,要求大数据基础平台采用分布式文件系统实现对汇聚的多类型海量数据的存储。

Ø 大数据分析计算:数据分析的处理速度、准确度对实际应用的及时性、高效性都有至关重要的影响。大数据平台提供分布式计算、流式计算、内存计算多种数据计算引擎,能够针对不同的场景采用不同的计算模型,对数据进行大规模批量处理或者实时处理,大大提升政府部门的决策效率能力。

Ø 分布式资源管理和调度:Hadoop 2.0中的资源管理系统,它是一个通用的资源模块,可以为各类应用程序进行资源管理和调度。

Ø 大数据集群运维管理:作为运维系统,为数据基础支撑子平台提供高可靠、安全、容错、易用的集群管理能力,支持大规模集群的安装/升级/补丁、配置管理、监控管理、告警管理、用户管理、租户管理等。

文章引用的资料均通过互联网等公开渠道合法获取,仅作为行业交流和学习使用,并无任何商业目的。其版权归原资料作者或出版社所有,本文作者不对所涉及的版权问题承担任何法律责任。若版权方、出版社认为本文章侵权,请立即通知作者删除。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/68715.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【配准图像】

MU-Net: A MULTISCALE UNSUPERVISED NETWORK FOR REMOTE SENSING IMAGE REGISTRATION (MU-Net:一种多尺度无监督遥感图像配准网络) 多传感器或多模态图像对的配准是许多遥感应用的基础性任务。为了实现高精度、低成本的遥感图像配准&#x…

彻底搞懂JS原型与原型链

说到JavaScript的原型和原型链,相关文章已有不少,但是大都晦涩难懂。本文将换一个角度出发,先理解原型和原型链是什么,有什么作用,再去分析那些令人头疼的关系。 一、引用类型皆为对象 原型和原型链都是来源于对象而…

浅谈Linux内核编程规范与代码风格

1 缩进 Tab的宽度是八个字符,因此缩进的宽度也是八个字符。有些异教徒想让缩进变成四个字符,甚至是两个字符的宽度,这些人和那些把 PI 定义为 3 的人是一个路子的。 注意:缩进的全部意义在于清晰地定义语句块的开始与结束&#…

《MongoDB》Mongo Shell中的基本操作-删除操作一览

前端博主,热衷各种前端向的骚操作,经常想到哪就写到哪,如果有感兴趣的技术和前端效果可以留言~博主看到后会去代替大家踩坑的~ 主页: oliver尹的主页 格言: 跌倒了爬起来就好~ 来个关注吧,点个赞…

分布式事务,单JVM进程与多数据库,分布式事务技术选型,0-1过程,代码全。

由于很多小白程序员在单一JVM进程配合多数据库的架构环境中,总是考虑一主多从的mysql集群环境。还不知道mysql集群数据库按照表纵向分割以后,也是可以走数据库使用事务的。那么这里使用到的就是分布式事务,XA协议。现在大部分主流的数据库都支持XA协议。这里不用太多废话,直…

【Web智能聊天客服】之JavaScript、jQuery、AJAX讲解及实例(超详细必看 附源码)

觉得有帮助请点赞关注收藏~~~ 一、JavaScript基础 Javascript是网页编程语言&#xff0c;决定网页元素的动作。HTML页面中通过<script></script>指定Javascript内容&#xff0c;通过//或者 /* */执行代码的备注功能&#xff0c;并且区分大小写。 1&#xff1a;变…

《视觉SLAM十四讲》示例程序编译报错处理(上)

高翔博士《视觉SLAM十四讲》这本书中的代码很不错&#xff0c;适合初学者。可惜有一些可能因为版本的问题会报错&#xff0c;本文总结一下我遇到的问题。 在slambook2/3rdparty文件夹git submodule update&#xff0c;这个版本是和书中的版本一致的。但我已经重新安装了新版Ei…

Webpack中的高级特性

自从webpack4以后&#xff0c;官方帮我们集成了很多特性&#xff0c;比如在生产模式下代码压缩自动开启等&#xff0c;这篇文章我们一起来探讨一下webpack给我们提供的高级特性助力开发。 探索webpack的高级特性 特性&#xff1a;treeShaking 顾名思义treeShaking&#xff0…

C++ Reference: Standard C++ Library reference: Containers: deque: deque: swap

C官网参考里链接&#xff1a;https://cplusplus.com/reference/deque/deque/swap-free/ 函数模板 <deque> std::swap (deque) template <class T, class Alloc> void swap (deque<T,Alloc>& x, deque<T,Alloc>& y); 交换两个双端队列容器的…

【ESP32调试-快速入门】

文章目录ESP32调试一. 环境搭建二. 运行OpenOCD1. 烧入blink2. 找到芯片型号对应的脚本文件&#xff0c;并运行脚本命令三. 运行GDBESP32调试 一. 环境搭建 ESP_IDF环境搭建 二. 运行OpenOCD 1. 烧入blink 如&#xff1a;安装环境中的examples中的blink 路劲&#xff1a;安装…

华为机试 - 探索地块建立

目录 题目描述 输入描述 输出描述 用例 题目解析 算法源码 题目描述 给一块n*m的地块&#xff0c;相当于n*m的二维数组&#xff0c;每个元素的值表示这个小地块的发电量&#xff1b; 求在这块地上建立正方形的边长为c的发电站&#xff0c;发电量满足目标电量k的地块数量…

汽车保养app开发,扩充汽车服务市场发展商机

从汽车市场规模来看&#xff0c;从2017年开始始终保持增长的发展趋势&#xff0c;在2021年市场规模达到140877.18亿元。互联网时代发展下&#xff0c;汽车后市场大力推广电子商务&#xff0c;将互联网技术与汽车保养服务相结合是汽车服务行业强大的必由之路。二者的结合可以让消…

centos7下搭建rabbitmq的开发环境

我们在项目开发的时候都不可避免的会有异步化的问题,比较好的解决方案就是使用消息队列,可供选择的队列产品也有很多,比如轻量级的redis, 当然还有重量级的专业产品rabbitmq,rabbitmq好就好在是用erlang(二郎神)开发的,它那天生的OTP并行计算框架,轻而易举的进程间通…

阿里云ssl免费证书申请

目录为什么申请SSL证书SSL证书申请支持的域名类型ssl免费证书申请过程为什么申请SSL证书 由于web服务部署需要使用https安全协议&#xff0c;因此需要申请相应域名的SSL证书用于部署。测试阶段&#xff0c;为节省成本&#xff0c;使用阿里云提供的免费SSL证书。 SSL证书申请支…

在Web服务器(IIS)上安装SSL证书并绑定网站

以windows server 2016为例 一、安装中间证书 1.下载中间证书文件 如果是RSA加密算法类的&#xff0c;下载此处。 如果是ECC加密算法类的&#xff0c;下载此处。 2.安装 双击下载好的文件进行安装&#xff0c;注意&#xff0c;安装过程中&#xff0c;存储位置要设”为本地…

搜题接口系统

搜题接口系统 本平台优点&#xff1a; 多题库查题、独立后台、响应速度快、全网平台可查、功能最全&#xff01; 1.想要给自己的公众号获得查题接口&#xff0c;只需要两步&#xff01; 2.题库&#xff1a; 题库&#xff1a;题库后台&#xff08;点击跳转&#xff09; 题库…

分类预测 | MATLAB实现ELM极限学习机多特征分类预测(二分类)

分类预测 | MATLAB实现ELM极限学习机多特征分类预测(二分类) 目录 分类预测 | MATLAB实现ELM极限学习机多特征分类预测(二分类)效果一览基本介绍程序设计学习总结参考资料效果一览 训练集正确率Accuracy = 89%(445/500) 测试集正确率Accuracy = 86.9565%(60/69) 基本介绍 MATLA…

加载器、反射、xml、DTD、schema、注解、单元测试

一、什么是类加载器 类加载器 类加载器&#xff1a;负责将.class文件&#xff08;存储的物理文件&#xff09;加载在到内存中 类加载的过程 类加载时机 类在什么时候会被加载到内存中呢&#xff1f; 类加载时机 创建类的实例&#xff08;对象&#xff09;调用类的类方法 访问…

微服务自动化【idea插件一键部署】

目录​​​​​​​ 1. Docker结合Idea插件使用 2. 私服搭建 registry 3. 私有仓库的使用 4. idea一键项目部署单独Docker镜像 5. idea一键项目部署Docker标记镜像【私库】 1. Docker结合Idea插件使用 1. 修改Docker服务文件,注释掉"ExecStart"这一行&#x…

火爆的超级人工智能ChatGPT,唯独鄙视中国人

ChatGPT你听说了吗&#xff1f;如果ChatGPT你还没有听说&#xff0c;作为一名程序员&#xff0c;那可能你就out了。使用ChatGPT受阻&#xff0c;为什么不让我们用&#xff1f;它是一款神器&#xff0c;很有意思&#xff0c;当前被大家众星捧月&#xff0c;初次用起来确实很神奇…