新型IT运维管理,基础设施和数据两手都要硬

news2024/10/6 12:24:14

编前语:数据是AI的基石,缺数据无AI。

AI大模型时代,数据赋予IT人“新使命”

当下IT人在企业中扮演着运营支撑的角色。说到运维管理,相信每人都是一把辛酸泪,每天承担着繁琐、高负荷且又高风险的运维工作,但在业务规划和职业发展时又成为了“透明人”。业内有句调侃的话:“只花钱的人,不配拥有发言权”。

随着AI大模型应用的普及,数据成为了企业的关键资产和核心竞争力。近年来,企业的数据规模从PB级向百PB级成倍数快速增长,数据类型也从以数据库为主的结构化数据,演变成以文件、日志、视频等为主的半结构化、非结构化数据。业务部门希望数据的存储能够像图书馆一样分门别类随用随取,同时又希望数据的存储更安全、更可靠。

IT人,已不再只是负责建设和管理IT资源、保障设备稳定的被动角色。

IT人的新使命,演变为提供优质数据服务,让数据好用,帮助业务部门用好数据!

“基础设施”和“数据”很近,但两者的“管理”却很远

    针对基础设施的管理,业界普遍的做法是通过AIOps技术,将繁琐的人工日常运维改变为利用工具自动化执行,通过专家系统、知识图谱等智能化能力,主动发现系统隐患、自动修复故障等。生成式AI技术普及后,近期出现了智能客服、交互式运维等新型应用。

    针对数据的管理,业界有以Informatica、IBM等为代表的专业DataOps软件供应商,支持数据集成、数据标记、数据分析、数据优化、数据市场等能力,为数据分析师、BI分析师、数据科学家等业务团队提供服务。

    笔者调研发现,目前大部分企业中的基础设施运维管理和数据管理是割裂的,由不同的团队负责,工具平台间也没有有效协同。业务上数据保存在存储等IT基础设施中,应该融为一体,但实际两者的管理却相隔甚远,甚至两个团队之间语言都不对齐,这样通常会带来几个弊端:

    1)数据不同源:因为归属不同团队和采用不同工具,业务团队通常采用将原始数据通过ETL等方式复制一份至数据管理平台做分析处理。这样不仅造成存储空间浪费,还存在数据不一致、数据更新不及时等问题,影响数据分析的准确性。

    2)跨地域协同难:如今企业数据中心在多个城市布局,数据在跨地域传输时,当前主要通过DataOps软件在主机层进行复制,这种数据传输方式不仅效率低,传输过程中也存在安全、合规、隐私等严重隐患。

    3)系统优化不充分:当前通常基于基础设施资源的利用情况进行优化,因为无法感知数据布局而实现全局最优,数据的保存成本居高不下,有限增长的预算与成倍的数据规模增长之间的矛盾成为制约企业数据资产积累的关键矛盾。

IT人,打通“基础设施”和“数据”任督二脉,开启数智化飞轮

笔者认为,IT团队应该把“基础设施”和“数据”作为一个有机整体进行管理和优化,实现数据同源、全局最优、安全流通,扮演着数据资产管理者的重要角色。

首先,实现全局文件的统一视图。利用全局文件系统、统一元数据管理等技术,把不同地域、不同数据中心、不同类型设备中的数据形成统一的全局视图。在此基础上,能够按照热温冷、重复、过期等维度进行全局优化策略的制定,下发至存储设备执行,这种方式可以实现全局最优。基于存储层复制的压缩、加密等技术,通常可以实现数十倍的数据移动速度,效率和安全性都可以得到保证。

其次,将海量非结构化数据自动生成数据目录。通过元数据、增强型元数据等自动生成数据目录服务,把数据分门别类高效管理起来。业务团队基于目录可以自动提取满足条件的数据进行分析处理,而不用人工像大海捞针一样去找数据。笔者调研发现通过AI识别算法实现数据标注的技术已经较为成熟,因此可以利用开放框架将不同场景化的AI算法进行集成,自动分析文件内容形成多元化标签,作为增强型元数据提升数据管理的能力。

同时,数据在跨设备流动时,需要特别考虑数据主权、合规隐私等问题。存储设备中的数据应该自动分类、隐私分级、分权分域等,管理软件对数据的访问、使用、流动等策略进行统一管理,避免敏感信息和隐私数据泄露,未来数据要素交易场景这些将成为基本要求。比如,数据在流出存储设备时,首先需要对合规性、个人隐私等进行判定是否满足策略要求,否则企业将面临严重的法律法规风险。

参考架构如下:

根据笔者调研以及请教同行专家后,发现业界诸如华为存储、NetApp这样的领先存储厂商已经发布存储和数据一体化管理的产品解决方案,相信未来会有更多厂商支持。

设备和数据两手都要抓、两手都要硬。IT人在AI时代可以扮演更重要的作用。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1433819.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

开源软件全景解析:驱动技术创新与行业革新的力量

目录 什么是开源 开源的核心 开源软件的特点 为什么程序员应该拥抱开源 1.学习机会: 2.社区支持: 3.提高职业竞争力: 4.加速开发过程: 5.贡献和回馈: 开源软件的影响力 开源软件多元分析: 开源…

机器学习中常用的性能度量—— ROC 和 AUC

什么是泛化能力? 通常我们用泛化能力来评判一个模型的好坏,通俗的说,泛化能力是指一个机器学期算法对新样本(即模型没有见过的样本)的举一反三的能力,也就是学以致用的能力。 举个例子,高三的…

为什么说TiDB在线扩容对业务几乎没有影响

作者: 数据源的TiDB学习之路 原文来源: https://tidb.net/blog/e82b2c5f 当前的数据库种类繁多,墨天轮当前统计的所有国产数据库已经有 290个 ,其中属于关系型数据库的有 166个 。关系型数据库从部署架构上又可以分为集中式…

AI克隆自己的声音只需5秒,MockingBird实现AI克隆声音!

一、环境搭建 搭建Anaconda运行环境 搭建Anaconda运行环境请跳转链接查看https://blog.csdn.net/m0_50269929/article/details/136036402安装pytorch pip3 install torch torchvision torchaudio安装ffmpeg 打开官网 https://ffmpeg.org/download.html#get-packages 下载地址…

Python实现PDF到HTML的转换

PDF文件是共享和分发文档的常用选择,但提取和再利用PDF文件中的内容可能会非常麻烦。而利用Python将PDF文件转换为HTML是解决此问题的理想方案之一,这样做可以增强文档可访问性,使文档可搜索,同时增强文档在不同场景中的实用性。此…

InnoDB 锁系统(小白入门)

1995年 ,MySQL 1.0发布,仅供内部使用! 开发多用户、数据库驱动的应用时,最大的一个难点是:一方面要最大程度地利用数据库的并发访问,另一方面还要确保每个用户能以一致性的方式读取和修改数据。 MVCC 并发…

list基本使用

list基本使用 构造迭代器容量访问修改 list容器底层是带头双向链表结构&#xff0c;可以在常数范围内在任意位置进行输入和删除&#xff0c;但不支持任意位置的随机访问&#xff08;如不支持[ ]下标访问&#xff09;&#xff0c;下面介绍list容器的基本使用接口。 template <…

CSS-IN-JS

CSS-IN-JS 为什么会有CSS-IN-JS CSS-IN-JS是web项目中将CSS代码捆绑在JavaScript代码中的解决方案。 这种方案旨在解决CSS的局限性&#xff0c;例如缺乏动态功能&#xff0c;作用域和可移植性。 CSS-IN-JS介绍 1&#xff1a;CSS-IN-JS方案的优点&#xff1a; 让css代码拥…

探索数据可视化:Matplotlib在Python中的高效应用

探索数据可视化&#xff1a;Matplotlib在Python中的高效应用 引言Matplotlib基础安装和配置Matplotlib基础概念绘制简单图表线形图散点图柱状图 图表定制和美化修改颜色、线型和标记添加标题、图例和标签使用样式表和自定义样式 高级图表类型绘制高级图表多图布局和复杂布局交互…

ES6中新增Array.of()函数的用法详解

new Array()方法 ES6为Array增加了of函数用一种明确的含义将一个或多个值转换成数组。因为用new Array()构造数组的时候&#xff0c;是有二意性的。 构造时&#xff0c;传一个参数&#xff0c;实际上是指定数组的长度&#xff0c;表示生成多大的数组。 构造时&#xff0c;传…

SpringbootV2.6整合Knife4j 3.0.3 问题记录

参考 https://juejin.cn/post/7249173717749940284 近期由于升级到springboot2.6X&#xff0c;所以服务端很多组件都需要重新导入以及解决依赖问题。 下面就是一个很经典的问题了&#xff0c; springboot2.6与knife4j的整合。 版本对应 springboot2.6与knife4j 3.0.3 坑 …

CSRF:跨站请求伪造攻击

目录 什么是CSRF&#xff1f; DVWA中的CSRF low medium hight impossible 防御CSRF 1、验证码 2、referer校验 3、cookie的Samesite属性 4、Anti-CSRF-Token 什么是CSRF&#xff1f; CSRF全称为跨站请求伪造&#xff08;Cross-site request forgery&#xff09;&…

【学网攻】 第(20)节 -- 网络端口地址转换NAPT配置

系列文章目录 目录 系列文章目录 文章目录 前言 一、NAPT是什么&#xff1f; 二、实验 1.引入 实验目的 技术原理 实验步骤 实验设备 实验拓扑图 实验配置 实验验证 文章目录 【学网攻】 第(1)节 -- 认识网络【学网攻】 第(2)节 -- 交换机认识及使用【学网攻】 第…

AIGC实战——归一化流模型(Normalizing Flow Model)

AIGC实战——归一化流模型 0. 前言1. 归一化流模型1.1 归一化流模型基本原理1.2 变量变换1.3 雅可比行列式1.4 变量变换方程 2. RealNVP2.1 Two Moons 数据集2.2 耦合层2.3 通过耦合层传递数据2.4 堆叠耦合层2.5 训练 RealNVP 模型 3. RealNVP 模型分析4. 其他归一化流模型4.1 …

计算机网络——新型网络架构:SDN/NFV

1. 传统节点与SDN节点 1.1 传统节点(Traditional Node) 这幅图展示了传统网络节点的结构。在这种设置中&#xff0c;控制层和数据层是集成在同一个设备内。 以太网交换机&#xff1a;在传统网络中&#xff0c;交换机包括控制层和数据层&#xff0c;它不仅负责数据包的传输&…

FANUC机器人如何清除示教器右上角的白色感叹号?

FANUC机器人如何清除示教器右上角的白色感叹号&#xff1f; 如下图所示&#xff0c;示教器上显示白色的感叹号&#xff0c;如何清除呢&#xff1f; 具体可参考以下步骤&#xff1a; 按下示教器上白色的“i”键&#xff0c;如下图所示&#xff0c; 如下图所示&#xff0c;按…

飞天使-linux操作的一些技巧与知识点6-node,npm与jenkins执行用户

文章目录 安装node,npmjenkins执行时候出现找不到npm 命令 安装node,npm 以下是在 CentOS 7.9 上使用 nvm 安装 Node.js 的步骤&#xff1a;安装 nvm&#xff1a;bashCopy Codecurl -o- https://raw.githubusercontent.com/nvm-sh/nvm/v0.39.1/install.sh | bash在终端中重新加…

Java 运用 StringJoiner 高效的拼接字符串

运用 StringJoiner 高效的拼接字符串 package com.zhong.stringdemo;import java.util.ArrayList; import java.util.StringJoiner;public class Test {public static void main(String[] args) {ArrayList<String> s new ArrayList<>();s.add("11");s.…

备战蓝桥杯---搜索(剪枝)

何为剪枝&#xff0c;就是减少搜索树的大小。 它有什么作用呢&#xff1f; 1.改变搜索顺序。 2.最优化剪枝。 3.可行性剪枝。 首先&#xff0c;单纯的广搜是无法实现的&#xff0c;因为它存在来回跳的情况来拖时间。 于是我们可以用DFS&#xff0c;那我们如何剪枝呢&#…

Vulnhub靶机:hacksudoAliens

一、介绍 运行环境&#xff1a;Virtualbox 攻击机&#xff1a;kali&#xff08;10.0.2.15&#xff09; 靶机&#xff1a;hacksudoAliens&#xff08;10.0.2.46&#xff09; 目标&#xff1a;获取靶机root权限和flag 靶机下载地址&#xff1a;https://download.vulnhub.com…