【复杂系统】拥抱复杂性(第 2 部分数据)

news2024/11/23 20:24:44

如何通过三个简单(ish)步骤将您的组织网络化……从数据开始

93c04a3279826399801bb2d5edc1a20b.jpeg

您的信息不想被困在一个盒子里


在本文的第一部分中,我们确定了工业时代将复杂性组织成漂亮、整洁的线性盒子,尽管这是一种高效的机器制造方式,但这种方法已不再足以满足现代组织的需求。信息时代的全球网络。

8b6899aa3fde1d3bda52074ed7503c95.jpeg

不管我们喜不喜欢,“网络化”的过程正在进行中,任何组织都无法阻止它;唯一现实的选择是加入并在内部反映网络结构。
如第一部分所述,信息时代的三个主要驱动力(数据、云和人工智能)可以统一为一个“网络化”过程,因此本文的其余部分分为三个相应的部分:

  • 数据:组织如何将他们的数据从单独的盒形表格中移出,并进入像拼图一样组合在一起的网络形碎片,以及这些组织中的人员如何将他们的知识和概念理解作为这些网络的一部分——形状的碎片。

  • 云:组织如何将数据保存在原处并将其“从源头”集成,而不是将其移动到中央位置以由小型中央团队进行工业化清理和集成,以及这种分散式架构如何使数据集成过程民主化一个组织。

  • 人工智能:组织如何能够停止追赶,而是通过致力于一种新型的尖端人工智能算法来领先一步,这些算法旨在与网络形数据和纵横交错的路径一起工作。

为了保持真实,每个部分都将以实用工具的顶级介绍结束。这个想法是将这三个工具结合在一起将形成一个统一的工具集,该工具集足够复杂,可以处理您组织的真正复杂性。
(为了让这篇文章更容易理解,这篇文章将只涵盖数据,而后续部分将涵盖云和人工智能)

数据


好吧,让我们从数据开始。如第一部分所述,计算机网络和神经网络已经自然是网络状的,但大多数组织数据仍然是盒状的。数据是奇数,因此,它既是薄弱环节,也是释放其他两者全部力量的关键。
对于互联网原生公司来说,这个问题并不像他们的商业模式从一开始就基于从网络中提取大部分数据那样糟糕,当然,网络是一个巨大的网络。例如,谷歌有一个网页之间的链接网络,而 Facebook 有关于你社交网络中朋友之间链接的数据。在很大程度上是无意识的,这有利地迫使科技巨头以一种不那么线性的方式思考他们的数据。


但是对于大多数组织来说,我们的线性思维反映在我们创建的盒形数据结构中,让我们明确一点,这是阻碍大多数组织从技术阶段过渡的最大因素。

f99a4339283b6e8ddc2c4394c1dc05d7.jpeg

当您检查组织的数据时,您可能会发现它目前分散在一组独立的表格中,包括 Excel 电子表格和各种数据库。因此,例如,如果我们正在捕获有关人员及其订购的产品的信息,那么我们需要创建三个单独的表:一个用于人员,另一个用于订单,另一个用于产品。Excel 电子表格是一个简单而熟悉的数据表示例。

568bcce4a0328e086567ed0ff5d0375c.png

现在,Excel 表格既简单又灵活,但您无法在 Excel 上运行组织(尽管许多人一直在尝试)。为什么不能在 Excel 上运行组织?好吧,这些表中的每一个单独使用都是有限的,需要连接到其他表才能更有用。
将表连接在一起的“工业化”答案是关系数据库。所有关系数据库在每一行中都包含唯一的 ID,它可以用来代表和表示该行中的所有信息,就像购物项目上的条形码可以用来代表有关该产品的所有信息一样。然后使用这个唯一键来连接表。


请注意,一旦我们引入了连通性,事情就变得更加复杂了,这只是为了强调复杂性随着连通性而增加的观点。


为了帮助澄清这种情况,让我们看一下在一组示例关系表中捕获有关人员和他们订购的产品的数据的示例,每个关系表都有其唯一的 id:

a551e20cf6b2f3e74dd7c1dbb331148b.jpeg

如果您觉得这个例子难以理解,请不要担心,它有点难以理解的事实只能证明线性思维使已经很复杂的情况变得极其复杂。


现在想象一下每个表中有数千行,每个数据库中有数百个表,并且每个组织中通常有数千个数据库,您将直观地了解我们在这里试图解决的非常实际的问题。

2af1b59cbac90a3e306d548b56044454.jpeg

在 IT 部门中,像这样的盒式思维是如此根深蒂固,以至于当我们将数据打包到这些单独的表格中时,我们甚至都没有注意到。甚至关于各种列和表含义的元信息也必须打包到它们自己单独的、通常是专有的“模式”表中,并与其他数据分开。
从表面上看,表格很简单,但没有错,以这种方式保存我们的数据存在非常真实的隐藏集成成本。每次我们创建一个新表,或者更糟糕的是,一个全新的数据库,我们都只是增加了组织的整体碎片。将所有数据重新链接到一个系统的过程变得更加复杂。随着时间的推移,这些分数加起来。就像《圣诞颂歌》中马利的鬼魂一样,每张桌子都像另一条沉重的锁链挂在组织周围。因此,添加一个新列可能会使大型组织花费数百万美元,这并非闻所未闻。

9fcc26a5082565befaeeb1acd3992568.jpeg

这里有两个基本问题在起作用:

  • 表格从孤立部分的位置开始,仅在事后才添加部分之间的连接。使用 ID 在表之间链接既笨重又笨拙,当您想要连接到另一个数据库中保存的信息时,它会完全崩溃(因为每个数据库通常都会创建自己的隔离 ID)。

  • 允许我们在摘要中谈论人或产品的信息不表示为普通数据,因此我无法轻松找到更一般和概念性的信息,例如“产品表中的库存列实际上是什么意思?”或“订单与产品有何关联?”。我所拥有的只是原始的、扁平的数据。

受够了厄运和忧郁。以下是网络形状如何用作寻找出路的“北极星”。关系数据库基于称为集合论的数学分支,您将集合视为不超过部分的总和,但网络基于图论,它考虑了部分之间的连接。从这里开始,我将交替使用术语“图形”和“网络”,因为它们指的是同一事物。


需要注意的一点是,将部件之间的连接视为一等公民是开始利用复杂性的方法,因为复杂性与连接性有关。
让我们获取单独表的行和列中保存的信息,其中我们说“Person 表中的第 1111 行链接到表 Orders 中的第 2222 行”,看看我们是否可以通过说类似“本命令伴娘”。在信息方面,这就像从两部分编码(行和列)转移到三部分编码(项目、关系、对象)。


好的,让我们看看实际情况,我们将通过磨床运行所有示例表,将所有信息切碎成简单的三部分语句:

c9d075898c439127ffbc8e7002c081b7.jpeg

这张表看起来仍然很难以理解,但通过使用三部分编码,我们发挥了一点魔力;我们已经从多个集合转移到将关系合并为一等公民的单个图,因此我们已经从一组单独的 2D 表转移到了一个 3D 网络。因此,现在最好将这些信息直接可视化为网络:

7daf69f72c17c79c4134224fb25aaf87.jpeg

在许多方面,这是一种更自然的思考数据的方式,因为它更接近于大脑的工作方式。也许是第一次,您可以开始清楚地看到我们的订购过程示例如何连接到一个完整的系统中。如果是这样,那么欢迎用曲线来思考。
更重要的是,将抽象概念包含在网络中意味着我们可以缩小单个数据项的杂乱细节,并在更高的概念级别上查看所有内容如何组合在一起。

3a36265aa3709d1c881c4f3d5f34f0c2.jpeg

最后,通过嵌入在这个概念模型中的知识查看原始数据,我们可以获得关于系统如何运作和流动的潜在有用的见解。
例如,假设我们将人们分组到家庭中,按订购的电影类别计算家庭的订单数量,并且当我们随着时间的推移这样做时,我们注意到一个平衡的反馈循环(还记得吗?) 订购的动作片数量和订购的浪漫电影数量之间。

8da9d0b7f6282b500897a6bbeedf316c.jpeg

当我们分析这个循环时,也许我们会发现浪漫喜剧和动作电影的振荡方式与自然界中捕食者和猎物的数量相同。

fec40b938f9aa4c73dac935bccbc36a7.png

如果你能弄清楚这个循环背后的故事,那么欢迎进行循环思考,或者更正式地称为系统思考。说所有这些都可以用表格完成,这没有抓住重点。图表是为这项工作制作的,它们让我们看到森林而不仅仅是树木。网络向我们展示了数据如何通过部分之间的连接流动,正是这种连接将部分变成了一个整体。换句话说,网络使我们能够将我们的组织视为一个系统,这反过来又使我们能够系统地思考和计划。
通过转向三部分编码,我们创建了一个更具表现力和复杂性的结构,同时在某种程度上更易于理解。
为了让系统能够思考,我们采用了相同的表格数据,但我们从一开始就建立了连接性,这改变了一些重要的事情,所以让我们花点时间把它们全部分解:

  • 单独的表和数据库现在已经合并到一个结构中(我们可以称之为一个复杂的系统)

  • 部件之间的连接现在是明确的,因此我们可以无缝地跟踪系统中从任何部件到另一个部件的路径,并查看它们是如何连接的

  • 模型(即列名和表名)现在作为数据的一部分明确包含,并且可以通过这种方式制作这个概念模型,以便在数据旁边捕获抽象知识

  • 我们的数据结构可以对反馈循环进行本地建模

在工业时代,为了实现广泛使用和提高效率,我们标准化了电力供应。出于类似的原因,在信息时代,这适用于数据;每个数据源都必须提供一个标准的网络形“数据插座”,并且任何想要使用和查询该数据的应用程序现在都可以使用标准的网络形“数据插头”。

fae07446f289f5566b0aa4b6d6c1aeba.png

要创建数据插件,我们必须将两部分数据转换为明确建模关系的三部分数据。这不是火箭科学,任何称职的开发人员都可以遍历数据库中的表,并将它们转换为三部分的语句,这些语句组合起来形成一个网络。
通过这个简单的步骤,我们孤立的盒子变成了更大网络的连接片段。关于云的下一部分将说明如何将这些片段链接到其他团队生成的片段,但现在重要的是我们面前有什么:一种生成网络的简单方法。您可以将这些网络加载到图形数据库、图形可视化工具甚至图形机器学习算法中。对于那些希望在循环和曲线中思考的人来说,这里有很多乐趣。简而言之,我们有了第一个实用工具:图形适配器。


工具一:图形适配器


图形适配器位于组织中每个重要信息源的顶部。适配器将两部分语句转换为三部分语句并公开一个图形片段(一个网络形数据块,将与其他网络形数据块无缝连接)。底层数据库、文件或 API 不需要更改——适配器只是在其上暴露了一个网络形层。

本文 :https://architect.pub/embrace-complexity-part-2-data
讨论:知识星球【首席架构师圈】或者加微信小号【ca_cto】或者加QQ群【792862318】
公众号

【jiagoushipro】
【超级架构师】
精彩图文详解架构方法论,架构实践,技术原理,技术趋势。
我们在等你,赶快扫描关注吧。
c348d689acddfdda7cc9e458fab6614c.jpeg
微信小号

【ca_cea】
50000人社区,讨论:企业架构,云计算,大数据,数据科学,物联网,人工智能,安全,全栈开发,DevOps,数字化.

0c212ea5b51e5407a5314844fd149dd2.jpeg

QQ群

【285069459】深度交流企业架构,业务架构,应用架构,数据架构,技术架构,集成架构,安全架构。以及大数据,云计算,物联网,人工智能等各种新兴技术。
加QQ群,有珍贵的报告和干货资料分享。

6721b9b493749b6b8aa7fc9d05c1a358.jpeg

视频号【超级架构师】
1分钟快速了解架构相关的基本概念,模型,方法,经验。
每天1分钟,架构心中熟。

72d01733e7538f7ac959efb0e742f597.jpeg

知识星球【首席架构师圈】向大咖提问,近距离接触,或者获得私密资料分享。

d0fe81a3c03ed46bfc3848cc9e8d5e7a.jpeg

喜马拉雅【超级架构师】路上或者车上了解最新黑科技资讯,架构心得。【智能时刻,架构君和你聊黑科技】
知识星球认识更多朋友,职场和技术闲聊。知识星球【职场和技术】
领英Harryhttps://www.linkedin.com/in/architect-harry/
领英群组领英架构群组
https://www.linkedin.com/groups/14209750/
微博‍‍【超级架构师】智能时刻‍
哔哩哔哩【超级架构师】

4032bb9f7d96fad34a1c7e4622593d36.jpeg

抖音【cea_cio】超级架构师

c16bce0b38e7739280077941174f3c3e.jpeg

快手【cea_cio_cto】超级架构师

557959b80846d8fe6a10907a2eca858e.jpeg

小红书【cea_csa_cto】超级架构师

ff79a986e0ce45733a452a55ae5c7cd2.jpeg

网站CIO(首席信息官)https://cio.ceo
网站CIO,CTO和CDOhttps://cioctocdo.com
网站架构师实战分享https://architect.pub   
网站程序员云开发分享https://pgmr.cloud
网站首席架构师社区https://jiagoushi.pro
网站应用开发和开发平台https://apaas.dev
网站开发信息网https://xinxi.dev
网站超级架构师https://jiagou.dev
网站企业技术培训https://peixun.dev
网站程序员宝典https://pgmr.pub    
网站开发者闲谈https://blog.developer.chat
网站CPO宝典https://cpo.work
网站首席安全官https://cso.pub    ‍
网站CIO酷https://cio.cool
网站CDO信息https://cdo.fyi
网站CXO信息https://cxo.pub

谢谢大家关注,转发,点赞和点在看。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/752730.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

cucumber基于BBD的自动化测试

1.1 BDD介绍 行为驱动开发(Behavior Driven Development,BDD)简历在测试驱动开发的基础上,并且优化了很多TDD实践者的良好习惯。BDD可以通过自然语言来描写自动化测试,增加自动化的可阅读性. 1.2 cucumber原理 reshen目前有很多BDD的框架&a…

达观曹植大模型正式对外公测!专注于长文本、多语言、垂直化发展

大模型时代到来,国内出现“百模大战”的局面。达观数据自23年3月宣布研发大语言模型以来,一直积极探索大语言模型的专业化、特长化和产品化。通过多年的高质量数据积累,不断精进算法创新,结合多年的文本处理工程实践经验&#xff…

【C】自定义类型详解

自定义类型 结构体结构体类型声明特殊的声明 结构的自引用结构体的定义和初始化结构体的内存对齐为什么存在内存对齐呢?修改默认的对齐参数 结构体传参位段位段的内存分配位段的跨平台问题 枚举枚举类型的定义枚举的优点枚举的使用 联合(共用体&#xff…

刷题记录03

题目一. 具体思路: 这里就是,一个简单的解方程的一个思路,首先我们要理清楚,这道题,这里面的思路 A-Ba B-Cb ABc BCd 由上面的关系得出下面的解 A(a c)/2 B1(bd)/2 B2(c-a)/2 C(b-d)/2 具体代码: import java.util.Scanner;// 注意类名必须为 Main, 不要有任何 package xxx 信…

maven-依赖管理-上

依赖管理 依赖配置 一句话: 依赖指当前项目运行需要的jar&#xff0c;一个项目可以设置多个依赖 依赖的举例 <!-- 解读: 1. 这里就是引入项目需要的jar 包, 类似传统的import jar 的作用 2. 在dependencies 标签内&#xff0c;可以指定多个需要依赖的jar/导入的jar 3. 引…

Skywalking 9.4部署监控Java应用链路跟踪

资源地址&#xff1a; github地址&#xff1a;GitHub - apache/skywalking: APM, Application Performance Monitoring System java agent下载地址&#xff1a;Index of /dist/skywalking/java-agent 一.监控架构图 二.使用docker-compose启动skywalking以及ES version: 3.3…

字符函数和内存函数 (一)

目录 一、strlen函数 1.1strlen函数的认识 1.2strlen函数的模拟实现 二、strcpy函数 2.1strcpy函数的认识 2.2strcpy函数的模拟实现 三、strcat函数 3.1strcat函数的认识 3.2strcat函数的模拟实现 四、strcmp函数 4.1strcmp函数的认识 4.2strcmp函数的模拟实现 五、…

Java 面试知识点

Java 面试知识点 Java基础知识1. 一个".java"源文件中是否可以包括多个类&#xff08;不是内部类&#xff09;&#xff1f;有什么限制&#xff1f;2. 说说&和&&的区别。3.在 JAVA 中如何跳出当前的多重嵌套循环&#xff1f;4.switch 语句能否作用在 byte…

使用uni-popup踩坑记录

使用uni-popup时发现遮罩层并不生效&#xff0c;找了很多方法都没解决。。。直到快要自己封装一个组件的时候&#xff0c;打开uni-popup源码看了一眼 uni-popup里还使用了uni-transition组件&#xff0c;这一点官方文档上有提到&#xff08;但是我选择性失明了。。&#xff09;…

02 |「新建项目」

前言 新建项目 文章目录 前言一、步骤二、结构3. Java 文件夹4. res 文件夹5. Gradle Scripts文件三、运行流程四、Gradle 构建项目1. 是什么2. 作用一、步骤 1)New Project 2)Empty Activity 3)Finsh 选项: Name:项

Orangepi Zero2 基于官方外设开发(一)

目录 一、wiringPi外设SDK安装 二、蜂鸣器 补充&#xff1a;shell脚本的改进 补充&#xff1a;vim缩进 三、超声波测距模块 四、SG90舵机 五、Linux定时器 一、wiringPi外设SDK安装 第一种&#xff1a; git clone https : //github.com/orangepi-xunlong/wiringOP // 下载源…

python_day7_map

绘制简易地图 导包 import jsonfrom pyecharts.charts import Map from pyecharts.options import *准备地图对象 map Map()准备数据 data [("新疆维吾尔自治区", 99),("黑龙江省", 199),("江苏省", 299),("辽宁省", 399),(&quo…

我不是培训班的,但建议上IT培训班

目录 一、个人经历 二、有哪些IT培训班 三、学习IT上培训班的益处 四、学习IT上培训班的风险 五、就业前景 六、题外话 在学习IT技术的过程中&#xff0c;你是否也被安利过各种五花八门的技术培训班&#xff1f;这些培训班都是怎样向你宣传的&#xff0c;你又对此抱有着…

MyBatis 的架构

MyBatis 的架构 MyBatis 是一个基于 Java 的持久层框架&#xff0c;可以将 SQL 语句和 Java 代码进行分离&#xff0c;通过 XML 或注解的方式配置 SQL 语句并执行&#xff0c;从而实现数据访问的功能。MyBatis 的架构包括以下几个部分&#xff1a; SqlSessionFactory&#xff…

vue前端下载打开文件

<a href"/static/template/公告导入人员模板.xlsx" id"downloadTemplate" style"">下载模版</a>vue前端下载打开文件

D. Rating System

Problem - D - Codeforces 思路&#xff1a;我们先将输入数据做一个前缀和&#xff0c;能够得到它的变化&#xff0c;然后我们能够发现我们只需要找到两个点&#xff0c;第一个点-第二个点最大即可&#xff0c;因为假如说我们现在到了一峰 // Problem: D. Rating System // Con…

想成为合格的嵌入式系统开发工程师需要具备的技能

嵌入式行业中&#xff0c;看到大神开发一个程序非常简单&#xff0c;而自己却只能开发一些简单的小程序&#xff0c;从而就引起了自己的仰慕之心&#xff0c;心想自己什么时候才能达到这样的水平。作为一名大神级别的嵌入式系统开发工程师&#xff0c;他们自身所具备的技能是非…

开源大模型发展汇总

1. 大模型发展&概况 a. 发展线路图 其中基础模型如下&#xff1a; 大部分不开源&#xff0c;而OPT、BLOOM、LLaMA 三个模型是主要面向开源促进研究&#xff0c;聊天机器人场景开源的Open Assistant&#xff08;huggingface&#xff09;中文有一些GLM&#xff0c;百川&…

linux 基于debian_ubuntu AB系统适配(四)- 硬盘 wifi U盘无法使用问题

1、问题起因 使用原系统可以使用,但AB系统缺不行,开始怀疑是文件系统问题,于是我把AB系统的文件系统给替换到原系统中去,结果一样可以使用。于是替换了内核文件,结果不能使用了,那问题就出现在了内核中,刚开始以为是设备树的问题,于是拿原系统的设备树与AB系统的设备树…