大数据系统测试——大数据系统解析(下)

news2024/11/16 3:45:31

各位好,我是 

@道普云

欢迎关注我的主页

希望这篇文章对想提高软件测试水平的你有所帮助。


学习和理解大数据系统每一个层次需要解决的技术问题和对应的一些技术需求是对大数据系统进行软件测试的一个基础,上篇文章里我们已经跟大家分享了数据收集层、数据存储层和资源管理与服务协调层这三个个面,本文就跟大家分享剩下的部分。

在计算引擎层,主要特点是:批处理、交互处理、实时处理、专业化。现在发展的方向就是专业化程度越来越高,越来越场景化,比如说像传统的批处理专业化场景,它的要求是一次性处理的数据量非常大,但是实时性可能要求不是那么高。

交互处理就是数据处理过程中可能需要与用户进行很多交互,在交互中用户输入一些内容,大数据后台进行一些处理,相互之间是有不断的交互的,随时根据交互的内容进行数据的应的处理。

实时处理,像一些流处理、舆情处理,是要求必须实时监控实时处理的,这对性能的要求是比较高的。

所以说在计算引擎层,它需要解决的核心问题是高性能、可靠性和功能正确性。无论是对单次海量数据的处理还是对实时低延迟的处理都需要非常高的性能,包括交互处理,也要求交互是快速响应的。因为它是作为一个公共的服务层,它需要为上层的分析层进行服务,需要保障可靠性,另一方面需要保证功能的正确性。

在数据分析层是各种各样的数据分析模型专业化。举个典型的例子,在金融系统商业银行,每个商业银行的部门,无论是贷款的部门还是存款的部门或者国际业务部门,每一个部门在每一个业务上都会有一个专门的数据分析的模型,这种数据分析模型的专业化程度越来越高,与个性化的需求的结合程度也越来越高。根据数据模型分析专业化的要求,需要保障高性能,同时需要保证它的可靠性和功能正确性。

在数据可视化层需要保证数据展示灵活、可定制、美观。不同的用户对数据可视化的需求是不同的,不同的用户关注的点是不一样的。即便是在同一个单位,在不同的部门、不同的岗位、不同的级别,他所要求的数据展现也是不同的。

这时候需要保证整个数据的可视化是非常灵活的。它对质量的要求、对数据的应用性要求是非常高的。同时数据可视化展示的内容是非常丰富的,它需要保证高性能、可靠性、易用性和功能正确性。

自此,大数据系统解析就已经全部完成了,有需要或有想法的朋友可以私信我交流。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2078716.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

33.python socket

python socket编程 概念说明心跳包的作用基于以上知识的基础上我们来实现一个代码socket serversocket client执行结果 概念说明 socket传输数据是基于字节流的,默认情况下是无边界的字节流。 一般情况下数据里中包含心跳包和数据包。数据包就是我们实际需要发送给…

中国建筑轮廓数据

建筑轮廓数据是建筑的边界矢量数据,一般该数据属性中会记录对应建筑的高度或者楼层数,通过建筑轮廓数据置顶的高程字段拉伸,就可以得到建筑白盒模型,所以,我们在各类导航地图中看到的白盒模型,实际上是建筑…

深度剖析:医疗行业财务报表的核心要素与解析策略

在当今医疗行业中,财务报表分析扮演着至关重要的角色。医疗机构需要通过对财务数据的准确分析来做出关键决策,管理资源,改善效率,并确保最终提供高质量的医疗服务。本文将深入探讨医疗行业中财务报表分析的重要性、关键指标和分析…

《一种个性化逻辑定制与类置换方案》

📢 大家好,我是 【战神刘玉栋】,有10多年的研发经验,致力于前后端技术栈的知识沉淀和传播。 💗 🌻 CSDN入驻不久,希望大家多多支持,后续会继续提升文章质量,绝不滥竽充数…

通过违法app发现大量网站被挂黑页

免责声明:文章来源于真实事件,关键信息已经打码处理,请勿利用文章内的相关技术从事非法测试,由于传播、利用此文所提供的信息或者工具而造成的任何直接或者间接的后果及损失,均由使用者本人负责,所产生的一…

AI搜索的商业模式困境:Perplexity从拒绝广告到高价广告的转变

随着人工智能技术的发展,AI搜索逐渐成为人们日常生活中不可或缺的一部分。在这个领域,Perplexity曾被认为是AI搜索领域的领军企业,以其强大的智能搜索能力脱颖而出。然而,随着OpenAI的SearchGPT发布在即,Perplexity似乎…

掌握结构型模式——全景回顾

在前几篇文章中,我们详细探讨了多种结构型设计模式,今天来进行一个大总结——结构型设计模式主要关注类与对象的组合和组织,确保我们能够构建出稳固、灵活且易于维护的软件系统。无论你是初学者还是有经验的开发者,这篇文章都会帮…

计算循环冗余码(CRC)--软考笔记

1、什么是CRC循环冗余码(CRC) CRC(Cyclic Redundancy Check)是一种用于检测数据传输错误的校验码。它通过一个预定义的生成多项式来计算一个固定长度的校验值,这个值被附加到原始数据上一起发送。接收端使用相同的生成…

二叉树 - 完全二叉树的节点个数

222. 完全二叉树的节点个数 方法一:递归 /*** Definition for a binary tree node.* function TreeNode(val, left, right) {* this.val (valundefined ? 0 : val)* this.left (leftundefined ? null : left)* this.right (rightundefined ? nul…

多商户2.3.0后台顶部添加修改密码修复方法

问题:后台登录不能修改自己的密码; 解决方法: 修改前端代码,文件路径(平台后台,商户后台一样的修改方法):src/layout/navBars/breadcrumb/user.vue 修改第一处 代码: 修…

IM即时通讯给娱乐社交、游戏等行业带来了什么影响?看这篇就知道

企业IM即时通讯技术的发展和应用,对我们的生活、工作、沟通和交流带来了显著的影响和改变。 IM即时通讯技术的发展不仅改变了我们的沟通方式,还提高了工作效率,促进了团队协作,保障了信息安全,并推动了业务创新。随着技…

机器人学导论之连杆参数

目录 一、连杆参数[1] 二、将下肢看作二连杆结构 三、参考文献 一、连杆参数[1] 1.1关节角 绕轴,从旋转到的角度。 备注:从z轴正方向看,顺时针为正,逆时针为负。 图 1 平面三连杆操作臂 以图1为例子, 表示…

文献解读-农业-第二十九期|《β-淀粉酶和磷脂酸参与板栗种子萌发》

关键词:农业;基因测序;变异检测; 文献简介 标题(英文):Beta-amylase and phosphatidic acid involved in recalcitrant seed germination of Chinese chestnut标题(中文&#xff09…

岩土工程中的渗流问题:有限单元法的理论与实践

有限单元法在岩土工程问题中应用非常广泛,很多商业软件如Plaxis/Abaqus/Comsol等都采用有限单元解法。尽管各类商业软件使用方便,但其使用对用户来说往往是一个“黑箱子”。相比而言,开源的有限元程序计算方法透明、计算过程可控,…

宝藏!盟主自控独家讲义:《掌中宝》(精卫篇)1-9章:甄选部分

本文内容,全部选自自动化考研联盟的:盟主自控独家讲义:《掌中宝》(精卫篇)。 Part1:资料封面&目录 Part2:资料各个章节具体内容 自控专属数学基础储备 第1章 自动控制的基本概念 第2章 控制系统的数学模型 第3章…

8.26算法训练

1.八皇后 Checker Challenge 输入: 6输出: 2 4 6 1 3 5 3 6 2 5 1 4 4 1 5 2 6 3 4是以前寒假写过的题目,所以有的影响,大致思路就是用深度遍历然后判断是否在对角线上就ok了,有大概思路的话, 还是不难的…

比特币的签名和验证(基于ECDSA)

比特币(Bitcoin)和以太坊(Ethereum)等区块链技术使用了加密算法来确保交易的安全性。私钥签名和公钥验证是这些算法的核心部分,主要用于证明交易的发起者拥有交易中使用的资金的控制权,而不需要暴露私钥本身…

【开源分享】java+swing+mysql简单学生信息管理系统设计与实现

个人主页:程序员杨工 个人简介:从事软件开发多年,前后端均有涉猎,具有丰富的开发经验 博客内容:全栈开发,分享Java、Python、Php、小程序、前后端、数据库经验和实战 文末有本人名片,希望和大家…

大模型学习全面教程:零基础入门至精通,一篇文章全掌握

人人都看得懂的大模型简介 大模型就像一座庞大的图书馆,里面有非常多的书籍。但与普通图书馆不同的是,这座图书馆中的每本书都是关于不同事物的描述和知识。而这些书籍中的每一页都代表了这个事物的一些特征或细节。现在,想象一下&#xff0…

蓝牙耳机哪个品牌最具有性价比?四大性价比拉满产品推荐!

蓝牙耳机哪个品牌最具有性价比?目前市面上的蓝牙耳机层出不重,蓝牙耳机的的品类也五花八门的,想要选择一款满意的蓝牙耳机也是需要花费一定的时间,大家购买时一定要格外注意,劣质耳机产品不仅使耳朵受到伤害&#xff0…