广发证券基于分布式架构的新一代估值系统实践

news2024/12/23 22:57:17

文 / 广发证券信息技术部
来源 / 金融电子化

随着信息技术应用创新试点范围不断扩大,能否胜任更多业务场景,是各行各业当前阶段选型数据库的关键。早在 2019 年,广发证券即开启对分布式架构的数据库产品进行调研,并经历了单主从读写分离、多套单机主从的分库分表,以及原生分布式数据库等不同的产品形态。

2021 年底,广发证券通过估值系统应用架构分布式升级,同时使用 OceanBase 原生分布式数据库,落地证券行业首个信息技术应用创新产业估值系统。新一代估值系统为长期业务增长打下坚实基础,同时对行业内估值系统的全面升级改造起到借鉴和推动作用。此次“广发证券基于 OceanBase 分布式架构的新一代估值系统”项目凭借对整个估值核算效率显著提升,以及多项技术创新,荣获“2022 第十三届金融科技应用创新奖”。

 

单体架构升级为分布式架构

 

证券行业核心的两类场景分别是集中撮合交易与估值核算处理。由于单体架构先天限制,在容量和性能遇到瓶颈时无法横向动态扩容,制约了这两类场景中系统的整体处理能力。随着业务发展,广发证券估值系统旧有的单体架构和强依赖于 Oracle 特性的计算服务,在清算、核算批量执行时 CPU 已经接近满负荷,单纯依赖提高服务器配置已经无法较好满足业务发展需要,必须从系统整体架构上进行升级改造。

新一代估值系统整体采用微服务技术平台开发,通过以下的改造优化,充分发挥分布式架构的横向能力,实现系统性能整体提升,在大数据量的环境下,大幅降低批处理时间,提高向基金管理人提供估值核算数据的及时性。

  • 一是“化整为零”,将原有系统中的大事务分拆为小事务,并实现数据批处理内存化。通过拆解大事务,尤其是拆解大数据量的 DML 语句,确保系统可以并行处理。同时,将原有复杂的数据库 SQL 逻辑,通过数据加载到内存中处理,利用内存低延时的特点,大幅提升处理效率。

  • 二是“分而治之”,通过优化表结构设计,使得数据便于分库、分表、分片。优化程序设计,结合单元化的思想,将参数依赖、服务依赖等外部依赖分解,优化处理流程,提升并行效率。

  • 三是“化繁为简”,通过简化业务逻辑,适应分布式数据库的特点。通过“异步化+定时校对+补偿”的柔性事务设计,减少甚至避免产生分布式事务,提升系统处理的吞吐量。

  • 四是“借力使力”,发挥分布式数据库自身的能力。如分区、表组等特性,多管齐下,降低系统架构优化的设计难度和开发难度,提升研发效率。

另外,金融行业对系统灾备能力有着极高的要求,系统的部署架构设计是对灾备应对期望(RTO 和 RPO)的体现,同时受机房数量、网络情况的影响。广发证券新一代估值系统应用服务采用分布式部署,同时引入原生分布式数据库,需要延续证券行业一贯的灾备规范以及使用习惯。 分布式部署架构天然能够消除机房内单点故障,同时分布式数据库在集群内高可用基础上也实现了集群间的“主备库”,通过物理日志的复制和数据压缩,降低对机房间网络带宽的要求。借助分布式数据库集群内多副本多活,集群间可灵活选择同步强度等级的特点,实现 switchover 计划内切换、failover 故障切换,以及备库独立运行三种灾备切换能力,满足证券行业常见的机房灾备切换、日常演练等要求。

 

Image

 

估值系统的原生分布式实践

从数据库整体路线建设的视角看,本次新一代估值系统引入原生分布式数据库,给广发证券带来了基于多租户能力的 DBaaS 体系,即在一套数据库集群内,秒级交付逻辑隔离的数据库资源,快速响应业务对数据库的使用需求,并且租户规格可在线灵活调整,应对不同等级、不同规模的业务系统数据库资源整合。

广发证券在前期选型验证中曾测试过,租户规格的扩展可分为垂直扩展(增加单元资源配额)与横向扩展(增加单元数量)两种,分别应对不同业务场景的需求。对于需要更多计算资源的大事务 SQL,增加 CPU 与内存配额能够支持更大的并行度,从而让数据处理速度跟上数据增长;对于并发数可能增加的在线交易类业务,以及存储容量突破单机瓶颈的 level2 行情数据类业务,则可以增加租户的单元数量,让更多硬件节点共同承载租户压力,应对业务增长。

除此之外,早期分布式形态的数据库产品,通常具备读写分离、分库分表等能力,券商的部分业务场景对这两种使用方式有一定经验,引入新的原生分布式数据库,需要了解类似场景业务如何衔接过渡。

对于读写分离,在 OceanBase 产品体系中,无需额外引入中间件,通过 OBProxy 即可开启“弱读”,将事务以外的 select 请求发到非 leader 的租户副本;在行情、消息推送等读多写少并且存在读写时间差的场景,该功能能够发挥各个数据副本的算力,提升系统性能容量上限;对于分库分表,OceanBase 的分区表模式与早期的分库分表方案有些许相似,也有其特有优势。

  • 相似之处在于:对于单个表而言,需要指定分区键,该表的数据才具备被分布到不同硬件节点的条件,由应用根据实际情况决定是否需要分布式。

  • 不同之处在于:OceanBase 本身是一个分布式形态的数据库,因此具备全局统一的视图,数据能够在不同节点分布,正是因此具备了表组(TableGroup)能力,以及在分布式架构下,能够支持生成复杂执行计划和存储过程。

 

Image

 

扩大应用场景,全面提升基金运营核心能力

 

广发证券此次估值系统信息技术应用创新产业试点是全功能完整试点,实现了一套系统对全产品类型的估值核算的统一化管理,支持多市场、多品种、多币种核算,同时实现自动估值服务,全面提升估值核算的自动化水平和整体运营效率,提升基金运营业务的核心竞争力。需要强调的是, 该项目真正验证了信息技术应用创新产业加速核心业务系统自主可控的可行性,为解决我国“卡脖子”问题,新增了一条行之有效的实践路径。

打通核心系统全栈信息技术应用创新产业的最后一公里。我国推进信息技术应用创新工作已有一段时间,从办公系统到一般业务系统,再到核心系统,从芯片到服务器、网络设备等,以点带面、逐步推进。尤其对于核心系统的数据库,存储着企业最重要、最关键的数据,是整个企业的生命线,不容有失。因此,核心系统的信息技术应用创新产业工作,需要整个企业的 IT 部门、业务部门提升觉悟并达成共识,持续不断地坚持投入,稳步推进。

树立 IT 架构转型的典范工程。新一代估值系统应用层采用分布式架构设计,使用微服务技术开发,实现系统的横向弹性扩容能力,应对交易请求高峰低谷特征明显的证券业务;在数据持久化方面,通过原生分布式数据库,实现数据读写分离、分库分表、弹性扩展,多副本冗余的能力。通过一系列的改造和优化,解决了旧系统的单点瓶颈和对数据库特性的强依赖,使得系统具备了高性能、高容量、高可靠的特点。

通过系统从应用层到数据层的整体分布式改造优化,得益于服务器资源的横向扩展能力和并行度的提高,在测试环境的条件下,将整体跑批时间由 1 小时缩短为分钟级,提高了估值核算数据的及时性。

以下是压测调优的环境和效果对比:

 

 

新一代估值系统能够快速完成跑批清算,并且具备横向扩展能力,这直接提升了广发证券的基金运营效率,同时估值系统的下游关联系统也能够更快获取到所需数据,并且随数据量增长带来的跑批慢问题可通过分布式应用和原生分布式数据库的扩容解决,让业务开发人员能够专注于新功能实现,最终共同更好地服务于业务,树立了 IT 系统架构转型工程的典范。

本次估值系统信息技术应用创新产业的试点落地,让广发证券了解了 OceanBase 的使用特点与运维方式。后续,我们将会把分布式架构优化经验和分布式数据库的技术应用于更多业务场景,有效解决容量与扩展性的瓶颈,提升基金运营效率,降低运营成本,最终提升广发证券对客基金运营服务能力的综合水平。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/193628.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Git 提交模式

Git 对我们 Devs 的使用是必不可少的,无论是在个人项目中,还是在多人开源项目或整个社区中。鉴于此,正确使用 git commit很重要。拥有连贯和标准化的语言有助于参与项目的每个人理解已经发生的变化。在上图中,我们看到了评论不当的…

Camtasia2023简体中文版支持4K超清屏幕录屏

Camtasia 2023是TechSmith出品的一款屏幕录像和编辑的软件,可轻松录制和分享高质量的截屏视频,提供所需的工具和功能。功能强大的视频编辑器,通过记录您的屏幕活动和网络摄像头流,帮助您创建具有专业外观的截屏视频。软件提供了强…

“华为杯”研究生数学建模竞赛2005年-【华为杯】B题:空中加油问题的递推模型与调度策略

赛题描述 对飞行中的飞机进行空中加油,可以大大提高飞机的直航能力。为了简化问题,便于讨论,我们作如下假设。 少辅机架数两种情况给出你的作战方案。 论文 摘要 : 本文首先对空中加油问题进行了分析,提取了相关性质,在此基础上 建立了问题的递推模型。根据该模型,文…

使用DcokerCompose部署微服务项目详解

一、项目结构 我这里准备了一个微服务项目。 里面包含三个服务模块: card-service、use-rservice以及网关gateway。 一个公共模块: fegin-api。 其中fegin-api被card-service和user-service引用。 二、基于项目构建部署目录结构 这个springcloud-a…

电子档案备份相对于数据备份的特别之处

最近在和档案馆信息部门领导交流过程中,他们提出了一个很实际的困惑:《“十四五”全国档案事业发展规划》(以下简称:《十四五规划》)中明确提出了“电子档案备份中心”建设,并且要求“扎实做好档案数字资源…

检索业务:排序和价格区间及库存

排序 点击某个排序时首先按升序显示,再次点击再变为降序,并且还会显示上升或下降箭头 页面排序跳转的思路是通过点击某个按钮时会向其class属性添加/去除desc,并根据属性值进行url拼接 点击排序时 $(".sort_a").click(function () …

如何恢复回收站被清空的文件?你必须要知道的4种方法

电脑回收站里面有很多我们之前删除的文件,如果想要恢复这些文件,直接还原就可以了。但是回收站里面的数据被清空了怎么办?如何恢复回收站被清空的文件?接下来就给大家分享一些恢复回收站文件被删除的方法! 方法一、使用…

AcWing 1068. 环形石子合并(环形区间DP)

AcWing 1068. 环形石子合并(环形区间DP)一、问题二、思路三、代码一、问题 二、思路 在讲解这道题之前,我们需要先掌握线性的区间DP问题,如果对于线性区间DP的解决方式还不了解的话,建议先看一下这篇文章:…

概论第7章_参数估计_点估计的评价标准_相合性_无偏性_有效性

点估计的评价标准包括: 相合性, 无偏性, 有效性。 一. 相合性 衡量一个估计是否可行的必要条件, 就是估计的相合性。 本文不提其定义了。直接给出一些结论。 结论 设有正态总体N(μ,σ2\mu, \sigma^2μ,σ2) 的样本,…

数据结构资料汇编:栈

数据结构资料汇编:栈 定义 栈(stack)是限定仅在表尾进行插入或删除操作的线性表。 表尾称为栈顶(top),可以进行插入或删除操作 栈的插入操作称为进栈或入栈(push)栈的删除操作成为出…

Google Play 上的 Shady Reward 应用累积了 2000 万次下载

一种新的活动跟踪应用程序类别最近在 Android 的官方应用程序商店 Google Play 上取得了巨大成功,已在超过 2000 万台设备上下载。 这些应用程序将自己宣传为健康、计步器和养成良好习惯的应用程序,承诺为用户在日常生活中保持活跃、达到距离目标等提供…

字节青训前端笔记 | 跨端技术概述

本节课程内容会分为以下几个方面: 跨端是什么,给大家介绍跨端产生的背景及解决的问题跨端技术方案介绍,给大家介绍目前主流的跨端技术方案(hybrid 方案/原生渲染方案/自渲染方案/小程序方案)以及对比基于小程序跨端实…

苹果或将打造 “空气键盘”

苹果MR头显玩法大揭秘前言苹果MR头显要来了打造 “空气键盘”眼动追踪与手部追踪一键切换VR/AR模式前言 随着2021年10月FaceBook正式改名Meta后,标志着元宇宙元年的正式到来,元宇宙行业开始出现井喷式的爆发。再到2022年10月,“飞天云动”在…

欧科云链链上卫士:2023年1月安全事件盘点

一、基本信息 2023年1月安全事件共造成约1438万美元损失,相比上个月的安全事件损失金额大幅度下降。其中多链项目LendHub 被攻击,损失高达600万美元,为本月资金损失最大的安全事件。本月RugPull数量基本与上月持平。社媒诈骗等事件依然频发&a…

分布式微服务3

目录 Feign远程调用 基于Feign远程调用 Feign替代RestTemplate 1.引入依赖 2.添加注释 3.编写Feign的客户端 4.测试 5.总结 自定义配置 1.引入依赖 2.配置连接池 3.总结 Gateway网关 Gateway快速入门 1.创建gateway服务,引入依赖 2.编写启动类 3.编写…

【微服务】Nacos集群搭建

Nacos集群搭建1.集群结构图2.搭建集群2.1.初始化数据库2.2.下载nacos2.3.配置Nacos2.4.启动2.5.nginx反向代理2.6.优化1.集群结构图 官方给出的Nacos集群图: 其中包含3个nacos节点,然后一个负载均衡器代理3个Nacos。这里负载均衡器可以使用nginx。 我们…

实战:进入Linux系统 紧急模式,重置root密码

实战:进入CentOS 7紧急模式,重置root密码 实战场景:公司的一台CentOS 7系统忘记root密码了,需要快速把root密码修改为 qwer,找回root身份。 (1)重启系统,在出现内核选择界面时(在此界面中,如果不按键盘的上下方向键,则在默认时间过去后,自动选择光标所选的内核并…

题库——“计算机基础”

小雅兰为开学考试而奋斗 模块一 计算机基础概述 (1)信息技术基本知识 (2)计算机的发展与应用 (3)计算机的工作原理 (4)计算机系统的组成 (5)微型计算机主要硬…

九龙证券|AIGC彻底火了,概念股全线上涨,走势领先者三连板!

一夜之间,AIGC走红A股,谁会成为商场宠儿? A股历来盛行炒作新体裁,尤其是新体裁诞生的初期,资金参与热心高涨,诞生牛股概率更高。诞生不足两月的ChatGPT便是今年以来最抢手体裁之一,由ChatGPT带动…

Bug:浏览器一直访问旧资源

Bug:浏览器一直访问旧资源 1 问题阐述 今天在查看自己部署的项目时候,发现浏览器总是访问旧的资源 2 排查思路 2.1 浏览器缓存问题 清除浏览器缓存 ctrl shift del2.2 tomcat问题 我的项目是部署在tomcat上的,因此我怀疑是tomcat的配置问…