ClickHouse为什么这么快(二)SSE指令优化

news2025/1/8 6:43:57

上一篇 ClickHouse为什么这么快(一)减少数据扫描范围 我们说到了ClickHouse中使用列存储,每个列都单独存储为一个文件,每个文件都是由一个或多个数据块组成,也就是说:每个文件由一个或多个数组组成,这篇博客就说一说如何使用SSE指令优化在数组上的查询。

问题:为了让性能对比更加明显,我们假定有一个表tab02包含一个uint8类型的列col,完成以下查询:

SELECT count(col) FROM tab02 WHERE col > 0

 由于col的数据存储为一个数组,我们可能会写出如下的代码:

size_t total1 = 0;
for (size_t i = 0; i < TotalCnt; i++)
{
  if (pData[i] > 0)
  {
    total1++;
  }
}

每次循环对一个数进行比较,当满足条件时让统计变量自增1,最后输出统计的变量值即可。这样可以完成任务。

但是,有没有更高性能的实现方法: 当然有,那就是可以一次对多个数进行操作的SSE指令集,在这个对比测试中我们用到了:_mm_setzero_si128,_mm_loadu_si128,_mm_cmpgt_epi8,_mm_movemask_epi8,_mm_popcnt_u32 如果需要运行测试程序请确认你的CPU支持 SSE2和SSE4.2 指令集(确认方法请自行百度)。

对应的实现代码如下:

const size_t SIMD_BYTES = 16;
size_t total2 = 0;
const __m128i zero16 = _mm_setzero_si128();
for (size_t i = 0; i < TotalCnt; i += SIMD_BYTES)
{
  int mask = _mm_movemask_epi8(_mm_cmpgt_epi8(
    _mm_loadu_si128(reinterpret_cast<const __m128i*>(pData + i)), zero16));
  total2 += _mm_popcnt_u32(static_cast<uint32_t>(mask));
}

每个函数的详细的功能介绍请自行百度,这里仅介绍执行逻辑:

执行过程:每次执行对pData中的16个数与zero16中对应位置的数进行比较,如果pData中的数大于zero16中对应位置的值则得1,否则得0;接着将每个比较结果转换为一个bit(也就是mask的值);最后计算mask值中bit为1的数量,也就是这16条数据中满足条件的数量。

在这个方案中:一次能对16个数进行比较,执行循环的次数仅为前一个实现的1/16,在我的测试中,后面的实现耗时大约只有前面实现耗时的1/8。

在ClickHouse中大量使用SSE指令集优化性能,具体的使用场景请参考源码。这里仅仅是实现了一个性能差别最大的示例来展示SSE指令优化的执行过程。

测试程序在Windows下VS2019编译执行,完整代码如下:

#include <iostream>
#include <Windows.h>
#include <emmintrin.h>
#include <nmmintrin.h>

int main(int argc, char* argv[])
{
  const size_t TotalCnt =  1024 * 1024;
  const size_t SIMD_BYTES = 16;

  LARGE_INTEGER bgTest1, edTest1, bgTest2, edTest2;
  uint8_t* pRaw = new uint8_t[TotalCnt + SIMD_BYTES];
  size_t curMod = reinterpret_cast<uintptr_t>(pRaw) & (SIMD_BYTES - 1);
  uint8_t* pData = pRaw + (curMod == 0 ? 0 : SIMD_BYTES - curMod);
  
  for (size_t i = 0; i < TotalCnt; i++)
  {
    pData[i] = rand() % 10;
  }

  QueryPerformanceCounter(&bgTest1);
  size_t total1 = 0;
  for (size_t i = 0; i < TotalCnt; i++)
  {
    if (pData[i] > 0)
    {
      total1++;
    }
  }
  QueryPerformanceCounter(&edTest1);

  QueryPerformanceCounter(&bgTest2);
  size_t total2 = 0;
  const __m128i zero16 = _mm_setzero_si128();
  for (size_t i = 0; i < TotalCnt; i += SIMD_BYTES)
  {
    int mask = _mm_movemask_epi8(_mm_cmpgt_epi8(
_mm_loadu_si128(reinterpret_cast<const __m128i*>(pData + i)), zero16));
    total2 += _mm_popcnt_u32(static_cast<uint32_t>(mask));
  }
  QueryPerformanceCounter(&edTest2);

  std::cout << "Test1 耗时:" << edTest1.QuadPart - bgTest1.QuadPart 
<< ", total1:" << total1 << std::endl;
  std::cout << "Test2 耗时:" << edTest2.QuadPart - bgTest2.QuadPart 
<< ", total2:" << total2 << std::endl;

  system("pause");
  return 0;
}

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1424288.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Python限定符

在正则表达式中&#xff0c;限定符用于指定模式的匹配次数或匹配范围。在Python中&#xff0c;正则表达式模块re提供了多种不同的限定符&#xff0c;以实现更灵活和精确的匹配操作。熟悉并理解Python中的限定符对于处理文本和字符串数据非常重要。本文将详细介绍Python中常见的…

DNS配置文件讲解

1. 概述 BIND&#xff1a;Berkeley Internet Name Domain &#xff0c;伯克利因特网域名解析服务是一种全球使用最广泛的、 最高效的、最安全的域名解析服务程序 2. 安装软件 [rootserver ~]# yum install bind -y 3. bind服务中三个关键文件 /etc/named.conf : 主配置文件…

Histone H3K27ac Antibody, SNAP-ChIP® Certified

EpiCypher是一家为表观遗传学和染色质生物学研究提供高质量试剂和工具的专业制造商。EpiCypher&#xff08;国内代理商欣博盛生物&#xff09;推出的ChIP级别的Histone H3K27ac Antibody符合EpiCypher的“SNAP-ChIP Certified”标准&#xff0c;用于ChIP实验中的特异性和有效靶…

Orion-14B-Chat-RAG本地部署的解决方案

大家好,我是herosunly。985院校硕士毕业,现担任算法研究员一职,热衷于机器学习算法研究与应用。曾获得阿里云天池比赛第一名,CCF比赛第二名,科大讯飞比赛第三名。拥有多项发明专利。对机器学习和深度学习拥有自己独到的见解。曾经辅导过若干个非计算机专业的学生进入到算法…

刷存在感,Excel转Protobuf/Json通用配置文件

使用场景 最近工作流中有将Excel转Protobuf作为配置文件的技术方案。具体实现是先定一个proto文件&#xff0c;再在一个对应excel表中定义对应字段&#xff0c;由策划在excel进行更改。proto文件可以生成对应语言的脚本&#xff0c;然后将excel转成对应protobuf的binary。 我…

【Tomcat与网络9】提高Tomcat启动速度的八大措施

本文我们来看一下如何对Tomcat进行调优&#xff0c;我们对于Tomcat的调优主要集中在三个方面&#xff1a;提高启动速度、提高系统稳定性和提高并发能力&#xff0c;后两者很多时候是相辅相成的&#xff0c;我们放在一起看。 Tomcat现在一般都嵌入在SpringBoot里&#xff0c;因…

又涨又跌 近期现货黄金价格波动怎么看?

踏入2024年一月的下旬&#xff0c;现货黄金价格可以说没了之前火热的状态&#xff0c;盘面上是又涨又跌。面对这样的行情&#xff0c;很多投资者不知道如何看了。下面我们就来讨论一下怎么把握近期的行情。 先区分走势类型。在现货黄金市场中有两种主要的走势类型&#xff0c;一…

千兆电口模块和万兆电口模块:网络速度的演变

随着信息技术的迅猛发展&#xff0c;网络通信技术也在不断进步。在过去的几十年中&#xff0c;以太网的速度发生了巨大的变化&#xff0c;从最初的百兆以太网&#xff0c;到如今的千兆以太网和万兆以太网甚至40G、100G以太网满足了大数据、云计算、人工智能等新兴应用的需求。在…

Golang语言异常机制解析:错误策略与优雅处理

前些天发现了一个巨牛的人工智能学习网站&#xff0c;通俗易懂&#xff0c;风趣幽默&#xff0c;忍不住分享一下给大家。点击跳转到网站https://www.captainbed.cn/kitie。 前言 作为开发者来说&#xff0c;我们没办法保证程序在运行过程中永远不会出现异常&#xff0c;对于异常…

前端JavaScript篇之实现一个将多维数组展示的方法有哪些,分别是?

目录 实现一个将多维数组展示的方法有哪些&#xff0c;分别是&#xff1f;方法一&#xff1a;递归展开成一维数组方法二&#xff1a;嵌套展示结构方法三&#xff1a;ES6新增的数组扩展方法 flat()方法四&#xff1a;apply() 结合 concat() 使用以展开成一维数组方法五&#xff…

2024 年 Sketch 替代品的最佳选择:Windows、Web 和 Mac 用户的详细比较

什么是Sketch Sketch是一个著名的、越来越受欢迎的矢量图形设计软件&#xff0c;它通过各种有用的UI设计和原型设计工具使这一过程更易于管理。 Sketch于2010年9月首次发布&#xff0c;后来在2012年获得苹果设计奖。对于Sketch来说&#xff0c;这正好停止了Adobe使用当时领先…

JAVA Web 学习(二)ServLet

二、动态web 资源开发技术——Servlet Servlet&#xff08;小服务程序&#xff09;是一个与协议无关的、跨平台的Web组件&#xff0c;由Servlet容器所管理。运行在服务器端&#xff0c;可以动态地扩展服务器的功能&#xff0c;并采用“请求一响应”模式提供Web服务。 Servlet的…

基于仿射区间的分布式三相不对称配电网潮流算法matlab仿真

目录 1.课题概述 2.系统仿真结果 3.核心程序与模型 4.系统原理简介 5.完整工程文件 1.课题概述 基于仿射区间的分布式三相不对称配电网潮流算法matlab仿真。 基于仿射区间的&#xff0c;含分布式电源的配电网三相潮流算法&#xff0c;算法涉及仿射&#xff0c;三相&#x…

python爬虫概念及介绍

1. 什么是互联网爬虫&#xff1f; 解释 1 &#xff1a;通过一个程序&#xff0c;根据 Url ( http : // www . taobao . com ) 进行爬取网页&#xff0c;获取有用信息 解释 2&#xff1a;使用程序模拟浏览器&#xff0c;去向服务器发送请求&#xff0c;获取响应信息 2. 爬虫核…

深度学习经典模型之BERT(下)

在"深度学习经典模型之BERT(上)"我们描述了BERT基本信息、意义、与GPT和Transformer的区别、预训练、自监督等相关信息后&#xff0c;本章节将介绍BERT的输入、Encoder、微调及两个主流变种。 BERT inputs 切词方法 BERT的切词方法用的是WordPiece embeddings&…

MongoDB数据模型和WiredTiger读写模型

MongoDB数据模型 思考&#xff1a;MongoDB为什么会使用BSON&#xff1f; BSON协议与数据类型 JSON JSON是当今非常通用的一种跨语言Web数据交互格式&#xff0c;属于ECMAScript标准规范的一个子集。JSON&#xff08;JavaScript Object Notation, JS对象简谱&#xff09;即J…

[word] word艺术字体如何设置? #知识分享#职场发展#媒体

word艺术字体如何设置&#xff1f; 在工作中有些技巧&#xff0c;可以快速提高工作效率&#xff0c;解决大部分工作&#xff0c;今天给大家分享word艺术字体如何设置的技巧&#xff0c;希望可以帮助到你。 1、设置艺术字 选中文字&#xff0c;然后点击菜单栏的【插入】按钮一一…

机器学习复习(6)——numpy的数学操作

加减法运算 # 创建两个不同的数组 a np.arange(4) #list(0,1,2,3 b np.array([5,10,15,20]) # 两个数组做减法运算 b-a 运行结果&#xff1a; 计算数组的平方 #b*2代表数组b每个元素乘以2 #b**2代表数组b每个元素的2次方 b**2 运行结果&#xff1a; 计算数组的正弦值 #…

8.DNS域名解析服务器

目录 1. 概述 1.1. 产生原因 1.2. 作用&#xff1a; 1.3. 连接方式 1.4. 因特网的域名结构 1.4.1. 拓扑&#xff1a; 1.4.2. 分类 1.4.3. 域名服务器类型划分 2. DNS域名解析过程 2.1. 分类&#xff1a; 2.2. 解析图&#xff1a; 2.2.1. 图&#xff1a; 2.2.2. 过…

【学网络安全】kali linux入门及常用简单工具介绍(附工具包)

前言 相信很多同学了解到和学习网络安全的时候都听过kali系统&#xff0c;大家都称之为黑客最喜爱的系统&#xff0c;那么什么是kali&#xff0c;初学者用kali能做些什么&#xff0c;我将在本文中做简单的介绍 一、kali linux是什么&#xff1f; Kali Linux 是专门用于渗透测…