【C#】并行编程实战:并行编程中的模式

news2024/11/24 3:36:31

        本章将介绍并行编程模式,重点是理解并行代码问题场景并使用并行编程/异步技术解决他们。本章会介绍几种最重要的编程模式。

        本教程学习工程:魔术师Dix / HandsOnParallelProgramming · GitCode


1、MapReduce 模式

        引入 MapReduce 是为了解决处理大数据的问题,例如跨服务器的大规模计算需求。该模式可以在单核计算机上使用。

1.1、映射和归约

        MapReduce 程序顾名思义,即 Map(映射) + Reduce(归约)。MapReduce 程序的输入作为键值对被传递,输出也是同样形式。

        书上讲的听起来很抽象,画张图来辅助理解:

         输入一个列表,然后通过某种方式先进行筛选(返回列表),然后进行分组(返回键值),最后返回各个分组的键值对作为结果:

1.2、使用 LINQ 实现 MapReduce

        其示例中,扩展方法如下:

public static ParallelQuery<TResult> MapReduce<TSource, TMapped, TKey, TResult>(
            this ParallelQuery<TSource> source,
            Func<TSource, IEnumerable<TMapped>> map,
            Func<TMapped, TKey> keySelector,
            Func<IGrouping<TKey, TMapped>, IEnumerable<TResult>> reduce)
        {
            return source.SelectMany(map)
                .GroupBy(keySelector)
                .SelectMany(reduce);
        }

        我们用一个需求来理解这段函数:

  1. 源数据为 1000 个 -100~100 的随机数;

  2. 筛选出其中的正数;

  3. 将其按照10位进行分组(0~9一组、10~19一组,以此类推);

  4. 统计每个分组的个数。

        那么,使用上述 MapReduce 模板进行处理,示例代码如下:

        private void RunMapReduce()
        {
            //初始化原始数据
            int length = 1000;
            List<int> L = new List<int>(length);
            for (int i = 0; i < length; i++)
            {
                L.Add(Random.Range(-100, 100));
            }

            var ret = L.AsParallel().MapReduce(
                mapPositiveNumbers,//筛选正数
                groupNumbers,//映射分组
                reduceNumbers);//归约合并结果

            foreach (var item in ret)
            {
                Debug.Log($"{item.Key * 10} ~ {(item.Key + 1) * 10} 出现了:{item.Value} 次 !");
            }
        }
        
        public static IEnumerable<int> mapPositiveNumbers(int number)
        {
            IList<int> PositiveNumbers = new List<int>();
            if (number > 0)
                PositiveNumbers.Add(number);
            return PositiveNumbers;
        }
        
        public static int groupNumbers(int number)
        {
            return number / 10;
        }

        public static IEnumerable<KeyValuePair<int, int>> reduceNumbers(IGrouping<int, int> grouping)
        {
            return new[]
            {
               new KeyValuePair<int, int>(grouping.Key,grouping.Count())
            };
        }

        运行结果如下所示:

         通过上述示例,这个映射与归约就容易理解多了:实际上就是某一种特定的业务模板写法:筛选 → 分组 → 合并。在并行编程中,类似这样的写法都可以通过同样的模板代码实现。

2、聚合

        聚合(Aggregation)是并行应用程序中使用的另一种常见的设计模式。在并行程序中,数据被划分为多个单元,以便可以通过多个线程在内核之间进行处理。在某个时候,需要将所有相关来源数据组合起来,然后才能呈现给用户。

        书上的例子只讨论了使用 PLINQ 代码的示例,我们也照着写一个:

        private void RunAggregation()
        {
            var L = Utils.GetOrderList(10);

            var L2 = L.AsParallel()
                   .Select(TestFunction.IntToString)//并行处理
                   .ToList();//合并

            foreach (var item in L2)
                Debug.Log(item);
        }
        
        public static string IntToString(int x)
        {
            return $"ToString_{x}";
        }

        上述代码运行结果如下:

         可以看到,这个运行模式是保证顺序的(源数据是List)。

        一般来讲,我们为了避免锁、同步等额外处理,要么使用 PLINQ 这样的语法,要么使用并发集合。这样可以减少我们需要手动处理锁、同步等工作。

3、分叉/合并模式

        在分叉/合并(Fork/Join)模式中,工作被分叉(拆分)为一组可以异步执行的任务,然后根据并行化的要求和范围,以相同(或不同)的顺序合并分叉的任务。

        分叉/合并模式常见的一些实现如下:

  • Parallel.For

  • Parallel.ForEach

  • Paralle.Invoke

  • System.Threading.CountdownEvent

        利用这些同步框架开发人员能快速实现开发,而不必担心同步开销(系统已经内部处理同步了,实际上如如果额外开销不可接受,用这些 API 也没办法优化)。

        我们将之前的代码通过 分叉/合并模式 再改一版:

        private void RunForkJoin()
        {
            var L = Utils.GetOrderList(10);

            ConcurrentQueue<string> queue = new ConcurrentQueue<string>();

            Parallel.For(0, L.Count, x =>
            {
                var ret = IntToString(x);
                queue.Enqueue(ret);
            });

            while (queue.Count > 0)
            {
                string str;
                if (queue.TryDequeue(out str))
                    Debug.Log(str);
            }
        }

        这次我们看运行结果:

         很显然,已经乱序了,这种模式就没有按照原来数据顺序进行数据处理。这也是这个模式的特点之一,我们可以选择是否要按照顺序进行合并。

4、推测处理模式

        推测处理模式(Speculative Processing Pattern)是依赖高吞吐量以减少等待时间的另一种并行编程模式。

        推测处理模式(Speculative Processing Pattern):

        如果同时存在多种处理任务,但并不知道哪一种方式速度最快。因此第一个执行的完成的任务将被输出,其他任务处理结果将会忽略。

        以下是一种推测处理模式的常见写法:

        //选择一个最快执行方法的结果并返回
        public static TResut SpeculativeForEach<TSource, TResut>(TSource source, IEnumerable<Func<TSource, TResut>> funcs)
        {
            TResut result = default;

            Parallel.ForEach(funcs, (func, loopState) =>
            {
                result = func(source);
                loopState.Stop();
            });

            return result;
        }

        //返回特定方法的最快执行结果并返回
        public static TResut SpeculativeForEach<TSource, TResut>(IEnumerable<TSource> source, Func<TSource, TResut> func)
        {
            TResut result = default;

            Parallel.ForEach(source, (item, loopState) =>
            {
                result = func(item);
                loopState.Stop();
            });

            return result;
        }

        这种写法只会返回一个结果,首先完成的任务将被返回。但是其他任务仍然有可能执行完成,只是结果将不会被返回。

        这里我们选择方法一进行示例,调用代码如下:

        private void RunSpeculativeMethod_1()
        {
            Debug.Log($">===== RunSpeculativeMethod_1 开始 =====<");
            var L1 = new List<Func<int, string>>
            {
                IntToString,
                IntToString2
            };

            string result = SpeculativeForEach(4, L1);
            Debug.Log($"运行结果:{result}");
        }

        连续运行2次,其结果如下:

         第一次是使用了 IntToString2 的结果,而第二次使用的 IntToString 的结果。

5、延迟模式

        也就是在使用时才创建,也就是懒加载。这个在之前的章节中已经有详细介绍了,这里就不重复了。

        详见:使用延迟初始化提高性能

【C#】并行编程实战:使用延迟初始化提高性能_魔术师Dix的博客-CSDN博客在前面的章节中讨论了 C# 中线程安全并发集合,有助于提高代码性能、降低同步开销。本章将讨论更多有助于提高性能的概念,包括使用自定义实现的内置构造。本章主要内容为通过延迟初始化提高性能,相对比较简单。https://blog.csdn.net/cyf649669121/article/details/131780600

6、共享状态模式

        这个主要在 【C#】并行编程实战:同步原语(1)_魔术师Dix的博客-CSDN博客 中已经介绍过共享状态(Shared State Pattern)的实现(其实就是各种加锁,搞的好像很高级)。

        不过上锁不能上太多,不然性能很差;而且我们也应该尽可能实现无锁代码。


7、本章小结

        本章介绍了各种并行编程模式,其实就是各种模板的示例。当然,这里讲的不可能包罗所有,只是给大家提供一些参考。至此,多线程编程的学习告一段落,书上的内容已经讲完了。后续如果有补充会加到这个系列里。

        多线程的实践还是需要在项目中多多练习。

        本教程学习工程:魔术师Dix / HandsOnParallelProgramming · GitCode

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/796277.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

2023年大厂秋季校招整理

&#x1f430;首先声明这篇文章主要整理的是音视频领域的 下面这些是联想的校园招聘 视频编解码 所属部门&#xff1a;IDG 工作地点&#xff1a;北京 岗位职责 1.视频编解码的算法研究&#xff1b; 2.编解码系统的架构设计与实现&#xff1b; 3.视频编解码算法优化工作。 任…

ArrayList扩容原理,源码追踪(jdk8)

ArrayList 扩容原理 add方法&#xff08;扩容机制jdk8&#xff09; 写一个代码案例断点调试 package list;import java.util.ArrayList;/*** author 兰舟千帆* version 1.0* date 2023/7/26 19:08* Description 功能描述:案例断点查看ArrayList的源码(添加)*/ public class Ar…

西门子PLC仿真环境搭建及通信过程详解

随着工控及上位机的广泛应用&#xff0c;在学习过程中&#xff0c;很多时候&#xff0c;我们都需要软件和硬件的结合。本方案主要用于解决在学习过程中PLC硬件的需求&#xff0c;以西门子PLC为例&#xff0c;详细描述了基于TIA博途系列软件实现西门子PLC仿真环境的搭建过程&…

SpringBoot基础篇-在IDEA中隐藏文件或文件夹(超详细版)

正常创建一个SpringBoot项目有如下文件&#xff1a; 通常我们创建一个springboot项目时会自动生成一些暂时用不到的文件&#xff0c;稍许有些碍眼&#xff0c;对于喜爱项目结构整洁清晰的人更是十分别扭&#xff0c;但那些文件可能后面又会用到&#xff0c;所以这里给一个小技巧…

微信小程序 Page页面

新建页面只需要在app.json配置好路径&#xff0c;编译器自动新增了页面 项目首页&#xff0c;在app.json哪个页面是第一位&#xff0c;哪个页面就是小程序首页

C# OpenCvSharpe 二值化工具 阈值 自适应阈值 局部阈值 InRange

效果 阈值 自适应阈值 局部阈值 InRange 项目 VS2010.net4.0OpenCvSharper3 Demo下载

创建自己的docker python容器环境;支持新增python包并更新容器;离线打包、加载image

1、创建自己的docker python容器环境 参考&#xff1a;https://blog.csdn.net/weixin_42357472/article/details/118991485 首先写Dockfile&#xff0c;注意不要有txt等后缀 Dockfile # 使用 Python 3.9 镜像作为基础 FROM python:3.9# 设置工作目录 WORKDIR /app# 复制当前…

SAP创建会计凭证,用BAPI扩展字段方法:BAPI_ACC_DOCUMENT_POST

业务需求&#xff1a;和银行做一个接口&#xff0c;要通过银行流水产生会计凭证&#xff0c;会计凭证的事务码是F-02&#xff0c;查到了BAPI方法BAPI_ACC_DOCUMENT_POST。昨天测试发现&#xff0c;有一些参数在BAPI_ACC_DOCUMENT_POST的输入和表参数中根本没有&#xff0c;如记…

css实现步骤条中的横线

实现步骤中的横线&#xff0c;我们使用css中的after选择器&#xff0c;content写空&#xff0c;然后给这个范围设定一个绝对定位&#xff0c;相当于和它设置伪类选择的元素的位置&#xff0c;直接看代码&#xff1a; const commonStyle useMemo(() > ({fontSize: 30px}),[]…

【HCIA】14.WLAN基础与配置实现

WLAN的术语 基本服务集BSS 一个AP覆盖的范围在一个BSS相同的区域内&#xff0c;STA可以相互通信 基本服务集标识符BSSID 是无线网络的一个身份标识&#xff0c;用AP的MAC地址表示 服务集标识符SSID 无线网络的标识&#xff0c;用字符串表示 扩展服务集ESS 由多个使用相同的…

遥感数字图像处理实验教程(韦玉春)--部分实验问题回答

个人的学习思考&#xff0c;仅供参考。 目录 实验三、图像合成和显示增强 一、目的 二、要求 三、实验 实验五、图像变换 一、目的 二、要求 三、实验 实验六、图像滤波 一、目的 二、要求 三、实验 实验七、图像分割 一、目的 二、要求 三、实验 实验八、图…

【JavaScript】花点时间了解执行上下文

引言 当我们在浏览器中运行JavaScript代码时&#xff0c;浏览器会先创建一个全局执行上下文&#xff08;Global Execution Context&#xff09;&#xff0c;然后逐行解析和执行代码。 执行上下文是JavaScript中非常重要的概念&#xff0c;它决定了代码的执行顺序和作用域链等…

vue elemenet

日常开发当中&#xff0c;只使用vue是不够的&#xff0c;虽然提供给我们强大的功能&#xff0c;用的还是原生的html标签。 这可能就需要我们去关注前台美化展示的工作。 日常开发当中都是vue去配合前端的组件库&#xff0c;两个结合起来一起去开发。 知识点 Element Plus 介绍…

Qt应用开发(基础篇)——Button按钮

目录 一、前言 二&#xff1a;QAbstractButton 抽象按钮基类 三&#xff1a;QPushButton 普通按钮 四&#xff1a;QCommandLinkButton 链接按钮 五&#xff1a;QCheckBox 复选按钮 六&#xff1a;QRadioButton 单选按钮 七&#xff1a;QToolButton 工具按钮 一、前言 常…

一劳永逸的日报月报制作方法,还不快来get

许多政府机构、企业都会使用日报、月报来把握现有状况&#xff0c;比如说生产制造企业&#xff0c;需要通过日报来监控项目进度和生产数据。哪怕这些报表制作起来繁琐浪费、重复复杂&#xff0c;但是企业不得不通过日报对生产数据进行实时把控。 那么有没有一种办法或者工具&a…

Linux为何是软件开发专业人员的心头爱-Robotics Ubuntu

Linux与Windows都是十分常见的电脑操作系统&#xff0c;相信你对它们二者都有所了解&#xff01;在你的使用过程中&#xff0c;是否有什么事让你觉得在Linux上顺理成章&#xff0c;换到Windows上就令你费解&#xff1f;亦或者关于这二者你有任何想要分享的&#xff0c;都可以在…

幸福长寿的秘诀 —— 查理芒格

查理芒格&#xff1a;幸福长寿的秘诀其实很简单。_哔哩哔哩_bilibili People trying to figure out what the secret to life, is to a long and happy life ? Its simple. You dont have a lot of envy. You dont have a lot of resentment. You dont overspend your incom…

wms-3代货架标签系统(四个灯供电版本)接口文档

一、查询标签信息接口 接口类型&#xff1a;POST, 参数格式&#xff1a;json array 链接形式&#xff1a; http://localhost/wms/associate/getTagsMsg 代码形式&#xff1a; { url : http://localhost/wms/associate/getTagsMsg, requestMethed : GET, requestParamete…

Django模板语法和请求

1、在django关于模板文件加载顺序 创建的django项目下会有一个seeetings.py的文件 如果在seeetings.py 中加了 os.path.join(BASE_DIR,‘templates’)&#xff0c;如果是pycharm创建的django项目会加上&#xff0c;就会默认先去根目录找templates目录下的html文件&#xff0c…

CMIP6数据处理及在气候变化、水文、生态等领域中的实践技术应用

气候变化对农业、生态系统、社会经济以及人类的生存与发展具有深远影响&#xff0c;是当前全球关注的核心议题之一。IPCC&#xff08;Intergovernmental Panel on Climate Change&#xff0c;政府间气候变化专门委员会&#xff09;的第六次评估报告明确&#xff1b;指出&#x…