LINUX 入门 4

news2025/1/12 16:00:01

LINUX 入门 4

day6 7 20240429 20240504 耗时：240min

课程链接地址

第4章 LINUX环境编程——实现线程池

C基础

  1. 第3节

    1. #define里面的行不能乱空行，要换行就打\

    2. typedef 是 C 和 C++ 中的一个关键字，用于为已有的数据类型定义一个新的名字。通过 typedef 可以为数据类型起一个更直观或者更易于理解的名字，也可以用来简化复杂的数据类型声明。例如：

      unsigned long long int ULLONG; // 为 unsigned long long int 定义了一个新名字 ULLONG

    3. static void *nThreadPoolCallback(void *arg){ }

      将 nThreadPoolCallback 函数声明为 static 可能是为了将其作用域限制在当前文件内部，避免其它文件中的函数同名冲突,而不是全局作用域的函数。这样做有助于提高代码的可维护性和可读性，因为这个函数只能在当前文件内部被访问和调用，不会被其它文件意外地使用或修改。

  2. 第5节

     struct nWorker *worker = (struct nWorker*) arg;

    这行代码创建了一个指向 struct nWorker 结构的指针 worker，并将其初始化为 (struct nWorker*) arg。通常这样的语句在多线程编程中会被用到，其中 arg 是传递给线程的参数，这里将其转换为 struct nWorker* 类型的指针以便在线程中使用。

  3. 第6节

    pthread_cond_signal 和 pthread_cond_broadcast 是 POSIX 线程库中用于线程同步的函数，通常与条件变量（condition variable）一起使用。

    1. pthread_cond_signal 函数用于唤醒一个正在等待条件变量的线程。如果有多个线程正在等待条件变量，那么只会唤醒其中的一个。通常情况下，这是因为某个线程执行了某些操作，使得条件变量的条件满足，因此需要通知等待该条件变量的线程继续执行。
    2. pthread_cond_broadcast 函数用于唤醒所有正在等待条件变量的线程。这个函数会同时唤醒所有等待该条件变量的线程，而不是像 pthread_cond_signal 那样只唤醒其中的一个。通常情况下，这是在某个线程执行了某些操作，使得多个线程都能继续执行时使用。

    这两个函数通常与互斥锁（mutex）一起使用，以实现线程之间的同步。当某个线程需要等待某个条件满足时，它会先释放互斥锁并等待条件变量，而其他线程则可能在条件不满足时进入等待状态。当条件满足时，某个线程会调用 pthread_cond_signal 或 pthread_cond_broadcast 来唤醒等待的线程，让它们继续执行。

1 线程池的使用场景与原理分析

  1. 使用场景：

    1. 百万级的client，server多线程 开线程来同时处理不同client发来的message

      在这里插入图片描述

      but开不了那么多thread，linux下一个posix线程占8M

      1G=1024M开128个最多

      16G内存最多开128*16=2048个thread

    2. 日志文件

      1. disk磁盘操作比memory操作慢不是一个数量级，日志存储到磁盘的文件里，刷新到disk

        处理IO读写，准备好写log里的文字是memory操作，

        log存到文件是disk操作，会引起thread挂起，等IO就绪。 写log任务放到线程池里

  2. 线程池好处

    1. 避免线程太多，内存memory耗尽

    2. 避免反复重复创建和销毁thread， 创建完就放池子，用完还回去

    3. 任务与执行分离（日志写和存储，写内容生成和存到文件）

      例子：银行营业厅，办业务的是任务， 柜员是执行

      在这里插入图片描述

  3. def：

    线程池=

    1. 任务队列
    2. 执行队列
    3. 管理组件 mutex或spinlock加锁 调节任务和执行

2 线程池的结构体定义 threadpool

线程池sdk组件封装software Development Kit

  1. 任务队列：

    任务组成，先定义任务task struct

    再任务队列：链表串起tasks 双向链表

    //1.定义task
struct nTask{
    void(*task_func)(struct nTask *task);//一个函数指针，指向一个接受 struct nTask* 参数并且没有返回值的函数。这个指针用于表示任务的执行函数。
    void *user data;//一个指向 void 类型的指针，用于存储任务函数可能需要的额外数据或参数。

    struct nTask *prev;
    struct nTask *next;
}; // 双向链表

3 线程池的架构分析与实现

1 最底层：系统层，支持层——实现数据结构+宏定义的基本操作

任务队列，执行队列，管理组件

链表（struct）操作：直接用通讯录那一张的宏定义

#define LIST_INSERT(item, list)do{\
    item->prev = NULL;\
    item->next = list;\
    if((list)!= NULL) (list)->prev = item;\
    (list) = item;    \
} while(0)
//二级指针，list要括号(*ppeople)


    
#define LIST_REMOVE(item, list) do {	\
        if (item->prev != NULL) item->prev->next = item->next; \
        if (item->next != NULL) item->next->prev = item->prev; \
        if (list == item) list = item->next;                    \
        item->prev = item->next = NULL;                         \
} while(0)

//1.定义task
struct nTask{
    void(*task_func)(struct nTask *task);
    void *user data;

    struct nTask *prev;
    struct nTask *next;
};

//2.执行
struct nWorker{
    pthread_t threadid;


    struct nWorker *prev;
    struct nWorker *next;
};

//3管理组件 连接worker和task
struct nManager{
    struct nTask *tasks;  //任务队列
    struct nWorker *workers; //执行队列

    pthread_mutex_t mutex; //加互斥锁
    pthread_cond_t cond; //加条件变量，等待满足条件不锁了
};

2 接口层 ，在支持层上包一层

这里管理组件nManager就是threadpool，这里对类型起别名用typedef

4个：创建、销毁、加任务、线程涉及的回调函数

typedef struct nManager{
    struct nTask *tasks;  //任务队列
    struct nWorker *workers; //执行队列

    pthread_mutex_t mutex; //加互斥锁
    pthread_cond_t cond; //加条件变量，等待满足条件不锁了
}ThreadPool;


static void *nThreadPoolCallback(void *arg){
    
}

int nThreadPoolCreate(ThreadPool*pool, int nworker){
    
}

int nThreadPoolDestroy(ThreadPool*pool, int nworker){
    
}

int nThreadPoolPushTask(ThreadPool*pool, struct nTask *task){
    
}

4 线程池初始化实现

多用才能对接口熟悉

函数—— 参数，函数体，返回值

  1. 最终function做成sdk，所以做成API接口给其他人调就行
  2. 初始化struct内四个，除了task
  3. 堆上malloc出来的动态数据，要memset置零，防止内容不确定野指针了
  4. 业务功能（callback）一样，但是实际task任务不同，相当于task是callback的具体实现
// API
int nThreadPoolCreate(ThreadPool*pool, int numWorker){
    if(pool == NULL) return -1;
    if(numWorker < 1) numWorker = 1; //运行线程没有，那就默认1个

    // 2 对struct里4个初始化，task外界扔进来不用
    pthread_cond_t blank_cond = PHTREAD_COND_INITIALIZER; //定义空白锁的条件变量
    memcpy(&pool->cond, &blank_cond,sizeof(pthread_cond_t));//blank_cond 中的 pthread_cond_t 结构体的内容复制到 pool->cond 中。

    pthread_mutex_init(&pool->mutex,NULL);

    int i = 0;
    for(int i =0; i < numWorker; i++){
        struct nWorker *worker = malloc(sizeof(struct nWorker));
        //创建失败
        if(worker ==NULL){
            perror("malloc");
            return -2;
        }
        memset(worker, 0,sizeof(struct worker));
        worker->manager = pool;

        //创建线程
        int ret = pthread_create(worker->threadid, NULL, nThreadPoolCallback, worker); //创建成功返回0，失败1
        if(ret){
            perror("pthread_create");
            free(worker);
            return -3;
        }
        LIST_INSERT(worker, pool->worker);
            
    }
    return 0; //创建成功， callback是业务功能，一样，但是不等同于task任务，但是执行的任务不同
    
}

5 线程池的线程回调函数实现

核心：三件事

判任务队列里有任务

没就等

有就拿出执行，取用户数据

// API
// callback!=task
static void *nThreadPoolCallback(void *arg){
    struct nWorker *worker = (struct nWorker*) arg;
    while(1){
        pthread_mutex_lock(worker->manager->mutex); //对任务加一把锁
        
        while(worker->manager->tasks == NULL){//判有任务，没就等，有就拿出执行，取用户数据
            pthread_cond_wait(&worker->manager->cond, &worker->manager->mutex);
            
        }
        struct nTask *task = worker->manager->tasks;
        LIST_REMOVE(task, worker->manager->tasks); //把任务队列tasks的首节点task执行完了，移出来
        
        pthread_mutex_unlock(worker->manager->mutex);

        task->task_func(task->user_data);
    }
    free(worker);// but没有退出的break的地方，struct nWorker里引入终止标识    
}

问题：but没有退出的break的地方，struct nWorker里引入终止标识

//2.执行
struct nWorker{
    pthread_t threadid;
    int terminate;
    
    struct nManager *manager; //worker需要有manager联系方式


    struct nWorker *prev;
    struct nWorker *next;
};

同时

static void *nThreadPoolCallback(void *arg){
    struct nWorker *worker = (struct nWorker*) arg;
    while(1){
        pthread_mutex_lock(worker->manager->mutex); //对任务加一把锁
        
        while(worker->manager->tasks == NULL){//判有任务，没就等，有就拿出执行，取用户数据
            if(worker->terminate) break; //是1就是终止
            pthread_cond_wait(&worker->manager->cond, &worker->manager->mutex);
            
        }

        if(worker->terminate){
            // 退出最外层while，先解锁，不然可能死锁了
            pthread_mutex_unlock(worker->manager->mutex); 
            break; 
        }
        struct nTask *task = worker->manager->tasks;
        LIST_REMOVE(task, worker->manager->tasks); //把任务队列tasks的首节点task执行完了，移出来
        
        pthread_mutex_unlock(worker->manager->mutex);

        task->task_func(task->user_data);
    }
    free(worker);// but没有退出的break的地方，struct nWorker里引入终止标识    
}

6 线程池的任务添加与线程池销毁

terminate置1就退出来了

int nThreadPoolDestroy(ThreadPool*pool, int nworker){
    struct nWorker *worker = NULL;

    for(worker = pool->workers; worker != NULL; worker = worker->next){
        worker->terminate;//都置1
    }

    //信号什么时候往下走，广播使所有条件满足让信号往下走
    pthread_mutex_lock(&pool->mutex);
    pthread_cond_broadcast(&pool->cond);// 唤醒所有广播和等待用的同一把锁，不会有死锁，什么东西没听懂
    pthread_mutex_unlock(&pool->mutex);

    pool->workers= NULL;
    pool->tasks = NULL;
    return 0;
}

任务添加

int nThreadPoolPushTask(ThreadPool*pool, struct nTask *task){
    //通知thread有task来了
    pthread_mutex_lock(&pool->mutex);
    LIST_INSERT(task, pool->tasks);

    //通知条件变量可满足，唤醒一个thread
    pthread_cond_signal(&pool->cond);
    
    pthread_mutex_unlock(&pool->mutex);
    
}

7 线程池代码gdb调试与bug修改

gcc -o threadpool threadpool.c -lpthread

一堆错 有问题， 视频里面没有写main后面的函数！！ 根本看不懂了，这里后面没法调



//
// sdk --> debug thread pool

#if 1

#define THREADPOOL_INIT_COUNT	20
#define TASK_INIT_SIZE			1000


void task_entry(struct nTask *task) { //type 

	//struct nTask *task = (struct nTask*)task;
	int idx = *(int *)task->user_data;

	printf("idx: %d\n", idx);

	free(task->user_data);
	free(task);
}


int main(void) {

	ThreadPool pool = {0};
	
	nThreadPoolCreate(&pool, THREADPOOL_INIT_COUNT);
	// pool --> memset();
	
	int i = 0;
	for (i = 0;i < TASK_INIT_SIZE;i ++) {
		struct nTask *task = (struct nTask *)malloc(sizeof(struct nTask));
		if (task == NULL) {
			perror("malloc");
			exit(1);
		}
		memset(task, 0, sizeof(struct nTask));

		task->task_func = task_entry;
		task->user_data = malloc(sizeof(int));
		*(int*)task->user_data  = i;

		
		nThreadPoolPushTask(&pool, task);
	}

	getchar();
	
}


#endif

gdb调试，适合小工程

gcc -o threadpool threadpool.c -lpthread -g
gdb ./threadpool

打断点：

  1. 在判断的地方加breakpoint，比如while if

    有可能出现空指针

    b 行数
b 64 (while判断)
b 76 (list remove)
b 115 (list insert)
r（就是run）
c(continue) 没有出现视频里的问题

    nThreadPoolCreate里少 memset(pool, 0, sizeof(ThreadPool));

     b 80 (task->task_func)
 b 201(pushtask)
 r
 c
 c

    报错了 并没有解决了，还是segmentation fault

    Thread 3 "threadpool" received signal SIGSEGV, Segmentation fault.
[Switching to Thread 0x7ffff6fee700 (LWP 12096)]
0x0000000000400f08 in task_entry (task=0x604a80) at threadpool.c:170
170		int idx = *(int *)task->user_data;

    太丑了，放弃了，sourceinsight长得太丑了，还卡的一批，用vscode连虚拟机ok了

    这节课基本没听懂！！！云里雾里乱起八糟的

    最后调出来了是这个问题

    nThreadPoolCallback(void *arg)里面的task->task_func(task->user_data);改成 task->task_func(task);

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1654346.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

全面的Partisia Blockchain 生态 4 月市场进展解读

全面的Partisia Blockchain 生态 4 月市场进展解读

Partisia Blockchain 是一个以高迸发、隐私、高度可互操作性、可拓展为特性的 Layer1 网络。通过将 MPC 技术方案引入到区块链系统中&#xff0c;以零知识证明&#xff08;ZK&#xff09;技术和多方计算&#xff08;MPC&#xff09;为基础&#xff0c;共同保障在不影响网络完整…
阅读更多...
Postgresql源码（128）深入分析JIT中的函数内联llvm_inline

Postgresql源码（128）深入分析JIT中的函数内联llvm_inline

相关 《Postgresql源码&#xff08;127&#xff09;投影ExecProject的表达式执行分析》 《LLVM的ThinLTO编译优化技术在Postgresql中的应用》 《LLVM&#xff08;5&#xff09;ORC实例分析》 1 JIT优化效果 create table t1(i int primary key, j int, k int); insert into t1…
阅读更多...
鸿蒙内核源码分析(编译环境篇) | 编译鸿蒙防掉坑指南

鸿蒙内核源码分析(编译环境篇) | 编译鸿蒙防掉坑指南

几点说明 kernel_liteos_a_note | 中文注解鸿蒙内核 是在 OpenHarmony 的 kernel_liteos_a 基础上给内核源码加上中文注解的版本.与官方源码按月保持同步,同步历史如下: 2021/10/09 – 增加性能优化模块perf,优化了文件映射模块2021/09/14 – common,extended等几个目录结构和M…
阅读更多...
iOS ------ 内存五大分区

iOS ------ 内存五大分区

1&#xff0c;内存的概念&#xff1a; 虚拟内存&#xff08;Virtual Memory&#xff09;&#xff1a;虚拟内存是操作系统提供的一种机制&#xff0c;它使得应用程序能够访问超出物理内存限制的内存空间。虚拟内存将应用程序的内存地址空间分割成固定大小的页面&#xff08;Pag…
阅读更多...
linux上如何排查JVM内存过高？

linux上如何排查JVM内存过高？

怎么排查JVM内存过高&#xff1f; 前言&#xff1a; 想必工作一两年以后的同学都会逐渐面临到&#xff0c;jvm等问题&#xff0c;但是可能苦于无法熟练的使用一些工具&#xff1b;本文将介绍几个比较常用分析工具的使用方法&#xff0c;带着大家一步步定位分析问题。 1、top 查…
阅读更多...
TSINGSEE青犀视频边缘计算AI智能分析网关V4告警消息语音推送的配置流程

TSINGSEE青犀视频边缘计算AI智能分析网关V4告警消息语音推送的配置流程

TSINGSEE青犀视频边缘计算硬件智能分析网关V4内置了近40种AI算法模型&#xff0c;支持对接入的视频图像进行人、车、物、行为等实时检测分析&#xff0c;上报识别结果&#xff0c;并能进行语音告警播放。今天我们来分享一下如何配置和使用AI智能分析网关V4的语音推送。 提前准备…
阅读更多...
【Trick】conda安装python依赖时出现429 Client Error

【Trick】conda安装python依赖时出现429 Client Error

起因 我在根据yml文件安装依赖和创建虚拟环境时&#xff0c;出现报错&#xff0c;主要报错信息为以下两点&#xff1a; 【1】Collecting package metadata (repodata.json): failed 【2】requests.exceptions.HTTPError: 429 Client Error: Too Many Requests for url: https…
阅读更多...
链表的阶乘

链表的阶乘

int FactorialSum(List L) {int res 0; // 结果初始化struct Node* x L; // 从链表的头节点开始// 遍历链表中的每一个节点while (x ! NULL) {int data x->Data; // 当前节点的值int y 1; // 用于计算当前节点值的阶乘// 计算当前节点值的阶乘for (int j 1; j < dat…
阅读更多...
【3dmax笔记】035： 车削修改器

【3dmax笔记】035： 车削修改器

一、车削修改器介绍 车削&#xff1a;图形通过绕轴旋转来创建三维效果。 开放的样条线&#xff0c;车削之后是面片。闭合的样条线&#xff0c;车削之后&#xff0c;是实体。 一、车削修改器实例 绘制高脚杯&#xff0c;首先在前视图绘制如下二维图形。 添加一个车削的修改器…
阅读更多...
【计算机科学速成课】笔记一

【计算机科学速成课】笔记一

文章目录 写在前面1.计算机的早期历史2.电子计算机3.布尔运算和逻辑门4.二进制5.算术逻辑单元-ALU6.寄存器和内存 写在前面 所有的一切源于这样一个网站——CS自学指南。 这是新手小白入门计算机科学必要了解的知识——【计算机科学速成课】[40集全/精校] - Crash Course Comp…
阅读更多...
双向BFS算法学习

双向BFS算法学习

双向BFS算法学习 推荐练习题 力扣“127”题&#xff1a;单词接龙 “752”题&#xff1a;打开轮盘锁 这里推荐一篇力扣题解 双向BFS 这里使用打开轮盘锁的题干进行举例&#xff1a; 你有一个带有四个圆形拨轮的转盘锁。每个拨轮都有10个数字&#xff1a; ‘0’, ‘1’, ‘2’,…
阅读更多...
基于Nios-II的流水灯

基于Nios-II的流水灯

基于Nios-II的流水灯 一、Qsys设计&#xff08;一&#xff09;新建项目&#xff08;二&#xff09;Platfrom Designer&#xff08;三&#xff09;设置时钟主频&#xff08;四&#xff09;添加Nios-II Processor并设置&#xff08;五&#xff09;添加JTAG并配置&#xff08;六&a…
阅读更多...
2024年第七届人工智能和模式识别国际会议（AIPR 2024)即将召开！

2024年第七届人工智能和模式识别国际会议（AIPR 2024)即将召开！

2024年第七届人工智能和模式识别国际会议&#xff08;AIPR 2024)将于2024年9月20-22日在福建厦门市的华侨大学举行。探索AI边界&#xff0c;解锁识别新境界&#xff01;AIPR 2024旨在促进模式识别与机器学习, 计算机视觉与机器人视觉, 图像、语音、信号和视频处理等领域尖端成果…
阅读更多...
ComfyUI中图像亮度/对比度/饱和度处理

ComfyUI中图像亮度/对比度/饱和度处理

用上面这个节点可以同时设置图片的亮度、对比度和饱和度。 【保姆级教程】一口气分享在ComfyUI中常用的30多种基本图像处理方式 更多好玩且实用AIGC工作流和节点 星球号&#xff1a;32767063 本期资料链接 往期学习资料 整理AI学习资料库
阅读更多...
RabbitMQ的五种模式

RabbitMQ的五种模式

一、简单模式 简单模式&#xff08;Simple&#xff09;&#xff1a;一个生产者&#xff0c;一个消费者 package com.qiangesoft.rabbitmq.mode.simple;import lombok.extern.slf4j.Slf4j; import org.springframework.amqp.rabbit.annotation.Queue; import org.springframe…
阅读更多...
英语学习笔记4——Is this your ...?

英语学习笔记4——Is this your ...?

Is this your …? 词汇 Vocabulary suit /sut/ n. 西装&#xff0c;正装 suit 的配套&#xff1a; shirt n. 衬衫tie n. 领带&#xff0c;领结belt n. 腰带trousers n. 裤子shoes n. 鞋子 school /skuːl/ n. 学校 所有学校 搭配&#xff1a;middle school 初中 　　　hig…
阅读更多...
分布式与一致性协议之ZAB协议(八)

分布式与一致性协议之ZAB协议(八)

ZAB协议 如何实现读操作 相比写操作&#xff0c;读操作的处理要简单很多&#xff0c;因为接收到度请求的节点只需要查询本地数据&#xff0c;然后响应数据给客户端就可以了。读操作的核心流程如图所示。 1.跟随者在FollowerRequestProcessor.processRequest()中接收到度请求…
阅读更多...
JavaScript异步编程——04-同源和跨域

JavaScript异步编程——04-同源和跨域

同源和跨域 同源 同源策略是浏览器的一种安全策略&#xff0c;所谓同源是指&#xff0c;域名&#xff0c;协议&#xff0c;端口完全相同。 跨域问题的解决方案 从我自己的网站访问别人网站的内容&#xff0c;就叫跨域。 出于安全性考虑&#xff0c;浏览器不允许ajax跨域获取…
阅读更多...
mac监听 linux服务器性能可视化（Grafana+Promethus+Node_exporter）

mac监听 linux服务器性能可视化（Grafana+Promethus+Node_exporter）

Grafana和promethus(普罗米修斯)的安装和使用 监控系统的Prometheus类似于一个注册中心&#xff0c;我们可以只需要配置一个Prometheus,而在其他服务器&#xff0c;只需要安装node_exporter,它们的数据流转就是通过exporter采集数据信息&#xff0c;然后告诉prometheus它的位置…
阅读更多...
redis分片java实践、redis哨兵机制实现、redis集群搭建

redis分片java实践、redis哨兵机制实现、redis集群搭建

redis分片java实践 linux安装redishttps://mp.csdn.net/mp_blog/creation/editor/134864302复制redis.conf配置文件成redis1.conf、redis2.conf、redis3.conf 修改redis的端口信息和存pid文件的路径。存pid文件的路径只要不同就行了&#xff0c;没什么特别要求。 指定配置文件…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023