转载请注明出处:小锋学长生活大爆炸[xfxuezhagn.cn]
如果本文帮助到了你,欢迎[点赞、收藏、关注]哦~
简单来说,核绑,或者叫亲和力,就是将某个GPU与指定CPU核心进行绑定,从而尽可能提高效率。
推荐与进程优先级一起用:
【教程】Linux设置进程的优先级-CSDN博客文章浏览阅读420次,点赞17次,收藏7次。对于时间敏感的任务调整进程优先级很有必要https://blog.csdn.net/sxf1061700625/article/details/139721354
可以看NVIDIA推荐GPU与哪些CPU绑定:
nvidia-smi topo -m
Python中的设置代码参考:
def set_cpu_affinity(rank, num_cores_per_gpu=4, start_core_index=0):
num_cores = psutil.cpu_count(logical=True)
core_ids = list(range(num_cores))
# 计算起始和结束核的索引
start_core = start_core_index + rank * num_cores_per_gpu
end_core = start_core + num_cores_per_gpu
# 获取要绑定的CPU核列表
cpu_affinity = core_ids[start_core:end_core]
# 设置当前进程的CPU核绑定
p = psutil.Process(os.getpid())
p.cpu_affinity(cpu_affinity)
print(f">> GPU {rank} is bound to CPU cores {cpu_affinity}")
用法示例:
set_cpu_affinity(rank)
效果演示:
htop