0. 前言

按照国际惯例，首先声明：本文只是我自己学习的理解，虽然参考了他人的宝贵见解，但是内容可能存在不准确的地方。如果发现文中错误，希望批评指正，共同进步。

本文基于PyTorch通过tensor点积所需要的时间来对比GPU与CPU的计算速度，并介绍tensorboard的使用方法。

我在前面的科普文章——GPU如何成为AI的加速器GPU如何成为AI的加速器_使者大牙的博客-CSDN博客GPU如何成为AI的加速器 解释了GPU的多核心架构相比CPU更适合简单大量的计算，而深度学习计算的底层算法就是大量矩阵的点积和相加，本文将通过张量的点积运算来说明：与CPU相比，GPU有多“适合”深度学习算法。

加法相比于点积的计算量太小了，我感觉体现不出GPU的优势，所以没有用加法来对比两者的算力差距。

1. 准备工作

1.0 一台有Nvidia独立显卡的电脑

既然要使用GPU计算，一台有Nvidia独立显卡=支持CUDA的GPU的电脑就是必须的前置条件。如果不清楚CUDA、GPU和Nvidia关系的同学，可以再看下我的文章：GPU如何成为AI的加速器_使者大牙的博客-CSDN博客

1.1 PyTorch

在PyTorch的官网：Start Locally | PyTorch 选择合适的版本：

这里需要注意的是PyTorch的CUDA版本需要匹配电脑的GPU的CUDA版本，一般来说电脑>PyTorch的CUDA版本就没问题了。

例如我安装的PyTorch是CUDA 11.8版本，我的GPU驱动版本是12.2（查看路径：Nvidia控制面板>帮助>系统信息）。

1.2 Tensorboard

Tensorboard是TensorFlow官方提供的一个可视化工具，用于可视化训练过程中的模型图、训练误差、准确率、训练后的模型参数等，同时还提供了交互式的界面，让用户可以更加方便、直观地观察和分析模型。

这里需要注意的是Tensorboard虽然是由TensorFlow提供的，但是使用Tensorboard不需要安装TensorFlow！只要在虚拟环境下安装TensorboardX和Tensorboard即可，我使用的是Anaconda Prompt：

pip install tensorboardX
pip install tensorboard

其使用方法为：

from torch.utils.tensorboard import SummaryWriter


writer = SummaryWriter("../logs")  #这里有两个"."

writer.add_scalars(main_tag, tag_scalar_dict, global_step=None):

writer.close()

另外需要注意SummaryWriter后面的路径要有两个“.”，这是因为我的代码文件在D:\DL\CUDA_test二级文件夹下面，我们需要把生成的tensorboard的event文件放在D:\DL\logs下面，而不是D:\DL\CUDA_test\logs路径下。这样做的理由是避免tensorboard报“No scalar data was found”

这里使用的是.add_scalars()方法来绘制多条曲线，参数如下：

• main_tag：字符串类型，要绘制的曲线主标题，本实例为“GPU vs CPU”
• tag_scalar_dict：字典类型，要绘制多条曲线的因变量，本实例为GPU和CPU的计算时间

  {'GPU':CUDA,'CPU':CPU}

• global_step: 标量，要绘制多条曲线的因变量，本实例为张量的大小tensor_size

在event文件生成后再在PyCharm的终端输入 tensorboard --logdir=logs ，点击链接就可以在浏览器中查看生成的曲线了。

2. 对比GPU与CPU的计算速度

本文的实例问题非常简单：分别使用CPU和GPU对尺寸为[tensor_size, tensor_size]的2个张量进行点积运算，使用time库工具对计算过程进行计时，对比CPU和GPU所消耗的时间。张量的大小tensor_size取值从1到10000。

我使用的硬件信息如下：

CPU：AMD Ryzen 9 7940H

GPU：NVIDIA GeForce RTX 4060

CPU计算时间：

import torch
import time


def CPU_calc_time(tensor_size):
    a = torch.rand([tensor_size,tensor_size])
    b = torch.rand([tensor_size,tensor_size])
    start_time = time.time()
    torch.matmul(a,b)
    end_time = time.time()

    return end_time - start_time

GPU计算时间：

import torch
import time

def CUDA_calc_time(tensor_size):
    device = torch.device('cuda')

    a = torch.rand([tensor_size,tensor_size]).to(device)
    b = torch.rand([tensor_size,tensor_size]).to(device)
    start_time = time.time()
    torch.matmul(a,b).to(device)
    end_time = time.time()

    return end_time - start_time

3. 结果分析

最终生成的CPU和GPU计算张量点积的时间曲线如下：

从图中可以看出，随着张量尺寸的增大，CPU计算时间明显增加（0~11.3s），而GPU的计算时间基本不变（0.001s左右），张量尺寸越大GPU的计算优势就越明显。

4. 完整代码

import torch
import time
from torch.utils.tensorboard import SummaryWriter
from tqdm import tqdm

torch.manual_seed(1)

def CPU_calc_time(tensor_size):
    a = torch.rand([tensor_size,tensor_size])
    b = torch.rand([tensor_size,tensor_size])
    start_time = time.time()
    torch.matmul(a,b)
    end_time = time.time()

    return end_time - start_time

def CUDA_calc_time(tensor_size):
    device = torch.device('cuda')

    a = torch.rand([tensor_size,tensor_size]).to(device)
    b = torch.rand([tensor_size,tensor_size]).to(device)
    start_time = time.time()
    torch.matmul(a,b).to(device)
    end_time = time.time()

    return end_time - start_time


if __name__ == "__main__":

    writer = SummaryWriter("../logs")

    for tensor_size in tqdm(range(1,10000,50)):

        CPU = CPU_calc_time(tensor_size)
        CUDA = CUDA_calc_time(tensor_size)
        writer.add_scalars('GPU vs CPU',{'GPU':CUDA,'CPU':CPU},tensor_size)

    writer.close()

# Command Prompt   "tensorboard --logdir=logs"