1. 计时

1.1 linux

#include <sys/time.h>

double cpuSecond() {
	struct timeval tp;
	gettimeofday(&tp, NULL);
	return ((double)tp.tv_sec + (double)tp.tv_usec*1e-6);
}

// 调用
double start = cpuSecond();
kernel_name << <grid, block >> > (argument list);
cudaDeviceSynchronize();  // 显示的使其同步。
double cost = cpuSecond() - start;

1.2 window下

#include <time.h>

// 调用
time_t begin, end;
time(&begin);
kernel_name << <grid, block >> > (argument list);
time(&end);
time_t elapsed = end - begin;
printf("Time measured: %ld seconds.\n", elapsed);

2. nvprof实用工具

nvprof是命令行分析工具，功能很多，可以帮助从应用程序的CPU和GPU活动情况中获取时间线信息，其包括内核执行、内存传输以及CUDA API的调用。具体可通过以下命令查看。

nvprof --help

 上面命令如果报错：由于找不到cupti64_2022.2.1.dll，无法继续执行代码。。。

原因：nvprof工具属于插件，其dll在目录： 

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\extras\CUPTI\lib64

 系统环境没有该目录，所以索引不到dll库。

解决办法：由于C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\bin在系统环境中，可以将cupti64_2022.2.1.dll拷贝到bin目录中.

nvprof ./sumArraysOnGpu-timer

（1）可以看到cudaMemcpy hostToDevice被运行了3次，平均用时17ms；

（2）核函数sumArraysOnGpu运行用时2.9ms，运行了1次。

 

待续。。。