〇、ncnn源码阅读的方法和参考教程
目前我的工作涉及推理框架较多，所以就想阅读一些他人的开源框架，来提升自己在语言层面和框架层面的认知。这个过程中发现了一些比较好的教程，我的阅读ncnn源码之旅将参考 嘻嘻嘻大佬。
一、从下载代码开始
根据大佬的建议，阅读较早的版本有利于对框架整体流程的把握和认识，之前也看侯捷讲STL，使用较老的版本，可以避免很多新特性的迷惑。基于此，我还是很认可这个观点的。
代码下载
二、从demo顺藤摸瓜
在下载好的代码中，可以看到一个examples的文件夹，在文件夹下实现了一个使用squeezenet的范例，通过这个范例，可以一点点的顺藤摸瓜，理清ncnn的内部实现方法。
1、主函数
程序的入口在main,所以从main函数开始
int main(int argc, char** argv)
{
const char* imagepath = argv[1];
cv::Mat m = cv::imread(imagepath, CV_LOAD_IMAGE_COLOR);
if (m.empty())
{
fprintf(stderr, "cv::imread %s failed\n", imagepath);
return -1;
}
std::vector<float> cls_scores;
detect_squeezenet(m, cls_scores);
print_topk(cls_scores, 3);
return 0;
}
上述main中的代码，除去数据读取和结果打印，最核心的是detect_squeezenet函数。
2、核心功能函数
static int detect_squeezenet(const cv::Mat& bgr, std::vector<float>& cls_scores)
{
ncnn::Net squeezenet;
squeezenet.load_param("squeezenet_v1.1.param");
squeezenet.load_model("squeezenet_v1.1.bin");
ncnn::Mat in = ncnn::Mat::from_pixels_resize(bgr.data, ncnn::Mat::PIXEL_BGR, bgr.cols, bgr.rows, 227, 227);
const float mean_vals[3] = {104.f, 117.f, 123.f};
in.substract_mean_normalize(mean_vals, 0);
ncnn::Extractor ex = squeezenet.create_extractor();
ex.set_light_mode(true);
ex.input("data", in);
ncnn::Mat out;
ex.extract("prob", out);
cls_scores.resize(out.c);
for (int j=0; j<out.c; j++)
{
const float* prob = out.data + out.cstep * j;
cls_scores[j] = prob[0];
}
return 0;
}
详细功能目前不清楚，但可以大致分为以下几块：
前三行主要完成对模型和权重的加载；
紧接着三行完成对输入数据的前处理；
后面是执行推理，拿到模型输出；
最后对模型输出进行解析；
