记一次Nginx调优经历

前言

最近工作中使用Nginx做Shadow的时候，遇到一个奇怪的问题；从Nginx转发流量，call到上游shadow model service的时候，发现shadow model的性能明显低于live model。主要表现就是P99 Latency明显高于Live Model。

架构图

这里首先流量在VS处有一层shadow，线上真实流量进入了Live Model。Shadow的流量进入了Nginx。由于要实现多个Shadow，所以在Nginx处再将流量转发给上游多个shadow model，并且做一些部分traffic的处理(比如shadow1只要30%的流量，shadow2要50%的流量)。
测试的时候都采用100%的流量，并且live model和shadow model使用的配置完全一样(包括image，CPU/MEM大小)。