- 问题引出
假设某电商平台商品详情页需要实现 700 QPS（假设宽带是千兆宽带）
千M局域网宽带网卡速率按照1000进位，所以1Gbps=1,000,000,000bps=125,000,000Bps≈119.21MB/s
当达到500QPS 的时候很难继续压测上去。
假设每个页面主体渲染所需要的图片的占用150KB，那么500QPS，500 x 150 / 1000 = 75M/s，再加上各种网络请求和网络传输，几乎达到宽带的性能瓶颈，所以必须减少内网通信。
- 解决方案
缓存
缓存就是数据交换的缓冲区(称作:Cache),当用户要获取数据的时候，会先从缓存中去查询获取数据，如果缓存中有就会直接返回给用户，如果缓存中没有，则会发请求从服务器重新查询数据，将数据返回给用户的同时将数据放入缓存，下次用户就会直接从缓存中获取数据。
Nginx的web缓存服务
Nginx是从0.7.48版开始提供缓存功能。Nginx是基于Proxy Store来实现的，其原理是把URL及相关组合当做Key,在使用MD5算法对Key进行哈希，得到硬盘上对应的哈希目录路径，从而将缓存内容保存在该目录中。它可以支持任意URL连接，同时也支持404/301/302这样的非200状态码。Nginx即可以支持对指定URL或者状态码设置过期时间，也可以使用purge命令来手动清除指定URL的缓存。
Nginx缓存设置的相关指令
Nginx的web缓存服务主要是使用ngx_http_proxy_module模块相关指令集来完成。
proxy_cache_path
该指定用于设置缓存文件的存放路径
| 语法 | proxy_cache_path path [levels=number] keys_zone=_name_:_size_ [inactive=time][max_size=size]; |
|---|---|
| 默认值 | — |
| 位置 | http |
- path:缓存路径地址,如：
/home/nginx/proxy_cache
-
levels: 指定该缓存空间对应的目录，最多可以设置3层，每层取值为1|2
如 : levels=1:2 缓存空间有两层目录，第一层是1个字母，第二层是2个字母
举例说明:
song通过MD5加密以后的值为 683eb609607a439b0561dcbb4c8329e8
levels=1:2 最终的存储路径为/usr/local/proxy_cache/8/9e
levels=2:1:2 最终的存储路径为/usr/local/proxy_cache/e8/9/32
levels=2:2:2 最终的存储路径为??/usr/local/proxy_cache/e8/29/83
- keys_zone:用来为这个缓存区设置名称和指定大小，如：
keys_zone=song:200m 缓存区的名称是song,大小为200M，1M大概能存储8000个keys
inactive:指定缓存的数据多次时间未被访问就将被删除，如：
inactive=1d 缓存数据在1天内没有被访问就会被删除
max_size:设置最大缓存空间，如果缓存空间存满，默认会覆盖缓存时间最长的资源，如:
max_size=20g
- 案例
proxy_cache_path /home/nginx/proxy_cache levels=2:2:2 keys_zone=song:200m inactive=20m max_size=1k;
proxy_cache
用来开启或关闭代理缓存，如果是开启则自定使用哪个缓存区来进行缓存。
| 语法 | proxy_cache zone_name|off; |
|---|---|
| 默认值 | proxy_cache off; |
| 位置 | http、server、location |
zone_name：指定使用缓存区的名称
proxy_cache_key
用来设置web缓存的key值，Nginx会根据key值MD5哈希存缓存。
| 语法 | proxy_cache_key key; |
|---|---|
| 默认值 | proxy_cache_key s c h e m e scheme schemeproxy_host$request_uri; |
| 位置 | http、server、location |
proxy_cache_valid
用来对不同返回状态码的URL设置不同的缓存时间
| 语法 | proxy_cache_valid [code …] time; |
|---|---|
| 默认值 | — |
| 位置 | http、server、location |
如：proxy_cache_valid 200 302 10m;
proxy_cache_valid 404 1m;
为200和302的响应URL设置10分钟缓存，为404的响应URL设置1分钟缓存
proxy_cache_valid any 1m;
对所有响应状态码的URL都设置1分钟缓存
proxy_cache_min_uses
用来设置资源被访问多少次后被缓存
| 语法 | proxy_cache_min_uses number; |
|---|---|
| 默认值 | proxy_cache_min_uses 1; |
| 位置 | http、server、location |
proxy_cache_methods
用来设置缓存哪些HTTP方法
| 语法 | proxy_cache_methods GET|HEAD|POST; |
|---|---|
| 默认值 | proxy_cache_methods GET HEAD; |
| 位置 | http、server、location |
默认缓存HTTP的GET和HEAD方法，不缓存POST方法。
配置案例
Nginx代理tomcat访问静态资源，访问到的资源缓存到指定目录
http{
proxy_cache_path /home/nginx/proxy_cache levels=2:2:2 keys_zone=song:200m inactive=20m max_size=1k;
server {
listen 8079;
server_name localhost;
# 缓存配置
proxy_cache song;
proxy_cache_key song;
proxy_cache_min_uses 1;
proxy_cache_methods HEAD GET POST;
proxy_cache_valid 200 1d;
# 加一个头，方便在header中观察是否命中缓存
add_header Nginx-Cache "$upstream_cache_status";
# 反向代理配置
upstream tomcat{
server 192.168.28.177:8080;
}
location /proxy {
proxy_pass http://tomcat/js;
}
}
}
访问http://192.168.28.177:8079/proxy/user.js
观察/home/nginx/proxy_cache目录结构
- 命中缓存
缓存清除
删除对应的缓存目录
rm -rf /home/nginx/proxy_cache/...
使用第三方扩展模块
使用ngx_cache_purge删除Nginx缓存.
安装ngx_cache_purge模块
- 下载
wget http://labs.frickle.com/files/ngx_cache_purge-2.3.tar.gz
- 解压
tar -xvf ngx_cache_purge-2.3.tar.gz
- 安装
参考《Nginx基本概念》热部署
- 删除
Nginx设置资源不缓存
- 问题引出
不是所有的数据都适合进行缓存。对于一些经常发生变化的数据。如果进行缓存的话，就很容易出现访问到的数据不是服务器真实的数据。所以对于这些资源在缓存的过程中就需要进行过滤，不进行缓存。
proxy_no_cache
用来定义数据不缓存的条件。
| 语法 | proxy_no_cache string …; |
|---|---|
| 默认值 | — |
| 位置 | http、server、location |
- 配置实例
proxy_no_cache $cookie_nocache $arg_nocache $arg_comment;
proxy_cache_bypass
用来设置不从缓存中获取数据的条件。
| 语法 | proxy_cache_bypass string …; |
|---|---|
| 默认值 | — |
| 位置 | http、server、location |
- 配置实例
proxy_cache_bypass $cookie_nocache $arg_nocache $arg_comment;
上述两个指令都有一个指定的条件，这个条件可以是多个，并且多个条件中至少有一个不为空且不等于"0",则条件满足成立(或关系)。里面使用到了三个变量，分别是
c
o
o
k
i
e
n
o
c
a
c
h
e
、
cookie_nocache、
cookienocache、arg_nocache、$arg_comment
这三个参数分别代表的含义是
$cookie_nocache
当前请求的**cookie中键的名称**为nocache对应的值
a r g n o c a c h e 和 arg_nocache和 argnocache和arg_comment
当前请求的参数中**属性名****为nocache和comment对应的属性值**
- 案例
log_format params $cookie_nocache | $arg_nocache | $arg_comment；
server{
listen 8081;
server_name localhost;
location /{
access_log logs/access_params.log params;
# 设置cookie的nocache属性
add_header Set-Cookie 'nocache=999';
root html;
index index.html;
}
}
- 访问
http://192.168.28.177:8069/?nocache=111&comment=222
日志打印:999|111|222
- 访问
http://192.168.28.177:8069/?nocache=111
日志打印:999|111|-
- 访问
http://192.168.28.177:8069/
日志打印:999|-|-
案例实现
设置访问的文件是js，不缓存资源
server{
listen 8080;
server_name localhost;
location / {
if ($request_uri ~ /.*\.js$){
# 如果访问的文件是js,设置一个变量nocache
set $nocache 1;
}
proxy_no_cache $nocache $cookie_nocache $arg_nocache $arg_comment;
proxy_cache_bypass $nocache $cookie_nocache $arg_nocache $arg_comment;
}
}
