Nginx常见的几种回源方式实现

简介

为了解决办公网软件版本更新，导致办公网公网带宽紧张。通过Nginx回源文件至本地机房，域名解析采用内外网单独解析，外地办公同事可以通过CDN进行更新，公司办公网同事通过内网DNS解析获取本地资源更新。

如果不是办公网公网带宽紧张，又没有类似SCCM管理工具，是很少用到nginx来解决办公网软件更新的问题，有点偏冷门。作为运维向来是遇到问题横刀策马，果断解决各种疑难杂症。

nginx常见的回源方式nginx proxy_store或proxy_cache模块

nginx中的proxy_store模块和proxy_cache模块是两种不同的回源方式，它们各自有优缺点，适用于不同的场景。以下是对这两种方式的简要说明：

proxy_store模块：

优点：

灵活性：proxy_store模块允许你根据需要保存特定的响应内容，你可以选择性地将某些响应存储到指定的路径。定制性：可以按照自己的规则和需求来配置存储的位置和文件名，从而实现更高度的定制。

缺点：

不适合大规模缓存：proxy_store主要用于在本地磁盘上存储响应内容，不适合大规模缓存，因为它可能导致本地磁盘空间迅速耗尽。性能：当需要频繁地读取和写入磁盘时，可能对性能产生影响。

proxy_cache模块：

优点：

性能：proxy_cache通过使用内存缓存，可以显著提高性能，因为内存的读写速度远远快于磁盘。

自动过期：支持设置缓存的过期时间，避免缓存内容过时。

缓存共享：如果有多个Nginx服务器，proxy_cache模块还支持缓存的共享，可以在多个服务器之间共享缓存。

缺点：

占用内存：由于缓存在内存中，可能导致占用较大的内存空间，尤其在大规模缓存的情况下。

配置复杂性：对于一些特定的配置，可能需要更多的配置工作，相对于proxy_store而言，可能配置较为复杂。

选择建议：

小规模场景：如果你的应用是小规模的，并且对性能要求不是非常高，可以考虑使用proxy_store模块，因为它相对简单，且灵活性较高。

大规模场景：如果你的应用需要高性能和大规模缓存，proxy_cache模块是更好的选择，因为它在内存中管理缓存，提高了读取速度，并且支持更多的高级缓存控制选项。

最终选择取决于你的具体需求和应用场景。

proxy_store方式实现回源

以下是nginx回源配置

server { listen 80; server_name 内网访问域名; location / { expires -1; proxy_set_header Accept-Encoding ; root /data/www; proxy_store on; proxy_store_access user:rw group:rw all:rw; proxy_temp_path /data/tmp; if ( !-e $request_filename) { proxy_pass 云对象存储地址; } } error_page 500 502 503 504 /50x.html; location = /50x.html { root html; } location /ngx_stat { stub_status on; access_log off; } }

为什么使用对象存储地址而不是CDN地址，是由于上传至对象存储的文件还不能及时同步到各个CDN节点，导致CDN上有很多请求报错日志

proxy_cache方式实现回源

以下是nginx回源配置，重点关注proxy_cache配置

vim nginx.conf #定义nginx运行的用户和用户组 user app; #启动进程，通常设置成和CPU的数量相等 worker_processes auto; #改指令是当义工nginx进程打开的最多文件描述符数目，理论值应该是最多打开文件数(ulimit -n) #与nginx进程数相除，但是nginx分配请求并不是那么均匀，所以最好与ulimit -n的值保持一致 worker_rlimit_nofile 65535; events { #单个后台worker process进程的最大并发连接数(最大连接数=连接数*进程数) worker_connections 16383; } http { include mime.types; default_type application/octet-stream; #访问日志格式,其中X-B3-TraceId参数是链路跟踪参数 log_format json {“@timestamp”:”$time_iso8601″, “host”:”$server_addr”, “clientip”:”$remote_addr”, “size”:$body_bytes_sent, “responsetime”:$request_time, “upstreamtime”:”$upstream_response_time”, “upstreamhost”:”$upstream_addr”, “http_host”:”$host”, “url”:”$uri”, “xff”:”$http_x_forwarded_for”, “referer”:”$http_referer”, “agent”:”$http_user_agent”, “X-B3-TraceId”:”$http_X_B3_TraceId”, “Content-Length”:”$http_Content_Length”, “appkey”:”$http_appkey”, “method”:”$http_method”, “status”:”$status”, “ups_status”:$upstream_status}; #全局访问日志，采用json日志格式 access_log /data/logs/nginx/access.log json; #全局错误日志 #错误日志定义等级,默认error级别,[ debug | info | notice | warn | error | crit ] error_log /data/logs/nginx/error.log; #sendfile指令制定nginx是否调用sendfile函数(zero copy方式)来输出文件 #对于普通应用必须设为on #如果用来进行下载等应用磁盘I/O重负载应用，可设置为off，以平衡磁盘与网络I/O处理速度 #降低系统的uptime sendfile on; #防止网络阻塞 tcp_nopush on; #提高数据的实时响应性 tcp_nodelay on; #隐藏nginx版本号 server_tokens off; #keepalive超时时间，客户端到服务器端的连接持续有效时间，当出现对服务器的后端请求时， #keepalive-timeout功能可避免建立或重新建立连接 keepalive_timeout 65; #定义读取客户端请求标头的超时。如果客户端在此时间内未传输整个标头， #则请求将以408(请求超时)错误终止 client_header_timeout 15; #定义读取客户端请求正文的超时。如果客户端在此时间内未传输任何内容， #则请求会因408(请求超时)错误终止 client_body_timeout 15; #后端服务器数据回传时间(代理发送超时) send_timeout 25; client_header_buffer_size 4096K; #允许客户端请求的最大单文件字节数 client_max_body_size 10m; proxy_cache_path /data/nginx/proxy_cache/cache levels=1:2 keys_zone=downloadcache:600m max_size=400g inactive=48h use_temp_path=on; proxy_temp_path /data/nginx/proxy_cache/temp; proxy_cache_key $host$request_uri; #开启gzip压缩 #gzip on; #gzip_min_length 1k; #gzip_buffers 4 16k; #压缩级别大小，最大为9，值越小，压缩后比例越小，CPU处理更快，值越大，消耗CPU比较高 #gzip_comp_level 2; #gzip_types text/plain application/javascript text/css application/xml text/javascript application/json; #gzip_vary off; include /usr/local/nginx/conf/vhost/*.conf; } #虚拟主机配置文件 vim default.conf server { listen 443 ssl; server_name 域名; ssl_certificate /usr/local/nginx/conf/ssl/域名.crt; ssl_certificate_key /usr/local/nginx/conf/ssl/域名.key; location / { proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_set_header X-Real-IP $http_x_forward_for; proxy_set_header X-Forwarded-Host $server_name; proxy_set_header Host $host; proxy_cache downloadcache; proxy_cache_valid 200 600s; proxy_cache_valid 304 600s; proxy_cache_use_stale invalid_header http_403 http_404 http_500 http_502; proxy_cache_lock on; proxy_cache_lock_timeout 5s; proxy_pass https://域名; } error_page 500 502 503 504 /50x.html; location = /50x.html { root html; } location /ngx_stat { stub_status on; access_log off; } }