Nginx負載均衡介紹

• 負載均衡的意思是在服務器集群中，需要有一臺服務器作為調度者，客戶端所有的請求都由調度者接收，調度者再根據每臺服務器的負載情況，將請求分配給對應的服務器去處理；
• 在這個程序中，調度者如何合理分配任務，保證所有服務器將性能充分發揮，從而保持服務器集群的整
  體性能最優，這就是負載均衡的問題了，

nginx負載均衡的方式

輪詢

• 輪詢方式是Nginx默認的方式、所有請求按照時間分配到不同的服務上，如果服務掛了，可以自動提出，如果沒掛，按照服務器配置的順序,輪流將請求發送到這些服務器上，

upstream  dalaoyang-server {
       server    localhost:10001;
       server    localhost:10002;
}

權重

• 制定每個服務的權重比例，weight和訪問量成正比，
• 通常用于后端服務器性能不統一，將性能好的服務器的權重設定高一點，來發揮服務器的最大性能，
• 如下配置后，10002服務的訪問比率是10001服務的兩倍

upstream  dalaoyang-server {
       server    localhost:10001 weight=1;
       server    localhost:10002 weight=2;
}

iphash

• 每個請求按照ip的hash結果分配，經過處理，每個請求固定訪問一個后端服務，如下配置（ip_hash可以與weight一起使用）

upstream  dalaoyang-server {
       ip_hash; 
       server    localhost:10001 weight=1;
       server    localhost:10002 weight=2;
}

最少連接

• 將請求分配到連接數最少的服務上，

upstream  dalaoyang-server {
       least_conn;
       server    localhost:10001 ;
       server    localhost:10002 ;
}

fair

• 后端服務器的回應時間來分配請求，回應時間短的優先分配， 需要插件來幫我們實作

upstream  dalaoyang-server {
       server    localhost:10001 weight=1;
       server    localhost:10002 weight=2;
       fair;  
}

Nginx配置

以輪詢為例，如下是nginx.conf完整代碼，

worker_processes  1;

events {
    worker_connections  1024;
}


http {
   upstream  dalaoyang-server {
       server    localhost:10001;
       server    localhost:10002;
   }

   server {
       listen       10000;
       server_name  localhost;

       location / {
        proxy_pass http://dalaoyang-server;
        proxy_redirect default;
      }
    }
}

Nginx限流熔斷

• 作為優秀的負載均衡模塊，目前是我作業中用到最多的，
• 其實，該模塊是提供了我們需要的后端限流功能的，通過官方檔案介紹

令牌桶演算法

演算法思想：

• 令牌以固定速率產生，并快取到令牌桶中
• 令牌桶放滿時、多余的令牌被丟棄
• 請求要消耗等比例的令牌才能被處理
• 令牌不夠時，請求被快取（佇列）；

漏桶演算法

演算法思想是：

• 請求從上方倒入水桶，從水桶下方流出
• 來不及流出的請求存在水桶中，以固定速率流出
• 水桶滿后，請求溢位（丟棄）
• 快取請求、勻速處理、多余的請求直接丟棄，
  相比漏桶演算法，令牌桶演算法不同之處在于它不但有一只“桶”，還有個佇列，這個桶是用來存放令牌的，佇列才是用來存放請求的

Nginx按請求速率限速模塊使用的是漏桶演算法，即能夠強行保證請求的實時處理速度不會超過設定的閾值，

案例

• Nginx中文網案例：https://www.nginx.cn/doc/standard/httplimitrequest.html
  https://www.nginx.cn/doc/standard/httplimitzone.html

通過查看Nginx官方檔案：
1、limit_conn_zone
2、limit_req_zone
3、ngx_http_upstream_module
前兩種只能對客戶端（即單一ip限流），并且檔案也很全，

limit_conn_zone

可以針對條件，進行會話的并發連接數控制，（例如：限制每個IP的并發連接數，）
nginx配置

http{
limit_conn_zone $binary_remote_addr zone=one:10m; 
	server { 
		......
		 limit_conn one 10; 
	 	......
  		}
 }

• 其中“limit_conn one 10”既可以放在server層對整個server有效，也可以放在location中只對單獨的
  location有效，
• 該配置表明：客戶端的并發連接數只能是10個

limit_req_zone

• 指令

limit_req_zone $session_variable zone=name_of_zone:size rate=rate

示例1 ：

limit_req_zone  $binary_remote_addr  zone=one:10m   rate=1r/s;

示例2：

limit_req_zone $binary_remote_addr zone=req_one:10m rate=1r/s;

組態檔：

limit_req_zone  $binary_remote_addr  zone=one:10m   rate=1r/s;

 
    server {
        location /search/ {
            limit_req   zone=one  burst=120;
        }

• 其中“limit_req zone=req_one burst=120”既可以放在server層對整個server有效，也可以放在location中只對單獨的location有效，
• rate=1r/s的意思是每個地址每秒只能請求一次，也就是說令牌桶burst=120一共有120塊令牌，并且每秒鐘只新增1塊令牌，

ngx_http_upstream_module

作為優秀的負載均衡模塊，目前是我們作業中用到最多的，其實，該模塊是提供了我們需要的后端限流 功能的，通過官方檔案介紹，該模塊有一個引數：max_conns可以對服務端進行限流

配置

upstream xxxx{ 
 	server 127.0.0.1:8080 max_conns=10;
 	server 127.0.0.1:8081 max_conns=10; 
 }

表示最大連接數是10個；

動靜分離

• Nginx的靜態處理能力很強，但是動態處理能力不足，因此，在企業中常用動靜分離技術，
• 動靜分離技術其實是采用代理的方式，在server{}段中加入帶正則匹配的location來指定匹配項針對服務的動靜分離：
• 靜態頁面交給Nginx處理
• 動態頁面交給服務器或Apache處理，
• 在Nginx的配置中，是通過location配置段配合正則匹配實作靜態與動態頁面的不同處理方式，
• 實作整個網站的動靜分離，實作如下要求：
  1 前端Nginx收到靜態請求，直接從NFS中回傳給客戶端，
  2 前端Nginx收到動態請求轉交給通過FastCGI交給服務器處理，
  ----如果得到靜態結果直接從NFS取出結果交給Nginx然后回傳給客戶端，
  ----如果需要資料處理服務器連接資料庫后將結果回傳給Nginx
  3 .前端Nginx收到圖片請求以.jpg、.png、.gif等請求交給后端Images服務器處理

  location ~* \.(jpg|gif)$ {             # location匹配將圖片交給Image處理
?     proxy_pass http://10.10.0.23:80;      # Image服務器要開啟web服務
?    }