主頁 > 資料庫 > Nginx高級優化(2): shell腳本日志切割,連接超時,行程數,網頁壓縮,防盜鏈,FPM 引數優化!!

Nginx高級優化(2): shell腳本日志切割,連接超時,行程數,網頁壓縮,防盜鏈,FPM 引數優化!!

2020-09-11 04:59:35 資料庫

嘔心瀝血書寫,看完后對Nginx了如執掌,不看真的后悔!!

  • shell腳本日志分割
  • 設定連接超時
  • Nginx深入優化
      • 更改行程數
      • 配置網頁壓縮
      • 配置防盜鏈
          • 20.0.0.25 主機:開始盜鏈
          • 20.0.0.26主機:配置防盜鏈
  • FPM 引數優化

shell腳本日志分割

●隨著Nginx運行時間的增加,產生的日志也會逐漸增加,為了方便掌握 Nginx的運行
狀態,需要時刻關注Nginx日志檔案,太大的日志檔案對監控是一個大災難,不便于分析
排查,需要定期的進行日志檔案的切割,

●撰寫腳本/opt/fenge.sh##
把Nginx的日志檔案/usr/local/nginx/logs/access.log移動到,目錄/var/log/nginx下面,
以當前時間做為日志檔案的名稱,然后用kill -USR1創建新的日志檔案/usr/local/nginx/logs/access.log,
最后洗掉30天之前的日志檔案,

[root@www logs]# vi /opt/fenge.sh

#!/bin/bash
#Filename: fenge.sh
d=$(date -d "-1 day" "+%Y%m%d")
logs_path="/var/log/nginx"
pid_path="/usr/local/nginx/logs/nginx.pid"
[ -d $logs_path ] || mkdir -p $logs_path
mv /usr/local/nginx/logs/access.log ${logs_path}/51xit.top-access.log-$d
kill -USR1 $(cat $pid_path)
find $logs_path -mtime +30 | xargs rm -rf

命令決議
####創建日志檔案目錄
[ -d $logs_path ] || mkdir -p $logs_path

###移動并重命名日志檔案
mv /usr/local/nginx/logs/access.log logspath/51xit.top?access.log?{logs_path}/51xit.top-access.log-d

###重建新日志檔案
kill -USR1 $(cat $pid_path)

####翩除30天之前的日志檔案
find $logs_path -mtime +30 | xargs rm -rf

執行/opt/fenge.sh,測驗日志檔案是否被切割

[root@localhost ~]# chmod +x fengge.sh     
[root@localhost ~]# ./fengge.sh 
[root@localhost ~]# ls /var/log/nginx/
51xit.top-access.log-20200908

這里可以看到按日期分割了日志檔案


[root@localhost ~]# cat /usr/local/nginx/logs/access.log

原來的日志檔案沒有了 重新創建了

設定連接超時

●在企業網站中,為了避免同一個客戶長時間占用連接,造成資源浪費,可設定相應的連
接超時引數,實作控制連接訪問時間,可以修改組態檔nginx.conf,設定keepalive_timeout
超時時間,

●keepalive_timeout第一個引數指定了與client的keep-alive連接超時時間,服務器將
會在這個時間后關閉連接,可選的第二個引數指定了在回應頭Keep-Alive: timeout=time中
的time值,這個頭能夠讓一些瀏覽器主動關閉連接,這樣服務器就不必要去關閉連接了,
沒有這個引數,nginx不會發送Keep-Alive回應頭,

●訪問網址抓取資料報文,回應頭中顯示了超時時間是180秒,一般只設定Keepalive_timeout引數即可,
同時在優化后可能還會增加其它超時引數,比如Client_header_timeout引數,指定等
待客戶端發送請求頭的超時時間,Client_body_timeout指定請求體讀超時時間


[root@localhost ~]# vi /usr/local/nginx/conf/nginx.conf
http {
........//省略內容
keepalive_timeout 65 180;                    ####修改
client_header_timeout 80;                    ##在下面添加
client_body_timeout 80;                      ##在下面添加
........//省略內容


[root@localhost ~]# systemctl restart nginx

清除瀏覽器快取訪問驗證: 20.0.0.26
keep-Alive: timeout=180\r\n
成功了
在這里插入圖片描述

Nginx深入優化

更改行程數

在高并發環境中,需要啟動更多的Nginx行程以保證快速回應,用以處理用戶的請求,
避免造成阻塞

首先查看以下Nginx運行行程的個數

[root@localhost ~]# ps aux | grep nginx
root      11926  0.0  0.0  20556   628 ?        Ss   07:47   0:00 nginx: master process /usr/local/nginx/sbin/nginx
nginx     11927  0.0  0.0  21008  1596 ?        S    07:47   0:00 nginx: worker process
root      11932  0.0  0.0 112724   988 pts/0    S+   07:51   0:00 grep --color=auto nginx

這里我們看到其中master process 是Nginx的主行程,開啟了1個,worker process是子行程,子
行程也是開啟了1個,

●修改Nginx的組態檔的worker_processes引數,一般設為CPU 的個數或者核數
在高并發的情況下可設定為CPU個數或者核數,可以查看CPU的核數以確定引數

[root@localhost ~]# cat /proc/cpuinfo | grep -c "physical"
8

引數設定為8,和CPU的核數相同,運行行程數多一些,回應客戶端訪問請求時,Nginx
就不會臨時啟動新的行程提供服務,減少了系統的開銷,提升了服務速度

[root@localhost ~]# vi /usr/local/nginx/conf/nginx.conf

worker_processes  8;

修改完后,重啟服務,使用 ps aux 查看運行行程數的變化情況,

[root@localhost ~]# systemctl restart nginx                   
[root@localhost ~]# ps aux | grep nginx

root      11948  0.0  0.0  20556   692 ?        Ss   07:55   0:00 nginx: master process /usr/local/nginx/sbin/nginx
nginx     11949  0.0  0.0  21008  1344 ?        S    07:55   0:00 nginx: worker process
nginx     11950  0.0  0.0  21008  1344 ?        S    07:55   0:00 nginx: worker process
nginx     11951  0.0  0.0  21008  1344 ?        S    07:55   0:00 nginx: worker process
nginx     11952  0.0  0.0  21008  1344 ?        S    07:55   0:00 nginx: worker process
nginx     11953  0.0  0.0  21008  1344 ?        S    07:55   0:00 nginx: worker process
nginx     11954  0.0  0.0  21008  1344 ?        S    07:55   0:00 nginx: worker process
nginx     11955  0.0  0.0  21008  1344 ?        S    07:55   0:00 nginx: worker process
nginx     11956  0.0  0.0  21008  1344 ?        S    07:55   0:00 nginx: worker process
root      11958  0.0  0.0 112724   988 pts/0    S+   07:56   0:00 grep --color=auto nginx

●開啟了1個主行程和8個子行程,引數設定起到了作用,
默認情況下,Nginx的多個行程可能更多的跑在一顆CPU上,可以分配不同的行程給
不同的CPU處理,充分利用硬體多核多CPU,在一臺4核CPU服務器上,可以設定每個
行程分別由不同的 CPU 核心處理,達到CPU 的性能最大化,

配置網頁壓縮

●Nginx的ngx_http_gzip_module壓縮模塊提供了對檔案內容壓縮的功能,允許Nginx
服務器將輸出內容發送到客戶端之前進行壓縮,以節約網站的帶寬,提升用戶的訪問體驗,
默認 Nginx 已經安裝該模塊,只需要在組態檔中加入相應的壓縮功能引數對壓縮性能進
行優化即可,

#             gzip on;    開啟gzip壓縮輸出;
#             gzip_min_length 1k:用于設定允許壓縮的頁面最小位元組數;
#             gzip_buffers 4 16k:表示申請4個單位為16k的記憶體作為壓縮結果流快取,默認值
是申請與原始資料大小相同的記憶體空間來存盤gzip壓縮結果;

#              Zip_http_version 1.0:用于設定識別http 協議版本,默認是1.1,目前大部分瀏覽
器已經支持gzip解壓,但處理最慢,也比較消耗服務器CPU 資源;

#              Gzip_comp_level 2:用來指定gzip壓縮比,1壓縮比最小,處理速度最快;9壓縮
比最大,傳輸速度快,但處理速度最慢,使用默認即可;

#              Gzip_types text/plain:壓縮型別,是對哪些網頁檔案啟用壓縮功能;
#              Gzip_vary on:選項可以讓前端的快取服務器快取經過gzip壓縮的頁面

下面開始配置

[root@localhost ~]# vi /usr/local/nginx/conf/nginx.conf

gzip on;                                 去掉#
gzip_buffers 4 64k;
gzip_http_version 1.1;
gzip_comp_level 2;
gzip_min_length 1k;
gzip_vary on;
gzip_types text/plain text/javascript application/x-javascript text/css text/xml application/xml application/xml+rss;

[root@localhost ~]# systemctl restart nginx

驗證:
在Nginx作業目錄建立一個超過1K大小的html檔案,然后訪問網址抓取資料報文
在這里插入圖片描述
在這里插入圖片描述
在這里插入圖片描述

配置防盜鏈

●在企業網站服務中,一般都要配置防盜鏈功能,以避免網站內容被非法盜用,造成經濟
損失,也避免了不必要的帶寬浪費,Nginx的防盜鏈功能也非常強大,在默認情況下,只需
要進行很簡單的配置,即可實作防盜鏈處理,

●防盜鏈需要準備兩臺主機,有一臺模擬盜鏈

IP地址
20.0.0.26
20.0.0.25

域名
26:www.51xit.top 源主機
25:www.52.xit.top 盜鏈主機

為了方便驗證需要修改Windows的C:\Windows\System32\drivers\etc\hosts檔案,設定域名和映射關系:

20.0.0.26 www.51xit.top Nginx
20.0.0.25 www.test.com Apache

做完以后ping一下這兩個網站,通了繼續

在這里插入圖片描述
在這里插入圖片描述

這里我用工具添加了一張圖片進去
在這里插入圖片描述

[root@localhost html]# systemctl restart nginx

#重繪一下Nginx程式,用瀏覽器訪問www.51xit.top

在這里插入圖片描述

20.0.0.25 主機:開始盜鏈

首先打開20.0.0.26主機的域名:www.51xit.top,把網頁地址復制下來

在這里插入圖片描述

#下面為主機20.0.0.25的盜圖配置操作:

[root@localhost ~]# systemctl start httpd
[root@localhost ~]# cd /usr/local/httpd/htdocs/
[root@localhost htdocs]# vi index.html

!DOCTYPE html>
<html>
<head>
<p><em>盜版圖網站</em></p>
<img src="http://www.51xit.top/zz.jpg" / >
</body>
</html>


#這里把你復制的網址填進去

接下來我們正常訪問www.52xit.top 可以看到圖片正常打開,盜圖成功

在這里插入圖片描述

20.0.0.26主機:配置防盜鏈

●Nginx的防盜鏈原理是加入location項,用正則運算式過濾圖片型別檔案,對于信任的
網址可以正常使用,不信任的網址回傳相應的錯誤圖片,在源主機(bt.com)的組態檔中
加入以下代碼:

[root@localhost html]# vi /usr/local/nginx/conf/nginx.conf

#########在第一個     location / { } 下面插入    ###############
        location ~ \.(gif|jpg|jepg|png|bmp|ico)$ {
            root   html;
            expires 1d;
            valid_referers none blocked *.51xit.top 51xit.top;
            if ($invalid_referer) {
               rewrite ^/ https://ss1.bdstatic.com/70cFvXSh_Q1YnxGkpoWK1HF6hhy/it/u=2135575968,1508481517&fm=15&gp=0.jpg;
            }
        }

#這里用if判斷,用rewrite跳轉,后面的地址是我從百度搜來的圖片
#哈哈,等我盜了別人的圖片,給了第三個人用

[root@localhost html]# systemctl restart nginx    重啟


~* .(jpglgif|swf)$ : 這段正則運算式表示匹配不區分大小寫,以.jpg或.gif或.swf結尾的圖片格式

接下來我們清除瀏覽器快取重新打開www.52.xit.top,圖片實作跳轉了!!

在這里插入圖片描述

FPM 引數優化

ginx的PHP決議功能實作如果是交由FPM處理的,為了提高 PHP的處理速度,可
對FPM模塊進行引數的調整,
下面是執行步驟:

1)安裝帶 FPM 模塊的 PHP環境,保證 PHP可以正常運行,
2) FPM行程有兩種啟動方式,由pm 引數指定,分別是 static和dynamic,前者將產
生固定資料的fpm行程,后者將以動態的方式產生fpm行程,

Static的方式可以使用pm.max_children 指定啟動的行程數量,Dynamic方式的引數要
根據服務器的記憶體與服務負載進行調整,

            選項                                                     描述
Pm.max children                                       指定啟動的行程數量最大的數量
Pm.start.servers                                      動態方式下初始的ftpm行程數量
Pm.min_spare_servers                                  動態方式下最小的fpm空閑行程數
Pm_max_spare_servers                                  動態方式下最大的空閑行程數

假設:現有云服務器,運行了個人論壇,記憶體為1.5G,fpm行程數為20,記憶體消耗近
1G,處理比較慢,對引數進行優化處理,

[root@localhost html]# cd /usr/local/php/etc/php-fpm.d
[root@localhost html]# vi www.conf

pm=dynamic
pm.max_children=20
pm.start_servers=5
pm.min_spare_servers=2
pm.max_spare_servers=8

#FPM啟動時有5個行程,最小空閑2個行程,最大空閑8個行程,最多可以有20個
行程存在

轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/4407.html

標籤:其他

上一篇:關于阿里云的一鍵部署工具【飛流】的使用(詳細)

下一篇:超詳細的Linux常用命令錦集【持續更新】

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • GPU虛擬機創建時間深度優化

    **?桔妹導讀:**GPU虛擬機實體創建速度慢是公有云面臨的普遍問題,由于通常情況下創建虛擬機屬于低頻操作而未引起業界的重視,實際生產中還是存在對GPU實體創建時間有苛刻要求的業務場景。本文將介紹滴滴云在解決該問題時的思路、方法、并展示最終的優化成果。 從公有云服務商那里購買過虛擬主機的資深用戶,一 ......

    uj5u.com 2020-09-10 06:09:13 more
  • 可編程網卡芯片在滴滴云網路的應用實踐

    **?桔妹導讀:**隨著云規模不斷擴大以及業務層面對延遲、帶寬的要求越來越高,采用DPDK 加速網路報文處理的方式在橫向縱向擴展都出現了局限性。可編程芯片成為業界熱點。本文主要講述了可編程網卡芯片在滴滴云網路中的應用實踐,遇到的問題、帶來的收益以及開源社區貢獻。 #1. 資料中心面臨的問題 隨著滴滴 ......

    uj5u.com 2020-09-10 06:10:21 more
  • 滴滴資料通道服務演進之路

    **?桔妹導讀:**滴滴資料通道引擎承載著全公司的資料同步,為下游實時和離線場景提供了必不可少的源資料。隨著任務量的不斷增加,資料通道的整體架構也隨之發生改變。本文介紹了滴滴資料通道的發展歷程,遇到的問題以及今后的規劃。 #1. 背景 資料,對于任何一家互聯網公司來說都是非常重要的資產,公司的大資料 ......

    uj5u.com 2020-09-10 06:11:05 more
  • 滴滴AI Labs斬獲國際機器翻譯大賽中譯英方向世界第三

    **桔妹導讀:**深耕人工智能領域,致力于探索AI讓出行更美好的滴滴AI Labs再次斬獲國際大獎,這次獲獎的專案是什么呢?一起來看看詳細報道吧! 近日,由國際計算語言學協會ACL(The Association for Computational Linguistics)舉辦的世界最具影響力的機器 ......

    uj5u.com 2020-09-10 06:11:29 more
  • MPP (Massively Parallel Processing)大規模并行處理

    1、什么是mpp? MPP (Massively Parallel Processing),即大規模并行處理,在資料庫非共享集群中,每個節點都有獨立的磁盤存盤系統和記憶體系統,業務資料根據資料庫模型和應用特點劃分到各個節點上,每臺資料節點通過專用網路或者商業通用網路互相連接,彼此協同計算,作為整體提供 ......

    uj5u.com 2020-09-10 06:11:41 more
  • 滴滴資料倉庫指標體系建設實踐

    **桔妹導讀:**指標體系是什么?如何使用OSM模型和AARRR模型搭建指標體系?如何統一流程、規范化、工具化管理指標體系?本文會對建設的方法論結合滴滴資料指標體系建設實踐進行解答分析。 #1. 什么是指標體系 ##1.1 指標體系定義 指標體系是將零散單點的具有相互聯系的指標,系統化的組織起來,通 ......

    uj5u.com 2020-09-10 06:12:52 more
  • 單表千萬行資料庫 LIKE 搜索優化手記

    我們經常在資料庫中使用 LIKE 運算子來完成對資料的模糊搜索,LIKE 運算子用于在 WHERE 子句中搜索列中的指定模式。 如果需要查找客戶表中所有姓氏是“張”的資料,可以使用下面的 SQL 陳述句: SELECT * FROM Customer WHERE Name LIKE '張%' 如果需要 ......

    uj5u.com 2020-09-10 06:13:25 more
  • 滴滴Ceph分布式存盤系統優化之鎖優化

    **桔妹導讀:**Ceph是國際知名的開源分布式存盤系統,在工業界和學術界都有著重要的影響。Ceph的架構和演算法設計發表在國際系統領域頂級會議OSDI、SOSP、SC等上。Ceph社區得到Red Hat、SUSE、Intel等大公司的大力支持。Ceph是國際云計算領域應用最廣泛的開源分布式存盤系統, ......

    uj5u.com 2020-09-10 06:14:51 more
  • es~通過ElasticsearchTemplate進行聚合~嵌套聚合

    之前寫過《es~通過ElasticsearchTemplate進行聚合操作》的文章,這一次主要寫一個嵌套的聚合,例如先對sex集合,再對desc聚合,最后再對age求和,共三層嵌套。 Aggregations的部分特性類似于SQL語言中的group by,avg,sum等函式,Aggregation ......

    uj5u.com 2020-09-10 06:14:59 more
  • 爬蟲日志監控 -- Elastc Stack(ELK)部署

    傻瓜式部署,只需替換IP與用戶 導讀: 現ELK四大組件分別為:Elasticsearch(核心)、logstash(處理)、filebeat(采集)、kibana(可視化) 下載均在https://www.elastic.co/cn/downloads/下tar包,各組件版本最好一致,配合fdm會 ......

    uj5u.com 2020-09-10 06:15:05 more
最新发布
  • day02-2-商鋪查詢快取

    功能02-商鋪查詢快取 3.商鋪詳情快取查詢 3.1什么是快取? 快取就是資料交換的緩沖區(稱作Cache),是存盤資料的臨時地方,一般讀寫性能較高。 快取的作用: 降低后端負載 提高讀寫效率,降低回應時間 快取的成本: 資料一致性成本 代碼維護成本 運維成本 3.2需求說明 如下,當我們點擊商店詳 ......

    uj5u.com 2023-04-20 08:33:24 more
  • MySQL中binlog備份腳本分享

    關于MySQL的二進制日志(binlog),我們都知道二進制日志(binlog)非常重要,尤其當你需要point to point災難恢復的時侯,所以我們要對其進行備份。關于二進制日志(binlog)的備份,可以基于flush logs方式先切換binlog,然后拷貝&壓縮到到遠程服務器或本地服務器 ......

    uj5u.com 2023-04-20 08:28:06 more
  • day02-短信登錄

    功能實作02 2.功能01-短信登錄 2.1基于Session實作登錄 2.1.1思路分析 2.1.2代碼實作 2.1.2.1發送短信驗證碼 發送短信驗證碼: 發送驗證碼的介面為:http://127.0.0.1:8080/api/user/code?phone=xxxxx<手機號> 請求方式:PO ......

    uj5u.com 2023-04-20 08:27:27 more
  • 快取與資料庫雙寫一致性幾種策略分析

    本文將對幾種快取與資料庫保證資料一致性的使用方式進行分析。為保證高并發性能,以下分析場景不考慮執行的原子性及加鎖等強一致性要求的場景,僅追求最終一致性。 ......

    uj5u.com 2023-04-20 08:26:48 more
  • sql陳述句優化

    問題查找及措施 問題查找 需要找到具體的代碼,對其進行一對一優化,而非一直把關注點放在服務器和sql平臺 降低簡化每個事務中處理的問題,盡量不要讓一個事務拖太長的時間 例如檔案上傳時,應將檔案上傳這一步放在事務外面 微軟建議 4.啟動sql定時執行計劃 怎么啟動sqlserver代理服務-百度經驗 ......

    uj5u.com 2023-04-20 08:26:35 more
  • 云時代,MySQL到ClickHouse資料同步產品對比推薦

    ClickHouse 在執行分析查詢時的速度優勢很好的彌補了MySQL的不足,但是對于很多開發者和DBA來說,如何將MySQL穩定、高效、簡單的同步到 ClickHouse 卻很困難。本文對比了 NineData、MaterializeMySQL(ClickHouse自帶)、Bifrost 三款產品... ......

    uj5u.com 2023-04-20 08:26:29 more
  • sql陳述句優化

    問題查找及措施 問題查找 需要找到具體的代碼,對其進行一對一優化,而非一直把關注點放在服務器和sql平臺 降低簡化每個事務中處理的問題,盡量不要讓一個事務拖太長的時間 例如檔案上傳時,應將檔案上傳這一步放在事務外面 微軟建議 4.啟動sql定時執行計劃 怎么啟動sqlserver代理服務-百度經驗 ......

    uj5u.com 2023-04-20 08:25:13 more
  • Redis 報”OutOfDirectMemoryError“(堆外記憶體溢位)

    Redis 報錯“OutOfDirectMemoryError(堆外記憶體溢位) ”問題如下: 一、報錯資訊: 使用 Redis 的業務介面 ,產生 OutOfDirectMemoryError(堆外記憶體溢位),如圖: 格式化后的報錯資訊: { "timestamp": "2023-04-17 22: ......

    uj5u.com 2023-04-20 08:24:54 more
  • day02-2-商鋪查詢快取

    功能02-商鋪查詢快取 3.商鋪詳情快取查詢 3.1什么是快取? 快取就是資料交換的緩沖區(稱作Cache),是存盤資料的臨時地方,一般讀寫性能較高。 快取的作用: 降低后端負載 提高讀寫效率,降低回應時間 快取的成本: 資料一致性成本 代碼維護成本 運維成本 3.2需求說明 如下,當我們點擊商店詳 ......

    uj5u.com 2023-04-20 08:24:03 more
  • day02-短信登錄

    功能實作02 2.功能01-短信登錄 2.1基于Session實作登錄 2.1.1思路分析 2.1.2代碼實作 2.1.2.1發送短信驗證碼 發送短信驗證碼: 發送驗證碼的介面為:http://127.0.0.1:8080/api/user/code?phone=xxxxx<手機號> 請求方式:PO ......

    uj5u.com 2023-04-20 08:23:11 more