主頁 >  其他 > 基于Nginx的可伸縮web平臺openresty做https代理和報文日志列印服務【記錄踩坑全程序】

基于Nginx的可伸縮web平臺openresty做https代理和報文日志列印服務【記錄踩坑全程序】

2021-04-12 11:47:32 其他

在北京生活,路上遇到很多和我們擦肩而過的人,哪怕看他平平無奇,你記住,他們一定有故事~

大家好,我是奈何,老規矩,我們先聽故事,后學知識!
在這里插入圖片描述
不知從何說起的我,開始支支吾吾的,嗯…~(那就從這里開始吧,)

來到北京后,最近專案經理給了我很多需求,竟然是讓我干運維的活兒,其實我也應該為此而感到欣慰,畢竟想做一名的優秀的Java開發也得從全堆疊開始學起吧(【滑稽】好像互聯網大廠也要求Java開發什么都會吧~對,是的!),

我硬著頭皮接了這一系列需求,從配置測驗服務器、安裝docker、配置Jenkins等等開始,現在要求我去安裝配置nginx的https代理,于是我大干了一場,同時踩了許多的坑,也成長了許多…(這只是故事一個簡單的開始~!)

在這里插入圖片描述

于是,我就開始了安裝和配置nginx,這時候我高興的配置好了nginx的https代理,感覺自己好像完成了這次任務,結果經理告訴我nginx得列印日志呀,我們得看到全部的請求和回應報文等資訊的,要么以后排查問題咋整?(之前我就簡單的配置了nginx的access日志)于是,我又接下來這個看似很可怕的需求,開始進行求助,于是發現了可以使用nginx配置lua腳本實作列印日志的功能,但是由于解決這個問題需要安裝nginx、LuaJIT和lua-nginx-module模塊,而安裝的程序需要配置環境變數和nginx關聯lua,這個程序很容易出錯而且問題多多,通過大佬的引薦,我有幸用到了openresty,有的小伙伴會問,openresty是什么呢,接下來回答會讓你充滿了幸福感!


OpenResty(又稱:ngx_openresty) 是一個基于 NGINX 的可伸縮的 Web 平臺,是一個強大的 Web 應用服務器,在性能方面,OpenResty可以 快速構造出足以勝任 10K 以上并發連接回應的超高性能 Web 應用系統,目標是讓你的 Web 服務直接跑在 Nginx 服務內部,充分利用 Nginx 的非阻塞 I/O 模型,不僅僅對 HTTP 客戶端請求,甚至于對遠程后端諸如 MySQL,PostgreSQL,~Memcaches 以及 ~Redis 等都進行一致的高性能回應,MySQL,PostgreSQL,~Memcaches 以及 ~Redis 等都進行一致的高性能回應,


看到了OpenResty的我,仿佛看到了春天,瞬間有了春風拂面的感覺,我洋溢在美好的春天一不小心劃了那么一會~~~當自己反應過來的時候,時間已過了很久,擼起袖子,卸載了nginx,開始安裝OpenResty!哦買噶,突然感覺幸福來的太突然了!舒服


在安裝之前,首先卸載原來的nginx,如下步驟:

# 停止nginx服務
ps -ef | grep nginx 
# 進入sbin目錄
cd /usr/local/nginx/sbin
./nginx -s stop
# 找到nginx相關目錄檔案
sudo find / -name nginx
# 根據找到的檔案路徑進行洗掉
sudo rm -rf  找到的檔案路徑

卸載nginx完成后開始安裝openresty,如下步驟:

openresty下載地址http://openresty.org/en/download.html

PS:選擇比較靠前的版本,因為nginx的版本在1.11.8支持escape=json引數,可以消除低版本的特殊符號轉碼問題,簡單可以理解為高版本已經解決了符號亂碼問題!

亂碼問題的坑我已經踩了,就是nginx低于1.11.8,列印的日志特殊符號會變成\xx22等亂碼,只要下載高版本的openresty,查看nginx版本是否大于此版本即可自動解決亂碼問題!

開始安裝

yum -y install readline-devel pcre-devel openssl-devel
tar xzvf ngx_openresty-1.15.8.2.tar.gz       # 解壓
cd ngx_openresty-1.15.8.2/ 
# 如果安裝需要指定目錄的話,可以在如下命令后追加右側目錄 --prefix=指定目錄
./configure
make 
make install

測驗openresty

# mkdir /data/test
# cd /data/test/
# mkdir logs/conf/
# vim logs/conf/nginx.conf
# 檔案夾和組態檔創建好,復制以下內容保存開始下一步驗證

worker_processes  1;
error_log logs/error.log;
events {
    worker_connections 1024;
}
http {
    server {
        listen 9000;
        location / {
            default_type text/html;
            content_by_lua '
                ngx.say("<p>Hello, World!</p>")
            ';
        }
    }
}

驗證

# cd /data/test
# /usr/local/openresty/nginx/sbin/nginx -p `pwd`/ -c conf/nginx.conf
# 默認情況下 openresty 安裝在 /usr/local/openresty 目錄中 -p 指定我們的專案目錄,-c 指定組態檔,沒有任何輸出,說明啟動成功
# curl http://localhost:9000/
<p>Hello, World!</p>      # 證明服務正常
或者瀏覽器訪問:http://ip:9000,看是結果是否為:Hello, World!

看到如此熟悉的Hello,World!是不是倍感親切呢,那么恭喜你安裝成功啦!


接下來開始配置https代理和報文日志列印【劃重點咯!】

nginx做https代理與列印報文日志的配置如下:(進到nginx里,去編輯nginx.conf,配置如下,步驟我有加注釋)

PS:你可以根據原來nginx的默認配置而做修改,這樣可保證nginx配置不會亂,而且你也能很清楚的知道自己加了什么配置,加的配置是做什么的!盡量不要直接COPY如下配置,可以用什么COPY什么!【推薦】

#user  nobody; # 用戶組
worker_processes  1;

# 打開錯誤日志和pid注釋
error_log  logs/error.log;
error_log  logs/error.log  notice;
error_log  logs/error.log  info;

pid        logs/nginx.pid;

events {
    worker_connections  1024;
}

http {
    include       mime.types;
    default_type  application/octet-stream;

    #log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
    #                  '$status $body_bytes_sent "$http_referer" '
    #                  '"$http_user_agent" "$http_x_forwarded_for"';

    #access_log  logs/access.log  main;
    
    # 配置列印日志的格式,為了更好的排查問題列印的日志內容做了精簡,這里我只留下了排查問題必不可少的日志內容
    log_format main  escape=json '{ "@timestamp": "$time_local", '
                         '"upstream_addr": "$upstream_addr",'
                         '"request_time": "$request_time", '
                         '"status": "$status", '
                         '"request": "$request", '
                         '"host":""$host",'
                         '"http_uri": "$uri",'
                         '"請求報文":"$request_body",'
                         '"回應報文":"$resp_body" }'

    # 開啟日志快取以免過多的使用記憶體
    open_log_file_cache max=1000 inactive=20s valid=1m min_use=2;

    sendfile        on;
    #tcp_nopush     on;

    #keepalive_timeout  0;
    keepalive_timeout  65;

    #gzip  on;
   
    # 以下解決request_body為空問題 
    # 指定本地需要用多少和多大的緩沖區來緩沖FastCGI的應答
    fastcgi_buffers 32 8k;
    # 緩沖區代理緩沖用戶端請求的最大位元組數
    client_body_buffer_size 1024k;

    server {
        listen       80; # 埠
        server_name  xxx.com; # 域名

        #charset koi8-r;

        #access_log  logs/host.access.log  main;
        
        # 添加以下配置
        charset utf-8;
        set $resp_body "";
        access_log  /data/openresty-1.15/nginx/logs/nginx.log  main; # 配置日志路徑

        location / {
            #root   html;
            #index  index.html index.html;
            
            # 開啟強制獲取請求報文日志
            lua_need_request_body on;
            log_escape_non_ascii off;
            # lua
            body_filter_by_lua '
                local resp_body = string.sub(ngx.arg[1], 1, 1000)
                ngx.ctx.buffered = (ngx.ctx.buffered or "") .. resp_body
                if ngx.arg[2] then
                    ngx.var.resp_body = ngx.ctx.buffered
                end
            '; 
 
            # 以下為以下配置均為超時配置
            proxy_connect_timeout 300;
            proxy_read_timeout 300;
            proxy_send_timeout 300;
            
            proxy_pass https://IP:埠/index.jsp; # 代理轉發的地址或域名
        }

        #error_page  404              /404.html;

        # redirect server error pages to the static page /50x.html
        #
        error_page   500 502 503 504  /50x.html;
        location = /50x.html {
            root   html;
        }

        # proxy the PHP scripts to Apache listening on 127.0.0.1:80
        #
        #location ~ \.php$ {
        #    proxy_pass   http://127.0.0.1;
        #}

        # pass the PHP scripts to FastCGI server listening on 127.0.0.1:9000
        #
        #location ~ \.php$ {
        #    root           html;
        #    fastcgi_pass   127.0.0.1:9000;
        #    fastcgi_index  index.php;
        #    fastcgi_param  SCRIPT_FILENAME  /scripts$fastcgi_script_name;
        #    include        fastcgi_params;
        #}

        # deny access to .htaccess files, if Apache's document root
        # concurs with nginx's one
        #
        #location ~ /\.ht {
        #    deny  all;
        #}
    }


    # another virtual host using mix of IP-, name-, and port-based configuration
    #
    #server {
    #    listen       8000;
    #    listen       somename:8080;
    #    server_name  somename  alias  another.alias;

    #    location / {
    #        root   html;
    #        index  index.html index.htm;
    #    }
    #}


    # HTTPS server
    #
    server {
        listen       443 ssl; # https默認埠
        server_name  xxx.com; # 域名
		
		# 以下配置為證書配置
        ssl_certificate      /data/openresty-1.15/nginx/conf/server.pem;
        ssl_certificate_key  /data/openresty-1.15/nginx/conf/server.key;

		# 快取和超時時間配置(我沒有打開注釋,因為不需要https快取)
        #ssl_session_cache    shared:SSL:1m;
        #ssl_session_timeout  5m;

    	# 以下為證書套件等配置
        ssl_ciphers  HIGH:!aNULL:!MD5;
        ssl_prefer_server_ciphers  on;
        
        # 添加以下配置
        charset utf-8;
        set $resp_body "";
        access_log  /data/openresty-1.15/nginx/logs/nginx.log  main; # 配置日志路徑

        location / {
            #root   html;
            #index  index.html index.htm;
            
            # 開啟強制獲取請求報文日志
            lua_need_request_body on;
            log_escape_non_ascii off;
            # lua
            body_filter_by_lua '
                local resp_body = string.sub(ngx.arg[1], 1, 1000)
                ngx.ctx.buffered = (ngx.ctx.buffered or "") .. resp_body
                if ngx.arg[2] then
                    ngx.var.resp_body = ngx.ctx.buffered
                end
            ';
            
            # 以下配置均為請求超時配置
            proxy_connect_timeout 300;
            proxy_read_timeout 300;
            proxy_send_timeout 300;       
            
            proxy_pass https://IP:埠/index.jsp; # 代理轉發的地址或域名
        }
    }

}

配置好后執行以下命令重啟nginx(重新加載nginx的組態檔)并實時查看日志

# 在nginx的sbin目錄下重啟
sudo ./nginx -s reload
# 使用Xshell等工具,再另開一個視窗,去nginx下的logs目錄監控nginx.log日志
tail -f nginx.log

訪問你配置的域名看是否代理轉發到配置的地址,然后再查看日志是否監控到最新的報文資訊!

如果你訪問你的域名并成功的跳轉到了配置轉發的地址,并在日志中看到了所有報文資訊,那么恭喜你,你出師了!快去大展宏圖吧~

轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/275096.html

標籤:其他

上一篇:【Linux 2】常用指令

下一篇:安裝Ubuntu 20.04后要做的幾件事

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 網閘典型架構簡述

    網閘架構一般分為兩種:三主機的三系統架構網閘和雙主機的2+1架構網閘。 三主機架構分別為內端機、外端機和仲裁機。三機無論從軟體和硬體上均各自獨立。首先從硬體上來看,三機都用各自獨立的主板、記憶體及存盤設備。從軟體上來看,三機有各自獨立的作業系統。這樣能達到完全的三機獨立。對于“2+1”系統,“2”分為 ......

    uj5u.com 2020-09-10 02:00:44 more
  • 如何從xshell上傳檔案到centos linux虛擬機里

    如何從xshell上傳檔案到centos linux虛擬機里及:虛擬機CentOs下執行 yum -y install lrzsz命令,出現錯誤:鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示:其實很簡單,往虛擬機上安裝一個上傳檔案的工具 ......

    uj5u.com 2020-09-10 02:00:47 more
  • 一、SQLMAP入門

    一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號, sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求,SQLMAP可以從一個文本檔案中 ......

    uj5u.com 2020-09-10 02:00:50 more
  • Metasploit 簡單使用教程

    metasploit 簡單使用教程 浩先生, 2020-08-28 16:18:25 分類專欄: kail 網路安全 linux 文章標簽: linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么? 二、準備作業 三、具體步驟 前言 Msfconsole ......

    uj5u.com 2020-09-10 02:00:53 more
  • 游戲逆向之驅動層與用戶層通訊

    驅動層代碼: #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......

    uj5u.com 2020-09-10 02:00:56 more
  • 北斗電力時鐘(北斗授時服務器)讓網路資料更精準

    北斗電力時鐘(北斗授時服務器)讓網路資料更精準 北斗電力時鐘(北斗授時服務器)讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年,資訊技術的得了快速發展,互聯網在逐漸普及,其在人們生活和生產中都得到了廣泛應用,并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用,一方面使電力系統的運行 ......

    uj5u.com 2020-09-10 02:01:03 more
  • 【CTF】CTFHub 技能樹 彩蛋 writeup

    ?碎碎念 CTFHub:https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺,后來才有了CTFHub。 感覺不論是網頁UI設計,還是題目質量,賽事跟蹤,工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......

    uj5u.com 2020-09-10 02:04:05 more
  • 02windows基礎操作

    我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解(net user / type /md /rd/ dir /cd /net use copy、批處理 等) 利用dos命令制作 ......

    uj5u.com 2020-09-10 02:04:18 more
  • 03.Linux基礎操作

    我學到了以下幾點 01Linux系統介紹02系統安裝,密碼啊破解03Linux常用命令04LAMP 01LINUX windows: win03 8 12 16 19 配置不繁瑣 Linux:redhat,centos(紅帽社區版),Ubuntu server,suse unix:金融機構,證券,銀 ......

    uj5u.com 2020-09-10 02:04:30 more
  • 05HTML

    01HTML介紹 02頭部標簽講解03基礎標簽講解04表單標簽講解 HTML前段語言 js1.了解代碼2.根據代碼 懂得挖掘漏洞 (POST注入/XSS漏洞上傳)3.黑帽seo 白帽seo 客戶網站被黑帽植入劫持代碼如何處理4.熟悉html表單 <html><head><title>TDK標題,描述 ......

    uj5u.com 2020-09-10 02:04:36 more
最新发布
  • 2023年最新微信小程式抓包教程

    01 開門見山 隔一個月發一篇文章,不過分。 首先回顧一下《微信系結手機號資料庫被脫庫事件》,我也是第一時間得知了這個訊息,然后跟蹤了整件事情的經過。下面是這起事件的相關截圖以及近日流出的一萬條資料樣本: 個人認為這件事也沒什么,還不如關注一下之前45億快遞資料查詢渠道疑似在近日復活的訊息。 訊息是 ......

    uj5u.com 2023-04-20 08:48:24 more
  • web3 產品介紹:metamask 錢包 使用最多的瀏覽器插件錢包

    Metamask錢包是一種基于區塊鏈技術的數字貨幣錢包,它允許用戶在安全、便捷的環境下管理自己的加密資產。Metamask錢包是以太坊生態系統中最流行的錢包之一,它具有易于使用、安全性高和功能強大等優點。 本文將詳細介紹Metamask錢包的功能和使用方法。 一、 Metamask錢包的功能 數字資 ......

    uj5u.com 2023-04-20 08:47:46 more
  • vulnhub_Earth

    前言 靶機地址->>>vulnhub_Earth 攻擊機ip:192.168.20.121 靶機ip:192.168.20.122 參考文章 https://www.cnblogs.com/Jing-X/archive/2022/04/03/16097695.html https://www.cnb ......

    uj5u.com 2023-04-20 07:46:20 more
  • 從4k到42k,軟體測驗工程師的漲薪史,給我看哭了

    清明節一過,盲猜大家已經無心上班,在數著日子準備過五一,但一想到銀行卡里的余額……瞬間心情就不美麗了。最近,2023年高校畢業生就業調查顯示,本科畢業月平均起薪為5825元。調查一出,便有很多同學表示自己又被平均了。看著這一資料,不免讓人想到前不久中國青年報的一項調查:近六成大學生認為畢業10年內會 ......

    uj5u.com 2023-04-20 07:44:00 more
  • 最新版本 Stable Diffusion 開源 AI 繪畫工具之中文自動提詞篇

    🎈 標簽生成器 由于輸入正向提示詞 prompt 和反向提示詞 negative prompt 都是使用英文,所以對學習母語的我們非常不友好 使用網址:https://tinygeeker.github.io/p/ai-prompt-generator 這個網址是為了讓大家在使用 AI 繪畫的時候 ......

    uj5u.com 2023-04-20 07:43:36 more
  • 漫談前端自動化測驗演進之路及測驗工具分析

    隨著前端技術的不斷發展和應用程式的日益復雜,前端自動化測驗也在不斷演進。隨著 Web 應用程式變得越來越復雜,自動化測驗的需求也越來越高。如今,自動化測驗已經成為 Web 應用程式開發程序中不可或缺的一部分,它們可以幫助開發人員更快地發現和修復錯誤,提高應用程式的性能和可靠性。 ......

    uj5u.com 2023-04-20 07:43:16 more
  • CANN開發實踐:4個DVPP記憶體問題的典型案例解讀

    摘要:由于DVPP媒體資料處理功能對存放輸入、輸出資料的記憶體有更高的要求(例如,記憶體首地址128位元組對齊),因此需呼叫專用的記憶體申請介面,那么本期就分享幾個關于DVPP記憶體問題的典型案例,并給出原因分析及解決方法。 本文分享自華為云社區《FAQ_DVPP記憶體問題案例》,作者:昇騰CANN。 DVPP ......

    uj5u.com 2023-04-20 07:43:03 more
  • msf學習

    msf學習 以kali自帶的msf為例 一、msf核心模塊與功能 msf模塊都放在/usr/share/metasploit-framework/modules目錄下 1、auxiliary 輔助模塊,輔助滲透(埠掃描、登錄密碼爆破、漏洞驗證等) 2、encoders 編碼器模塊,主要包含各種編碼 ......

    uj5u.com 2023-04-20 07:42:59 more
  • Halcon軟體安裝與界面簡介

    1. 下載Halcon17版本到到本地 2. 雙擊安裝包后 3. 步驟如下 1.2 Halcon軟體安裝 界面分為四大塊 1. Halcon的五個助手 1) 影像采集助手:與相機連接,設定相機引數,采集影像 2) 標定助手:九點標定或是其它的標定,生成標定檔案及內參外參,可以將像素單位轉換為長度單位 ......

    uj5u.com 2023-04-20 07:42:17 more
  • 在MacOS下使用Unity3D開發游戲

    第一次發博客,先發一下我的游戲開發環境吧。 去年2月份買了一臺MacBookPro2021 M1pro(以下簡稱mbp),這一年來一直在用mbp開發游戲。我大致分享一下我的開發工具以及使用體驗。 1、Unity 官網鏈接: https://unity.cn/releases 我一般使用的Apple ......

    uj5u.com 2023-04-20 07:40:19 more