主頁 > 軟體設計 > Haproxy搭建Web群集

Haproxy搭建Web群集

2021-07-29 07:05:34 軟體設計

Haproxy搭建Web群集

  • 一、Haproxy前言
  • 二、Haproxy簡介
    • 2.1常見的web集群調度器
    • 2.2Haproxy應用分析
    • 2.3Haproxy高性能負載均衡的主要優點:
    • 2.4四層與七層負教的主要|區別
  • 三、Haproxy調度演算法原理
    • 3.1 RR
    • 3.2 LC
    • SH
  • 四、LVS、Haproxy、nginx區別
    • 4.1 LVS和Haproxy應用分析
    • 4.2 nginx和Lvs、Haproxy的區別
  • 五、 部署haproxy-nginx服務
    • 5.1 部署環境
    • 5.2 安裝haproxy服務器
    • 5.3Haproxy服務器配置
    • 5.4 啟動Haproxy服務
    • 5.5編譯安裝Nginx服務器
    • 5.6訪問測驗
  • 六、Haproxy引數優化
  • 七、小結

一、Haproxy前言

Haproxy是一個使用c語言撰寫的自由及開放源代碼軟體,其提供高可用性、負載均衡,以及基于TOP和HTT的應用程式代理,

Haproxy特別適用于那些負載特大的web站點,這些站點通常又需要會話保持或七層處理,Haproxy運行在當前的硬體上,完全可以支持數以萬計的并發連接,并且它的運行模式使得它可以很簡單安全的整合進您當前的架構中,同時可以保護你的web服務器不被暴露到公共網路上,

Haproxy實作了一種事件驅動,單一行程模型,此模型支持非常大的并發連接數,多行程或多執行緒模型受記憶體限制系統調度器限制以及無處不在的鎖限制,很少能處理數千并發連接,
事件驅動模型因為在有更好的資源和時間管理的用戶空間(User-Space)實作所有這些任務,所以沒有這些問題,
此模型的弊端是,在多核系統上,這些程式通常擴展性較差,這就是為什么他們必須進行優化以使每個CPU時間片(cycle)做更多的作業,

關于CPU分片

CPU時間片(借助一些虛擬化的概念、資源控制概念)
一個CPU處理10個任務要0.2 1秒內50.250個任務,10個任務交給CPU 去做,cpu會有0.2的作業時間和0.8秒的發呆時間
CPU時問進行分片,以輪詢的方式讓CPU不斷的處理任務
例:
80個任務1.6
cpu 0.2單位進行分片,分5份分別處理10個任務(CPU趨近于飽和狀態)

包括GitHub,Bitbucket,stack overflow,Reddit Tumblr,Twitter 和 Tuenti在內的知名網站,及亞馬遜網路服務系統都便用了Haproxy

二、Haproxy簡介

2.1常見的web集群調度器

目前常見的web集群調度器分為軟體和硬體
軟體通常使用開源的LVS、 Haproxy、Nginx

LVS性能最好,但是搭建相對復雜;Nginx的upstream模塊支持群集功能,但是對群集節點健康檢查功能不強,高并發性能沒有Haproxy好,

硬體一般使用比較多的是F5,也有很多人使用國內的一些產品,如梭子魚、綠盟等

2.2Haproxy應用分析

①LVS在企業應用中抗負載能力很強,但存在不足
②LVS不支持正則處理,不能實作動靜分離
③對于大型網站,LVS的實施配置復雜,維護成本相對較高

Haproxy是一款可提供高可用性、負載均衡、及基于TCP和HTTP應用的代理的軟體適用于負載大的web站點運行在硬體上可支持數以萬計的并發連接的連接請求

2.3Haproxy高性能負載均衡的主要優點:

①Haproxy在負載均衡速度和并發處理上是優于Nginx

②Haproxy支持虛擬主機,可以作業在四,七層

③能夠補充Nginx (以ip_hash的方式)的一些缺點,比如session的保持、Cookie的引導等作業

④支持以url的方式檢測后端的服務器的狀態

⑤Haproxy可以對Mysql進行負載均衡,對后端的DB節點進行檢測和負載均衡

⑥支持很多負載均衡演算法(豐富),Round-robin (輪詢) 、weight-round-robin(加權輪詢)、source hashing(原地址保持)、RI(請求URL) 、 rdp-cookie(根據cookie)

2.4四層與七層負教的主要|區別

四層負載均衡器是通過分析IP層及"TCP/UDP"層的流量實作的基于"IP+埠”的負載均衡,主要通過報文的目標地址和埠配合負載均衡演算法選擇后端真實服務器,確定是否需要對報文進行修改(根據需求,可能會修改目標地址、源地址、MAC地址等)并將資料轉發至選出的后端真實服務器,

七層負載均衡器是基于應用層資訊(如URL、Cookies等)的負載均衡,主要依據報文的內容配合負載均衡演算法選擇后端真實服務器,然后再分發請求到真實服務器進行處理,也稱"內容交換器",客戶端與負載均衡器、負載均衡器與后端真實服務器之間會分別建立TCP連接,

三、Haproxy調度演算法原理

Haproxy支持多種調度演算法,最常用的有三種

3.1 RR

RR (Round Robin) :RR演算法是最簡單常用的一種演算法,即輪詢調度

理解舉例
有三個節點A、B、C
第一個用戶訪問會被指派到節點A
第二個用戶訪問會被指派到節點B
第三個用戶訪問會被指派到節點C
第四個用戶訪問繼續指派到節點A,輪詢分配訪問請求實作負載均衡效果

3.2 LC

LC (Least Connections):最小連接數演算法,根據后端的節點連接數大小動態分配前端請求,

理解舉例
有三個節點A、B、C,各節點的連接數分別為A:4、B:5、C:6
第一個用戶連接請求,會被指派到A上,連接數變為A:5、B:5、C:6
第二個用戶請求會繼續分配到A上,連接數變為A:6、B:5、C:6;
再有新的請求會分配給B,每次將新的請求指派給連接數最小的客戶端由于實際情況下A、B、C的連接數會動態釋放,很難會出現一樣連接數的情況
此演算法相比較rr演算法有很大改進,是目前用到比較多的一種演算法

SH

SH (Source Hashing):基于來源訪問調度演算法,用于一些有session會話記錄在服務器端的場景,可以基于來源的IP、Cookie等做集群調度

理解舉例
有三個節點A、B、C,第一個用戶第一次訪問被指派到了A,第二個用戶第一次訪問被指派到了B

當第一個用戶第二次訪問時會被繼續指派到A,第二個用戶第二次訪問時依舊會被指派到B,只要負載均衡調度器不重啟,第一個用
戶訪問都會被指派到A,第二個用戶訪問都會被指派到B,實作集群的調度

此調度演算法好處是實作會話保持,但某些IP訪問量非常大時會引起負載不均衡,部分節點訪問量超大,影響業務使用

四、LVS、Haproxy、nginx區別

4.1 LVS和Haproxy應用分析

LVs在企業應用中抗負載均衡能力很強,但存在不足
LVS不支持正則處理,不能實作動靜分離
對于大型網站,LVS的實施配置復雜,維護成本相對較高

Haproxy是一塊可提供高可用性、負載均衡及基于TCP和HTTP應用的代理軟體
特別適合于負載特別大的web站點(可以承受高并發,可與Nginx配合)
運行在當前的硬體上可支持數以萬計的并發連接請求

4.2 nginx和Lvs、Haproxy的區別

①nginx
支持正則
只支持基于埠的健康檢查
不支持session的直接保持,但能通過IP_hash來解決
對網路穩定性要求不高
反向代理能力強
nginx社區活躍(社區:維護,更新服務的組織)

②Lvs
只能基于四層埠轉發
在四曇做分發作用,抗負教能力強
應用范圍廣(幾乎可以對所有應用做負教)
③Haproxy
支持8種負載均衡策略
僅做負載均衡軟體使用,在高并發情況下性能優于nginx支持URL健康檢測、支持session保持
對后端具備監控的能力

五、 部署haproxy-nginx服務

5.1 部署環境

happory 服務器一臺:  192.168.80.1
Nginx服務器兩臺:        192.168.80.2   192.168.80.3

5.2 安裝haproxy服務器

①三臺服務器同步阿里云服務器

ntpdate ntp2.aliyun.com 

②安裝組件

yum install -y pcre-devel bzip2-devel gcc gcc-c++ make

③上傳軟體包至/opt目錄,解壓

cd /opt
tar zxvf haproxy-1.5.19.tar.gz

④make編譯安裝

cd haproxy-1.5.19/
make TARGET=linux2628 ARCH=x86_64
make install

引數說明

TARGET=linux2628                          #內核版本
#使用uname -r 查看內核,如2.6.18-371.e15     #此時該引數用TARGET=linux26;kernel大于2.6.28的用TARGET=linux2628
ARCH=x86_64		                           #系統位數,64位系統

5.3Haproxy服務器配置

[root@hapory haproxy-1.5.19]# mkdir /etc/haproxy
[root@hapory haproxy-1.5.19]# cp examples/haproxy.cfg /etc/haproxy/
[root@hapory haproxy-1.5.19]# mkdir /etc/haproxy
[root@hapory haproxy-1.5.19]# cp examples/haproxy.cfg /etc/haproxy/
[root@hapory haproxy-1.5.19]# vim  /etc/haproxy/haproxy.cfg
#4~5行–修改,配置日志記錄,local0為日志設備,默認存放到系統日志
log /dev/log   local0 info		
log /dev/log   local0 notice
#log loghost    local0 info
maxconn 4096					#最大連接數,需考慮ulimit -n限制

#8行–注釋,chroot(改變根目錄),為該服務自設定的根目錄,一般需將此行注釋掉
#chroot /usr/share/haproxy
uid 99							#用戶UID
gid 99							#用戶GID
daemon							#守護行程模式

defaults        
log     global					#定義日志為global配置中的日志定義
mode    http					#模式為http
option  httplog					#采用http日志格式記錄日志
option  dontlognull				#不記錄健康檢查日志資訊
retries 3						#檢查節點服務器失敗次數,連續達到三次失敗,則認為節點不可用
redispatch						#當服務器負載很高時,自動結束當前佇列處理比較久的連接
maxconn 2000					#最大連接數
contimeout      5000			#連接超時時間
clitimeout      50000			#客戶端超時時間
srvtimeout      50000			#服務器超時時間

listen  webcluster 0.0.0.0:80		
    option httpchk GET /test.html	#檢查服務器的test.html檔案
    balance roundrobin				#負載均衡調度演算法使用輪詢演算法roundrobin
    server inst1 192.168.80.2:80 check inter 2000 fall 3		#定義在線節點
    server inst2 192.168.80.3:80 check inter 2000 fall 3
balance roundrobin		#負載均衡調度演算法
#輪詢演算法:roundrobin;最小連接數演算法:leastconn;來源訪問調度演算法:source hashing,
類似于nginx的ip_hash
check inter 2000		#表示haproxy服務器和節點之間的一個心跳頻率
fall 3					#表示連續三次檢測不到心跳頻率則認為該節點失效
若節點配置后帶有“backup”表示該節點只是個備份節點,只有主節點失效該節點才會上,不攜帶“backup”,表示為主節點,和其它主節點共同提供服務,

5.4 啟動Haproxy服務

[root@hapory haproxy-1.5.19]# cp /opt/haproxy-1.5.19/examples/haproxy.init /etc/init.d/haproxy
[root@hapory haproxy-1.5.19]# cd /etc/init.d/
[root@hapory init.d]# chmod +x haproxy
[root@hapory init.d]# chkconfig --add /etc/init.d/haproxy
[root@hapory init.d]# ln -s /usr/local/sbin/haproxy /usr/sbin/haproxy
[root@hapory haproxy]# service haproxy start

5.5編譯安裝Nginx服務器

①上傳nginx-1.15.9.tar.gz包至192.168.80.2服務器/opt目錄下

scp nginx-1.15.9.tar.gz  root@192.168.80.3:/opt #遠程拷貝

②安裝依賴環境

yum install -y pcre-devel zlib-devel gcc gcc-c++ make 

③創建用戶

useradd -M -s /sbin/nologin nginx

④解壓服務

cd /opt
tar zxvf nginx-1.12.0.tar.gz -C /opt/

⑤配置

cd nginx-1.12.0/
./configure --prefix=/usr/local/nginx --user=nginx --group=nginx

⑥編譯安裝

make && make install

⑦軟連接

ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/
nginx      啟動nginx 服務

⑧編輯訪問首頁

----192.168.80.2----
echo "this is my web" > /usr/local/nginx/html/test.html

----192.168.80.3----
echo "this is benet web" > /usr/local/nginx/html/test.html

5.6訪問測驗

192.168.80.1/test.html

在這里插入圖片描述

在這里插入圖片描述

haproxy 日志管理
①修改Haproxy組態檔中關于日志配置的選項,加入配置

log  / dev/log loacl0 info
log  /dev /log local0 notice

②修改rsyslog配置,將haproxy相關配置獨立定義到haproxy.conf,并放到/etc/rsyslog.d/下
保存組態檔并重啟rsyslog服務,完成rsyslog配置

六、Haproxy引數優化

隨著企業網站負載增加,haproxy引數優化相當重要

①maxconn:最大連接數,根據應用實際情況進行調整,推薦使用10 240

②daemon:守護行程模式,Haproxy可以使用非守護行程模式啟動,建議使用守護行程模式啟動

③nbproc:負載均衡的并發行程數,建議與當前服務器CPU核數相等或為其2倍

④ retries:重試次數,主要用于對集群節點的檢查,如果節點多,且并發量大,設定為2次或3次

⑤option http-server-close:主動關閉http請求選項,建議在生產環境中使用此選項

⑥timeout http-keep-alive:長連接超時時間,設定長連接超時時間,可以設定為10s

⑦timeout http-request: http請求超時時間,建議將此時間設定為5~10s,增加http連接、放速度

⑧timeout client:客戶端超時時間,如果訪問量過大,節點回應慢,可以將此時間設定短一些,建議設定為1min左右就可以了

七、小結

負載均衡:
如果是中小型的 web應用,比如日PV小于1000萬,用 Nginx就完全可以了;如果機器不少,可以用DNS輪詢,IVS所耗費的機器還是比較多的;大型網站或重要的服務,且服務器比較多時,可以考慮用LVS,

目前關于網站架構一般比較合理流行的架構方案: Web 前端采用Nginx/HAProxy+Keepalived作負載均衡器;后端采用MysQL資料庫一主多從和讀寫分離,采用LVS+Keepalived 的架構
PS:
PV(訪問量): Page View,即頁面瀏覽量或點擊量,用戶每次訪問即被計算一次,
UV(獨立訪客):Unique Visitor,訪問您網站的一臺電腦客戶端為一個訪客,00:00-24:00內相同的客戶端只會被計算一次.

轉載請註明出處,本文鏈接:https://www.uj5u.com/ruanti/290613.html

標籤:其他

上一篇:嘿!快跟C菌一起來看看這周都更新了些啥

下一篇:Nacos+Docker+Mysql快速集群搭建

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 面試突擊第一季,第二季,第三季

    第一季必考 https://www.bilibili.com/video/BV1FE411y79Y?from=search&seid=15921726601957489746 第二季分布式 https://www.bilibili.com/video/BV13f4y127ee/?spm_id_fro ......

    uj5u.com 2020-09-10 05:35:24 more
  • 第三單元作業總結

    1.前言 這應該是本學期最后一次寫作業總結了吧。總體來說,對作業的節奏也差不多掌握了,作業做起來的效率也更高了。雖然和之前的作業一樣,作業中都要用到新的知識,但是相比之前,更加懂得了如何利用工具以及資料。雖然之間卡過殼,但總體而言,這幾次作業還算完成的比較好。 2.作業程序總結 相比前兩個單元,此單 ......

    uj5u.com 2020-09-10 05:35:41 more
  • 北航OO(2020)第四單元博客作業暨課程總結博客

    北航OO(2020)第四單元博客作業暨課程總結博客 本單元作業的架構設計 在本單元中,由于UML圖具有比較清晰的樹形結構,因此我對其中需要進行查詢操作的元素進行了包裝,在樹的父節點中存盤所有孩子的參考。考慮到性能問題,我采用了快取機制,一次查詢后盡可能快取已經遍歷過的資訊,以減少遍歷次數。 本單元我 ......

    uj5u.com 2020-09-10 05:35:48 more
  • BUAA_OO_第四單元

    一、UML決議器設計 ? 先看下題目:第四單元實作一個基于JDK 8帶有效性檢查的UML(Unified Modeling Language)類圖,順序圖,狀態圖分析器 MyUmlInteraction,實際上我們要建立一個有向圖模型,UML中的物件(元素)可能與同級元素連接,也可與低級元素相連形成 ......

    uj5u.com 2020-09-10 05:35:54 more
  • 6.1邏輯運算子

    邏輯運算子 1. && 短路與 運算式1 && 運算式2 01.運算式1為true并且運算式2也為true 整體回傳為true 02.運算式1為false,將不會執行運算式2 整體回傳為false 03.只要有一個運算式為false 整體回傳為false 2. || 短路或 運算式1 || 運算式2 ......

    uj5u.com 2020-09-10 05:35:56 more
  • BUAAOO 第四單元 & 課程總結

    1. 第四單元:StarUml檔案決議 本單元采用了圖模型決議UML。 UML檔案可以抽象為圖、子圖、邊的邏輯結構。 在實作中,圖的節點包括類、介面、屬性,子圖包括狀態圖、順序圖等。 采用了三次遍歷UML元素的方法建圖,第一遍遍歷建點,第二、三次遍歷設定屬性、連邊,實作圖物件的初始化。這里借鑒了一些 ......

    uj5u.com 2020-09-10 05:36:06 more
  • 談談我對C# 多型的理解

    面向物件三要素:封裝、繼承、多型。 封裝和繼承,這兩個比較好理解,但要理解多型的話,可就稍微有點難度了。今天,我們就來講講多型的理解。 我們應該經常會看到面試題目:請談談對多型的理解。 其實呢,多型非常簡單,就一句話:呼叫同一種方法產生了不同的結果。 具體實作方式有三種。 一、多載 多載很簡單。 p ......

    uj5u.com 2020-09-10 05:36:09 more
  • Python 資料驅動工具:DDT

    背景 python 的unittest 沒有自帶資料驅動功能。 所以如果使用unittest,同時又想使用資料驅動,那么就可以使用DDT來完成。 DDT是 “Data-Driven Tests”的縮寫。 資料:http://ddt.readthedocs.io/en/latest/ 使用方法 dd. ......

    uj5u.com 2020-09-10 05:36:13 more
  • Python里面的xlrd模塊詳解

    那我就一下面積個問題對xlrd模塊進行學習一下: 1.什么是xlrd模塊? 2.為什么使用xlrd模塊? 3.怎樣使用xlrd模塊? 1.什么是xlrd模塊? ?python操作excel主要用到xlrd和xlwt這兩個庫,即xlrd是讀excel,xlwt是寫excel的庫。 今天就先來說一下xl ......

    uj5u.com 2020-09-10 05:36:28 more
  • 當我們創建HashMap時,底層到底做了什么?

    jdk1.7中的底層實作程序(底層基于陣列+鏈表) 在我們new HashMap()時,底層創建了默認長度為16的一維陣列Entry[ ] table。當我們呼叫map.put(key1,value1)方法向HashMap里添加資料的時候: 首先,呼叫key1所在類的hashCode()計算key1 ......

    uj5u.com 2020-09-10 05:36:38 more
最新发布
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:20:47 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:20:25 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:20:17 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:20:10 more
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:19:44 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:19:07 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:18:57 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:18:49 more
  • 05單件模式

    #經典的單件模式 public class Singleton { private static Singleton uniqueInstance; //一個靜態變數持有Singleton類的唯一實體。 // 其他有用的實體變數寫在這里 //構造器宣告為私有,只有Singleton可以實體化這個類! ......

    uj5u.com 2023-04-19 08:42:51 more
  • 【架構與設計】常見微服務分層架構的區別和落地實踐

    軟體工程的方方面面都遵循一個最基本的道理:沒有銀彈,架構分層模型更是如此,每一種都有各自優缺點,所以請根據不同的業務場景,并遵循簡單、可演進這兩個重要的架構原則選擇合適的架構分層模型即可。 ......

    uj5u.com 2023-04-19 08:42:41 more