主頁 > 資料庫 > 分布式編譯系統的搭建

分布式編譯系統的搭建

2023-04-27 08:48:49 資料庫

  • GreatSQL社區原創內容未經授權不得隨意使用,轉載請聯系小編并注明來源,
  • GreatSQL是MySQL的國產分支版本,使用上與MySQL一致,
  • 作者:dan
  • 文章來源:GreatSQL社區原創

由于MySQL 原始碼編譯單機耗費的時間過于長,最近MySQL 變成8.0.27 以后編譯時間明顯更耗時了,并且辦公室內有多余的空閑機器,

使用分布式編譯,可以在不改變現有環境的情況下,提高編譯效率,

目前比較常用的編譯工具有2個 distccicecream , 本文使用distcc 進行部署,

部署distcc

分為兩個部分一個是服務端,一個是客戶端

程式分別是distccddistcc

服務端

也是我們空余的設備上

可以基于Docker部署鏡像版本最好和客戶端一致,編譯器版本需求GCC 或者 Clang 一致

moyu22:/opt/distcc$ cat Dockerfile 
FROM ubuntu:20.04

RUN apt update && \
apt install  -y net-tools distcc gcc g++ clang-12 && \
apt clean && \
echo "#!/bin/bash \n distccd --daemon --no-detach --no-detach --user nobody --allow 0.0.0.0/0 --log-stderr --stats \${OPT}" > ./entrypoint.sh && \
chmod +x ./entrypoint.sh

# Run the generated shell script.
ENTRYPOINT ["./entrypoint.sh"]

打包一個distccd 的鏡像

docker build -f Dockerfile -t distcc .

Docker啟動

docker run -t -d -net=host distccd 

也可以使用docker-compose.yml啟動

version: '3'

services:
    distcc:
      image: "chestnutsj/distcc:latest"
      hostname: distcc
      container_name: distcc
      privileged: true
      ports:
        - 3632:3632
        - 3633:3633
docker-compose -f docker-compoe.yml  up -d 

默認情況下,將運行所有人都可以運行訪問,如果有需要認證可以在環境變數 OPT 中添加,或者修改默認的埠

客戶端

配置

本地環境 20.04 (),需要編譯專案的機器上,安裝distcc

moyu20: apt install -y distcc

在配置中添加服務器下的 /etc/distcc/hosts ,也可以在 $HOME/.distcc/hosts , 域名可以按照服務器優先級添加

hostname[/LIMIT]
192.168.1.102/32

默認的limit 數量是 4 如果需要更高的效率可以使用更高的數值用

root@dev:/# distcc -j
48
默認limit為 hostname * 4

單個檔案可以使用

distcc g++ t1.cpp

以MySQL原始碼為例

cmake mysql_source \
-DBUILD_TESTING=OFF -DUSE_GTAGS=OFF -DUSE_CTAGS=OFF \
-DCMAKE_BUILD_TYPE=RelWithDebInfo \
-DFEATURE_SET=community \
-DWITH_INNODB_MEMCACHED=ON -DWITH_ZLIB=bundled -DWITH_LIBEVENT=bundled -DWITH_ZSTD=bundled \
-DENABLE_DOWNLOADS=ON \
-DDOWNLOAD_BOOST=1 \
..

添加指定的編譯

 -DCMAKE_C_COMPILER_LAUNCHER=distcc
 -DCMAKE_CXX_COMPILER_LAUNCHER=distcc

編譯專案

make -j 32 

可以明顯降低編譯時間

監控

編譯期間可以查看distcc 使用情況

distccmon-text 1 間隔時間 1 秒

Enjoy GreatSQL ??

關于 GreatSQL

GreatSQL是由萬里資料庫維護的MySQL分支,專注于提升MGR可靠性及性能,支持InnoDB并行查詢特性,是適用于金融級應用的MySQL分支版本,

相關鏈接: GreatSQL社區 Gitee GitHub Bilibili

GreatSQL社區:

社區博客有獎征稿詳情:https://greatsql.cn/thread-100-1-1.html

image-20230105161905827

技術交流群:

微信:掃碼添加GreatSQL社區助手微信好友,發送驗證資訊加群

image-20221030163217640

轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/551348.html

標籤:其他

上一篇:[SQL Server 2008R2] 有關于判斷表、欄位、存過等元素是否存在相關SQL寫法

下一篇:返回列表

標籤雲
其他(158222) Python(38107) JavaScript(25395) Java(18001) C(15217) 區塊鏈(8260) C#(7972) AI(7469) 爪哇(7425) MySQL(7151) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5870) 数组(5741) R(5409) Linux(5329) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4562) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2431) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1960) Web開發(1951) HtmlCss(1928) python-3.x(1918) 弹簧靴(1913) C++(1912) xml(1889) PostgreSQL(1874) .NETCore(1855) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • GPU虛擬機創建時間深度優化

    **?桔妹導讀:**GPU虛擬機實體創建速度慢是公有云面臨的普遍問題,由于通常情況下創建虛擬機屬于低頻操作而未引起業界的重視,實際生產中還是存在對GPU實體創建時間有苛刻要求的業務場景。本文將介紹滴滴云在解決該問題時的思路、方法、并展示最終的優化成果。 從公有云服務商那里購買過虛擬主機的資深用戶,一 ......

    uj5u.com 2020-09-10 06:09:13 more
  • 可編程網卡芯片在滴滴云網路的應用實踐

    **?桔妹導讀:**隨著云規模不斷擴大以及業務層面對延遲、帶寬的要求越來越高,采用DPDK 加速網路報文處理的方式在橫向縱向擴展都出現了局限性。可編程芯片成為業界熱點。本文主要講述了可編程網卡芯片在滴滴云網路中的應用實踐,遇到的問題、帶來的收益以及開源社區貢獻。 #1. 資料中心面臨的問題 隨著滴滴 ......

    uj5u.com 2020-09-10 06:10:21 more
  • 滴滴資料通道服務演進之路

    **?桔妹導讀:**滴滴資料通道引擎承載著全公司的資料同步,為下游實時和離線場景提供了必不可少的源資料。隨著任務量的不斷增加,資料通道的整體架構也隨之發生改變。本文介紹了滴滴資料通道的發展歷程,遇到的問題以及今后的規劃。 #1. 背景 資料,對于任何一家互聯網公司來說都是非常重要的資產,公司的大資料 ......

    uj5u.com 2020-09-10 06:11:05 more
  • 滴滴AI Labs斬獲國際機器翻譯大賽中譯英方向世界第三

    **桔妹導讀:**深耕人工智能領域,致力于探索AI讓出行更美好的滴滴AI Labs再次斬獲國際大獎,這次獲獎的專案是什么呢?一起來看看詳細報道吧! 近日,由國際計算語言學協會ACL(The Association for Computational Linguistics)舉辦的世界最具影響力的機器 ......

    uj5u.com 2020-09-10 06:11:29 more
  • MPP (Massively Parallel Processing)大規模并行處理

    1、什么是mpp? MPP (Massively Parallel Processing),即大規模并行處理,在資料庫非共享集群中,每個節點都有獨立的磁盤存盤系統和記憶體系統,業務資料根據資料庫模型和應用特點劃分到各個節點上,每臺資料節點通過專用網路或者商業通用網路互相連接,彼此協同計算,作為整體提供 ......

    uj5u.com 2020-09-10 06:11:41 more
  • 滴滴資料倉庫指標體系建設實踐

    **桔妹導讀:**指標體系是什么?如何使用OSM模型和AARRR模型搭建指標體系?如何統一流程、規范化、工具化管理指標體系?本文會對建設的方法論結合滴滴資料指標體系建設實踐進行解答分析。 #1. 什么是指標體系 ##1.1 指標體系定義 指標體系是將零散單點的具有相互聯系的指標,系統化的組織起來,通 ......

    uj5u.com 2020-09-10 06:12:52 more
  • 單表千萬行資料庫 LIKE 搜索優化手記

    我們經常在資料庫中使用 LIKE 運算子來完成對資料的模糊搜索,LIKE 運算子用于在 WHERE 子句中搜索列中的指定模式。 如果需要查找客戶表中所有姓氏是“張”的資料,可以使用下面的 SQL 陳述句: SELECT * FROM Customer WHERE Name LIKE '張%' 如果需要 ......

    uj5u.com 2020-09-10 06:13:25 more
  • 滴滴Ceph分布式存盤系統優化之鎖優化

    **桔妹導讀:**Ceph是國際知名的開源分布式存盤系統,在工業界和學術界都有著重要的影響。Ceph的架構和演算法設計發表在國際系統領域頂級會議OSDI、SOSP、SC等上。Ceph社區得到Red Hat、SUSE、Intel等大公司的大力支持。Ceph是國際云計算領域應用最廣泛的開源分布式存盤系統, ......

    uj5u.com 2020-09-10 06:14:51 more
  • es~通過ElasticsearchTemplate進行聚合~嵌套聚合

    之前寫過《es~通過ElasticsearchTemplate進行聚合操作》的文章,這一次主要寫一個嵌套的聚合,例如先對sex集合,再對desc聚合,最后再對age求和,共三層嵌套。 Aggregations的部分特性類似于SQL語言中的group by,avg,sum等函式,Aggregation ......

    uj5u.com 2020-09-10 06:14:59 more
  • 爬蟲日志監控 -- Elastc Stack(ELK)部署

    傻瓜式部署,只需替換IP與用戶 導讀: 現ELK四大組件分別為:Elasticsearch(核心)、logstash(處理)、filebeat(采集)、kibana(可視化) 下載均在https://www.elastic.co/cn/downloads/下tar包,各組件版本最好一致,配合fdm會 ......

    uj5u.com 2020-09-10 06:15:05 more
最新发布
  • 分布式編譯系統的搭建

    GreatSQL社區原創內容未經授權不得隨意使用,轉載請聯系小編并注明來源。 GreatSQL是MySQL的國產分支版本,使用上與MySQL一致。 作者:dan 文章來源:GreatSQL社區原創 由于MySQL 原始碼編譯單機耗費的時間過于長,最近MySQL 變成8.0.27 以后編譯時間明顯更耗時 ......

    uj5u.com 2023-04-27 08:48:49 more
  • [SQL Server 2008R2] 有關于判斷表、欄位、存過等元素是否存在相

    表相關 普通表 查詢普通表是否存在可以使用object_id函式,下面的例子是查詢表“t_test”是否存在之后從而進行其他的DLL操作: if object_id('t_test') is not null begin -- 如果表存在 這段里面寫相關邏輯 select 1 end 臨時表 臨時表 ......

    uj5u.com 2023-04-27 08:48:33 more
  • Oracle 19c的引數sec_case_sensitive_logon與ORA-01017錯誤

    Oracle的引數sec_case_sensitive_logon是Oracle 11g開始被引入。這個引數主要是為了控制密碼的大小寫敏感問題。 sec_case_sensitive_logon=true表示密碼區分大小寫。 sec_case_sensitive_logon=false表示密碼不區分 ......

    uj5u.com 2023-04-27 08:48:02 more
  • mysql基礎練習(二)

    -- 創建表 drop table if exists emp; create table emp( empno int, ename varchar(50), job varchar(50), mgr int, hiredate date, sal decimal(7,2), comm decim ......

    uj5u.com 2023-04-27 08:47:41 more
  • MySql中執行計劃如何來的——Optimizer Trace

    當談到MySQL的執行計劃時,會有很多同學想:“我就覺得使用其他的執行方案比EXPLAIN陳述句輸出的方案強,憑什么優化器做的決定與我得不一樣?”。這個問題在MySQL 5.6之前或許自己很難解決,但是現在MySQL5.6及更高的版本中引入了Optimizer Trace。 ......

    uj5u.com 2023-04-27 08:47:38 more
  • MYSQL SQL查詢近7天,一個月的資料

    //今天 select * from 表名 where to_days(時間欄位名) = to_days(now()); //昨天 SELECT * FROM 表名 WHERE TO_DAYS( NOW( ) ) - TO_DAYS( 時間欄位名) <= 1 //近7天 SELECT * FROM ......

    uj5u.com 2023-04-27 08:47:33 more
  • day06-優惠券秒殺02

    功能03-優惠券秒殺02 4.功能03-優惠券秒殺 4.4一人一單 4.4.1需求分析 要求:修改秒殺業務,要求同一個優惠券,一個用戶只能下一單。 在之前的做法中,加入一個對用戶id和優惠券id的判斷,如果在優惠券下單表中已經存在,則表示該用戶對于這張優惠券已經下過單了,不允許重復購買 4.4.2代 ......

    uj5u.com 2023-04-26 08:26:12 more
  • 分析查詢陳述句:EXPLAIN

    一、概述 使用mysqldumpslow工具定位到慢查詢陳述句之后,可以使用explain或describe工具做針對性的分析查詢陳述句。 MySQL種有專門負責優化SELECT陳述句的優化器模塊:通過計算分析系統中收集到的統計資訊,為客戶端請求的Query提供他認為最優的執行計劃。 這個執行計劃展示了接 ......

    uj5u.com 2023-04-26 08:24:58 more
  • 在Linux上安裝redis7

    1.檢測虛擬機環境 1.1 bit檢測命令:getconf LONG_BIT(建議使用64bit做開發) 1.2 gcc環境檢測:gcc -v 如果不具備gcc環境,則使用yum -y install gcc- c++命令進行c++環境的安裝 2.開始安裝 2.1 下載redis: 進入官網找到下載 ......

    uj5u.com 2023-04-26 08:24:16 more
  • Oracle中常用的系統表

    1、如何快速修改用戶中涉及多個表中某個欄位型別 1)方法一: SELECT 'alter table '||TABLE_NAME||' modify '||COLUMN_NAME||' VARCHAR2('||DATA_LENGTH||');' --要alter的sql ,T.* FROM dba_ ......

    uj5u.com 2023-04-26 08:23:58 more