主頁 > 資料庫 > Redis 實作美團的外賣派單系統“附近的人”篩選實戰原理分析

Redis 實作美團的外賣派單系統“附近的人”篩選實戰原理分析

2020-09-14 13:49:18 資料庫

針對“附近的人”這一位置服務領域的應用場景,常見的可使用PG、MySQL和MongoDB等多種DB的空間索引進行實作,而Redis另辟蹊徑,結合其有序佇列zset以及geohash編碼,實作了空間搜索功能,且擁有極高的運行效率,本文將從原始碼角度對其演算法原理進行決議,并推算查詢時間復雜度,

操作命令

自Redis 3.2開始,Redis基于geohash和有序集合提供了地理位置相關功能,

Redis Geo模塊包含了以下6個命令:

GEOADD: 將給定的位置物件(緯度、經度、名字)添加到指定的key;

GEOPOS: 從key里面回傳所有給定位置物件的位置(經度和緯度);

GEODIST: 回傳兩個給定位置之間的距離;

GEOHASH: 回傳一個或多個位置物件的Geohash表示;

GEORADIUS: 以給定的經緯度為中心,回傳目標集合中與中心的距離不超過給定最大距離的所有位置物件;

GEORADIUSBYMEMBER: 以給定的位置物件為中心,回傳與其距離不超過給定最大距離的所有位置物件,

 

其中,組合使用GEOADD和GEORADIUS可實作“附近的人”中“增”和“查”的基本功能,要實作微信中“附近的人”功能,可直接使用GEORADIUSBYMEMBER命令,其中“給定的位置物件”即為用戶本人,搜索的物件為其他用戶,不過本質上,GEORADIUSBYMEMBER = GEOPOS + GEORADIUS,即先查找用戶位置再通過該位置搜索附近滿足位置相互距離條件的其他用戶物件,

以下會從原始碼角度入手對GEOADD和GEORADIUS命令進行分析,剖析其演算法原理,

 

Redis geo操作中只包含了“增”和“查”的操作,并沒有專門的“洗掉”命令,主要是因為Redis內部使用有序集合(zset)保存位置物件,可用zrem進行洗掉,

 

在Redis原始碼geo.c的檔案注釋中,只說明了該檔案為GEOADD、GEORADIUS和GEORADIUSBYMEMBER的實作檔案(其實在也實作了另三個命令),從側面看出其他三個命令為輔助命令,

 

GEOADD

使用方式

GEOADD key longitude latitude member [longitude latitude member ...]

復制代碼將給定的位置物件(緯度、經度、名字)添加到指定的key,

其中,key為集合名稱,member為該經緯度所對應的物件,在實際運用中,當所需存盤的物件數量過多時,可通過設定多key(如一個省一個key)的方式對物件集合變相做sharding,避免單集合數量過多,

成功插入后的回傳值:

(integer) N

復制代碼其中N為成功插入的個數,

原始碼分析

/* GEOADD key long lat name [long2 lat2 name2 ... longN latN nameN] */

void geoaddCommand(client *c) {

 

//引數校驗

    /* Check arguments number for sanity. */

    if ((c->argc - 2) % 3 != 0) {

        /* Need an odd number of arguments if we got this far... */

        addReplyError(c, "syntax error. Try GEOADD key [x1] [y1] [name1] "

                         "[x2] [y2] [name2] ... ");

        return;

    }

 

//引數提取Redis

    int elements = (c->argc - 2) / 3;

    int argc = 2+elements*2; /* ZADD key score ele ... */

    robj **argv = zcalloc(argc*sizeof(robj*));

    argv[0] = createRawStringObject("zadd",4);

    argv[1] = c->argv[1]; /* key */

    incrRefCount(argv[1]);

 

//引數遍歷+轉換

    /* Create the argument vector to call ZADD in order to add all

     * the score,value pairs to the requested zset, where score is actually

     * an encoded version of lat,long. */

    int i;

    for (i = 0; i < elements; i++) {

        double xy[2];

 

    //提取經緯度

        if (extractLongLatOrReply(c, (c->argv+2)+(i*3),xy) == C_ERR) {

            for (i = 0; i < argc; i++)

                if (argv[i]) decrRefCount(argv[i]);

            zfree(argv);

            return;

        }

    

    //將經緯度轉換為52位的geohash作為分值 & 提取物件名稱

        /* Turn the coordinates into the score of the element. */

        GeoHashBits hash;

        geohashEncodeWGS84(xy[0], xy[1], GEO_STEP_MAX, &hash);

        GeoHashFix52Bits bits = geohashAlign52Bits(hash);

        robj *score = createObject(OBJ_STRING, sdsfromlonglong(bits));

        robj *val = c->argv[2 + i * 3 + 2];

 

    //設定有序集合的物件元素名稱和分值

        argv[2+i*2] = score;

        argv[3+i*2] = val;

        incrRefCount(val);

    }

 

//呼叫zadd命令,存盤轉化好的物件

    /* Finally call ZADD that will do the work for us. */

    replaceClientCommandVector(c,argc,argv);

    zaddCommand(c);

}

復制代碼通過原始碼分析可以看出Redis內部使用有序集合(zset)保存位置物件,有序集合中每個元素都是一個帶位置的物件,元素的score值為其經緯度對應的52位的geohash值,

 

double型別精度為52位;

geohash是以base32的方式編碼,52bits最高可存盤10位geohash值,對應地理區域大小為0.6*0.6米的格子,換句話說經Redis geo轉換過的位置理論上會有約0.3*1.414=0.424米的誤差,

 

演算法小結

總結下GEOADD命令都干了啥:

1、引數提取和校驗;

2、將入參經緯度轉換為52位的geohash值(score);

3、呼叫ZADD命令將member及其對應的score存入集合key中,
 

GEORADIUS

使用方式

GEORADIUS key longitude latitude radius m|km|ft|mi [WITHCOORD] [WITHDIST] [WITHHASH] [ASC|DESC] [COUNT count] [STORE key] [STORedisT key]

復制代碼以給定的經緯度為中心,回傳目標集合中與中心的距離不超過給定最大距離的所有位置物件,

范圍單位:m | km | ft | mi --> 米 | 千米 | 英尺 | 英里

額外引數:

- WITHDIST:在回傳位置物件的同時,將位置物件與中心之間的距離也一并回傳,距離的單位和用戶給定的范圍單位保持一致,

- WITHCOORD:將位置物件的經度和維度也一并回傳,

- WITHHASH:以 52 位有符號整數的形式,回傳位置物件經過原始 geohash 編碼的有序集合分值,這個選項主要用于底層應用或者除錯,實際中的作用并不大,

- ASC|DESC:從近到遠回傳位置物件元素 | 從遠到近回傳位置物件元素,

- COUNT count:選取前N個匹配位置物件元素,(不設定則回傳所有元素)

- STORE key:將回傳結果的地理位置資訊保存到指定key,

- STORedisT key:將回傳結果離中心點的距離保存到指定key,

 

由于 STORE 和 STORedisT 兩個選項的存在,GEORADIUS 和 GEORADIUSBYMEMBER 命令在技術上會被標記為寫入命令,從而只會查詢(寫入)主實體,QPS過高時容易造成主實體讀寫壓力過大,

為解決這個問題,在 Redis 3.2.10 和 Redis 4.0.0 中,分別新增了 GEORADIUS_RO 和 GEORADIUSBYMEMBER_RO兩個只讀命令,

 

成功查詢后的回傳值:

不帶WITH限定,回傳一個member list,如:

["member1","member2","member3"]

復制代碼帶WITH限定,member list中每個member也是一個嵌套list,如:

[

["member1", distance1, [longitude1, latitude1]]

["member2", distance2, [longitude2, latitude2]]

]

 

復制代碼原始碼分析

 

此段原始碼較長,看不下去的可直接看中文注釋,或直接跳到小結部分

 

/* GEORADIUS key x y radius unit [WITHDIST] [WITHHASH] [WITHCOORD] [ASC|DESC]

 *                               [COUNT count] [STORE key] [STORedisT key]

 * GEORADIUSBYMEMBER key member radius unit ... options ... */

void georadiusGeneric(client *c, int flags) {

    robj *key = c->argv[1];

    robj *storekey = NULL;

    int stoRedist = 0; /* 0 for STORE, 1 for STORedisT. */

 

//根據key獲取有序集合

    robj *zobj = NULL;

    if ((zobj = lookupKeyReadOrReply(c, key, shared.null[c->resp])) == NULL ||

        checkType(c, zobj, OBJ_ZSET)) {

        return;

    }

 

//根據用戶輸入(經緯度/member)確認中心點經緯度

    int base_args;

    double xy[2] = { 0 };

    if (flags & RADIUS_COORDS) {

……

    }

 

//獲取查詢范圍距離

    double radius_meters = 0, conversion = 1;

    if ((radius_meters = extractDistanceOrReply(c, c->argv + base_args - 2,

                                                &conversion)) < 0) {

        return;

    }

 

//獲取可選引數 (withdist、withhash、withcoords、sort、count)

    int withdist = 0, withhash = 0, withcoords = 0;

    int sort = SORT_NONE;

    long long count = 0;

    if (c->argc > base_args) {

        ... ...

    }

 

//獲取 STORE 和 STORedisT 引數

    if (storekey && (withdist || withhash || withcoords)) {

        addReplyError(c,

            "STORE option in GEORADIUS is not compatible with "

            "WITHDIST, WITHHASH and WITHCOORDS options");

        return;

    }

 

//設定排序

    if (count != 0 && sort == SORT_NONE) sort = SORT_ASC;

 

//利用中心點和半徑計算目標區域范圍

    GeoHashRadius georadius =

        geohashGetAreasByRadiusWGS84(xy[0], xy[1], radius_meters);

 

//對中心點及其周圍8個geohash網格區域進行查找,找出范圍內元素物件

    geoArray *ga = geoArrayCreate();

    membersOfAllNeighbors(zobj, georadius, xy[0], xy[1], radius_meters, ga);

 

//未匹配返空

    /* If no matching results, the user gets an empty reply. */

    if (ga->used == 0 && storekey == NULL) {

        addReplyNull(c);

        geoArrayFree(ga);

        return;

    }

 

//一些回傳值的設定和回傳

    ……

    geoArrayFree(ga);

}

 

復制代碼上文代碼中最核心的步驟有兩個,一是“計算中心點范圍”,二是“對中心點及其周圍8個geohash網格區域進行查找”,對應的是geohashGetAreasByRadiusWGS84和membersOfAllNeighbors兩個函式,我們依次來看:

 

計算中心點范圍:

 

// geohash_helper.c

GeoHashRadius geohashGetAreasByRadiusWGS84(double longitude, double latitude,

                                           double radius_meters) {

    return geohashGetAreasByRadius(longitude, latitude, radius_meters);

}

 

//回傳能夠覆寫目標區域范圍的9個geohashBox

GeoHashRadius geohashGetAreasByRadius(double longitude, double latitude, double radius_meters) {

//一些引數設定

    GeoHashRange long_range, lat_range;

    GeoHashRadius radius;

    GeoHashBits hash;

    GeoHashNeighbors neighbors;

    GeoHashArea area;

    double min_lon, max_lon, min_lat, max_lat;

    double bounds[4];

    int steps;

 

//計算目標區域外接矩形的經緯度范圍(目標區域為:以目標經緯度為中心,半徑為指定距離的圓)

    geohashBoundingBox(longitude, latitude, radius_meters, bounds);

    min_lon = bounds[0];

    min_lat = bounds[1];

    max_lon = bounds[2];

    max_lat = bounds[3];

 

//根據目標區域中心點緯度和半徑,計算帶查詢的9個搜索框的geohash精度(位)

//這里用到latitude主要是針對極地的情況對精度進行了一些調整(緯度越高,位數越小)

    steps = geohashEstimateStepsByRadius(radius_meters,latitude);

 

//設定經緯度最大最小值:-180<=longitude<=180, -85<=latitude<=85

    geohashGetCoordRange(&long_range,&lat_range);

    

//將待查經緯度按指定精度(steps)編碼成geohash值

    geohashEncode(&long_range,&lat_range,longitude,latitude,steps,&hash);

    

//將geohash值在8個方向上進行擴充,確定周圍8個Box(neighbors)

    geohashNeighbors(&hash,&neighbors);

    

//根據hash值確定area經緯度范圍

    geohashDecode(long_range,lat_range,hash,&area);

 

//一些特殊情況處理

    ……

 

//構建并回傳結果    

    radius.hash = hash;

    radius.neighbors = neighbors;

    radius.area = area;

    return radius;

}

 

復制代碼

對中心點及其周圍8個geohash網格區域進行查找:

 

// geo.c

//在9個hashBox中獲取想要的元素

int membersOfAllNeighbors(robj *zobj, GeoHashRadius n, double lon, double lat, double radius, geoArray *ga) {

    GeoHashBits neighbors[9];

    unsigned int i, count = 0, last_processed = 0;

    int debugmsg = 0;

 

//獲取9個搜索hashBox

    neighbors[0] = n.hash;

    neighbors[8] = n.neighbors.south_west;

 

//在每個hashBox中搜索目標點

    for (i = 0; i < sizeof(neighbors) / sizeof(*neighbors); i++) {

        if (HASHISZERO(neighbors[i])) {

            if (debugmsg) D("neighbors[%d] is zero",i);

            continue;

        }

 

//剔除可能的重復hashBox (搜索半徑>5000KM時可能出現)

        if (last_processed &&

            neighbors[i].bits == neighbors[last_processed].bits &&

            neighbors[i].step == neighbors[last_processed].step)

        {

            continue;

        }

 

//搜索hashBox中滿足條件的物件    

        count += membersOfGeoHashBox(zobj, neighbors[i], ga, lon, lat, radius);

        last_processed = i;

    }

    return count;

}

 

 

int membersOfGeoHashBox(robj *zobj, GeoHashBits hash, geoArray *ga, double lon, double lat, double radius) {

//獲取hashBox內的最大、最小geohash值(52位)

    GeoHashFix52Bits min, max;

    scoresOfGeoHashBox(hash,&min,&max);

 

//根據最大、最小geohash值篩選zobj集合中滿足條件的點

    return geoGetPointsInRange(zobj, min, max, lon, lat, radius, ga);

}

 

 

int geoGetPointsInRange(robj *zobj, double min, double max, double lon, double lat, double radius, geoArray *ga) {

 

//搜索Range的引數邊界設定(即9個hashBox其中一個的邊界范圍)

    zrangespec range = { .min = min, .max = max, .minex = 0, .maxex = 1 };

    size_t origincount = ga->used;

    sds member;

 

//搜索集合zobj可能有ZIPLIST和SKIPLIST兩種編碼方式,這里以SKIPLIST為例,邏輯是一樣的

    if (zobj->encoding == OBJ_ENCODING_ZIPLIST) {

        ……

    } else if (zobj->encoding == OBJ_ENCODING_SKIPLIST) {

        zset *zs = zobj->ptr;

        zskiplist *zsl = zs->zsl;

        zskiplistNode *ln;

 

//獲取在hashBox范圍內的首個元素(跳表資料結構,效率可比擬于二叉查找樹),沒有則返0

        if ((ln = zslFirstInRange(zsl, &range)) == NULL) {

            /* Nothing exists starting at our min.  No results. */

            return 0;

        }

 

//從首個元素開始遍歷集合

        while (ln) {

            sds ele = ln->ele;

//遍歷元素超出range范圍則break

            /* Abort when the node is no longer in range. */

            if (!zslValueLteMax(ln->score, &range))

                break;

//元素校驗(計算元素與中心點的距離)

            ele = sdsdup(ele);

            if (geoAppendIfWithinRadius(ga,lon,lat,radius,ln->score,ele)

                == C_ERR) sdsfree(ele);

            ln = ln->level[0].forward;

        }

    }

    return ga->used - origincount;

}

 

int geoAppendIfWithinRadius(geoArray *ga, double lon, double lat, double radius, double score, sds member) {

    double distance, xy[2];

 

//解碼錯誤, 回傳error

    if (!decodeGeohash(score,xy)) return C_ERR; /* Can't decode. */

 

//最終距離校驗(計算球面距離distance看是否小于radius)

    if (!geohashGetDistanceIfInRadiusWGS84(lon,lat, xy[0], xy[1],

                                           radius, &distance))

    {

        return C_ERR;

    }

 

//構建并回傳滿足條件的元素

    geoPoint *gp = geoArrayAppend(ga);

    gp->longitude = xy[0];

    gp->latitude = xy[1];

    gp->dist = distance;

    gp->member = member;

    gp->score = score;

    return C_OK;

}

 

 

復制代碼演算法小結

拋開眾多可選引數不談,簡單總結下GEORADIUS命令是怎么利用geohash獲取目標位置物件的:

1、引數提取和校驗;

2、利用中心點和輸入半徑計算待查區域范圍,這個范圍引數包括滿足條件的最高的geohash網格等級(精度) 以及 對應的能夠覆寫目標區域的九宮格位置;(后續會有詳細說明)

3、對九宮格進行遍歷,根據每個geohash網格的范圍框選出位置物件,進一步找出與中心點距離小于輸入半徑的物件,進行回傳,

通過如下兩張圖在對演算法進行簡單的演示:

圖片

 

令左圖的中心為搜索中心,綠色圓形區域為目標區域,所有點為待搜索的位置物件,紅色點則為滿足條件的位置物件,

在實際搜索時,首先會根據搜索半徑計算geohash網格等級(即右圖中網格大小等級),并確定九宮格位置(即紅色九宮格位置資訊);再依次查找計算九宮格中的點(藍點和紅點)與中心點的距離,最終篩選出距離范圍內的點(紅點),

演算法分析

為什么要用這種演算法策略進行查詢,或者說這種策略的優勢在哪,
 

為什么要找到滿足條件的最高的geohash網格等級?為什么用九宮格?
 

這其實是一個問題,本質上是對所有的元素物件進行了一次初步篩選,  在多層geohash網格中,每個低等級的geohash網格都是由4個高一級的網格拼接而成(如圖),

圖片

換句話說,geohash網格等級越高,所覆寫的地理位置范圍就越小, 當我們根據輸入半徑和中心點位置計算出的能夠覆寫目標區域的最高等級的九宮格(網格)時,就已經對九宮格外的元素進行了篩除, 這里之所以使用九宮格,而不用單個網格,主要原因還是為了避免邊界情況,盡可能縮小查詢區域范圍,試想以0經緯度為中心,就算查1米范圍,單個網格覆寫的話也得查整個地球區域,而向四周八個方向擴展一圈可有效避免這個問題,

 

如何通過geohash網格的范圍框選出元素物件?效率如何?

首先在每個geohash網格中的geohash值都是連續的,有固定范圍,所以只要找出有序集合中,處在該范圍的位置物件即可,以下是有序集合的跳表資料結構:
圖片
 

其擁有類似二叉查找樹的查詢效率,操作平均時間復雜性為O(log(N)),且最底層的所有元素都以鏈表的形式按序排列,所以在查詢時,只要找到集合中處在目標geohash網格中的第一個值,后續依次對比即可,不用多次查找,  九宮格不能一起查,要一個個遍歷的原因也在于九宮格各網格對應的geohash值不具有連續性,只有連續了,查詢效率才會高,不然要多做許多距離運算,

綜上,從原始碼角度決議了Redis Geo模塊中 “增(GEOADD)” 和 “查(GEORADIUS)” 的詳細程序,并可推算出Redis中GEORADIUS查找附近的人功能,時間復雜度為:O(N+log(M)),其中N為指定半徑范圍內的位置元素數量,而M則是被九宮格圈住計算距離的元素的數量,結合Redis本身基于記憶體的存盤特性,在實際使用程序中有非常高的運行效率,

Redis的使用并不只有快取的一個型別,而是針對不同的場景需要找到相關應用的資料型別來完善,對于Redis原始碼有敢興趣的同學,可以加入群聊獲取,并交流相關問題:647617935

 

轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/35501.html

標籤:NoSQL

上一篇:ElasticSearch7 設定外網訪問失敗

下一篇:python通過連接池連接redis,操作redis佇列

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • GPU虛擬機創建時間深度優化

    **?桔妹導讀:**GPU虛擬機實體創建速度慢是公有云面臨的普遍問題,由于通常情況下創建虛擬機屬于低頻操作而未引起業界的重視,實際生產中還是存在對GPU實體創建時間有苛刻要求的業務場景。本文將介紹滴滴云在解決該問題時的思路、方法、并展示最終的優化成果。 從公有云服務商那里購買過虛擬主機的資深用戶,一 ......

    uj5u.com 2020-09-10 06:09:13 more
  • 可編程網卡芯片在滴滴云網路的應用實踐

    **?桔妹導讀:**隨著云規模不斷擴大以及業務層面對延遲、帶寬的要求越來越高,采用DPDK 加速網路報文處理的方式在橫向縱向擴展都出現了局限性。可編程芯片成為業界熱點。本文主要講述了可編程網卡芯片在滴滴云網路中的應用實踐,遇到的問題、帶來的收益以及開源社區貢獻。 #1. 資料中心面臨的問題 隨著滴滴 ......

    uj5u.com 2020-09-10 06:10:21 more
  • 滴滴資料通道服務演進之路

    **?桔妹導讀:**滴滴資料通道引擎承載著全公司的資料同步,為下游實時和離線場景提供了必不可少的源資料。隨著任務量的不斷增加,資料通道的整體架構也隨之發生改變。本文介紹了滴滴資料通道的發展歷程,遇到的問題以及今后的規劃。 #1. 背景 資料,對于任何一家互聯網公司來說都是非常重要的資產,公司的大資料 ......

    uj5u.com 2020-09-10 06:11:05 more
  • 滴滴AI Labs斬獲國際機器翻譯大賽中譯英方向世界第三

    **桔妹導讀:**深耕人工智能領域,致力于探索AI讓出行更美好的滴滴AI Labs再次斬獲國際大獎,這次獲獎的專案是什么呢?一起來看看詳細報道吧! 近日,由國際計算語言學協會ACL(The Association for Computational Linguistics)舉辦的世界最具影響力的機器 ......

    uj5u.com 2020-09-10 06:11:29 more
  • MPP (Massively Parallel Processing)大規模并行處理

    1、什么是mpp? MPP (Massively Parallel Processing),即大規模并行處理,在資料庫非共享集群中,每個節點都有獨立的磁盤存盤系統和記憶體系統,業務資料根據資料庫模型和應用特點劃分到各個節點上,每臺資料節點通過專用網路或者商業通用網路互相連接,彼此協同計算,作為整體提供 ......

    uj5u.com 2020-09-10 06:11:41 more
  • 滴滴資料倉庫指標體系建設實踐

    **桔妹導讀:**指標體系是什么?如何使用OSM模型和AARRR模型搭建指標體系?如何統一流程、規范化、工具化管理指標體系?本文會對建設的方法論結合滴滴資料指標體系建設實踐進行解答分析。 #1. 什么是指標體系 ##1.1 指標體系定義 指標體系是將零散單點的具有相互聯系的指標,系統化的組織起來,通 ......

    uj5u.com 2020-09-10 06:12:52 more
  • 單表千萬行資料庫 LIKE 搜索優化手記

    我們經常在資料庫中使用 LIKE 運算子來完成對資料的模糊搜索,LIKE 運算子用于在 WHERE 子句中搜索列中的指定模式。 如果需要查找客戶表中所有姓氏是“張”的資料,可以使用下面的 SQL 陳述句: SELECT * FROM Customer WHERE Name LIKE '張%' 如果需要 ......

    uj5u.com 2020-09-10 06:13:25 more
  • 滴滴Ceph分布式存盤系統優化之鎖優化

    **桔妹導讀:**Ceph是國際知名的開源分布式存盤系統,在工業界和學術界都有著重要的影響。Ceph的架構和演算法設計發表在國際系統領域頂級會議OSDI、SOSP、SC等上。Ceph社區得到Red Hat、SUSE、Intel等大公司的大力支持。Ceph是國際云計算領域應用最廣泛的開源分布式存盤系統, ......

    uj5u.com 2020-09-10 06:14:51 more
  • es~通過ElasticsearchTemplate進行聚合~嵌套聚合

    之前寫過《es~通過ElasticsearchTemplate進行聚合操作》的文章,這一次主要寫一個嵌套的聚合,例如先對sex集合,再對desc聚合,最后再對age求和,共三層嵌套。 Aggregations的部分特性類似于SQL語言中的group by,avg,sum等函式,Aggregation ......

    uj5u.com 2020-09-10 06:14:59 more
  • 爬蟲日志監控 -- Elastc Stack(ELK)部署

    傻瓜式部署,只需替換IP與用戶 導讀: 現ELK四大組件分別為:Elasticsearch(核心)、logstash(處理)、filebeat(采集)、kibana(可視化) 下載均在https://www.elastic.co/cn/downloads/下tar包,各組件版本最好一致,配合fdm會 ......

    uj5u.com 2020-09-10 06:15:05 more
最新发布
  • day02-2-商鋪查詢快取

    功能02-商鋪查詢快取 3.商鋪詳情快取查詢 3.1什么是快取? 快取就是資料交換的緩沖區(稱作Cache),是存盤資料的臨時地方,一般讀寫性能較高。 快取的作用: 降低后端負載 提高讀寫效率,降低回應時間 快取的成本: 資料一致性成本 代碼維護成本 運維成本 3.2需求說明 如下,當我們點擊商店詳 ......

    uj5u.com 2023-04-20 08:33:24 more
  • MySQL中binlog備份腳本分享

    關于MySQL的二進制日志(binlog),我們都知道二進制日志(binlog)非常重要,尤其當你需要point to point災難恢復的時侯,所以我們要對其進行備份。關于二進制日志(binlog)的備份,可以基于flush logs方式先切換binlog,然后拷貝&壓縮到到遠程服務器或本地服務器 ......

    uj5u.com 2023-04-20 08:28:06 more
  • day02-短信登錄

    功能實作02 2.功能01-短信登錄 2.1基于Session實作登錄 2.1.1思路分析 2.1.2代碼實作 2.1.2.1發送短信驗證碼 發送短信驗證碼: 發送驗證碼的介面為:http://127.0.0.1:8080/api/user/code?phone=xxxxx<手機號> 請求方式:PO ......

    uj5u.com 2023-04-20 08:27:27 more
  • 快取與資料庫雙寫一致性幾種策略分析

    本文將對幾種快取與資料庫保證資料一致性的使用方式進行分析。為保證高并發性能,以下分析場景不考慮執行的原子性及加鎖等強一致性要求的場景,僅追求最終一致性。 ......

    uj5u.com 2023-04-20 08:26:48 more
  • sql陳述句優化

    問題查找及措施 問題查找 需要找到具體的代碼,對其進行一對一優化,而非一直把關注點放在服務器和sql平臺 降低簡化每個事務中處理的問題,盡量不要讓一個事務拖太長的時間 例如檔案上傳時,應將檔案上傳這一步放在事務外面 微軟建議 4.啟動sql定時執行計劃 怎么啟動sqlserver代理服務-百度經驗 ......

    uj5u.com 2023-04-20 08:26:35 more
  • 云時代,MySQL到ClickHouse資料同步產品對比推薦

    ClickHouse 在執行分析查詢時的速度優勢很好的彌補了MySQL的不足,但是對于很多開發者和DBA來說,如何將MySQL穩定、高效、簡單的同步到 ClickHouse 卻很困難。本文對比了 NineData、MaterializeMySQL(ClickHouse自帶)、Bifrost 三款產品... ......

    uj5u.com 2023-04-20 08:26:29 more
  • sql陳述句優化

    問題查找及措施 問題查找 需要找到具體的代碼,對其進行一對一優化,而非一直把關注點放在服務器和sql平臺 降低簡化每個事務中處理的問題,盡量不要讓一個事務拖太長的時間 例如檔案上傳時,應將檔案上傳這一步放在事務外面 微軟建議 4.啟動sql定時執行計劃 怎么啟動sqlserver代理服務-百度經驗 ......

    uj5u.com 2023-04-20 08:25:13 more
  • Redis 報”OutOfDirectMemoryError“(堆外記憶體溢位)

    Redis 報錯“OutOfDirectMemoryError(堆外記憶體溢位) ”問題如下: 一、報錯資訊: 使用 Redis 的業務介面 ,產生 OutOfDirectMemoryError(堆外記憶體溢位),如圖: 格式化后的報錯資訊: { "timestamp": "2023-04-17 22: ......

    uj5u.com 2023-04-20 08:24:54 more
  • day02-2-商鋪查詢快取

    功能02-商鋪查詢快取 3.商鋪詳情快取查詢 3.1什么是快取? 快取就是資料交換的緩沖區(稱作Cache),是存盤資料的臨時地方,一般讀寫性能較高。 快取的作用: 降低后端負載 提高讀寫效率,降低回應時間 快取的成本: 資料一致性成本 代碼維護成本 運維成本 3.2需求說明 如下,當我們點擊商店詳 ......

    uj5u.com 2023-04-20 08:24:03 more
  • day02-短信登錄

    功能實作02 2.功能01-短信登錄 2.1基于Session實作登錄 2.1.1思路分析 2.1.2代碼實作 2.1.2.1發送短信驗證碼 發送短信驗證碼: 發送驗證碼的介面為:http://127.0.0.1:8080/api/user/code?phone=xxxxx<手機號> 請求方式:PO ......

    uj5u.com 2023-04-20 08:23:11 more