主頁 > 資料庫 > day08-優惠券秒殺04

day08-優惠券秒殺04

2023-04-29 07:30:43 資料庫

功能03-優惠券秒殺04

4.功能03-優惠券秒殺

4.7Redis優化秒殺

4.7.1優化分析

現在來回顧一下優惠券秒殺業務的兩個主要問題:

(1)首先是對優惠券的扣減,需要防止庫存超賣現象;

(2)其次,需要對每個用戶下單數量進行限制,實作一人一單的功能,

處理秒殺優惠券的業務:

  1. 先根據獲取到的優惠券id,先到資料庫中判斷是否存在,若存在;

  2. 再判斷優惠券是否在設定的有效期,如果是,則進行一人一單的業務處理:

    • 2.1 利用分布式鎖,key存盤的是order+用戶id:當同一時間,一個用戶發起了多個執行緒請求,其中的某個執行緒獲取到了鎖,由于互斥性,無論這個用戶發起了多少個請求,只有一個執行緒能進入接下來的業務,(不同用戶發起的不同執行緒之間不影響)

    • 2.2 接下來,查詢該用戶是否已經買過這張秒殺券了,如果買過了,則不允許重復購買,如果是第一次購買,就進入到防止超賣的業務:

      • 2.2.1 到這一步可能會有多個用戶的單個執行緒進入這個業務,為了防止超賣問題,這里使用樂觀鎖方案,樂觀鎖的關鍵是判斷之前查詢到的資料是否有被修改過,但缺點是失敗率高,因此我們又使用了mysql的行鎖解決,(詳見day05-優惠券秒殺01)

因為整個程序有很多對資料庫的操作(查詢優惠券、查詢訂單、減庫存、創建訂單),因此這個業務的性能并不是很好:

優化前:

image-20230428143447674

上述業務看似復雜,實際上只有兩個程序:(1)對于用戶資格的校驗:庫存夠不夠,該用戶買沒買過(一人一單)(2)然后才是真正的下單業務,

我們可以對這兩個程序進行分離,別分使用兩個執行緒進行操作:主執行緒負責對用戶購買資格的校驗,如果有購買的資格,再開啟一個獨立的執行緒,來處理耗時較久的減庫存和創建訂單操作,

為了提高效率,使用redis判斷秒殺庫存和校驗一人一單,如果校驗通過,則redis會記錄優惠券資訊、用戶資訊、訂單資訊到阻塞佇列,一方面:tomcat服務器去讀取這個佇列的資訊,完成下單,另一方面:redis給用戶回傳一個訂單號,代表該用戶搶單成功,用戶可以根據這個訂單號去付款,

優化后:

image-20230428145250904

這樣,整個秒殺流程就變為:直接在redis中判斷用戶的秒殺資格和庫存,然后將資訊保存到佇列里,

秒殺業務的流程變短了,而且是基于Redis,性能得到很大的提升,整個業務的吞吐能力、并發能力可以大大提高了,

那么,如何在Redis中完成對秒殺庫存的判斷和一人一單的判斷呢?

首先是對資料的存盤:

  1. 使用String型別,key存盤 業務前綴+秒殺券id,value保存優惠券對應的庫存;
  2. 因為要保證一人一單,使用set型別,key保存業務前綴+秒殺券id,value保存下單的用戶id,保證元素不可重復,
image-20230428154321311

優化后,在Redis中需要執行的具體流程:

image-20230428154505332

異步秒殺優化總結:

上述的優化操作,一方面縮短了秒殺業務的流程,從而大大提高了秒殺業務的并發;另一方面,redis的操作和資料庫的操作是異步的,對資料庫操作的時效性不再要求那么高了,減輕了資料庫的壓力,

4.7.2代碼實作

改進秒殺業務,提高并發性能,需求:

  1. 新增秒殺優惠券的同時,將優惠券資訊保存到Redis中
  2. 基于Lua腳本,判斷秒殺庫存、一人一單,決定用戶是否搶占成功
  3. 如果搶占成功,將優惠券id和用戶id封裝后存入阻塞佇列
  4. 開啟執行緒任務,不斷地從阻塞佇列中獲取資訊,實作異步下單功能

需求1:新增秒殺優惠券的同時,將優惠券資訊保存到Redis中

(1.1)修改IVoucherService

package com.hmdp.service;

import com.baomidou.mybatisplus.extension.service.IService;
import com.hmdp.dto.Result;
import com.hmdp.entity.Voucher;

/**
 *  服務類
 *
 * @author 李
 * @version 1.0
 */
public interface IVoucherService extends IService<Voucher> {
    void addSeckillVoucher(Voucher voucher);
}

(1.2)修改VoucherServiceImpl

package com.hmdp.service.impl;

import com.baomidou.mybatisplus.extension.service.impl.ServiceImpl;
import com.hmdp.entity.Voucher;
import com.hmdp.mapper.VoucherMapper;
import com.hmdp.entity.SeckillVoucher;
import com.hmdp.service.ISeckillVoucherService;
import com.hmdp.service.IVoucherService;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.stereotype.Service;
import org.springframework.transaction.annotation.Transactional;

import javax.annotation.Resource;

import static com.hmdp.utils.RedisConstants.SECKILL_STOCK_KEY;

/**
 * 服務實作類
 *
 * @author 李
 * @version 1.0
 */
@Service
public class VoucherServiceImpl extends ServiceImpl<VoucherMapper, Voucher> implements IVoucherService {

    @Resource
    private ISeckillVoucherService seckillVoucherService;

    @Resource
    private StringRedisTemplate stringRedisTemplate;

    @Override
    @Transactional
    public void addSeckillVoucher(Voucher voucher) {
        // 保存優惠券到資料庫
        save(voucher);
        // 保存秒殺優惠券資訊到資料庫
        SeckillVoucher seckillVoucher = new SeckillVoucher();
        seckillVoucher.setVoucherId(voucher.getId());
        seckillVoucher.setStock(voucher.getStock());
        seckillVoucher.setBeginTime(voucher.getBeginTime());
        seckillVoucher.setEndTime(voucher.getEndTime());
        seckillVoucherService.save(seckillVoucher);
        //保存秒殺庫存到Redis中
        stringRedisTemplate.opsForValue().set(SECKILL_STOCK_KEY + voucher.getId(), voucher.getStock().toString());
    }
}

(1.3)修改VoucherController

package com.hmdp.controller;


import com.hmdp.dto.Result;
import com.hmdp.entity.Voucher;
import com.hmdp.service.IVoucherService;
import org.springframework.web.bind.annotation.*;

import javax.annotation.Resource;

/**
 * 前端控制器
 *
 * @author 李
 * @version 1.0
 */
@RestController
@RequestMapping("/voucher")
public class VoucherController {

    @Resource
    private IVoucherService voucherService;
    
    /**
     * 新增秒殺券
     * @param voucher 優惠券資訊,包含秒殺資訊
     * @return 優惠券id
     */
    @PostMapping("seckill")
    public Result addSeckillVoucher(@RequestBody Voucher voucher) {
        voucherService.addSeckillVoucher(voucher);
        return Result.ok(voucher.getId());
    }
}

(1.4)使用postman進行測驗,回傳結過顯示插入成功,data為插入的秒殺券的id

image-20230428162250164

資料庫和Redis中也分別插入成功了:

image-20230428162352681 image-20230428162445513

需求2:基于Lua腳本,判斷秒殺庫存、一人一單,決定用戶是否搶占成功

在resources目錄下新建一個Lua腳本

image-20230428163306201

seckill.lua:

-- 1.引數串列
--    1.1 優惠券id
local voucherId = ARGV[1]
--    1.2 用戶id
local userId = ARGV[2]

-- 2.資料key
--  2.1 庫存key
local stockKey = 'seckill:stock:' .. voucherId
--  2.2 訂單key
local orderKey = 'seckill:order' .. voucherId

-- 3.腳本業務
--  3.1判斷庫存是否充足 get stockKey
if (tonumber(redis.call('get', stockKey)) <= 0) then
    -- 3.2庫存不足,回傳1
    return 1
end
-- 3.3庫存充足,判斷用戶是否下過單(判斷用戶id是否在訂單key對應的集合中)
-- sismember orderKey userId
if (redis.call('sismember', orderKey, userId) == 1) then
    -- 3.4 若存在,說明是重復下單,回傳2
    return 2
end
-- 3.5 扣庫存 incrby stockKey -1
redis.call('incrby', stockKey, -1)
-- 3.6 下單(保存用戶) sadd orderKey userId
redis.call('sadd', orderKey, userId)
return 0

需求3:如果搶占成功,將優惠券id和用戶id封裝后存入阻塞佇列

需求4:開啟執行緒任務,不斷地從阻塞佇列中獲取資訊,實作異步下單功能

修改VoucherOrderServiceImpl:

  1. 請求先來到seckillVoucher()方法,該方法先呼叫lua腳本,嘗試判斷用戶有沒有購買資格、庫存是否充足,如果有,創建訂單,放到阻塞對列中,此時整個秒殺業務就結束了,用戶可以得到結果,
  2. 創建阻塞佇列和執行緒池,在類初始化的時候就執行執行緒池,執行緒池的業務就是不斷地從阻塞佇列中獲取訂單資訊,然后創建訂單(呼叫handleVoucherOrder()方法)
package com.hmdp.service.impl;

import com.hmdp.dto.Result;
import com.hmdp.entity.VoucherOrder;
import com.hmdp.mapper.VoucherOrderMapper;
import com.hmdp.service.ISeckillVoucherService;
import com.hmdp.service.IVoucherOrderService;
import com.baomidou.mybatisplus.extension.service.impl.ServiceImpl;
import com.hmdp.utils.RedisIdWorker;
import com.hmdp.utils.UserHolder;
import lombok.extern.slf4j.Slf4j;
import org.redisson.api.RLock;
import org.redisson.api.RedissonClient;
import org.springframework.aop.framework.AopContext;
import org.springframework.core.io.ClassPathResource;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.data.redis.core.script.DefaultRedisScript;
import org.springframework.stereotype.Service;
import org.springframework.transaction.annotation.Transactional;

import javax.annotation.PostConstruct;
import javax.annotation.Resource;
import java.util.Collections;
import java.util.concurrent.*;

/**
 * 服務實作類
 *
 * @author 李
 * @version 1.0
 */
@Service
@Slf4j
public class VoucherOrderServiceImpl extends ServiceImpl<VoucherOrderMapper, VoucherOrder> implements IVoucherOrderService {
    @Resource
    private ISeckillVoucherService seckillVoucherService;

    @Resource
    private RedisIdWorker redisIdWorker;

    @Resource
    private StringRedisTemplate stringRedisTemplate;

    @Resource
    private RedissonClient redissonClient;

    private static final DefaultRedisScript<Long> SECKILL_SCRIPT;

    //類一加載就初始化腳本
    static {
        SECKILL_SCRIPT = new DefaultRedisScript<>();
        SECKILL_SCRIPT.setLocation(new ClassPathResource("seckill.lua"));
        SECKILL_SCRIPT.setResultType(Long.class);
    }

    //阻塞佇列:當一個執行緒嘗試從佇列中獲取元素時,如果佇列中沒有元素,那么該執行緒就會被阻塞,直到佇列中有元素,執行緒才會被喚醒并獲取元素
    private BlockingQueue<VoucherOrder> orderTasks = new ArrayBlockingQueue<>(1024 * 1024);

    //執行緒池
    private static final ExecutorService SECKILL_ORDER_EXECUTOR = Executors.newSingleThreadExecutor();

    //在當前類初始化完畢之后就執行
    @PostConstruct
    private void init() {
        SECKILL_ORDER_EXECUTOR.submit(new VoucherOrderHandler());
    }

    //執行異步操作,從阻塞佇列中獲取訂單
    private class VoucherOrderHandler implements Runnable {
        @Override
        public void run() {
            while (true) {
                try {
                    //1.獲取佇列中的訂單資訊
                    /* take()--獲取和洗掉阻塞對列中的頭部,如果需要則等待直到元素可用
                               (因此不必擔心這里的死回圈會增加cpu的負擔) */
                    VoucherOrder voucherOrder = orderTasks.take();
                    //2.創建訂單
                    handleVoucherOrder(voucherOrder);
                } catch (Exception e) {
                    log.error("處理訂單例外", e);
                }
            }
        }
    }

    private IVoucherOrderService proxy;

    private void handleVoucherOrder(VoucherOrder voucherOrder) {
        //獲取用戶(因為目前的是執行緒池物件,不是主執行緒,不能使用UserHolder從ThreadLocal中獲取用戶id)
        Long userId = voucherOrder.getUserId();
        //創建鎖物件,指定鎖的名稱
        RLock lock = redissonClient.getLock("lock:order:" + userId);
        //獲取鎖(可重入鎖)
        boolean isLock = lock.tryLock();
        //判斷是否獲取鎖成功
        if (!isLock) {
            //獲取鎖失敗
            log.error("不允許重復下單");
        }
        try {
            proxy.createVoucherOrder(voucherOrder);
        } finally {
            //釋放鎖
            lock.unlock();
        }
    }

    @Override
    public Result seckillVoucher(Long voucherId) {
        //獲取用戶id
        Long userId = UserHolder.getUser().getId();
        //1.執行lua腳本
        Long result = stringRedisTemplate.execute(
                SECKILL_SCRIPT,
                Collections.emptyList(),
                voucherId.toString(),
                userId.toString()
        );
        //2.判斷腳本執行結果是否為0
        int r = result.intValue();
        if (r != 0) {
            //2.1如果不為0,代表沒有購買資格
            return Result.fail(r == 1 ? "庫存不足" : "不能重復下單");
        }
        //2.2如果為0,代表有購買資格,將下單資訊保存到阻塞對列中
        VoucherOrder voucherOrder = new VoucherOrder();
        //設定訂單id
        long orderId = redisIdWorker.nextId("order");
        voucherOrder.setId(orderId);
        //設定用戶id
        voucherOrder.setUserId(userId);
        //設定秒殺券id
        voucherOrder.setVoucherId(voucherId);
        //將上述資訊保存到阻塞佇列
        orderTasks.add(voucherOrder);
        //3.獲取代理物件
        proxy = (IVoucherOrderService) AopContext.currentProxy();

        //4.回傳訂單id
        return Result.ok(0);
    }

    @Transactional
    public void createVoucherOrder(VoucherOrder voucherOrder) {
        //一人一單
        Long userId = voucherOrder.getUserId();
        //查詢訂單
        int count = query().eq("user_id", userId).eq("voucher_id", voucherOrder.getVoucherId()).count();
        if (count > 0) {//說明已經該用戶已經對該優惠券下過單了
            log.error("用戶已經購買過一次!");
            return;
        }
        //庫存充足,則扣減庫存(操作秒殺券表)
        boolean success = seckillVoucherService.update()
                .setSql("stock = stock -1")//set stock = stock -1
                //where voucher_id =? and stock>0
                .gt("stock", 0).eq("voucher_id", voucherOrder.getVoucherId()).update();
        if (!success) {//操作失敗
            log.error("秒殺券庫存不足!");
            return;
        }
        //將訂單寫入資料庫(操作優惠券訂單表)
        save(voucherOrder);
    }
}

重啟專案,進行測驗:

(1)初始資料:

image-20230428183036371 image-20230428183222315

(2)使用jemeter進行測驗:使用1000個不同的用戶同時向服務器發送搶購秒殺券的請求

image-20230428183505006

測驗結果:可以看到平均回應實作為216毫秒,最小值為17毫秒,比之前平均500毫秒的回應時間縮短了一半,

image-20230428183649383

4.7.3秒殺優化總結

(1)秒殺業務的優化思路是什么?

  1. 先利用Redis完成庫存余量判斷、一人一單判斷,完成搶單業務
  2. 再將下單業務放入阻塞佇列,利用獨立執行緒異步下單

(2)基于阻塞佇列的異步秒殺存在哪些問題?

  1. 記憶體限制問題:

    這里我們使用的是JDK里面的阻塞佇列,它使用的是JVM里面的記憶體,如果不加以限制,在高并發的情況下,可能會有非常多的訂單物件需要去創建,放入阻塞佇列中,可能會導致記憶體溢位,雖然我們限制了佇列的長度,但是如果佇列存滿了,再有新的訂單來,就放不下了,

  2. 資料安全問題:

    現在的代碼基于記憶體來保存訂單資訊,如果服務器宕機了,那么阻塞佇列中的所有訂單資訊將會丟失

我們將在接下來的分析中對上述兩個問題進行解決,

4.8Redis訊息佇列實作異步秒殺

要解決上面的兩個問題,最佳的解決方案就是使用訊息佇列

4.8.1什么是訊息佇列

訊息佇列(Message Queue,簡稱MQ),字面意思就是存放訊息的佇列,最簡單的訊息佇列模型包括3個角色:

  • 訊息佇列:存盤和管理訊息,也被稱為訊息代理(Message Broker)
  • 生產者:發送訊息到訊息佇列
  • 消費者:從訊息佇列獲取訊息并處理訊息
image-20230428201219459

4.8.2訊息佇列實作異步秒殺的優勢

使用訊息佇列實作異步秒殺的優勢:

  • 訊息佇列是JVM以外的獨立服務,不受JVM記憶體的限制,這就解決了之前的記憶體限制問題
  • 訊息佇列不僅僅是做資料存盤,它還要確保資料安全,即訊息佇列里的所有訊息都要做持久化,這樣不管是服務宕機還是重啟,資料都不會丟失
  • 訊息佇列將訊息投遞給消費者之后,要求消費者做訊息的確認,如果訊息沒有被確認,這個訊息就會在佇列中依然存在,下一次會再次投遞給消費者,直到收到訊息確認為止,

當下比較知名的訊息引擎,包括:ActiveMQ、RabbitMQ、Kafka、RocketMQ、Artemis 等

這里使用Redis實作訊息佇列:

Redis提供了三種不同的方式來實作訊息佇列:

  • list結構:基于List結構模擬訊息佇列
  • PubSub:基本的點對點訊息模型
  • Stream:比較完善的訊息佇列模型

4.8.3基于List結構模擬的訊息佇列

Redis的List資料結構是一個雙向鏈表,很容易模擬出佇列效果,佇列是入口和出口不在一邊,我們可以利用:LPUSH結合RPOP、或者RPUSH結合LPOP來實作,

image-20230428203824450

不過要注意的是,當佇列中沒有訊息時,RPOP或LPOP操作會回傳null,并不像JVM的阻塞佇列那樣會阻塞并等待訊息,因此這里應該使用BRPOP或者BLPOP來實作阻塞效果,

BRPOP key [key ...] timeout
summary: Remove and get the last element in a list, or block until one is available
since: 2.0.0

RPOP key
summary: Remove and get the last element in a list
since: 1.0.0

基于List的訊息佇列有哪些優缺點?

優點:

  1. 利用Redis存盤,不受限于JVM記憶體上限
  2. 基于Redis的持久化機制,資料安全性有保證
  3. 可以滿足訊息有序性

缺點:

  1. 無法避免訊息丟失
  2. 只支持單消費者

4.8.4基于PubSub的訊息佇列

PubSub(發布訂閱)是Redis2.0版本引入的訊息傳遞模型,顧名思義,消費者可以訂閱一個或者多個channel,生產者向對應channel發送訊息后,所有訂閱者都能收到相關訊息,

  • SUBSCRIBE channel [channel]:訂閱一個或者多個頻道
  • PUBLISH channel msg:向一個頻道發送訊息
  • PSUBSCRIBE pattern [pattern]:訂閱與pattern格式相匹配的所有頻道
image-20230428210448194

基于PubSub的訊息佇列有哪些優缺點?

優點:采用發布訂閱模型,支持多生產、多消費

缺點:

  1. 不支持資料持久化
  2. 無法避免訊息丟失
  3. 訊息堆積有上限,超出時資料丟失

4.8.5基于Stream的訊息佇列

Stream是Redis5.0引入的一種新的資料型別,可以實作一個功能非常完善的訊息佇列,

發送訊息的命令:

轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/551481.html

標籤:NoSQL

上一篇:Performance_schema中的主從復制系串列總結

下一篇:返回列表

標籤雲
其他(158306) Python(38108) JavaScript(25398) Java(18011) C(15221) 區塊鏈(8260) C#(7972) AI(7469) 爪哇(7425) MySQL(7152) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5870) 数组(5741) R(5409) Linux(5334) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4565) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2432) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1964) Web開發(1951) HtmlCss(1929) python-3.x(1918) 弹簧靴(1913) C++(1912) xml(1889) PostgreSQL(1874) .NETCore(1857) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • GPU虛擬機創建時間深度優化

    **?桔妹導讀:**GPU虛擬機實體創建速度慢是公有云面臨的普遍問題,由于通常情況下創建虛擬機屬于低頻操作而未引起業界的重視,實際生產中還是存在對GPU實體創建時間有苛刻要求的業務場景。本文將介紹滴滴云在解決該問題時的思路、方法、并展示最終的優化成果。 從公有云服務商那里購買過虛擬主機的資深用戶,一 ......

    uj5u.com 2020-09-10 06:09:13 more
  • 可編程網卡芯片在滴滴云網路的應用實踐

    **?桔妹導讀:**隨著云規模不斷擴大以及業務層面對延遲、帶寬的要求越來越高,采用DPDK 加速網路報文處理的方式在橫向縱向擴展都出現了局限性。可編程芯片成為業界熱點。本文主要講述了可編程網卡芯片在滴滴云網路中的應用實踐,遇到的問題、帶來的收益以及開源社區貢獻。 #1. 資料中心面臨的問題 隨著滴滴 ......

    uj5u.com 2020-09-10 06:10:21 more
  • 滴滴資料通道服務演進之路

    **?桔妹導讀:**滴滴資料通道引擎承載著全公司的資料同步,為下游實時和離線場景提供了必不可少的源資料。隨著任務量的不斷增加,資料通道的整體架構也隨之發生改變。本文介紹了滴滴資料通道的發展歷程,遇到的問題以及今后的規劃。 #1. 背景 資料,對于任何一家互聯網公司來說都是非常重要的資產,公司的大資料 ......

    uj5u.com 2020-09-10 06:11:05 more
  • 滴滴AI Labs斬獲國際機器翻譯大賽中譯英方向世界第三

    **桔妹導讀:**深耕人工智能領域,致力于探索AI讓出行更美好的滴滴AI Labs再次斬獲國際大獎,這次獲獎的專案是什么呢?一起來看看詳細報道吧! 近日,由國際計算語言學協會ACL(The Association for Computational Linguistics)舉辦的世界最具影響力的機器 ......

    uj5u.com 2020-09-10 06:11:29 more
  • MPP (Massively Parallel Processing)大規模并行處理

    1、什么是mpp? MPP (Massively Parallel Processing),即大規模并行處理,在資料庫非共享集群中,每個節點都有獨立的磁盤存盤系統和記憶體系統,業務資料根據資料庫模型和應用特點劃分到各個節點上,每臺資料節點通過專用網路或者商業通用網路互相連接,彼此協同計算,作為整體提供 ......

    uj5u.com 2020-09-10 06:11:41 more
  • 滴滴資料倉庫指標體系建設實踐

    **桔妹導讀:**指標體系是什么?如何使用OSM模型和AARRR模型搭建指標體系?如何統一流程、規范化、工具化管理指標體系?本文會對建設的方法論結合滴滴資料指標體系建設實踐進行解答分析。 #1. 什么是指標體系 ##1.1 指標體系定義 指標體系是將零散單點的具有相互聯系的指標,系統化的組織起來,通 ......

    uj5u.com 2020-09-10 06:12:52 more
  • 單表千萬行資料庫 LIKE 搜索優化手記

    我們經常在資料庫中使用 LIKE 運算子來完成對資料的模糊搜索,LIKE 運算子用于在 WHERE 子句中搜索列中的指定模式。 如果需要查找客戶表中所有姓氏是“張”的資料,可以使用下面的 SQL 陳述句: SELECT * FROM Customer WHERE Name LIKE '張%' 如果需要 ......

    uj5u.com 2020-09-10 06:13:25 more
  • 滴滴Ceph分布式存盤系統優化之鎖優化

    **桔妹導讀:**Ceph是國際知名的開源分布式存盤系統,在工業界和學術界都有著重要的影響。Ceph的架構和演算法設計發表在國際系統領域頂級會議OSDI、SOSP、SC等上。Ceph社區得到Red Hat、SUSE、Intel等大公司的大力支持。Ceph是國際云計算領域應用最廣泛的開源分布式存盤系統, ......

    uj5u.com 2020-09-10 06:14:51 more
  • es~通過ElasticsearchTemplate進行聚合~嵌套聚合

    之前寫過《es~通過ElasticsearchTemplate進行聚合操作》的文章,這一次主要寫一個嵌套的聚合,例如先對sex集合,再對desc聚合,最后再對age求和,共三層嵌套。 Aggregations的部分特性類似于SQL語言中的group by,avg,sum等函式,Aggregation ......

    uj5u.com 2020-09-10 06:14:59 more
  • 爬蟲日志監控 -- Elastc Stack(ELK)部署

    傻瓜式部署,只需替換IP與用戶 導讀: 現ELK四大組件分別為:Elasticsearch(核心)、logstash(處理)、filebeat(采集)、kibana(可視化) 下載均在https://www.elastic.co/cn/downloads/下tar包,各組件版本最好一致,配合fdm會 ......

    uj5u.com 2020-09-10 06:15:05 more
最新发布
  • day08-優惠券秒殺04

    功能03-優惠券秒殺04 4.功能03-優惠券秒殺 4.7Redis優化秒殺 4.7.1優化分析 現在來回顧一下優惠券秒殺業務的兩個主要問題: (1)首先是對優惠券的扣減,需要防止庫存超賣現象; (2)其次,需要對每個用戶下單數量進行限制,實作一人一單的功能。 處理秒殺優惠券的業務: 先根據獲取到的 ......

    uj5u.com 2023-04-29 07:30:43 more
  • Performance_schema中的主從復制系串列總結

    主從半同步復制是目前用得最多的MySQL復制方案,日常作業中我們一般通過show slave status陳述句查看當前復制程序中狀態資訊,基本上能滿足大多數場景下的需求。Performance_schema中提供了16個關于復制的監控表(包括組復制、過濾復制等,這里我們先不討論),show slav ......

    uj5u.com 2023-04-28 12:15:09 more
  • [20230425]CBO cost與行遷移關系.txt

    [20230425]CBO cost與行遷移關系.txt--//一般現在很少使用analyze table分析表,如果出現大量行遷移是否考慮看看是否考慮cbo cost成本.--//測驗參考鏈接:--//https://richardfoote.wordpress.com/2023/03/21/cb ......

    uj5u.com 2023-04-28 12:15:04 more
  • day07-優惠券秒殺03

    功能03-優惠券秒殺03 4.功能03-優惠券秒殺 4.6Redisson的分布式鎖 Redis分布式鎖—Redisson+RLock可重入鎖實作篇 4.6.1基于setnx實作的分布式鎖問題 我們在4.5自己實作的分布式鎖,主要使用的是redis的setnx命令,它仍存在如下問題: 4.6.2Re ......

    uj5u.com 2023-04-28 12:11:01 more
  • mysql基礎

    SQL陳述句 SQL陳述句分類 SQL分類: 資料定義語言:簡稱DDL(Data Definition Language),用來定義資料庫物件:資料庫,表,列等。關鍵字:create,alter,drop等 資料操作語言:簡稱DML(Data Manipulation Language),用來對資料庫中 ......

    uj5u.com 2023-04-28 12:10:40 more
  • 輕松存盤千億級資料,知憾訓于Doris的DMP系統架構實踐

    1)提升查詢效率



    自動探測 SQL 復雜查詢條件預先合并成一個派生特征的 bitmap,預測和圈人時對復雜條件 SQL 重寫為派生特征。



    2)提升匯入速度



    Spark 直接寫 Doris Tablet 檔案,并掛載到 FE。



    針對大匯入場景與 Doris 團隊共建,提升寫入效... ......

    uj5u.com 2023-04-28 12:10:10 more
  • CloudCanal x OceanBase 資料遷移同步優化

    簡述 CloudCanal 去年支持 OceanBase 資料遷移同步能力后,隨著使用用戶增多以及問題反饋,近期對該能力進行了一輪較大規模的優化。 本篇文章簡要介紹這些優化點,以及未來該能力的演進方向。 優化點 大幅提升同步性能 CloudCanal 目前使用 OceanBase LogProxy ......

    uj5u.com 2023-04-28 12:09:52 more
  • 數堆疊V6.0全新產品矩陣發布,資料底座 EasyMR 煥新升級

    4月20日,袋鼠云成功舉行了以“數實融合,韌性生長”為主題的2023春季生長大會。會上,袋鼠云自主研發的一站式大資料基礎軟體——數堆疊V6.0產品矩陣全新發布。對旗下大資料基礎平臺、大資料開發與治理、資料智能分析與洞察三大模塊的全線產品進行全新升級,并重點發布了企業級資料計算與存盤平臺——自研大資料引 ......

    uj5u.com 2023-04-28 12:09:30 more
  • CloudCanal x OceanBase 資料遷移同步優化

    簡述 CloudCanal 去年支持 OceanBase 資料遷移同步能力后,隨著使用用戶增多以及問題反饋,近期對該能力進行了一輪較大規模的優化。 本篇文章簡要介紹這些優化點,以及未來該能力的演進方向。 優化點 大幅提升同步性能 CloudCanal 目前使用 OceanBase LogProxy ......

    uj5u.com 2023-04-28 12:09:01 more
  • [20230425]CBO cost與行遷移關系.txt

    [20230425]CBO cost與行遷移關系.txt--//一般現在很少使用analyze table分析表,如果出現大量行遷移是否考慮看看是否考慮cbo cost成本.--//測驗參考鏈接:--//https://richardfoote.wordpress.com/2023/03/21/cb ......

    uj5u.com 2023-04-28 12:08:40 more