主頁 > 後端開發 > Redis 從入門到使用

Redis 從入門到使用

2021-04-21 06:12:41 後端開發

? Redis

1.NOSQL特點

NoSQL = Not Only SQL(不僅僅是SQL)泛指非關系型資料庫

關系型資料庫:表,行,列

非關系型資料庫:

資料型別的存盤不需要固定的一個格式!不需要過多的操作,就可以橫向擴展;

解耦!

1:方便擴展(資料之間沒有關系,很好擴展);

2:大資料量高性能;

3:資料型別是多樣型的(不需要事先設計資料庫,隨取隨用);

4:傳統關系型資料庫和NoSQL的區別

傳統的 RDBMS
-結構化組織
-SQL
-資料和關系都存在單獨的表中
-資料操作語言,資料定義語言
-嚴格的一致性
-基礎的事務操作
NoSQL
-不僅僅是資料
-沒有固定的查詢語言
-鍵值對存盤,列存盤,檔案存盤,圖形資料庫等
-最終一致性
-CAP定理和BASE
-高性能,高可用,高可擴,,,,

2.NoSQL的分類

KV鍵值對

2.1檔案型資料庫(bson格式和json格式一樣)
  • MongoDB

    • MongoDB是一個介于分布式檔案存盤的資料庫,C++撰寫,主要來處理大量的檔案

    • 介于關系型和非關系型資料庫中間的產品,是非關系型資料庫中功能最豐富,最像關系型資料庫的;

2.2列存盤資料庫
  • HBase

  • 分布式檔案系統

2.3圖關系資料庫

存的不是圖片,是圖片關系

 

3.Redis入門

3.1.概述
即遠程字典服務,是一個開源的使用ANSI C語言撰寫、支持網路、可基于記憶體亦可持久化的日志型、Key-Value資料庫,并提供多種語言的API
redis會周期性的把更新的資料寫入磁盤或者把修改操作寫入追加的記錄檔案,并且在此基礎上實作了master-slave(主從)同步,也被稱之為結構化資料庫
3.2.Redis能干嘛?
  1. 記憶體存盤,持久化,記憶體中斷電即失,所以持久化很重要

  2. 效率高,可以用于高速快取

  3. 發布訂閱系統,地圖資訊分析,計時器,計數器,,,,

3.3.Redis的特性

多樣的資料型別,持久化,集群,事務,,,,,,

3.4.Linux基本命令

Redis默認安裝路徑

/usr/local/bin

啟動Redis

redis -server kconfig/redis.conf

測驗連接

redis-cli -p 6379

查看Redis行程是否開啟

ps -ef|grep redis

如何關閉Redis服務

shutdown

查看所有key

keys *

確定某個key是否存在

EXISTS key

移除某個key

del key
從某個資料庫移除
del key index

進行資料庫切換

redis默認有16個資料庫,默認使用的是第0個
select index
?
dbsize 查看資料庫大小

清空當前庫

flushdb

清空所有庫

flushall

設定key的過期時間

EXPIRE key 時間

查看當前key的剩余時間

ttl key

判斷當前key的資料型別

type key
3.5.Redis是單執行緒

Redis速度很快,基于記憶體操作,CPU并不是Redis的瓶頸,Redis的瓶頸是根據機器的記憶體和網路帶寬,既然可以使用單執行緒,就使用了單執行緒;

單執行緒指的是網路請求模塊使用了一個執行緒(所以不需考慮并發安全性),即一個執行緒處理所有網路請求,其他模塊仍用了多個執行緒

核心:為什么Redis是的單執行緒還這么快?首先高性能的服務器不一定都是多執行緒的,并且,多執行緒不一定就比單執行緒速度快;Redis是將所有的資料全部放在記憶體中,所以說使用單執行緒的操作效率就是最高的,多執行緒(CPU背景關系切換,競爭條件都是耗時的操作),對于記憶體系統來說,如果沒有背景關系切換效率就是最高的,多次讀寫都是在一個CPU上的,在記憶體情況下,這個就是最佳的方案,

總結:

(1) 絕大部分請求是純粹的記憶體操作(非常快速)

(2) 采用單執行緒,避免了不必要的背景關系切換和競爭條件

(3) 非阻塞IO - IO多路復用

 

4.Redis五大資料型別

  • String

    • 類似的使用場景:value除了是我們的字串還可以是我們的數字

    1. 計數器

    2. 統計多單位的數量

    3. 粉絲數

    4. 物件快取存盤

    1:往String型別資料后面追字串,如果當前key不存在就相當于set key
    append key "字串"
    2:獲取mougekey的長度
    strlen key
    3:自增 自減
    incr key (自增1)
    decr key (自減1)
    incrby key number 設定步長指定增量
    decrby key number 設定步長減去指定增量
    4:獲取字串的范圍(截取字串)
    getrange key start end
    getrange key 0 -1(查看全部字串)
    5:替換字串
    setrange key start "XX替換的內容"
    6:
    setex key second value
    (set with expire)設定過期時間,如果存在直接覆寫,再設定過期時間,不存在先新增再設定過期時間;
    ?
    setnx key value
    (set if not exist)
    不存在再設定,存在則不設定(不覆寫原有值),在分布式鎖中常常使用,
    7:批量獲取值和設定值
    mset k1 v1 k2 v2 k3 v3.....
    mget k1 k2 k3 k4
    msetnx k1 v1 k2 v2(不存在再設定,存在就不設定)(原子性操作,要么一起成功,要么一起失敗)
    8:
    mset user:1:name zhangsan user:1:age 12
    mget user:1 name user:1:age
    9:
    getset key value
    先get再set;如果不存在回傳null,然后set會自動創建key;如果存在,回傳已存在的key,然后set會替換掉已存在的值
  • List

    • 在Redis中,可以把list玩成堆疊,佇列,阻塞佇列

    • 所有的list命令都是以l開頭的

    • 他實際是一個鏈表,before Node after left right 都可以插入值;

      在兩邊插入或者改動值,比處理中間值效率高一些

    • 使用場景:訊息排隊;訊息佇列;堆疊

    1:存值
    lpush key value
    2:按范圍取值
    lrange key start stop
    3:往尾部(右邊)添加值
    rpush key value
    4:移除串列第一個元素,或最后一個元素(移除左,右的值)
    rpop key
    5:按下標取值
    lindex key index
    6:查看list長度
    llen key
    7:移除指定值
    lrem key count value
    8:通過下標截取指定長度
    ltrim key start stop
    9:移除某個串列最后一個值((source是某個串列的key)),添加到新串列中(destination是新串列的key)
    rpoplpush source destination
    10:按指定下標替換值,不存在的key或者index會報錯
    lset key index value
    11:往指定key的指定value(pivot)前或者后添加指定值
    linsert key BEFORE|AFTER pivot value
  • SET

    • set中的值是不能重復的

    • 無需不重復集合

    • 數字集合集,比如B站微博等的共同關注

    1:按key存值
    sadd key member
    2:查看指定key的所有值
    smembers key
    3:判斷某個key中是否包含某值
    sismember key member
    4:獲取key中元素的個數
    scard key
    5:移除key中的指定值
    srem key member
    6:隨機取key中的值
    (count是取出隨機值的個數,不指定個數,隨機抽出一個值)
    srandmember key [count]
    7:隨機洗掉元素
    spop key [count]
    8:將一個指定值,移到另一個set集合中(如果目標集合不存在,則會創建一個新的集合)
    smove source destination member
    9:查集合的差集(以第一個key為參照物)
    sdiff key [key ...]
    10:查集合的交集
    sinter key [key ...]
    11:查集合的并集
    sunion key [key ...]
  • Hash(哈希)

    • value值可以想象成一個Map集合,key-map

    • 本質和String型別沒有太大區別

    • 應用場景:做一些變更資料的保存,或者用戶資訊的保存都可以,Hash更適合物件的存盤,而String更適合字串的存盤

    1:存
    hset key field value
    2:取
    hget key field
    3:批量存
    hmset key field value [field value ...]
    4:批量取
    hmget key field [field ...]
    5:取出所有鍵值對
    hgetall key
    6:洗掉指定值
    hdel key field [field...]
    7:獲取指定key的長度
    hlen key
    8:判斷key中值是否存在
    hexists key field
    9:只獲得key中所有的field
    hkeys keys
    10:只獲得key中所有的value
    hvals key
    11:指定field中的value值自增
    (increment是自增的數量,相當于加法)
    hincrby key field increment
    12:hsetnx key field value
  • Zset

    • 有序集合

    • 應用場景:存盤成績,工資表排序等;帶權重進行判斷;排行榜

    1:添加
    score相當于一個排序標志(會按這個自動排序)
    zadd key score member [score member...]
    2:查看(正序或者倒序)
    zrange key start stop [withscores]
    zrevrange key start stop [withscores]
    3:從小到大排序
    (-inf +inf 負無窮到正無窮)
    zrangebyscore key min max [withscores] [limit offset count]
    4:移除元素
    zrem key member [member...]
    5:獲取長度
    zcard key
    6:獲取指定區間的個數
    zcount key min max

5.三種特殊的資料型別

  • geospatial 地理空間

    • 將指定的地理位置(緯度,經度,名稱)添加到指定的key中;這個功能可以推算地理位置的資訊,兩地之間的距離等(java中直接批量匯入城市資訊即可);

    • GEO底層的實作原理就是Zset ,因此我們可以使用Zset命令來操作geo

    1:添加指定地理位置(longitude,latitude 經緯度)
    南極和北極無法添加;經緯度也有一定的范圍
    GEOADD key longitude latitude member [longitude latitude member]
    ?
    2:回傳兩個給定位置之間的距離(計算距離時,會假定地球是個完美的球形)
    如果兩個位置之間的其中一個不存在,命令回傳空值;指定單位的引數unit必須是以下單位的其中一個;m(米)km(千米)mi(英里)ft(英尺);如果沒有指定單位,那么默認用米做單位
    GEODIST key member1 member2 [unit]
    ?
    3:回傳一個或多個位置元素的Geohash表示(二位經緯度轉換為一維的字串)
    GEOHASH key member [member...]
    ?
    4:獲取指定的地理位置資訊
    GEOPOS key member
    ?
    5:以給定的經緯度為中心,找出一定半徑內的元素(按坐標為范圍查)
    GEORADIUS key longitude latitude redius unit [withcoord] [withdist][withhash] [count]
    ?
    6:找出位于指定范圍內的元素,中心點是由給定的位置元素決定(按城市為范圍查)
    GEORADIUSBYMEMBER key member redius unit [withcoord] [withdist][withhash] [count]
    ?
    7:zset的相關命令都可以使用
  • hyperloglog

    • 基數統計的演算法;

    • 優點:占用的記憶體是固定的,而且非常小,2^64僅占用12KB記憶體;有一定的容錯率

    • 網頁UV(一個人訪問一個網站多次,但是還算是一個人)

      傳統方式,用set保存用戶的id,然后通過統計set中元素的數量作為判斷用戶個數的標準;這種方式如果保存大量的用戶id,就會比較麻煩,我們的目的是為了計數而不是為了保存用戶id;

    1:存
    pfadd key element [element...]
    2:統計元素(兩個key以上時,自動去重計算數量)
    pfcount key [key...]
    3:合并集合(可以兩個集合合并,也可以新命名一個集合,用于合并其他集合)
    pfmerge destkey sourcekey [sourcekey...]
  • bitmaps

    • 位圖 位存盤

    • 都是操作二進制位來進行記錄,只有0和1兩種狀態

    • 對于只有兩種狀態的,比如,用戶打卡沒打卡,登錄沒登錄等,都可以使用bitmaps

    1:存  value只有0或者1,offset偏移量,位數,可以從0開始
    setbit key offset value
    2:查看某一天,某個偏移量的狀態
    getbit key offset
    3:統計(統計為1的數量)
    bitcount key [start end]

6.事務

  1. Redis單條命令是保證原子性的,但是Redis的事務是不保證原子性的;Redis事務沒有隔離級別的概念

    所有命令在事務中,并沒有直接被執行,只有發起執行命令的時候才會被執行;

  2. Redis事務的本質:一組命令的集合;一個事務中的所有命令都會被序列化,在事務執行程序中,會被按照順序執行;一次性,順序性,排他性;

    -------佇列set  set  set 執行-----
  3. Redis的事務:

    - 開啟事務(命令:multi)
    - 命令入隊(添加相關命令)
    - 執行事務(命令:exec)
  4. 中途放棄事務(事務佇列中的命令都不會執行)

    dicard
  5. 事務中的例外

    類比java

    • 編譯型例外(代碼有問題;命令有錯),事務中的所有命令都不會執行;

    • 運行時例外(1/0),如果事務佇列中存在語法型錯誤,其他命令可以正常執行;錯誤命令會拋出例外;

7.監控

一旦事務執行成功,監控就會自動取消掉;當做樂觀鎖操作

Watch 監視
unwatch 放棄監視

多執行緒修改值,事務開啟之前進行監視;一旦有其他執行緒在途中修改監視值,最后事務會提交失敗;舉例(開啟兩個Redis連接即可簡單測驗)

執行緒1

127.0.0.1:6379> set money 100
OK
127.0.0.1:6379> set out 0
OK
127.0.0.1:6379> watch money
OK
127.0.0.1:6379> multi
OK
127.0.0.1:6379> decrby money 20
QUEUED
127.0.0.1:6379> incrby out 20
QUEUED

此時執行緒2進入

127.0.0.1:6379> get money
"100"
127.0.0.1:6379> incrby money 1000
(integer) 1100
127.0.0.1:6379>

再回到執行緒1結束事務(回傳nil說明事務執行失敗;可以先解鎖unwatch,再獲取鎖watch)

127.0.0.1:6379> exec
(nil)
127.0.0.1:6379> 

8.Jedis

  • Jedis是Redis官方推薦的Java連接開發工具;使用Java操作Redis中間件;

  1. 匯入相關依賴

    <!-- https://mvnrepository.com/artifact/redis.clients/jedis -->
            <dependency>
                <groupId>redis.clients</groupId>
                <artifactId>jedis</artifactId>
                <version>3.3.0</version>
            </dependency>
            <!--fastjson-->
            <dependency>
                <groupId>com.alibaba</groupId>
                <artifactId>fastjson</artifactId>
                <version>1.2.75</version>
            </dependency>
    
  2. 編碼測驗

    • 連接資料庫

    • 操作命令

    • 斷開連接

    public class TestPing {
        public static void main(String[] args) {
            //new Jedis物件即可
            Jedis jedis =new Jedis("127.0.0.1",6379);
            //Jedis所有的命令 之前的指令在這里就是一個個方法
            System.out.println(jedis.ping());
            //關閉連接
            jedis.close();
        }
    }
    
    輸出:PONG
    
  3. 事務代碼簡單示例

    public class TestTX {
       public static void main(String[] args) {
           //連接
           Jedis jedis = new Jedis("127.0.0.1",6379);
           //開啟事務
           Transaction mutil = jedis.multi();
           try {
               //命令操作
               mutil.set("k1","1");
               mutil.set("k2","2");
               mutil.set("k3","3");
               //執行事務
               mutil.exec();
          }catch (Exception e) {
               //放棄事務
               mutil.discard();
               e.printStackTrace();
          } finally {
               System.out.println(jedis.mget("k1","k2","k3"));
               //關閉連接
               jedis.close();
          }
      }
    }

9.常用API

五大資料型別,三種特殊資料型別;指令就是方法

10.SpringBoot整合

  • 說明:在SpringBoot2.x之后,原來使用的jedis被替換成了lettuce

    jedis:底層采用的是直連,如果多執行緒操作,是不安全的,如果想要避免不安全,使用jedis pool連接池!(更像BIO模式)

    lettuce:采用netty(物體類必須序列化),實體可以在多個執行緒中共享,不存在執行緒不安全的情況,可以減少執行緒數量;(更像NIO模式)

    • 原始碼分析:

    @Configuration(proxyBeanMethods = false)
    @ConditionalOnClass({RedisOperations.class})
    @EnableConfigurationProperties({RedisProperties.class})
    @Import({LettuceConnectionConfiguration.class, JedisConnectionConfiguration.class})
    public class RedisAutoConfiguration {
       public RedisAutoConfiguration() {
      }
    ?
       @Bean
       @ConditionalOnMissingBean( name = {"redisTemplate"})
       @ConditionalOnSingleCandidate(RedisConnectionFactory.class)
    //這個注解的意思是,當這個bean不存在的時候,這個類就生效,所以也就是說,我們可以自定義一個redisTemplate來替換這個默認的redisTemplate
       public RedisTemplate<Object, Object> redisTemplate(RedisConnectionFactory redisConnectionFactory) {
       //默認的RedisTemplate 沒有過多的設定,redis 物件都是需要序列化!
       //兩個泛型都是object型別,后面使用需要強制轉換
           RedisTemplate<Object, Object> template = new RedisTemplate();
           template.setConnectionFactory(redisConnectionFactory);
           return template;
      }
    ?
       @Bean
       @ConditionalOnMissingBean//由于String是Redis中最常使用的型別,所以說原始碼單獨提出來一個bean
       @ConditionalOnSingleCandidate(RedisConnectionFactory.class)
       public StringRedisTemplate stringRedisTemplate(RedisConnectionFactory redisConnectionFactory) {
           StringRedisTemplate template = new StringRedisTemplate();
           template.setConnectionFactory(redisConnectionFactory);
           return template;
      }
    }
    • 整合測驗(RedisProperties.class原始碼中,可以看到配置相關的資訊)

    • 下面測驗使用的是默認的api,實際開發中都是使用自己重新封裝的工具

      • 匯入依賴

              <dependency>
                 <groupId>org.springframework.boot</groupId>
                 <artifactId>spring-boot-starter-data-redis</artifactId>
             </dependency>
      • 配置連接(連接配置相關資訊,建議都使用lettuce相關;因為jedis某些配置在springboot中不生效了)

      spring.redis.host=127.0.0.1
      spring.redis.port=6379
      • 測驗

      @SpringBootTest
      class RedisSpringbootApplicationTests {
      ?
         @Autowired
         private RedisTemplate redisTemplate;
      ?
         @Test
         void contextLoads() {
             //實際企業開發的程序中,都不會使用這種原生的方式;一般使用工具類,RedisUtils等;
             /**
              * redisTemplate 操作不同資料型別 api和學的指令是一樣的
              * opsForValue 操作字串 類似String
              * opsForList 操作List 類似List
              * ......
              */
             /**
              * 除了上述基本操作,常用的方法都可以通過redisTemplate來操作,事務,CRUD;redisTemplate都直接列出來了,可以直接使用
              * 比如:redisTemplate.multi();
              */
      ?
             /**
              * 獲取redis的連接物件
              * RedisConnection connection = redisTemplate.getConnectionFactory().getConnection();
              *         connection.flushDb();
              *         connection.flushAll();
              */
             redisTemplate.opsForValue().set("test", "jjjjj");
      System.out.println(redisTemplate.opsForValue().get("test"));

      //實際開發一般使用json來傳遞物件;傳遞物件時,所有的物件都需要序列化,不然會報錯
      @Test
         public void test1() {
             User user = new User();
             user.setName("jpc");
             user.setAge("3");
             String us = null;
             //下面是兩種轉String的方式,都可以實作自動序列化;或者物件直接implements Serializable也可以
      //       try {
      //           us = new ObjectMapper().writeValueAsString(user);
      //       } catch (Exception e) {
      //           e.printStackTrace();
      //       }
             us =JSONObject.toJSONString(user);
             redisTemplate.opsForValue().set("uesr",us);
             System.out.println(redisTemplate.opsForValue().get("uesr"));
        }
        }
      }
    • 序列化

      從RedisTemplate原始碼中可以看到,默認是通過jdk序列化的

      this.defaultSerializer = new JdkSerializationRedisSerializer
      

      (命令列中容易轉義,導致亂碼);我們可以重新寫一個redisTemplate配置類來代替默認的redisTemplate

      @Configuration
      public class RedisConfig {
      ?
         //撰寫我們自己的 redisTemplate;下面模板可以直接使用
         //格式可以按照原始碼中的格式處理
         @Bean
         public RedisTemplate<String, Object> redisTemplate(RedisConnectionFactory redisConnectionFactory) {
             RedisTemplate<String, Object> template = new RedisTemplate();
             //默認的連接工廠
             template.setConnectionFactory(redisConnectionFactory);
             //下面是重新配置redisTemplate具體的序列化方式
             Jackson2JsonRedisSerializer<Object> jackson2JsonRedisSerializer = new Jackson2JsonRedisSerializer(Object.class);
             //用ObjectMapper轉義
             ObjectMapper om = new ObjectMapper();
             om.setVisibility(PropertyAccessor.ALL, JsonAutoDetect.Visibility.ANY);
             om.enableDefaultTyping(ObjectMapper.DefaultTyping.NON_FINAL);
             jackson2JsonRedisSerializer.setObjectMapper(om);
             StringRedisSerializer s = new StringRedisSerializer();
             //key采用String序列化方式
             template.setKeySerializer(s);
             //hash采用String序列化方式
             template.setKeySerializer(s);
             //value采用jackson
             template.setValueSerializer(jackson2JsonRedisSerializer);
             //hash的value
             template.setHashKeySerializer(jackson2JsonRedisSerializer);
             template.afterPropertiesSet();
             return template;
        }
      }
    • 企業開發中一般使用到工具類,公司一般自己封裝,

      ?
      import org.springframework.beans.factory.annotation.Autowired;
      import org.springframework.data.redis.core.RedisTemplate;
      import org.springframework.stereotype.Component;
      import org.springframework.util.CollectionUtils;
      ?
      import java.util.List;
      import java.util.Map;
      import java.util.Set;
      import java.util.concurrent.TimeUnit;
      ?
      @Component
      public final class RedisUtils {
         @Autowired
         private RedisTemplate<String, Object> redisTemplate;
      ?
         // =============================common============================
         /**
          * 指定快取失效時間
          * @param key 鍵
          * @param time 時間(秒)
          */
         public boolean expire(String key, long time) {
             try {
                 if (time > 0) {
                     redisTemplate.expire(key, time, TimeUnit.SECONDS);
                }
                 return true;
            } catch (Exception e) {
                 e.printStackTrace();
                 return false;
            }
        }
      ?
         /**
          * 根據key 獲取過期時間
          * @param key 鍵 不能為null
          * @return 時間(秒) 回傳0代表為永久有效
          */
         public long getExpire(String key) {
             return redisTemplate.getExpire(key, TimeUnit.SECONDS);
        }
      ?
         /**
          * 判斷key是否存在
          * @param key 鍵
          * @return true 存在 false不存在
          */
         public boolean hasKey(String key) {
             try {
                 return redisTemplate.hasKey(key);
            } catch (Exception e) {
                 e.printStackTrace();
                 return false;
            }
        }
      ?
         /**
          * 洗掉快取
          * @param key 可以傳一個值 或多個
          */
         @SuppressWarnings("unchecked")
         public void del(String... key) {
             if (key != null && key.length > 0) {
                 if (key.length == 1) {
                     redisTemplate.delete(key[0]);
                } else {
                     redisTemplate.delete(String.valueOf(CollectionUtils.arrayToList(key)));
                }
            }
        }
      ?
         // ============================String=============================
      ?
         /**
          * 普通快取獲取
          * @param key 鍵
          * @return 值
          */
         public Object get(String key) {
             return key == null ? null : redisTemplate.opsForValue().get(key);
        }
      ?
         /**
          * 普通快取放入
          * @param key   鍵
          * @param value 值
          * @return true成功 false失敗
          */
      ?
         public boolean set(String key, Object value) {
             try {
                 redisTemplate.opsForValue().set(key, value);
                 return true;
            } catch (Exception e) {
                 e.printStackTrace();
                 return false;
            }
        }
      ?
         /**
          * 普通快取放入并設定時間
          * @param key   鍵
          * @param value 值
          * @param time 時間(秒) time要大于0 如果time小于等于0 將設定無限期
          * @return true成功 false 失敗
          */
      ?
         public boolean set(String key, Object value, long time) {
             try {
                 if (time > 0) {
                     redisTemplate.opsForValue().set(key, value, time, TimeUnit.SECONDS);
                } else {
                     set(key, value);
                }
                 return true;
            } catch (Exception e) {
                 e.printStackTrace();
                 return false;
            }
        }
      ?
         /**
          * 遞增
          * @param key   鍵
          * @param delta 要增加幾(大于0)
          */
         public long incr(String key, long delta) {
             if (delta < 0) {
                 throw new RuntimeException("遞增因子必須大于0");
            }
             return redisTemplate.opsForValue().increment(key, delta);
        }
      ?
         /**
          * 遞減
          * @param key   鍵
          * @param delta 要減少幾(小于0)
          */
         public long decr(String key, long delta) {
             if (delta < 0) {
                 throw new RuntimeException("遞減因子必須大于0");
            }
             return redisTemplate.opsForValue().increment(key, -delta);
        }
      ?
         // ================================Map=================================
      ?
         /**
          * HashGet
          * @param key 鍵 不能為null
          * @param item 項 不能為null
          */
         public Object hget(String key, String item) {
             return redisTemplate.opsForHash().get(key, item);
        }
      ?
         /**
          * 獲取hashKey對應的所有鍵值
          * @param key 鍵
          * @return 對應的多個鍵值
          */
         public Map<Object, Object> hmget(String key) {
             return redisTemplate.opsForHash().entries(key);
        }
      ?
         /**
          * HashSet
          * @param key 鍵
          * @param map 對應多個鍵值
          */
         public boolean hmset(String key, Map<String, Object> map) {
             try {
                 redisTemplate.opsForHash().putAll(key, map);
                 return true;
            } catch (Exception e) {
                 e.printStackTrace();
                 return false;
            }
        }
      ?
         /**
          * HashSet 并設定時間
          * @param key 鍵
          * @param map 對應多個鍵值
          * @param time 時間(秒)
          * @return true成功 false失敗
          */
         public boolean hmset(String key, Map<String, Object> map, long time) {
             try {
                 redisTemplate.opsForHash().putAll(key, map);
                 if (time > 0) {
                     expire(key, time);
                }
                 return true;
            } catch (Exception e) {
                 e.printStackTrace();
                 return false;
            }
        }
      ?
         /**
          * 向一張hash表中放入資料,如果不存在將創建
          *
          * @param key   鍵
          * @param item 項
          * @param value 值
          * @return true 成功 false失敗
          */
         public boolean hset(String key, String item, Object value) {
             try {
                 redisTemplate.opsForHash().put(key, item, value);
                 return true;
            } catch (Exception e) {
                 e.printStackTrace();
                 return false;
            }
        }
      ?
         /**
          * 向一張hash表中放入資料,如果不存在將創建
          *
          * @param key   鍵
          * @param item 項
          * @param value 值
          * @param time 時間(秒) 注意:如果已存在的hash表有時間,這里將會替換原有的時間
          * @return true 成功 false失敗
          */
         public boolean hset(String key, String item, Object value, long time) {
             try {
                 redisTemplate.opsForHash().put(key, item, value);
                 if (time > 0) {
                     expire(key, time);
                }
                 return true;
            } catch (Exception e) {
                 e.printStackTrace();
                 return false;
            }
        }
      ?
         /**
          * 洗掉hash表中的值
          *
          * @param key 鍵 不能為null
          * @param item 項 可以使多個 不能為null
          */
         public void hdel(String key, Object... item) {
             redisTemplate.opsForHash().delete(key, item);
        }
      ?
         /**
          * 判斷hash表中是否有該項的值
          *
          * @param key 鍵 不能為null
          * @param item 項 不能為null
          * @return true 存在 false不存在
          */
         public boolean hHasKey(String key, String item) {
             return redisTemplate.opsForHash().hasKey(key, item);
        }
      ?
         /**
          * hash遞增 如果不存在,就會創建一個 并把新增后的值回傳
          *
          * @param key 鍵
          * @param item 項
          * @param by   要增加幾(大于0)
          */
         public double hincr(String key, String item, double by) {
             return redisTemplate.opsForHash().increment(key, item, by);
        }
      ?
         /**
          * hash遞減
          *
          * @param key 鍵
          * @param item 項
          * @param by   要減少記(小于0)
          */
         public double hdecr(String key, String item, double by) {
             return redisTemplate.opsForHash().increment(key, item, -by);
        }
      ?
         // ============================set=============================
      ?
         /**
          * 根據key獲取Set中的所有值
          * @param key 鍵
          */
         public Set<Object> sGet(String key) {
             try {
                 return redisTemplate.opsForSet().members(key);
            } catch (Exception e) {
                 e.printStackTrace();
                 return null;
            }
        }
      ?
         /**
          * 根據value從一個set中查詢,是否存在
          *
          * @param key   鍵
          * @param value 值
          * @return true 存在 false不存在
          */
         public boolean sHasKey(String key, Object value) {
             try {
                 return redisTemplate.opsForSet().isMember(key, value);
            } catch (Exception e) {
                 e.printStackTrace();
                 return false;
            }
        }
      ?
         /**
          * 將資料放入set快取
          *
          * @param key   鍵
          * @param values 值 可以是多個
          * @return 成功個數
          */
         public long sSet(String key, Object... values) {
             try {
                 return redisTemplate.opsForSet().add(key, values);
            } catch (Exception e) {
                 e.printStackTrace();
                 return 0;
            }
        }
      ?
         /**
          * 將set資料放入快取
          *
          * @param key   鍵
          * @param time   時間(秒)
          * @param values 值 可以是多個
          * @return 成功個數
          */
         public long sSetAndTime(String key, long time, Object... values) {
             try {
                 Long count = redisTemplate.opsForSet().add(key, values);
                 if (time > 0)
                     expire(key, time);
                 return count;
            } catch (Exception e) {
                 e.printStackTrace();
                 return 0;
            }
        }
      ?
         /**
          * 獲取set快取的長度
          *
          * @param key 鍵
          */
         public long sGetSetSize(String key) {
             try {
                 return redisTemplate.opsForSet().size(key);
            } catch (Exception e) {
                 e.printStackTrace();
                 return 0;
            }
        }
      ?
      ?
         /**
          * 移除值為value的
          *
          * @param key   鍵
          * @param values 值 可以是多個
          * @return 移除的個數
          */
         public long setRemove(String key, Object... values) {
             try {
                 Long count = redisTemplate.opsForSet().remove(key, values);
                 return count;
            } catch (Exception e) {
                 e.printStackTrace();
                 return 0;
            }
        }
      ?
         // ===============================list=================================
         /**
          * 獲取list快取的內容
          *
          * @param key   鍵
          * @param start 開始
          * @param end   結束 0 到 -1代表所有值
          */
         public List<Object> lGet(String key, long start, long end) {
             try {
                 return redisTemplate.opsForList().range(key, start, end);
            } catch (Exception e) {
                 e.printStackTrace();
                 return null;
            }
        }
      ?
         /**
          * 獲取list快取的長度
          * @param key 鍵
          */
         public long lGetListSize(String key) {
             try {
                 return redisTemplate.opsForList().size(key);
            } catch (Exception e) {
                 e.printStackTrace();
                 return 0;
            }
        }
         /**
          * 通過索引 獲取list中的值
          * @param key   鍵
          * @param index 索引 index>=0時, 0 表頭,1 第二個元素,依次類推;index<0時,-1,表尾,-2倒數第二個元素,依次類推
          */
         public Object lGetIndex(String key, long index) {
             try {
                 return redisTemplate.opsForList().index(key, index);
            } catch (Exception e) {
                 e.printStackTrace();
                 return null;
            }
        }
      ?
         /**
          * 將list放入快取
          *
          * @param key   鍵
          * @param value 值
          */
         public boolean lSet(String key, Object value) {
             try {
                 redisTemplate.opsForList().rightPush(key, value);
                 return true;
            } catch (Exception e) {
                 e.printStackTrace();
                 return false;
            }
        }
      ?
         /**
          * 將list放入快取
          * @param key   鍵
          * @param value 值
          * @param time 時間(秒)
          */
         public boolean lSet(String key, Object value, long time) {
             try {
                 redisTemplate.opsForList().rightPush(key, value);
                 if (time > 0)
                     expire(key, time);
                 return true;
            } catch (Exception e) {
                 e.printStackTrace();
                 return false;
            }
      ?
        }
      ?
         /**
          * 將list放入快取
          * @param key   鍵
          * @param value 值
          * @return
          */
         public boolean lSet(String key, List<Object> value) {
             try {
                 redisTemplate.opsForList().rightPushAll(key, value);
                 return true;
            } catch (Exception e) {
                 e.printStackTrace();
                 return false;
            }
      ?
        }
      ?
         /**
          * 將list放入快取
          * @param key   鍵
          * @param value 值
          * @param time 時間(秒)
          * @return
          */
         public boolean lSet(String key, List<Object> value, long time) {
             try {
                 redisTemplate.opsForList().rightPushAll(key, value);
                 if (time > 0)
                     expire(key, time);
                 return true;
            } catch (Exception e) {
                 e.printStackTrace();
                 return false;
            }
        }
      ?
         /**
          * 根據索引修改list中的某條資料
          *
          * @param key   鍵
          * @param index 索引
          * @param value 值
          * @return
          */
      ?
         public boolean lUpdateIndex(String key, long index, Object value) {
             try {
                 redisTemplate.opsForList().set(key, index, value);
                 return true;
            } catch (Exception e) {
                 e.printStackTrace();
                 return false;
            }
        }
      ?
         /**
          * 移除N個值為value
          *
          * @param key   鍵
          * @param count 移除多少個
          * @param value 值
          * @return 移除的個數
          */
      ?
         public long lRemove(String key, long count, Object value) {
             try {
                 Long remove = redisTemplate.opsForList().remove(key, count, value);
                 return remove;
            } catch (Exception e) {
                 e.printStackTrace();
                 return 0;
            }
        }
      ?
    • 所有的redis操作,其實對于java開發人員來說,十分的簡單,更重要的是去理解redis的思想和每一種資料結構的用處和使用場景;

11.Redis.conf詳解

  • 啟動的時候就是通過組態檔來啟動的(下面代碼或描述片段是截取了組態檔的相關資訊)

    1. 組態檔對大小寫不敏感

      # 1k => 1000 bytes
      # 1kb => 1024 bytes
      # 1m => 1000000 bytes
      # 1mb => 1024*1024 bytes
      # 1g => 1000000000 bytes
      # 1gb => 1024*1024*1024 bytes
      #
      # units are case insensitive so 1GB 1Gb 1gB are all the same.
      
    2. 包含INCLUDES(可以將其他組態檔配置進來)

      # include \path\to\local.conf
      # include \path\to\other.conf
      
    3. 網路NETWORK

      bind 127.0.0.1   #系結的ip
      protected-mode yes   #保護模式 默認開啟
      port 6379   #系結的埠
      
    4. 通用GENERAL

      daemonize yes  #以后臺守護行程的方式運行,默認是no,我們需要自己開啟為yes;
      pidfile /var/run/redis_6379.pid  #如果以后臺的方式運行,我們就需要指定一個pid檔案;
      
      # Specify the server verbosity level.
      # This can be one of:
      # debug (a lot of information, useful for development/testing)
      # verbose (many rarely useful info, but not a mess like the debug level)
      # notice (moderately verbose, what you want in production probably) 默認的生產環境適用
      # warning (only very important / critical messages are logged)
      loglevel notice  #日志級別
      
      logfile ""  #生成的日志檔案
      databases 16  #默認資料庫的數量
      always-show-logo yes  #是否總是顯示LOGO
      
    5. 快照SNAPSHOTTING

      • 持久化,在規定的時間內,執行了多少次操作,則會持久化到檔案.rdb.aof

      • Redis是記憶體資料庫,如果沒有持久化,那么資料斷電即失去

      #下面是組態檔中,對于持久化的配置規則
      #如果900秒內,如果至少有一個key進行了修改,那么我們就進行持久化操作
      save 900 1
      #如果300秒內,如果至少有10個key進行了修改,那么我們就進行持久化操作
      save 300 10
      #如果60秒內,如果至少有10000個key進行了修改,那么我們就進行持久化操作
      save 60 10000
         
      stop-writes-on-bgsave-error yes  #持久化如果出錯,是否還需要繼續作業
      rdbcompression yes  #是否壓縮rdb檔案,需要消耗一些cpu資源
      rdbchecksum yes  #保存rdb檔案的時候,進行一些校驗
      dbfilename dump.rdb  #rdb檔案名
      dir ./    #rdb檔案保存的目錄
    6. 復制REPLICATION(主從復制)

      replicaof <masterip> <masterport>  #配置主從復制,后面跟的是主機的ip+埠;這樣這臺Redis服務啟動之后,自動就變成了從機;
      masterauth <master-password>  #如果主機有密碼,還需要把主機的密碼配置上去;
    7. 安全SECURITY

      # requirepass foobared  密碼默認是空
      用命令列查看密碼   config get requirepass
      可以在組態檔中設定密碼  requirepass xxx
      或者用命令列設定密碼 config set requirepass "xxx"
      設定完密碼,再操作時,需要驗證 auth xxx
    8. 限制CLIENTS (擴展了解)

      maxclients 10000   #設定能連接上Redis的最大客戶端數量
      maxmemory  <bytes> #redis 設定最大的記憶體容量
      maxmemory-policy noevication   #記憶體達到上限后的處理策略
      #移除一些過期的key
      #報錯等......
         
      #maxmemory-policy 六種方式
      #1、volatile-lru:只對設定了過期時間的key進行LRU(默認值)
      #2、allkeys-lru 洗掉lru演算法的key  
      #3、volatile-random:隨機洗掉即將過期key  
      #4、allkeys-random:隨機洗掉  
      #5、volatile-ttl 洗掉即將過期的  
      #6、noeviction 永不過期,回傳錯誤
    9. APPEND ONLY MODE aof配置

      appendonly no  #默認不開啟aof,默認使用rdb方式持久化,在大部分情況下,rdb夠用
      appendfilename "appendonly.aof"  #持久化的aof檔案的名字
      # appendfsync always  每次修改都會同步,速度比較慢,消耗性能
      appendfsync everysec  #每秒執行一次sync,可能會丟失這1秒的資料!
      # appendfsync no  不執行sync,這個時候作業系統自己同步資料,速度最快
      ?
      atuo-aof-rewrite-percentage 100
      auto-aof-rewrite-min-size 64mb  #如果aof檔案大于64m,太大了(記錄上一次aof檔案的大小,超過64m,就會觸發重寫機制),就會fork一個新的行程來將我們的檔案重寫,

 

12.Redis持久化

  • Redis是記憶體資料庫,如果不將記憶體中的資料庫狀態保存到磁盤,那么一旦服務器行程退出,服務器中的資料庫狀態也會消失,所以Redis提供了持久化功能!

12.1.RDB
  • 在指定的時間間隔內將記憶體中的資料集快照寫入磁盤,也就是行話講的Snapshot快照,它恢復時是將快照檔案直接讀到記憶體中,

  • 在主從復制中,rdb就是備用的,很多時候放在從機上,不占用主機的記憶體,

  •  

  • Redis會單獨創建(fork)一個子行程來進行持久化,會先將資料寫入到一個臨時檔案中,待持久化程序都結束了,再用這個臨時檔案替換上次持久化好的檔案,整個程序中,主行程是不進行任何IO操作的,這就確保了極高的性能,如果需要進行大規模資料的恢復,且對于資料恢復的完整性不是很敏感,那RDB方式要比AOF方式更加的高效,RDB的缺點是最后一次持久化后的資料可能丟失,我們默認的就是RDB,一般情況下不需要修改這個配置;

 

  • 生成rdb檔案(有時候生產環境我們需要將這個檔案備份)

    1. RDB保存的檔案就是dump.rdb 都是在我們的組態檔中的快照中進行配置的;

    2. save規則滿足的情況下,會觸發rdb規則,生成dump.rdb檔案

    3. 執行flushall命令,也會觸發rdb規則產生rdb檔案

    4. 退出redis,也會產生rdb檔案

  • 如何恢復rdb檔案

    1. 只需要將rdb檔案放到我們redis啟動目錄就可以,redis啟動的時候會自動檢查dump.rdb

    2. 查看需要存放的位置

      congif get dir
      "dir"
      "/usr/local/bin"  #如果在這個目錄下存在dump.rdb檔案,啟動就會自動恢復其中的資料
  • 優點

    1. 適合大規模資料恢復!

    2. 如果對資料的完整性要求不高,

  • 缺點

    1. 需要一定的時間間隔進行操作,如果redis意外down機,最后一次修改的資料就沒有了

    2. fork行程的時候,會占用一定的記憶體空間

12.2.AOF(Append only File)
  • 將我們所有的命令都記錄下來,恢復的時候就把這個檔案全部再執行一遍

  • 默認的是檔案無限追加,就會導致檔案越來越大;所以我們在組態檔中可以看到重寫的配置

  • 以日志的形式來記錄每個寫操作,將Redis執行過的所有指令記錄下來(讀操作不記錄),只許追加檔案但不可以改寫檔案,redis啟動之扯訓讀取該檔案重新構建資料,換言之,redis重啟的話就根據日志檔案的內容將寫指令從前到后執行一次以完成資料的恢復作業;

  • AOF保存的檔案是appendonly.aof檔案

  •  

 

  • 默認是不開啟的,我們需要手動進行配置,我們只需要將appendonly改為yes就開啟了aof;然后重啟redis就可以生效了,

  • 如果aof檔案有錯誤,這個時候redis是啟動不起來的,這個時候我們需要修復這個aof檔案;redis給我們提供了一個工具,redis-check-aof --fix(命令列是:redis-check-aof --fix appendonly.aof)

  • 優點

    1. 每一次修改都同步,檔案的完整性會更好!

    2. 默認開啟的同步效率是每秒同步一次,可能會丟失一秒的資料

    3. 不開啟的話,就是從不同步,效率是最高的

  • 缺點

    1. 相對于資料檔案來說,aof遠遠大于rdb,修復的資料也比rdb慢

    2. aof運行效率也比rdb慢,因為涉及到了讀寫的IO操作,所以redis默認的持久化操作是rdb而不是aof

擴展
  • RDB持久化方式能夠在指定的時間間隔內對你的資料進行快照存盤

  • AOF持久化方式記錄每次對服務器寫的操作,當服務器重啟的時候會重新執行這些命令來恢復原始的資料,AOF命令以Redis協議追加保存每次寫的操作到檔案的末尾,Redis還能對AOF檔案進行后臺重寫,是的AOF檔案的體積不至于過大,

  • 只做快取,如果你只希望你的資料再服務器運行的時候存在,你也可以不使用任何持久化

  • 同時開啟兩種持久化方式

    1. 在這種情況下,當redis重啟的時候會優先載入AOF檔案來恢復原始的資料,因為在通常情況下AOF檔案保存的資料集要比RDB檔案保存的資料集要完整,

    2. RDB的資料不實時,同時使用兩者時服務器重啟也只會找AOF檔案,那要不要使用AOF呢?建議不要,因為RDB更適合用于備份資料庫(AOF在不斷變化不好備份),快速重啟,而且不會有AOF潛在的BUG,留著作為一個萬一的手段,

  • 性能建議

    1. 因為RDB檔案只用作后備用途,建議只在Slave(從機)上持久化RDB檔案,而且只要15分鐘備份一次就夠了,只保留save 900 1 這條規則

    2. 如果Enable (開啟)AOF,好處是在最惡劣情況下也只會丟失不超過兩秒的資料,啟動腳本較簡單,只load自己的AOF檔案就可以了,代價一是帶來了持續的IO,二是AOF rewrite的最后將rewrite程序中產生的新資料寫到新檔案造成的阻塞幾乎是不可避免的,只要硬碟許可,應該盡量減少AOF rewrite的頻率,AOF重寫的基礎大小默認值是64M太小了,可以設到5G以上,默認超過原大小100%大小重寫,可以改到適當的數值

    3. 如果不Enable AOF,僅靠Master-Slave Repullcation實作高可用性也可以,能省掉一大筆IO,也減少了rewrite時帶來的系統波動,代價是如果Master/Slave同時down掉(比如斷電),會丟失十幾分鐘的資料,啟動腳本也要比較兩個Mater/Slave中的RDB檔案,載入較新的哪個,微博就是這種架構;

13.Redis發布訂閱

  • Redis發布訂閱(pub/sub)是一種訊息通信模式,發送者(pub)發送訊息,訂閱者(sub)接收訊息

  • Redis客戶端可以訂閱任意數量的頻道

  • 訂閱/發布訊息圖

     

  • 命令:這些命令被廣泛用于構建即時通信應用,比如網路聊天室(chatroom)和實時廣播,提醒等

    1:PSUBSCRIBE pattern [pattern.....]
    訂閱一個或者多個符合給定模式的頻道
    2:PUBSUB subcommand [argument [argument......]]
    查看訂閱與發布系統狀態
    3:PUBLISH channel message
    將資訊發送到指定頻道
    4:PUNSUBSCRIBE [pattern [pattern......]]
    退訂所有給定模式的頻道
    5:SUBSCRIBE channel[channel......]
    訂閱給定的一個或者多個頻道的資訊
    6:UNSUBSCRIBE[channel [channel......]]
    只退訂給定的頻道

    測驗

    訂閱
    127.0.0.1:6379> subscribe jpc
    Reading messages... (press Ctrl-C to quit)
    1) "subscribe"
    2) "jpc"
    3) (integer) 1
    
    發布
    127.0.0.1:6379> publish jpc "hello,jpc"
    (integer) 1
    127.0.0.1:6379>
    接收到資訊
    127.0.0.1:6379> subscribe jpc
    Reading messages... (press Ctrl-C to quit)
    1) "subscribe"
    2) "jpc"
    3) (integer) 1
    1) "message"
    2) "jpc"
    3) "hello,jpc"
    
  • 原理

    1. Redis使用C實作的,通過分析Redis原始碼里的pubsub.c檔案,了解發布和訂閱機制的底層實作,借此加深對Redis的理解

    2. Redis通過PUBLISH,SUBSCRIBE和PSUBSCRIBE等命令實作發布和訂閱功能

    3. 通過SUBSCRIBE命令訂閱某個頻道后,redis-server里維護了一個字典,字典的鍵就是一個個channel,而字典的值則是一個鏈表,鏈表中保存了所有訂閱這個channel的客戶端,SUBSCRIBE命令的關鍵,就是將客戶端添加到給定channel的訂閱鏈表中

    4. 通過PUBLISH命令向訂閱者發送訊息,redis-serve會使用給定的頻道作為鍵,在它維護的channel字典中查找記錄了訂閱這個頻道的所有客戶端的鏈表,遍歷這個鏈表,將訊息發送給所有的訂閱者,

    5. Pub/Sub從字面上理解就是發布與訂閱,在Redis中,你可以設定對某一個key值進行訊息發布和訊息訂閱,當一個key值上進行了訊息發布后,所有訂閱它的客戶端都會收到相應的資訊,這一功能最明顯的用法就是用作實時訊息系統

    6. 較為復雜的場景,我們會采用訊息佇列去處理

14.Redis主從復制

  • 概念
    • 主從復制,是指將一臺Redis服務器的資料,復制到其他Redis服務器,前者稱為主節點master/leader,后者稱為從節點slave/follower;資料的復制是單向的,只能從主節點到從節點,master以寫為主,slave以讀為主,

    • 默認情況下,每臺Redis服務器都是主節點,且每一個主節點可以有多個從節點(或沒有從節點),但一個從節點只能有一個主節點

    • 主從復制的作用主要包括:

    1. 資料冗(rong)余:主從復制實作了資料的熱備份,是持久化之外的一種資料冗余方式;

    2. 故障恢復:當主節點出現問題,可以由從節點提供服務,實作快速的故障恢復;實際上是一種服務的冗余;

    3. 負債均衡:在主從復制的基礎上,配合讀寫分離,可以由主節點提供寫服務,由從節點提供讀服務(即寫Redis資料時應用連接主節點,讀Redis資料時應用連接從節點),分擔服務器負載;尤其是在寫少讀多的情況下,通過多個節點分擔讀負載,可以大大提高Redis服務器的并發量;

    4. 高可用基石:除了上述作用之外,主從復制還是哨兵和集群能夠實作的基礎,因此說主從復制是Redis高可用的基礎,

    • 一般情況下,要將Redis運用于工程專案中,一臺Redis是萬萬不能的,因為

      1. 從結構上,單個Redis服務器會發生單點故障,并且一臺服務器需要處理所有的請求負載,壓力較大;

      2. 從容量上,單個Redis服務器記憶體容量有限,就算一臺Redis服務器的容量是256G,也不能將所有記憶體用作Redis記憶體存盤,一般來說,單個Redis最大使用記憶體不超過20G,

    • 環境配置
    1. 只配置從庫,不用配置主庫

      127.0.0.1:6379> info replication  #查看當前庫的資訊
      # Replication
      role:master  #角色
      connected_slaves:0  #從機的個數
      master_replid:a804b1bf7454729cbfba233118499c5fc3d63111
      master_replid2:0000000000000000000000000000000000000000
      master_repl_offset:0
      second_repl_offset:-1
      repl_backlog_active:0
      repl_backlog_size:1048576
      repl_backlog_first_byte_offset:0
      repl_backlog_histlen:0
      127.0.0.1:6379>
    2. 在每一臺redis.conf中分別修改相關資訊,埠,pidfile檔案名(開啟后臺運行后所需要的檔案,不要重名),日志檔案名稱(不要重名),dump.rdb檔案名(不要重名)等,確保Redis服務資訊基本不重名;

    3. 修改完之后,啟動Redis服務,查看行程是否開啟:ps -ef|grep redis

    4. 開始配置主從;一般情況下,我們只需配置從機就好了;選一臺作為主機,其他作為從機;配置完畢后會發現,主機能寫,而從機只能讀;主機中的所有資訊都會被從機自動保存;

      SLAVEOF ip port  #在從機中配置,把當前Redis服務器配置成從機,后面ip+埠是默認主機的資訊;
      這里是用命令配置的,開發中是在組態檔中配置,這樣才是永久的;如何在組態檔中配置,見上面的組態檔講解;
      

      主機斷開連接,從機依舊連接到主機的,沒有寫操作,這時候如果主機回來了,從機立馬可以獲取到主機寫的資訊;

      如果是使用命令列來配置的主從,這時候如果重啟從機,它會立馬會變成主機;只要再變回從機,立馬就可以從主機中獲取值;

    • 復制原理
      1. Slave啟動成功連接到master后會發送一個sync命令

      2. Master接收到命令,啟動后臺的存盤行程,同時收集所有接收到的用于修改資料集命令,在后臺行程執行完畢之后,master將傳送整個資料檔案到slave,并完成一次完全同步;

        • 全量復制

          而Slave服務在接收到資料庫檔案資料后,將其存盤并加載到記憶體中

        • 增量復制

          Master繼續將新的所有收集到的修改命令依次傳給Slave,完成同步

        但是只要是重新連接Master,一次完全同步(全量復制)將被自動執行;我們的資料一定可以在從機中看到

    • 在Master沒有之后,如果Slave想變成Master,在沒有哨兵模式的情況下,只能手動去處理;

      可以使用:SlAVEOF no one 命令 使自己的角色由slave變成master;其他的節點需要手動連接到最新的主節點;

15.哨兵模式

  • 概念:自動選擇Master的模式;主從切換技術的方法是:當主機服務器宕機之后,需要手動把一臺服務器切換成主服務器,這就需要人工干預,費時費力,還會造成一段時間內服務不可用;更多時候我們選擇哨兵模式,Sentinle架構來解決問題;能夠后臺監控主機是否故障,如果故障了,根據投票數自動將從庫轉換為主庫;

  • 哨兵模式是一種特殊的模式,首先Redis提供了哨兵的命令,哨兵是一個獨立的行程,作為行程,它會獨立運行,其原理是哨兵通過發送命令,等待Redis服務器回應,從而監控運行的多個Redis實體;基本模型:

     

  • 這里的哨兵有兩個作用

    • 通過發送命令,讓Redis服務器回傳監控其運行狀態,包括主服務器和從服務器;(默認是30秒)

    • 當哨兵檢測到master宕機后,會自動將slave切換成master,然后通過發布訂閱模式通知其他的從服務器,修改組態檔,讓他們切換主機,

  • 然而一個哨兵行程對Redis服務器進行監控,可能會出現問題,為此,我們可以使用多個哨兵進行監控,各個哨兵之間還會進行監控,這樣就形成了多哨兵模式(哨兵們分別監控每個Redis服務器,而多個哨兵之間也實作互相監控);

     

    假設主服務器宕機,哨兵1先檢測到這個結果,系統并不會馬上進行fail over程序;僅僅是哨兵1主觀的認為主服務器不可用,這個現象稱為主觀下線,當后面的哨兵也檢測到主服務器不可用,并且數量達到一定值時,那么哨兵之間就會進行一次投票(這里有一個投票演算法),投票的結果由一個哨兵發起,進行fail over【故障轉移】操作,切換成功后,就會通過發布訂閱模式,讓各個哨兵把自己監控的從服務器實作切換主機,這個程序稱為客觀下線,

    1. 建sentinel.conf哨兵組態檔,在其中配置相關資訊(下面介紹核心配置)

      #sentinel monitor 被監控的名稱 ip port 1
      #后面的數字代表主機掛了之后,slave會投票選出新的主機
      sentinel monitor redis ip port 1
    2. 啟動配置檔案:redis-sentinel kconfig/sentinel.conf

    3. 默認30秒監控一次,如果主機宕機,會進行投票切換,產生新的主機;當原先的主機再連接上線后,會自動作為新主機的從機;

  • 優點:

    1. 哨兵集群,基于主從復制模式,所有主從配置的優點,它都有;

    2. 主從可以切換,故障可以轉移,系統的可用性就會更好;

    3. 哨兵模式就是主從模式的升級,手動到自動,更加健壯;

  • 缺點:

    1. Redis不好在線擴容,集群容量一旦達到上線,在線擴容就十分麻煩

    2. 實作哨兵模式的配置其實十分麻煩,里面有很多選擇

 

 

# Example sentinel.conf

# 哨兵sentinel實體運行的埠 默認26379
port 26379

# 哨兵sentinel的作業目錄
dir /tmp

# 哨兵sentinel監控的redis主節點的 ip port
# master-name  可以自己命名的主節點名字 只能由字母A-z、數字0-9 、這三個字符".-_"組成,
# quorum 當這些quorum個數sentinel哨兵認為master主節點失聯 那么這時 客觀上認為主節點失聯了
# sentinel monitor <master-name> <ip> <redis-port> <quorum>
sentinel monitor mymaster 127.0.0.1 6379 1

# 當在Redis實體中開啟了requirepass foobared 授權密碼 這樣所有連接Redis實體的客戶端都要提供密碼
# 設定哨兵sentinel 連接主從的密碼 注意必須為主從設定一樣的驗證密碼
# sentinel auth-pass <master-name> <password>
sentinel auth-pass mymaster MySUPER--secret-0123passw0rd


# 指定多少毫秒之后 主節點沒有應答哨兵sentinel 此時 哨兵主觀上認為主節點下線 默認30秒
# sentinel down-after-milliseconds <master-name> <milliseconds>
sentinel down-after-milliseconds mymaster 30000

# 這個配置項指定了在發生failover主備切換時最多可以有多少個slave同時對新的master進行 同步,
# 這個數字越小,完成failover所需的時間就越長,
# 但是如果這個數字越大,就意味著越 多的slave因為replication而不可用,
# 可以通過將這個值設為 1 來保證每次只有一個slave 處于不能處理命令請求的狀態,
# sentinel parallel-syncs <master-name> <numslaves>
sentinel parallel-syncs mymaster 1



# 故障轉移的超時時間 failover-timeout 可以用在以下這些方面:
#1. 同一個sentinel對同一個master兩次failover之間的間隔時間,
#2. 當一個slave從一個錯誤的master那里同步資料開始計算時間,直到slave被糾正為向正確的master那里同步資料時,
#3.當想要取消一個正在進行的failover所需要的時間,  
#4.當進行failover時,配置所有slaves指向新的master所需的最大時間,不過,即使過了這個超時,slaves依然會被正確配置為指向master,但是就不按parallel-syncs所配置的規則來了
# 默認三分鐘
# sentinel failover-timeout <master-name> <milliseconds>
sentinel failover-timeout mymaster 180000

# SCRIPTS EXECUTION

#配置當某一事件發生時所需要執行的腳本,可以通過腳本來通知管理員,例如當系統運行不正常時發郵件通知相關人員,
#對于腳本的運行結果有以下規則:
#若腳本執行后回傳1,那么該腳本稍后將會被再次執行,重復次數目前默認為10
#若腳本執行后回傳2,或者比2更高的一個回傳值,腳本將不會重復執行,
#如果腳本在執行程序中由于收到系統中斷信號被終止了,則同回傳值為1時的行為相同,
#一個腳本的最大執行時間為60s,如果超過這個時間,腳本將會被一個SIGKILL信號終止,之后重新執行,

#通知型腳本:當sentinel有任何警告級別的事件發生時(比如說redis實體的主觀失效和客觀失效等等),將會去呼叫這個腳本,
#這時這個腳本應該通過郵件,SMS等方式去通知系統管理員關于系統不正常運行的資訊,呼叫該腳本時,將傳給腳本兩個引數,
#一個是事件的型別,
#一個是事件的描述,
#如果sentinel.conf組態檔中配置了這個腳本路徑,那么必須保證這個腳本存在于這個路徑,并且是可執行的,否則sentinel無法正常啟動成功,
#通知腳本
# sentinel notification-script <master-name> <script-path>
 sentinel notification-script mymaster /var/redis/notify.sh

# 客戶端重新配置主節點引數腳本
# 當一個master由于failover而發生改變時,這個腳本將會被呼叫,通知相關的客戶端關于master地址已經發生改變的資訊,
# 以下引數將會在呼叫腳本時傳給腳本:
# <master-name> <role> <state> <from-ip> <from-port> <to-ip> <to-port>
# 目前<state>總是“failover”,
# <role>是“leader”或者“observer”中的一個,
# 引數 from-ip, from-port, to-ip, to-port是用來和舊的master和新的master(即舊的slave)通信的
# 這個腳本應該是通用的,能被多次呼叫,不是針對性的,
# sentinel client-reconfig-script <master-name> <script-path>
sentinel client-reconfig-script mymaster /var/redis/reconfig.sh

 

16.Redis快取穿透和雪崩

服務的高可用問題

Redis快取的使用,極大的提升了應用程式的性能和效率,特別是在資料查詢方面,但同時,它帶來了一些問題,其中,最要害的就是資料一致性問題,從嚴格意義上來講,這個問題無解,如果對資料一致性要求很高,那么就不要使用快取;另外一些問題,快取穿透,快取雪崩,行業中有一些典型的解決方案,

 

16.1.快取穿透(查不到資料)
  • 概念

    用戶想要查詢一個資料,發現redis記憶體資料庫沒有,也就是快取沒有命中,也是向持久層資料庫查詢,發現也沒有,于是本次查詢失敗,當用戶很多的時候,快取都沒有命中,于是都去請求了持久層資料庫,這會給持久層資料庫造成很大的壓力,這時候就相當于出現了快取穿透,

  • 解決方案

    布隆過濾器

    布隆過濾器是一種資料結構,對所有可能查詢的引數以hash形式存盤,在控制層先進行校驗,不符合則丟棄,從而避免了對底層存盤系統的查詢壓力;

 

快取空物件

當存盤層不命中后,即使回傳的空物件也將其快取起來,同時設定一個過期時間,之后再訪問這個資料將會從快取中獲取,保護了后端資料源;

但是這種方法會存在兩個問題

  1. 如果空值能夠被快取起來,這就意味著快取需要更多的空間存盤更多的鍵,因為這當中可能有很多空值的鍵;

  2. 即使對空值設定了過期時間,還是會存在快取層和存盤層的資料會有一段時間視窗的不一致,這對于需要保持一致性的業務會有影響;

16.2.快取擊穿(量太大,快取過期)
  • 概念

    這里需要注意和快取穿透的區別,快取擊穿是指一個key非常熱點,在不停的扛著大并發,大并發集中對一個點進行訪問,當這個key在失效的瞬間,持續的大并發就穿破快取,直接請求資料庫,就像在一個屏障上鑿開了一個洞;

  • 解決方案

    設定熱點資料永不過期

    從快取層面看,沒有設定過期時間,所以不會出現熱點key過期后產生的問題,

 

加互斥鎖

分布式鎖:使用分布式鎖,保證對于每個key同時只有一個執行緒去查詢后端服務,其他執行緒沒有獲得分布式鎖的權限,因此只需要等待即可,這種方式將高并發的壓力轉移到了分布式鎖,因此對分布式鎖的考驗很大,

 

16.3.快取雪崩
  • 概念

    快取雪崩是指在某一段時間,快取集體過期失效,Redis宕機

    產生雪崩的原因之一:比如馬上就要到雙十二零點,很快迎來一波搶購,這波商品時間比較集中的放入快取,假設快取一小時,那么到了凌晨一點的時候,這批商品的快取就都過期了,而對于這批商品的訪問查詢,都落到了資料庫上,對于資料庫而言,就會產生周期性的壓力波峰,于是所有的請求都會到達存盤層,存盤層的呼叫量暴增,造成存盤層也會掛掉的情況;

 

其中集中過期倒不是最致命的,比較致命的快取雪崩,是快取服務器某個節點宕機或者斷網,因為自然形成的快取雪崩,一定是在某個時間段集中創建快取,這個時候,資料庫也是可以頂住壓力的,無非就是對資料庫產生周期性的壓力而已,而快取服務節點的宕機,對資料庫服務器造成的壓力是不可預知的,很有可能瞬間就把資料庫壓垮,

雙十一:會停掉一些服務,保證主要的服務可用,比如退款等服務暫不能用

  • 解決方案

    Redis高可用

    多增設幾臺Redis,這樣一臺掛掉,其他還能作業;搭建Redis集群(異地多活)

 

限流降級

這個解決思想是,在快取失效后,通過加鎖或者佇列來控制讀資料庫寫快取的執行緒數量,比如對某一個key只允許一個執行緒查詢資料和寫快取,其他執行緒等待,

 

資料預熱

資料加熱的的含義就是正式部署前,我先把可能的資料預先訪問一遍,這樣部分可能大量訪問的資料就會加載到快取中,在即將發生大并發訪問前手動觸發加載快取不同的key,設定不同的過期時間,讓快取失效的時間點盡量均勻點,

 

 

 

 

 

文章基于嗶嗶哩哩UP主:遇見狂神說  關于Redis的的講解視頻學習并整理;

 

附傳送門:https://www.bilibili.com/video/BV1S54y1R7SB

 

轉載請註明出處,本文鏈接:https://www.uj5u.com/houduan/278342.html

標籤:Java

上一篇:從本地事務到分布式事務,淺談事務的分布式一致性演算法。

下一篇:為什么Java的+ =,-=,* =,/ =復合賦值運算子不需要強制轉換?

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態,例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1:當函式不可能拋出例外或不能接受拋出例外時,使用noexcept 理由 如果不打算拋出例外的話,程式就會認為無法處理這種錯誤,并且應當盡早終止,如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接:https://codeforces.com/problemset/problem/1400/E 來源:Codeforces 思路:給你一個陣列,現在你可以進行兩種操作,操作1:將一段沒有 0 的區間進行減一的操作,操作2:將 i 位置上的元素歸零。最終問:將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯,就附帶了一個自己的翻譯版本 思考 這一題,它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數,這里就不慢慢介紹了。但是,重讀題,我們突然發現反向質數都是 $7$ 位,而將它反過來后的數字卻是 $6$ 位數,這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記:C++中的 const 變數詳解,教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中,會分配記憶體(也就是說可以通過地址間接修改變數的值)。測驗代碼如下: 運行結果: 2、全域const變數存放在只讀資料段(不能通過地址修改,會發生寫入錯誤), 默認為外部聯編,可以給其他源檔案使用(需要用extern關鍵字修飾) 運行結果: ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中,添加資源 2. 點擊新添加的資源,復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案,編輯,使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索,點擊查找全部,然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h,在其中預先定義好宏 ID(不清楚其實ID值應該設定多少,可以先新建一個相同的資源項,再在這個資源的ID值的基礎上遞增即可) 2. 在資源視圖中選中專案資源,按F7編輯資源檔案,按 ID 型別 相對路徑的形式添加 資源。(別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記:關于C++的參考型別,專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考,也叫別名。 參考就是給一個變數名取一個變數名,方便我們間接地使用這個變數。我們可以給一個變數創建N個參考,這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間,占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名,但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++:初學者完整指南

    眾所周知,C ++的學習曲線陡峭,但是花時間學習這種語言將為您的職業帶來奇跡,并使您與其他開發人員區分開。您會更輕松地學習新語言,形成真正的解決問題的技能,并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣(即清晰一致的編碼風格,在撰寫代碼時注釋代碼,并限制類內部的可見性),并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標(smart pointers)是一類資料結構,是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標(pointer)是一個包含記憶體地址的變數的通用概念。這個地址參考,或 ” 指向”(points at)一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身,參考傳遞(如果傳遞的值需要實體化到堆里)如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如: 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號:Hunter后端 原文鏈接:Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類,Extract() 和 Trunc() Extract() 函式作用是提取日期,比如我們可以提取一個日期欄位的年份,月份,日等資料 Trunc() 的作用則是截取,比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM? JVM,全稱Java Virtual Machine(Java虛擬機),是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊,使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息!

    更新完微信服務號的模板訊息之后,我又趕緊把微信小程式的訂閱訊息給實作了!之前我一直以為微信小程式也是要企業才能申請,沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類: 位元組緩沖流:BufferedInputStream,BufferedOutputStream 字符緩沖流:BufferedReader,BufferedWriter 緩沖流的基本原理,是在創建流物件時,會創建一個內置的默認大小的緩沖區陣列,通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說,人太懶了,現在基本都不喜歡寫筆記了,但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的,寫的注釋挺全的,應該直接看得懂,就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景:視頻分段傳輸、視頻多段傳輸(理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發,從基本到高級概念,包括簡介,UWP,第一個應用程式,商店,XAML控制元件,資料系結,XAML性能,自適應設計,自適應UI,自適應代碼,檔案管理,SQLite資料庫,應用程式到應用程式通信,應用程式本地化,應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more