Redis持久化機制

Redis持久化機制

1、RDB 和 AOF 兩種持久化機制的介紹

RDB 持久化機制:對 redis 中的數據執行週期性的持久化,即每隔一段時間就把 redis 中的數據持久化到硬盤。

AOF 機制:把每條寫入命令作為日誌,以append-only的模式寫入一個日誌文件中,在 redis 重啟的時候,可以通過回放AOF日誌中的寫入指令來重新構建整個數據集

如果我們想要 redis 僅僅作為純內存的緩存來用,那麼可以禁止RDB和AOF所有的持久化機制

通過RDB或AOF,都可以將 redis 內存中的數據給持久化到磁盤上來,然後可以將這些數據備份到別的地方去,比如說雲服務器上。如果 redis 掛了,服務器上的內存和磁盤上的數據都丟了,可以從雲服務上拷貝回來之前的數據,放到指定的目錄中,然後重新啟動redis,redis就會自動根據持久化數據文件中的數據,去恢復內存中的數據,繼續對外提供服務。

  • 如果RDB在執行snapshotting操作,那麼redis不會執行AOF rewrite; 如果redis再執行AOF rewrite,那麼就不會執行RDB snapshotting

  • 如果RDB在執行snapshotting,此時用戶執行BGREWRITEAOF命令,那麼等RDB快照生成之後,才會去執行AOF rewrite

  • 同時有RDB snapshot文件和AOF日誌文件,那麼redis重啟的時候,會優先使用AOF進行數據恢復,因為其中的日誌更完整

2、RDB持久化機制的優點

1)RDB會生成多個數據文件,每個數據文件都代表了某一個時刻 redis 中的數據,這種多個數據文件的方式,非常適合做冷備,可以將這種完整的數據文件發送到一些遠程的安全存儲上去,以預定好的備份策略來定期備份 redis 中的數據

AOF也可以做冷備,只有一個文件,但是你可以,每隔一定時間,去copy一份這個文件出來

RDB 做冷備,優勢在哪兒呢?由 redis 去控制固定時長生成快照文件的事情,比較方便; AOF,還需要自己寫一些腳本定時去做這個事情。

RDB 做冷備,提供數據恢復的時候,速度比AOF快

2)RDB 對 redis 對外提供的讀寫服務,影響非常小,可以讓 redis 保持高性能,因為 redis 主進程只需要 fork一個子進程,讓子進程執行磁盤IO操作來進行RDB持久化即可

RDB,每次寫,都是直接寫redis內存,只是在一定的時候,才會將數據寫入磁盤中

AOF,每次都是要寫文件的,雖然可以快速寫入os cache中,但是還是有一定的時間開銷的,速度肯定比RDB略慢一些

3)相對於AOF持久化機制來說,直接基於RDB數據文件來重啟和恢復 redis 進程,更加快速

AOF,存放的指令日誌,做數據恢復的時候,其實是要回放和執行所有的指令日誌,來恢復出來內存中的所有數據的

RDB,就是一份數據文件,恢復的時候,直接加載到內存中即可

結合上述優點,RDB特別適合做冷備份

3、RDB持久化機制的缺點

1)如果想要在redis故障時,儘可能少的丟失數據,那麼 RDB 沒有 AOF 好。一般來說,RDB 數據快照文件,都是每隔5分鐘,或者更長時間生成一次,這個時候就得接受一旦 redis 進程宕機,那麼會丟失最近5分鐘的數據

這個問題,也是rdb最大的缺點,就是不適合做第一優先的恢復方案,如果你依賴 RDB 做第一優先恢復方案,會導致數據丟失的比較多

2)RDB 每次在 fork 子進程來執行 RDB 快照數據文件生成的時候,如果數據文件特別大,可能會導致對客戶端提供的服務暫停數毫秒,或者甚至數秒

一般不要讓RDB的間隔太長,否則每次生成的RDB文件太大了,對redis本身的性能可能會有影響的

4、AOF持久化機制的優點

1)AOF可以更好的保護數據不丟失,一般AOF會每隔1秒,通過一個後臺線程執行一次fsync操作,最多丟失1秒鐘的數據

每隔1秒,就執行一次fsync操作,保證os cache中的數據寫入磁盤中

2)AOF日誌文件以append-only模式寫入,所以沒有任何磁盤尋址的開銷,寫入性能非常高,而且文件不容易破損,即使文件尾部破損,也很容易修復

3)AOF日誌文件即使過大的時候,出現後臺重寫操作,也不會影響客戶端的讀寫。因為在rewrite log的時候,會對其中的指令進行壓縮,創建出一份需要恢復數據的最小日誌出來。再創建新日誌文件的時候,老的日誌文件還是照常寫入。當新的merge後的日誌文件ready的時候,再交換新老日誌文件即可。

4)AOF日誌文件的命令通過非常可讀的方式進行記錄,這個特性非常適合做災難性的誤刪除的緊急恢復。比如某人不小心用 flushall 命令清空了所有數據,只要這個時候後臺rewrite 還沒有發生,那麼就可以立即拷貝AOF文件,將最後一條flushall命令給刪了,然後再將該AOF文件放回去,就可以通過恢復機制,自動恢復所有數據

5、AOF持久化機制的缺點

1)對於同一份數據來說,AOF日誌文件通常比RDB數據快照文件更大

2)AOF開啟後,支持的寫QPS會比RDB支持的寫QPS低,因為AOF一般會配置成每秒fsync一次日誌文件,當然,每秒一次fsync,性能也還是很高的

如果你要保證一條數據都不丟,也是可以的,AOF的fsync設置成沒寫入一條數據,fsync一次,那就完蛋了,redis的QPS大降

3)以前AOF發生過bug,就是通過AOF記錄的日誌,進行數據恢復的時候,沒有恢復一模一樣的數據出來。所以說,類似AOF這種較為複雜的基於命令日誌/merge/回放的方式,比基於RDB每次持久化一份完整的數據快照文件的方式,更加脆弱一些,容易有bug。不過AOF就是為了避免rewrite過程導致的bug,因此每次rewrite並不是基於舊的指令日誌進行merge的,而是基於當時內存中的數據進行指令的重新構建,這樣健壯性會好很多。

4)唯一的比較大的缺點,其實就是做數據恢復的時候,會比較慢,還有做冷備,定期的備份,不太方便,可能要自己手寫複雜的腳本去做,做冷備不太合適

6、RDB和AOF到底該如何選擇

1)不要僅僅使用RDB,因為那樣會導致你丟失很多數據

2)也不要僅僅使用AOF,因為那樣有兩個問題,第一,你通過AOF做冷備,沒有RDB做冷備,來的恢復速度更快; 第二,RDB每次簡單粗暴生成數據快照,更加健壯,可以避免AOF這種複雜的備份和恢復機制的bug

3)綜合使用AOF和RDB兩種持久化機制,用AOF來保證數據不丟失,作為數據恢復的第一選擇; 用RDB來做不同程度的冷備,在AOF文件都丟失或損壞不可用的時候,還可以使用RDB來進行快速的數據恢復

7. RDB 持久化配置

save 60 1000 # 每隔60s,如果有超過1000個key發生了變更,那麼就生成一個新的dump.rdb文件,就是當前redis內存中完整的數據快照,這個操作也被稱之為snapshotting

也可以手動調用save或者bgsave命令,同步或異步執行rdb快照生成

save可以設置多個,就是多個snapshotting檢查點,每到一個檢查點,就會去check一下,是否有指定數量的key發生了變更,如果有,就生成一個新的dump.rdb文件

8. RDB持久化機制的工作流程

1)redis根據配置自己嘗試去生成rdb快照文件

2)fork一個子進程出來

3)子進程嘗試將數據dump到臨時的rdb快照文件中

4)完成rdb快照文件的生成之後,就替換之前的舊的快照文件

5)dump.rdb,每次生成一個新的快照,都會覆蓋之前的老快照

9. AOF持久化的配置

AOF持久化,默認是關閉的,默認是打開RDB持久化

appendonly yes,可以打開AOF持久化機制,在生產環境裡面,一般來說AOF都是要打開的,除非你說隨便丟個幾分鐘的數據也無所謂

打開AOF持久化機制之後,redis每次接收到一條寫命令,就會寫入日誌文件中,當然是先寫入os cache的,然後每隔一定時間再fsync一下

而且即使AOF和RDB都開啟了,redis重啟的時候,也是優先通過AOF進行數據恢復的,因為 aof 數據比較完整

可以配置AOF的fsync策略,有三種策略可以選擇:

1)appendfsync always 每次寫入一條數據就執行一次fsync;會大大衛降低QPS,不推薦,但是可以保證數據不丟失

2)appendfsync everysec 每隔一秒執行一次 fsync,開啟 AOF 後的默認值 ;生產環境一般都這麼配置,性能很高,QPS還是可以上萬的

3)apendfsync no 不主動執行fsync,僅僅redis負責將數據寫入os cache就撒手不管了,然後後面os自己會時不時有自己的策略將數據刷入磁盤,不可控了

10. AOF rewrite

redis中的數據其實有限的,很多數據可能會自動過期,可能會被用戶刪除,可能會被redis用緩存清除的算法清理掉

redis中的數據會不斷淘汰掉舊的,就一部分常用的數據會被自動保留在redis內存中

所以可能很多之前的已經被清理掉的數據,對應的寫日誌還停留在AOF中,AOF日誌文件就一個,會不斷的膨脹到很大很大

所以AOF會自動在後臺每隔一定時間做 rewrite 操作,比如日誌裡已經存放了針對100w數據的寫日誌了; redis內存只剩下10萬; 基於內存中當前的10萬數據構建一套最新的日誌,到AOF中; 覆蓋之前的老日誌; 確保AOF日誌文件不會過大,保持跟redis內存數據量一致

在redis.conf中,可以配置rewrite策略

auto-aof-rewrite-percentage 100

auto-aof-rewrite-min-size 64mb

比如說上一次AOF rewrite之後,是128mb

然後就會接著128mb繼續寫AOF的日誌,如果發現增長的比例,超過了之前的100%,256mb,就可能會去觸發一次rewrite

但是此時還要去跟min-size,64mb去比較,256mb > 64mb,才會去觸發rewrite

1)redis fork一個子進程

2)子進程基於當前內存中的數據,構建日誌,開始往一個新的臨時的AOF文件中寫入日誌

3)redis主進程,接收到client新的寫操作之後,在內存中寫入日誌,同時新的日誌也繼續寫入舊的AOF文件

4)子進程寫完新的日誌文件之後,redis主進程將內存中的新日誌再次追加到新的AOF文件中

5)用新的日誌文件替換掉舊的日誌文件

11. AOF破損文件的修復

如果redis在append數據到AOF文件時,機器宕機了,可能會導致AOF文件破損

用 redis-check-aof --fix 命令來修復破損的AOF文件


分享到:


相關文章: