99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

Redis集群三主三從一鍵部署與故障轉(zhuǎn)移排錯

Redis集群三主三從一鍵部署與故障轉(zhuǎn)移排錯 簡介一份面向 CentOS 7.x 環(huán)境搭建 Redis 集群的自動化部署腳本包服務(wù)于需要快速驗證集群方案的運維與后端開發(fā)者把主從復(fù)制、16384 個槽位分配、故障轉(zhuǎn)移等集群要點固化為可一鍵執(zhí)行的流程免去逐臺手工編譯與配置的重復(fù)勞動。壓縮包共 5 個文件、約 1.86MB以 3 個 sh 腳本為主體分別承擔主流程調(diào)度、Redis 安裝配置與集群卸載清理另含 redis-5.0.0.tar.gz 源碼包和一份 txt 使用說明覆蓋從解壓編譯到集群成型的完整環(huán)節(jié)已有 777 人學習。按說明修改 IP 與端口變量后依次執(zhí)行即可完成依賴安裝、編譯、節(jié)點配置與集群創(chuàng)建卸載腳本便于回收實例與殘留配置腳本中的變量定義、條件判斷與循環(huán)結(jié)構(gòu)也可作為編寫同類自動化部署腳本的參考。對初次接觸集群部署的讀者還可借此理解節(jié)點角色劃分與槽位分配在真實環(huán)境中的含義并沿著腳本順序梳理常見故障的排查方向。1. 手工搭三主三從熬到凌晨這份 Redis 集群一鍵部署腳本省掉的四件事三臺 CentOS 機器、六個 Redis 實例我第一次手工搭集群從下午兩點折騰到凌晨配置文件手改六遍meet 完節(jié)點卡在 handshake最后發(fā)現(xiàn)是 17000 端口沒放行。后來拿到這份 redis 集群一鍵自動部署腳本.rar真正省事的不是redis-cli --cluster create那一行而是它前面那堆重復(fù)勞動——批量生成 conf、按順序拉起實例、把客戶端端口和集群總線端口一起放通、創(chuàng)建完再跑一遍 check 把狀態(tài)確認下來。這套東西是 shell 寫的貼著 CentOS 的 systemctl、firewalld、sysctl 走沒有額外運行時依賴幾百行讀一遍就能按自己的機器改。它適合三類人手上只有兩三臺測試機、需要反復(fù)重建集群做課程設(shè)計或壓測的線上出過槽位故障、想在預(yù)發(fā)環(huán)境原樣復(fù)現(xiàn)的以及剛接觸 Redis Cluster、想先跑通再回頭補原理的。下面從機制講到執(zhí)行鏈路再講翻車點。2. 槽位、總線與選舉一鍵腳本必須替你做對的四個集群機制腳本只做「生成配置、拉進程、建集群」三件事但每一件背后都壓著 Redis Cluster 的運行時規(guī)則。不理解這四條腳本跑掛了連日志該往哪看都不知道。反過來理解了這四條腳本里那些看起來多余的 sleep、循環(huán)和判斷你就知道它在防什么。2.1 16384 個槽位怎么分腳本為什么默認給三主Redis Cluster 把整個鍵空間切成 16384 個槽key 落到哪個槽由CRC16(key) mod 16384決定槽再歸某個主節(jié)點管??蛻舳四玫?MOVED 重定向后自己緩存槽位表所以集群的核心不是「數(shù)據(jù)分片存儲」這件事本身而是「槽位歸屬必須全集群一致」。任何一個槽沒有主人集群在cluster-require-full-coverage yes默認值下會直接拒絕所有寫請求。一鍵腳本之所以默認三主三從不是審美選擇是硬約束--cluster-replicas 1要求主節(jié)點數(shù)至少 3因為故障轉(zhuǎn)移要靠主節(jié)點多數(shù)派投票兩個主節(jié)點掛一個就湊不出多數(shù)。三主是最小可用拓撲腳本里如果寫成「節(jié)點數(shù) / 2」來算主節(jié)點數(shù)節(jié)點少于 6 個時就會算出 2 主create 階段直接報*** ERROR: Invalid configuration for cluster creation。槽位分配默認是均分再取余16384 / 3 5461、5461、5462第三個主節(jié)點多拿 2 個槽。這個數(shù)字在很多巡檢腳本里被寫死成5461做斷言一旦集群做過 reshard 就會誤報。我的做法是只看cluster info里的cluster_slots_assigned:16384不校驗單節(jié)點槽數(shù)。另外要記住集群模式只支持 db 0配置里寫databases 16不會報錯但SELECT命令會被拒絕返回ERR SELECT is not allowed in cluster mode。涉及多 key 的操作必須落在同一個槽用 hash tag 把 key 的一部分用{}包起來比如user:{1001}:name和user:{1001}:age會被強制分到同一槽這是設(shè)計鍵名時就要定下來的事不是部署階段能補救的。2.2 cluster bus 與握手meet 之后到底發(fā)生了什么每個集群節(jié)點會額外監(jiān)聽一個「客戶端端口 10000」的總線端口7000 對應(yīng) 17000。節(jié)點之間交換 gossip 消息、投票、傳播槽位表都走這個端口用的是二進制協(xié)議和客戶端協(xié)議不是一回事。手工搭集群最常見的卡點就在這里6379 能 telnet 通17000 不通cluster nodes里對方節(jié)點永遠是handshake狀態(tài)日志里反復(fù)刷Unable to connect to MASTER。握手的完整鏈路是腳本對 A 節(jié)點執(zhí)行CLUSTER MEET B_IP B_PORTA 通過總線端口連 B交換節(jié)點信息B 再把 A 的信息 gossip 給已知節(jié)點。所以只要有一個節(jié)點的總線端口不通整個集群就可能分裂成兩個互不可見的孤島而cluster_state在每個孤島內(nèi)部都顯示 ok。這就是為什么腳本里的防火墻規(guī)則必須成對出現(xiàn)客戶端端口段和總線端口段一起放少寫一行就是幾小時的排查。還有個容易被忽略的點節(jié)點的 node id 存在cluster-config-file指定的文件里默認叫nodes.conf。這個文件是 Redis 自己維護的腳本絕對不能刪、不能提前創(chuàng)建、不能手改。刪掉它的后果是節(jié)點重啟后生成新 id其他節(jié)點還拿著舊 id 做 gossip集群視圖徹底錯亂。我在腳本里見過用rm -rf $DATA_DIR/*做「清理重來」的寫法看著干凈實際上把 nodes.conf 一起干掉了第二次執(zhí)行必翻車。2.3 主從復(fù)制與自動故障轉(zhuǎn)移的判定鏈路從節(jié)點默認每秒向主節(jié)點發(fā)REPLCONF ACK主節(jié)點把復(fù)制偏移量記在內(nèi)存里。某個主節(jié)點失聯(lián)后其余主節(jié)點在cluster-node-timeout默認 15000 毫秒之后把它標記為fail然后由持有該主節(jié)點槽位的從節(jié)點發(fā)起選舉拿到多數(shù)主節(jié)點投票后提升為主接管槽位。整個過程腳本管不了但腳本里的兩個參數(shù)直接決定它能不能成。一個參數(shù)是cluster-node-timeout。設(shè)太小網(wǎng)絡(luò)抖一下就觸發(fā)主從切換切完數(shù)據(jù)還沒同步完又切回來設(shè)太大真掛了要等半分鐘以上才恢復(fù)。生產(chǎn)上給 15000 到 30000 之間比較穩(wěn)測試機可以給 5000 加快演練節(jié)奏。另一個是cluster-replica-validity-factor默認 10從節(jié)點斷線時間超過node-timeout × factor就失去競選資格這是防止用一份過期數(shù)據(jù)頂上去的保護。把它設(shè)成 0 表示不管斷多久都能選只在「寧可丟數(shù)據(jù)也要保可用」的場景下才這么干。從節(jié)點能不能被選中還要看它的復(fù)制偏移量和主節(jié)點差多少。如果腳本為了讓啟動快把repl-diskless-sync之類的東西亂調(diào)或者從節(jié)點剛起來還沒完成全量同步就被拉進集群選舉時它的 offset 落后太多同樣會被其他主節(jié)點拒絕。所以腳本里「拉起實例」和「cluster create」之間應(yīng)該留幾秒讓復(fù)制鏈路建立這個 sleep 不是玄學是在等master_link_status:up。2.4 節(jié)點順序與副本錯位腳本里最容易寫錯的一段邏輯redis-cli --cluster create的節(jié)點列表順序是有語義的前 N 個被當作主節(jié)點后面按順序分配給它們做從節(jié)點。如果參數(shù)寫成--cluster-replicas 1列表是A B C D E F那 A B C 是主D E F 依次是 A B C 的從。但這個「依次」是按主機和端口的排列算的腳本如果用兩層 for 循環(huán)先生成所有 7000 端口再生成所有 7001 端口最終可能出現(xiàn)三個主節(jié)點全在同一臺物理機上另一臺機器上的三個從節(jié)點全在等它掛——機器一斷電集群直接沒了一半。正確的做法是按機器交錯排列每臺機器出兩個實例列表寫成A:7000 A:7001 B:7000 B:7001 C:7000 C:7001這樣主節(jié)點天然分散在三臺機器上從節(jié)點也落在不同的物理機。腳本里如果做了「按 IP 分組再拼接」的處理讀的時候要確認它是交錯而不是分段。這一點在驗收時可以用redis-cli --cluster check輸出的主從對應(yīng)關(guān)系直接看出來從節(jié)點和它的主節(jié)點在同一臺機器上就是錯位了。還有一種錯位是端口和目錄沒對上。同一個 IP 上跑 7000 和 7001 兩個實例配置里的dir必須是兩個不同目錄logfile、pidfile、dbfilename也都得帶端口后綴。腳本如果只替換了port而沒替換dir兩個實例會往同一個 dump 文件里寫AOF 也會互相覆蓋癥狀是集群能建起來但一重啟數(shù)據(jù)就亂。3. 解包看結(jié)構(gòu)CentOS 上的目錄、系統(tǒng)參數(shù)與端口三件套拿到 rar 之后第一件事不是急著bash deploy.sh而是先看清包里有什么、它假設(shè)你的機器處于什么狀態(tài)。這類腳本的失敗八成不是腳本邏輯錯而是它默認的前置條件在你的機器上不成立。3.1 壓縮包里的文件各管什么rar 在 CentOS 上默認解不開需要先裝unrar很多最小化安裝的鏡像里沒有這個包得先配好軟件源再裝。解出來的目錄結(jié)構(gòu)各家寫法不同但職責基本是固定的幾類讀之前先按下面這張表對一遍缺哪個文件就知道腳本會缺哪一步文件/目錄典型職責缺了會怎樣deploy.sh主入口串起檢查、生成、啟動、建集群無法一鍵執(zhí)行redis.conf.tpl配置模板用變量占位端口、目錄、密碼生成的配置全是默認值nodes.list/hosts.conf節(jié)點 IP 與端口清單腳本不知道往哪幾臺機器鋪start_all.sh/stop_all.sh批量拉起與停止實例只能手工 ps 后 killcheck_cluster.sh建完集群后的狀態(tài)校驗出問題沒有統(tǒng)一出口redis-*.tar.gz源碼包或二進制包需要自己準備同版本安裝包README端口、密碼、目錄約定參數(shù)只能靠讀腳本猜讀腳本時優(yōu)先確認三件事REDIS_HOME裝在哪、DATA_DIR數(shù)據(jù)落在哪、密碼是寫死在腳本里還是從外部傳入。寫死密碼的腳本在多人共用的測試環(huán)境里很常見改的時候記得同步改requirepass和masterauth兩處只改一處集群建不起來。3.2 CentOS 7/8 必須先改的四個內(nèi)核與資源項Redis 在集群模式下對系統(tǒng)資源更敏感因為多了總線連接和節(jié)點間心跳。以下四項如果腳本里沒做建議在執(zhí)行前手工補上用sysctl落成配置文件比sysctl -w臨時改可靠重啟不丟# /etc/sysctl.d/99-redis-cluster.conf # 允許內(nèi)存過量提交否則 fork 做 RDB 落盤時可能直接失敗 vm.overcommit_memory 1 # 監(jiān)聽隊列長度低于 511 時高并發(fā)下會出現(xiàn)連接被丟棄 net.core.somaxconn 1024 # 盡量不使用 swap避免節(jié)點間心跳因換頁抖動而超時 vm.swappiness 1 # 關(guān)閉透明大頁THP 會造成 Redis 的 fork 延遲 spikes echo never /sys/kernel/mm/transparent_hugepage/enabled echo never /sys/kernel/mm/transparent_hugepage/defrag sysctl --systemvm.overcommit_memory這一項是最容易被忽略的日志里表現(xiàn)為Background save is starting之后跟一條fork: Cannot allocate memory進程直接沒了而這臺機器內(nèi)存看起來還很空閑。原因不是內(nèi)存不夠是內(nèi)核在 fork 時按 overcommit 策略拒絕了地址空間申請。somaxconn則對應(yīng)TCP: request_sock_TCP: Possible SYN flooding這類告警連接數(shù)一上來就丟包。文件描述符也得提。Redis 默認建議ulimit -n不低于 10032systemd 拉起的服務(wù)要在 unit 文件里寫LimitNOFILE10032光改/etc/security/limits.conf對 systemd 服務(wù)不生效這是 CentOS 7 之后非常常見的坑。腳本如果用redis-server xxx.conf 的方式啟動繼承的是當前 shell 的限制換個終端執(zhí)行結(jié)果就不一樣我一般讓腳本顯式ulimit -n 10032再拉進程。3.3 端口放行7000-7005 只是其中一半六個實例用 7000 到 7005客戶端連這些端口沒問題但節(jié)點之間要走 17000 到 17005只放前半段的表現(xiàn)是cluster nodes里其他節(jié)點一直是handshake或者已經(jīng)connected但cluster_state:fail日志刷Cluster bus: connection refused。firewalld 的寫法是一次把兩段都加上# 客戶端端口段 firewall-cmd --permanent --add-port7000-7005/tcp # 集群總線端口段 客戶端端口 10000 firewall-cmd --permanent --add-port17000-17005/tcp firewall-cmd --reload firewall-cmd --list-ports如果機器在云上安全組是另一道門firewall-cmd --list-ports有輸出不代表外部能進來。驗證方式是換一臺機器用telnet 目標IP 17000或者nc -zv 目標IP 17000試本地ss -lntp | grep 1700看到監(jiān)聽只說明本機進程起來了跟網(wǎng)絡(luò)可達是兩件事。還有個細節(jié)如果同一臺機器上跑多個實例bind建議寫內(nèi)網(wǎng) IP 而不是0.0.0.0同時把protected-mode關(guān)掉集群模式和多節(jié)點訪問下通常要關(guān)并且顯式設(shè)置cluster-announce-ip為內(nèi)網(wǎng)地址。多網(wǎng)卡機器上不設(shè)這一項節(jié)點會把自己廣播成 127.0.0.1 或者某塊業(yè)務(wù)網(wǎng)卡的地址其他節(jié)點按這個地址連總線端口永遠連不上。4. 從零跑一遍配置生成、實例拉起、cluster create 的完整鏈路這一章按執(zhí)行順序走一遍每一步給出關(guān)鍵命令和需要核對的輸出。腳本再自動這四步的中間產(chǎn)物你都應(yīng)該知道長什么樣否則出問題只能干等。4.1 生成六份 redis.conf用循環(huán)替掉手改配置模板的核心是集群相關(guān)的那幾行端口、目錄、密碼用變量替換。手寫六份的失敗率遠高于想象一份漏了cluster-enabled yescreate 階段就報Node xxx is not configured as a cluster node。用循環(huán)生成模板只維護一份#!/usr/bin/env bash set -euo pipefail BASE_PORT7000 DATA_ROOT/data/redis-cluster NODES(10.0.0.11 10.0.0.12 10.0.0.13) PASSWORDChangeMe_2024 for ip in ${NODES[]}; do for idx in 0 1; do port$((BASE_PORT idx)) dir${DATA_ROOT}/${port} mkdir -p ${dir} cat ${dir}/redis.conf EOF port ${port} bind ${ip} protected-mode no daemonize yes pidfile ${dir}/redis.pid logfile ${dir}/redis.log dir ${dir} dbfilename dump-${port}.rdb appendonly yes appendfilename appendonly-${port}.aof # 集群三件套開關(guān)、節(jié)點狀態(tài)文件、失聯(lián)判定毫秒數(shù) cluster-enabled yes cluster-config-file nodes-${port}.conf cluster-node-timeout 15000 cluster-announce-ip ${ip} cluster-announce-port ${port} cluster-announce-bus-port $((port 10000)) # 密碼必須兩處一致否則從節(jié)點同步和集群創(chuàng)建都會失敗 requirepass ${PASSWORD} masterauth ${PASSWORD} EOF done done幾個參數(shù)值得單獨說。cluster-config-file帶上端口后綴避免同機多實例互相覆蓋這個文件由 Redis 維護腳本只負責給路徑。cluster-announce-ip顯式寫成當前機器的內(nèi)網(wǎng) IP多網(wǎng)卡環(huán)境下這是唯一可靠的廣播地址來源。appendonly yes在集群里建議打開從節(jié)點提升為主后如果只有 RDB最后一個 RDB 之后的數(shù)據(jù)就丟了。daemonize yes讓實例后臺跑腳本里要跟一個循環(huán)等待端口就緒不能生成完就立刻建集群。路徑權(quán)限也要順手檢查${dir}必須對運行 Redis 的用戶可寫用 root 生成目錄、用 redis 用戶起進程是常見組合權(quán)限沒給對的表現(xiàn)是啟動即退出日志里一行Cant open the append-only file: Permission denied。4.2 拉起實例并確認端口真的在監(jiān)聽啟動之后不要相信daemonize的返回值它只表示 fork 成功不表示配置正確。判斷標準是端口在監(jiān)聽且PING有回應(yīng)這一步放在腳本里就是一個帶超時的輪詢#!/usr/bin/env bash # 逐臺啟動并按端口探活超過 30 秒未就緒就打印日志尾巴退出 for ip in 10.0.0.11 10.0.0.12 10.0.0.13; do for port in 7000 7001; do ssh ${ip} redis-server ${DATA_ROOT}/${port}/redis.conf for i in $(seq 1 30); do if redis-cli -h ${ip} -p ${port} -a ChangeMe_2024 --no-auth-warning ping 2/dev/null | grep -q PONG; then echo OK ${ip}:${port} break fi sleep 1 done redis-cli -h ${ip} -p ${port} -a ChangeMe_2024 --no-auth-warning ping \ | grep -q PONG || { tail -n 30 ${DATA_ROOT}/${port}/redis.log; exit 1; } done done這里用--no-auth-warning只是避免密碼提示刷屏腳本里不要把密碼明文寫進 history正式環(huán)境建議用REDISCLI_AUTH環(huán)境變量傳。探活只看PING還不夠集群模式下要再確認cluster-enabled:yes和cluster_state的初始值剛啟動的節(jié)點應(yīng)該是cluster_state:fail、cluster_known_nodes:1這屬于正常狀態(tài)說明它以單節(jié)點身份起來了等著被 meet。如果某個端口一直起不來先看日志最后 30 行再看ss -lntp | grep 端口有沒有別的進程占著。測試機上經(jīng)常出現(xiàn)上一次的實例沒殺干凈pidfile 殘留導致新進程以為自己在跑daemonize yes下這種問題特別隱蔽。4.3 cluster create 的節(jié)點順序與副本分配六個節(jié)點都活了之后才能建集群節(jié)點列表按「主機交錯、主節(jié)點在前」的順序排。Redis 5 之后--cluster子命令是內(nèi)建的不需要額外裝 ruby 的 redis-tribredis-cli --cluster create \ 10.0.0.11:7000 10.0.0.12:7000 10.0.0.13:7000 \ 10.0.0.11:7001 10.0.0.12:7001 10.0.0.13:7001 \ --cluster-replicas 1 \ -a ChangeMe_2024 --cluster-yes前三個是主節(jié)點后三個按順序做它們的從節(jié)點所以 7001 的三個實例分別跟著三個 7000 主節(jié)點且從節(jié)點都不在同一個 IP 上——這就是 2.4 里說的交錯排列。--cluster-yes跳過多余的交互確認腳本里必須加否則會卡在Can I set the above configuration? (type yes to accept)等人輸入。-a在帶密碼集群里要給且必須和配置里的requirepass一致。執(zhí)行過程中會看到每個主節(jié)點分到5461/5461/5462個槽接著是Waiting for the cluster to join這一步耗時取決于總線端口是否通。如果卡在這里超過一分鐘別等直接去另一臺機器上看telnet 目標IP 17000是否可達九成是端口或cluster-announce-ip的問題。4.4 用 cluster check 把狀態(tài)釘死創(chuàng)建命令返回成功不代表集群健康必須再跑一遍 check它會逐個節(jié)點連過去核對槽位覆蓋和主從關(guān)系redis-cli --cluster check 10.0.0.11:7000 -a ChangeMe_2024 # 關(guān)鍵看三行 # [OK] All 16384 slots covered. # 每個 master 下列出的 slots 區(qū)間與 replica 數(shù)量 # [OK] All nodes agree about slots configuration.All nodes agree about slots configuration這句是核心它表示各節(jié)點的槽位視圖已經(jīng)收斂一致。如果這里報Different slots configuration說明有節(jié)點的信息還沒 gossip 到等幾秒重跑如果一直不一致檢查是不是有節(jié)點被 meet 過兩次、在集群里留了重復(fù)條目。驗收時我會把 check 的輸出存一份到日志目錄后面擴容、遷移、重啟都可以拿來對比。5. 避坑與排查cluster_state:ok 之后仍然會翻車的五個場景集群建起來、狀態(tài) ok只說明拓撲成立不代表業(yè)務(wù)能用。下面五個是我和同事在不同機器上真實踩過的癥狀看起來都不像集群問題根因全在配置和端口上。5.1 客戶端一直報 MOVED狀態(tài)卻是 ok現(xiàn)象應(yīng)用連上 7000 寫一個 key報MOVED 12345 10.0.0.12:7000程序里沒做重定向處理直接拋異常。集群側(cè)CLUSTER INFO顯示一切正常。原因客戶端沒開集群模式把 Redis 當成單機在用。MOVED 不是錯誤是告訴客戶端這個槽在別的節(jié)點集群感知客戶端會自動跟隨并緩存槽位表單機客戶端則把重定向當異常拋出來。另一種變體是連的是代理或 VIP請求被固定轉(zhuǎn)發(fā)到某一臺槽位表永遠變不過來。解決換成客戶端庫的集群模式初始化方式連接時給出全部種子節(jié)點而不是一個 VIP。如果確實只能給單地址必須在中間層做槽位感知轉(zhuǎn)發(fā)不能做四層負載均衡——四層會把同一個連接的所有請求固定到同一節(jié)點跨槽訪問必然失敗。5.2 節(jié)點卡在 handshake 半天不動現(xiàn)象cluster nodes里某個節(jié)點狀態(tài)是handshakecluster info的cluster_known_nodes比實際節(jié)點數(shù)少日志反復(fù)刷Unable to connect to node。原因總線端口不通或者節(jié)點廣播的地址是 127.0.0.1、某塊業(yè)務(wù)網(wǎng)卡地址。前者是防火墻只放了 7000 段后者是多網(wǎng)卡機器沒設(shè)cluster-announce-ip節(jié)點按默認網(wǎng)卡地址互相通告對方連過去自然不通。解決把總線端口段補進防火墻和安全組cluster-announce-ip顯式寫內(nèi)網(wǎng) IP 后重啟實例。已經(jīng)進過集群的錯誤節(jié)點不能直接改配置重啟要先CLUSTER RESET HARD清掉它的節(jié)點狀態(tài)再重新CLUSTER MEET否則舊地址會一直留在其他節(jié)點的視圖里。5.3 重啟之后集群整體 fail現(xiàn)象三臺機器重啟實例都起來了cluster_state:failcluster_slots_assigned遠小于 16384部分主節(jié)點顯示fail?。原因腳本的清理邏輯把nodes-*.conf刪了節(jié)點重新生成 id全集群不認它或者數(shù)據(jù)目錄權(quán)限變了節(jié)點讀不到原狀態(tài)文件只能當新節(jié)點啟動還有一種是從節(jié)點比主節(jié)點先起來且主節(jié)點長時間未就緒從節(jié)點把自己降級成孤立狀態(tài)。解決nodes.conf絕對不刪。重啟順序先主后從腳本里加等待邏輯確認所有主節(jié)點cluster_state恢復(fù)到 ok 再拉起從節(jié)點。真出現(xiàn)了 id 變更只能在剩下節(jié)點里用CLUSTER FORGET把舊條目錄掉再把故障節(jié)點以干凈狀態(tài)重新加回并遷移槽位這個操作要停機窗口。5.4 帶密碼的集群創(chuàng)建直接失敗現(xiàn)象redis-cli --cluster create輸出Node xxx replied with error: NOAUTH Authentication required或者從節(jié)點一直master_link_status:down。原因requirepass配了masterauth沒配或者值不一樣。requirepass管客戶端連它masterauth管它連主節(jié)點時用什么密碼集群里兩個方向都要通只配一處就是半通狀態(tài)。解決兩處寫成同一個值redis-cli --cluster相關(guān)命令帶-a或用REDISCLI_AUTH。改配置要六個節(jié)點全改一遍再重啟改完先用redis-cli -a 密碼 info replication確認從節(jié)點master_link_status:up再跑--cluster check。5.5 擴容加節(jié)點后槽位覆蓋不全現(xiàn)象新加兩個節(jié)點、遷移了部分槽過去--cluster check報Not all 16384 slots are covered但每個節(jié)點單獨看都正常。原因遷移過程中斷或者用了手工CLUSTER SETSLOT但漏了IMPORTING/MIGRATING兩步的收尾源節(jié)點把槽標成遷移中目標節(jié)點沒接管這個槽就懸空了。cluster-require-full-coverage yes下整個集群拒寫。解決用redis-cli --cluster reshard走完整流程不要手工拼SETSLOT。已經(jīng)懸空的槽用CLUSTER SETSLOT slot NODE node-id在相關(guān)節(jié)點上逐一修正修完跑 check 確認All 16384 slots covered。注意以上所有涉及CLUSTER RESET、FORGET、SETSLOT的操作都有數(shù)據(jù)丟失風險先在測試環(huán)境完整走一遍再上預(yù)發(fā)。6. 把一鍵腳本用成可維護工具故障演練與巡檢的固定動作腳本能建集群只是起點。真正決定這套東西能不能長期用的是你能不能在一次執(zhí)行之后回答兩個問題故障切換要多久、下次重建要改哪幾行。我給自己的固定動作是每次部署完做一次小型故障演練把切換時間記進部署記錄后面遇到「集群是不是變慢了」這類問題時至少有基線可比。演練很簡單找到某個主節(jié)點kill -9掉它的進程然后每兩秒查一次cluster info里的cluster_state和cluster_slots_assigned同時用redis-cli -c往這個主節(jié)點負責的槽寫 key看多久恢復(fù)寫入。默認cluster-node-timeout 15000下30 秒內(nèi)完成切換屬于正常超過 45 秒就要檢查是不是只有兩個主節(jié)點、投票湊不齊多數(shù)。演練完把殺掉的實例重新拉起它會以從節(jié)點身份回歸用redis-cli --cluster check確認主從關(guān)系復(fù)原。巡檢我習慣寫成一個小循環(huán)把每個節(jié)點的關(guān)鍵指標拉成一行肉眼掃一遍就知道有沒有異常#!/usr/bin/env bash # 逐節(jié)點采集關(guān)鍵狀態(tài)輸出一行一個實例便于 diff 和歸檔 PASSChangeMe_2024 for ip in 10.0.0.11 10.0.0.12 10.0.0.13; do for port in 7000 7001; do info$(redis-cli -h ${ip} -p ${port} -a ${PASS} --no-auth-warning cluster info 2/dev/null) role$(redis-cli -h ${ip} -p ${port} -a ${PASS} --no-auth-warning info replication 2/dev/null | awk -F: /^role/{print $2} | tr -d \r) state$(echo ${info} | awk -F: /^cluster_state/{print $2} | tr -d \r) assigned$(echo ${info} | awk -F: /^cluster_slots_assigned/{print $2} | tr -d \r) printf %-12s %-5s role%-6s state%-5s slots%s\n ${ip} ${port} ${role} ${state} ${assigned} done done這個腳本的價值在于輸出穩(wěn)定、可以直接 diff部署前存一份、演練后存一份cluster_slots_assigned從 16384 掉了就說明有槽懸空role變了就說明發(fā)生過切換。比翻日志快得多也不用記復(fù)雜命令。最后是一個參數(shù)化的習慣。拿到這類腳本我第一件事是把BASE_PORT、NODES、PASSWORD、DATA_ROOT四個變量抽到單獨的cluster.env里腳本開頭source進來第二件事是把生成的配置、check 輸出、演練記錄按時間戳落到logs/不做覆蓋。那次重啟后集群 fail 的經(jīng)歷之后我每次改腳本都會先在一臺干凈的虛擬機上從零跑兩遍確認第二遍執(zhí)行不會因為殘留目錄報錯再看一遍nodes.conf有沒有被動過——集群這東西一次省事的rm -rf能換來一整晚的恢復(fù)工作后悔藥是沒有的。希望幫到你。本文還有配套的精品資源點擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
玖玖激情网| 五月丁香综合激情| 色五月婷婷久久| 五月天综合网| 99精品视频偷拍| 久久久久妻| 国产看真人毛片爱做A片| 五月天艹天天| 婷婷五六月丁香| 久婷狼色诱惑在线| 99久久网站| 九九精品在线观看视频6| 91九色无码内射| 99碰碰| 五月丁香婷婷AV天堂| 免费91久久精品| 九九无码| 国产精品久久久久久久久久 | 激情综合亚洲| 991国产精选视频在线播放下载| 欧美在线视频99| 九九这里有精品| 激情五月天无码| 亚洲在线操| 国产欧美日韩综合精品一区二区| 亭亭玉月丁香| 婷婷五月激情丁香| 激情五月天婷婷五月天| 这里只有精品1| 五月在线| 噜噜狠狠色综无码久久合欧美| 婷婷五六月丁香| yellow视频在线观看91| 五月丁香六月婷婷久久肏| 美女丁香五月天| 色亭亭九月| 91丨九色丨43老版熟女| 婷婷啪啪| 五月婷婷色| 丁香 久久| 操丝袜视频影院导航| 99久久久免费| 狠狠操狠狠爱| 色情丁香五月天| 久久综合爱| 五月丁香婷婷激情四射迷人| 色色五月激情| 99riAV国产精品视频| 秋霞网在线免费基地五月婷婷丁香| 国产亚洲精品AAAAAAA片| 九九碰九九爱97| 五月婷婷激情综合| 激情综合网五月婷婷| 五月天综合在线| 色婷视频| 亚洲熟女色| 99无码视频| 亚洲色激情| www.热99热| 激情五月婷婷啪啪| 99热这里只有精品22| 激情婷婷五月天在线观看| 婷婷爱综合| 色丁香五月婷婷婷| 成人电影丁香六月天| 丁香婷婷啪啪啪| 五月丁香直播| 99热6色| 这里只有精品69| 色五月天天| 九九99视频精品| 婷婷五月天在线综合导航| 五月丁香婷色| 久久久久久人妻久久久久久久久久人妻久久久| www,超碰| 99色在线视频| 婷婷伊人视婷婷婷| 99色在线视频观看| 久久A V无码视频| 激情综合色婷婷啪啪六月天| 丁香六月综合激情| 婷色五月| 在线99色| 狠狠人妻久久久久久综合丁香| 天天干天天干天天干天天干天天干天天| 激情WWW| 夜夜综合色| 五月婷婷丁香五月婷婷丁香| 啊v视频在线观看| 色婷婷五月综合| 乱乱av| 亚洲成人电影在线免费观看| 久久丁香五月综合六月激情红杏视频 | 人妻精品一区二区三区| 久久婷婷伊人| 五月色情婷婷| 99在线观看视频蜜臀| 久99久热只有精品国产99| 99热这里只有精品在线播放 | 色综合五月| 97av在线视频| 婷婷黄色五月| 热久久视频99| 狠狠综合网| 伊人婷婷福利网| 97碰人人操| 色99亚洲| 99九九视频| 婷婷干| 激情六月婷婷| 欧美中文五月天| 天天日天天摸| 婷婷五月丁香久久| 婷婷 丁香 精品| 激情九月婷婷| 精品久热| 婷婷五月天网| 丁香婷婷综合色五月激情国产基地| 爆乳熟女一区二区三区爆乳 | 激情综合六月| 欧美性生交xXxX久久久| .操區COm| 五月激情影视| 色婷婷综合网站| 婷婷五月天熟妇| 婷婷久久网| www.99情趣网| av电影在线播放| 亚洲丁香五月综合| 思思热视频在线观看| 在线观看视频1区| 欧美va亚洲va| 天天搞天天爽| 欧美婷婷六月丁香综合色| www,天天干| 大陆极品少妇内射AAAAAA| 99啪啪网| 久久五月天色婷婷| 97极品在线| 五月丁香婷中文| 激情五月婷婷视频一区二区三区| 色综合久久天天综合网| www.91操| 99热九九这里只有精品| 99热免费观看| 久久er九九| 色屌丝中文字幕| 大香蕉人人网| 狠狠干在线| 五月天天综合网色婷婷| 丁香五月天在线观看| 国产成人精品一区二区三区视频| 九九成人精品| 色五月美女| 婷婷九月丁香久久| 亚韩精品视频1区| 婷婷六月激情啪啪| 五月婷婷欧洲| 五月婷婷,狠狠操| 激情综合九| 亚洲综合婷婷| 69久久久| 五月婷婷偷拍| 五月丁香激情五月天| 人人操99| 99热久久最新地址| 天天色凹凸| 久久96热| 丁香婷婷色色| 啪啪91| 99在线er热| 久久九九色| 思思热天天看| www,setingting| 日日操,夜夜爽| 亚洲日本三级片| 色婷婷综合网站| 99在线资源视频| 婷婷五月综合视频| 另类精品视频在线观看| 91综合在线| 精品人妻久久久| 婷婷五月天国产传媒| 五月丁香婷婷人体| 九九热re99re6在线精品| 久热69| 91色五月| 一本色综合色| 综合色五月天| 亚洲色综合性| 婷婷色色狠狠| www91在线| 99自拍网| 99re这里只有精品视频了| 亚洲AV电影av| 亚洲视频在线观看| 殴美激情综合网| 五月婷婷基地| 久久婷婷桃花五月天| 丁香五月婷婷亚洲综合精品| 五月开心婷婷| 激情性爱五月天| 最新高清无码专区| 色播婷婷五月天| 五月婷婷成人w| 日韩婷久| 97超碰免费超级在线观看| 色欲色香伊人| 六月五月久久丁香| www.色综合| 中文字幕有多少字| 99热日本| 99性爱视频| 欧美丁香婷婷天天操| 草榴视频黄色网| 婷婷久久网| 天天舔天天摸天天透| 婷婷六月综合| 午夜激情久久| 久久婷婷五月综合色区| 香蕉AV福利精品导航| 来吧亚洲综合网| 久久久精品99亚洲综合| www999日韩精品| 99久久66综合| 久热这里| 色狠狠综合| 婷婷丁香五月婷婷| jizzdr| 欧美狠狠草| 热九九九九| 色情综合网| 99在线观看精品| 思思久久99热只有频精品66| 五月天婷婷久久综合| 色色色99| 操操人人| 婷婷五月丁香综合| 91人妻人人做人碰人人爽九色| av网站免费在线| 激情五月综合网| 日本婷婷在线| AV成人在线播放| 开心激情网在线| 久久婷婷五月综合激情国产| 五月亭亭激情综合| 淫荡综合网| 99在线免费视| 五月婷婷 六月丁香| 久久久久婷婷| 天天性视频| 8区视频在线| 丁香久久九九99| 伊人大香蕉爱聚| 青草视频在线播放| 69热91天堂| 92久久精品一区二区| 99日韩| 99色热| 亚洲网站999| 草综合14| 另类图片色五月| 色呦呦美女| pom538精品视频| 五月天婷婷在线播放| 日日夜夜综合| 九九热精品视频在线观看| 五月婷婷丁香色播网| 色婷婷五月天激情综合| 婷婷色网站| 婷婷色爱| 免费婷婷| 开心五月色婷婷综合开心网| 亚洲狠9| 一本色道久久综合狠狠躁一二三| 五月婷婷9| 欧美毛卡| 日本一级一级一级一级| 五月丁香在线偷拍视频| 五月丁香六月情| 亭亭玉月丁香| 青青草成人网| 激情亚洲五月| 九九色综合九九色| 日本操碰碰| 婷婷五月无码| 亚洲在线免费成人| 六月婷欧美| 91爱啪啪| 亚洲丁香五月| 激情综合五月天| 少妇综合网| 国产全是老熟女太爽了| 青青草原伊人网| 色婷婷免费视频| 久久精品爱爱| www,天天干| 色婷婷a| 三男玩一女三A片| 久久人人添人人爽添人人片αV| 激情婷| 色综合网址| www.色窝| 日韩另类| 在线成人av播放| 色欲丁香| 4438亚洲欧美| 婷婷五月丁香五月| 久久久久久久久人妻| 91综合国免费久入| 日韩欧美性爱| 色婷婷五月天天天做| 五月丁香综合激情网| 激情五月综合| 丁香久久九九99| 日韩黄黄| 99re热在线观看| 丁香六月激情| 玖玖爱综合网| 亚洲热视频在线| 亚洲超碰在线| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 色婷婷另类| 99热福利| 噜噜国产| 97色天堂| 婷婷五月激情综合啪啪| 婷婷激情综合色五月久久,色婷婷丁香花,丁香婷婷五月情天,久久婷婷五月综合色 | 丁香五月在线视频| 色婷婷欧美| 九九热狼人| 色婷视频| 六月 丁香 视频| WWW.五月com| 久久五月天激情婷婷| 国产成人99久久亚洲综合精品| 思思热在线精品视频| 亚洲 欧洲 国产 伦综合| 亚洲五月天天| 色婷婷久久| 婷婷99视频精品| 五月色网| 六月丁香婷婷尤物| 久久五月天婷婷| 亚洲婷婷五月| 久久婷婷视频| 久久的爱大香蕉| site:publishdd.com| 综合网五月| 97人人爱人人操| 婷婷五月丁香综合人妻| 久cao香蕉影院| 色五月之第四色| 超碰人人操在线| 99热 在线播放| 婷婷五月天在婷| 亚洲精品99| 看黄的网站18禁| 九九香蕉网| 国产免费一区二区三州老师F1F1| 欧美视频五区| 婷婷综合久久| 国产亚洲精品久久久久久郑州| 玖热精品综合视频| 婷色五月天| 爱爱色五月天| 超碰在线50| 激情5月天天天| WW婷婷五月天com| 五月色丁香婷婷中文字幕| 天天弄天天操| 色五月婷婷啪啪五月| 性做爰1一7伦| 日日色综合| 97五月天婷婷综合激情网| 色色色色热| 色婷婷AⅤ| 99精品热| 婷婷综合五月| 亚洲成人影视在线| 99热这里都是精品| 人妻狠狠操| 大香蕉啪啪啪| 九九视频这里只有精品| 婷婷五月丁香综合| 99人妻碰碰久久久禁片| 五月婷婷在线免费| 久久五月丁香婷婷| 婷婷五月另类网站| 日本欧美在线| 日韩六十路91性交电影| 激情伊人网| 久久机热/这里只有精品| 开心 五月 综合| 免费看欧美成人A片无码| 色性日本| 色九九综合| 99国产精品久久久久久久久久久| 日本五月天激情| 色婷婷免费观看| 97久久久| 日日操夜夜爽| 爱草视频在线| 欧美在线97| 国产精品18久久久| 久久久久人妻网址| 99热婷婷| 婷婷五月激情综合啪啪| 欧美日韩一区二区三区四区| 婷婷丁香五月天亚洲| 大香蕉啪啪啪啪啪啪| 久久久久婷婷| 久久99成人性爱高清视频| 久久99精品久| www夜夜| 五月婷婷五月天亚洲无码| 五月天伊人久久| 婷婷伊人久久| 五月丁香色五月| 久草a片| 五月综合色| 中文字幕性爱丰满| 久久久久婷婷五月热综合| 香蕉AV777XXX色综合一区| 色情五月停停丁香| WWW.五月天9999| 男人天堂AV在线一区二区| 4399成人黄A片| 国产片色| 97在线碰| 色女人久久| 熟女人妻视频| 国产精品电影| 丁香婷婷五月天激情四射| 色狠狠伊人久久五月丁香| 中文字幕黄色电影网址| 日韩丁香涩| 大香蕉人妻| 饮料下药迷倒漂亮女同事强干| 另类五月婷婷| 色婷婷五月天亚洲| 亚洲啪视频| 天天综合网~91| 五月婷婷中文字幕| 欧美一级色| 人。妻久久| 凹凸7777操操操| 欧美丁香五月97色| 91人人妻人人操| 成人做爰A片免费看网站找不到了| 另类激情中文| 丁香五月天资源网| 日日爱699| 色欲婷婷夜夜| 51成人| 中文字幕91,综合| 五月丁香六月片| 五月婷婷综合网| 五月狠狠| 99久久久久久www| 丁香五月乱中文字幕| 天色综合网站| 日本五月丁香| 婷婷丁香六月激情综合| 久久亚洲婷婷综合色五月| 中文字幕在线日亚洲9| 激情国产综合| 99爱爱网| 婷婷综合在线| 性日本激情| 亚欧州精品视频| 97操碰人人| 婷婷综合九月| 91在线操| 99热在线中文字幕| 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | 激情综合色婷婷啪啪六月天| 五月激情丁香| 久久婷婷五月综合色丁香| 丁香色啪综合| 久久婷婷丁香六月天| 26uuu色噜噜精品一区| 亚洲思思热久| 2015好吊操| 美妞av| 综合五月天亚洲婷婷| 伊人久久婷婷| 襙逼网| 成人AV在线网站| 婷婷丁香高潮了| 欧美在线骚货| 五月丁香六月婷婷久久| 99热这里都是精品| 日本99热| 潘金莲AAAAAAAAAA| 综合精品99| 国产成人AV在线播放| 大香蕉婷婷丁香视频在线| 激情综合五月丁香| 热久久66| 色五月丁香婷婷在线观看| 丁香 久久| 色婷婷视频在线| 婷婷久久大香蕉| 成人超碰网| 国产高潮白浆一区二区| 色偷偷色婷婷| 天天综合天天玩夜夜玩天天玩夜夜玩| 五月丁香无码| 亚洲综合网 665566| 99热这里只有精品55| 欧美三级巜人妻互换| 97自拍视频网| 91热在线| 五月婷视屏在线观看| 亚洲欧洲午夜成人精品av| 综合激情五月丁香| 婷婷五月综合免费在线| 色色婷婷五月| 夜夜爽天操| 婷婷的99视频网站| 曰韩五月丁香色婷婷无码| 丁香五月婷婷久久久| 97色久| 国际国外精品欧洲南美洲专区无码不卡| 色五月女| 五月丁香色色网| 91亚洲视频| 99碰碰| 色综合久久88色综合中文字幕| 丁香五月欧美午夜视频| 丰满老熟妇BBBBB搡BBB| 99超级碰碰| 丁香五月色播中文在线播放| 东京热伊人| 欧美日本日韩| 999热在线视频| 丁香五月丁香伊人| 天天射综合网站| 伊人久久婷婷| 91嫩草久久| 免费精品66| 丁婷婷五月天在线播放| AA片在线观看视频在线播放| 亚洲日韩国产黑丝黑丝AVAV一区二区三区| 色香欲综合| www.五月天| 亚洲黄色精品| 婷婷操久久| 五月天婷婷色综合| 色五月婷婷五月久久| 色综合激情| 99久久偷拍视频| 欧美成人热| 综合久久99| 丁香五月成人丝袜| 噜噜噜噜噜色| 精品热九九| 五月天丁香啪啪综合| 无码色| AV中文字幕夜夜操b天天摸bb | 月丁香久久久| 久久这里99| 婷婷金品综合视频| 婷色五月| www色五月| 九九超日本| 99热在线这里| 丁香色情五月综合激情| 色色丁香激情五月| 丁香五月九九| 激情五月天小说|五月天开心激情网|亚洲精品国产自在现线|黄色五月天 | 婷婷丁香色五月| 青青草99热久久精品国| 激情综合色婷婷六月天| 91在线观看www| 六月色五月天天婷婷| 九九无码| 综合五月亭亭9| 亚洲中文字幕网| 成人网站在线观看视频| 婷婷五月天久久久| 五月天婷婷一起草| 色丁香五月婷婷| 九九热99re8热免费观看| 婷婷色丁香五月| 九九热婷婷| 五月天亚洲色| 激情五月综合久久| 成人婷99最新| 色久播播| 青草视频在线播放| 婷婷五月天堂一本在线| 激情婷婷网| 婷婷丁香十月| 国产亚洲色婷婷久久99精品91| 色玖玖| 99久久久| 丁香五月天天久久综合小说| 丁香五月欧美激情| 极品五月天| 99爱视频| 激情婷婷久久| 亚洲人人操| 欧美色色色色色色色色色色影视| 日韩熟女啪啪视频| 99热97| 色九月欧美| 日本天天操| 激情综合网,婷婷| 久久A极片| 成人va在线播放| 性高潮久久久久久-九九九九九九九九九九热-成人AV | 综合色在线| 日日操,夜夜撸| 艹天天射| 成年人丁香五月| 天天激情视频| 婷婷综合网性| 丁香五月AV| 色综合日日| 成人电影在线免费试看| 五月天成人综合| 五月天夜夜爱夜夜操| 伊人网碰碰| 99爱在线视频| 99热这里只有精品5| 亚洲欧洲99| 久久3级片| 99热人人| 五月天婷婷爱| 丁香五月自拍| 日韩五月婷婷| 国产成人精品一区二三区熟女在线| www.五月天社区| 五月婷婷色色色| 婷婷五月丁香色色| 婷婷综合网| 五月天久久丁香| 欧美欧盟性爱网| 丁香五月成人自拍| 在线日韩视频| 五月天激情影院| 狠狠色精品综合| 99久久9| 综合久久综合综合| 亚洲乱码日产精品BD| 精品人妻在线| 色婷婷丁香五月综合| 欧美色色色| 99热 在线播放| 久久久久久人妻| 色婷婷天堂| 激情综合色婷婷六月天| 在线综合婷婷| 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | 综合狠久久| 色五月91| 色欲丁香| 伊人玖玖网| 天天插天天| 国产夫妻操逼内射视频| 久久综合干| 综合日本婷婷| 亚洲成人av在线观看| 99这里有精品| 91精品综合久久久久久五月丁香| 五月丁香婷婷基地| 99久精品视频| 成人电影在线免费试看| 精品人妻一区| 亚城区在线| 狠狠擼综合| 天堂AV三级| 久久丁香五月| 超碰男人色| 激情熟女网| 国产干逼片| 超极99精品| 欧美日韩中文国产一区发布| 国外亚洲成AV人片在线观看| 成人va在线播放| 另类视频一区| 在线只有精品| 91久久久久久久| 99这里只有精品|v| 91久久婷婷| 久久婷婷亚洲| 国产成人精品一区二三区熟女在线| 人人操AV| 国产精品色色| 蒲京久久无码视频| AV操一操| 久艹伊| 欧洲亚洲午夜| 99精品国产热久久91色欲| 91丨九色丨老农村| 九九碰九九爱97超| 思思视频这里是精品| 婷婷五月丁香五月天| www.婷婷,com| 婷婷日日夜夜| 无码人妻激情| 五月天婷婷激情| 热91久| 拍色综合| 天堂在线9| 色色AV色色色东莞| 丁香激情五月| 日本三级中国三级99| 综合大香蕉| 久色视频| 97婷婷五月丁香| 亚洲人妻电影| 久久久人妻人伦| 99re热久久| 丁香五月成人社区| 久久机热/这里只有精品| 色九区| 青草视频在线播放| 91互操| AV中文在线| 99视频这里只有久久精品| 99热在线成人网站| 香蕉婷婷| 婷婷成人av| 97人人看| jiujiu无码五区| 丁香六月久久| 日日夜夜天天| 亭亭玉月丁香| 狠狠狠婷婷五月综合| 日日天天操| 影音先锋天天日| 国产成人+综合亚洲+天堂| 热99.com婷婷| 五月丁香A片| 热99re| 99热18| 极骚大香蕉伊人| 五月停亭六月,六月停亭的英语| 婷色成人| 激情综合在线观看| www.色欲丁香婷婷| 在线视频色五月| 中文av网| AⅤ网站在线看| 色婷婷88| 日韩天堂久久| 天天爽夜夜爽夜夜爽精品| 婷婷五月天久久久| 亚洲视频在线观看| 日韩一级A片黄色| 99视频这里有精品免费观看| 九九伊人网| 夜夜大香蕉婷婷丁香| 天天综合图片| 超碰av在线| 99热久97| 婷婷色av| 99热xx| 狠狠五月激情在线| 亚洲无码yw| 久久aaaaa| 婷婷色播综合五月| 成人做爰A片免费看视频| 2017人人操| 婷婷五月色亚洲| 国产成人精品一区二三区熟女在线| 9999三级片| 色婷婷久久综合久色综| 99丁香五月| 婷婷六月丁香开心深深爱| 色色色婷| 久久久久98| 五月天综合视频网| 黄色av高清| 婷婷开心综合人妻小说网址| 天天插天天射| 欧美色色日韩| 琪琪色五月天| 97操碰视频| 五月天丁香综合在线| 丁香五月婷在线| 亚洲狠狠丁香婷婷香蕉| 婷婷五月色惰| enecarbon-materials.comWu染请涟系Bao护@wip1688 | 久热91| 99色色| 丁香五月www| 欧美这里只有精品| 丁香五月综合首页| www.99热在线| 久9无码视频| 五月婷婷激情| 五月久久婷婷| www.色婷婷| 欧洲激情网站| 五月香婷婷| 26uuu亚洲色| 国产露脸150部国语对白| 婷婷五月激情六月丁香| 亚洲欧洲中文日韩久久AV乱码| 伊人久久99| 天天日天天插| 亚洲激情 久久| 天天日天天舔| 99视频热| 91久草五月天婷婷| 日本久久婷| 99re6热在线精品视频播放速度| www.婷婷五月天.com| 99综合色色色| 久热婷婷综合| 五月天国产| 婷婷五月综合社区| 五月婷婷综合网| 色婷婷六月开心中文字| 超碰AV成人| 五月婷婷色影院| 超碰成人免费| 婷婷五月天性色| 欧美美美女性色视频| 日本97在线视频| 九九色热| 激情网婷婷婷| 操逼三区| 久久久久9999| 色婷婷综合视频| 九九热视频99| 播丁香五月婷婷欧美| 色婷婷婷婷五月天| 色婷婷综合网| 丁香五月婷婷免费视频| 婷婷激情六月综合| 欧美天天干五月丁香| 久久日婷婷| 超碰在线99| 国产精品色色色色| 97精品自拍| 国产又色又爽又黄又免费| 操一操干一干| 99re思思热在线视频| 婷婷丁香五月天色色| 综合久久综合| 亚洲综合色丁香五月天| 九色91视频| 在线18av | 激情五月婷| 国产乱妇无乱码大黄AA片| 天天操狠狠操| 色婷婷综合视频| 伊人影院久久网| 丁香成人五月天| 成年AAAA色情| 在线成人网站| 五月丁香 狠狠爱| 99久久99久久综合| 六月婷婷色综合| 色婷婷丁香特级性爱视频| 日本久久视频| 亚洲无码免费看| 五月婷婷色| 日日夜夜天天| 第一区久久网站| 亚洲成人在线播放| 免费看片操逼| 亚洲欧洲中文日韩久久AV乱码| 日本熟妇精品99| 五月婷婷伊人在线| 91艹人| 五月丁香六月婷婷久久肏| 大香蕉丁香婷婷| 狠狠干综合| 99热这里只有精品2| 婷婷五月色情天| 色五月丁香在线| 26uuu欧美日韩| 日本人人草草| 综合激情在线观看| 男人大jjc女人免费视频| 天天综合色| 大香蕉久| 日韩成人中文字幕| 五月综合视频| 五月天.com| A A色色| 色五月视频无码播放| 天天日天天添| 九九精品在线视频观看| 97欧美在线| 色婷婷中文| 欧美婷婷色| 在线观看免费人成视频无码| 精品夜夜澡人妻无码AV| 天天日天天干天天操| WWW,五月| 91啪啪视频| 亚洲五月花| 丁香激情网| 婷婷金品综合视频| 久操婷婷| 色播五月天激情| 久久九色| 99精品网| 亚洲中文字幕网| 久草热8精品视频在线观看| 直接看的av| 五月综合激情| 色婷婷成人做爰A片免费看网站| 99热久| 色婷婷激情| 91妻人人爽人人看片| 影音先锋美国A| 久久人人添人人爽添人人片αV | 1024成人免费看| 欧美综合五月天婷婷tin| WWW.五月com| 亚洲情欲久久| 五月天激情四射网站| 久久新| 五月婷婷深深爱| 91久久五月天| 97资源碰碰| 丁香六月av| 色婷婷影音| 婷婷五月天美女21p| 五月天婷婷激情| AV中文在线| 婷婷丁香五月综合| 最新国产AV| 99精品视频推荐| 深夜男女福利刺激影院一区完整| 九九熱最新視頻| 激情五月六月丁香| 九九九九这里只有精品| 超碰人人操在线| 99操碰| 婷婷五月另类网站| 爱狠射| 中文字幕在线日亚州9| 第六色在线| 成人开心五月天| 色99在线视频| 狠狠婷婷色| 婷婷五月综合久久中文字幕| 色亚洲无码| 久久思思精品| 欧美六月| 超碰色碰碰| 久久色五月| 婷婷五月欧美综合| 99热最新| 99在线精品观看99| 五月丁香亚州综合网| www.超碰在线| www.婷婷,com| 91久操| 亚洲视频综合网| 99热主页日本| 亚洲久久婷婷丁香五月天| 9热精品| 精品一区二区三区免费毛片爱| 91av视频在线观看最新网址| 人妻av在线| 免费观看欧美成人AA片爱我多深| 成人在线精品| 五月婷九九草| av婷婷丁香 六月| 饮料下药迷倒漂亮女同事强干| 婷婷欧美| www.91在线观看| 丁香五月婷婷激情视频播放| 九九激情网| 无语停婷丁香网| 另类图片激情五月天| 婷婷五月情| 成人.在线日韩| 亚洲成人在线综合| 婷婷丁香五月综合激情小说| 这里只有精品视频在线| 婷婷激情人妻| 99久久玖玖| 国产精品涩涩涩视频网站| 成人电影在线免费试看| 婷婷激情丁香六月| 亚洲精品一区中文字幕乱码| 伊人干综合| EEUSS鲁片一区二区三区| 性av| 五月欧美色播| 激情亭亭五月| 涩涩激情五月婷婷| www.五月天性.com| 99精品久久| 综合激情在线视频| 久久人人妻| 五月丁香婷婷欧美色图视频五月丁香777电影| 全亚洲最大的婷婷五月天网站COM| 99久在线精品99re8| 三级毛片视频| \\五月天婷婷激情| 99激情视频| 日本超碰在线| 极品另类| 色色色区| 狠狠搞狠狠操| 91亚洲免费片| 97婷婷五月| 综合在线观看99| 千人斩操逼| 欧美69久成人做爰视频| 日韩五月婷婷| 日韩啪啪网| 色婷婷啪啪啪啪啪啪| 男女免费视频999| 国产综合81p| 丁香婷婷噜噜| 欧美超碰人人| 激情五月婷婷综合| 精品久久婷婷| 另类图片五月天| 91精品国产99久久久久久天美| 婷婷五月丁香在线视频| 色99无码| 99热激情| 91人妻人人做人碰人人爽九色| 91丨九色丨东北熟女| 99热婷婷| www.99热| 五月天六月天| 九月丁香很很色| 青青草婷婷综合五月| 99riAV成人在线视频| 色综合综合网| 久久婷婷东京热大香樵| 五月丁香激情婷婷| 天天综合色丁香| 婷婷久月| 激情深爱综合| 精品人妻一区二区三区在| 蜜臀av在线成人电影| 欲求不满的人妻| 狠狠色噜噜狠狠狠888| 久久色天堂| 99性视频| 五月婷婷激情中心| 97五月婷婷| 婷婷久月| 甈你aaaaa| 任我干视频在线观看| 五月婷婷五月天| 五月婷婷激情| 中文字幕丰满孑伦无码专区| 丁香五月亚洲无码| 狠狠色丁香婷婷五月| 91久久久久久| ...婷婷国产成人亚洲日韩| 色婷婷狠狠18yy| 亚洲人成色A777777在线观看 | 色综合xx| 久草网大香视频| 亚洲最大在线| 九九热在线视频,| 97婷婷狠狠久久综合9色| 成人网址在线观看| 久久精品永久免费| 97五月天婷婷综合激情网| 99无码视频| 五月天激情无码专区| 大香蕉人妻| 少妇性按摩无码中文A片| 天天摸天天日天天舔| 日韩另类| 国产又爽又猛又粗的视频A片 | 亚洲精品永久久久久久| 色婷婷91激情小说| 91精品丝袜久久久久久久久粉嫩| 香蕉婷婷| 思思热精品在线观看| 黄色三级日本| 色99xx| 97人人操人人爽| 亚洲激情综合免费| 丁香五月天信号| 超碰免费电影| 九九热最新| 天天干天天操天天爽| www.狠狠狠.com| 九九色婷婷| 五月丁香婷婷钟和色图| 狠狠插狠狠插| 亚洲免费婷婷| 思思热热久久| 涩五月婷婷| 久久视频婷婷| 99riAV成人在线视频| 91精品综合久久久久久五月丁香| 婷婷五月天开心网| 99热久久这里只有精品| 伊人色综合影院视频| 99啪在线视频| 伊人91| 性爱综合网| 五月激情婷婷在线| 99热这里只有精品一| 日韩免费乱轮网站| 六月丁香停| 五月天久久激情| AA片在线观看视频在线播放| 激情久久综合| 超碰在线观看成人视| 俺去也五月| 婷婷综合激情| 大香蕉99| 久久色五月天| 激情综合五月开心狠狠| 这里只有九九精品| 97涩涩丁香五月天| 性爱综合网| 婷香五月| 91碰| WWW·色色色·COM| 精品一区二区三区三区| 丁香色色五月| 精品欧美性爱超级爽| 麻豆AV一区二区三区| 婷婷视频网| 日韩成人网址| 91超级碰| 欧美日韩成人在线| 少妇激情五月天| 4399在线日本A片| 成人电影在线免费试看| 99精品一二三四视频| www.婷婷五月| 五月丁香婷婷综合网| 精品无吗va视频免费观看| 欧美成人精品一区二区| dingxiangtingtingliuyue| 日 日干 日日做| 99热在线这里只有精品| 人人干Av| 天天综合色综合| 五月婷婷在线观看| 精品国产va久久久久| 色色亚洲无码| 激情综合网激情五月网| 五月天六月天| 丁香五月婷婷成人网| 26uuuuuuuu国产| 思思久热6| 婷婷色色婷婷| 可以直接看的av| www.婷婷五月天| av在线观看免费| 99ri国产| 婷婷五月婷婷| 激情内射人妻1区2区3区| 成人精品视频99在线观看免费| 五月丁香六月激情网站| 中文成人在线| se婷97| 97香蕉久久超级碰碰高清版| 五月婷婷人人人操| 亚洲五月丁香综合网| 激情五月五月五月婷婷| 五月天色婷婷基地| 九九热最新| 色五月激情五月| 丁香五月天社区| 五月丁香久久激情综合| 91精品刘玥| 人人干女人| 色色色9| 丁香六月婷婷综合缴| 日本色狠狠| 这里只有精品2| 精品二区| 丁香婷婷综合色五月激情国产基地| 99啪啪网| 六月婷婷六月天天在线免费| 九九视频精品在线免费| 久久久这里有精品| 黄色AV日韩| 婷婷五月天桃花网| 视频一二区| 久久久色婷婷五月天| 天天插插天天| 亚州色色色| AA片在线观看视频在线播放| 丁香五月婷婷Av| 激情开心五月婷婷| 直接看的AV网站| 天天色综网| 婷婷天堂综合网| 99在线视频播放| 人妻操在线看| 亚洲AV人人操| 亚洲精品又粗又大又爽A片| 色欲久久久久久综合网综合网| 亚洲激情视频在线观看| 五月精品免费XXX| 激情四射五月天| 丁香,开心成人,久久| 日韩精品一区二区亚洲AV观看| 婷婷五月天Av| 色婷婷成人| 成人免费120分钟啪啪| 久久综合首页| 我爱宗和色| 五月丁香六月婷| 色综合久久无码| 思思热闹这里只有精品| 五月丁香影视| 天天碰夜夜操| 91操片| 5月丁香啪啪啪| 国产成人精品一区二区三区视频| 日本三级毛片| 色99综合视频| 久久XX| 九九综舍久久| 丁香婷婷中文字幕| 丰满老熟妇BBBBB搡BBB| 91疯狂操操操操| 色5月婷婷| 大陆极品少妇内射AAAAAA| 久99久视频免费观看| 日韩十国产极品久久| 天天爽天天爽| www.色综合.com| 狠狠色综合精品视频在线| 天海翼中文字幕高| 五月丁香啪啪网| 九九色图| 夜夜爱爱亚洲| 五月天色婷婷激情综合| 久久婷婷综| www五月天com| 婷婷丁香色五月亚洲| 丁香婷婷五月六月久久| 五月激情久久| 五月婷婷免费| 色色色热| 五月天色播网| 99久久激情视频| 色婷婷先锋| 欧美激情五月天| 激情五月婷婷她| www激情网| www.色五月| 综合激情综合啪啪| 五月丁香六月激情在线| 色色激情网| 五月丁香啪啪婷婷| 神马久久五月天| 色婷婷五月天不卡| 日操夜操天天操不卡| 丁香婷婷色五月天| 风流少妇A片一区二区蜜桃 | 超碰av天堂| 亚洲精品在线视频| 亚洲在线成人| 免费视频无码| 综合另类视频|