99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

基于RKE的Rancher管理平臺(tái)遷移:備份恢復(fù)與下游集群重連

基于RKE的Rancher管理平臺(tái)遷移:備份恢復(fù)與下游集群重連 最近我把一套跑在RKE集群上的Rancher管理平臺(tái)從舊機(jī)器整體遷到了新環(huán)境。Rancher本身不復(fù)雜復(fù)雜的是它管理的一堆下游集群——每個(gè)下游集群里的agent都只認(rèn)原來(lái)的server-url和證書。遷移過(guò)程中先后經(jīng)歷了備份、恢復(fù)、agent重連、證書替換最后還要處理一堆歷史配置殘留。這篇文章把我這次基于RKE部署的Rancher管理平臺(tái)遷移的完整過(guò)程、關(guān)鍵命令和后來(lái)復(fù)盤出來(lái)的幾個(gè)坑都寫出來(lái)希望給要做同樣事情的人一個(gè)參考路徑。全文涉及Rancher版本與K8s版本的對(duì)齊、backup operator備份恢復(fù)、下游集群重連驗(yàn)證以及幾個(gè)我在遷移過(guò)程中踩過(guò)的典型問(wèn)題。1. 先想明白R(shí)KE架構(gòu)下Rancher遷移到底在遷什么1.1 RKE與Rancher的分工梳理RKERancher Kubernetes Engine是一個(gè)通過(guò)一條命令拉起Kubernetes集群的工具它用cluster.yml描述節(jié)點(diǎn)信息和集群配置執(zhí)行rke up后生成一套可用的K8s集群。而Rancher是跑在這套集群上的容器化應(yīng)用通過(guò)helm chart安裝到cattle-system命名空間用來(lái)管理它所在的local集群以及其他外部集群。這兩個(gè)層次一定要分清楚RKE負(fù)責(zé)“蓋房子”Rancher負(fù)責(zé)“住進(jìn)去做管理”。遷移的時(shí)候房子要重新蓋但里面的家具、賬本、住戶登記信息都要盡量原樣搬過(guò)去。這里的“賬本”主要就是Rancher在K8s里持久化的各種自定義資源CRD、configmap、secret、RBAC以及底層etcd中的狀態(tài)。1.2 為什么不能直接“打包拷貝”很多人第一次接觸Rancher遷移時(shí)會(huì)想Rancher不是一堆容器嗎把鏡像、數(shù)據(jù)目錄復(fù)制過(guò)去不就行了實(shí)際上Rancher管理平臺(tái)的狀態(tài)高度依賴Kubernetes的API對(duì)象和etcd它內(nèi)部還有多個(gè)controller通過(guò)watch機(jī)制同步信息。直接拷貝鏡像和靜態(tài)文件完全沒(méi)有意義因?yàn)镽ancher生成的密碼、token、私鑰存在secret里單獨(dú)復(fù)制一份出來(lái)并不代表可用對(duì)象之間的引用關(guān)系必須一起帶過(guò)去。下游集群通過(guò)agent和Rancher保持心跳agent里記錄的是server-url和證書信息單純復(fù)制會(huì)導(dǎo)致agent指向錯(cuò)誤的地址。Kubernetes本身是分布式系統(tǒng)它的etcd數(shù)據(jù)包含節(jié)點(diǎn)IP、證書等不能把一套集群的etcd直接丟給另一套集群用。可以把這個(gè)過(guò)程類比成搬家搬家具容易但你得先把戶籍、水電燃?xì)膺@些登記信息同步過(guò)去不然新家里通電通水了原來(lái)的賬單還是寄到舊地址。遷移的本質(zhì)是“數(shù)據(jù)、身份、網(wǎng)絡(luò)信任”三者的整體搬遷。1.3 遷移完成后的目標(biāo)狀態(tài)遷移完成后我們希望達(dá)到如下?tīng)顟B(tài)新集群上的Rancher版本和舊環(huán)境一致或者至少滿足升級(jí)兼容矩陣。登錄賬號(hào)、權(quán)限角色、全局設(shè)置、用戶密碼全部保留。下游集群仍然被Rancher管理agent自動(dòng)重新注冊(cè)。審計(jì)日志、監(jiān)控配置等可選組件按需保留。為此遷移前需要把舊環(huán)境的信息完整記錄下來(lái)建議用表格逐項(xiàng)填寫Rancher版本、Helm chart版本、K8s版本、RKE版本、server-url、證書類型、外部認(rèn)證方式、下游集群數(shù)量、以及是否有自定義的CRD或存儲(chǔ)配置。記錄項(xiàng)示例值用途rancher/rancher鏡像版本v2.7.8新環(huán)境安裝時(shí)需要對(duì)應(yīng)helm chart版本103.1.5避免restore時(shí)版本沖突rke --versionv1.4.10新環(huán)境RKE版本對(duì)齊server-urlhttps://rancher.example.com下游agent連接的關(guān)鍵證書類型受信CA證書 / 自簽證書決定是否要遷移私鑰認(rèn)證方式本地用戶 / LDAP / OIDC決定外部認(rèn)證是否需要二次配置下游集群數(shù)量7個(gè)遷移后驗(yàn)證清單1.4 常見(jiàn)遷移方案對(duì)比方案ARancher backup-restore-operator備份恢復(fù)。在舊集群安裝backup operator創(chuàng)建Backup CR把Rancher關(guān)鍵資源resourceSet備份到S3兼容對(duì)象存儲(chǔ)或本地路徑新環(huán)境反向操作Restore。優(yōu)點(diǎn)是備份粒度精準(zhǔn)、官方維護(hù)、適合遷移場(chǎng)景。缺點(diǎn)是這個(gè)工具只覆蓋Rancher自身狀態(tài)底層K8s的網(wǎng)絡(luò)插件、ingress等需要另建。方案B對(duì)承載Rancher的K8s集群做etcd快照然后在新環(huán)境用相同的RKE配置重建集群再恢復(fù)快照。優(yōu)點(diǎn)是Rancher本身幾乎無(wú)感知。缺點(diǎn)是對(duì)新舊環(huán)境的pod CIDR、service網(wǎng)段、甚至node名稱一致性要求很高靈活性差不太適合換機(jī)器、換機(jī)房的場(chǎng)景。方案C全新部署Rancher再手工配置或通過(guò)API遷移用戶、項(xiàng)目。優(yōu)點(diǎn)是環(huán)境干凈。缺點(diǎn)是工作量大、極易遺漏而且有很多不可復(fù)制的內(nèi)容比如agent注冊(cè)token、審計(jì)日志歷史、部分CRD狀態(tài)。方案優(yōu)點(diǎn)缺點(diǎn)適用場(chǎng)景backup operator遷移官方維護(hù)、粒度精準(zhǔn)、狀態(tài)完整只覆蓋Rancher資源換機(jī)器、換機(jī)房、版本不變或小版本升級(jí)etcd快照恢復(fù)整個(gè)集群狀態(tài)整體搬遷對(duì)網(wǎng)絡(luò)段、節(jié)點(diǎn)名要求高純硬件遷移且網(wǎng)絡(luò)規(guī)劃不變?nèi)虏渴鹗止づ渲脽o(wú)歷史包袱工作量大易遺漏舊環(huán)境已不可用且業(yè)務(wù)允許重建我這次采用的是方案A為主B作為備選兜底。這也是官方推薦路徑下文主要圍繞它展開(kāi)。2. 動(dòng)手前先把家底盤清楚必須帶走的數(shù)據(jù)和狀態(tài)2.1 資源清單不止cattle-system一個(gè)命名空間Rancher在K8s里并不是只往cattle-system里寫數(shù)據(jù)。備份的時(shí)候至少要考慮這些對(duì)象cattle-system命名空間Rancher pod、service、相關(guān)configmap。cattle-pipeline流水線相關(guān)配置。cattle-logging、cattle-monitoring、cattle-alerting日志、監(jiān)控、告警配置如果沒(méi)啟用就沒(méi)有。management.cattle.io組下的CRDCluster、Project、User、GlobalRole、Setting、Token等。secret包括admin密碼hash、服務(wù)賬戶token、agent注冊(cè)token等。RBAC自定義的角色綁定和權(quán)限設(shè)置。使用backup operator時(shí)它默認(rèn)的resourceSet已經(jīng)覆蓋了這些主流對(duì)象。實(shí)際操作中我在Backup CR里顯式使用官方預(yù)置的resourceSetName這樣不容易漏。不建議手工指定一堆命名空間因?yàn)楹苋菀茁┑裟硞€(gè)CRD等恢復(fù)后缺數(shù)據(jù)再排查就很被動(dòng)了。2.2 版本和配置信息盤點(diǎn)遷移前必須記下來(lái)除了數(shù)據(jù)還有幾類配置信息必須提前記錄。否則遷移到一半會(huì)發(fā)現(xiàn)server-url指向舊地址AI大模型都救不了你rancher/rancher鏡像版本以及helm chart版本用helm ls -n cattle-system查看。RKE版本用rke --version查看。K8s版本用kubectl version查看或者看RKE cluster.yml里的kubernetes_version。server-url在Rancher UI的全局設(shè)置里查看這是下游agent連接的關(guān)鍵。認(rèn)證方式如果用的是本地用戶備份里有密碼hash恢復(fù)后原密碼仍可用如果接的是外部LDAP或OIDC遷移后需要在新環(huán)境重新配置認(rèn)證提供方地址或信任關(guān)系。ingress證書類型自簽還是受信CA簽發(fā)。如果在遷移中更換域名或IP證書也要同步更新。強(qiáng)烈建議把上面這些寫到一個(gè)固定文檔里遷移過(guò)程中每一步都對(duì)照著核對(duì)。我的經(jīng)驗(yàn)是文檔里漏掉一個(gè)版本號(hào)后面恢復(fù)時(shí)可能多花兩個(gè)小時(shí)來(lái)排查。2.3 備份實(shí)操安裝backup operator并創(chuàng)建Backup CRbackup operator通過(guò)helm chart安裝命名空間是rancher-backup。安裝完成后創(chuàng)建一個(gè)Backup CR結(jié)構(gòu)類似apiVersion: resources.cattle.io/v1 kind: Backup metadata: name: rancher-backup spec: storageLocation: s3: bucketName: my-rancher-backups region: ap-east-1 endpoint: s3.example.com resourceSetName: rancher-resource-set encryptionConfigSecretName: backup-encryption-secret幾個(gè)字段的意圖說(shuō)下storageLocation備份文件存到S3兼容對(duì)象存儲(chǔ)也可以配置local存到節(jié)點(diǎn)路徑。生產(chǎn)環(huán)境建議S3兼容存儲(chǔ)方便新環(huán)境讀取。encryptionConfigSecretName可選。如果舊環(huán)境有敏感數(shù)據(jù)需要加密就得用同樣的加密配置否則新環(huán)境restore時(shí)解不開(kāi)。resourceSetName官方預(yù)置的資源集默認(rèn)使用rancher-resource-set。創(chuàng)建后觀察狀態(tài)等狀態(tài)變?yōu)镃ompleted表示備份完成。備份文件會(huì)生成一個(gè)tar.gz包里面是包含Rancher資源和CRD定義的一個(gè)清單。備份成功后確認(rèn)一下輸出的文件名后面Restore要用到。提示關(guān)于加密secret如果舊集群里配置了新集群安裝backup operator時(shí)也要把這個(gè)secret一起建出來(lái)并且內(nèi)容一致否則restore會(huì)直接失敗。這是最容易忽略的坑。2.4 備份完成后的驗(yàn)證備份狀態(tài)Completed不代表萬(wàn)事大吉。建議先下載備份文件確認(rèn)tar.gz包大小不是0字節(jié)再用tar解壓看一眼里面的資源列表。我遇到過(guò)備份文件生成成功但因?yàn)镾3接口兼容問(wèn)題文件內(nèi)容是殘缺的到restore階段才暴露。提前解壓驗(yàn)證幾秒的事能省下后面一整天的排查。3. 新環(huán)境搭建RKE拉起集群時(shí)的版本對(duì)齊與資源規(guī)劃3.1 版本對(duì)齊是遷移的第一原則先決定新環(huán)境的K8s版本。原則是新集群的版本與舊集群一致或者至少位于Rancher版本對(duì)應(yīng)的支持矩陣之內(nèi)。版本差太大的話Rancher chart在restore過(guò)程中可能出現(xiàn)CRD版本沖突、API group變更等問(wèn)題導(dǎo)致升級(jí)不動(dòng)、pod起不來(lái)。RKE本身也分版本舊環(huán)境用哪個(gè)版本生成的RKE新環(huán)境最好也用同一個(gè)版本。RKE生成的集群里kube-system下的一些組件版本和配置會(huì)有細(xì)微差異版本不一致會(huì)加大后面排查的難度。另外如果這次遷移同時(shí)想升級(jí)Rancher大版本我的建議是分兩步走先按舊版本遷移穩(wěn)定運(yùn)行后再做升級(jí)。不要邊遷移邊升級(jí)一次只引入一個(gè)變量否則出了問(wèn)題你不知道是遷移導(dǎo)致的還是升級(jí)導(dǎo)致的。3.2 cluster.yml的關(guān)鍵配置保持一致性在RKE集群的cluster.yml里有幾個(gè)參數(shù)會(huì)影響Kubernetes網(wǎng)絡(luò)層和證書層遷移時(shí)盡量跟舊環(huán)境保持一致network.plugin最常用canal或flannel新舊環(huán)境建議一致。services.kube-controller的service_cluster_ip_range與cluster_cidr集群內(nèi)部地址段建議保持與舊集群一致。如果變了Rancher里已存在的服務(wù)路由和網(wǎng)絡(luò)策略可能會(huì)出問(wèn)題。kubernetes_version保持同版本。nodes配置可以用新的主機(jī)名和IP這是允許變化的因?yàn)镵8s節(jié)點(diǎn)身份會(huì)重新生成。老規(guī)矩改節(jié)點(diǎn)IP沒(méi)問(wèn)題但pod CIDR和service網(wǎng)段不能隨意改遷移后很多已創(chuàng)建的服務(wù)地址和網(wǎng)絡(luò)策略都是基于原網(wǎng)段的。3.3 新環(huán)境節(jié)點(diǎn)資源規(guī)劃Rancher管理平臺(tái)自身不重但也不要太寒酸。承載Rancher的K8s集群至少用3個(gè)節(jié)點(diǎn)組成etcdcontrolplane角色生產(chǎn)建議每個(gè)節(jié)點(diǎn)4核8G起步磁盤用SSD并且40G以上。如果還要在下游集群上使用監(jiān)控、告警資源再往上浮。RKE要求節(jié)點(diǎn)能訪問(wèn)公開(kāi)鏡像倉(cāng)庫(kù)或者提前把鏡像推到私有倉(cāng)庫(kù)并在cluster.yml里配置registry認(rèn)證。新環(huán)境的節(jié)點(diǎn)時(shí)間同步也一定要做好K8s證書和agent錨定時(shí)間偏差太大會(huì)直接握手失敗。這些基礎(chǔ)項(xiàng)出了問(wèn)題后面恢復(fù)Rancher時(shí)出現(xiàn)的報(bào)錯(cuò)會(huì)非常奇怪。3.4 初始化后先做基礎(chǔ)驗(yàn)證別急著恢復(fù)執(zhí)行rke up之后先用kubectl get nodes -o wide確認(rèn)所有節(jié)點(diǎn)Ready再用kubectl get pods -A確認(rèn)kube-system和ingress-nginx的pod全部Running。這時(shí)候先不要急著裝Rancher或者做restore先把網(wǎng)絡(luò)層驗(yàn)證一遍。比如隨便跑一個(gè)測(cè)試服務(wù)確認(rèn)集群內(nèi)部DNS正常、pod之間可以通信。等基礎(chǔ)集群穩(wěn)定后再用helm安裝Rancher chart。安裝時(shí)用一個(gè)臨時(shí)的bootstrapPassword即可后續(xù)會(huì)被備份數(shù)據(jù)覆蓋。4. 恢復(fù)數(shù)據(jù)那一刻backup operator restore實(shí)操細(xì)節(jié)4.1 恢復(fù)前置準(zhǔn)備新環(huán)境恢復(fù)之前先把backup operator裝上命名空間同樣是rancher-backup。這一步和舊環(huán)境安裝基本一致需要注意兩點(diǎn)如果備份時(shí)用了encryptionConfigSecretName新環(huán)境要先創(chuàng)建同名secret內(nèi)容保持一致。如果備份文件在S3兼容對(duì)象存儲(chǔ)新環(huán)境要確保網(wǎng)絡(luò)可以訪問(wèn)這個(gè)地址尤其是私有化部署的對(duì)象存儲(chǔ)防火墻規(guī)則要提前配好。4.2 restore CR的編寫restore CR示例apiVersion: resources.cattle.io/v1 kind: Restore metadata: name: rancher-restore spec: backupFilename: rancher-backup-xxx.tar.gz storageLocation: s3: bucketName: my-rancher-backups region: ap-east-1 endpoint: s3.example.com resourceSetName: rancher-resource-set prune: true幾個(gè)字段的意圖backupFilename必須指向備份時(shí)生成的文件名。prune恢復(fù)時(shí)是否刪除目標(biāo)集群中已有的、不在備份里的Rancher資源。強(qiáng)烈建議設(shè)為true否則新環(huán)境安裝Rancher chart時(shí)會(huì)預(yù)創(chuàng)建一些默認(rèn)對(duì)象和備份數(shù)據(jù)混在一起容易沖突。storageLocation和備份時(shí)保持一致。創(chuàng)建restore后backup operator會(huì)在cattle-system里啟動(dòng)Rancher pod并恢復(fù)數(shù)據(jù)期間UI可能短時(shí)不可用需要耐心等。觀察restore狀態(tài)到Completed再刪除restore對(duì)象。4.3 恢復(fù)后的首次登錄和原始憑據(jù)恢復(fù)完成后Rancher會(huì)自動(dòng)重啟。用舊環(huán)境的管理員賬號(hào)密碼登錄如果用臨時(shí)bootstrapPassword是登不進(jìn)去的。如果舊環(huán)境密碼也沒(méi)記錄在恢復(fù)前提前從舊集群的secret里把a(bǔ)dmin密碼hash導(dǎo)出或者干脆在遷移前重置一次管理員密碼并記錄下來(lái)。登錄之后全局設(shè)置里的server-url非常關(guān)鍵。如果新環(huán)境地址變了要立刻改過(guò)來(lái)。改server-url時(shí)Rancher會(huì)嘗試重新生成下游集群的agent注冊(cè)配置。4.4 為什么順序必須是先有Rancher基礎(chǔ)chart再restore有人問(wèn)為什么不能在一臺(tái)空K8s集群上直接安裝backup operator然后restore因?yàn)閞estore本質(zhì)上是把Rancher自身的資源對(duì)象覆蓋進(jìn)去但它沒(méi)有能力重建Rancher chart全部初始化流程所依賴的骨架。比如cattle-system命名空間的基礎(chǔ)對(duì)象、ingress、serviceAccount等。先安裝Rancher chart可以把這些骨架搭好然后再用備份數(shù)據(jù)覆蓋血肉。骨架和血肉來(lái)自同一個(gè)版本時(shí)最穩(wěn)。4.5 恢復(fù)后的第一輪驗(yàn)證登錄Rancher UI后先看全局設(shè)置、用戶列表、角色權(quán)限是否完整。再進(jìn)入local集群看節(jié)點(diǎn)負(fù)載是否正常。此時(shí)下游集群大概率顯示Disconnected不用慌這一步正常下一步處理。5. 遷移后最麻煩的部分下游集群怎么重新接回Rancher5.1 失聯(lián)原因分解下游集群失聯(lián)的直接原因通常是agent注冊(cè)時(shí)保存的server-url還是舊地址DNS切換后連不上。證書不匹配TLS握手失敗。Rancher服務(wù)端生成的新token沒(méi)有分發(fā)下去。防火墻或安全組沒(méi)放行新的管理集群端口??梢赃@么理解下游集群的agent就像一臺(tái)老式電話機(jī)號(hào)碼簿里記的還是舊號(hào)碼。你要讓Rancher這邊的座機(jī)先確認(rèn)自己的新號(hào)碼然后想辦法把新號(hào)碼通知給所有電話機(jī)。5.2 先讓server-url和證書確定下來(lái)遷移后第一件事是把全局設(shè)置里的server-url改為最終對(duì)外地址并確認(rèn)證書有效。如果地址變化導(dǎo)致證書不匹配通常需要更新Rancher ingress的TLS secret換成覆蓋新地址的證書。在Rancher UI的Settings里觸發(fā)配置刷新。之后下游集群的agent如果自動(dòng)重連失敗再手動(dòng)重發(fā)。如果舊環(huán)境用了自簽證書遷移時(shí)要保留私鑰和完整證書鏈不能只帶一個(gè)crt。私鑰不匹配的話agent全部握手失敗報(bào)的都是x509錯(cuò)誤。5.3 自動(dòng)重連與手動(dòng)兜底大部分情況下只要server-url正確、網(wǎng)絡(luò)通暢cattle-cluster-agent和cattle-node-agent會(huì)在幾分鐘內(nèi)恢復(fù)正常。判斷方法在Rancher UI查看下游集群的狀態(tài)從Disconnected慢慢變回Active。在下游集群執(zhí)行kubectl get pods -n cattle-system看cattle-cluster-agent和cattle-node-agent是否Running。如果仍異常查看agent日志常見(jiàn)的是x509證書錯(cuò)誤或request timeout。手動(dòng)兜底路徑在Rancher UI進(jìn)入對(duì)應(yīng)集群的編輯頁(yè)面找到Registration Token重新生成或查看kubeconfig。拿到該集群的agent manifest。在下游集群里刪除舊的agent Deployment/DaemonSet讓它們重新拉取最新配置。更直接的做法在目標(biāo)集群對(duì)應(yīng)頁(yè)面用Edit Cluster重新保存一次Rancher會(huì)重新下發(fā)注冊(cè)命令。5.4 驗(yàn)證每類角色的狀態(tài)可以用一張表輔助驗(yàn)證檢查對(duì)象參考命令預(yù)期結(jié)果Rancher管理集群節(jié)點(diǎn)kubectl get nodes全部ReadyRancher podkubectl get pods -n cattle-systemRunning下游集群cattle-cluster-agentkubectl -n cattle-system get podsRunning或重建后正常下游集群cattle-node-agentkubectl -n cattle-system get daemonset正常調(diào)度Rancher UI集群列表集群管理-集群狀態(tài)為Active5.5 證書和token的實(shí)操經(jīng)驗(yàn)如果要保留原有自簽證書新環(huán)境必須把舊證書的私鑰、證書鏈完整帶入不能只帶一個(gè)crt。如果是遷移后重新簽發(fā)證書那么下游集群必須能通過(guò)新地址驗(yàn)證服務(wù)端身份否則agent全部握手失敗。比較省事的做法是遷移后直接換成受信CA簽發(fā)的域名證書一勞永逸。還有一個(gè)細(xì)節(jié)Rancher的agent注冊(cè)token是有有效期的如果遷移間隔太久token可能已經(jīng)過(guò)期。這種情況下重新生成新token即可。6. 復(fù)盤走過(guò)的彎路典型失敗場(chǎng)景與排查鏈路6.1 場(chǎng)景一恢復(fù)后Rancher UI起來(lái)了但登錄一直報(bào)錯(cuò)我遇到過(guò)restore完成后頁(yè)面反復(fù)提示Unauthorized的情況。排查下來(lái)發(fā)現(xiàn)是臨時(shí)裝的Rancher chart和備份數(shù)據(jù)的版本不一致導(dǎo)致admin用戶相關(guān)CRD沖突。解決方法是把Rancher chart卸載重新裝到與舊環(huán)境一致的chart版本再restore。所以恢復(fù)前核對(duì)chart版本絕對(duì)不要省。這一條異常重要。6.2 場(chǎng)景二下游集群顯示Disconnectedagent日志報(bào)TLS錯(cuò)誤agent日志里的典型錯(cuò)誤是certificate signed by unknown authority或x509: certificate is valid for xxx。這說(shuō)明agent拿到的證書和當(dāng)前server-url不匹配。處理步驟確認(rèn)server-url和實(shí)際訪問(wèn)地址一致。確認(rèn)ingress證書是新地址的有效證書。在下游集群刪除cattle-system下agent相關(guān)pod強(qiáng)制重建。如果還不行直接在Rancher里重新生成registration token并apply。6.3 場(chǎng)景三新集群上的Rancher pod一直ImagePullBackOff新環(huán)境通常還沒(méi)配好鏡像倉(cāng)庫(kù)的登錄信息特別是從私有鏡像倉(cāng)庫(kù)拉Rancher鏡像時(shí)。處理手段是提前在節(jié)點(diǎn)上配置docker login或者在cluster.yml和Rancher chart的values里配置imagePullSecrets。舊環(huán)境用了哪些鏡像建議提前導(dǎo)出鏡像清單避免新環(huán)境臨時(shí)找鏡像。6.4 場(chǎng)景四prune沒(méi)開(kāi)恢復(fù)后Rancher里混著一堆重復(fù)對(duì)象臨時(shí)安裝的Rancher chart會(huì)預(yù)創(chuàng)建默認(rèn)的集群對(duì)象。如果restore時(shí)prune沒(méi)開(kāi)備份里沒(méi)有的默認(rèn)對(duì)象會(huì)留在系統(tǒng)里看起來(lái)像多出來(lái)幾個(gè)服務(wù)或項(xiàng)目。它們的資源類型和正常對(duì)象混在一起排查很費(fèi)勁。所以restore時(shí)prune盡量設(shè)成true。6.5 排查思路的層次總結(jié)幾條排錯(cuò)順序第一層網(wǎng)絡(luò)通不通。從下游集群節(jié)點(diǎn)執(zhí)行curl -k https://新server-url:443。第二層證書對(duì)不對(duì)。檢查證書域名、有效期。第三層server-url對(duì)不對(duì)。在Rancher全局設(shè)置里看。第四層Token和agent配置有沒(méi)有更新??碼gent日志和registration token。第五層版本和CRD有沒(méi)有沖突。看Rancher pod日志和CRD版本。按這個(gè)順序走大部分問(wèn)題的根因都能定位到前四層。如果真的到第五層基本就是版本規(guī)劃的問(wèn)題需要回到備份和chart版本匹配這條線上重新對(duì)齊。6.6 一個(gè)小建議遷移前先完整演練一遍如果你的環(huán)境比較復(fù)雜比如下游集群非常多、有自定義RBAC、有外部認(rèn)證強(qiáng)烈建議先搭一個(gè)臨時(shí)環(huán)境完整演練一遍備份、恢復(fù)、下游重連、驗(yàn)證。演練過(guò)程能暴露大部分問(wèn)題也會(huì)讓你對(duì)restore的耗時(shí)和UI中斷時(shí)間有預(yù)期真遷的時(shí)候心里有底?;氐介_(kāi)頭說(shuō)的那次遷移。整個(gè)過(guò)程讓我印象最深的不是restore那一下而是備份清單和版本記錄是否完整。只要這些基礎(chǔ)信息是齊的遷移就像按照地圖走一遍反過(guò)來(lái)最基礎(chǔ)的版本不匹配就能讓你卡住半天。以后再接到類似的Rancher遷移任務(wù)我會(huì)先花半小時(shí)盤點(diǎn)版本、server-url、證書和備份文件再動(dòng)手。遷移窗口期盡量選在業(yè)務(wù)低峰restore過(guò)程中的UI中斷時(shí)間通常不會(huì)太長(zhǎng)但下游集群重新注冊(cè)的時(shí)間取決于集群數(shù)量和網(wǎng)絡(luò)狀況??傮w來(lái)看基于RKE部署的Rancher遷移只要把握住數(shù)據(jù)、身份、網(wǎng)絡(luò)信任這三件事不會(huì)出大問(wèn)題。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
四色五月婷婷| 久久er这里只有精品| 激情综合啪啪| 婷婷五月天综合网| 色狠狠婷婷| 免費亭亭成人| 四色综合网| 97超碰99热99| 91久久久久| 五月天六月色| 成人丁香| 五月丁香人妻| 亚洲精品视频在线| 狠狠色噜噜狠狠狠狠综合| 亚州日本欧州韩美高青高潮一| 久久精品91视频| 亚洲AV日韩在线观看| 色婷婷视频| 婷婷五月天狠狠搞干| 成人五月天在线视频在线观看| 99热线观看9| 亚洲第一成人AV| 26uuu| 天天精品视频免费观看| 99热这里只有精品3| 丁香五月激情澎湃一区| 六月婷婷国产| 亚洲第一精品成人999久久精品| 久久小视频免费| 久九色| 九九99男女视频在线观看| 强辱丰满人妻HD中文字幕| 色色色9| 五月丁香六月综合激情| 久久99热免费最新版| 色婷婷色情| 丁香五月色综合色播五月| 新97人人上人人| 97综合色片| 97操在线资源| 婷婷中文字幕网| 久9热视频在线| 国产精品国产成人国产三级| 日韩黄在免| 婷婷激情五月| 精品婷婷丁香五| 欧美日本韩国亚洲| 丁香五月很很肏| 婷婷五月综合色小姐小说| 丁香五月综合| 日本久久激情| 九九亚洲无码| 婷婷五月丁香av网站| 91九色国产| 五月天激情久久| av人人干| 五月婷婷丁香| 思思热99热| AV中文在线| 深爱激情五月婷婷| 日本V在线观看不卡视频网站| 国产精品A成V人在线播放| www.婷婷| 18久久| 色一情一乱一乱91Av| 五月天停婷基地| 日韩情色在线观看| 久久免费精品小视频| 丁香五月激情婷婷视频| 婷婷精品在线| 色婷婷五月天| 五月激情综合网| 综合aV在线| 久久丁香网| 97爱综合| 五月天另类综合网| 99久热这里只有精品| 99色视频| 人妻丰满精品一区二区A片| 精品欧美性爱超级爽| 色五月亚洲| 日本人妻操| 碰97久久| 五月婷婷激情69| 亚洲色亚洲精品| 狼人婷婷综合| 五月婷A V在线| 中文字幕欧美精品久久| 色综合激情| 激情五月综合免费| 免费AV在线| 天天影院色| 久久小说网| 久热伊人在91| 色色99色色| 五月涩涩网| 天天干天天干天天干| 亚洲成人综合在线| 丁香五月天激情四射网络不好| 欧美精品啪啪| 99热在线观看亚洲区| 96精品久久久久久久久| 中文AV网站| 日本久久婷婷| 五月天亚洲色| 精品国产乱码久久久久夜深人妻| 亚洲综合草草| 五月激情网站| 国产成人精品一区二三区熟女在线 | 人妻少妇色综合| 另类在线| 99精品久久久久| 日本ww亚洲| 激情综合色婷婷啪啪六月天| 操逼五月婷婷| 六月婷婷视频| 婷婷丁香五月天激情| 亚洲日比视频| 婷婷六月丁香激情综合| 思思热精品在线视频| 91午夜婷婷狠狠久久综合9色| 538任你爽| 婷婷激情五月综合在线视频| 五月天丁香| 99日视频在线| 五月婷婷亞洲中文| www。久久久久一b。Cc| 婷婷色色狠狠| 久久XX| 中文字幕av网站| 天天射影| 天天婷婷综合亚洲亚洲| 久久伊人婷婷| 久久婷丁香五月| 五月丁香本色在线观看| 欧美色播综合在线观看| 激情五月天丁香| 日韩欧美一道四区中文字幕| 这里精品| 丁香五夜激情四射夜夜夜| 九九99在线观看视频| 婷婷五月色惰| 人人性久久| 日本颜色视频人人爱| 99色| 99热日本| www.91五月| 六月激情婷婷综合| 免费视频WWW在线观看网站| 丁香五月日韩| 日韩九区| WWW夜夜| 久久99久久99精品免观看粉嫩| 噢美99| 千人斩操逼| 婷婷在线播放av| 九九热最新地址| 亚洲精品一区中文字幕乱码| 婷婷深爱五月天在线| 97精品综合久久| 韩国19 主播内部福利vip免费播放| www激情网| 丁香五月激情网| 99这里有精品久久97| www.99热视频| 久久草人妻| 五月丁香婷婷欧美| 色婷婷丁香五月丁香| 99无码| 色五月涩涩婷婷蜜桃| 婷婷五月色| 婷婷五月中文在线| 五月激情丁香啪啪| 五月天激情国产综合婷婷| 91碰碰视频在线观看| 26uuu另类| 色色色宗合网| 亚洲午夜电影| 综合激情五月四射婷婷| 少妇被下春药玩弄A片| 婷婷五月天影视网址| www.色婷婷| 天天狠狠插| 激情99| 人人爱天天摸摸天天爱| 狠狠色综合无线观看| 99热只有精| 五月激情久久| 91ncom.色| 91中文在线| 欧洲色| 26uuu四色| 老师的粉嫩小又紧水又多A片视频 粉嫩AV久久一区二区三区 | 日韩一级片| 91碰碰碰| 人人肏逼视频在线一区二区| 99免费在线视频| AV在线免费播放| 五月天婷婷小说| 婷婷丁香五月激情图片| 色噜久| 色婷婷久久综合| 天天射夜夜爽| 日韩美女在线视频19| 97五月久久丁香婷婷| 日韩一级片| www.色婷婷| www久热com| 激情婷婷九月| 99热久久这里只有精品| 五月婷婷色| 精品久热| 色爱综合五月| 国自产拍偷拍精品啪啪一区二区| 五月天婷婷色色网| 五月丁香六月欧美| 久久丁香| 99五月婷| 五月情涩综合婷婷| 婷婷精品性性性性性性性| 丁香五月很很肏| 五月天色色网站| 丁香五月狠狠综合欧美| yellow视频在线观看91| 五月四色激情| 少妇综合网| 色五狠狠| 无码毛片992367| 99热 在线播放| 99亚洲天堂| 激情五月丁香五月| WWW.桔色成人.COM| 色久婷婷五月| 久久色天堂| 偷拍九九热| 欧美日韩99| 26uuu91| 91人人网| 影音先锋91资源站| 久久丁香婷| 精品色色| 午夜婷婷| 五月丁香婷中文| 婷婷五月天亚洲综合网| 六月亚洲婷婷6月中文字幕| www色综合亚洲92| 最近中文字幕大全免费版在线| 丁香六月综合激情| 婷婷五月天激情文学| 久热这里这里有精品| 超碰av天堂| 91嫩草国产线观看亚洲一区二区| 国外亚洲成AV人片在线观看| 九九在线精品| 开心婷婷五月| 五月在线| 开心五月婷婷激情| 99热最新精品| 美欧成人视频| 激情亭亭五月| 五月丁香成人网| 天天成人综合视频| 婷婷五月免费在线| 天天做天天干天天综合网| 九九色99| 久久激情五月| 久99久视频| 六月婷婷九月丁香| 国产老熟妇亲子乱对白| 超碰人人99| 雪千夏麻豆| 人妻丰满精品一区二区A片| 激情五月综合网| 久re热视频| 六月丁香激情网| 色婷婷九月综合| 天天综合.com| 丁香5月啪啪| 思思热思在线精品视频| 五月天婷婷自拍图片在线观看| 青青热视频| 亚洲视频二区| 激情五月天久久丁香| 久操福利| 亚洲操操| 婷婷六月爽| 青青草性爱视频| 丁香五月天激情| 成人AV免费观看| 久久多色| 无码九九| 免费在线观看AV网站| 丰满人妻一区二区三区| 国产毛多水多女人A片| 99热官网| 91 影音先锋| 91人久| 色图亚洲91| 五月婷A V在线| 久综合4| 第四色色色色色丁香五月天| 五月天婷婷亚洲| 久七香蕉| 涩五月婷婷| 天天情天天狠天天透| 六月丁香婷婷视频综合在线观看| xx色综合| 欧美五月丁香| 九九热AV| 久久婷婷五月综合色丁香花| 国产免费av在线| 在线中文字幕av| 超碰在线91| 五月视频日本免费观看| 五月丁香淫淫婷婷婷| 久久五月天综合| 91操在线视频| 日本熟妇乱妇熟色A片蜜桃| 99cao婷婷| 激情丁香久久| 色婷婷婷av| 米奇影视资源婷婷狠狠色激情欧美五月丁香 | 99色在线观看视频者| 青青草网武则天| 久久婷婷五月丁香网| 久久久久亚洲AV无码网影音先锋| 久久女婷| 99热在线观看99| 99日在线视频| 欧美久久婷婷| 亚洲成人免费电影| 99热国产在线| 狼人久草| 亚洲成人噜噜| 丁香五月天堂| 激情国产综合| 五月婷婷少妇之| 天天做天天爱天天爽综合网| AV电影在线播放| 伊人在线大香蕉网| 青青夜夜狠狠夜夜狠狠| 五月天啪啪啪| www.99热国产| 中文字幕在线观看视频www| 五月情四婷婷| 久久狠狠干| 大地资源色婷婷视频在线| tingtingseav| 色情五月天视频网| 99.N在线视频| 婷婷六月激情综合| 五月综合亚洲色| 操操操AV| 99国产精品白浆在线观看免费| 天堂久久大香蕉| 欧美婷婷六月丁香综合色连续高潮抽搐| 都市激情五月婷婷亚洲| 啪啪91| 九色激情网| 深爱激情九九五月天 | 六月婷婷视频| 香蕉视频91| 精品爱欲五| 国产亚洲色婷婷久久99精品91| 丁香五月开心五月激情| 免费看欧美成人A片无码| 另类国产区| 日在线V视频在线播放| 97久久精品| 7777久久亚洲中文字幕| 3p日韩网站视频| 五月天色图| 色综合久网| 五月丁香网站在线播放| 中文字幕成人| 久久婷婷色色| 五月天综合激情网| 欧美日韩成人高清在线| 色色综合色| 蜜桃成语时李时珍 免费| 伊人婷婷大香蕉| 五月婷婷激情久久| 久久久久久9热不雅视频| 天天摸天天爽| 婷婷五月天激情网| 伊人五月婷婷| 97久久超碰| 四虎成人精品永久免费AV九九| 五月天综合视频| 日本在线观看99| 婷婷五月综合欧美在线播放| 色情综合网| 大香蕉婷婷| 色色五月天丁香| 亚洲无码www| 五月婷婷开心综合| 色99xx| 深爱激情五月天婷婷网| 婷婷丁香九色| 丁香五月激情综合啪啪| 五月婷婷久久爱| 九九久久综合网站| 99久99久| 丁香五月在线| 中文字幕,综合,91| 久久久久亚洲AV成人无码电影| 丁香六月成人网| 国产综合网在线| www.久操| 亚洲免费观看高清完整版AV线| 玖玖婷婷视频| 91九色熟女| 国产免费av在线| 亚洲午夜电影| 7月婷婷六月丁香| 青青草成人网| 五月婷婷五月天天| 国产91在线视频| 日韩三级高清无码| 久久狼人天堂| 91啪啪视频| 丁香五月亭亭六月综合激情网| 日韩精品AV一区二区三区| 激情综合网五月天天| 天天射影院| 色情五月天婷婷| 九九九九中文字幕| 国产免费AV网站| 丁香五月婷婷狠狠色| 99性视频| 婷婷激情丁香六月| 久久总和99| 丁香六月激情综合| 激情网站综合五月天| 国产欧美精品AAAAAA片| 深爱激情综合网| AV色婷婷| 日韩免费视频| 欧美日韩aaa| 婷婷丁香五另类网站| 色综合久久久久| 久久这里只有精品16| 韩日AV片| 久久综合丁香激情五月| 色情播放| 99视频九九热| 国产精品扒开腿做爽爽爽A片唱戏| 婷婷网五月| 综合九九久久| 婷婷五月天福利| 99热在线观看亚洲区| 香蕉网久久| 五月婷婷久久综合| 久久久精品色| 激情网五夜婷婷| www.色欲丁香婷婷| 日日夜夜天天综合| 99爱免费视频| 色情综合网| 色五月色综合| 夜夜撸天天操| 可似看的AV| 丁香五月电影| 亚洲视频久久| 538在线精品| 天天干天天操天天拍| 丁香五月综合| 久久丁香社| 亚洲九九夜夜| 97碰人人操| 天天拍久久| 婷婷在线综合| 五月婷九九草| 亚州美女| 激情久久久| 久久ab| 亚洲avjiujiur91| AAA久久久AAA久久久AAA| 天天日天天爽| 久操热| 人人爽欧美婷婷久久久五月丁香| 天天舔夜夜操www com| 狠狠色噜噜狠狠亚洲A∨| 六月婷婷色综合| 久久丁香五月天| 亚洲综合干| 婷婷综合精品| 99热久久日本| 99九九这里有免费视频| 啪啪一区| 久久五月天婷婷| www.婷婷,com| 99亚洲精品视频| 五月 丁香 欧美| www狠狠| 99小视频在线观看| 丁香花狠狠婷婷亚洲中文字幕| 性一交一乱一交A片久久四色| 999精品乱码77777| 婷婷 色 丁香 夜| 亚洲综合婷婷| 五月天色综合服务平台| 九热在线这里有精品6| av久热| 亚洲成Av人片乱码色第1集| 中文字幕无码人妻少妇免费视频| 丁香五月激情综合| 日本狠狠干| 狠狠久久婷五月| 天天插综合| 丁香五月六月欧美| 五月丁香花免费视频| 性爱在线播放av| 在线中文av| 九九干视频| 91丨九色丨老熟女激情| 超碰色碰碰| 国产AV一区二区三区最新精品| www.五月丁香| 综合网激情| 九九精品热| 色五月琪琪| 亚洲婷婷91丁香| 天天爱天天操| 色99自拍| 深爱激情五月婷婷| 一本色道久久综合狠狠躁小说| 久久激情五月婷婷| 中文字幕在线免费观看视频| 亚洲中文字幕网| 激情综合五月天| 超碰在线视屏| 激情综合网五月婷婷| 色播五月| 青青草国产亚洲精品久久| 婷婷大香蕉| 少妇人妻偷人精品无码视频新浪| 字幕网AV中文字幕| 久久日婷婷| 99热99思午夜精品| 五月婷婷婷综合网| 天天日天天添| 日日鲁鲁夜夜爽爽| 噜噜噜久久亚洲精品国产品91| 99精品免费欧美小视频 | 国产一级黄色影片,| 五月伊人91| 九色1区视频在线| 99热精品网| 9 99免费视频| 久久五月天精品视频| 五月婷婷五月天激情视频| 婷婷五月综合欧美在线播放| 无码人妻一区二区三区免费九色| 日本色视| 欧美丁香婷婷五月| 亚洲V国产V欧美V久久久久久| 国产精品18久久久| 五月情涩综合婷婷| 五月婷亚洲精品AV天堂| 五月天激情在线视频| 五月婷婷激情69| 色婷婷五月天视频网站| AV中文在线| 日日日日日| 亚洲人操亚洲人| 在线看黄色| 婷婷综合激情| 五月天黄色激情小说| 丁香五月手机在线| h在线看免费版在线看| 666555。COm毛片| 日本专区久久| eeuus五月婷| 五月天激情啪啪| 日本不卡中文字幕| 人妻第九页| 久碰婷婷视频| 五月丁香亚洲五月| 99九无网码| 亚洲视频一区| 色欧美影院| 青草性爱视频| 五月天色综合| 日本乱子人伦在线视频| 97色色综合| 就爱操www com| 五月狠狠| 99亚洲精品综合在线| 非洲一级AV| 久久这里只有精品无码| 亚洲不卡| 精品国产a| 他改变了拜占庭| 亚洲精品激情| 精品人妻伦九区久久AAA片| 亚洲AV无码成人精品区电影网| 丁香五月天色综合| WWW.桔色成人.COM| 亚洲免费综合一区| 激情综合播播| 婷久久| 五月天社区婷婷| 亚洲人妻av| www.henhengan| 夜夜穞天天穞狠狠穞AV美女按摩| 五月天伊人综合| 久久欧洲综合网| 久久婷婷热| 久久久99免费视频| 丁香五月天啪啪a日本| 激情五月天综合网| 色五月天激情| 亚洲免费观看高清完整版AV线| 密着浓厚中出乚交尾GvG935| 久久网站免费亚洲| 丁香婷婷六月天| 国产探花一片区| 婷婷五月天亚洲激情戏精品| 综合色图区| 91大神操美女| 精品人妻伦一二三区久| 丁香五月激情综合久久| 国产精品第一国产精品| 日本九九九九| 久99在线视频| 99热久97| 国产视频婷婷| 操b视频在线观看一区二区| 伊人天天色| 天天干天天干天天| 99视频这里只有免费精品| 99热综合在线| 五月天伊人综合| 天天操婷婷| 高清 码 免费看片短视频| 天天擼久久擼在线| A片试看120分钟做受图片| 激情综合五月激情XXXX| 久色激情| 久久只有精品| 色婷婷成人做爰A片免费看网站 | www色色com| 日本WWW九九九| 噜噜狠狠色| 东北黄色一级| 色综合九九| 亚洲综合色色色| 色噜噜狠狠狠狠色综合久欧美| 伊人超碰| 日本成人内射| 色欲色香综合网| 操操操91| 九九大香视频| 丁香五月性| 日日天天干| 99免费成人网| 婷婷丁香社区| 丁香婷婷色六月| 精品国产a| 国产成人亚洲综合A∨婷婷| 国产永久一黄| 婷婷少妇激情| 婷婷色激情网| ..真实国产乱子伦对白在线_欧| 91视屏在线观看com.wwwvv| 96精品成人无码A片观看金桔| 密乳视频| 天堂久久大香蕉| 九九精品亚洲| 九九视频免费| 超PEN精品在线| 色婷婷激情五月天| 在线观看996精品| 五月婷婷丁香在线| 婷婷一本和五月丁香| 大香蕉久久综合网| 五月婷婷激情综合av| 激情综合网址| 丁香五月婷婷基地| 无码色色| 综合久久影院| 丁香六月激情| 丁香五月六月婷婷怡红院| 五月丁香少妇| 色五月丁香五月| 五月婷婷丁香色吧网| 色 五月 天 婷婷 丁香 九月| 久操激情| 天堂五月婷婷| 狠狠爱夜夜| 99精品在线观看| 美英法精品无码免费视频| 一区三区视频有限公司| 狠狠干婷婷| 婷婷五月天天aV| 激情综合国产| 超碰狠狠干99| 九九热10| 久色网五月| 色婷婷天堂| 亚洲亚洲人成综合网络| 婷婷五月天在线视频网站| 六月99天天婷婷激情综合| 操碰色一区就去操| 色99在线视频| 婷婷五月天亚洲丁香| 五月丁香激| 成人美女网| 五月婷婷九九热| 婷婷综合五月激情| 久久婷婷丁香| 九九99精品免费播放| 97碰久久| 手机免费福利视频| 丁香六月AV| 中文字幕亚洲-区久久99婷婷| 五月丁香成人网| 婷婷激情视频欧美视频自拍视频欧美剧| 五月丁香狠狠爱| 久久9热综合| 日日操天天操| 狼人狠狠操| 五月丁香六月婷婷婷婷| 久热久色| 91精品久久久久久久久久久久| 欧美性生交xXxX久久久| 亚洲欧美婷婷五月色综合| 色综合色色色色色| 都市激情蜜桃婷婷五月天| 九九九九九九综合| 激情五月四色| 日韩成人综合网| 亚洲午夜电影| 天天碰夜夜爽| 五月天成人手机在线视频| 五月婷婷丁香| 五月婷久久草| 久久五月天精品视频| 99色综合| 天天操天天操天天操天天操天天操| 色色色图| 五月丁香花开综合网| 99在线观看精彩视频| 色色色区| 久久日韩婷婷五月| 综合五月激情| 久久婷婷丁香五月一二三| 丁香五月天堂| av在线中文| 怡红院院在线导航网| 人人草人人爱手机视频看看| 九九热AV| 五月天激情综合网| 亚洲综合视频一下| www.久久99| 碰超在线九色| 天天日夜夜操五月| 色日本五月天| 九九 激情 网| 婷婷噜噜| 天天躁日日躁狠狠躁日日躁2022年5月9日| 五月天色综合| 婷婷色五月在线视频| 色婷婷基地 | 亚洲欧美综合7777色婷婷| 色五月婷婷丁香五月| 婷婷五月天影院| 色色免费网站| 成人在线99| 久久婷婷艹| 五月婷婷久久激情 | 午夜成人天堂久久无码日韩久久| 五月婷婷六月丁香综合| 丁香五月花| 五月丁香婷婷综合| 色玖玖综合| 91色色色视频| 第一区久久网站| 婷婷丁香五月综合| 99无码视频| 99人妻碰碰碰久久久久视| www.婷婷五月.com| 婷婷五月丁香色情| 五月天激情国产综合婷婷婷| 国产激情久久| 国产99久久久| 久久刺激网| 婷婷 丁香 精品| 超碰免费电影| 五月天激情av| 玖玖99婷婷| 99久久成人| 亚洲精品一区无码A片| eeuss人妻| 婷婷五月激情五月激情| 97操视频| 成人在线精品| 久久多色| 五月婷婷啪啪啪| 激情av在线| 丰满人妻一区二区三区| 亚洲无码激情| 久热这里只有| 97碰成超视频免费视频| 五月丁香六月在线| 欧美啪啪五月天| 欧美婷婷五月天| 色五月综合97| 色色色99| 99视频久久久| 欧美三日本三级少妇三99| 哇嘎成人久久| 4438激情网| 国产成人高清| 97超碰人人操| 亚洲激情网| 日本丁香五月| 99色啊| 国产精品激情AV久久久青桔| 内射激情在线| a性生活久久无| 婷婷五亚洲| 欧美久久久久久久久中文字幕| 久久精热| 超碰在线观看9| 日韩另类| 人人澡天天色天天做| 久久小视频| www.婷婷五月天啪啪| 婷婷五月花| 色噜噜狠狠狠综合曰曰曰| 极品五月天| 激情五月天开心| 97狠狠色| 色情综合网| 婷婷五月综合在线视频| 日本美女97在线视频| 99久久性爱| 五月丁香黄色| 丁香五月六月综合激情| 综合xx网| 九九色插| 伊人网碰碰| 99婷婷| 精品国产乱码久久久久久免费| 天天操,夜夜骑| 91日精品| 777色色色| 伊人婷婷激情| 亚洲欧洲一二| av网址在线| VA国产在线综合网站| 免费91久久精品| 另类视频五月天| 五月婷婷六月丁香| 精品久久久久成人码免费动漫| 天天日,天天射,天天舔| 久久久久亚洲AV无码网影音先锋| 婷婷激情综合网| 五月亭亭综合五码| 精品亚洲国产成AV人片传媒 | 超碰在线中文字幕| 密黄站| 67194线路二在线观看| 婷婷色片| 国产阿姨日皮艹逼内射视频| 潮汕成人AV片在线| 五月婷婷激情综合| 婷婷成人综合五月| 超碰猛烈的性猛交| 噼里啪啦在线观看免费完整版视频| 思思热99在线视频| 爆乳熟妇一区二区三区爆乳照片| 中文字幕人成乱码在线观看| 婷婷久久草| 人妻操逼视频。| 123日本不卡在线| 成人在线不卡| 久久99久久99精品免观看软件| 六月婷婷色色色| 熟妇无码乱子成人精品| 激情综合一| site:jszngf.com| 91综合在线观看首页| 久久婷婷六月综合综合| 激情小说视频图片网| 国产免费一区二区在线A片视频| 超pen个人视频97| 午夜九九九九九九九九九九九九九| site:esunnet.com| 婷婷丁香成人五月天| 国产偷人爽久久久久久老妇APP| z色五月播播久久| 五月婷婷色播网| 女操碰| 在线精品97| 四色五月婷婷| 天天色天天日| 亚洲女婷婷五月基地综合久久久| 男人天堂99| 色婷婷小视频| 色婷婷香蕉| 色九月婷婷丁香| 毛片新网地| 97成人丁香婷婷| 麻豆精品| 激情98色婷婷五| 夜夜干天天操| 殴美日韩成人| 亚洲人妻五月丁香婷婷| 久久网站免费亚洲| 久Se视频在线观看| 大鸡巴伊人网| 亚洲亚洲人成综合网络| 五月丁香婷婷色色| 亚洲久久激情| 艾小青av| 五月婷婷综合网在线播放| 99在线视频播放| 五月婷色丁香| 欧美色片中文字幕久久久久| 久久久久人妻精品| 国产avapp 网| 五月天国产婷婷精品视频在线| 就爱啪啪婷婷| 欧美激情五月综合| 九九精品自拍| 天天综合久久| 丁香五月综合激情久久潮喷| 七七婷婷综合| 婷婷综合视频| 婷婷久月| 亚洲精品在线视频| 五月婷婷六月丁香综合在线| 青草激情在线| 五月丁香婷婷六月天| 中文精品久久久久人妻不| 超碰色色综合| 99在线视频免费| jiuse91在线| 91a片爽| 激情四射亚洲| 中文字幕网伦射乱中文| 超碰在线91| 天天操婷婷| 九九99久久| 91婷婷在线| www.91.com黄| 97热这里精品在线视频| 五月天激情综合| 99视频精品全部观看10| 婷婷六月情| 丁香六月色婷婷综合| 99精品7| 79色色免费| 六月丁香婷婷色69| 五月天婷婷影院影院| 午夜九九电影| 激情五月丁香在线观看直播| 丁香五月天天日| 91热er| 成人色五月天| 呦呦v线| 99热只有国产在线精品| www.91有码.com| 久久只这里有精品| 插插五月天| 99热精国产这里只有精品| 操丝袜视频影院导航| 欧美综合在线五月天色婷婷| 99视频精品全部免费 在线| 激情纯色婷婷五月天在线不卡视频| 日日夜夜青青草| 五月丁香婷婷激情| 五月中旬婷婷丁香六| www.五月丁香av| www.成人婷婷综合| 婷婷五月激情丁香| 婷婷五月综合啪| 99精品热视频| 噜噜视频| 国自产拍偷拍精品啪啪一区二区| 国产真实乱了老女人视频| 男同91| 七七色综合| 99热99| 亚洲在线资源| 五月丁香猫咪久久婷婷综合视频激情四射网入口 | 2014天天爽| 色的色综合| 激情五月天小说视频| 久久久精品色色色| 狠狠狠狠狠| www.久久久久| 五月激情小说| 狠狠久久婷五月综合色| 久久99免费视屏| 婷婷涩涩五月天| 99er这里只有精品| 99热日本| 性爱视频99| 天天肏在线观看| 99在线免费视频| 日日操夜夜擼| 久久 中文 日本| 日韩婷婷| www.日韩艹| 亚洲视色| 伊人久久99| 成人做爰A片免费看视频| 婷婷丁香五月综合久久| 色在线99| 天天综合激情| 久久五月激情| 五月婷婷九| 婷婷91| 久久丁香婷| 色五月天丁香婷婷| 99re久热只有精品6在线直播| 亚洲综合在线丁香五月| 99热精品无码| 五月天狠狠| 国内精品99| 全高清无码视頻| 五月www| 日日噜噜夜夜狠狠久久丁香六月| 五月色亚洲| 伊人爱爱日本| 五月丁香福利| 夜色.cnm| 亚洲综合无码| 思思久久96热在精品国产,| 精品久久人妻| 色婷婷丁香五月| 色婷婷aV四虎| 五月丁香六月婷婷亚洲天堂网站| www.亚洲激情| 综合激情五月丁香| 91黄色五月天视频| 九九色图| www夜夜操comwww| 日韩无码色色| www.久操| 综合婷婷六月| 丁香五月六月婷婷综合| 色婷婷小说| 成人AV中文字幕| 丁香五月婷婷成人综合| enecarbon-materials.comWu染请涟系Bao护@wip1688 | 狠狠色性| 九九热99免费视频| 超碰婷婷色| 丁香五月婷婷啪| 婷婷五月天成人网站| 午夜五月天| 五月婷婷丁香大香蕉| 丁香激惜男女| 国产精品视频| 色啪久| 99国产er热视频| 五月综合视频| 色狠狠色综合久久久绯色aⅴ影视| 久操大| 激情五月天激情综合网| 26uuu欧美| 婷婷五月丁香欧洲| 色婷婷在线视频综合| 色婷婷婷婷| 丁香五月电影院在线观看| 婷婷激情六月中文| 另类小说五月天| 91人人妻人人操| 亚洲性爱99在线| 在线观看中文字幕| 草草影院爱爱| 久久久久久五月天| 少妇性按摩无码中文A片| 九色91视频| 开心五月婷婷婷美女| 精品国产一区二区三区四区阿崩| www色色色com| 色婷婷激情四射视频| 亚洲成人在线电影网站| 亚洲色激婷| 中文字幕在线播放视频| 六月丁香成人| 久久婷婷五月综合色丁香| 九九亚洲| 丁香五月天AV在线| 91丨九色丨熟女| 色婷婷综合在线| 99热777| 少妇被下春药玩弄A片| 99久热| 久9久9久9久9久9久9| 蜜臀99久久精品久久久久| 视色综合| 一级AV片| 天天插天天草人人玩| 婷婷丁香五月天激情| 国产9色在线/日韩| 久久久人妻| 亚洲在线成人| 亚城区在线| 久久九九99视频| 色情激情五月| 成人美女网| 久久精品在线| 99超级碰免费视频| 性爱综合网| 99啪啪视频| 91无码视频| 久re热视频| 丁香五月激情综合婷综| 久久久这里有精品| 亚洲图色五月天| 亚洲色激情| yirenjiqingshiping| 婷婷五月综合啪| 色吧婷婷五月亚洲| 色婷五月天网站| 国产性av| 久久这里有精品99| 日韩色色色色| 六月丁香婷婷开心综合基地| 免费看欧美成人A片无码| 一个色的综合| 狠狠精品干练久久久无码中文字幕 | 婷婷,五月天,丁香,第一| 五月亭亭直播| 婷婷五月黄色激情在线| 五月婷婷久久综合| 五月丁香在线视频观看| 久久综合九九| 一个色的综合| 丰满少妇乱A片无码| 亚洲六月婷| 亚洲无码影片| 99热九九热| 五月婷婷七月丁香| 91久久九久久九久久九久久九久久| 色九九综合| 色色综合网站| 99热在线观看| 天天粽合合合合| 97久久久久久久久久久| 五月激情丁香| 亚洲无码九九九| 日本色色网站| 99操碰| 九九人人操| www.思思99热| 在线亚洲综合网| 精品人妻伦一二三区久久| 99九无网码| 大香蕉九九| 六月丁婷婷| 97日本在线播放| 婷婷五月天视频亚洲| 99热99极品观看| 色播五月婷婷| 激情综合激情五月| 1024在线视频| 在线观看免费狠狠色丁香香综合| 99热老网站| 精品无码久久久久久久久| 思思热再线视频| 五月五月婷婷| 婷婷五月六月丁香| 99热这里都是精品| 丁香五月激情宗合| 97精品人人A片免费看| 激情五月天www| 天天操天天曰天天射| 色婷婷视频| 思思色综合网站| 五月深情久久| 免费观看亚洲AV片| 亚州激情在线视频| 丁香婷婷激情四射五月| 九九色播五月丁香| 婷婷五月丁香av网站| 欧美色片中文字幕久久久久| 99热这里精品| 婷婷中文字幕| 伊人九九68| PORNY九色9l自拍视频成人| 思思热99er在线视频| 热99.com婷婷| 黄网在线播放| 另类小说五月天综合网| 97人操| 色99在线| 日日噜狠狠色| 欧美日韩成人在线| 美女被操一区二区| 黄色片区子| 五月丁香人人婷婷在线观看| 十区AV| 粉嫩AV久久一区二区三区| 日日夜夜狠狠操| 狠狠色丁香五月婷巨| 影音先锋AV资源男人站| 五月久久婷婷| 激情五月视频| 日韩久久视频| 操97在线观看| 97久久视频| 欧美激情-区二区三区| 伊人久久大香网| 操操操B| 久草A片| 99热99热99热99热| 第四色婷婷日本| 亚洲韩国日产综合AV| 色噜噜狠狠一区二区三区| 操操操AV| 色激情综合狠狠婷婷| 亚洲另类毛片| 欧美色综合天天久久综合精品| 成人网在线视频| www.minyis.com【JT】币址百万U预算可预付QQ2101460746 | 97色色网| 99精品一二三四视频| 精品成人无码A片观看香草视频| 九九热10| 91制片厂久久久国产电影| 99久久性爱| 夜夜操夜夜操| 色五月天天| 五月婷婷丁香综合| 国产91在线视频| 99精品偷自拍| 91婷婷在线| 天天天久久人人人合| 天天草天天爱| 97色片| 综合超碰熟| 666555。COm毛片| 婷婷五月六月| 丁香婷五月天开心六月| 激情 婷婷 丁香五月天| 久热久色| 色99热| 日韩精品无码AV| 四季8848精品成人免费网站| 九九99精品视频在线观看| 婷婷亚洲综合| 99热视精品| 六月丁香婷婷亚洲中文玖玖| 激情综合网址| 麻豆精品| 91在线精品一区二区| 国产FREESEXVIDEOS性中国| 五月色婷| 久婷五月| 怡红院一二三| 六月丁香婷婷在线波多| 久久99热这里| 久久综合九九| 91久久综合| 97婷婷五月激情六月丁香伊人| 操97在线观看| 激情操逼婷婷| 成人国产欧美大片一区|