99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

UOS服務(wù)器版部署Rancher避坑指南:Kubernetes管理平臺(tái)搭建

UOS服務(wù)器版部署Rancher避坑指南:Kubernetes管理平臺(tái)搭建 上個(gè)月接了個(gè)活兒某單位一臺(tái)基于UOS服務(wù)器版的機(jī)器要求把Rancher部署上去用來(lái)接管后面新建的Kubernetes集群。一開(kāi)始我覺(jué)得這不算難——Rancher官方文檔寫(xiě)得很清楚Docker跑一個(gè)容器就完事。但實(shí)際動(dòng)手后發(fā)現(xiàn)UOS這套系統(tǒng)和普通的Ubuntu、CentOS還是有些不一樣的地方從軟件源到內(nèi)核參數(shù)再到內(nèi)網(wǎng)證書(shū)處處有坑。這篇文章就把我踩過(guò)的坑和最終跑通的完整路徑整理出來(lái)給要在國(guó)產(chǎn)操作系統(tǒng)上部署Rancher的朋友做個(gè)參考。先說(shuō)明一下適合誰(shuí)看如果你需要在UOS上搭一個(gè)Kubernetes管理平臺(tái)、要給業(yè)務(wù)方提供可視化的集群管理界面或者正在做內(nèi)網(wǎng)離線交付這篇文章基本可以照著操作。文中涉及的命令我都盡量給出完整版和逐參數(shù)解釋不只會(huì)告訴你“怎么跑通”還會(huì)說(shuō)清楚“為什么這么配”。1. 為什么有人要在UOS上裝Rancher先看清這個(gè)組合的價(jià)值1.1 UOS和Rancher各自解決什么問(wèn)題UOS是國(guó)產(chǎn)Linux操作系統(tǒng)服務(wù)器版主要跑在政務(wù)、金融、教育這些對(duì)自主可控有要求的場(chǎng)景里。它底層基于Debian體系用apt管理軟件包所以很多Debian系的經(jīng)驗(yàn)可以直接遷移過(guò)來(lái)但又不完全一樣軟件源是自有的內(nèi)核版本相對(duì)保守默認(rèn)啟用的安全模塊也和社區(qū)版有差異。Rancher則是Kubernetes的圖形化管理平臺(tái)。裸K8s最大的問(wèn)題就是管理門(mén)檻高裝好了還要面對(duì)一堆YAML、證書(shū)、Node節(jié)點(diǎn)狀態(tài)業(yè)務(wù)方一看就頭大。Rancher把這些東西封裝成了網(wǎng)頁(yè)操作創(chuàng)建集群、導(dǎo)入集群、部署應(yīng)用、看監(jiān)控日志、做權(quán)限隔離都能點(diǎn)鼠標(biāo)完成。把Rancher部署在UOS上等于在國(guó)產(chǎn)化的基礎(chǔ)上補(bǔ)齊了容器編排的運(yùn)維能力這在很多信創(chuàng)項(xiàng)目里是剛需。1.2 我在實(shí)際中遇到的三種部署訴求接需求的時(shí)候?qū)Ψ讲](méi)有說(shuō)得很細(xì)我在現(xiàn)場(chǎng)梳理下來(lái)大致是三類第一類先在一臺(tái)UOS上把Rancher Server跑起來(lái)后面再慢慢納管其他集群第二類整機(jī)離線機(jī)器不能上外網(wǎng)所有鏡像都得拷進(jìn)去第三類要求提供可重復(fù)執(zhí)行的部署文檔方便以后換機(jī)器重新部署。這三種訴求對(duì)應(yīng)的路徑不太一樣。第一種最簡(jiǎn)單在線拉鏡像就行第二種要花大力氣解決鏡像搬運(yùn)和私有倉(cāng)庫(kù)的問(wèn)題第三種則要求整個(gè)流程腳本化、參數(shù)化。下面我會(huì)按線上環(huán)境為主線來(lái)講離線部分單獨(dú)開(kāi)一節(jié)因?yàn)槟鞘遣瓤幼疃嗟沫h(huán)節(jié)。2. 環(huán)境準(zhǔn)備版本核對(duì)、內(nèi)核參數(shù)與容器運(yùn)行時(shí)選型2.1 先跑三個(gè)命令確認(rèn)機(jī)器底子部署前千萬(wàn)別急著裝Docker先確認(rèn)三件事系統(tǒng)版本、內(nèi)核版本、架構(gòu)。UOS服務(wù)器版常見(jiàn)的是v20系列內(nèi)核一般在4.19左右架構(gòu)通常是x86_64也有不少ARM機(jī)器。用下面三條命令看cat /etc/os-release uname -r uname -m我遇到的那臺(tái)機(jī)器是x86_64內(nèi)核4.19跑Rancher 2.7系列完全沒(méi)問(wèn)題。需要注意一點(diǎn)如果你的Rancher版本很新比如2.9、2.10開(kāi)始的部分特性對(duì)內(nèi)核和容器運(yùn)行時(shí)版本有更高要求建議先去官方release note里核對(duì)一下最低內(nèi)核版本。4.19跑老一點(diǎn)但還在維護(hù)期的2.7.x是最穩(wěn)妥的搭配。另外磁盤(pán)規(guī)劃是個(gè)容易被忽略的環(huán)節(jié)。Rancher的數(shù)據(jù)全部寫(xiě)在/var/lib/rancher目錄下包括配置、證書(shū)、etcd快照等。我習(xí)慣把數(shù)據(jù)目錄單獨(dú)掛一塊盤(pán)或者至少確保這個(gè)分區(qū)剩余空間在20GB以上。容器日志、鏡像、下游集群的kubeconfig都會(huì)堆在上面真到磁盤(pán)寫(xiě)滿的時(shí)候Rancher的表現(xiàn)是各種莫名其妙的報(bào)錯(cuò)排查起來(lái)非常被動(dòng)。2.2 Docker還是containerd單節(jié)點(diǎn)場(chǎng)景的選擇邏輯容器運(yùn)行時(shí)選哪個(gè)很多人會(huì)糾結(jié)。Rancher Server本身是作為一個(gè)容器跑起來(lái)的官方最推薦的單節(jié)點(diǎn)部署方式就是用Docker啟動(dòng)Rancher容器如果你走K3s或者RKE2的路子那用的是containerd。單節(jié)點(diǎn)部署Rancher Server我建議直接用Docker理由很實(shí)際排障簡(jiǎn)單docker logs、docker inspect這些命令大家都熟升級(jí)就是換個(gè)鏡像重新起容器邏輯直白Docker的生態(tài)和文檔也最全。containerd不是不能用只是當(dāng)你只想快速把Rancher跑起來(lái)時(shí)沒(méi)必要多繞一層。UOS上裝Docker有兩條路一是直接apt裝軟件源里的版本優(yōu)點(diǎn)是命令簡(jiǎn)單缺點(diǎn)是版本經(jīng)常偏舊可能低于Rancher要求的最低版本二是下載官方靜態(tài)包手動(dòng)安裝優(yōu)點(diǎn)是最新、可控缺點(diǎn)是要自己處理systemd服務(wù)文件。我實(shí)際用的是離線deb包方式具體操作在下一節(jié)展開(kāi)。2.3 初始化系統(tǒng)參數(shù)swap、時(shí)間同步、文件句柄裝完Docker先別急著拉鏡像有幾個(gè)系統(tǒng)參數(shù)先改了不然后面K8s集群初始化的時(shí)候會(huì)翻車(chē)。第一swap建議關(guān)掉。Kubernetes默認(rèn)要求節(jié)點(diǎn)上的swap是關(guān)閉狀態(tài)雖然這個(gè)要求主要針對(duì)下游集群的節(jié)點(diǎn)但Rancher Server所在的機(jī)器順手也關(guān)了省得后面出幺蛾子swapoff -a sed -i s/.*swap.*/#/ /etc/fstab第二開(kāi)啟IPv4轉(zhuǎn)發(fā)。容器和Pod之間的流量依賴這個(gè)參數(shù)默認(rèn)可能是0echo net.ipv4.ip_forward 1 /etc/sysctl.conf sysctl -p第三時(shí)間同步必須做。Rancher和K8s之間的通信很依賴時(shí)間一致性證書(shū)校驗(yàn)、token校驗(yàn)全都建立在時(shí)間正確的前提上。UOS服務(wù)器版一般自帶chrony但很多內(nèi)網(wǎng)機(jī)器沒(méi)配好NTP源我見(jiàn)過(guò)因?yàn)闀r(shí)間差了五分鐘導(dǎo)致Rancher頁(yè)面能開(kāi)、下游集群怎么都注冊(cè)不上的情況。建議盡早確認(rèn)chronyc sources -v date如果時(shí)間不對(duì)配好NTP源然后用systemctl restart chronyd重啟服務(wù)。這一步成本最低卻是最容易埋雷的。3. Docker單節(jié)點(diǎn)部署Rancher Server命令級(jí)拆解3.1 安裝Docker的兩種路徑與源的選擇在線環(huán)境下UOS的默認(rèn)軟件源如果已經(jīng)收錄了docker.io有些版本確實(shí)有直接apt-get update apt-get install -y docker.io systemctl enable --now docker這個(gè)方式適合快速驗(yàn)證但版本可能只有20.10左右跑Rancher 2.6及以上夠用。如果你對(duì)版本有要求也可以添加Docker官方的apt源來(lái)裝docker-ce不過(guò)這要求機(jī)器能訪問(wèn)外網(wǎng)內(nèi)網(wǎng)環(huán)境就得走離線包了。離線裝Docker的辦法是在一臺(tái)能聯(lián)網(wǎng)的同架構(gòu)機(jī)器上下載docker-ce的deb包包括containerd.io、docker-ce-cli、docker-ce這幾個(gè)依賴然后拷貝到UOS上執(zhí)行dpkg -i containerd.io_*.deb docker-ce-cli_*.deb docker-ce_*.deb依賴不全會(huì)報(bào)錯(cuò)缺什么就用apt-get install -f補(bǔ)齊。裝完驗(yàn)證一下docker version systemctl status docker這里有個(gè)實(shí)操細(xì)節(jié)UOS默認(rèn)可能啟用了AppArmor如果后面容器啟動(dòng)行為異常先看一眼dmesg | grep -i apparmor有時(shí)候需要給Docker的systemd服務(wù)額外加上容器的profile配置。不過(guò)多數(shù)情況下Rancher容器不會(huì)撞上這個(gè)先有個(gè)印象就行。3.2 啟動(dòng)Rancher的標(biāo)準(zhǔn)命令逐參數(shù)說(shuō)明Docker就緒后核心就是這一條命令docker run -d \ --name rancher \ --restartunless-stopped \ -p 80:80 \ -p 443:443 \ -v /data/rancher:/var/lib/rancher \ rancher/rancher:v2.7.9我逐個(gè)拆一下參數(shù)你就不用來(lái)回翻文檔了--name rancher容器名字后面查看日志、停止、刪除都用它。--restartunless-stopped機(jī)器重啟后容器自動(dòng)拉起除非手動(dòng)stop這是生產(chǎn)環(huán)境必須加的。-p 80:80 -p 443:443把宿主機(jī)的80和443映射到容器內(nèi)。Rancher的UI默認(rèn)走44380端口的用途是做HTTP到HTTPS的跳轉(zhuǎn)。如果你的UOS機(jī)器上已經(jīng)裝了Nginx或其他Web服務(wù)占了80/443這里要改端口比如-p 8080:80 -p 8443:443但后面訪問(wèn)地址也要跟著變。-v /data/rancher:/var/lib/rancher數(shù)據(jù)持久化。宿主機(jī)目錄建議用絕對(duì)路徑我習(xí)慣單獨(dú)建/data/rancher而不是默認(rèn)的/var/lib/rancher因?yàn)橄到y(tǒng)盤(pán)空間往往緊張單獨(dú)掛數(shù)據(jù)盤(pán)更靈活。rancher/rancher:v2.7.9鏡像名加版本標(biāo)簽。最好不要直接用latest版本固定下來(lái)升級(jí)和回滾都清楚。有些教程會(huì)加--privileged我個(gè)人不建議單節(jié)點(diǎn)Rancher Server這么干權(quán)限給太寬了出安全問(wèn)題難交代。Rancher容器本身不需要特權(quán)模式就能正常工作。3.3 初始化流程與Server URL的意義容器起來(lái)之后先看日志確認(rèn)啟動(dòng)進(jìn)度docker logs -f rancher看到類似“Rancher has been provisioned”之類字樣說(shuō)明初始化得差不多了然后瀏覽器訪問(wèn)https://UOS服務(wù)器IP/。第一次打開(kāi)會(huì)要求設(shè)置admin密碼還會(huì)彈一個(gè)Rancher Server URL的配置項(xiàng)。這個(gè)Server URL非常關(guān)鍵。它會(huì)被寫(xiě)進(jìn)kubeconfig和集群agent的連接信息里下游集群全靠這個(gè)地址回調(diào)Rancher Server。內(nèi)網(wǎng)環(huán)境就填https://IP:443或者你規(guī)劃的域名別填localhost也別填一個(gè)別人訪問(wèn)不到的內(nèi)網(wǎng)地址。我見(jiàn)過(guò)一個(gè)人填了公網(wǎng)域名結(jié)果內(nèi)網(wǎng)解析不到整整排查了一下午。初始化完成后主界面能看到“Add Cluster”、“Import Existing”等入口。到這里單節(jié)點(diǎn)的Rancher Server就算立起來(lái)了。但如果你后續(xù)要納管集群建議先做一件事把Rancher的system default registry設(shè)置好否則后面導(dǎo)入新集群時(shí)每個(gè)節(jié)點(diǎn)還要單獨(dú)配鏡像加速非常痛苦。4. 內(nèi)網(wǎng)離線部署才是重頭戲鏡像搬運(yùn)與私有倉(cāng)庫(kù)配置4.1 離線鏡像包的導(dǎo)出與導(dǎo)入很多UOS部署環(huán)境是徹底離線的服務(wù)器不能訪問(wèn)Docker Hub這時(shí)候在線拉鏡像這條路直接堵死。我的做法分兩步找一臺(tái)能聯(lián)網(wǎng)的機(jī)器做中轉(zhuǎn)把需要的鏡像打成tar包再拷進(jìn)UOS用docker load導(dǎo)入。最簡(jiǎn)單的單鏡像搬運(yùn)# 有網(wǎng)機(jī)器上 docker pull rancher/rancher:v2.7.9 docker save -o rancher-v2.7.9.tar rancher/rancher:v2.7.9 # UOS機(jī)器上 docker load -i rancher-v2.7.9.tar但生產(chǎn)環(huán)境遠(yuǎn)不止一個(gè)鏡像。當(dāng)你用Rancher建集群時(shí)它要拉一堆系統(tǒng)組件鏡像比如rancher/mirrored-pause、rancher/mirrored-coredns-coredns、各種kube-proxy、etcd的鏡像。一個(gè)個(gè)手動(dòng)pull/save不現(xiàn)實(shí)。正確做法是使用Rancher官方維護(hù)的離線鏡像清單和腳本。具體思路是在有網(wǎng)機(jī)器上拉取Rancher代碼庫(kù)里的rancher-images.txt配合官方提供的save/load腳本把所有需要的鏡像都導(dǎo)出來(lái)。大致流程是# 有網(wǎng)機(jī)器上執(zhí)行 ./rancher-save-images.sh --image-list ./rancher-images.txt # 會(huì)生成 rancher-images.tar.gz 和 rancher-images.txt然后把這兩個(gè)文件拷貝到UOS上執(zhí)行./rancher-load-images.sh --image-list ./rancher-images.txt --images rancher-images.tar.gzload腳本會(huì)自動(dòng)逐個(gè)docker load你只需要等它跑完。這個(gè)方式我實(shí)測(cè)過(guò)雖然耗時(shí)久幾十個(gè)鏡像每個(gè)都要解壓但比手動(dòng)一個(gè)個(gè)拉靠譜太多。4.2 配置私有鏡像倉(cāng)庫(kù)與registry地址離線環(huán)境只把鏡像load到本地Docker是不夠的因?yàn)镽ancher創(chuàng)建下游集群時(shí)每個(gè)K8s節(jié)點(diǎn)默認(rèn)還是會(huì)去拉公共倉(cāng)庫(kù)的鏡像離線節(jié)點(diǎn)根本拉不到。正解是搭一個(gè)私有鏡像倉(cāng)庫(kù)Harbor或者簡(jiǎn)單的registry容器都行把所有鏡像推上去然后讓Rancher的默認(rèn)拉取地址指向它。在UOS上快速起一個(gè)registry容器docker run -d --name registry \ -p 5000:5000 \ -v /data/registry:/var/lib/registry \ registry:2然后把tar包里的鏡像重新打標(biāo)簽并推送docker tag rancher/rancher:v2.7.9 內(nèi)網(wǎng)IP:5000/rancher/rancher:v2.7.9 docker push 內(nèi)網(wǎng)IP:5000/rancher/rancher:v2.7.9配置Rancher默認(rèn)registry我習(xí)慣在啟動(dòng)容器時(shí)直接注入環(huán)境變量docker run -d --name rancher \ --restartunless-stopped \ -p 80:80 -p 443:443 \ -e CATTLE_SYSTEM_DEFAULT_REGISTRY內(nèi)網(wǎng)IP:5000 \ -v /data/rancher:/var/lib/rancher \ rancher/rancher:v2.7.9每個(gè)人的鏡像命名規(guī)范不同這個(gè)環(huán)境變量主要影響Rancher系統(tǒng)組件鏡像的拉取地址前綴。如果你的私有倉(cāng)庫(kù)上鏡像路徑不是標(biāo)準(zhǔn)的rancher/mirrored-xxx結(jié)構(gòu)就需要在創(chuàng)建集群的高級(jí)設(shè)置里單獨(dú)配置。實(shí)測(cè)下來(lái)最省心的還是保持私有倉(cāng)庫(kù)路徑和官方一致只改成帶IP的完整前綴。4.3 證書(shū)處理內(nèi)網(wǎng)HTTPS信任鏈怎么搭在線部署Rancher默認(rèn)會(huì)給自己簽一個(gè)自簽證書(shū)瀏覽器第一次訪問(wèn)會(huì)跳警告這個(gè)還能接受。但內(nèi)網(wǎng)場(chǎng)景通常有企業(yè)CA或者客戶強(qiáng)制要求用正式證書(shū)這時(shí)候必須在啟動(dòng)時(shí)掛載證書(shū)。方法是在啟動(dòng)Rancher容器時(shí)把證書(shū)和私鑰放到宿主機(jī)的/data/rancher-certs目錄下命名為tls.crt和tls.key然后掛載進(jìn)去docker run -d --name rancher \ --restartunless-stopped \ -p 80:80 -p 443:443 \ -v /data/rancher-certs:/etc/rancher/ssl \ -v /data/rancher:/var/lib/rancher \ rancher/rancher:v2.7.9Rancher會(huì)優(yōu)先讀取/etc/rancher/ssl下的證書(shū)不再使用自簽證書(shū)。這里有個(gè)坑證書(shū)的Common Name一定要和訪問(wèn)的地址匹配包括IP SAN或者域名SAN否則瀏覽器照樣報(bào)錯(cuò)下游集群的agent連接也會(huì)因?yàn)樽C書(shū)校驗(yàn)失敗而注冊(cè)不上。另一個(gè)容易被忽略的是如果用的是企業(yè)內(nèi)網(wǎng)CA簽發(fā)的證書(shū)客戶端機(jī)器上要信任這個(gè)CA。UOS上操作很簡(jiǎn)單cp your-ca.crt /usr/local/share/ca-certificates/ update-ca-certificates這樣本機(jī)的curl、容器、以及其他工具訪問(wèn)Rancher時(shí)就不會(huì)因?yàn)椤癱ertificate signed by unknown authority”而中斷。這個(gè)步驟在部署文檔里經(jīng)常被漏掉但線上環(huán)境幾乎必然遇到。5. UOS特有的坑一套完整排查鏈路5.1 現(xiàn)象一頁(yè)面能開(kāi)下游集群連不上癥狀很明確Rancher頁(yè)面正常打開(kāi)但導(dǎo)入一個(gè)新集群到一半就失敗agent Pod一直P(pán)ending或者CrashLoopBackOff。先別查Node從網(wǎng)絡(luò)鏈路看起。第一步確認(rèn)UOS的防火墻狀態(tài)systemctl status firewalld ufw statusUOS服務(wù)器版可能默認(rèn)啟用了ufw也可能沒(méi)有防火墻但有些定制鏡像會(huì)在iptables層面加了限制。最直接的辦法是看443端口是否確實(shí)在監(jiān)聽(tīng)ss -tlnp | grep -E 443|80 iptables -L -n | grep 443我遇到的情況是443端口監(jiān)聽(tīng)正常但iptables FORWARD鏈默認(rèn)DROP導(dǎo)致Rancher訪問(wèn)下游集群的Pod網(wǎng)絡(luò)時(shí)被丟包。這個(gè)坑在Debian系上很典型因?yàn)镈ocker會(huì)往iptables里加規(guī)則但FORWARD鏈的默認(rèn)策略可能還是DROP。臨時(shí)改法iptables -P FORWARD ACCEPT永久生效還是在/etc/sysctl.conf里確認(rèn)net.ipv4.ip_forward1并檢查ufw如果開(kāi)著得放行ufw allow 443/tcp。5.2 現(xiàn)象二Rancher容器反復(fù)重啟這個(gè)問(wèn)題我是在離線導(dǎo)入鏡像時(shí)踩到的。表現(xiàn)為docker ps看到容器狀態(tài)一直在restarting頁(yè)面打不開(kāi)docker logs報(bào)錯(cuò)信息又不明顯。從經(jīng)驗(yàn)看優(yōu)先查三件事一是數(shù)據(jù)卷權(quán)限/data/rancher目錄的所有者必須是root如果之前用別的用戶拷過(guò)數(shù)據(jù)目錄權(quán)限不對(duì)容器起來(lái)就會(huì)崩用chown -R root:root /data/rancher修正二是磁盤(pán)空間df -h看看是不是分區(qū)滿了etcd寫(xiě)入失敗時(shí)容器會(huì)不停重啟三是內(nèi)存是否夠用UOS上如果內(nèi)存小于4GB同時(shí)跑Rancher和其他服務(wù)很容易觸發(fā)OOMdmesg | tail或者journalctl -k | grep -i oom能看出來(lái)。我之前一次部署問(wèn)題就出在離線導(dǎo)入鏡像時(shí)磁盤(pán)被解壓后的鏡像塞滿Rancher容器寫(xiě)到一半磁盤(pán)滿直接OOM。清了/var/lib/docker下沒(méi)用的鏡像和Build緩存重啟Docker再起容器就好了。5.3 現(xiàn)象三時(shí)間不同步導(dǎo)致的證書(shū)報(bào)錯(cuò)癥狀是頁(yè)面偶爾能打開(kāi)但登錄后操作很容易報(bào)401、403或者下游集群的Pod報(bào)x509: certificate has expired or is not yet valid。很多人的第一反應(yīng)是證書(shū)過(guò)期了翻來(lái)覆去找原因結(jié)果發(fā)現(xiàn)系統(tǒng)時(shí)間慢了十分鐘。這在物理機(jī)和內(nèi)網(wǎng)虛擬機(jī)上特別常見(jiàn)CMOS電池沒(méi)電、NTP沒(méi)配通都可能導(dǎo)致時(shí)間漂移。我用一條命令確認(rèn)timedatectl status如果顯示NTP service: inactive或者時(shí)間跟實(shí)際差得遠(yuǎn)立刻配chronyapt-get install -y chrony systemctl enable --now chronyd chronyc makestep等時(shí)間校準(zhǔn)后再訪問(wèn)Rancher證書(shū)問(wèn)題通常就消失了。Rancher對(duì)時(shí)間異常其實(shí)挺敏感的因?yàn)檎麄€(gè)認(rèn)證體系都是基于時(shí)間戳簽發(fā)的token時(shí)間一歪頁(yè)面和你以為的都正常但后端校驗(yàn)就是不通過(guò)。6. 部署完怎么驗(yàn)收驗(yàn)證清單與日常運(yùn)維要點(diǎn)6.1 我的驗(yàn)收清單可直接抄每次部署完我都會(huì)按下面這張清單過(guò)一遍免得交付了才發(fā)現(xiàn)漏配置檢查項(xiàng)操作方式預(yù)期結(jié)果頁(yè)面可訪問(wèn)瀏覽器打開(kāi) https://UOS_IP/出現(xiàn)登錄頁(yè)無(wú)證書(shū)告警或已信任容器穩(wěn)定docker psrancher容器運(yùn)行中無(wú)restarting日志無(wú)異常docker logs rancher --since 10m無(wú)ERROR級(jí)別刷屏數(shù)據(jù)持久化ls /data/rancher能看到配置、證書(shū)、audit日志等目錄時(shí)間同步chronyc tracking顯示已同步時(shí)間偏差小于1秒轉(zhuǎn)發(fā)已開(kāi)啟sysctl net.ipv4.ip_forward輸出1Server URL可回訪在下游節(jié)點(diǎn)curl https://UOS_IP/healthz返回200或類似健康響應(yīng)創(chuàng)建測(cè)試集群頁(yè)面上新建一個(gè)自定義集群集群節(jié)點(diǎn)狀態(tài)Active重點(diǎn)說(shuō)一下/healthz這個(gè)健康檢查路徑Rancher會(huì)返回200在下游節(jié)點(diǎn)上先curl通再去做集群導(dǎo)入能提前攔截百分之八十的網(wǎng)絡(luò)問(wèn)題。6.2 備份與升級(jí)的幾個(gè)實(shí)用經(jīng)驗(yàn)Rancher的備份我推薦在頁(yè)面上裝rancher-backup這個(gè)應(yīng)用它能把Rancher的CRD配置、RBAC、證書(shū)這些打包成壓縮文件支持上傳到S3兼容存儲(chǔ)恢復(fù)的時(shí)候也方便。但UOS離線環(huán)境要先把這個(gè)應(yīng)用的鏡像搬到私有倉(cāng)庫(kù)不然裝不上。如果不想裝應(yīng)用最低成本的備份方式是直接打包數(shù)據(jù)目錄systemctl stop docker # 或者 docker stop rancher tar -czf rancher-backup-$(date %F).tar.gz /data/rancher systemctl start docker注意備份前要么停容器要么確保數(shù)據(jù)目錄沒(méi)有并發(fā)寫(xiě)入否則etcd相關(guān)的文件可能備份出一個(gè)半成品恢復(fù)時(shí)怎么都起不來(lái)。升級(jí)Rancher就三步pull新鏡像、刪掉舊容器保留數(shù)據(jù)卷、用同一套掛載參數(shù)起新容器。官方文檔有明確的升級(jí)路徑切記不要跨大版本跳級(jí)升級(jí)。我上次從2.7升到2.8是直接換鏡像起的數(shù)據(jù)完全保留頁(yè)面提示遷移完成整個(gè)過(guò)程半小時(shí)內(nèi)搞定。當(dāng)然前提是數(shù)據(jù)目錄掛載沒(méi)變、證書(shū)沒(méi)動(dòng)、端口沒(méi)改。還有一個(gè)日常運(yùn)維細(xì)節(jié)Rancher容器所在的主機(jī)名不要隨便改它的kubeconfig和生成的證書(shū)可能包含主機(jī)名信息改完hostname可能導(dǎo)致集群狀態(tài)異常。我在UOS上就遇到過(guò)改了/etc/hostname重啟后Rancher頁(yè)面雖然能開(kāi)但內(nèi)部有些校驗(yàn)開(kāi)始報(bào)不匹配。所以主機(jī)名這種東西部署前定好部署后別動(dòng)。最后分享一個(gè)我自己的習(xí)慣每次部署UOS上的Rancher我都會(huì)先在虛擬機(jī)里完整跑一遍流程把每一步命令的輸出記錄下來(lái)包括docker run的參數(shù)、證書(shū)的路徑、私有倉(cāng)庫(kù)的地址。等上了生產(chǎn)環(huán)境基本就是照著記錄復(fù)現(xiàn)一遍很少出意外。這個(gè)習(xí)慣幫我省了不少半夜值班的麻煩建議你也試試。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
囯产精品久久欠久久久久久九大| 人妻精品一区二区三区| 99热碰碰| 99热这里都是精品| 久久无码成人| 91精品熟女| 99久热| 天天综合精品| 亚洲五月婷| 激情五月天伊人影院| 97色婷婷| 色色日韩网| 丰满人妻一区二区三区| 碰99在线| 成人色站,在线视频,看片-SS1AV| 色综合久久天天综合网| 99WWW免费视频| 天天摸天天高潮天天爽| 91九色精品熟女内射| 99热在线看片| 成年人丁香五月| 影音先锋男人女人| 天天草天天舔| 婷婷91| 国产免费AV在线| 色五婷婷开心缴| 99婷五月| 欧美性爱5月天天天看| 久久综合激情| 久久aaaaa| 天天天天做夜夜夜夜做| 国产这里只有精品| 九九五月天| 婷婷丁香基地在线| 中文字幕在线视频播放| 色婷婷五月天小说| 久久99大| 六月丁香婷婷五月| 91丁香婷婷综合久久欧美| A A色色| 婷婷成人基地| 亚洲男人的天堂婷婷色五月| 欧美69久成人做爰视频| 久久AV电影| 婷婷丁香日韩五月| 天天搞天天色综合| 99热插| 婷婷五月天AV| 丝袜熟女一区二区三区| 美国天天日天天操| 激情文学综合婷婷五月天丁香花| 久久视频这里都是精品| 色婷婷亚洲婷婷| 99五月丁香丁| 99久久综合网| 欧美色骚婷婷五月天| 91精品久久久久久77777| 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | 一点色成人网| 激情五月婷在线精品| 操日本99| 天天色天天操天天射| 另类 在线| 亚洲AV成人精品日韩在线播放| www久| 天天干天天干天天| 五月激情婷婷女| 日韩精品一区二区刘| 免费亚洲婷婷| 久久久五月五丁香| 激情图片久久| 91九色网| 校花娇喘呻吟校长陈若雪视频| 米奇激情婷婷| 欧美搡BBBBB摔BBBBB| 久婷婷色| 手机看片日日做夜夜| 中文字幕综合色| 丁香五月婷婷大香蕉| 大香蕉婷婷五月天| 96精品成人无码A片观看金桔| 婷婷射图五月天| 日本在线视频看se99| 庭庭久久内射| 色久播播| 99色爱| 九九九色综合| 91精品国产色猫| 久久久久人妻精选| 午夜激情四射影院| 99热这里只有精品2024| 婷婷五月a| 亚州操人在线视频| 九月色婷婷综合| 色婷婷先锋| 五月婷婷丁香| 丁香五月亚洲| 久久九九网| www.色多多婷| 农村熟妇高潮精品A片| 激情亚洲婷婷| 九九免费在线视频| 激情婷婷丁香五月| 26uuu另类| www色哟哟| 久久婷婷91| www.狠狠干| 日韩精品一区二区亚洲AV观看| 大香蕉啪啪啪| 囯产精品久久欠久久久久久九大| 欧日韩AV| 久9热视频| 无码激情AAAAA片-区区| 停停五月色宗合| 五月天玖玖狠狠色色| 依人大香蕉在钱1| 国产在线6| 91打屁股免费看| 色五月综合资源推荐| 婷婷欧美色| 天天日夜夜高潮| 操人精品| 91九色精品女同系列| 色爽九九| 成人网页在线观看| 久热大香蕉| 九九色逼| 亚洲热手机在线观看| 五月婷激情| 婷婷久久影院| 日韩色色视频| 91dy.av| 色婷婷综合在线| 国产成人精品一区二三区熟女在线| 久久伦乱| 99热九九热| 亚洲99手机免费看视频| 性色欲情 网站| 99啪啪网| 国产亚洲成AV人片在线| 最新高清无码专区| 人人播| 婷婷射图| 99热这里只有精品4| 99综合熟女| 色久九| 99在线视频资源| 99这里有精品| 婷婷六月激情综合| 丁香婷婷人妻| 殴美97色| 五月丁香久久| 五月天婷婷激情| 91一起操| 久久大香蕉同僚| 思思热在线视频精品| A片试看120分钟做受图片| 色情五月天se| 亚洲色五月| 婷婷五月六月| 色婷五月婷婷| 五月婷婷综合在线视频小说| 少妇高潮呻吟A片免费看软件| 二区成人视频| 欧美经典片免费观看大全| 五月开心深深爱激情综合 | 亚洲欧洲小视频9| 99热在线看| 人妻中文在线| 九九人人操| 全网最新网黄大秀直播高清,主播国产录屏在线| 97干网站| 啊v视频在线观看| 99久久久久| 永久天堂日本| 精品香蕉99久久久久网站| www.久久| 九月综合| 五月间天堂综合| 婷婷成人综合| 久久婷婷影院| 99超在线| 九九久久高清| 国产免费av网站| 五月婷婷AV| 婷婷久久五月天丁香| 丁香啪啪| 天天综合网站| 丁香激情五月| www.yw色| 婷婷五月天小说| ss五月天激情| 夜夜爱伊人| 色婷婷在线影院| 婷婷婷久久| 人人爱天天摸摸天天爱| 亚洲人妻一区二区| 色之综合网| 久久99久久99www| 四川BBB搡BBB爽爽视频| 99色热视频| 色色婷婷综合网| 99色6爱9热| 四虎婷婷五月天| 一本久道综合色婷婷五月| 综合图片色色| 综合色久| 91色综合网站在线| pom538精品视频| 一区二区中文字幕| 女人天堂 AV| 91ncom.色| 丰满少妇猛烈A片免费看观看| 婷婷五月精品| 久久婷婷视频| 天天肏天天插| 人人干人人操人人摸| 丁香五月在线播放| 黄网在线播放| 色色丁香五月天社区| 97碰碰视频在线观看| 欧美久久婷婷| www.爱婷婷.com| 久热综合| 激情玖玖sh| 六月综合婷婷开心伊人| 99成人网一区| 亚洲天码视频www蛋播视频| 91丨九色丨白浆秘| 激情六月天| 任你操精品免费| 亚洲瑟瑟精品在线| 婷婷五月天久久| 7777国产盗摄农村女人| 亚洲色啪| 婷婷国产成人| 狠狠CAO日日穞夜夜穞AV | 五月丁香成人网| 影音先锋 萱萱| 国产成人+综合亚洲+天堂| 色婷婷五月天天天干天天操天天爽| 久月婷婷| 超热久碰.com| 欧美熟女乱又伦| 色婷婷伊人| 激情五月丁香五月综合| 久久亚洲天堂| 五月天欧美 另类小说| 五月婷婷丁香五月| 综合aV在线| 伊人久久婷婷| 五月色亚洲| 蜜臀A∨在线水帘洞| 超碰在线日夜| 丁香五月伊人| 99热亚洲精品| 99热这里只有精品86| 拍真实国产伦偷精品| www.精品99| 欧美美女国产日韩一区二区久| 五月天另类图片| 任你干aa| 激情六月一二| 人人操人| 婷婷五月伦理| 99re欧美精品| 久1色色| 伦乱天堂| 五月激情综合网| 色播五月天激情| 先锋影音男人的天堂AV| 色5月婷婷| 粉嫩AV久久一区二区三区| 久久五月天婷婷视频| 97AV在线视频| 欧美黑人大吊| 久久一热| 五月丁香啪啪啪| 亚洲av成人在线| 99操99| 激情六月丁香综合| 丁香五月天激情综合| site:hcxsz888.com| 色播五月网| 久久综合丁香五月| 激情视频网址| 婷婷五月天无码视频| 色播六月| 伊人婷婷五月天| 99久久极情精品一区| 99色激| 色五月天电影| 激情另类综合| 26UUU欧美| 婷婷月五天在线在线看| 日本人妻伦在线中文字幕| 伊人婷婷五月| 丁香五月欧美婷婷| 久久综合中文字幕| 120分钟婬片免费看| 九九热在线99| 五月社区婷婷激情| 婷婷丁香五月天色色| 中文字幕成人影视| 久久99网站| 成人无码髙潮喷水A片| 婷婷综合激情五月综合| AV中文字幕夜夜操b天天摸bb| www.夜夜操.com| 婷婷大乡焦噜噜| 激情五月天婷婷丁香| 五月丁香直播| 亚洲影院婷婷色| 91狠狠色色丁香婷婷综合久久| 日本熟妇精品99| 色优久久| 婷婷亚洲欧美丁香五月| 影视av久久久噜噜噜噜噜三级| 五月花免费视频| 思思久ren热| 青青草大香| 激情五月婷婷丁香综合网| 婷婷不卡基地| 五月丁香啪综合| 亚州激情在线视频| 婷婷丁香五月天操逼| 久久婷婷国产| 色综合xx| 69精品人人人人人人| 91久久久久久| 亚洲综合视频一下| 大香蕉 婷婷| 婷婷丁香五月综合| 国产精品久久欧美久久一区| 五月丁香婷婷伊人| 久久综合首页| 欧美搡BBBBB摔BBBBB| 婷婷五月18永久免费视频| 91九色在线视频| 狠狠干综合| 激情综合激情五月一起草| 97碰在线视频| 香焦网五月天| 成人五月天丁香| 九九热最新地址| 26uuu国产色| 99热这里只| 9久热| 亚洲精品无码A片一区二区| 婷婷丁香97| 中文字幕有多少字| 欧美大香蕉视频| 精品久久久久久久久久久久人妻| 黄色精品五月婷婷| 香蕉视频性爱BB做爱| 久久狠狠干| www.99热在线| 国产女18毛片多18精品| 五月天婷a| 日韩精品无码AV| 精品网站:999WWW| av在线超清中文| 丁香五月综合激情久久潮喷| 久久婷婷影院| 26UUU欧美激情一区二区| 天天做 天天爱| 亚洲精品欧洲精品| 国产1区2区3区| 亚洲婷婷综合视频| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 五月丁香另类图片| 女人被男人吃奶到高潮| 99r这里| 亚洲一区二区无遮挡A片| 伊人五月综合网| 五月激情婷婷开心| 在线视频另类| 丁香五月婷婷大香蕉| 思思久久99热只有频精品66| 亚洲综合激情五月久久| 色婷婷丁香| 婷婷五月伦理网站| 九九99在线观看视频| 一起草AV| 婷色五月天| 噜噜噜噜噜在线| 97超碰,人人舔,人人操,人人摸| 99无码视频| 五月丁香中文字幕| 伊人碰碰碰| 思思久久精品| 南京搡BBBB搡BBBB| 色综合久久8| 五月婷婷中文字幕| 女力报到正好爱上你| 天天肏视频| 国产综合色婷婷精品久久| 日韩黄色电影| 99热99精品| 婷婷五月天综合久久| 天堂色色色| 9精品视频在线| 久99热在线观看| 98永久精品| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 欧美在线视频9| 99热国品免费| 久久97久久99久久综合欧美| 性小说五月天| 丁香五月天AV在线 | 婷婷五月天堂| 波多野结衣AV无码Porn| 五月丁香六月婷婷综合在线| 色婷五月天| www.日韩艹| 九九re精品视频在线观看| 99国产精品久久久久久久久久久| 五月色婷婷影视在线电影| 婷婷五月欧美综合| 六月婷婷色色色| 日韩av一区二区在线/日产精品久久久| 成人视频一区| 丁香五月天色综合| 久久这里99| 五月婷婷,六月激情| 夜色综合网| 99热只有精品综合| 五月婷丁香亚洲| 五月天性色| 天堂草在线观| 日逼免费视频| 色墦五月丁香| 五月综合激情啪啪啪啪啪| 亚洲熟女色| 婷婷色基地在线看| 久久婷婷原创视频| 99热伊人综合| 久久97久久99久久综合欧美| 九九色黄色| 在线亚洲综合| 97碰碰在线看视频免费| 五夜婷婷| 婷婷五月天激情五月天网站| 久久这里都是精品免费| 九九99九九99偷拍视频免费看| 五月丁香综合| 任你干aa| 91 影音先锋| www.婷婷,com| 五月婷婷之激情五月| 亚洲va日| 五月丁香激情综合啪| 久99| 成人天天爽| 五月婷婷丁香大陆免费| 六月丁香五月婷婷| 五月天开心网| 婷婷综合日本| 狠狠干2007| 五月丁香综合中文| 99re6在线视频精品免费| 婷婷激情四射五月天| 丁香五月婷婷婷婷欧美综合| 色婷婷色婷婷五月| 婷婷五月天堂| 中文字幕欧美精品久久| 无码色| 婷婷色激情网| 一本色道久久88综合日韩精品| 婷婷五月天激情亚洲小说| 久久大大香| 99热精品9| 色综啪啪啪啪啪啪| 九九热av| 狠狠色 综合色区| 高清不卡一区| 禁片二区| 思思久久99热只有频精品66| 九月婷婷| 99啪啪网| 99热这里只有精品13| 婷婷色色网| 婷婷欧美激情综合| 夜夜躁婷婷AV| 丁香五月天资源网| 日日噜狠狠| 婷婷五月天六点丁香五月| 天天干天天 亚洲| 超碰色碰碰| 婷婷五月深深的爱| 香蕉综合网| 99久热视频在线| 99久视频| 狠狠色丁香99| 色色射| 日本三级黄色大片| 2050人人操免费工开爱| 九九精品在线视频观看| 国产va视频| 九九热123| 无码免费人妻A片AAA毛片西瓜| 91丨九色丨国产打屁股| 日韩在线视频9色| 婷婷五月色色| 最新精品视频99| 国产成人亚洲综合A∨婷婷| 97干在线| 色婷婷WWW| 日本色道视频网站| 在线观看欧美| 日本色色网站| 激情九月天天天天婷婷| 色婷婷五月天在线观看| 久热re在线视频| 国产午夜一区二区三区| 超爽内射| 丁香婷婷情色五月天| 久久综合五月| 狠狠干综合网| 香蕉人妻AV久久久久天天| 丁香五月天欧美在线| www.日韩国产| 91黄色五月天视频| 开心五月天激情网| 色婷婷小说| 色五月天在线| 久久人妻情侣| 五月婷婷天天色| 丁香五月激情婷婷视频| www一起操| 色亭亭九月| 超碰99热| 六月激情婷婷| 天天综合色丁香| 日本熟女三区| 伊人久热91| 色香蕉影院| 一级性爱视频| 亚洲天堂久久| 亚洲精品乱码久久久久99| 九九热青青草| 九九亚洲综合| 青青.com| 天天搞天天爽| 五月丁香在线观看99| 六月欧美综合色情| 天天爱天天爽| 日韩另类在线观看| 久久五月天激情视频| 久久爱婷婷| 成人免费黄色短视频| 五月天激情小说婷婷| 婷婷五月丁香久久| 久久99久久99精品免观看粉嫩| 丁香婷婷六月| 婷婷综合在线| 欧美大片免费观看| 日日操日日撸| 丁香综合婷婷开心激情网| 亚洲蜜桃精久久久久久久久久久久 | 5月丁香啪啪啪| 棕合影院色色| 99这里只有精品| 五月丁香六月婷婷在线观看| 成人亚洲精品| 丁香六月成人| 超碰在线人人| 99色最新在线视频| 国产女人十八水真多1| 人妻免费网站| 二级黄色毛片| 超碰在线中文字幕| 五月婷婷九| 丁香激情五月| 日本久久人人| 国产亚洲色婷婷99精品| 五月天婷婷色播综合在线| www.狠狠干| 婷婷综合在线观看视频| 夜夜操天天爽| 五月丁香六月婷婷操操操| 99热97| 免费视频99| 丁香五月激情综合啪啪| 天天干狠狠操| 五月丁香婷婷成人伊人网| 激情五婷精品网在线观看网址| 久久网日本| 欧美日朝成人| 五月天婷婷综合免费| 69精品人人人人| 五月天啪啪| 97婷婷狠狠久久综合9色| 五月天色婷婷av| 欧美三级A做爰在线观看| 五月丁香综合啪啪対白| 日本A片一区| 2017狠狠干| 亚洲性爱干干| 久久精品女人天堂AAA| 最近中文字幕在线中文视频| 92久久| 日本va欧美va欧美va| 电影《战争与艾拉》免费观看| 99超级碰碰| 婷婷久久色| 操操操B| 色综合色色| 亚洲中文字幕av| 天天色粽合合合合合合合| 玖玖资源站视频| 色播五月丁香婷婷| 色色日韩| 色99xx| 色青青电影色五月| 久久38视频| 五月婷在线影院| 人妻射精AV| 青草激情在线| 九色PORNY自拍成人精彩视频| 九九亚洲视频| 久激情| 国产99久久久| 五月丁香 啪啪啪| 久碰婷婷视频| 免费观看18视频网站| 91九色中文| 婷婷五月激情四月综合 | 丁香五月六月婷婷殴美综合| 99热精品免费| 久久伦乱| 婷婷五月情| 婷婷五月丁香综合网| 99精品视频网站| 人人插9| 色色99| 偷拍91九色| 五月涩涩网| 五月激情四射婷婷丁香| 激情婷婷久久| 婷婷综合一二三| 91九色欧美| 久久久.COM| 九九综合精品| 六月婷婷五月丁香首页| 亚洲熟妇AV综合网五月丁香伊人 | 91偷拍视频| 婷婷激情四射| 天天日天天干天天爱| 激情丁香淫荡婷婷| 亚洲性图一区二区| 97色色在线视频| 99热色精品| 97人人搞| 日韩操人| www。五月,com| 亚洲天天免费| 色五月人妻| 五月丁香在线观看99| 激情综合六月| 99热婷婷| 婷婷五月天成人五月天| 男女99免费视频| 丁香五月天社区婷婷| 天天做天天爰天天爽天天无遮挡| 综合色五月| 在线91日韩| 99精品无码网站| 丁香五月性爱| 九九热a| 丁香五月天激情视频| 99综合视频| 五月婷婷综合在线视频| 亚洲色色色色| 可以免费观看的AV| 天天日天天干天天插天天射| 婷婷国产综合| 婷婷五月天色色| 婷婷亚洲综合| 啪啪啪综合网| 婷婷五月激情四月综合 | 六月色播| 色婷婷丁香网| 婷婷视频在线| 国产精品久久久久久白浆色欲| 国产FREESEXVIDEOS性中国| 九九成年视频| 99开心五月五月丁香激情| 五月天成人在线播放丁香| 五月婷婷六月天| 日韩成人精品中文字幕电影| 久久九九中文字幕| 91啪级电影| 色爱99| 国产毛片欧美毛片久久久| 九热视频精品| 婷婷五月天影视网址| 婷婷激情综合| 久久五月激情综合| 狼友超碰| 五月开心激情| 99区视频| 六月激情丁香一道本7777| 亚洲色五月婷婷| 久久五月婷婷丁香| 激情综合网五月| 丁香无月在线观看| 99这里只有精品| 色五月av伊人| 激情综合五月丁香六月婷婷| 日本社区五月天激情| 亚洲乱码w在线观看| 99精品在这里| 五月综亚洲| 免费色婷婷| 五月丁香花婷婷玉莉AV| 五月天色软件| 国产精品久久久久久五月天加勒比| 婷婷情色五月| 美女五月天| 97香蕉碰碰人妻国产欧美| 亚州在线中文字幕| av操B网站| 91丨九色丨熟女| 五月 丁香 欧美| 五月丁香六月| www.丁香六月婷婷久久天堂影院.con| 色九九综合热99| 婷婷丁香五月天色区| 激情婷婷五月| 亚洲操B视频| 丁香五月婷婷激情中文| 国产3p露脸普通话对白| 99热综合在线| 直接看的AV| 超碰超碰在线| 成人欧美日韩| 黄久久久| 狠狠操天天干| 欧美日本97| 五月丁香五月婷婷在线观看| 五月综合激情啪啪啪啪啪| 婷婷成人综合免费视频| 五月婷婷啪啪| 另类五月婷婷| 婷婷丁香熟妇综合网| 国产一级黄色影片,| 天天日人人爽| 夜夜资源站| 在线看的免费网站| 久久婷婷五月免费视频| 狠狠色噜噜狠狠色噜噜噜999| 久九男女天堂| 182TV大香蕉| 亚洲色域网| 丁香六月激情综合| 色综合色香蕉网| 99热这里只有精品免费| 激情综合激情五月一起草| 亚洲网站在线鸭子av| www,色综合| 最近免费中文字幕大全高清大全1| 色欲一区二区三区精品A片| 成人精品一区二区三区四区五区| 亚洲成人无码片| 久久伊人五月天| 丁香五月花婷婷开心| 在线18av | 丁香婷婷色五月| 91精品综合久久婷婷九色| 天天爱夜夜爽| 国产三级在线播放| 国语精品探花| 神马久久五月天| 亚洲人人操| 99超超碰| 99ri在线观看视频| 色爱五月天| 偷拍九九热| 亚洲日韩26uuu| 专区无日本视频高清8| 天天做天天爱天天日| www狠狠| 99在线观看视频精品| 久在线88综合| 狠狠色噜噜狠狠狠888| 色色色国产| 九九综合| 五月婷婷婷婷| 五月丁香影院| 成人无码免费一区二区中文| 99热这里只有精品首页| 久久伊人大香蕉| 91919191919久久成人视频| 婷婷五月色天| 中文网AV| 色五月色五天色情网址| 日韩欧美一级大黄网站| 丁香花五月天| 久久久久98| 99在线精品免费视频| 秋霞黄色一级久久| 影音先锋AV资源男人站| 久久久国产精品黄毛片| 欧美成人精品A片免费一区99| 欧美精品18| 网色99| 少妇搡BBBB搡BBB搡毛茸茸 | 五月天色裸体视频| 色情五月天婷婷| 99精品视频免费观看,| 亚洲色欲AAAAAA| 色婷婷4| 色色色色热热| 成人在线不卡| 激情综合色网| 欧美日本VA| 久久久999精品| 五月久久婷婷| 99,色| www.99视频| 日韩色久| 激情五月天色色色| 丁香五月天成人| 综合AV网| 婷婷性爱五月天丁香网| 99日本黄站| 天天 日综合| 超碰色热| 九九久久综合| 思思久热| 婷婷五月天无码熟女| 大香蕉五月天婷婷| 五月婷婷co.m| 9久操| 99爱在线精品视频免费观看| 国产在线另类五月婷婷| 4438激情网| 免费观看全黄做爰的视频| 五月天另类激情在线| 色婷婷六月激情| 丁香成人五月天| 任你日热视频| 国产女生爱爱AA| 狠狠爱青青草| 五月丁香成人网| 色五月婷婷影院| 欧美日本国产欧美日本韩国99| 久久婷婷五月天综合| 人妻熟妇六区| 国产成人VA| 婷婷激情五月天天天开心| 丁香婷婷网| 婷色五月天| 铁牛TV人妻| 九月激情综合婷婷| 野外99热| 涩婷婷视频快播人妻| 99天天操夜夜操| 黄色av网站在线免费播放| 五月天婷婷丁香| 日韩九区| 日本精品人妻无码77777| 91女人18毛片水多国产| 丁香久色| 五月天婷婷基地| 免费看欧美成人A片无码 | 五月天色婷婷视频| 天天操天天曰| 丁香成人五月天| 五月综合激情婷婷六月色窝| 二区成人视频| 99精品在线观看| 色婷婷丁香五月天激情综合网| 月婷婷婷婷五月| 大香蕉啪啪啪| 亚洲另类av| 婷婷亚洲激情在线观看视频 | 精品人妻在线| 色色精品色| AV五月丁香| 影音先锋人妻出差| 五月天成人网在线观看| 久久精品99国产精品日本| 噢美99| 五月丁香六月激情欧美综合| 九九热10| 91久久婷婷| 久热人妻| 婷婷综合色图| 九九热自拍| 色婷婷免费观看| 日韩 中文 欧美| 久久久99视频| 久久女婷| 成人做爰A片免费看视频| 不卡在线视频| 成人人操| 婷婷六月色| 五月丁香六月婷婷a v| 丁香五月激情在线| 久久丁香五月婷婷| 婷婷丁香社区| 91综合视频在线| 超碰人人干| 五月丁香六月婷婷亚洲激情综合| 五月天婷婷丁香社区| 久久总和99| 亚洲无码99| 色综合久网| 亚洲色精彩| 天天干狠狠艹| 日本片日本片祼观看网站在线看中文版网页在线看 | 操骚货在线| 97超碰婷婷五月天| 激情五月激情综合俺也去婷婷小说| 激情啪啪五月| 9热久久| 色婷婷色久综| 中文字幕人妻熟女在线| 99超级碰免费视频| 欧美久久网| 9 1大香蕉| 综合激情深爱| 欧美日本免费一道免费视频| 五月天狠狠网站| 九九色大香蕉| www一起操| 五月婷婷在线免费观看 | 亚洲激情精品| 性一交一乱一交A片久| wWwCom夜操wwW| 五月婷婷丁香在线| 丁香五月综合激情啪啪| 五月丁香六月婷婷综合网站| 亚洲日韩乱码一区二区三区四区| 五月婷婷丁香啪啪| 天天爽天天摸| 色五月婷婷在线观看第一页舔| 色婷丨日丨天丨综合久久| 这里只有精品视频| 婷婷五月天精品| 五月丁香综合成人社区| 色色色色色色网| 秋霞免费视频| 中文字幕AV网址| 丁香五月综合在线播放| 丁香综合网| 日韩在线视频9色| 综合亚洲色色| 99免费在线视频| 无码99| 777精品久无码人妻蜜桃| 啪啪五月综合| 久久久久久久五月婷婷六月丁香综合,开心激情综合网 | 国产精品天天狠天天看| 久久狠婷婷| 天天爽曰日爽| 曰曰久久| 婷婷六月丁综合| 就爱操www com| 狠狠插狠狠操| 婷婷天堂视频| 人妻肉射免费观看| 五月天播播| 99自拍视频在线观看| 天天躁日日躁狠狠躁日日躁2022年5月9日| 婷婷影院欧美| 色婷婷五月天天天天天天天天天| 五月丁香六月婷| 色啦啦视频| 亚洲视99| 97资源欧美日韩大香蕉超碰一区| 亚洲性爱AV| 婷婷五月综合在线视频| 人妻熟女一区二区AV| 色9色| 久9视频| www.91.com处女在线直播| 九九无码| 丁香五月六月久久综合| 99热这里只有精品9| 五月丁香婷婷网网网网| 99视频自拍| www.夜夜操.con| 精品夜夜澡人妻无码AV| 天天日狠狠| 精品一二三区久久AAA片| 五月丁香花伦理电影| 艹B高清无码| 99视频精品8| 97人碰人操| 洗浴中心操B视频| 99热超| 99这里热| 婷婷的99视频网站| 丁香五月香蕉| 丁香五月在线视频| 先锋影音av色五月天资源站| 99热这里只有精品1025| 丁香花五月天激情| 婷婷五月天伦理| 九九精品少妇| 97 A I色色| 思思热精品在线视频| 99色视| 99视频极品在线香蕉| 99性爱| 色婷婷五月天偷拍| 色婷丨日丨天丨综合久久| 在线中文字幕视频| 亚洲av另类在线观看| 天天激情站| 久久久久人无码人妻| av在线免费网站| 九月丁香很很色| 色五月婷婷亚洲| 国产美女视频久| 天天做天天爱综合| 日本噜噜色网| 少妇丁香婷婷| 1024婷婷综合久久五月天| 超碰婷婷五月| 91精品综合久久久久久五月丁香| 九色视频91疯狂| 天天干狠狠| 《》【无码】想被搞到爽AV应募而来的超M素人 西纯子 10musume-011723-01 | 亚洲经典小视频| 俺去也婷婷| 婷婷综合另类小说| 色久免费| 超碰成人黄色网| 九九性视频| 色丁香久久| 婷婷婷狠狠| 99视频激情四射| 琪琪理论片| 丁香社92视频| 久久人妻久久| 丁香五月 六月婷婷首页| 99热国产婷婷| 玖玖在线视频| 激情五月婷婷网| 色婷婷电影| 丰滿爆乳一区二区三区| 久9热在线视频| 99热精品9| 丁香花五月天激情| 欧美熟女视频 色婷婷| 天天肏在线观看| 天天撸夜夜爽| 五月婷婷色影院| 日本美女97在线视频| 91精品久久久久久| 天天檫天天爽| 婷婷综合网| 嫩草视频| 免费黄色片子| 这里只有精彩视频| 五月伊人视频在线看| 99人人干人人| 91在线观看九区| 九九精品热| 五月天六月色| 天天干-天天日| 久9久9热久热| 亚洲精品另类| 搡BBBB搡BBB搡18| 91黄操| 5月婷婷五月天| 人人爱干人人爱草| 香蕉婷婷色五月| 欧美三级大片AA在线看| 八戒青柠影视剧在线观看| 91丨九色丨丰满人妖| 亚洲色vA| www.99热| 五月丁香在线观看99| 国产一级片色色| 激情www| 色欲影香| 五月婷婷69| 久久九精品| 国庆精品久久| 亚洲综合另类| 亚洲区1| 亚洲亚洲人成综合网络| 欧美精品999| 婷婷六月色开| 五月婷婷中文网| 婷婷五月天视| 伊人久久艹| 中文AV在线播放| 久久99久久久久久久噜噜| 玖玖91| 熟女人妻一区二区三区免费看| 丁香五月天激情视频| 久久伦乱| 日韩 中文 欧美| 亚洲视色| 五月情色天| 亚洲九九在线| www.五月婷| 大香蕉啪啪啪啪啪啪| 天天日日| 黄色av网站在线免费播放| 日韩精品无码一区二区| 精品人妻伦九区久久AAA片| 婷婷五月婷婷| 欧美日韩成人| 五月婷久久| 国产精品美女久久久久AV超清| 婷婷香五月天| 六月色婷婷| 99热最新| 五月天伊人| 成人精品在线| 天天射影院| 人妻丰满精品一区二区A片| 亚洲亚洲人成综合网络| 99国产精品久久久久久久久久久 | 九九狠狠干| 91免费看片| 婷婷综合网| 丁香五月激情婷婷视频| 伊人五月婷婷| 五月丁香999| 337午夜福利| 夜丁香五月婷婷| 五月婷婷免费在线视频| 成人va在线播放| 丁香五月婷婷激情网| 99久久99九九九99九他书对| 久久九九免费视频| 色综合色综合网| 五月激情四射网站| 微拍92| 久久久99婷婷久久久久久| 99热无码首页| 激情六月天婷婷| 综合玖玖性爱免费视频| 欧美色色色色色色色色色色影视| 天天做天天爱天天爽在| 婷婷五月偷拍| 夜夜爱网站| 伊人婷婷大香蕉| 久久怕怕视频| 婷婷香蕉精品| 欧美性交一区二区三区| 日韩精品超碰在线观看| 99ri在线观看视频| 五月天激情网图片 - 百度| 五月丁香六月婷婷久久| 五月婷婷啪啪| 伊人综合网站| 欧美伊人9| 玖玖精品资源| 成人AV中文字幕| 99热这里有精品| 五月婷婷草| 91婷婷五月天综合视频| 99精品国产在热久久婷婷| 双性美人被调教到喷水A片| 婷婷色六月| 色婷婷4| 91热网址| 九色99视频| 女人露出p毛视频www网站| 狠狠干综合网| 色激情五月天| 丁香六月婷婷开心婷婷网| 色色色区| WWW五月天| 五月婷婷六月激情| 无码免费人妻A片AAA毛片西瓜| 99热网址| 九九热区一区二区三区| 丁香六月综合激情| 欧美日韩婷婷五月天| 久久曰曰| 国产精品激情五月天色婷婷| 久久久精品AV| 五月丁小婷婷激情四射| 婷婷五月综合色拍| 天天综合天综合| 五月婷婷色| 亚洲成人中心| ww久久| 婷婷久久丁香| 国产日产亚洲系列最新| 五月色婷婷影院| 99福利视频| 久久99久久99久久99人受| 国产亚洲av片| 婷婷五月天激情小说网站| 99精品综合视频| 五月丁香偷拍| 插插五月天| 99∨VTV| 婷婷五月丁香91| 看久久性爱99视频| 亚洲亚洲人成综合网络| 99久在线精品99re8| 狠狠狠狠狠狠| 丰滿爆乳一区二区三区| 国庆精品久久| 五月丁香成人| 大香婷婷| 亚洲精品国产精品乱码不99| 天天搞天天爽| 亚洲成人免费在线| 国产精品色色| 狠狠色噜噜色狠狠狠综合色 | 十区AV| 亚洲性爱区无码区| 免费观看18视频网站| 丁香五月婷婷久久综合激情网| 色五月欧美| 9l视频自拍九色9l黑人| 亚州精品久久久久AV无码| 国产美女无遮挡裸体毛片A片| 玖月婷婷爱丁香| 影音先锋色婷婷| 91九色精品| www.久久爱.com| 国产精品人妻在线网址| 亚洲色视频| 天天色情站| 色综合色欲综合天天免费 | 五月丁香婷婷成人网| 亚洲色色图片| 99在线精品观看99| 狠狠操天天操| 婷婷五月天成人网| XXXX岛国| 99热成人| 亚洲综合五月天综合| 亚洲精品白浆高清久久久久久| www.狠狠狠狠| 日本欧美成人片AAAA| 日本不卡五月婷婷丁香| 成 人片 黄 色 大 片| 啄木鸟黑丝一区二区| 久操婷婷| 99er免费在线观看| 亚洲午夜在线视频| 亚洲激情区| 亚洲天堂碰碰婷婷| 98色花堂98t.R| 五月色婷婷夜色| 色欲婷婷五月天丁香| 69精品人人人人| 久久久人妻| 婷婷激情欧美| 婷婷五月成人社区| 日本成人噜噜噜| www色色色com| 婷婷激情人妻| 五月丁香综合啪啪| 天堂成人A片永久免费网站 | 99综合| 亚洲激情亚洲激情| 丁香五月婷婷高清| 开心五月深爱五月| 婷婷婷婷婷婷婷婷| www.色婷婷。com|