99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

PXE批量裝機(jī)實(shí)戰(zhàn):從DHCP到Kickstart無人值守部署

PXE批量裝機(jī)實(shí)戰(zhàn):從DHCP到Kickstart無人值守部署 做運(yùn)維的最煩的一類重復(fù)勞動是什么我個人的答案不是故障排查也不是上線變更而是裝系統(tǒng)。故障排查好歹有挑戰(zhàn)性上變更也算有點(diǎn)儀式感裝系統(tǒng)純粹是體力活。尤其是有幾十臺裸機(jī)需要交付的時候光盤加U盤一臺一臺懟一下午下來人都是麻的而且手動操作最容易出岔子機(jī)器配置稍有不同分區(qū)方案和基礎(chǔ)設(shè)置就容易弄亂。后來我把目光轉(zhuǎn)向PXE批量裝機(jī)才算是把這個環(huán)節(jié)真正從“人肉模式”切換到了“半自動流水線”。這篇文章就把我折騰PXE的完整過程、踩過的坑、以及最終沉淀下來的方案一次性說清楚。PXEPreboot eXecution Environment預(yù)啟動執(zhí)行環(huán)境簡單講就是讓機(jī)器通過網(wǎng)卡引導(dǎo)系統(tǒng)不需要任何本地存儲介質(zhì)介入。配合DHCP自動分配地址、TFTP傳輸引導(dǎo)文件、HTTP或NFS提供安裝源、Kickstart應(yīng)答文件自動填表一套批量裝機(jī)系統(tǒng)就能在半小時內(nèi)完成從規(guī)劃到上線。整個過程的核心思路是只在一臺服務(wù)器上做一次配置后面所有客戶端機(jī)器只要設(shè)好網(wǎng)絡(luò)啟動選項(xiàng)就能全自動完成系統(tǒng)的部署、分區(qū)、配置和基礎(chǔ)軟件安裝。這篇文章適合所有承擔(dān)過批量交付任務(wù)的運(yùn)維工程師、網(wǎng)管、以及想深入理解Linux網(wǎng)絡(luò)引導(dǎo)原理的學(xué)習(xí)者。不會只講命令怎么敲我會把每個關(guān)鍵組件“為什么這么設(shè)計”也一并講透并附上實(shí)操中真正會遇到的故障和對應(yīng)排查方法。1. 內(nèi)容整體設(shè)計與思路拆解1.1 裝機(jī)這件事為什么要“網(wǎng)絡(luò)化”先從需求說起。假設(shè)你面前有30臺配置相近的服務(wù)器需要統(tǒng)一安裝某個Linux發(fā)行版并預(yù)設(shè)同樣的主機(jī)名規(guī)則、分區(qū)結(jié)構(gòu)、網(wǎng)絡(luò)參數(shù)和初始化用戶。傳統(tǒng)手工裝機(jī)的流程是制作啟動盤、逐臺插拔、選擇鏡像、分區(qū)、寫配置、裝系統(tǒng)、然后手工執(zhí)行后續(xù)腳本。操作周期的重復(fù)度非常高人工介入越久出現(xiàn)偏差的概率越大比如分區(qū)時手滑選錯盤或者軟件包列表沒勾全都可能在交付后暴露成線上問題。用PXE之后流程變成了所有機(jī)器上電開機(jī)網(wǎng)卡主動廣播DHCP請求獲得IP地址和引導(dǎo)文件位置再通過TFTP把引導(dǎo)程序拉下來引導(dǎo)程序去讀取指定安裝源按Kickstart文件里的答案自動完成整個安裝。人只需要在控制臺提前確認(rèn)好默認(rèn)引導(dǎo)菜單剩下的全部交給鏈路自動執(zhí)行。這解決了三個關(guān)鍵問題規(guī)模化交付、配置一致性、無人值守。從原理上看PXE起始于客戶端的網(wǎng)卡固件。網(wǎng)卡固件在啟動階段啟用PXE協(xié)議棧發(fā)出DHCP廣播DHCP服務(wù)器不僅返回IP地址還帶上引導(dǎo)信息比如文件名和服務(wù)器IP。隨后客戶端通過TFTP從引導(dǎo)服務(wù)器拉取引導(dǎo)文件這個文件通常是pxelinux.0或grub相關(guān)的引導(dǎo)器。引導(dǎo)器運(yùn)行后讀取菜單配置文件決定從哪個鏡像啟動最終加載內(nèi)核和解耦然后掛載安裝源開始系統(tǒng)安裝。1.2 方案選型一體化還是分離式搭建PXE環(huán)境有兩條主流路線。一條是用dnsmasq把所有服務(wù)合成一個進(jìn)程順帶把DHCP和TFTP都干了安裝源則用一個HTTP服務(wù)承載。另一條是分離部署DHCP用dhcpd、TFTP用tftp-hpa、HTTP用nginx或httpd各司其職。一開始我圖省事用了一體化方案確實(shí)上手快但等環(huán)境復(fù)雜到要管理多網(wǎng)段、多系統(tǒng)鏡像時單進(jìn)程配置就變得臃腫排障也要從一堆日志里撈。后來生產(chǎn)環(huán)境我全部改成了分離方案。分離方案的好處有很多。DHCP作為整個PXE鏈路的入口配置相對獨(dú)立調(diào)試時不會牽連其他服務(wù)TFTP服務(wù)只在引導(dǎo)階段工作傳輸量小獨(dú)立部署可以單獨(dú)調(diào)整超時和并發(fā)參數(shù)HTTP服務(wù)是安裝源的核心獨(dú)立出來天然支持多目錄、多版本鏡像并行。而且三個服務(wù)進(jìn)程獨(dú)立重啟不會出現(xiàn)一個配置錯了全家起不來的尷尬局面??刂品?wù)器建議用長期支持版本的系統(tǒng)比如Rocky Linux 9或Debian穩(wěn)定版分配一個靜態(tài)內(nèi)網(wǎng)IP。所有PXE相關(guān)的流量都建議在獨(dú)立管理網(wǎng)段中進(jìn)行避免和業(yè)務(wù)流量混跑。安全問題也不要忽略內(nèi)網(wǎng)雖然默認(rèn)可信但TFTP本身沒有認(rèn)證機(jī)制HTTP端口也經(jīng)常是弱防護(hù)區(qū)所以管理網(wǎng)段建議與業(yè)務(wù)網(wǎng)段物理或邏輯隔離至少要做好對應(yīng)的網(wǎng)絡(luò)訪問控制。1.3 鏈路階段拆解從網(wǎng)卡啟動到系統(tǒng)交付完整的PXE裝機(jī)鏈路在原理上可以分為五個階段。第一階段是預(yù)啟動環(huán)境也就是網(wǎng)卡固件發(fā)起DHCP廣播這一步需要客戶端在BIOS或UEFI中開啟網(wǎng)絡(luò)啟動選項(xiàng)并設(shè)置正確的引導(dǎo)順序。第二階段是引導(dǎo)加載階段客戶端通過TFTP獲取引導(dǎo)器引導(dǎo)器再加載內(nèi)核和解耦文件。第三階段是啟動安裝程序階段內(nèi)核掛載initrd后安裝程序開始運(yùn)行并通過引導(dǎo)參數(shù)中的路徑去獲取應(yīng)答文件。第四階段是系統(tǒng)安裝階段安裝程序根據(jù)應(yīng)答文件訪問HTTP安裝源完成文件拷貝、引導(dǎo)安裝和基礎(chǔ)配置。第五階段是首次啟動初始化安裝完成后重啟系統(tǒng)首次啟動執(zhí)行cloud-init、自定義腳本等收尾動作。這里面任何一個環(huán)節(jié)出問題表現(xiàn)都可能極其相似比如卡在某個界面不動、報超時、或者直接拿到一個空內(nèi)核環(huán)境。所以做PXE排障必須牢牢記住這條鏈路順序配合抓包和服務(wù)日志定位才不會亂猜原因。2. 核心組件解析與配置要點(diǎn)2.1 DHCPPXE鏈路的入口總開關(guān)DHCP是PXE啟動的起點(diǎn)。客戶端上電后網(wǎng)卡固件發(fā)出DHCP Discover服務(wù)器需要提供兩組信息一組是常規(guī)IP參數(shù)另一組是PXE引導(dǎo)參數(shù)。常規(guī)參數(shù)包括IP地址、子網(wǎng)掩碼、網(wǎng)關(guān)和DNS。PXE引導(dǎo)參數(shù)則通過DHCP Option 66TFTP服務(wù)器地址和Option 67引導(dǎo)文件名傳遞或者在新版協(xié)議中使用Option 150等擴(kuò)展字段。簡單起見配置時直接把next-server指向TFTP服務(wù)器IP把filename寫成引導(dǎo)文件名。dhcpd配置里相對容易踩的坑是子網(wǎng)聲明和網(wǎng)卡接口綁定。一臺PXE控制服務(wù)器往往有多個網(wǎng)口務(wù)必確認(rèn)DHCP服務(wù)監(jiān)聽的網(wǎng)卡就是通向客戶端網(wǎng)段的那個網(wǎng)卡。啟動服務(wù)后第一步不要急著連客戶端測試先在本機(jī)跑一下DHCP請求模擬驗(yàn)證確認(rèn)服務(wù)能正常分配地址再進(jìn)入下一步。這個習(xí)慣能省下大量神經(jīng)。配置DHCP時還有一個容易被新手忽略的細(xì)節(jié)如果目標(biāo)網(wǎng)段存在其他DHCP服務(wù)器一定要在配置里嚴(yán)格限定子網(wǎng)作用域甚至用allow unknown-clients結(jié)合MAC白名單來控制。PXE環(huán)境講究的是可控如果混進(jìn)來一個非法DHCP服務(wù)器所有客戶端引導(dǎo)都會亂套。2.2 TFTP經(jīng)典小步快跑瓶頸也在小TFTP的作用范圍很有限只在客戶端獲取引導(dǎo)器的初始階段用到。因?yàn)檫@個階段網(wǎng)絡(luò)棧還很簡單無法承載復(fù)雜協(xié)議所以選用TFTP這種基礎(chǔ)文件傳輸協(xié)議。TFTP默認(rèn)基于UDP 69端口數(shù)據(jù)包小且沒有復(fù)雜的握手和狀態(tài)機(jī)實(shí)現(xiàn)簡化到了極致。協(xié)議的代價是傳輸效率低尤其是默認(rèn)塊大小512字節(jié)時傳一個幾兆字節(jié)的引導(dǎo)文件都會有明顯延遲。解決效率問題有兩個辦法。一是調(diào)整引導(dǎo)器的pxelinux.0加載后的內(nèi)核和解耦文件傳送這是不可避免走TFTP的但引導(dǎo)器本身足夠小。二是讓引導(dǎo)器后期從HTTP獲取內(nèi)核和initrd繞過TFTP的低效率。SYSLINUX系列引導(dǎo)器支持菜單配置里直接用HTTP URL加載內(nèi)核。我生產(chǎn)環(huán)境就是用HTTP承載內(nèi)核和initrdTFTP只保底傳pxelinux.0和菜單文件實(shí)測安裝速度比純TFTP快不少。TFTP配置上不建議用xinetd管理的版本直接安裝獨(dú)立的tftpd-hpa在配置文件中明確指定blocksize 1468乃至更大值減少包往返次數(shù)。同時把超時時間調(diào)大一些否則幾十臺客戶端同時廣播請求時偶發(fā)的瞬時丟包會觸發(fā)重傳超時直接表現(xiàn)為客戶端拿不到菜單。2.3 HTTP安裝源鏡像、倉庫與目錄規(guī)劃PXE引導(dǎo)成功后系統(tǒng)的安裝數(shù)據(jù)就全部從安裝源獲取。安裝源用HTTP承載比用NFS省心得多不依賴特定協(xié)議棧瀏覽器、CIFS、普通抓包工具都能訪問排查也直觀。我通常用nginx作為安裝源服務(wù)器配置非常簡單設(shè)置一個根目錄把各類發(fā)行版的ISO鏡像掛在對應(yīng)子目錄同時目錄結(jié)構(gòu)保持清晰可讀。鏡像的加載方式有兩個選擇直接把整個ISO文件放在磁盤上然后通過loop掛載或者把ISO內(nèi)容解壓到目錄中通過目錄訪問。前者省磁盤空間但每次訪問都需要內(nèi)核處理loop設(shè)備后者浪費(fèi)點(diǎn)空間但訪問效率高、部署直觀。我推薦把ISO解壓到目錄然后軟鏈或nginx alias指向它。需要注意掛載ISO時用mount -o loop解壓時尤其不要遺漏隱藏文件因?yàn)長inux ISO中有些配置文件和校驗(yàn)文件是以點(diǎn)開頭的。HTTP服務(wù)的響應(yīng)速度和并發(fā)也值得關(guān)注。默認(rèn)nginx配置就行不必額外調(diào)優(yōu)。但如果客戶端數(shù)量很大比如同時有幾十上百臺機(jī)器在拉包可以考慮把HTTP的日志級別降低減少磁盤寫日志帶來的性能損耗。還有一點(diǎn)確認(rèn)HTTP服務(wù)對安裝源目錄沒有做目錄列表限制或鑒權(quán)攔截否則安裝程序會在從源讀取元數(shù)據(jù)時報403。2.4 Kickstart無人值守的關(guān)鍵開關(guān)Kickstart是一種自動化應(yīng)答文件安裝程序按它的內(nèi)容自動回答原本必須人工交互的每一項(xiàng)問題。文件包括磁盤分區(qū)方案、文件系統(tǒng)類型、軟件包列表、語言與鍵盤布局、時區(qū)、root密碼、網(wǎng)絡(luò)配置、安全策略、以及首次啟動要執(zhí)行的腳本。這個文件是整個PXE方案里最能體現(xiàn)設(shè)計水平的地方。一份好的Kickstart文件應(yīng)該把“通用的安裝邏輯”和“每臺機(jī)器的差異項(xiàng)”分開。通用的部分比如基礎(chǔ)軟件包組、分區(qū)模板、時區(qū)、語言統(tǒng)一寫在ks文件里。有差異的地方比如主機(jī)名、IP地址、部分服務(wù)開關(guān)通過引導(dǎo)參數(shù)傳遞再用%pre腳本動態(tài)處理。這樣一套配置文件就能管住一個機(jī)房的環(huán)境而不是為每種硬件規(guī)格寫一份單獨(dú)的ks。分區(qū)方案建議采用LVM預(yù)留足夠的/home或/data空間給業(yè)務(wù)數(shù)據(jù)/boot獨(dú)立出來swap大小按物理內(nèi)存的1到2倍規(guī)劃。對于服務(wù)器場景根分區(qū)容量可以適當(dāng)給足后續(xù)擴(kuò)容少折騰。軟件包選擇上用最小化安裝加必要工具組寧可裝少了后期再補(bǔ)也別一上來把整組圖形化都裝上。2.5 網(wǎng)絡(luò)規(guī)劃與安全邊界PXE依賴網(wǎng)絡(luò)的程度比日常運(yùn)維高一個量級對網(wǎng)絡(luò)環(huán)境的要求也苛刻一些。首先是交換機(jī)端口客戶端機(jī)器所在的交換機(jī)下聯(lián)口不建議開啟端口隔離或個別準(zhǔn)入策略至少要讓DHCP Discover、TFTP客戶端請求、HTTP請求都能順利穿過。其次是VLAN劃分管理網(wǎng)段和業(yè)務(wù)網(wǎng)段分開PXE服務(wù)只監(jiān)聽管理網(wǎng)段避免誤用DHCP干擾業(yè)務(wù)地址池。最后是網(wǎng)關(guān)和廣播域DHCP Discover是廣播報文客戶端和服務(wù)器必須在同一個二層廣播域里跨三層就需要配置DHCP中繼代理。安全方面TFTP默認(rèn)不限制訪問目錄建議在TFTP目錄內(nèi)部做好讀寫權(quán)限控制只開放必要的子目錄。HTTP服務(wù)如果沒有特殊需求不建議直接綁定到公網(wǎng)網(wǎng)口。PXE環(huán)境如果可能接觸不受信任的客戶端考慮在DHCP服務(wù)中啟用動態(tài)分配合約或IP/MAC綁定保證只有已知的客戶端才能獲得引導(dǎo)資格。3. 實(shí)操全流程從零搭建一套可用的PXE環(huán)境3.1 準(zhǔn)備工作與基礎(chǔ)環(huán)境初始化我以一套Rocky Linux 9服務(wù)器作為控制端客戶端統(tǒng)一安裝同版本系統(tǒng)為例??刂品?wù)器的IP規(guī)劃為192.168.110.10客戶端網(wǎng)段192.168.110.0/24。數(shù)據(jù)庫術(shù)語上我們稱這臺服務(wù)器為PXE控制器其他所有機(jī)器都作為PXE客戶端。開始之前先把本機(jī)系統(tǒng)更新好關(guān)閉或放行對應(yīng)的防火墻端口并安裝所需軟件包。涉及的核心服務(wù)端口有三類DHCP使用UDP 67、TFTP使用UDP 69、HTTP使用TCP 80。如果控制端啟用了防火墻需要提前放行這組端口。同時要確認(rèn)SELinux不會攔截HTTP服務(wù)讀取掛載目錄最簡單的方式是把安裝源目錄的標(biāo)準(zhǔn)上下文手動設(shè)置一下或者臨時調(diào)整SELinux布爾值我建議按目錄標(biāo)準(zhǔn)設(shè)定上下文而不是直接關(guān)閉SELinux。# 安裝所需軟件包 dnf install -y dhcp-server tftp-server syslinux-tftpboot nginx3.2 DHCP配置明確引導(dǎo)入口編輯/etc/dhcp/dhcpd.conf定義子網(wǎng)和PXE引導(dǎo)參數(shù)。這里核心是next-server和filename兩個選項(xiàng)。一個基礎(chǔ)配置模板如下subnet 192.168.110.0 netmask 255.255.255.0 { range 192.168.110.100 192.168.110.200; option routers 192.168.110.1; option domain-name-servers 192.168.110.10; option subnet-mask 255.255.255.0; next-server 192.168.110.10; filename pxelinux.0; default-lease-time 3600; max-lease-time 7200; }next-server告訴你TFTP服務(wù)器在哪里filename告訴該取什么引導(dǎo)文件。配置好之后啟動服務(wù)并檢查日志確認(rèn)沒有語法錯誤。有一點(diǎn)我后來又改進(jìn)了公司內(nèi)部有多個網(wǎng)段PXE客戶端跨越了VLAN這就需要在每個VLAN的網(wǎng)關(guān)設(shè)備上配置DHCP中繼或者用DHCP服務(wù)端同時監(jiān)聽多個子網(wǎng)有條件可以配置基于端口的動態(tài)分配。3.3 TFTP引導(dǎo)環(huán)境放置引導(dǎo)器和菜單安裝syslinux-tftpboot后把pxelinux.0、菜單模塊、內(nèi)核和解耦文件放到TFTP根目錄。這里的常規(guī)TFTP根目錄是/var/lib/tftpboot實(shí)際路徑看發(fā)行版差異。拷貝引導(dǎo)器cp /usr/share/syslinux/pxelinux.0 /var/lib/tftpboot/ mkdir -p /var/lib/tftpboot/pxelinux.cfg創(chuàng)建/var/lib/tftpboot/pxelinux.cfg/default作為默認(rèn)引導(dǎo)菜單。我先讓客戶端啟動到安裝程序所有具體的鏡像選擇都放在這個菜單里。默認(rèn)菜單內(nèi)容如下DEFAULT menu.c32 PROMPT 0 MENU TITLE PXE Boot Menu TIMEOUT 100 LABEL linux MENU LABEL Install Rocky Linux 9 x86_64 KERNEL images/rocky9/vmlinuz APPEND initrdimages/rocky9/initrd.img kshttp://192.168.110.10/ks/ks.cfg這段配置里KERNEL指向內(nèi)核文件在TFTP根下的相對路徑APPEND里的initrd參數(shù)告訴引導(dǎo)器加載哪個解耦文件ks參數(shù)用HTTP URL指定Kickstart文件位置。注意如果使用UEFI引導(dǎo)環(huán)境圖形化菜單模塊選用menu.c32可能不生效需要根據(jù)啟動模式針對性配置。TFTP根目錄、權(quán)限和SELinux上下文都要配套。TFTP服務(wù)默認(rèn)對目錄有讀取權(quán)限要求如果用tftp-hpa默認(rèn)用戶是tftp需要保證引導(dǎo)文件對tftp用戶可讀使用chmod 644即可。如果啟用了SELinuxtftp服務(wù)有對應(yīng)的布爾值開關(guān)我因?yàn)閳D省事踩過一整晚的坑最后是檢查/var/log/messages才定位到SELinux攔截了TFTP讀取。3.4 HTTP安裝源掛載ISO并配置訪問安裝源放在nginx目錄下。先把ISO鏡像拷貝到控制服務(wù)器或者直接掛載然后創(chuàng)建軟鏈接指向解壓目錄。我的做法是統(tǒng)一放在/data/pxe/iso每個鏡像一個目錄同時給客戶端訪問路徑以簡潔的URL展示。mkdir -p /data/pxe/iso mount -o loop rocky9.iso /mnt/rocky9 cp -a /mnt/rocky9/. /data/pxe/iso/rocky9/nginx配置指向這個目錄server { listen 80 default_server; root /data/pxe/iso; autoindex on; }autoindex on是必要的雖然Kickstart不一定需要目錄列表但調(diào)試時可以先用瀏覽器訪問目錄確認(rèn)鏡像文件是否完整可見。安裝時安裝程序會訪問repodata目錄抓取軟件包元數(shù)據(jù)所以目錄里必須有這個文件如果ISO拷貝不完整經(jīng)常會在安裝進(jìn)度走到一半時報倉庫加載失敗。3.5 Kickstart應(yīng)答文件編寫兼顧通用與個性Kickstart文件放在HTTP服務(wù)下路徑/ks/ks.cfg對應(yīng)磁盤路徑/data/pxe/ks/。下面這個腳本是適應(yīng)多機(jī)器的通用模板已在多臺物理機(jī)上跑通過。# 版式Kickstart 格式 install url --urlhttp://192.168.110.10/rocky9/ lang en_US.UTF-8 keyboard us timezone Asia/Shanghai rootpw --iscrypted $6$... authconfig --enableshadow --passalgosha512 selinux --enforcing firewall --disabled firstboot --disable # 磁盤與引導(dǎo)配置 zerombr clearpart --all --initlabel part /boot --fstypexfs --size1024 part pv.01 --size1 --grow volgroup vg0 pv.01 logvol / --fstypexfs --nameroot --vgnamevg0 --size40960 logvol swap --fstypeswap --nameswap --vgnamevg0 --size4096 logvol /data --fstypexfs --namedata --vgnamevg0 --size1 --grow # 軟件包配置 %packages core vim wget %end # 首次啟動自定義 %post --log/root/pxe-post.log echo PXE install completed /root/pxe-post.log %end這個文件的關(guān)鍵在于分區(qū)策略和軟件包配置。分區(qū)統(tǒng)一走LVM后續(xù)擴(kuò)展不再需要停機(jī)調(diào)整物理分區(qū)。%post腳本用于安裝完成后做定制操作比如寫主機(jī)名、配置SSH key、添加用戶等。我是習(xí)慣在%post里通過讀取DHCP的hostname或預(yù)設(shè)參數(shù)來生成每臺機(jī)器的主機(jī)名這樣就不需要每臺機(jī)器手工改主機(jī)名了。第一段代碼里的root密碼以密文形式存放。生成方法可以用openssl passwd -6或者grub-crypt絕對不要寫明文密碼。整個Kickstart文件在HTTP目錄中時確認(rèn)權(quán)限盡量收緊比如只用root可讀寫但如果需要遠(yuǎn)程修改也可以另設(shè)專用賬號。3.6 客戶端啟動驗(yàn)證與參數(shù)傳遞技巧配置全部就位后在一臺測試機(jī)上將其啟動方式設(shè)置為網(wǎng)絡(luò)啟動開始觀察安裝流程。理想情況下控制臺會依次出現(xiàn)PXE準(zhǔn)備階段、引導(dǎo)菜單、內(nèi)核加載、安裝程序初始化然后進(jìn)入無人值守安裝。全程大約10分鐘期間不需要任何人工干預(yù)。如果希望客戶端能自動區(qū)分不同主機(jī)名或不同分區(qū)配置可以使用Kickstart里的%pre腳本配合引導(dǎo)參數(shù)實(shí)現(xiàn)。引導(dǎo)器APPEND里可以帶自定義參數(shù)比如hostnameweb01然后在%pre中解析這些參數(shù)并寫入對應(yīng)配置文件。這種方式比客戶端都讀同一個模塊更靈活也方便和資產(chǎn)管理平臺打通。%pre --log/tmp/ks-pre.log hostname$(find /proc/cmdline -o -print | grep hostname | cut -d -f2) echo $hostname /etc/hostname %end還有一個小技巧是把menu.c32作為默認(rèn)引導(dǎo)菜單同時鍵盤快捷鍵可以快速進(jìn)入shell方便調(diào)試。實(shí)際使用中我在APPEND里經(jīng)常額外加一個ipdhcp參數(shù)確保安裝程序正確獲取網(wǎng)絡(luò)配置避免因?yàn)榫W(wǎng)卡名混亂導(dǎo)致連不上安裝源。4. 常見問題與排查技巧實(shí)錄4.1 客戶端卡在“PXE-E51: No DHCP or proxyDHCP offers”這個報錯說明DHCP階段就沒通。排查順序很明確看看DHCP服務(wù)是否在跑監(jiān)聽端口是否是67確認(rèn)客戶端和服務(wù)器在同一二層網(wǎng)絡(luò)檢查防火墻是否丟棄了UDP 67報文。如果服務(wù)正常再用tcpdump在服務(wù)器側(cè)抓包觀察DHCP Discover是否能收到。這類問題九成是網(wǎng)絡(luò)隔離或服務(wù)監(jiān)聽錯了接口。4.2 客戶端能拿到IP但TFTP下載引導(dǎo)文件超時此時DHCP已經(jīng)成功問題出在引導(dǎo)文件獲取階段。常見原因包括TFTP服務(wù)器沒放行UDP 69端口、pxelinux.0文件不存在、或文件權(quán)限不對。另外一個很容易忽略的是filename里如果寫了路徑比如filename pxelinux.0TFTP服務(wù)會把它當(dāng)作相對路徑拼接在根目錄之后路徑寫錯會直接404。建議先用tftp命令行手動測試一遍文件下載能手動下載成功再談客戶端引導(dǎo)。tftp 192.168.110.10 -c get pxelinux.04.3 引導(dǎo)菜單正常顯示但內(nèi)核啟動后黑屏或Kernel Panic這類問題一般和引導(dǎo)參數(shù)有關(guān)。最常見的是APPEND里沒有指定正確initrd或者vmlinuz和initrd.img與系統(tǒng)架構(gòu)不匹配。另一個常見坑是UEFI機(jī)器加載了BIOS版引導(dǎo)文件導(dǎo)致啟動協(xié)議不符。當(dāng)前架構(gòu)統(tǒng)一使用UEFI引導(dǎo)我配置時都會放兩套引導(dǎo)文件按啟動模式提供不同文件名從一開始避免混用。4.4 安裝程序已啟動但在獲取倉庫或安裝軟件包階段失敗安裝程序能跑起來說明引導(dǎo)鏈路OK之后的失敗通常都和HTTP源有關(guān)。建議先訪問http://192.168.110.10確認(rèn)目錄列表能看到ISO內(nèi)容。如果目錄能打開但安裝報404請看Kickstart里url --url寫的具體路徑是否與nginx目錄的alias或軟鏈路徑對應(yīng)。還有一個容易踩的坑如果通過mount -o loop臨時掛載ISO服務(wù)器一重啟掛載點(diǎn)就消失。我的建議是把ISO解壓到目錄后長期保留避免循環(huán)掛載依賴進(jìn)程狀態(tài)。4.5 Kickstart文件無法讀取如果引導(dǎo)器能找到kshttp://...但安裝程序提示解析錯誤或訪問失敗先用瀏覽器或curl確認(rèn)該URL可以正常返回內(nèi)容再檢查文件格式。Kickstart文件其實(shí)對行尾和編碼有要求Windows下編輯過再傳到服務(wù)器很容易栽在回車符差異上。另一個隱蔽的問題是文件中出現(xiàn)空行、注釋錯位或者使用了不支持的指令建議安裝前用ksvalidator做一次語法驗(yàn)證能省去大量現(xiàn)場調(diào)試時間。4.6 大規(guī)模并發(fā)安裝時的延時與資源瓶頸同時引導(dǎo)幾十臺客戶端時DHCP、TFTP、HTTP三個服務(wù)都可能成為瓶頸。DHCP層面可以把default-lease-time縮短讓地址盡早釋放TFTP層面引導(dǎo)器文件本身傳輸盡力減小必要時僅傳輸引導(dǎo)器內(nèi)核和initrd走HTTPHTTP層面建議把所有安裝源目錄的冗余日志級別關(guān)閉同時nginx開啟sendfile和aio并考慮采用proxy_cache做倉庫包緩存。實(shí)測中同樣的配置優(yōu)化HTTP路徑后并發(fā)20臺以上也能穩(wěn)定交付。4.7 安裝完成后首次啟動進(jìn)不了系統(tǒng)這類問題多出在引導(dǎo)加載器安裝和分區(qū)設(shè)計上。如果/boot分區(qū)存在但內(nèi)核沒寫入引導(dǎo)項(xiàng)檢查Kickstart里是否包含bootloader --locationmbr或UEFI相關(guān)參數(shù)。此外部分機(jī)器因固件原因在PXE安裝后還保留PXE啟動順序?qū)е轮貑⒂只氐骄W(wǎng)絡(luò)啟動菜單。處理辦法是在Kickstart%post階段寫一段腳本將啟動順序調(diào)整為本機(jī)磁盤優(yōu)先或者依靠UEFI的引導(dǎo)管理器設(shè)置。5. 擴(kuò)展場景與現(xiàn)實(shí)經(jīng)驗(yàn)PXE不止能裝單機(jī)系統(tǒng)稍微擴(kuò)展一下邏輯就能覆蓋多種運(yùn)維場景。比如配合模板鏡像可以用PXE引導(dǎo)一個內(nèi)存系統(tǒng)然后在內(nèi)存系統(tǒng)里執(zhí)行克隆、備份或抽檢硬件固件信息再比如把Kickstart文件里的軟件包列表換成某一業(yè)務(wù)組的常用軟件集合就相當(dāng)于批量交付了統(tǒng)一基線還能和監(jiān)控平臺打通讓安裝完成后的系統(tǒng)第一時間自動上報到CMDB。我在實(shí)際落地中還總結(jié)了一條經(jīng)驗(yàn)PXE的搭建代碼相對固定難的不是寫配置而是對網(wǎng)絡(luò)細(xì)節(jié)的理解和異常處理。每次導(dǎo)入一批新機(jī)型我都會先拿一臺樣機(jī)完整跑一遍安裝觀察日志里是否有新硬件導(dǎo)致的異常再決定是否批量執(zhí)行。如果機(jī)器網(wǎng)卡型號較新引導(dǎo)階段可能還需要嵌入廠商網(wǎng)卡驅(qū)動否則會出現(xiàn)內(nèi)核無法識別網(wǎng)卡而無法進(jìn)入安裝程序的怪問題。后來說個非常實(shí)用的小技巧建議把控制服務(wù)器上的配置做版本管理至少對dhcpd.conf、nginx配置和Kickstart腳本打上git標(biāo)簽。出現(xiàn)配置回退時幾秒鐘就能恢復(fù)。做PXE的樂趣就在于前期配置雖然瑣碎但換來的是一勞永逸的交付能力這種投入非常值得。祝各位順利跑通自己的PXE鏈路。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久草性爱| 日韩成人电影在线播放| 2017狠狠干| 亚洲色啪| 天天日,天天干,天天操| 天天做天天爱天天爽| 丁香久久| 色久影院| av第一二区| 五月综合激情网| 色五月av| 狠狠干夜夜干| 人人操人人爱丁香五月| 六月丁香射婷婷欧美色图片| 淫视馆aV二区一区| 久久人人九九| 激情综合色婷婷啪啪六月天| 五月亭亭色| 日产精品一线二线三线芒果| 91夫妻视频| 狠狠操狠狠操| 99热8| 丁香婷婷深情五月亚洲| 五月天色裸体视频| 婷婷 月 丁香| 51avj视频大全| 色五月婷婷丁香国产在线| 久久久宗合| 激情综合另类| 久久五月天激情婷婷| 婷婷五月天天| 亚洲传媒在线观看| 国产av第一专区| 久久精品99国产精品日本| 超碰人人超碰| www.激情五月| 超碰v| 99热这里是精品| 99热66| 人妻自慰高清合集| av色色国产| 夜夜综合色| 久久99热 这里有精品| 99热这里只有在线播放| 丁香婷五月| 开心丁五月| 五月婷婷av| 夜夜躁婷婷AV| 久久久激情| 9久国产精品| 日韩美女羞羞网站在线观看| 久久五月婷婷丁香| 在线中文av| 久久超级碰碰| 婷婷激情五月天网站| 色婷婷久久综合| 国产av基地| 婷婷97碰碰| 97碰碰在线观看视频| 亚洲国产黄色电影| 91操片| 九九综舍久久| 久久丝丝热| 丁香九月婷婷| 九九成人精品| 欧美成人网99网| 99在线精品视频免费观看20| 九热视频在线精品15| 色婷婷天堂| 久9久9久9久9久9久9| 美欧日韩国产成人在战| 天天综合网站| 97啪在线观看视频| 丁香婷婷色九月| 涩综合网| 思思热在线精品视频网站| 婷婷激情五月综合丁| 丁香激激情网| 色综合婷婷| 九九亚洲视频| 9 7总站超级碰免费视频| 超碰在线资源| 五月丁香六月婷婷,婷| 就爱干 在线| 人人干Av| 99色婷婷| 丁香婷婷浪潮AV久久综合| 久操人| 日韩不卡DvD| 丁香五月六月久久综合| 色色色色色色网站| 国外亚洲成AV人片在线观看| 久久九九re热| 婷婷在线操| 日日插日日干| 五月丁香啪啪| 日本丁香久在线| 激情五月天黄色小说| 开心五月婷婷在线视频免费观看| 黄色片区子| 少妇熟女视频一区二区三区| 伊人狠狠色婷婷综合丁香一区| 丁香六月啪啪啪| www天天干| 五月天婷婷久久视频| 九九九九国产| 婷婷94s| www.maotanji.com| 这里只有精彩视| 久久久99视频| 曰韩五月丁香色婷婷无码| 亚洲免费观看高清完整版AV线| 人人色人人摸人人看| 天天肏天天爽夜夜爽| 色婷天天| 无码AV大香线蕉伊人| 五月丁香激情四射综合| 五月婷婷丁香色播网| 任你爽视频| 婷婷五月天 丁香五月天 裸体| 色狠狠色综合久久久绯色AⅤ影视| 五五月五月| 五月天久久网站| 中文字幕在线观看视频www| 九97免费视频| 中文网av| 热思思九九| 色域五月婷婷丁香| 日本九九网| 一本大道熟女人妻中文字幕在线| 开心五月婷婷激情| 亚洲AV人人操| 91成人电影| 五月婷婷丁香五月婷婷| 色狠狠色噜噜AV天堂五区| 97色色综合| 新激情五月天色播| 九月丁香久久网| 99热色无码| 丁香五月伊人| 91精品丝袜久久久久久久久粉嫩| av五月天婷婷丁香| 五月婷婷婷色| 就爱射中文字幕资源网| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 激情五月婷婷丁香六月| 五月丁香六月激情综合| 99久热精品在线| 大香蕉院线| 专区无日本视频高清8| 婷婷五月天激情网| 思思re99视频在线观看| 超碰人人操人人干| 六月丁香啪啪| 99噜噜噜在线播放| 99精品成人无码A片观看金桔| 日韩精品999| 99精品热| 影音先锋毛片网站| 狠狠色婷婷| 久久丝袜婷婷| 综合网色| 亚洲激情亚洲激情| 97色色视频| 九九国产精视频| 亚洲啪啪啪啪| 激情五月婷黄版| 婷婷六月激情| 99re热精品视频国| 色五月av| 五月激情综合深爱| 色五月中文字幕| 五月婷婷丁香社区| 一级二级色大片| 涩涩五月天| 婷婷九色| 欧美婷婷综合| 丁香综合伊人AV| 亚洲视频在线观看| 日本欧美国产| www.婷婷,com| 亚洲天天操| 超碰在线观看99| 97精品综合久久| 亚洲国产婷婷色五月| 99综合视频| 97香蕉碰碰人妻国产欧美| 人人妻人人澡| VA国产在线综合网站| 精品亚洲国产成人A片在线鸭王| 亚洲激情99| 内射人妻视频国内| 丁香六月在线| 婷婷和五月天| 四色五月婷婷| 超碰精品在线| 五月天成人手机在线视频| 性欧美大战久久久久久久83| 五月丁香六月欧美综合网站| 91人人操.COM| 国产人妻人伦精品一区二区| 久久久性爱视频| 成人网站av免费网站推荐| 丁香五月天激情| 91精品电影18T| 婷婷影视久久| 成人午夜无码视频| 激情久久综合网| 色射7856五月天激情四射| 色色色在线观看| 中文字幕成人| Av在线资源| 日韩色五月| 人妻中文在线| 狠狠狠人妻| 丁香五月很很肏| 婷婷综合久久| 天天爽夜夜爽天天爽夜夜爽| 四月婷婷五月色综合| 国产看真人毛片爱做A片| 婷婷狠狠色| www.刺激色网站www.| 久操香蕉| 五月丁香影院| 婷婷丁香五月综合激情小说| 91综合国免费久入| 国产av网| 996er热| 囯产精品一品二区三区| 黄色AV日韩| 天天操天天干天天射| 五月丁香六月| www.亚洲激情| 色婷婷五月六月丁香综合视频| 91re色综合视频| 免费国产视频| 久久婷婷五月综合啪| AV色婷婷| 久久精品五月| 99久久综合狠狠综合久久| 97热视频| 九九在线视频| 丁香成人色情五月天| 91人人爽狠狠狠| 五月丁香久久久| 久久婷婷五月综合激情国产 | 色综合色五月| 99视频在线观看视频| 丁香婷婷五月色成人网站| http:色情日本com| 五月天激情小说| 99热精品无码| 天天爱夜夜爽| 人人干天天操五月丁香| 丁香激情五月综合网| 午夜婷婷久久 | 色99久草在线| 俺也去色| 色色五月婷| 婷婷五月丁香91| 久热只有这里精品| 五月丁香六月婷婷a v| 天天肏视频| 色综合色色色色色色综合| 粉嫩AV久久一区二区三区| 激情九月婷婷| 色婷婷97| 碰碰91| 人妻久久久久久久| 超碰1999| 99热这里有精力| 丁香婷婷六月激情综合| 色五月亚洲五月天| 99这里的视频都是精品| 婷婷五月激情网站| 丁香五月六月久久综合 | 亚洲欧洲中文日韩久久AV乱码| 九九干视频| 激情五月深爱婷婷| 五月色色激情网| tingtingzonghewang| 婷婷五月天成人导航| 国内久久久精品99| 91碰碰视频| 五月婷婷亞洲中文| 婷婷六月色播| 夜夜综合色| 密乳视频| 婷婷色五月情| 四色五月婷婷| 99热在线观看| 丁香五月性| 91色综合网| 五月天婷婷综合网| 九色PORNY9l原创自拍| 亚洲在线综合| 五月天色丁香| 五月丁香啪| 婷婷啪啪| 婷婷色色网站| 丁香色影院| 五月丁香婷婷啪啪网| 久久99三级在线视频| 天花AV无码| 五月色激情综合网| 99九九热在线观看| 五月丁香在线视频观看| 日逼免费视频| 99国产在线| www.夜夜操| 欧美日韩成人在线网| 五月 激情视频| 91偷拍视频| 另类视频在线| 亚洲中字AV电影在线网站| 97超碰免费超级在线观看| 在线成人va| 激情五月最新网址| 女同激情久久av久久| 一本久道综合色婷婷五月| 九九热色视频| 婷婷五点亚洲| 伊人久久婷婷| 日韩一级淫乱片一区二区三区| 丁香婷婷综合喷| 日本人人干| 久婷婷| 五月天天丁香婷婷在线中| 可以免费看av网站| AV人人操| 五月婷婷五月天| 玖玖色综合色| 婷婷久久五月| 激情五月色在线播放| 99精品久久久久| 99色天堂| 99热 在线播放| 久久婷婷五月丁香网| 丁香六月婷婷综合色| 开心五月婷| 六月婷婷综合激情| 精品人妻在线免费观看| 67194成I人在线观看线路1| 77799热| VfJxEwPH| 被强行糟蹋的女人A片| 丁香五月停停av| 激情五月天色色网| 日韩视频99| 综合激情站| 涩丁香| 91九色熟女| 欧美综合在线五月天色婷婷| 婷婷91| 欧美A片在线视频免费观看| 99精品在线观看视频| 天天天添天天操| 丁香狠狠色婷婷| 天堂成人A片永久免费网站| 激情五月综合久久| 色久综合天天做视频| 丁香婷婷五月天激情四射| 激情综合网激情五月婷婷| 亚洲久热| 99视频九九热| 丁香六月婷婷社区| 射久久丁香五月| 亚洲综合五月天婷婷| 中文字幕av网站| se99高清无码| 中文字幕不卡+婷婷五月| 日逼影音先锋男人资源站| 色玖玖| 色色性爱视频| chaopeng在线人人| www.五月天。com| 啪啪综合网| 超碰高清在线| 开心五月网 | 日本久久性| 精品亚洲国产成AV人片传媒| 丁香婷婷五月天网站| 久久婷婷五月天激情四射| 香蕉曰比| 亚洲中文乱字字幕线在永久| 亚洲精品一区无码A片| 五月婷婷六月丁香综合| 五月狠狠| 色婷婷综合综合网| 五月天 婷 欧美亚洲| 色婷小说| 五月丁香婷婷激情视频| 色约约视频一区二区三区四区五区 | ztEJj| 欧美色骚婷婷五月天| 99热自拍| 天天爽在线视频| 五月久久婷婷| 久久婷综合| 久9免费视频| 日韩AV中文字幕在线| 狠狠干伊人| 国产XXXX搡XXXXX搡麻豆| 色播丁香五月婷婷操:屄| 26uuu成人网| 丁香五月婷婷啪啪| 国产欧洲欧洲精品久久| 草操网| 婷婷丁香久久| 精品人妻伦| 五月婷婷深深爱| 99re这里只有精品99| 淫视馆aV二区一区| 色波激情五月天| 99热官网| 艹| 色色婷婷综合| 日韩三级高清无码| 婷婷五月激情图片| 亚洲综合99| 色五月婷婷五月丁香五月激情五月视频| 99这里只有精品视频| 99综合视频在线| www.久久爱| 久久这里只有国产| 色色欧美色色色| 色色婷婷综合网| 狠狠色噜噜狠| 婷婷丁香五月综合免费视频百花| 色色色婷婷五月天| 另类图片五月天| 丁香婷婷人妻综合网| 亚洲国产精品VA在线看黑人| 激情婷婷啪啪| 久久性刺激| 五月天色社区| 99热综合在线观看| 五月狠狠| 看片视频在线免费日产在线看| 五月天婷a在线| 丁香婷婷狠狠97| 逼里香不卡| 日韩 中文 欧美| 五月天色丁香| 日日夜夜狠狠干| www,com,五月色色| 丁香六月激情| 色导航色婷婷五月天在线观看| 香蕉伊人综合| 激情五月天丁香| 丁香九月婷婷色| 久婷首页| 国产精品久久久久久亚洲毛片| 青青草原福利在线| 九九黄色网| 嫩草AV久久伊人妇女超级A| 婷婷丁香五月亚洲综合网在线视频观看| AVV黄| 久久五月丁香| 精a品a| 国产一级片| 狠狠干五月| 99视频在线播放大全| 天天天久久久| 婷婷色操| 精品爱欲五| 98色花堂98t.R| 亚洲一色色色色色色色色| 九九久久玖玖爱| 91久操| 成人丁香婷婷五月天| 亚州操逼网| 久久AV无码精品人妻系列试探| 久色大| 激情五月综合免费| 大香蕉精品视频| 日韩在线看AV| 五月婷色| 99久在线精品99re8| 激情五月丁香婷婷夜夜操| 亚韩精品视频1区| 五月激情偷拍| 播五月,色五月,开心五月播放器 | 五月丁香婷婷六月| 欧洲亚洲精品| 全国最新疫情| 丁香 婷婷 激情 综合 五月| 91视频免费后入强操| 国外亚洲成AV人片在线观看| 91久操| 丁香五月电影| 五月婷婷丁香大陆免费| aⅤ79成人片| 亚州第一A片| 免费看欧美成人A片无码| 五月丁香婷草| 五月丁香六月婷婷网| 色婷婷婷综合五月天| 另类激情五月| 久久在线大香蕉| 日本三级成人秘书精品片| PORNY九色9l自拍视频成人| av性爱网站| 在线综合婷婷| 97久久香草精品视频| 超碰九色| 久草性爱| 香蕉操亚洲| 热久久婷婷| 国外亚洲成AV人片在线观看| 五月天久久久| 五月天伊人| 久久久久久9| 婷婷欧美| 久久视频婷婷| 噜噜在线| 激情无码网| 色五月在线播放| WWW.色婷婷.COM| 黄色99网| 激情网开心网| 久久在线人妻| 婷婷五月天干干| 七七婷婷综合| 夜夜爽77777妓女免费下载| 日本天天操| 在线看片av| 五月婷婷激情性爱| 五月丁香精品| 久久九九综合| 色综合天天| 俺去也五月| 99热9| 大香蕉啪啪网| 成片免费观看视频大全| 国产亚洲成AV人片在线观黄桃| 丁香五月成人| 狠狠婷婷色| 狠狠搞亚洲| 五月天激情子轮| 五月丁香六月婷婷视频| 国产婷婷五月色情综合| 国产亚洲精品久久一区二区三区| www99在线观看视频| 一级精品999WWW| 国产激情AV| 97精品综合| 激情第四色| 欧美色婷婷| 中文字幕无码人妻少妇免费视频 | 91免费在线视频6| 激情五月天之六月婷婷| 青草激情在线| 婷婷六月色开 | 99re在线播放| 丁香五月婷婷图片综合| 激情骚五月| 日韩欧美一道四区中文字幕| 欧美色色色色色| 婷婷五月蜜桃成人桃色丁香| 天天成人丁香美女AV| 六月丁香社区| 亲子乱AV一区二区三区下载| 久9热| 五月婷婷啪啪啪啪| www.久久综合| 99热 免费| 久久久久久丁香五月| 另类激情中文| 大香蕉久操| www超碰com| 99久精品| 婷婷激情蜜桃玖玖丁香| 六月丁香激情| 久久久天堂国产精品女人| 97碰碰草| 色播婷婷五月天| 欧美人与性动交CCOO| 亚洲中字AV电影在线网站| 成年视频免费观看| 色久在| 99热6这里只有精品| 人人综合久| 夫妇交换刺激做爰| 婷婷丁香五月天影院 | 99热这里只有精品8| 婷婷伊人久久| 综合福利网| 激情爱爱网站超大免费| 婷婷深爱色五月| 天天插天天射| 色狠狠色噜噜AV天堂五区| 伊人久久综合| 99色热视频| 欧美大香蕉视频| 九九在线热九九在线热99热| 色婷| 99亚州综合精品成人网| 国产乱子轮XXX农村| 中文字幕黄色电影网址| 五月色丁香婷婷中文字幕| 精品99在线| 激情网 久久| 亚洲网视屏| 丁香五月婷婷色偷偷| 狠狠色婷婷777| 国产婷婷五月| 狠狠狠狠狠草| 可以免费观看的av| 影音先锋一区| 丁香五月婷婷日本| 中文字幕视频色婷婷| 狠狠香蕉| 色婷婷a| 青青久久五月天丁香婷婷| 淫荡家庭AV| 人人草人人舔| 996re热精品视频| 色网站99| 九九成人视频| 久久婷婷色情7777网站| 草综合14| 丁J香六月首页| 国产无遮挡又黄又爽免费网站| 成年人夜夜喷水| se99视频| 五月色情精品| 婷婷色丁香五月| www.狠狠操| 操99| 久久久久久激情| 久久99精品久久久久久青青AR| 森林影视大全,最好看的2019年视频 | 99久久精品网| 逼特逼在线免费播放| 五月丁香综合啪啪啪啪啪| 色情久久久| 伊人五月天97| 久久a热| 中文字幕成人日韩| 五月丁香六月婷婷的女人| 色欧美一级| 丁香婷婷五月天色播| 天天日日夜夜| 99re思思热在线视频| 99人妻碰碰碰久久久久禁片| 六月丁香大香蕉| 99久热| 九九99在线视频| 色五月婷婷综合| 九九伦子片| 九九精品视频在线6| 丁香,开心成人,久久| 26uuu激情五月天| 99re6在线视频精品免费| 99视频精品视频| www久久久| 丁香婷婷激情五月| 综合天堂AV久久久久久久| 五月丁香天天| 九月丁香网婷婷| 丁香婷婷久久综合在线| 日本网站久久| 九九精品亚洲| 91九色精品熟女内射| 大香蕉啪啪啪| 亚洲网站在线鸭子av| 久久五月综合| 天天综合永久| 日噜噜色| 操逼巨乳91| 色~性~乱~伦~噜| 97色碰| 欧美成人无码一区二区三区| 四川BBB搡BBB爽爽视频| 这里只有免费精品| 玖玖爱资源站| 99久久久| 色色欧美。| 丁香五月天激情免费在线观看AV777| 丁香花婷婷五月天| 色色色五月婷婷| 亚洲俩性性爱图片久久第六页| 国产毛片精品一区二区色欲黄A片| 99视频精品8 | 蜜桃婷婷丁香综合久久开心亚洲| 国产精品香蕉| 超碰在线国产9| 99这里有精品| 婷婷情色激情| 狼友视频在线观看18| 九九伊人网| 丁香五月天的网址。| 99九九视频精彩在线| 狠狠操狠狠操| 婷婷五月花西瓜| 操逼毛片国语对白| 日本不卡一区二区三区| 五月天婷婷在线播放免费| 任你搞网站| 荡乳尤物3HP1V5| www.狠狠艹| 婷婷在线播放av| 五月丁香综合色婷婷| 香蕉操亚洲| 日本狠狠爽| 精品99在线观看| 五月丁香啪啪啪| 丁香五月亚综合图片| 丁香婷婷大香蕉| 99久99久| 伊人在线视频| 天天操比比| 亚洲视频色色| 色婷婷超碰| 99riav 亚洲| www.婷婷五月天| 丁香婷婷久久老熟女综合网| 色玖玖综合网| 日本三级日本黄色| 99操逼| 久草热在线视频| 99热这里只有精品98| 91一道本| 久久精品无码一区| 天天爽天天日| 五月婷婷导航| 丁香五月激情婷婷| 九九sese| 色色爽爽天天| 久热9热| 九九日伊人| 色色色色色色色色综合网| 丁香狠狠色婷婷久久无码视频| 色噜噜伊人| 五月婷AV| 婷婷综合网| 亚洲深喉AV| 大香网伊人久久综合| 天天综合在线网| 思思99精品视频在线观看| 日本美女上人| 人妻在线网站| 国产亚洲AV人片在线| 99九九久久| 日韩成人综合网| 五月天婷婷乱论小说| 婷婷涩五月天综合| 婷婷丁香人妻| 性爱在线播放av| 色综合久久天天综合网| 久久婷综合网| 久久五月情| 91国产精品视频播放| 伊人综合网站| 久久人妻视频| 99热这里只有精品5| 五月婷婷色影院| 99热在线观看免费精品| cc精品国产性传播| 五月天基地| 开心五月深爱五月婷| 天天爽天天日人人爱| 婷婷99狠狠| 五月久久婷婷丁香| 九九人人精品| 97人妻碰碰碰久久香蕉| 六月婷色| 91网站黄| 日本啪啪网| 夜夜大香蕉婷婷丁香| 玖玖五月丁香| 中文字幕丰满人妻无码专区| 激情av在线| 国产九九一区二区三区| 九九色之九九色之88| 丁香六月青青草| 5五月综合网亚洲| 激情五月天婷婷色色色色色色色色色色色| 中文AV网站| www.9色色色| 97国产精品女人碰碰| 激情淫乱男女| 久久综合色五月| 手机在线日韩视频中文字幕| 丁香婷色| 日本精品在线噜噜噜| 99视频这里只有免费精品| 五月丁香六月久久| 精品视频99看在线视频| 婷婷丁香久久五月综合| 26UUU在线观看| 婷婷狠狠五月综合| 99热99热不卡| 婷婷五月在线视频| 综合色播| 国产美女无遮挡裸体毛片A片 | www.色五月| 色www99| 日韩啪图| 九九这里是免费的视频5| 亚洲九区| 五月丁香999| 九一99| enecarbon-materials.comWu染请涟系Bao护@wip1688 | 五月综合在线| 九九色综合九九色| 俺去也五月| 色色免费网战视频| 色噜噜狠狠一区二区三区| 天天操无码| 天天拍天天操| 亚洲色区17| 婷婷99热| 综合久久丁香婷婷,五月婷婷六月丁香,开心激情综合网,六月丁香在线观看,婷婷丁 | 丁香婷婷色情| 亚洲激情网| 婷婷区日本| 婷婷五月色情天| 91美女被操| 在线18av | 99热99在线精品| 色玖玖| 这里只有精品在线免费视频| 五月丁香综合中文| 婷婷丁香六月| 新激情综合| 丁香 婷婷 激情 综合 五月| 久99热| 超碰免费人妻| 国产真实乱对白精彩| 五月亭亭色| 五月天丁香啪啪综合| 六月丁香社区| 久久怡红院| 91超级碰人人操| 9色在线| 这里只有精品9| 91ncom.色| 欧美综合五月天婷婷tin| 久青操| 青青草日本亚洲| 亚洲激情婷婷| 人人摸人人干| 丁香五月在线人妻| 国产婷婷五月色情综合| 九九精品热| 久一网站| 亚洲人人操BD| 激情五月天色色网| 丁香五婷| www.minyis.com【JT】国内CDN落地页保证转化QQ2101460746 | www.色五月| 丰满少妇猛烈A片免费看观看| www.久久爱.com| 天天影视色综合网| 五月婷婷五月| 4438成人电影| 五月天色网站| 九九AV| 激情四射网| 噜噜噜精品欧美成人在线观看| 婷婷久久久| 97色视频网| 丁香五月婷婷天激情| 五月天婷婷色色| 成人丁香五月婷| 密桃激情五月天综合网| 伊人五月天| 26UUU欧美激情一区二区| 天天射色五月天| 色婷婷成人做爰A片免费看网站| 亚洲AV日韩无码| 综合五月网| 九九婷婷五月天| 七七九九色色| 久久久18| 超碰在线99热| 五月久视频| 黄色网址五月婷婷| 亚州激情网站无码| 91久久久久久| 欧美日韩成人免费在线| 色五月天电影| 超碰妻人人| 激情五月天无码| 狠狠干综合| 天天激情5月天亚洲| YJLZZJLZZ亚洲乱熟无码| 色综合偷拍| 五月婷婷五月天激情网| 色色五月天 亚洲| 色综合五月在线| 国产精品国产成人国产三级| 美女va| 亚洲热视频在线| 丁香婷婷基地| 九热...av| www.久久爱.com| 热99免费在线| www激情网站| 天天综合中文| 色综合av超碰| 五月婷婷激情综合av| 成人在线免费网址| 成人免费va| txt五月激情四射网综合俺也来了| WWW.夜夜| 久热99狠| 五月天影院| 97在线天堂| 婷婷久久草| 久操人| 久久婷婷综合国产| 欧美视频五区| 99在线观看| 色久婷婷五月| 色婷婷网| WWW.桔色成人.COM入口| 国产SUV精品一区二区883| 爱的综合网| 婷婷五月欧美综合| 99热这里只有精品1998| yw国产AV| 天天日 天天草| 色玖玖导航| 涩涩涩五月天| 亚洲 精品 综合 精品| 国产古装妇女野外A片| 思思热99在线| 99久久五月婷婷| 天天干一干| 99热9999| 九九热精品视频在线观看| 五月婷婷在线网站| 色综啪啪啪啪啪啪| 99视频在线播放大全| 欧美一级色| 日本欧美成人片AAAA| 欧美综合激情五月天| 九九热青青草| 婷婷精品在线| 婷婷五月天激情偷拍| 99久久婷婷精品视频| 婷婷五月情| 99操视频| 4399无码视频| 日日操天天操| 婷色五月| 色五月 婷婷, 大香蕉| 久久婷婷视频| 色性综合| 蜜臀综合久草| 91碰超| 日韩人妻无码一区二区| 玖玖综合色区在线观看| 丁香 久久| 久色视频首页| 伊人影院久久网| 97色婷婷成人综合在线观看| 77799热| 伊人青涩网| 91精品综合久久久久久五月丁香| 婷婷五月天99| 大香蕉婷婷丁香| .精品久久久麻豆国产精品| 五月天综合视频| 亚洲日韩国产黑丝黑丝AVAV一区二区三区| 久久精品一区二区三区四区| 99热这里只有精品青草| 五月婷婷免费在线| 久久99精品久| 天天干天干| 丁香成人色情五月天| 久久久婷婷婷| 99久热视频在线| 婷婷激情综合| 久热播这里只有精品| 99在线观看| 天天干、天天日日| 成人av中文字幕| 伊人香大香蕉视频| 丁香五月影院| 色综合天天天天做夜夜| 成人噜噜网| 久久丁香九| 色五月亚洲| 97超碰在线免费观看| 久久婷婷色丁香| 丁香五月中文字幕| 久草 tingting| 丁香五月婷婷色| 丁香综合婷婷五月天| 2025最新亚洲激情在线| 91综合色| 91人人人人人人人| 96丁香六月婷婷蜜桃综合久久| 99热在线精品观看| 六月婷婷狠狠色在线观看| 色色色色色五月丁香| 婷婷视频在线碰| 91超级碰| 五月天啪啪视频| 直接看的AV| 五月婷婷之激情五月| 伊人婷婷青青cao| 久久婷婷丁香视频网| 黄色三级毛片中字| 青青草五月天| 久久久久亚洲AV无码网影音先锋| 青青草原福利在线| 综合色天天| 色婷婷成人| 婷婷五月天精品| 色天使久久综合| 99ER热精品视频| 99热.com| 日韩 中文 欧美| 五月亚洲| 丁香五月天综合网| 五月丁香天天| 婷婷激情丁香五月婷婷激情丁香五月婷婷| 婷婷久久免费| 色九九丁香九月色九九色| 99久久喉9| 色狠狠色噜噜AV天堂五区| 九九色逼| 五月婷婷六月色| 精品久久99| 97操碰视频| 射久久丁香五月| 五月天色区| 婷婷五月情天| 国产资源91在线| 久热这里只有精品66| 婷婷丁香高潮了| 天天日夜夜B久久| 精a品a视a频| 天天射影| 激情欧美婷婷| 99色色爰| AV色五月婷婷| 99久热这里只有精品视频删减版| 99日本黄站| 婷婷丁香花五月天| 婷婷丁香激情综合色情| 亚洲av日韩无码| 涩综合网| 欧美熟女99| 五月丁香婷婷啪啪| 婷婷开心深爱五月天| 色视频2025| 亚洲综合视频天天精品| 九九九九九无码| 都市激情五月婷婷综合| 99综合婷婷五月| 狠狠色狠狠鲁| 六月丁香激情综合| 5月丁香六月婷婷| 久久这里只有欧美| 婷婷五月天激情文学| 色色亚洲五月天| 国产精品爽爽久久久久久| 欧美日韩aaa| 色综合大香蕉| 婷婷天堂综合| 久久综合激情| 国产人妻人伦精品一区二区| 国产黄大片在线观看画质优化| yazhoujiqingav| 日韩精品呦呦va| 色99视| 欧美在线97| 丁香五月激情六月欧亚激情综合导航| 99re思思热在线视频| 婷婷婷色五月| 天堂AV在线看| 久婷五月| 精品乱码久久久久| 国自产拍偷拍精品啪啪一区二区| 99青青草99| 婷婷六月综合基地| 激情AV| 亚洲综合网激情小说| 五月好婷婷| 色五月婷婷91| 五月丁香啪啪啪| 综合色在线| 激情久久丁香| 超碰免费人人| 日韩按摩二区| 日日操夜夜爽| 婷婷五月天久久久| 婷色天堂| 日韩精品一品二区三区的使用体验| 激情伊人| 亚洲无码成人性爰网| 激情内射p| 婷婷五月天成人网| 五月丁香婷婷成人网| 亚洲成人无码片| 99久久亚洲精品视频| 激情综合网 激情五月天| 超碰在线中文字幕| 国产精品18久久久| 秋霞av不能| 色情综合网| 九九色视频| 色五月婷婷av| 秋霞av吧| 色婷婷777狠狠| www.狠狠色.com| 九九无码| 青草视频在线观看视频| 欧美人人女女精品综合五月天| 五月综合视频在线| 久久小片| 综合色99| www.99热这里精品 | 色综合久久天天综合网 | 性色人人爽| 亚洲激情综合免费| 色婷婷五月天偷拍| 超级碰碰99| 丁香五月六月久久综合| 九九视频在线观看| 欧美在线| 亚洲有码在线视频| 婷婷五月天亚洲色| 欧美精品99| 99久久婷婷国产综合精品电影| 99自拍视频在线观看| 婷婷五月丁香伊人| 午夜丁香婷婷| 激情图片婷婷| 丁香激情婷婷网| 99视频只有精品| 国产亚洲色婷婷久久99精品91 www.riverspirits.org www.hnnun.com www.changh | 国产午夜成人免费看片无遮挡| 九九热99免费视频| 中文字幕色色色| 五月天综合网| 五月丁香综合影院| 日日操,夜夜撸| 激情丁香五月| 另类激情四射| 热久久99热欧美国产亚洲| 99热这里只有精品8| 久草五月婷婷| 开心深爱激情网| 综合AV网| 人人操Av| www九九| 96色婷婷| 天天色色婷婷| 欧美操人| 成片免费播放| 国产97色在线 | 日韩| 丁香婷婷婷| www.99视频| 亚韩在线视频| wwww.色婷婷| 丁香五月天五码婷婷| 中文字幕不卡+婷婷五月| 亚洲第一av| 色综合综合网| 日本不卡一区二区三区| 天天舔天天插天天爱| 丁香五月婷婷啪啪啪| www91在线| 欧美综合激情丁香五月六月婷| 色五月婷婷777| 六月丁香激情最新更新| 久久婷婷五月天| 综合色99| 超碰成人在线观看| 丁香婷婷五月综合影院| 综合网激情| 97性高潮久久久| 亚洲欧美999| 色天使久久综合| 丁香五月23111| 欧美69久成人做爰视频| 激情丁香淫荡婷婷| 五月丁香影院| 这里只有精9| 婷婷五月丁香综合亚洲 | 人人操人人妻| 1010日日无码| 在线精品97| 五月中旬婷婷丁香六| 久久综合九色综合97婷婷| 天天做天天干天天综合网| 色情婷婷| 深爱激情AV| www.超碰97| 日本va视频| 亚洲成人在线电影网站| 婷婷五月天成人综合网| 丁香五月激情啪啪综合| 久狠日av| 欧美日韩日韩成人| 天天摸天天做天天爱天天爽| 青青日韩| www.91在线观看| 伊人激情综合网| 丁香六月婷婷| 久久中文人妻系列| 欧美色五月| 亚洲五月综合色播| 亚洲一区二区色图-亚洲精品国产精品乱码-成人AV | 激情文学综合婷婷五月天丁香花| 五月丁香九九九综合| 日本色啪| 亚洲激情五月| 91丨九色丨高潮丰满日本| 99热免费在线| 亚洲激情电影五月天色婷婷丁香一起草| 成AV人片一区二区三区久久| 激情二色月| 99久久高清视频| 久久99综合网| 丁香五月激情宗合网| 国产做爰视频免费播放| 激情五月天色婷婷综合| 婷婷五月六月丁香| 97色在线视频| www.精品99| 婷婷五月精品| 午夜九九九九九九九九九九九九九| 激情五月天色色网| 国产高潮A片羞羞视频涩涩| 亚洲 五月 婷婷 成人| 综合www色| 开心深爱激情网| 婷婷基地五月色| 婷婷va| 五月丁香婷婷基地| 日韩AAA| 蜜桃婷婷狠狠久久综合| 色五月综合网| 五月丁香六月婷婷a v| 久xxxx| 99ri视频| 五月婷婷基地| 武则天精品久久| 桃色成人网| 97碰人人操| 99热网站在线观看| 日本少妇AA一级特黄大片| 欧美日韩成人在线| 激情美女五月天激情在线| 26uuu偷拍亚洲欧洲综合| 国产99热| 亚洲成人五月| 欧美丁香婷婷天天操| 九97免费视频| 狠狠色成人影片| 2025年最新亚洲在线欧美| 99色热视频| 成人AV在线中文版| 色综合久久88色综合天天看| 丁香五月视频在线观看| 日本色色网站| 久久久久久久久久久久久9| 美女激情综合|