99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Floodlight 控制器實(shí)戰(zhàn):從 PacketIn 到流表下發(fā)與排錯

Floodlight 控制器實(shí)戰(zhàn):從 PacketIn 到流表下發(fā)與排錯 簡介面向SDN初學(xué)者、網(wǎng)絡(luò)實(shí)驗(yàn)課程學(xué)習(xí)者以及需要搭建控制器環(huán)境的Java開發(fā)者這份資料圍繞開源SDN控制器Floodlight的安裝部署展開重點(diǎn)幫助讀者理解Floodlight在SDN網(wǎng)絡(luò)中的定位并完成基礎(chǔ)實(shí)驗(yàn)環(huán)境的準(zhǔn)備。壓縮包約64.72MB下載頁暫未提供具體文件總數(shù)與類型明細(xì)使用前可結(jié)合資源說明確認(rèn)內(nèi)容構(gòu)成。已有554人瀏覽學(xué)習(xí)說明其在SDN控制器入門與部署實(shí)踐方面具有一定參考價值。內(nèi)容圍繞安裝部署主題組織可幫助讀者在正式動手前建立環(huán)境準(zhǔn)備、依賴檢查與運(yùn)行驗(yàn)證的整體框架減少盲目嘗試。對于希望在Ubuntu等Linux環(huán)境中熟悉Floodlight部署流程、梳理安裝要點(diǎn)與常見問題的人而言可將其作為搭建實(shí)驗(yàn)平臺和后續(xù)配置練習(xí)的參考材料并為后續(xù)SDN實(shí)驗(yàn)與二次開發(fā)打下基礎(chǔ)。1. Floodlight 是什么一條 PacketIn 消息能幫你驗(yàn)證多少假設(shè)floodlight 進(jìn)場的時機(jī)通常很樸素你已經(jīng)能用 Mininet 拉起一堆虛擬交換機(jī)但不知道控制平面在背后做了什么想找個能改源碼、能掛自己模塊、還能用一條 curl 就把內(nèi)部狀態(tài)看清楚的 OpenFlow 控制器。Floodlight 就是這類工具里上手成本偏低的那個——純 Java、單進(jìn)程、自帶 REST 接口跑起來之后對外兩條主線一條面向交換機(jī)的 OpenFlow 通道一條面向人和腳本的 HTTP 接口。前者負(fù)責(zé)收 PacketIn、下 FlowMod后者負(fù)責(zé)讓你在不重啟進(jìn)程的前提下查看拓?fù)?、讀寫流表。它適合的讀者畫像很具體想把流表邏輯跑通一遍的網(wǎng)絡(luò)方向?qū)W生、要做控制器二次開發(fā)的工程師、需要給測試環(huán)境造一個可控控制平面的驗(yàn)證人員。它不承諾生產(chǎn)級高可用也不打算替你做集群選主但能把“我寫的轉(zhuǎn)發(fā)邏輯到底對不對”這件事壓縮到幾分鐘內(nèi)看到結(jié)果。下面從跑通、寫模塊、下發(fā)流表一路寫到排查按我自己搭環(huán)境的順序來。2. 從源碼到 8080 端口Floodlight 本地跑通的最小路徑2.1 構(gòu)建前的依賴清單JDK、Maven 與三個容易漏的環(huán)境項(xiàng)Floodlight 是 Maven 工程構(gòu)建鏈路上翻車最多的地方不在代碼在工具鏈版本。它多數(shù)分支的pom.xml把maven.compiler.source/target鎖在 1.8用 JDK 8 構(gòu)建最省事如果你機(jī)器上只有 JDK 11 以上會在編譯期撞到package javax.annotation is not declared這類錯誤原因是高版本 JDK 移除了部分 Java EE 模塊而老代碼還在直接引用。解決辦法兩條裝一個 JDK 8 并讓JAVA_HOME指過去或者手動往 pom 里補(bǔ)javax.annotation-api依賴。我一般選前者省得后面還有別的模塊踩同一個雷。Maven 這邊3.6.x 是比較穩(wěn)的選擇。3.8.1 之后默認(rèn)阻塞 HTTP 倉庫而一些老 pom 里的 repository 地址還寫著http://構(gòu)建時會直接報(bào)Blocked mirror for repositories。這不是網(wǎng)絡(luò)問題是 Maven 的策略變更。要么在settings.xml里給這個倉庫配一個放行規(guī)則要么把地址換成 HTTPS 鏡像。別急著重裝 Maven先看報(bào)錯里那行 URL 的協(xié)議頭。# 1. 確認(rèn) JDK 版本1.8 開頭最穩(wěn) java -version javac -version # 2. 確認(rèn) Maven 版本3.6.x 優(yōu)先 mvn -v # 3. 顯式指定 JDK 8避免 shell 里殘留的 JAVA_HOME 干擾 export JAVA_HOME/path/to/jdk8 export PATH$JAVA_HOME/bin:$PATH # 4. 跳過測試打包第一次構(gòu)建不建議跑全量單測 mvn clean package -DskipTests # 5. 產(chǎn)物確認(rèn)正常會生成 target/floodlight.jar ls -lh target/*.jar這段命令的邏輯是“先鎖版本、再打包、最后確認(rèn)產(chǎn)物”。第三步的JAVA_HOME覆蓋很關(guān)鍵很多人java -version看到的是 8但 Maven 用的是另一套 JDK因?yàn)閙vn腳本會讀JAVA_HOME而不是PATH里的java。第五步如果只看到original-floodlight.jar而沒有floodlight.jar說明 shade 或 assembly 插件沒跑完通常是依賴下載中斷刪掉本地倉庫里對應(yīng)的.lastUpdated文件重來。提示第一次構(gòu)建會拉大量依賴網(wǎng)絡(luò)不穩(wěn)時容易出現(xiàn)“編譯到一半缺包”的假成功。構(gòu)建完先看一眼 jar 體積幾百 KB 的量級基本意味著依賴沒打進(jìn)去。2.2 啟動命令與配置文件-cf 改的是哪幾個值Floodlight 啟動時靠一個 properties 文件驅(qū)動默認(rèn)讀 classpath 里的floodlightdefault.properties。想改端口、改加載模塊列表用-cf指定自己的配置文件別去改 jar 里的那份。啟動成功的標(biāo)志是日志里出現(xiàn) OpenFlow 監(jiān)聽端口的行和 REST 服務(wù)的啟動行這兩行沒出現(xiàn)后面所有操作都免談。配置項(xiàng)作用什么時候必須改net.floodlightcontroller.core.FloodlightProvider.openFlowPort交換機(jī)接入端口端口被占用或要和 Mininet 的--controller對齊net.floodlightcontroller.restserver.RestApiServer.portREST 服務(wù)端口8080 被別的服務(wù)占了floodlight.modules啟動時加載的模塊列表加了自己寫的模塊必須顯式登記net.floodlightcontroller.core.FloodlightProvider.keyStoreTLS 證書路徑只做明文本地實(shí)驗(yàn)時建議去掉相關(guān)配置# 用自定義配置啟動前臺運(yùn)行方便看日志 java -jar target/floodlight.jar -cf ./my-floodlight.properties # 后臺跑并留日志排查時用這個 nohup java -jar target/floodlight.jar -cf ./my-floodlight.properties \ floodlight.log 21 # 起來了沒有返回 [] 說明控制器活著但還沒有交換機(jī)接入 curl -s http://127.0.0.1:8080/wm/core/controller/switches/json-cf后面的路徑建議用絕對路徑相對路徑在nohup場景下會因?yàn)楣ぷ髂夸涀兓x不到。第二條命令里21不能省Floodlight 的異常棧大多打在 stderr只重定向 stdout 會讓你在日志里看到一片空白卻查不出原因。第三條 curl 是最輕量的存活探針?biāo)灰蕾嚾魏文K業(yè)務(wù)邏輯只要 REST 服務(wù)起來就有響應(yīng)返回空數(shù)組是正常狀態(tài)返回連接拒絕才是真出問題。2.3 第一次握手Mininet 建拓?fù)浜蟠_認(rèn)交換機(jī)真的上線了控制器空轉(zhuǎn)沒意義得讓它接上交換機(jī)。本地最省事的做法是用 Mininet 起一個線性拓?fù)浒?controller 指到本機(jī)。這里有兩個參數(shù)必須對齊端口和 OpenFlow 版本??刂破鞅O(jiān)聽 6653Mininet 就得連 6653控制器按 1.3 解析消息交換機(jī)就得用protocolsOpenFlow13起。這兩個對不上握手階段就會失敗日志里刷的是解析異常而不是連接拒絕容易被誤判成網(wǎng)絡(luò)不通。# 起一個 3 節(jié)點(diǎn)的線性拓?fù)浣粨Q機(jī)用 OpenFlow 1.3 sudo mn --controllerremote,ip127.0.0.1,port6653 \ --switchovsk,protocolsOpenFlow13 \ --topolinear,3 # 另一個終端里確認(rèn)交換機(jī)是否上線正常會返回 DPID 列表 curl -s http://127.0.0.1:8080/wm/core/controller/switches/json | python -m json.tool # 看某個交換機(jī)的流表把 dpid 換成上一步返回的值 curl -s http://127.0.0.1:8080/wm/core/switch/dpid/flow/json | python -m json.tool--controllerremote表示不啟動 Mininet 自帶的控制器ip和port指向你剛起的那個進(jìn)程。protocolsOpenFlow13是給ovsk交換機(jī)傳的不寫這個部分版本默認(rèn)按 1.0 建鏈。第二條命令返回的數(shù)組長度應(yīng)該等于拓?fù)淅锏慕粨Q機(jī)數(shù)量少一臺就去floodlight.log里搜那臺交換機(jī)的連接記錄。第三條命令是第一手調(diào)試手段流表里能看到priority、match、instructions三個字段后面所有下發(fā)動作的效果都要回到這里驗(yàn)證不要只看 ping 通沒通。3. 模塊機(jī)制為什么你的自定義模塊收不到 PacketIn3.1 IFloodlightModule 六個方法的職責(zé)邊界Floodlight 的功能全部由模塊拼起來一個類要實(shí)現(xiàn)IFloodlightModule就得回答六個問題。這套接口設(shè)計(jì)的好處是加載順序由容器管你只需要聲明“我依賴誰”不用操心誰先 new。壞處是錯一個方法就可能靜默不生效——不報(bào)錯但你的代碼就是不會被調(diào)用。方法容器什么時候調(diào)常見寫錯的地方getModuleServices掃描階段登記本模塊對外提供的服務(wù)返回 null 和返回空集合語義不同前者表示不提供服務(wù)getServiceImpls同上返回接口到實(shí)例的映射提供了服務(wù)卻沒在這里注冊實(shí)現(xiàn)類getModuleDependencies加載排序前聲明依賴的服務(wù)接口只寫了接口類名忘了 import 或?qū)戝e泛型init依賴就緒后拿context.getServiceImpl取服務(wù)在構(gòu)造器里取服務(wù)此時容器還沒注入startUpinit之后注冊監(jiān)聽器、啟動線程監(jiān)聽器注冊在這里最穩(wěn)不要放 initshutdown進(jìn)程退出前釋放資源起了線程池卻沒關(guān)熱重啟會殘留最容易出問題的是init和startUp的分工。init只做“取服務(wù)、存字段”不要在里面注冊消息監(jiān)聽器startUp才是注冊監(jiān)聽的正確時機(jī)因?yàn)榇藭r依賴的模塊已經(jīng)完成初始化順序有保證。我見過把a(bǔ)ddOFMessageListener寫在init里的寫法表現(xiàn)是模塊時好時壞取決于哪個模塊先加載這種時序問題排查起來很麻煩。3.2 寫一個最小 PacketIn 記錄模塊并掛上去目標(biāo)很小交換機(jī)發(fā)來的每個 PacketIn打印源 MAC、目的 MAC 和入端口。這段代碼不長但每一行都對應(yīng)上面表格里的一個方法可以當(dāng)作模板改。package net.floodlightcontroller.packetlogger; import java.util.Collection; import java.util.Collections; import java.util.Map; import net.floodlightcontroller.core.FloodlightContext; import net.floodlightcontroller.core.IFloodlightProviderService; import net.floodlightcontroller.core.IOFMessageListener; import net.floodlightcontroller.core.IOFSwitch; import net.floodlightcontroller.core.module.FloodlightModuleContext; import net.floodlightcontroller.core.module.FloodlightModuleException; import net.floodlightcontroller.core.module.IFloodlightModule; import net.floodlightcontroller.core.module.IFloodlightService; import net.floodlightcontroller.packet.Ethernet; import org.projectfloodlight.openflow.protocol.OFMessage; import org.projectfloodlight.openflow.protocol.OFPacketIn; import org.projectfloodlight.openflow.protocol.OFType; import org.projectfloodlight.openflow.types.OFPort; public class PacketLogger implements IFloodlightModule, IOFMessageListener { private IFloodlightProviderService provider; // 本模塊不對外提供服務(wù)返回 null 即可 Override public CollectionClass? extends IFloodlightService getModuleServices() { return null; } Override public MapClass? extends IFloodlightService, IFloodlightService getServiceImpls() { return null; } // 聲明依賴容器保證 init 之前 provider 已經(jīng)就緒 Override public CollectionClass? extends IFloodlightService getModuleDependencies() { return Collections.Class? extends IFloodlightServicesingletonList( IFloodlightProviderService.class); } Override public void init(FloodlightModuleContext context) throws FloodlightModuleException { this.provider context.getServiceImpl(IFloodlightProviderService.class); } Override public void startUp(FloodlightModuleContext context) { // 注冊監(jiān)聽放在 startUp依賴已完成初始化 this.provider.addOFMessageListener(OFType.PACKET_IN, this); } Override public void shutdown() { // 沒有線程池留空 } Override public String getName() { return PacketLogger; } Override public Command receive(IOFSwitch sw, OFMessage msg, FloodlightContext ctx) { OFPacketIn pi (OFPacketIn) msg; // 從上下文里取已解析的以太幀避免自己再解析一遍 Ethernet eth IFloodlightProviderService.bcStore.get( ctx, IFloodlightProviderService.CONTEXT_PI_PAYLOAD); OFPort inPort pi.getMatch().get(MatchField.IN_PORT); if (eth ! null) { System.out.println([PacketLogger] dpid sw.getId() in inPort src eth.getSourceMACAddress() dst eth.getDestinationMACAddress()); } // CONTINUE 表示交給后續(xù)監(jiān)聽器STOP 表示到此為止 return Command.CONTINUE; } Override public boolean isCallbackOrderingPrereq(OFType type, String name) { return false; } Override public boolean isCallbackOrderingPostreq(OFType type, String name) { return false; } }邏輯上有三處必須說清。第一receive里沒有自己去調(diào)parse解析字節(jié)流而是用bcStore取上下文里已經(jīng)解析好的Ethernet這樣性能和正確性都由框架保證第二返回值選Command.CONTINUE而不是STOP因?yàn)槲疫€想讓默認(rèn)的轉(zhuǎn)發(fā)模塊繼續(xù)處理這些包一旦返回STOP這個 PacketIn 就到此為止網(wǎng)絡(luò)會直接不通第三isCallbackOrderingPrereq和isCallbackOrderingPostreq都返回 false表示不干預(yù)和其他監(jiān)聽器的相對順序?qū)砣绻阋鶕?jù)流表判斷、必須跑在轉(zhuǎn)發(fā)模塊之前就要在這里對forwarding這個名字返回 true。注意pi.getMatch().get(MatchField.IN_PORT)需要 importorg.projectfloodlight.openflow.protocol.match.MatchField漏了這個 import 編譯期會報(bào)泛型推斷失敗報(bào)錯信息看著像類型問題實(shí)際只是少了一行。3.3 依賴聲明與加載順序模塊沒生效的三個原因代碼寫完了重啟控制器日志里一條[PacketLogger]都沒有。這是新手最常卡住的地方原因基本逃不出三種。第一種模塊沒登記。Floodlight 不會自動掃描 classpath 下的所有IFloodlightModule實(shí)現(xiàn)必須把類名寫進(jìn)配置文件的floodlight.modules列表用逗號分隔。加了新模塊卻沒改這行等于沒寫。第二種登記了但加載失敗。日志里會有一行加載異常但它往往被埋在幾千行 DEBUG 里。把日志級別臨時調(diào)高到 INFO或者直接grep -i PacketLogger floodlight.log能快速定位是構(gòu)造失敗還是依賴沒找到。第三種類沒打進(jìn) jar。這在自己加源碼、用mvn package重新構(gòu)建的場景下很常見——你改的是 IDE 里的源碼目錄跑的還是上一次構(gòu)建的 jar。判斷方式很簡單unzip -l target/floodlight.jar | grep PacketLogger看不到類文件就說明構(gòu)建沒帶上你。# 配置文件里顯式登記追加在原有模塊列表后面 # floodlight.modules ...,net.floodlightcontroller.packetlogger.PacketLogger # 構(gòu)建后確認(rèn)類真的進(jìn)了 jar unzip -l target/floodlight.jar | grep -i packetlogger # 啟動后確認(rèn)模塊被加載 grep -i PacketLogger floodlight.log | head -20這三條命令的順序就是排查順序先確認(rèn)配置登記再確認(rèn)產(chǎn)物包含最后確認(rèn)運(yùn)行時加載。跳過任何一步都可能白折騰半小時。4. 流表下發(fā)從 PacketIn 到 FlowMod 的完整閉環(huán)4.1 PacketIn 到達(dá)后你有三種處理方式交換機(jī)遇到匹配不上的包默認(rèn)動作是把它整個或頭部加一段發(fā)給控制器這就是 PacketIn。控制器收到之后有三個選擇選哪個決定了這條流量后面怎么走。第一種是泛洪也就是讓包從除入端口外的所有端口發(fā)出去適用于你還不知道目的端在哪的場景學(xué)習(xí)型交換機(jī)的初始行為就是這個。第二種是丟棄直接不回適合做策略阻斷。第三種是下發(fā)一條 FlowMod把“以后遇到同類型的包該怎么辦”寫進(jìn)交換機(jī)后續(xù)同流量的包不再上送控制器。第三種是真正把控制平面用起來的方式前兩種更像是調(diào)試手段。這里有個容易忽略的細(xì)節(jié)PacketIn 可能攜帶 buffer_id表示交換機(jī)把原始包暫存在本地緩沖區(qū)了。如果你下發(fā)的 FlowMod 帶上了同一個 buffer_id交換機(jī)會直接把緩存里那個包按新流表轉(zhuǎn)發(fā)出去不需要你重發(fā)如果帶的是OFP_NO_BUFFER那個包就丟了得等重傳。首包丟失在 TCP 場景下表現(xiàn)為建連慢半拍很容易被誤認(rèn)為“流表沒生效”。4.2 用 Java 構(gòu)造一條 FlowModMatch、Instructions、buffer_id下面這段代碼完成的事收到 PacketIn 后按“入端口 IPv4”匹配下發(fā)一條 30 秒空閑過期的流動作為從指定端口輸出。這是一個最小可用的轉(zhuǎn)發(fā)邏輯改匹配字段就能擴(kuò)展成別的策略。// 在 receive 方法內(nèi)部拿到 pi 之后 private void installFlow(IOFSwitch sw, OFPacketIn pi, OFPort outPort) { // 用交換機(jī)自己的 OFFactory保證版本和協(xié)商結(jié)果一致 OFFactory factory sw.getOFFactory(); Match.Builder mb factory.buildMatch(); // 精確匹配入端口避免影響其他端口進(jìn)來的同目的流量 mb.setExact(MatchField.IN_PORT, pi.getMatch().get(MatchField.IN_PORT)); // 只對 IPv4 生效ARP 等二層流量交給默認(rèn)邏輯 mb.setExact(MatchField.ETH_TYPE, EthType.IPv4); // 動作從指定端口輸出 OFAction output factory.actions().buildOutput() .setPort(outPort) .setMaxLen(0) // 0 表示不截?cái)?.build(); // 指令立即執(zhí)行上面的動作 OFInstruction applyActions factory.instructions().buildActions() .setAction(output) .build(); OFFlowMod flowMod factory.buildFlowAdd() .setMatch(mb.build()) .setPriority(32768) // 高于 table-miss 的 0 .setIdleTimeout((short) 30) // 30 秒無流量即刪除 .setHardTimeout((short) 0) // 0 表示不設(shè)絕對過期 .setBufferId(pi.getBufferId()) // 復(fù)用交換機(jī)緩存的原始包 .setInstructions(Collections.singletonList(applyActions)) .build(); sw.write(flowMod); }關(guān)鍵在sw.getOFFactory()這一行。不要用全局靜態(tài)的 factory也不要用按 OpenFlow 1.0 構(gòu)造的 builder 去給 1.3 交換機(jī)下發(fā)版本字段對不上會導(dǎo)致交換機(jī)回一個錯誤消息而控制器側(cè)只看到流表沒增加很容易誤判。setBufferId(pi.getBufferId())是首包不丟的關(guān)鍵pi.getBufferId()在交換機(jī)不緩存時會返回OFP_NO_BUFFER這時行為等同于不指定屬于安全寫法。setMaxLen(0)表示輸出完整包如果你在做抓包分析、只關(guān)心頭部可以設(shè)成 128 之類的小值來降低帶寬。4.3 用靜態(tài)流表 REST 接口手工下發(fā)curl 與字段對照不想每次改邏輯都重啟控制器就用 REST 的靜態(tài)流表接口。它是排查和驗(yàn)證流表字段的最快通道也是把“控制器邏輯”和“流表內(nèi)容”分開驗(yàn)證的好辦法。注意接口路徑在不同分支之間變過/wm/staticflowpusher和/wm/staticentrypusher兩種前綴都出現(xiàn)過先探一下哪個有響應(yīng)再發(fā)數(shù)據(jù)。# 先探測路徑返回 200 說明這個前綴可用 curl -s -o /dev/null -w %{http_code}\n \ http://127.0.0.1:8080/wm/staticflowpusher/json # 下發(fā)一條 IPv4 轉(zhuǎn)發(fā)流actions 里的 output2 表示從 2 號端口出去 curl -s -X POST \ -d { switch: 00:00:00:00:00:00:00:01, name: f-ipv4-01, eth_type: 0x0800, ipv4_src: 10.0.0.1, ipv4_dst: 10.0.0.2, priority: 32768, idle_timeout: 30, active: true, actions: output2 } \ http://127.0.0.1:8080/wm/staticflowpusher/json # 查已下發(fā)的靜態(tài)流確認(rèn)字段沒被吞 curl -s http://127.0.0.1:8080/wm/staticflowpusher/list/00:00:00:00:00:00:00:01/json \ | python -m json.tool # 用完刪掉避免殘留影響后續(xù)實(shí)驗(yàn) curl -s -X DELETE \ -d {name:f-ipv4-01,switch:00:00:00:00:00:00:00:01} \ http://127.0.0.1:8080/wm/staticflowpusher/json字段對照關(guān)系要記牢switch是交換機(jī)的 DPID也就是dpid的十六進(jìn)制形式name是這條流的唯一標(biāo)識刪除時必須帶active是字符串true而不是布爾值寫成布爾會被靜默忽略actions是一段用逗號分隔的動作串outputN里的 N 是交換機(jī)端口號不是主機(jī)編號。返回體里如果是status:Entry pushed就說明成功如果是could not be pushed先檢查字段名拼寫——1.0 和 1.3 的匹配字段名不通用。4.4 優(yōu)先級、idle_timeout、buffer_id 三個必調(diào)參數(shù)參數(shù)取值范圍設(shè)錯的典型后果我一般怎么設(shè)priority0 到 32768比已有流低導(dǎo)致永不命中業(yè)務(wù)流 32768table-miss 固定 0idle_timeout秒0 表示永不過期設(shè)太短導(dǎo)致流反復(fù)重建、控制器 CPU 高實(shí)驗(yàn)環(huán)境 30演示環(huán)境 300buffer_id交換機(jī)分配或OFP_NO_BUFFER用錯導(dǎo)致首包丟失、TCP 建連慢直接用 PacketIn 攜帶的值priority的坑在于它是全局比較而不是按表比較在單表場景下一條 priority 為 100 的寬匹配流會擋住后面所有 priority 更低的精確流。table-miss 那條流必須保持 priority 0、match 為空它決定的是“沒命中任何流轉(zhuǎn)發(fā)控制器”這個兜底行為刪了它交換機(jī)遇到未知包會直接丟表現(xiàn)為新連接全部失敗但已有連接正常非常具有迷惑性。idle_timeout的坑在于它是空閑計(jì)時不是生存計(jì)時。有人設(shè) 5 秒想“快速回收資源”結(jié)果低頻心跳流量每小時才來一次流表里那條記錄反復(fù)被刪了重建控制器側(cè)日志刷得飛快。實(shí)驗(yàn)環(huán)境下 30 秒足夠演示環(huán)境建議 300 以上寧可多留一會也別讓它頻繁抖動。buffer_id的坑上面提過這里補(bǔ)一個排查技巧如果懷疑是首包丟失導(dǎo)致的建連慢先在receive里打印pi.getBufferId()和pi.getTotalLen()交換機(jī)不緩存時會明確給出OFP_NO_BUFFER這種情況你只能靠重傳不是代碼寫錯了。5. 排查交換機(jī)連不上、流表不生效的六個坑5.1 連接層的三個坑端口、版本與加密坑一交換機(jī)一直重連日志里是握手失敗?,F(xiàn)象是 Mininet 起來后pingall全丟控制器日志里反復(fù)出現(xiàn)連接建立又?jǐn)嚅_的記錄但沒有任何業(yè)務(wù)日志。原因通常是 OpenFlow 版本不匹配Mininet 的交換機(jī)默認(rèn)按 1.0 建鏈而控制器這邊按 1.3 解析雙方在 hello 階段商量不出共同版本直接斷開。解決是給 Mininet 顯式加protocolsOpenFlow13或者在控制器配置里允許 1.0。判斷依據(jù)很簡單看斷開前的最后一條日志里有沒有版本號字段??佣丝趯戝e連的是沒人監(jiān)聽的地址?,F(xiàn)象比坑一更安靜Mininet 側(cè)沒有任何報(bào)錯控制器側(cè)連一條連接記錄都沒有。原因是--controllerremote,ip...,port...里的端口和配置文件里的openFlowPort不一致常見組合是 6633 和 6653 混用。老版本默認(rèn) 6633新版本默認(rèn) 6653Mininet 不同發(fā)行版的默認(rèn)值也不一樣。解決是先ss -lntp | grep java確認(rèn)進(jìn)程真實(shí)監(jiān)聽的端口再把這個數(shù)字抄到 Mininet 參數(shù)里不要憑記憶。坑三控制器要加密連接交換機(jī)只會明文?,F(xiàn)象是 TCP 能連上但握手階段立刻斷開日志里出現(xiàn)證書或 TLS 相關(guān)字樣。原因是默認(rèn)配置里帶了 keyStore 路徑控制器啟動時生成了自簽證書并要求加密通道而 Mininet 的交換機(jī)默認(rèn)走明文。解決是在自己的配置文件里把 keyStore 相關(guān)項(xiàng)刪掉或置空重啟控制器。這個坑的隱蔽之處在于TLS 失敗和版本失敗的表面現(xiàn)象很像都是連上就斷只能靠日志里的關(guān)鍵字區(qū)分。5.2 轉(zhuǎn)發(fā)層的三個坑table-miss、ARP 與殘留流坑四流表查得到但 ping 就是不通?,F(xiàn)象是 REST 接口能查到剛下發(fā)的那條流match和instructions都正確但流量不命中。原因多半是 table-miss 那條兜底流被刪了或者 priority 被改過導(dǎo)致交換機(jī)遇到需要上送控制器的包直接丟棄ARP 請求根本到不了控制器自然也就沒有后續(xù)的流表下發(fā)。解決是確認(rèn) table-miss 存在且 priority 為 0或者干脆重啟控制器讓它重新下發(fā)默認(rèn)流。排查時先看 ARP 通不通再看 IP順序反了會浪費(fèi)很多時間。坑五IP 流表寫了但 ARP 沒人管主機(jī)學(xué)不到 MAC?,F(xiàn)象是流表里 IPv4 轉(zhuǎn)發(fā)規(guī)則齊全但主機(jī)側(cè) ARP 表一直是 incompleteping 直接報(bào)“目的主機(jī)不可達(dá)”。原因是你的模塊只處理了 IPv4 的 PacketIn把 ARP 的包也一并STOP掉了或者沒有讓默認(rèn)轉(zhuǎn)發(fā)模塊接手。解決是把receive的返回值按包類型區(qū)分非 IPv4 的包一律返回CONTINUE讓默認(rèn)邏輯去泛洪。這個坑的典型特征是“流表看起來完美網(wǎng)絡(luò)就是不通”??恿牧诉壿嬛貑⑴f流表還在新邏輯不生效?,F(xiàn)象是代碼改了、jar 換了、進(jìn)程重啟了行為卻和改之前一模一樣。原因是流表存在交換機(jī)側(cè)控制器重啟不會清空它們舊的高優(yōu)先級流還在生效新下發(fā)的流因?yàn)閮?yōu)先級相同或更低永遠(yuǎn)不會被匹配到。解決是重啟后先對每臺交換機(jī)做一次全量清流再驗(yàn)證新邏輯。清流之后建議先pingall跑一遍確認(rèn)兜底路徑正常再去看具體策略。# 清空某臺交換機(jī)的全部流表謹(jǐn)慎使用會短暫中斷該交換機(jī)上的所有轉(zhuǎn)發(fā) curl -s -X GET http://127.0.0.1:8080/wm/core/switch/00:00:00:00:00:00:00:01/flow/clear/json # 確認(rèn)流表已空 curl -s http://127.0.0.1:8080/wm/core/switch/00:00:00:00:00:00:00:01/flow/json \ | python -m json.tool清流這個動作要養(yǎng)成習(xí)慣它相當(dāng)于給自己留了一顆后悔藥任何“改了不生效”的懷疑先用它排除交換機(jī)側(cè)殘留再去查代碼。跳過這一步直接讀代碼經(jīng)常是讀了兩小時發(fā)現(xiàn)邏輯沒錯只是舊流沒刪。6. 進(jìn)階把 REST 接口串成回歸腳本驗(yàn)證下發(fā)是否真的生效手工 curl 在驗(yàn)證階段夠用但當(dāng)你開始反復(fù)改模塊邏輯就需要一個能一鍵回答“這次改動有沒有破壞原有行為”的腳本。我的做法是用 Python 寫一個小回歸器只做三件事下發(fā)前清流、下發(fā)后輪詢流表確認(rèn)條目存在、跑一次連通性檢查。它不追求覆蓋所有場景但能把“看起來成功了”和“真的成功了”區(qū)分開。import json import time import requests BASE http://127.0.0.1:8080 DPID 00:00:00:00:00:00:00:01 def clear_flows(): # 清空指定交換機(jī)的流表避免上一輪殘留干擾 requests.get(f{BASE}/wm/core/switch/{DPID}/flow/clear/json, timeout3) def flow_exists(cookie_prefix): # 輪詢交換機(jī)流表按 cookie 前綴匹配確認(rèn)下發(fā)的流真的落地 for _ in range(10): resp requests.get(f{BASE}/wm/core/switch/{DPID}/flow/json, timeout3) flows json.loads(resp.text).get(DPID, {}).get(flows, []) for f in flows: if f.get(cookie, ).startswith(cookie_prefix): return True time.sleep(0.5) # 交換機(jī)寫入有延遲別只查一次 return False if __name__ __main__: clear_flows() time.sleep(1) # 這里換成你自己的下發(fā)邏輯或者直接走靜態(tài)流表接口 print(flow landed:, flow_exists(0x0))腳本里有兩個細(xì)節(jié)值得說。一是time.sleep(0.5)加輪詢而不是查一次就下結(jié)論交換機(jī)寫入流表到 REST 接口能查到之間有毫秒級延遲單次查詢會偶發(fā)誤判這種偶發(fā)失敗最消耗排查時間。二是按 cookie 前綴匹配而不是按名字因?yàn)殪o態(tài)流表接口和模塊下發(fā)的流在字段上不完全一致cookie 是兩邊都能設(shè)且不參與匹配的字段適合當(dāng)標(biāo)記位。三種驗(yàn)證手段的取舍可以對著下表選手段能看到什么開銷適合階段控制器日志打印模塊是否被調(diào)用、參數(shù)是什么低但需要改代碼開發(fā)期定位邏輯分支REST 查流表交換機(jī)側(cè)實(shí)際生效的條目低無需改代碼每次下發(fā)后的必查項(xiàng)端到端連通性測試數(shù)據(jù)面是否真的通中要起拓?fù)涮峤磺暗淖罱K確認(rèn)我踩過最貴的一次坑是只看了日志就認(rèn)為功能正常——日志里模塊確實(shí)被調(diào)用了參數(shù)也對但下發(fā)的那條流因?yàn)閮?yōu)先級和已有的 table-miss 撞了交換機(jī)根本沒執(zhí)行。日志是控制器的視角流表是交換機(jī)的視角這兩個視角不一致的時候永遠(yuǎn)以交換機(jī)為準(zhǔn)。后來我給自己定了個規(guī)矩任何涉及流表的改動必須同時有日志、流表、連通性三樣證據(jù)缺一樣就先別提交。希望這些步驟能幫你在自己機(jī)器上把這套東西跑順少走幾段我走過的回頭路。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
成人片在线播放| 五月停性愛| 99热精在线九九久久保| 日韩在线99| 91chinese在线| 99色免费在线观看| 中文字幕人妻熟女在线| 性爱网五月天| 婷婷五月在线视频| 5月婷婷激情网| 久超超碰| 丁香五月大香蕉AV| 狠狠色中色| 久久久香| 婷婷五月天国产在线播放| 久草五月| 91AV婷婷| 婷婷中文字幕网| 91久久久久久| 天天日天天摸| 高清不卡一区| 久久婷婷色综合| 99re这里只有精品在线观看| 春色激情第四色| 九色91视频| 亚洲182在线观看| 久久天天| 色五月色综合| 五月丁香久人妻中文| 欧美一级毛卡片无码| 91欧美| 四色AVwww| 丁香六月婷婷综情欧美| 金桔一区二区ab地址| 91日本在线免费| 激情五月天网站| 午夜九九九九九九九九九九九九九| 婷婷五月天影视| 午夜色婷婷| 大地9中文在线观看免费高清| 99热主页日本| 玖玖午夜视频| 任我肏| 欧美日韩AAAA| 久热这里只有精品99re| 99re思思久久| 狠狠干,狠狠操| 国内精品玖玖| 久草狼人| 午夜爱插插| 野外99热| 婷婷五月网图片区| 色色色干| 九九热在线亚洲免费视频| 99热日| 五月丁香婷婷狠狠操| 天天做天天爱天天高潮| 91性交在线播放| 五月婷婷激情| 四川女人毛多水多A片| 中文激情网| 99视频在线| 免费看欧美成人A片无码| site:feetmall.com| 丁香五月婷婷色五月| 综合激情伊人影视在线| 99热日韩这里只有精品| http://www.lingjunshare.com/| 五月婷婷激清网| 五月婷婷六月奇米网丁香| 伊人网色婷婷五月天| 97碰在线视频| 色色色色丁香| 婷婷五月天大香蕉| 中文字幕成人| 五月婷婷久久爱| 婷婷日| 中文人妻主播久久| 思思热国产在线| 天天天天做夜夜夜夜做| 色五月丁香婷婷久草| 五月天激情婷婷| www.婷婷| 欧美成人精品A片免费一区99| 99热免费| 丁香婷婷久久五月天| 91日婷婷在线| 五月丁香啪啪啪啪| 精品婷婷五月视| 欧美成人热| 99热这里只有精品69| 激情小说 五月天| 五月天婷婷综合免费| 另类 在线| 婷婷成人综合| 久久se 综合网| 六月丁香开心婷婷欧美| 五月丁香综合啪啪| 五月天色社区| 婷婷五月天AV| www.99热这里精品| a69在线视频| 天天添天天摸天天天天做| 婷婷开心五月| 人人操AV| 婷婷玖玖五月天| 久久99视频| site:picc-up.com| 大香蕉中文| 久久激情视频| 国产精品丝| 色爱99| 五月六月激情| 激情小说婷婷| 伊人久久大香线蕉综合网站| 国产阿姨日皮艹逼内射视频| 激情久久久久久久久久| www.色色色com| 激情婷婷久久| 婷婷五月天激情综合深爱激情| 丁香五月在线自慰| 丁香五月伊人| 激情5月婷婷狠狠干| 欧洲亚洲精品| 99视频| 亚洲一区二区无遮挡A片| 五月情四婷婷| 亚洲人妻AV| 婷婷在线日韩综合| 五月天婷婷一起草| 丁香色婷婷五月天| 婷婷综合中文| 99色最新在线视频| 九月婷婷综合| 久久新| 99色视频在线观看| 色综合久| 天天性视频| 日欧大屏操| 九月色婷婷| 91在线日本| 色婷五月天亚洲| 激情五月天小说| 亚洲超碰在线| 欧美精品99久久久| 99ri视频| 久久9精品| 婷婷激情五月天小说校园| 亚洲综合色网| 99久久婷| 五月色婷婷影院| 久99久视频精品| 五月婷婷激情四季| 五月天成人综合| 婷婷丁香社区| 色婷婷亚洲婷婷在线观看| 人人妖人人97| 久热这里只有精品66| 婷婷伊人綜合中文字幕| 日韩欧洲亚洲| 亚洲av免费在线| 亚洲黄3级片网站欧美| 激情婷婷五月基地| 婷婷五月天综合久久日美女| 五月丁香六月综合激情网| 91九色在线| 五月丁香婷婷色色色| 天天摸色吧天天摸色吧| 人操91在线| 亚洲 无码 中文字幕 中出| 久碰视频| 开心婷婷五月天综合| 亚洲午夜一区二区| 操久久网| 人人摸人人| 五月色丁香婷婷综合| 五月婷久久在线| 成熟妇人A片免费看网站| www.婷婷五月| 99色色| 99热网站| 99噜噜噜在线播放| 久久婷婷操| 亚洲爆乳无码精品AAA片蜜桃| 九九热这里只有精品556| 九九热自拍| 久久久久久久久久91| 色五月丁香六月婷婷| 超碰在线免费观看日韩| 人人爱国产| 婷婷免费视频| 99噜噜| 国产ava| 久超超碰| 久久五月天合网| 日日夜夜天天| 婷婷色Av| 丁香玖玖| 丁香六月激情综合| 婷婷激情啪啪| 婷婷终合色图| 能看的AV| 亚洲婷婷激情五月天| 狠狠干.com| 婷婷色狠狠| 伊人热婷婷| 亚洲精品永久久久久久| 九九热中文| 9久热| 青青草激情网| 男女99免费视频| 欧美日韩欧美| 91碰超| 99在线精品免费视频| 六月婷婷综合网2| 婷婷基地爱| 国产ava| 婷婷社区五月天| 岛国资源网| 丁香伊人五月色婷婷五十路| 99re在线观看| 婷婷丁香色无五月| 色啪影院| 九月丁香婷婷网| 任你操精品免费| 丁香婷婷综合精品六月初| 99re在线播放| 色色色色色网| 亚洲无码成人性爰网| Caoub青青超碰 | 亚洲蜜桃精久久久久久久久久久久 | 五月丁香啪啪伦理电影| 色欧美日| 婷婷五月天成人网| 人人摸人人| 久久伊人大香蕉| 久久婷婷五月天| 97韩国久久电影院| 丁香五月综合高清在线| 东北熟女高潮99综合99| 亚洲天堂色色| 久久在线大香蕉| 色色色99韩| 情色五月天 网站| 日本久久人人| 情趣视频66| 99久久精彩视频。| 婷婷激情五月天小说| 亚洲成人网在线观看| 婷婷久久视频| 伊人久久婷婷| 99色中文| 五月婷婷欲色| 六月丁香婷婷综合色播| 丁香婷婷超碰 | 色色日本欧美| 色婷婷综合久久| 夜夜 操无码| 九热视频这里只有精品| 六月亚洲婷婷6月中文字幕| 亚洲中文AV| 亚洲色婷婷| 欧美色色色色色色色| 色五月天影视| 六月婷婷激情图片| 亚洲乱码在线观看| 天天在线XXX| 91pornav在线| 熟妇人妻中文字幕无码老熟妇| 丁香久久五月婷综合| 99精品爱| 五月天五月色| 五月色婷婷综合丁香精品无遮挡| 欧美情月伍月天| 9久久精品视频| 色色综合网www| 久久激情网| 99热综合色图| 秋霞AV淫| 亚洲激情综| 色五月婷婷在线观看| 深爱开心激情网| 超碰人人艹| 草草影院爱爱| 色亚洲欧洲| 丁香久久五月天视频在线观看| 思思色综合网站| 色欲五月婷婷| 午夜亚洲国产精品av一区二区| 色婷婷色综合| 狠狠色综合久久久久| 开心激情站| 五月丁香婷婷久久| 伊人久久艹| 99玖玖在线视频| 激情五月丁香六月| 天天爽天天日| 99操免费视频| 99热最新| 五月天色社区| 激情五月久久| 噼里啪啦在线观看免费完整版视频| 91丨九色丨东北熟女| 色噜噜97视频在线观看| 中文字幕 码精品视频网站| 精品久久99| AV成人在线播放| 婷婷丁香91综合| 成人日韩欧美| 丁香五月婷婷色| 五月丁香婷婷成人网| 久久综合干| 免费黄色片子| 丁香婷婷五月| 熟妇内谢69XXXXXA片| 色五月首页| 久久98| 思思久久精品| 天天揷综合网| 久久六月综合| 欧美三日本三级少妇三99| 99超级碰碰| 五月天丁香婷| 丁香五月老师| 欧美丁香婷婷五月| 色色婷婷丁香| 99色视频| 爆乳熟女-区二区三区| 婷婷久久18| 丁香狠狠色婷婷| 99 热国产在| 国产婷婷五月中文字幕高清| 天天色综合综合| 99在线精品视频免费观看20| 久久精品4| 九九热在线99| 性爱激情五月| 97色永久免费视频| 久久综合婷婷| 夜夜爱爱亚洲| 丁香色情五月综合网站| 欧美在线视频99| 六月婷婷激情图片| www.91婷婷| 91seav| 成人一级片| 五月丁香综合啪啪| 夜夜操天天爽| 亚洲另类在线观看| 国产免费一区二区三州老师F1……| 久久一伦| 五月婷婷六月丁香综合视频在线| 激情五月婷婷网| 97av在线视频| 五他月天啪啪啪| 99ri在线观看视频| 99青青草| 天天舔天天爽| 月色色综合婷婷网| 婷婷亚洲五月丁香综合在线| 99色中文| 99在线热| 青青草婷婷久久| 青青草原精品久久| 久久精品一区二区三区四区| 天天天添天天操| 人人爽欧美婷婷久久久五月丁香 | 色999五月色| 六月丁香射婷婷欧美色图片| 五月婷婷色影院| 99精品视频在线观看| 日韩大片艹艹| 六月丁香五月激情网| 99九九视频精彩在线| 另类少妇人与禽zOZZ0性伦| 97婷婷久久丁香| 丁香婷婷久久| 狠狠五月激情丁香六月| 成人精品免费在线观看| 色婷婷五月丁香在线观看| 天天综合网在线| 天天做天天爽| 五月婷婷综合激情网| 婷婷五月综合在线| 91精品综合久久婷婷九色| 亚洲另类日本| 日本一道久久| 99国产精品久久久久久久久久久| 久久嘟嘟丁香| 日韩爱操视频| 激情婷婷丁香| 狠狠狠激情网| 午夜丁香婷婷| 99爱视频精品在线观看| enecarbon-materials.comWu染请涟系Bao护@wip1688 | 婷婷五月天大香蕉| 天天婷婷色六月| 五月婷在线| www.99热视频| 裸体美女丁香五月天。| 99天天操夜夜操| 超碰大香蕉网| 成人电影AV在线观看| 好叼操在线观看| 青青操avbb| 色九九综合| 狠狠色丁香婷婷五月| 中出内射的人妻视频| 99精品国产乱码久久久人妻| 狠狠色综合网站| 色色色99| 五月色丁香| 丁香五月婷婷操逼| 五月婷婷久| 专区无日本视频高清8| 开心五月婷婷五月| 五月天色不卡| 色热久资源| av大香蕉| 热九九在线| 大香蕉久久| 99免费热视频在线| 99色在线观看免费| 另类小说五月天| 久久久精品AV| 色五月天婷婷| 五月天婷基地| 国产国产乱老熟女视频网站97| 五月激情丁香五月| 天天插天天| 日韩久久日| 热久久这里只有精品| 九九在线视频| 六月色色| 精品一二三区久久AAA片| 久久五月天精品视频| 亚洲激情婷婷| 巴基斯坦粉嫰无码视频| 超碰2021| 激情性爱五月| 五月五婷婷网| 欧美婷婷色| 天天xxxxxx天天日| www.99热在线| 97九色视频| 91se在线视频| 色五月激情网| 亚洲国产色色| 九九美女视频| 日韩欧美一级大黄网站| 777久久精品| 婷婷五月色花丁香社区| 五月花婷婷| 六月婷婷狠狠做| 天天综合色| 久久精品系列| 啪啪91| 天天插天天干天天舔| 免费看欧美成人A片无码| 在线A色| 日本天堂久久| 日日噜狠狠| 色VA| 欧洲区自拍| 中文资源在线a | 影音先锋男士资源网一区| 五月天激情小说欧美激情| 久久精品综合色| 婷婷伊人| 五月丁香六月花| av线电影| www.激情| 在线观看中文字幕| 亚洲最大在线| 中文成人在线| 天天综合社区| 激情网第九色| 免费日本aⅴ中文字幕 | 欧美成人在线观看| 色综合九九色综合88| 精品一二三区久久AAA片| 日本五月天一页| 九色视频91疯狂| 26uuu精品一区二区| 五月天夜夜爱夜夜操| 97色啪| www.久久| 五月天婷婷基地综合网| www,色中色| 秋霞AV淫| 五月丁香婷婷狠狠操| 精品人人操| 五月天婷婷深深爱| 国产亚洲精品久久久久久久久动漫| 日韩色久| 婷婷激情五月| 色五婷婷| 国产FREESEXVIDEOS性中国| 狠狠色噜噜狠狠狠狠综合| 国产片天天爽夜夜爽| 五月婷婷先锋| 粉嫩AV久久一区二区三区| 99操免费视频| 激情五月,深深爱五月| 亚洲激情综合网| 亚洲精品另类| 少妇人妻人伦A片| 婷婷五月电影| 99久久玖玖| 五月色无码| 国産精品| 激情五月婷婷| 丁香五月婷婷基地| 天天色色天天| 青青福利网| 欧美激情丁香五月| 婷色综合| 99热这里是精品| 国产精品涩涩涩视频网站| 另类视频一区| 在线看的免费网站| 九九精品热| 影音先锋偷偷色男人站| 狠狠色综合精品视频在线| 夜夜爽日日躁| 欧美婷婷| 亚洲人妻AV| 97碰碰在线观看视频| 狠狠色综合久久久久| 国精产品一区一区三区免费视频| 99视频在线| 91久久色| 九月av| 五月婷婷激情综合网 | 狠狠综合久久| 天天爽天天日| 四色五月婷婷| 真实亲子乱子伦高清在线观看| 夜夜夜夜操| 99福利导航| 久久大香蕉视频| 国产中文字幕在线视频免费观看 | 91精品电影18T| 97色欧美| 丁香花成人区| 婷婷五月色惰| 五月天婷婷涩涩| 99超级超级超级碰| 丰满少妇乱A片无码| 丁香六月婷婷久久综合| 九九AV| 五月丁香啪| 丁香五月狠狠在线观看| 五月天亚洲综合网| 综合 激情 婷婷| 国产亚洲99| 超碰99热精品| 97爱综合| 丁香色五月天| 欧美婷婷综合网| 久久99网站| 九色啦蜜臀| 99热在线观看| 婷婷色片| 久久五月天婷婷| www.99.色| 天天综合.com| 67194国产| 超碰在线视屏| 亚洲中文字幕AV| 人人摸人人干| 俺去啦综合网| 伦乱人妻| 婷婷射丁香| 亚洲亚洲人成综合网络| 婷婷五月天Av| 亚洲精品又粗又大又爽A片 | 五月激情综合五月| 欧美成人在线观看| 婷婷五月天男人影院色色网| 碰超亚洲| 十月色综合| 丁香五月 无码| 日本颜色视频人人爱| 伊人大香蕉爱聚| 国产五月丁香在线| 亚洲亚洲人成综合网络| 亚洲第精品| 国产精品久久久久久喷浆| 五月情四婷婷| 国产做爰视频免费播放| 1010日日无码| 99热一本久道| 激情五月婷| 久草大| 人妻久久久久久久 | 欧美va视频| 九九热自拍| 久婷婷| 五月婷色色| a久久| 99亚洲欧洲| 日本三级第一页| 欧美性爱特黄一级aaaassss| 97久久超视频| 人人色婷婷| 狼人狠狠操| 久久精品性爱| www.minyis.com【JT】币址百万U预算可预付QQ2101460746 | site:901-07.com| 色九九综合| 天天爱天天做天天爽| 色婷婷亚洲综合av| 67194成I人在线观看线路1| 亚洲精久久| 丁香六月色婷婷| 天天色天天爽| 色婷婷久久7777| 超碰免费大香蕉| 欧美日韩大黄| 影音先锋91男人资源在线播放| 美欧日韩国产成人在战| 婷婷五月激情四月综合| 九九九干精品| 91精品综合久久久久久五月丁香| 婷婷五月天,影院| 极品人妻VIDEOSSS人妻| 夜夜谢天天干| 思思视频久久| 色99免费视频中文| 亚洲精品亚洲人成人网| 日本色色色| 六月丁香婷婷视频综合在线观看| 五月婷护士| 成片免费播放| 久久视频这里99| 亚洲午夜一区二区| 亚洲偷| 深爱激情丁香五月| 国产日批视频| 五月伊人婷婷999| 婷婷激情综合网| 五月天婷婷激情在线色图| 丁香六月色香蕉视频| 超碰在线50| 成人短视频在线| 久草xx性爱视频| 狠狠香蕉| 26uuu最新地址| 国产亚洲99久久| AA片在线观看视频在线播放 | 婷婷丁香六月影视| 六月婷婷激情| 婷婷丁香综合| 日韩在线视频9色| 狠狠色成人影片| www.天天日| 五月丁香六月停停| 亚洲激情高潮| 激情五月婷婷丁香六月| 91久久色| 欧美碰碰碰| 亚洲传媒在线观看| 色香蕉精品五夜婷| 性生生活大片又黄又| 五月色亚洲| 激情综合99| 婷婷综合视频| 婷婷五月天久久| 人人爱国产| 色五月丁香在线| 天天在线天天综合网色| 亚洲综合字幕色色| 婷婷激情综合网| 欧美乱码国产一级A片| 色五月婷婷在线观看第一页舔| 热久久这里只有精品| 大香蕉啪啪| 色五月丁香婷婷久草| 狠狠操天天操综合| 很很干在线视频| 女人天堂av| 五月色婷婷亚洲| 九九热a| 五月丁香综合啪啪| 亚洲成人综合在线| 开心五月六月婷婷| 97色色色色色色色| 久久色情| 久久久久这里都是精品| 五月天激情四射| 爆乳熟女一区二区三区爆乳| 99亚洲视频| 色你久久| 超碰在线综合| 综合大香蕉| 狠狠香蕉| 99热99网| 桃色伊人在线| 99热这里只有精品86| 夜夜骑天天操| 色色色综合色| 久久视频在线视频| 五月丁香婷婷婷激情爱爱| 日韩肏屄网| 五月丁香色| 婷婷久久国产视频| 日操夜撸| 九九热视频这里只有精品| 亚洲操人| 嫩BBB搡BBBB榛BBBB| 有码一区二区三区| 九九大香蕉黄色影院| 五月色婷婷在线观看| 色综合五月婷婷狠狠干| 丁香五月天激情综合| 97视频91| 思思久久99热只有频精品66| 97人妻碰碰碰久久久久-最近国语高清| 婷婷色吧| 6080av| 色色婷| 毛片新网地| 婷婷激情丁香五月天综合| 色优久久| www.婷婷五月| 99热这里是精品| 激情五月九九九| 99热九九这里只有精品| 操人妻90p| 99热这里是精品| 能看的av| 六月婷婷综合激情| 丁香五月天精品| 婷婷综合网站| 9l视频自拍九色9l黑人| 天天色图| 丁香五月婷婷色偷偷| 色综合激情| 婷婷久久婷婷色五月| 爱射综合| 五月狠狠| 色欲AVV| 婷婷五月综合婷婷| www.久热| 日本一级淫| 丁香五月精品视频| 丁香五月天成人网站| 香蕉久操| 五月色丁香综合| 五月丁香精品| 色综合久久8| 新五月天婷婷激情电影| 我爱大香蕉| www.狠狠| WWW.夜夜操.com| 丁香五月综合激情啪啪| 麻豆精品| 日日插日日干| 狠狠色色色| 天天舔天天插天天爱| 久久婷.com| 亚洲AV电影美洲AV电影| 国产精品一区在线观看你懂的| 成人AV网站在线| 五月色婷婷激情| 少妇性BBB搡BBB爽爽爽电影| 性热视频99精品| 香蕉AV777XXX色综合一区| 五月婷婷六月丁香在线| 欧美综合五月丁香六月婷| 玖玖资源部在线播放| 棕合影院色色| 久久婷丁香五月| 五月丁香五月婷婷| 9伊人网| 精品成人a v无码内射| 亚洲日比视频| 色人妻五月| 丝雨一区二区| 丁香五月欧美色综合| 成人精品视频99在线观看免费| 色五月之第四色| www.婷婷.com| 丁香婷婷五月天色综合| 丁香五月手机在线| 国产精品久久在线观看技巧| 久久九九国产精品怡红院| 色婷婷黄色网络| 亚洲欧美婷婷五月色综合| 日韩亚洲视频| 国产无套精品一区二区| 五月天婷婷激情网| 五月丁香| 国产精品久久..4399| 丁香五月区| 外国碰视频网站97| 婷婷五月天影院| 婷婷六月丁香在线| 丰满少妇猛烈A片免费看观看 | 日韩黄黄| 激情都市另类| 激情五月综合| 国产偷人爽久久久久久老妇APP| 欧美色六月婷婷| 超碰操日| 久久五月天婷婷| 粉嫩av懂色av蜜臀av熟妇| Av大香蕉| 天天爱天天做天天爽| 婷婷狠狠青青| 九九精品热播| 五月五婷婷网| 色就色94欧美setu| 99热在线只有精品| 九九色影视| 激情五月丁香五月| 丁香五月天天高清在线| 婷婷七月丁香色色| 五月丁香大香蕉| 欧美va亚洲va在线播放| 香蕉99网| 欧美三级欧美一级| 黄色三级日本| 狠狠五月婷婷| 激情综合五月开心狠狠| 亚洲色婷婷| 夜夜嗨一区二区三区直播内容 | 色婷婷在线视频| 久久九九综合| 激情综合另类| 色播丁香| 婷婷操婷婷干婷婷射| 天天肏视频| 人人肏逼视频在线一区二区| 色色色色色色色色色色色色色97| 六月丁香激情最新更新| 人人97操| 大地9中文在线观看免费高清| 手机免费福利视频| 99re最新地址视频| www99精品亚| 超碰在线9| 九九视频精品在线免费 | 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 色爱亚洲| 99色热| 欧美婷婷丁香五月| 色婷婷五月天激情| 久久久噜噜噜久久人妻| 丁香婷婷激情| 激情五月天激情网| 青青草原爱爱网| 天天日天天舔| 丁香五月婷婷啪| 五月丁香AV在线| 丁香六月亚洲| 婷婷五月色综合| 五月天婷婷激情四射综合| 亚洲操操操| 婷婷九月亚洲| 成人五月天在线视频在线观看| 九九热视频思思| 五月色婷婷综合| 中文字幕在线观看视频www| 久久亭亭电影| www天堂99| 成人精品在线| 激情综合五月婷婷| 婷婷中文字暮| 天天爽夜夜爽夜爽精品| 国产肏屄大片| 色噜噜五月丁香婷婷| 六月婷婷综合| 婷婷午夜天| 丁香五月五婷| 五月婷婷开心丁香| AV79| 五月天婷婷色小说| 欧美久久五月婷婷| 噜噜噜噜噜在线| 91黄址| 丁香玖玖视频大全| 婷婷色色欧美| 丁香婷婷久久综合在线| 色婷婷丁香AV综合| 色狠狠婷婷| 97色精品视频| AV在线不卡播放| 日日噜噜夜夜狠狠久久丁香五月| 99热欧美| 538在线精品| 国内外色色色色色成人视频| 开心激情婷婷| 伊人激情| www超碰| 99久久网站| 亚洲这里只有精品| 婷婷综合影院| 婷婷五月天成人网| 久热精彩视频98| 亚洲激情免费视频| 精国产品一区二区三区A片| 激情四射五月天偷偷看婷婷| 激情综合一| 99亚洲视频| 激情综合色播| 天堂草在线看www| 色色射| 婷婷五月天激情开心网| Av九九| 99超级碰免费视频| 色五月婷婷在线| 中字幕视频在线永久在线观看免费| 国产午夜伦鲁鲁| 4438亚洲欧美| 777久久久| 婷婷五月天精品| 大香蕉520| 玖玖伦理电影| 九九热精品6| 99视频热| 久超超碰| 日日日日日| av免费在线看不卡无毒| 99热草草| 欧美性色A片免费免费观看的| 国产乱妇无乱码大黄AA片| 五月Huangsewang| 婷婷五月天香蕉| 狠狠狠色激情综合适合| 99热97| 国产69久久久欧美黑人A片| 婷婷的五月天另类视频| 98热精品| 99热日韩| 亚洲色婷婷99一9|| 五月天偷拍| 久久大香蕉| 99综合97| 中文字幕丰满孑伦无码专区| 嫩草视频。| 草草视频91| 99精品久久久久久久婷婷久久| 婷婷五月综合啪| 亚洲操B| 99色人| 91色色色18| 激情婷婷人妻| 色五月婷婷丁香五月| 久久精彩视频| 日本婷婷色| 在线观看免费狠狠色丁香香综合| 丁香五月中文字幕| 久久婷婷影院| 99热这里只要精品免费| 操逼国产91| 99热精品在线| 伊人丁香花综合影院| 97久久精品视频| 激情九色| 99色综合网| 思思9久久| 1区2区视频| 综合五月婷婷| 亚洲欧洲中文日韩久久AV乱码| 色五月婷婷色五月| 色婷婷9| 不卡在线中文字幕无| 亚洲综合色色| site:pzdcoin.com| 丁香五月婷婷图片综合| 成年人最刺激的综合网| 丁香婷婷五月综合影院| 亚洲精品又粗又大又爽A片| 婷婷激情五月色综合| 色丁香五月| 丁香婷婷综合激情五月色| 五月天影院| 久久激情视频99| 五月丁香亭亭激情操逼网| 五月丁香无码| 丁香婷婷激情综合五月激情| 婷婷五月天A V| 亚洲成人中心| 五月婷婷就去色| 婷婷99丁香| 成人精品视频99在线观看免费 | 五月丁香自拍| 色婷婷在线视频久| 亚州操逼网| 色婷综合| 少妇婷婷五月天| 99精品在线| 色综合网址| 另类图片五月天| 抽插特写| 丁香五月婷婷骚视屏| 99操碰| 亚洲综合另类| 久久少妇视频| 91干婷婷| 久8色色| 六月 丁香 视频| 婷婷五月天a| 丁香婷婷精品视频| 中文字幕性爱视频| 婷婷婷婷午夜| 六月婷婷中文字幕| 日韩AAAAA| 337p午夜影院| 久久色频| 性生活视频98791| 久久五月天影院| 极品人妻VIDEOSSS人妻| www.婷婷.com| 天天舔天天插天天干| 天天爽天天透天天爱| 97久久久久久久久久久| 九九操操| 丁香伍月婷电影全集| 国产肥白大熟妇BBBB视频| 99丁香五月婷| 91seAV| 婷激情五月天视频导航| 三男玩一女三A片| 超黄亚洲瑟瑟网站| 99综合视频一体| 丁香婷婷六月天| 中国操逼99| 做爰丰满少妇1313| 五月婷久久| 九九五月天| 成人版视频在线观看| 天堂草在线看www| www.日韩艹| 26uuu视频欧美| 大香蕉伊人99| 高清国产AV| 99热九九九九| 熟惀91九色在线| 草一草avb| 超碰大香蕉网| 五月激情丁香| www.十八禁不禁AV.com| 天天综合干| 91狠狠色| 丁香五月天啪啪| www.激情.com.| 婷婷五月综合色中文字幕| 欧美月久久| 五月丁香婷婷老司机| 国产毛片欧美毛片久久久| a网站免费观看| 亚洲综合婷婷| 天天综合网91| 99re热在线视频观看| 99久久99久久| 久热99中文字幕| 亚洲精品白浆高清久久久久久| 99精品国产在热久久| 99这里有精品| 99在线精品免费视频| 狠狠色噜噜狠| 伊人网色婷婷五月天| chaopeng在线人人| 五月丁香六月综合图| 97操资源婷婷| 91精品啪| 日本97在线| 婷婷婷五月香蕉| 久久婷婷五月综合激情国产| 天天做天天要天天爽| 精品九九久久| 狠狠色婷婷7777久| 九九激情视频| 欧美操人| 婷婷五月综合基地| 狠狠综合| 日本丁香五月| 欧美日韩大黄| 9久久网| 婷婷情色开心五月天99| 国产日韩欧美性爱| 婷婷五月天va| 九九九热精品| 狠狠操天天干| 日日干日日| 激情综合色婷婷啪啪六月天| www,久久久| 久久一级免费黄色片| 亚洲精品无AMM毛片| 热久久99热欧美国产亚洲| 激情六月五月婷婷综合网| AA片在线观看视频在线播放| 久久一热| 色婷綜合网| 婷婷五月天激情小说| 欧美婷婷综合网| 色久九| 五月丁香婷婷激情视频| 天天日夜夜操五月| 97操操| www.婷婷五月天| 激情伊人网| 精品99*| 欧美电影在线观看| 大香蕉综合| 91视频精品99| 九九视频这里有精品| 91丨九色丨43老版熟女| 欧美性交一区二区三区| 91人人人人人| 99热这里只有精品中文字幕| 亚洲视频二区| 丁香桃色网| 丁香五月婷婷成人网| 五月婷婷香蕉| 俺来也综合网精品一区| 五夜丁香| 丁香五月激情网| 99综合熟女| 97超喷视频在线观看| 婷婷在线五月综合| 午夜少妇在线观看视频| 四色99久久| 丁香五月天色婷婷| 大香蕉99热| 色婷婷免费视频| 婷婷成人视频| 99热在线只有精品| 久久性爱视频网站| 婷婷五月丁香手机在线视频| 欧爱综合视频| 狠狠狠狠狠狠狠狠草| 男人综合网| 欧洲婷婷五月天| 五月丁香婷婷五月色| 天天爱天天做综合| 99久热这里有精品| 狠色狠色狠色狠色狠色网| 日韩黄黄| 欧美在线视频免费播放| 奇米网大香蕉| www.97干视频| 日本wwww在线| 国产探花一片区| 韩国97天堂| 久久视频婷婷| 天堂久久性| 亚洲婷婷丁香| 久久最新色色色| 婷婷伊人綜合中文字幕小说| 亚洲激情综合免费| 少妇高潮呻吟A片免费看软件| 啪啪激情综合| 九九色video| 色五月自偷自拍婷婷婷婷| 99婷婷国产最新视频| 91AV婷婷| 91精品婷婷国产综合久久| 五月在线婷色| 天天综合图片| 日韩色色视频| 91干视频| 一级性爱视频| 婷婷香蕉精品| 色综合色综合色综合| 丁香五月婷婷欧美激情-中文天堂最新版在线观看| 98永久精品| 丁香六月AV| 五月婷婷免费在线观看| 天天操婷婷| 欧洲色色| 涩丁香| 婷婷免费成人视频| 丁香五月天.com| 五月天天天色| 粉嫩av懂色av蜜臀av熟妇| 九九热AV| 欧洲综合一区| 久热人妻| www开心激情网| 。久久久久久久久久久久久久人妻| 思思99热| 亚洲妇女熟BBW| 热久91| 婷婷色丁香五月| 1010日日无码| 99久久婷婷五月综合| 国产黄大片在线观看画质优化| 五月丁香在线观看国产| 国产精品色婷婷99久久精品| WWW五月天| 4438激情网| 九九综合| 六月婷欧美| 五月婷婷深爱六月| 丁香五月激情啪啪| 五月丁香| 日韩AV中文字幕在线| 天天网站天天爽| 五月丁香五月综合欧美| 99精品视频在线观看| 亚洲精品网址| 婷婷五月丁香六月伊人网| 欧美色骚婷婷五月天| 国产熟女一区二区三区五月婷| 色情婷婷五月天| 综合久久十三| 日本va欧美va欧美va精品| 五月激情小说网| 五月天婷婷影院| 亚洲无码yw| 亚洲综合色棒| 色五月人妻| 五月色丁香婷婷综合| 天天成人五月天| 久久综合影院| 婷婷黄色网| 久久综合激情五月天| 成人五月天视频| 丁香六月婷婷缴情欧美| 亚洲综合网区| 五月天婷婷免费视频| 久久久国产精品黄毛片| 精品九九在线观看视频| 欧美色色色色色色色色色色| 99原创自拍视频在线观看| 狠狠艹狠狠艹| 激情文学久久| 亚洲在线成人| 伊人五月人妻精品| 九九香蕉网| 99热福利| 婷婷五月天视频免费在线观看| 欧美色综合天天久久综合精品| 91精品综合久久久久久五月丁香| 婷婷丁香五月亚洲| 婷婷丁香成人色综合| 五月婷婷色播视频| 色99热| 热九九九九| 婷婷欧美激情| 色噜婷婷| 丁香久久五月天视频在线观看| 在线另类| 热久久77777| 激情五月天丁香| www,com,五月色色| 日亚二欧美| 婷婷婷久久久| 激情婷婷五月| 色吧99| 久久婷婷五月免费视频| 日韩婷久| 一级二级香港秋霞欧美欧美秋霞| 国产精品18久久久| 久久综合热17c| 婷婷五月天堂| 九九国产精视频| 九九综合色| 六月色日韩| 97干在线| 色五月视频无码播放| 色色色com|