99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Java性能排查利器:JDB調(diào)試器實(shí)戰(zhàn)與配合技巧

Java性能排查利器:JDB調(diào)試器實(shí)戰(zhàn)與配合技巧 排查 Java 服務(wù)的性能問(wèn)題命令行里常見(jiàn)的套路是先top看一眼負(fù)載再用jstack拉線程棧條件允許的話上jmap或者jcmd再看堆。這套流程能回答“哪里慢”但是常?;卮鸩涣恕盀槭裁绰?。我上次在一臺(tái)只剩 SSH 的白盒服務(wù)器上排查接口延遲時(shí)發(fā)現(xiàn)線程棧反復(fù)提示某個(gè)方法在忙但光靠棧信息完全看不出是入?yún)⒌膯?wèn)題還是循環(huán)的邏輯問(wèn)題。這時(shí)候需要的不是采樣工具而是一個(gè)能把程序暫停下來(lái)、讓我把當(dāng)前變量和調(diào)用關(guān)系看得明明白白的調(diào)試器。JDB 就是 JDK 自帶的那把“手術(shù)刀”它沒(méi)有圖形界面、也不用裝插件專治這種需要現(xiàn)場(chǎng)取證的場(chǎng)景。這篇文章就把我在真實(shí)排查中摸熟的 JDB 用法、踩坑記錄和與其它性能工具配合的思路整理出來(lái)。1. 為什么說(shuō) JDB 是性能排查鏈路里最被低估的調(diào)試工具1.1 從定位到取證JDB 和性能工具的關(guān)系大多數(shù)人對(duì) JDB 的第一印象是“命令行調(diào)試器”和性能分析沒(méi)什么關(guān)系。這個(gè)印象不準(zhǔn)確。性能工具可以分為兩層第一層負(fù)責(zé)定位例如用 JFR 或 async-profiler 做 CPU 采樣用jstat觀察 GC 節(jié)奏用jstack抓線程卡點(diǎn)第二層負(fù)責(zé)取證也就是當(dāng)你知道問(wèn)題出在某個(gè)方法、某個(gè)對(duì)象或者某個(gè)線程狀態(tài)時(shí)需要停下來(lái)把現(xiàn)場(chǎng)翻個(gè)底朝天。JDB 屬于第二層。它本質(zhì)上是 JDK 官方提供的 Java 調(diào)試工具底層走的是 JPDA 體系通過(guò) JVM 的調(diào)試接口獲取運(yùn)行信息。IDE 里的斷點(diǎn)、單步、變量檢查本質(zhì)上和它是同一套機(jī)制只不過(guò) IDE 把命令封裝成了圖形按鈕。換句話說(shuō)你日常在 IDEA 里做的那套調(diào)試動(dòng)作JDB 全部能做只是在命令行里完成??粗匦阅艿娜顺7敢粋€(gè)誤區(qū)覺(jué)得調(diào)試器只能在開(kāi)發(fā)環(huán)境用。實(shí)際上在做性能分析的后期尤其是問(wèn)題已經(jīng)縮到某個(gè)類、某個(gè)方法甚至某一行時(shí)JDB 的價(jià)值非常大。比如一個(gè)接口響應(yīng)突然變慢jstack只能看到線程停留在某處但你不知道它手里拿到的List到底有多大不知道某個(gè)字段是不是已經(jīng)變成null不知道循環(huán)條件為什么一直沒(méi)有退出。這些信息只有把程序暫停下來(lái)才能確認(rèn)而 JDB 就是干這個(gè)的。1.2 哪些場(chǎng)景該用它哪些場(chǎng)景不該用它先說(shuō)適合的場(chǎng)景。目標(biāo)機(jī)器是無(wú)桌面環(huán)境的 Linux、容器或云主機(jī)沒(méi)法開(kāi) IDE問(wèn)題屬于偶發(fā)需要等到某個(gè)條件滿足時(shí)立刻觀察現(xiàn)場(chǎng)程序啟動(dòng)階段就有異常需要從第一條指令開(kāi)始調(diào)試或者團(tuán)隊(duì)在做自動(dòng)化故障演練希望用腳本把“設(shè)置斷點(diǎn)、觸發(fā)、抓棧、退出”變成一條命令。這些場(chǎng)景下 JDB 幾乎是零成本的選擇因?yàn)?JDK 裝好之后它就躺在bin目錄里。不太適合的場(chǎng)景也很明確需要統(tǒng)計(jì)熱點(diǎn)方法耗時(shí)、需要生成火焰圖、需要大面積采集樣本時(shí)JDB 不是干這個(gè)的。它會(huì)讓目標(biāo)線程停下來(lái)逐幀檢查狀態(tài)這種“顯微鏡”式的操作不適合做全局掃描。原因在于 JDB 啟動(dòng)后會(huì)啟用調(diào)試基礎(chǔ)設(shè)施被附加的 JVM 內(nèi)部會(huì)有額外事件處理的開(kāi)銷而且斷點(diǎn)如果設(shè)置不當(dāng)會(huì)讓本來(lái)應(yīng)該在熱路徑上的代碼被強(qiáng)制掛起。所以正確的打開(kāi)方式是先用采樣工具畫(huà)出輪廓再用 JDB 做定點(diǎn)解剖。2. 先把 JDB 跑起來(lái)兩種啟動(dòng)方式與常用會(huì)話配置2.1 直接啟動(dòng)目標(biāo) Java 程序第一種方式是讓 JDB 直接啟動(dòng)目標(biāo) Java 類適合調(diào)試本地可復(fù)現(xiàn)的問(wèn)題。命令格式很簡(jiǎn)單jdb -classpath target/classes com.example.OrderService執(zhí)行后會(huì)進(jìn)入jdb提示符但此時(shí)目標(biāo)程序還沒(méi)有真正跑起來(lái)。新手最容易在這里踩坑直接輸入run程序瞬間跑完還沒(méi)反應(yīng)過(guò)來(lái)調(diào)試就結(jié)束了。正確的做法是先設(shè)置好斷點(diǎn)再發(fā)起運(yùn)行。例如 stop at com.example.OrderService:126 runrun之后 JDB 才會(huì)拉起目標(biāo) JVM。如果程序一開(kāi)始就命中斷點(diǎn)會(huì)進(jìn)入暫停狀態(tài)這時(shí)候可以做棧和變量檢查。如果程序能一路跑完最后 JDB 會(huì)提示目標(biāo)進(jìn)程退出整個(gè)調(diào)試會(huì)話當(dāng)然也就結(jié)束了。直接啟動(dòng)時(shí)還可以帶參數(shù)例如run arg1 arg2會(huì)把參數(shù)傳給目標(biāo)程序。對(duì)于有多個(gè) classpath 的項(xiàng)目用-classpath指定即可。如果你有多個(gè)依賴 jar建議把它們都列在啟動(dòng)參數(shù)里否則 JDB 在解析某個(gè)斷點(diǎn)類時(shí)會(huì)提示找不到類。2.2 掛到運(yùn)行中的 JVMJDWP 參數(shù)是關(guān)鍵遠(yuǎn)程或線上問(wèn)題的調(diào)試更多用的是第二種方式目標(biāo) JVM 已經(jīng)跑著JDB 從外部附加進(jìn)去。這里有一個(gè)前置步驟容易被忽略目標(biāo) JVM 必須要以調(diào)試模式啟動(dòng)也就是帶上 JDWP 代理參數(shù)。我常用的啟動(dòng)參數(shù)是這樣的java -agentlib:jdwptransportdt_socket,servery,suspendn,address127.0.0.1:8787 -jar order-service.jar每個(gè)參數(shù)的含義都比較固定我按自己的習(xí)慣解釋一下。參數(shù)作用transportdt_socket指定調(diào)試通信走 Socket 協(xié)議servery表示當(dāng)前 JVM 作為調(diào)試服務(wù)端等待客戶端接入suspendn目標(biāo)程序啟動(dòng)時(shí)不掛起方便日常附加調(diào)試suspendy目標(biāo)程序會(huì)在啟動(dòng)點(diǎn)等待調(diào)試器連入適合排查啟動(dòng)階段問(wèn)題address127.0.0.1:8787監(jiān)聽(tīng)地址和端口建議只綁回環(huán)地址參數(shù)就緒后用 JDB 附加jdb -attach 127.0.0.1:8787如果連接成功會(huì)看到一堆初始化提示隨后進(jìn)入jdb提示符。這里有個(gè)值得記住的點(diǎn)suspendn和suspendy不是隨便選的。日常觀察運(yùn)行中的服務(wù)一定選n因?yàn)槌绦蛞坏﹩?dòng)就掛起業(yè)務(wù)就停了而調(diào)試 Spring 容器初始化、應(yīng)用啟動(dòng)配置這類代碼選y才能保證在main方法啟動(dòng)前就拿到斷點(diǎn)。2.3 啟動(dòng)配置文件與基礎(chǔ)命令習(xí)慣JDB 和很多命令行工具一樣支持從用戶主目錄下的.jdbrc文件讀取初始化命令。文件里每行放一條 JDB 命令啟動(dòng)時(shí)自動(dòng)執(zhí)行。我一般會(huì)把常用斷點(diǎn)放進(jìn)去省得每次都敲stop at com.example.OrderService:126但要注意這種自動(dòng)執(zhí)行可能在類還沒(méi)加載時(shí)就把斷點(diǎn)設(shè)置成 deferred 狀態(tài)也就是延遲斷點(diǎn)。大部分情況沒(méi)有問(wèn)題因?yàn)?JVM 會(huì)在類加載完成后自動(dòng)把斷點(diǎn)裝上。只是如果你發(fā)現(xiàn)斷點(diǎn)一直沒(méi)命中優(yōu)先確認(rèn)是不是這類原因?;A(chǔ)命令里我會(huì)先記住四個(gè)help查看命令清單exit正常退出quit強(qiáng)制退出!執(zhí)行外部 shell 命令。用!可以在不退出 JDB 的情況下執(zhí)行top或者cat在排查現(xiàn)場(chǎng)非常順手。JDB 對(duì)命令大小寫(xiě)不敏感但為了可讀性我還是保持小寫(xiě)。3. 核心調(diào)試命令拆解斷點(diǎn)、線程、棧幀與步進(jìn)3.1 斷點(diǎn)命中代碼熱點(diǎn)的唯一入口斷點(diǎn)是 JDB 里最重要的動(dòng)作沒(méi)有斷點(diǎn)程序就會(huì)一直跑你沒(méi)有任何機(jī)會(huì)檢查內(nèi)部狀態(tài)。最常用的是行斷點(diǎn) stop at com.example.OrderService:126命令的關(guān)鍵字是stop at后面跟類名和行號(hào)。如果你只知道方法名可以用方法斷點(diǎn) stop in com.example.OrderService.batchProcess這個(gè)寫(xiě)法適合記不住具體行號(hào)的場(chǎng)合但方法斷點(diǎn)會(huì)讓 JVM 在方法入口處插入更多事件性能開(kāi)銷比行斷點(diǎn)大優(yōu)先級(jí)也低一些。做性能排查時(shí)我建議用行斷點(diǎn)因?yàn)槟憧梢园褦帱c(diǎn)精確放到循環(huán)體內(nèi)、條件分支里或者一個(gè)if判斷的右側(cè)直接觀察最窄的現(xiàn)場(chǎng)。查看和刪除斷點(diǎn)用clear clear clear com.example.OrderService:126不加參數(shù)時(shí)列出當(dāng)前全部斷點(diǎn)加了參數(shù)就刪除指定斷點(diǎn)。還有一個(gè)很實(shí)用的進(jìn)階玩法是條件斷點(diǎn) stop at com.example.OrderService:126 if orderList.size() 1000這個(gè)意思是只有orderList的大小超過(guò) 1000 時(shí)才暫停。條件斷點(diǎn)在性能復(fù)現(xiàn)中特別有用因?yàn)楹芏鄦?wèn)題只在特定數(shù)據(jù)規(guī)模下暴露每次都手動(dòng)檢查太費(fèi)勁。要注意條件表達(dá)式里的變量必須在該行可見(jiàn)否則 JDB 會(huì)報(bào)變量找不到的錯(cuò)誤。3.2 線程在卡住現(xiàn)場(chǎng)里切換視角斷點(diǎn)命中后程序只是暫停在某個(gè)線程上。性能問(wèn)題通常涉及多個(gè)線程比如一個(gè)線程池里有 10 個(gè)線程只有其中 3 個(gè)出現(xiàn)異常。這時(shí)候要先看線程列表 threads輸出會(huì)列出所有線程的調(diào)試編號(hào)、名稱、優(yōu)先級(jí)和狀態(tài)信息。注意這里的編號(hào)是 JDB 內(nèi)部的線程 ID不是操作系統(tǒng)看到的 native thread id。想切到某個(gè)線程深挖用thread命令 thread 12切換之后再用where看當(dāng)前線程的調(diào)用棧。如果嫌一條一條看太慢直接用where all等價(jià)于把全部線程的棧打出來(lái)效果接近一次簡(jiǎn)化版的jstack。我在實(shí)際排查中會(huì)先執(zhí)行一次where all快速判斷哪些線程卡在業(yè)務(wù)代碼哪些線程在等待鎖然后再用thread精確切換過(guò)去。這里有個(gè)細(xì)節(jié)值得多說(shuō)一句JDB 只有在線程掛起時(shí)才能安全地查看棧幀和變量。斷點(diǎn)命中的線程天然是掛起的所以你直接操作沒(méi)問(wèn)題。但如果是手動(dòng)附加到運(yùn)行中的 JVM線程還在跑有些棧信息可能不好拿。遇到這種情況可以先用suspend把目標(biāo)線程掛起或者設(shè)置一個(gè)斷點(diǎn)讓代碼自然停住。3.3 棧幀、變量與表達(dá)式求值線程切換好之后最常用的三連是where、locals、print。where看調(diào)用棧棧頂是最當(dāng)前正在執(zhí)行的幀編號(hào)從[1]開(kāi)始。如果想深入到某個(gè)具體棧幀JDB 提供up和down命令在幀之間移動(dòng)。這個(gè)動(dòng)作和 IDEA 調(diào)試面板里切棧幀是一個(gè)意思。locals打印當(dāng)前棧幀里的局部變量這是我最喜歡的命令。很多性能問(wèn)題的答案就藏在局部變量里比如循環(huán)次數(shù)變量、集合大小、臨時(shí)對(duì)象引用。打印出來(lái)的結(jié)果一般是這樣args instance of java.lang.String[0] orderList instance of java.util.ArrayList只看引用還不夠要展開(kāi)對(duì)象內(nèi)容用dump dump orderListdump會(huì)把對(duì)象的字段值遞歸展開(kāi)讓你直接看到對(duì)象內(nèi)部狀態(tài)。如果只想看某個(gè)字段或者一個(gè)簡(jiǎn)單的計(jì)算結(jié)果用print print orderList.size() print this.userId另外methods和fields可以分別查看類的方法簽名和字段定義適合在搞不清楚類結(jié)構(gòu)時(shí)臨時(shí)查一下。這里必須提醒一個(gè)很多人會(huì)踩的坑不要在print或者dump里隨便調(diào)用有副作用的 getter。調(diào)試器對(duì)表達(dá)式的求值有時(shí)會(huì)真實(shí)觸發(fā)目標(biāo)對(duì)象的方法。如果那個(gè)方法內(nèi)部有狀態(tài)修改或者在等待一把鎖輕則調(diào)試結(jié)果不準(zhǔn)重則直接讓線程卡死。優(yōu)先看字段再看簡(jiǎn)單表達(dá)式最后再?zèng)Q定要不要調(diào)用方法。3.4 步進(jìn)、恢復(fù)與自動(dòng)執(zhí)行trace、monitor暫停之后并不一定只看局部變量你還可以用步進(jìn)命令觀察代碼執(zhí)行的走向。step進(jìn)入當(dāng)前行調(diào)用的方法next執(zhí)行當(dāng)前行并停在下一行step up直接跳出當(dāng)前方法回到調(diào)用方cont讓程序繼續(xù)運(yùn)行直到下一個(gè)斷點(diǎn)或退出。實(shí)際操作中next用的頻率比step高。因?yàn)樾阅芘挪榈闹攸c(diǎn)是“代碼怎么走到這一步”的而不是走得太深。一旦發(fā)現(xiàn)某個(gè)方法可疑再單獨(dú)用step進(jìn)入也不遲。還有兩個(gè)命令對(duì)性能分析特別有價(jià)值。第一個(gè)是monitor它可以在每次程序暫停時(shí)自動(dòng)執(zhí)行指定命令。例如 monitor where monitor locals這樣每次斷點(diǎn)命中JDB 都會(huì)自動(dòng)把棧和局部變量打出來(lái)省去了反復(fù)手動(dòng)敲命令的麻煩。第二個(gè)是trace用來(lái)開(kāi)啟方法調(diào)用跟蹤。trace go methods會(huì)讓 JDB 在方法進(jìn)入和返回時(shí)打印日志看起來(lái)會(huì)非常啰嗦但是當(dāng)你想確認(rèn)一個(gè)調(diào)用鏈里到底重復(fù)執(zhí)行了多少次時(shí)它比斷點(diǎn)更直觀。我用trace時(shí)一般會(huì)把范圍縮小比如先在可疑方法入口設(shè)置斷點(diǎn)等命中后再開(kāi)trace然后cont跑一小段時(shí)間及時(shí)用exit停掉不然日志量能大到把終端沖掉。4. 一個(gè)真實(shí)風(fēng)格的 JDB 實(shí)操案例模擬一個(gè)服務(wù)響應(yīng)變慢的調(diào)查4.1 案例背景為什么選擇 JDB 而不用直接看代碼為了把前面的命令串起來(lái)我準(zhǔn)備用一個(gè)虛擬的訂單聚合服務(wù)來(lái)說(shuō)明。假設(shè)某個(gè)服務(wù)里有一個(gè)MockOrderService類batchProcess方法負(fù)責(zé)把一批訂單做聚合計(jì)算最近線上響應(yīng)變慢jstack顯示大量線程停留在這個(gè)方法里。光看棧信息你只能確認(rèn)“這個(gè)方法有問(wèn)題”但不知道是訂單數(shù)量太大、某個(gè)字段為 null還是循環(huán)里在做重復(fù)計(jì)算。如果直接把代碼翻出來(lái)看一是代碼和線上版本未必一致二是很多狀態(tài)是在運(yùn)行期才產(chǎn)生的靜態(tài)代碼看不出來(lái)。用 JDB 的意義就是直接在運(yùn)行現(xiàn)場(chǎng)把方法暫停把變量值拿出來(lái)對(duì)照著代碼做判斷。4.2 步驟一啟動(dòng)目標(biāo) JVM 并掛載 JDB先啟動(dòng)模擬服務(wù)并打開(kāi)調(diào)試端口java -agentlib:jdwptransportdt_socket,servery,suspendn,address127.0.0.1:8787 -classpath order-service.jar com.example.MockOrderService進(jìn)程起來(lái)后用jps -l確認(rèn) PID 存在再檢查調(diào)試端口有沒(méi)有監(jiān)聽(tīng)ss -lntp | grep 8787然后另開(kāi)一個(gè)終端執(zhí)行jdb -attach 127.0.0.1:8787看到j(luò)db提示符會(huì)話就建立了。因?yàn)閟uspendn目標(biāo)服務(wù)還在正常跑不會(huì)因?yàn)?JDB 接入就起飛。4.3 步驟二設(shè)置斷點(diǎn)并命中熱點(diǎn)在代碼里找到可疑的邏輯點(diǎn)。為了方便演示我假設(shè)batchProcess方法里有一個(gè)循環(huán)循環(huán)體內(nèi)部在動(dòng)態(tài)拼接 JSON 字符串行號(hào)對(duì)應(yīng) 126 行。先在 JDB 里設(shè)置斷點(diǎn) stop at com.example.MockOrderService:126然后讓程序恢復(fù)運(yùn)行 cont如果這時(shí)沒(méi)有流量進(jìn)來(lái)斷點(diǎn)不會(huì)觸發(fā)??梢酝ㄟ^(guò)壓測(cè)或者手動(dòng)觸發(fā)接口的方式來(lái)制造調(diào)用。斷點(diǎn)命中后終端會(huì)顯示類似這樣的信息Breakpoint hit: http-nio-8080-exec-3 (id15) [1] com.example.MockOrderService.batchProcess (MockOrderService.java:126)命中的同時(shí)線程被掛起現(xiàn)在可以開(kāi)始取證。4.4 步驟三查看線程和本地變量定位根因先看一下線程列表確認(rèn)當(dāng)前命中的線程編號(hào) threads輸出里能看到http-nio-8080-exec-3對(duì)應(yīng)的調(diào)試 id 是 15。切過(guò)去再看完整棧 thread 15 where接著打印局部變量 locals如果一切正常會(huì)看到orderList、startTime、resultMap這些變量。我想確認(rèn)訂單集合的大小直接執(zhí)行 print orderList.size()如果返回的數(shù)字異常比如一進(jìn)來(lái)就是幾萬(wàn)條說(shuō)明這個(gè)接口的輸入規(guī)模比設(shè)計(jì)預(yù)期大了很多。再深入看某個(gè)訂單對(duì)象 dump orderList.get(0)輸出會(huì)展開(kāi)對(duì)象的字段比如status、amount、rawJson。這時(shí)候如果發(fā)現(xiàn)每個(gè)訂單都攜帶一大段原始 JSON循環(huán)里還在反復(fù)解析慢的原因就找到了不是框架的問(wèn)題也不是 GC 的問(wèn)題而是同一個(gè) JSON 在循環(huán)體里被解析了多次重復(fù)計(jì)算把 CPU 吃掉了。4.5 步驟四用 trace 和 monitor 驗(yàn)證調(diào)用鏈初步懷疑是重復(fù)解析后可以用trace驗(yàn)證。先把當(dāng)前斷點(diǎn)留著輸入 trace go methods然后cont繼續(xù)跑一小段時(shí)間再看終端里輸出的調(diào)用日志。日志會(huì)顯示MockOrderService.batchProcess內(nèi)部反復(fù)進(jìn)入某個(gè)解析方法而且同一個(gè)rawJson對(duì)應(yīng)的解析方法被調(diào)用的次數(shù)和訂單數(shù)量幾乎一樣。這個(gè)信號(hào)基本可以證實(shí)問(wèn)題不在外部依賴而在循環(huán)內(nèi)部。為了讓每次命中斷點(diǎn)都自動(dòng)打印調(diào)用棧我還會(huì)加一個(gè)monitor monitor where之后每次遇到斷點(diǎn)棧信息自動(dòng)出來(lái)不用反復(fù)手動(dòng)敲。這招在連續(xù)觀察多個(gè)請(qǐng)求時(shí)非常省事特別適合判斷“是否每個(gè)請(qǐng)求都走到同一行”。4.6 步驟五修復(fù)和驗(yàn)證以及對(duì) JDB 能力的邊界說(shuō)明定位到原因后修復(fù)思路很清晰把 JSON 解析從循環(huán)內(nèi)移到循環(huán)外或者做成緩存避免重復(fù)加工。修復(fù)后重新編譯再用同樣的方式啟動(dòng)和附加 JDB在同一個(gè)斷點(diǎn)觀察變量里的緩存命中情況確認(rèn)解析方法不再被高頻調(diào)用。這個(gè)案例也說(shuō)明了 JDB 的能力邊界它不會(huì)告訴你“這個(gè)方法的平均耗時(shí)是多少毫秒”那是采樣工具的事它只會(huì)告訴你“這一秒這個(gè)方法內(nèi)部到底發(fā)生了什么”。所以在性能鏈路里JDB 和采樣工具是搭檔不是替代關(guān)系。5. JDB 與其它性能工具配合的正確姿勢(shì)5.1 JDB、jstack、jmap 報(bào)警時(shí)的工作分工我習(xí)慣把排查鏈路分成三步。第一步用jstack看線程棧判斷是業(yè)務(wù)線程卡住、鎖等待、還是 GC 線程異常第二步用jstat或jmap看堆判斷內(nèi)存壓力和對(duì)象分布第三步才是 JDB針對(duì)第一步和第二步里最可疑的點(diǎn)做暫停取證。工具主要作用弱點(diǎn)jstack快速抓全部線程棧只有棧沒(méi)有變量值jmap堆轉(zhuǎn)儲(chǔ)和對(duì)象統(tǒng)計(jì)分析對(duì)象存活鏈比較重jstat觀察 GC 和類加載狀態(tài)只統(tǒng)計(jì)不解釋業(yè)務(wù)邏輯JFR/ async-profiler做熱方法和采樣統(tǒng)計(jì)偏趨勢(shì)難以做單點(diǎn)暫停JDB把線程暫停檢查變量、斷點(diǎn)、調(diào)用鏈不能用于全量采樣例如前面那個(gè)案例如果沒(méi)有jstack先發(fā)現(xiàn)線程集中在batchProcess我就不可能在 JDB 里快速定位到那一行。反過(guò)來(lái)說(shuō)如果只看jstack你也永遠(yuǎn)不會(huì)知道orderList.size()竟然那么大。工具之間是接力關(guān)系。5.2 腳本化 JDB 操作.jdbrc和輸入重定向調(diào)試動(dòng)作如果重復(fù)執(zhí)行就有腳本化的價(jià)值。JDB 初始化文件.jdbrc放在用戶主目錄下啟動(dòng)時(shí)自動(dòng)逐行執(zhí)行命令。我偶爾會(huì)在里面臨時(shí)放一個(gè)斷點(diǎn)stop at com.example.MockOrderService:126除初始化文件外JDB 也支持用標(biāo)準(zhǔn)輸入喂命令。管道輸入的方式可以嵌入自動(dòng)化腳本printf stop at com.example.MockOrderService:126\nrun\nwhere\nexit\n | jdb -classpath target/classes com.example.MockOrderService這種方式適合做回歸測(cè)試一旦某個(gè)構(gòu)造函數(shù)里面出現(xiàn)異常腳本能夠自動(dòng)把當(dāng)時(shí)的棧打出來(lái)不用人盯著鍵盤(pán)敲。自動(dòng)化演練場(chǎng)景里甚至可以先把.jdbrc準(zhǔn)備好再通過(guò)控制腳本去觸發(fā)流量。5.3 安全與運(yùn)維注意點(diǎn)JDB 附加到 JVM 的能力很強(qiáng)這意味著如果調(diào)試端口暴露在不安全的網(wǎng)絡(luò)里等于給攻擊者開(kāi)了一扇門(mén)。我個(gè)人的原則是調(diào)試端口永遠(yuǎn)綁定127.0.0.1不要直接綁0.0.0.0或公網(wǎng) IP。需要跨機(jī)器調(diào)試時(shí)優(yōu)先用 SSH 隧道把本地端口轉(zhuǎn)發(fā)過(guò)去。調(diào)試結(jié)束后立即在目標(biāo) JVM 上恢復(fù)正常啟動(dòng)參數(shù)不要長(zhǎng)期掛著調(diào)試代理。另一個(gè)容易被忽略的點(diǎn)是JDB 附加后即便沒(méi)有觸發(fā)斷點(diǎn)JVM 內(nèi)部也會(huì)產(chǎn)生調(diào)試事件相關(guān)的開(kāi)銷。在高并發(fā)生產(chǎn)環(huán)境這種開(kāi)銷會(huì)被放大。所以我的建議是“用完就走”不要在業(yè)務(wù)高峰期長(zhǎng)時(shí)間保持調(diào)試會(huì)話。6. 踩坑記錄JDB 常見(jiàn)問(wèn)題與排查技巧6.1 常見(jiàn)錯(cuò)誤現(xiàn)象速查下面這張表是我在實(shí)操中遇到過(guò)或者身邊同事踩過(guò)的坑整理出來(lái)方便速查?,F(xiàn)象可能原因處理建議附加時(shí)提示Unable to connect調(diào)試端口沒(méi)開(kāi)、綁定地址不對(duì)、防火墻攔截用jps -l確認(rèn)進(jìn)程用ss -lntp檢查端口附加成功但斷點(diǎn)一直不命中類還沒(méi)加載或斷點(diǎn)行號(hào)和線上源碼不一致先確認(rèn)代碼路徑執(zhí)行到了使用條件斷點(diǎn)縮小范圍stop at報(bào)No code at line指定行沒(méi)有字節(jié)碼或源碼版本不匹配用list查看當(dāng)前行號(hào)核對(duì) classpathlocals輸出為空當(dāng)前棧幀沒(méi)有局部變量或類編譯沒(méi)有帶調(diào)試信息用javac -g編譯確保線程已掛起print報(bào)異常表達(dá)式求值時(shí)調(diào)用了帶副作用的方法或?qū)ο鬄?null改用dump查看字段避免調(diào)用 getter線程切不過(guò)去線程 ID 記錯(cuò)或線程已終止用threads重新確認(rèn)編號(hào)日志量爆炸trace范圍太大沒(méi)及時(shí)關(guān)閉只在小范圍內(nèi)開(kāi)啟用完exit退出會(huì)話這個(gè)表格里最高頻的問(wèn)題其實(shí)是“附加成功但斷點(diǎn)不命中”。原因很多但最常見(jiàn)的是源碼和線上 jar 的行號(hào)對(duì)不上。排查前最好先確認(rèn)編譯產(chǎn)物對(duì)應(yīng)的源碼版本不要拿一份舊代碼去猜斷點(diǎn)位置。6.2 我在實(shí)操中的幾點(diǎn)心得最后聊幾個(gè)偏經(jīng)驗(yàn)的東西。第一JDB 最適合用來(lái)驗(yàn)證“假設(shè)”不適合用來(lái)做“探索”。也就是說(shuō)你心里要先有一個(gè)大致判斷比如“會(huì)不會(huì)是這里循環(huán)次數(shù)太多”“會(huì)不會(huì)是某個(gè)字段沒(méi)初始化”然后再去設(shè)置斷點(diǎn)驗(yàn)證。如果完全沒(méi)有方向先用jstack和采樣工具縮小范圍再上 JDB。否則就是大海撈針。第二條件斷點(diǎn)雖然好用但性能開(kāi)銷不小。JVM 每執(zhí)行到斷點(diǎn)行都要計(jì)算一次條件表達(dá)式如果那一行在熱路徑上調(diào)試期間的性能會(huì)明顯惡化。我的做法是把條件寫(xiě)得盡量簡(jiǎn)單比如只比較一個(gè)整數(shù)或一個(gè)布爾值不要寫(xiě)復(fù)雜的字符串拼接或方法調(diào)用。第三monitor命令是容易被新手忽略的寶藏。它能把重復(fù)操作自動(dòng)化尤其適合查看多個(gè)請(qǐng)求連續(xù)進(jìn)入同一個(gè)熱點(diǎn)的情況。我在排查一批請(qǐng)求超時(shí)時(shí)就是用monitor where讓每個(gè)斷點(diǎn)自動(dòng)打棧然后連續(xù)觸發(fā)幾輪流量很快看出只有特定參數(shù)的請(qǐng)求會(huì)卡住。第四不要在重要環(huán)境中輕易嘗試不熟悉的 JDB 命令。調(diào)試器可以暫停線程、觸發(fā)方法調(diào)用甚至執(zhí)行redefine來(lái)修改類定義。這些操作在錯(cuò)誤的時(shí)間點(diǎn)上手可能造成線上進(jìn)程狀態(tài)異常。建議先在本地起一個(gè)最小 Demo把所有命令都過(guò)一遍再上真實(shí)環(huán)境。如果只能帶一條經(jīng)驗(yàn)走我會(huì)說(shuō)JDB 不是一個(gè)花哨的工具但它值得你在每個(gè) Java 工程里留一個(gè)印象。性能定位的最后一步往往就是從“大概知道哪里有問(wèn)題”到“確鑿看到問(wèn)題現(xiàn)場(chǎng)”的過(guò)程而 JDB 就是幫你完成這最后一步的工具。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
五月天久久婷婷| 婷婷情爱五月天6| 天天天天操| 99视频色在线观看| 97精品人人A片免费看| 春色激情第四色| 99热久久这里只有精品| 成人视屏在线观看| 另类专区在线观看| 久热播这里只有精品| 丁香五月天影院| 色婷婷久久综合久色综| 九九99精品视频在线观看| 另类天堂| 综合五月天完整| 久久大香免费| 99精品免费视频| 99精品这里只有免费视频| 99年操人人爽| 99色在线观看视频| 五月丁香六月婷婷综合免| 人妻丰满精品一区二区A片| 五月婷婷色播网| 色香蕉婷婷| 99免费在线| 9精品视频在线| 五月丁香激情综合| 丁香色综合| 日本免费91| 婷婷狠狠操| 婷五月丁香| 欧美色男人网站| 六月丁香五月天| 大香蕉Av在线| 国产欧美精品AAAAAA片| 激情99| 免费黄色视频网址| 日韩五月婷婷久久| 五月色综合| 五月丁香拍拍激情综合| 六月丁香色色色| A久久| 先锋av性爱成人电影| 色一情一乱一乱91Av| 99精在线| 天天爽天天| 婷婷在线播放av| 国产精品久久久久久久久久免费| 粉嫩av蜜桃av蜜臀av| 婷婷在线五月天观看| 日韩在线视频9色| 成人电影AV在线观看| 综合久久婷婷99| 亚洲六月婷婷| 91人人爽久久涩噜噜噜| www.日日日.com| 成人在线日韩欧美| 日韩AV免费| 丁香五月香蕉| 丁香五月香蕉| 丁香婷五月| 91丁香五月| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 天堂久久精品| 九九99香蕉在线视频播放| 专区无日本视频高清8| 色色亚洲视频| WWW,婷婷,COM| 丁香五月综合亚洲| 99丁香五月婷 | 色婷婷婷综合五月天| 丁香婷婷综合色五月激情国产基地| 五月停亭六月,六月停亭的英语| 激情五月婷婷色播网| 99色综合网| 丁香五月婷婷综合91| 丁香五月偷拍| 婷婷久热| 色偷偷综合| 91丁香五月| 五月天激情网页| 久久丁香五月婷婷| 欧美日比视频| av成人在线播放| 99热国品| 国产午夜精品一区二区三区四区| 91啪啪视频| 另类小说色婷婷| 国产六月婷婷| 天天草天天爱| 天天更新天天亚洲| 亚洲第一av| 极品少妇XXXX精品少妇偷拍| 婷婷久久久| 五月天社区婷婷丁香社区| 精久久色| 停停五月天激情网 | 丁香五月婷婷综合啪啪| Blackedraw视频一区二区| 亚洲精品亚洲人成人网| 色婷婷狠狠| 成人精品在线观看| 久草五月天| 欧美色97| 欧美影院婷婷| 成人AV在线电影| 九九综合| 五月婷婷六月天| 99热综合| 97在线刺激| 婷婷刺激综合| 婷婷五月电影院| 天天干电影| 丁香五月婷婷欧美成人色图| 91精品婷婷国产综合| 另类丁香综合| 热久国产| www久久99com| www.狠狠干| 色五月婷婷久久爱| 丁香五月 六月婷婷首页| 婷婷综合网伊人| 性婷婷| 色爱99| 久热2025无码| 亚洲 小说 欧美 激情 另类| 五月天影院| 五月天激情婷婷丁香| 激情综合五月.....| 欧美一区二区三区不卡影视| 六月色丁香中文字幕| 久久欧洲综合网| 激情小说婷婷五月| 婷婷五月色惰| 天天操天天曰| 婷婷五月欧美综合| 97超碰在线观看免费| 色 五月 天 婷婷 丁香 九月| 亚洲色碰| 天天爽天天操| 日本操B片| 人妻激情网| 99人妻碰碰碰久久久久视| 五月天婷婷激情在线色图| 欧美成人日韩| 99热乎| 色婷婷丁香五月天在线视频| 夜夜爽天操| 天天久综合| 综合网啪| 日日夜夜干| 九九热免费视频| 精品人妻在线免费观看| 日韩色色一区| 久久五月天合网| 天天操天天操天天操| 伊人婷婷五月天av| 99日本黄站| 99视频自拍| 大地9中文在线观看免费高清| 91九色PORNY肉丝在线| 五月婷婷影| 天天综合网在线| 欧美色综合天天久久综合精品| 狠狠爱深色婷婷综合| 婷婷激情五月天激情小说| 超碰在线免费9| 六月婷婷激情| 狠狠色噜噜色狠狠狠综合久久成人波| 91久久婷婷| 99热官网| 婷婷六月天天| 丁香五月激情婷婷激情| 色情久久久| 99热伊人| www.色情五月天.com| 99色天堂| 人人视频人人干人人做| 四川BBB搡BBB爽爽视频| 日本 欧美在线| 欧美激情丁香五月天久久婷婷一区| 五月天黄色激情小说| 婷婷五月天成人| 五月天激情国产综合婷婷| 我淫我色婷婷五月天激情四射| 激情综合网激情五月天| 色婷婷亚洲综合av| 亚洲激情五月婷婷日日| 五月99久久| 大香蕉婷婷| 色婷婷色| 婷婷丁香基地在线| 综合网激情| 99九九99九九九视频精品| 九九色逼| 99啪啪网| 人妻六月天| 婷五月丁香俺| 亚洲免费99| 激情五月婷婷| 五月天激情综合在线| 思思久热| 极品少妇XXXX精品少妇偷拍| 九九色逼| 色婷婷免费观看| 久色资源网| 五月天综合网| 九色无码| 五月天综合在线观看| 久操婷婷| 大香网伊人久久综合| 五月天 另类图片| 99热色精品| 涩涩婷婷五月| 五月天精品视频| 亚洲色综合| 99色久| 六月婷婷日| 五月婷婷欧美| 26uuu偷拍亚洲欧洲综合| 26uuu欧美亚洲日韩| 午夜五月天| bukadeavzaixian| 色婷婷六月综合| 激情五月天视频| www.无码com| 四色女婷婷| 狠狠色噜噜狠狠狠888| 日本精品干| 五月丁香六月香综合激情| 操人91| 中文字幕av久久爽一区| 99精品久久久久| 蜜臀av 粉嫩av 懂色av | 色婷婷狠狠| av无码电影| 久久婷婷五月综合伊人| 99精品久| 五月婷婷丁香瑟瑟视频| 白度黄视频| 天天操夜夜肏| 久久婷婷超碰| 亚洲亚洲永久无码777777| 日韩黄色中文字幕| 影音先锋人妻出差| 91av视频| 永久AⅤ1| 看逼中文字幕| 高清无码网址| 婷婷婷久久久| 激情人妻综合| 激情综合无码| 激情五月久久| 五月色情婷婷开心五月色情| 草草色情综合网| 久久成人综合五月天| 国产3p露脸普通话对白| 伊人婷婷五月| 日本在线wwww| 色综合中文| 三级毛片7979| 狠狠爱综合| 99热这里只有精品1025| 亚洲激情AV| 色狠狠综合| 91精品久久久久久77777| av久热| 亚洲AV成人片无码网站| 激情丁香婷婷五月天| 丁香六月综合| www婷婷亚洲| 欧美性猛交 XXXX 乱大交| 婷婷丁香视频在线观看免费| 91男同视频| 五月亭亭激情综合| 婷婷五月欧美| 色综合久久44| 六月婷婷网| 欧美丰满熟妇BBB久久久| 男人天堂亚洲综合| 久久成人亚洲欧美电影| 伊人婷婷色| 久久婷婷网站| 白人荫道BBWBBB大荫道| 天天日天天干天天天| 亚洲av午夜精品一区二区| 91视频综合网| 五月天五月色婷婷综合| 色婷婷色综合久久精品V| 五月婷婷激情综合视频| 国产97色在线| 精品成人无码A片观看香草视频| 五月天玖玖狠狠色色| 婷婷狠狠爱| 少妇性按摩无码中文A片| 99久.| www.婷婷五月天| 丁香色情五月综合网站| 97性视频| 精品香蕉99久久久久网站| 99色最新在线视频网站| 中文字幕在线资源| 色婷婷六月| 五月婷婷69| 丁香五月手机在线| 国产看真人毛片爱做A片| 色色色.COM| 久久与婷婷| 99热这里有精品| 婷婷色激情五月天| 色五月婷婷婷婷婷婷婷婷婷婷| 操人妻AV| 丁香六月婷婷综合| 开心五月深爱五月丁香五月激情五月| www,久久久| 无码激情AAAAA片-区区| 99色在线观看视频| 天天色天天噜| 成人在线精品| 成人精品网站在线观看| 色5月婷婷| 久久婷婷五月综合伊人| a色色色色色| 狠狠色婷婷丁香五月| 五月天成人综合| 97色伦另类图片小说视频| 99精品久久久久| 婷婷丁香六月天| 这里只有精品在线视频在线观看| 婷婷天天舔| 久久思思99| 大香蕉520| 人妻久久久久久| 99爱免费在线观看| 五月婷婷啪啪啪| 日韩黄在免| 超碰在线免费9| 丁香五月98| 四虎成人精品永久免费AV九九| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 色色综合色视频| 色婷婷啪啪综合网| 日本人妻伦在线中文字幕 | 五月色丁香成人| 色婷婷国产精品综合在线观看| 亚洲国产精品SUV| 婷婷五月色情| 激情五月婷婷六月丁香| 99久久综合网| 丁香香五月激情免费视频| 色玖玖玖| 奇米四色五月天| 青青青在线视频国产| 丁香五月色五月| 在热视频精品| 久热最新视频 | 婷婷五月亚洲激情| 伊人久久婷| 西西4r午夜剧场| 91丨九色丨43老版熟女| 日韩黄黄| 亚洲99综合| 色婷婷丁香| 99在线看片| 欧美狠狠一在草| 综合激情在线视频| 五月丁香六月婷婷久久肏| 91色五月在线观看| 9热网站| 丁香五月性| 日韩综合天堂| 色情五月天丁香社区| www夜夜操comwww| 精品人妻久久久| wwW天天干| 日本三级大片| 天天干,天天舔| 99免费热视频在线| 丁香六月色婷婷| 亚洲无码你懂的| 国产av网| 嫩草哈哈操| 婷婷五月天成人视频| 国产精品久久久久9999小说| 久草热8精品视频在线观看| 激情五月天视频| 色色色色色色色色综合网| 天天综合色丁香| 色综合伊人网| site:xiongshengzz.com| 98色花堂98t.R| 婷五月天六| 丁香婷婷综合喷| 日韩一级| 婷婷五月a| 无码一级片| 欧美成综合在线观看| 99操九九网| 91蝌蚪窝视频在线| 久久综合五月天激情小说网站| 丰满人妻妇伦又伦精品国产| 影音先锋自拍网| 天久综合91综合首页| 日逼AV影音先锋男人资源站| 日日噜噜夜夜狠狠久久丁香五月| 美女被操一区二区| 大香蕉人人网| 91九色中文字幕女在线观看| 99热这里只有精品1025| 婷五月天天| 思思99精品视频在线观看| 人人色性网| 四色 爱 婷婷 精品 亚洲 五月天| 337p午夜影院| 五月丁香六月婷婷的女人| 色婷婷狠狠18| 久久综合爱| 婷婷综合五月天| 无码人妻少妇色欲AV一区二区| 无遮挡国产高潮视频免费观看| 综合av在线| 人妻在线观看视频| 丁香五婷婷| 婷婷精品视频| www.狠狠色.com| 日日狠狠久久偷偷四色综合免费| 天天做天天爱天天爽| 另类 在线| 99热免| 五月天激情网站| 色综合激情图区| 色综合久久88色综合天天| 五月天婷婷AV| 五月天婷婷综合久久| 777久久综合视频| 丁香五月在线视频黑人| 97干综合网| 国产激情综合五月久久| 久热A片| 日本WWW九九九| 色婷婷WWW| 黄涩毛片| 99热99精品| 综合色99| 色婷婷五月成人网| 色五月xxx| 五月婷婷性| 九九九九国产| 激情网 久久| 69色婷婷| 亚洲激情丁香五月基地| 丁香五月婷婷大香蕉| 久久这里只有精品99| 9色91视频| 碰碰操91| 婷婷丁香五月天小说| 狠狠五月天| 天天骑天天操| 九九超日本| 丁香婷最新动态| 丁香五月婷婷欧美成人色图| 激情五月天婷婷五月天| 婷婷五月乱交换| 婷婷丁香五月天哟啪| 婷婷综合在线观看视频| 91超级碰碰| 超碰2021| 伊人五月天综合网| 日日噜狠狠色综合久| 人人爽天天爽| 婷婷色基地在线看 | 狠狠综合| 1024亚洲| 五月丁香婷中文字幕| 天天操夜夜操| 天天干天天日蜜臀av| 人妻人人操| 色婷婷丁香五月综合| 激情五月天影院| 亚洲久艹| 俺去也在线www色官网| 99精品亚洲| 免费99色| 色婷婷五月综合在线| 日韩人妻在线观看| 超碰在线播放免费观看| 99精品在线下载| 综合色久| 国产99久久久国产精品免费看| 91AV视频| 99热这里只有精品最新| 亚洲精品国产熟女久久久| 五月婷婷与六月丁香图片激情| 夜丁香五月婷婷| 天天操天天插| 成人看片网站| 欧美色99| 大香蕉九九热| 久久精品这里只有精品免费首页| 久久婷婷五月综合色区| 激情五月图| 91色五月| 草草影院爱爱| 狠狠狠夜夜夜| 丁香五月天堂婷婷| 五月婷庭丁香在线| 色色五月天婷婷| 丁香六月久久| 欧美日韩成人一区二区| 亚洲爱婷婷| 五月停停激情网| 成人做爰黄A片免费看直播室男男| 91超级碰碰碰| 综合大香蕉| 色欧美日| www.99热视频| 99热在线爱| 五月激情综合深爱| 国产精品成av人在线视午夜片| 欧美丁香六月在线观看视频| 欧美99热| 五月婷无码| 色噜噜狠狠色综无码久久合欧美| 99小视频| 久久99热这里只频精品6学生| 婷婷射丁香| 91九色国产熟女| 都市激情亚洲| 激情九色| 99re免费精品视频| 九九热在线99| 快乐婷婷五月天| 99热这里只有精品在线观看| 另类五月婷婷| 久久精品国产AV一区二区三区 | 五月激情开心婷婷| 爱iii做iiii日| 五月丁香婷婷伊人| 国产av第一专区| A久网| av五月丁香| 久久色情综合免费网站| 91久久色| 我爱大香蕉| 狠狠舔| 人妻人人操| 日本本土色网第一区| 欧美在线干| 丁香五月婷婷六月婷| 国产精品久久久爽爽爽麻豆色哟哟| 五月丁香五月激情综合色综合| 97在线观看| 可以直接看的AV网站| 99热最新国内| 可以免费观看的av| 成人在线网| 亚洲视频99| 五月激情丁香久久综合网| 亚洲无AV在线中文字幕| 色丁香五月天婷婷| 久久92| 综合久久99| 婷婷 激情 五月| 久操乱| 五月天最新网| 中文字幕在线日亚洲9| 日日夜夜狠狠| 五月天婷婷青青草| 婷婷网影院| 99热综合| 色婷五月| 五月丁香激| 五月丁香色婷婷| 欧美猛片| 狠狠色丁香婷婷久久综合| 亚洲天天操| 中文字幕日韩无码制服诱或| 激情色情五月天| www.婷婷五月| 99久久er| 91超级碰在线视频| 亚洲精品V天堂中文字幕| 丁香婷婷激情网站| 新97人人上人人| 国产精品日本一区二区在线播放| www.夜夜操.com| 国产成人+综合亚洲+天堂| 色爽干| 免费看成人747474九号视频在线观看| 激情综合女人网五月播播| 涩丁香| 99精品在线观看视频| 丁香五月 综合| 中文av在线观看| 五月丁香婷婷基地| 婷婷五月花丁香| 久久婷婷精品| 亚洲无码猫咪| 91狠狠综合久久久| 婷婷五月天影院| 五月婷无码| 日本久久99久久| 欧美 日韩 人妻 高清 中文| 六月久久婷婷| www.夜夜騎夜夜狠| 五月婷婷干干干| 日本nghangse中文字幕| 色999五月色| 激情综合网五月天| 玖玖九九99| 亚洲综合五月天婷婷丁香| 色婷婷成人色网| 久碰视频| 天天干天天操天天爽| 五月丁香六月婷婷在线小说视频| 黄色片精品| 操逼五月婷婷| 五月综合激情网| 天天射影院| 婷婷综合六| 26uuu青青| 欧美日韩五月婷婷| 国产毛片操B| 丁香五月天激情综合| 狠狠综合网| 久久99热精品a片在线观看| 丁香色婷婷| 五月丁了香蕉综合| 六月婷婷综合网2| 婷婷亚洲综合| 99久久网站| 五月亭亭狠狠| 99热只有精| 丁香六月激情综合网| 亚洲丁香花色| 婷婷五月电影| 欧美人人女女精品综合五月天| 久久您您综合网| 91chinese在线| 免费亚洲婷婷中文字幕| 99精品在这里| 色五月丁香伊人| WwW天天干| 久久狠狠高潮亚洲精品 天天摸夜夜摸夜夜狠狠摸 | 日韩久久这里只有精品| 99re这里只有精品国产99| 情色婷婷五月天| 国产精品岛国片在线观看免费| www.金莲av| 亚洲日韩一页精品发布| 能看的av| 狠色狠色综合久久| 激情五月天啪啪| 丁香婷婷精品视频| 丁香五月婷婷色| 91丨九色丨丰满人妖| 婷婷五月天丁香激情| 七七久久综合| 色婷婷狠狠18yy| co超碰在线观看| 精品一二三区久久AAA片| 91碰碰| 丁香五月天激情综合| 97色婷| 色欲av伊人久久大香线蕉影院| 久草热在线视频| 丁香色五月天| www.五月天婷婷| 五月天婷久精视频| 99热综合网| 久久这里只有精品热在99| 逼里香不卡| 五月丁香亚洲婷婷| 激情www| 噜噜狠狠色综无码久久合欧美| 丁香六月在线| 久久丁香五月| 操日视频| 九九Av| 欧美激情综合色综合啪啪五月| 色五月婷婷五月天| 激情五月激情综合网| 人妻AV在线| 国产欧美精品AAAAAA片| 日木WWW视频| 亚洲成人av中文| www.九九婷婷| 六月婷婷久久| AA丁香综合激情| www.激情五月天.com| 五月丁香 久久久| 五月丁香久久久| 九九爱激情| 婷婷爱五月天| 九九aV| 狠狠穞A片一區二區三區| 五月色综合| 操99| 双性美人被调教到喷水A片| 亚洲欧美在线观看| 色婷婷91激情小说| 久久伊人9| 99视频内射三四| 亚洲色欲欧美一区二区三区| 这里只有精彩亚洲视频推荐| 日日干日日| 狠狠干在线| 日韩黄在免| 午夜福利成人AV91| 五月婷婷黄色| 色婷丨日丨天丨综合久久| 狠狠干五月丁香综合网| 内射综合网| 亚洲五月天激情| 五月丁香六月停停停| 99伊人性爱在线影院| 就要爱综合| 麻豆五月丁香婷婷| 九九大香蕉黄色影院| 日本婷婷五月天| 人人摸人人干| 91一起操| 五月天色婷婷基地| 黄网免费看| 久久精品一区二区三区四区| 综合超碰熟| 天天爽在线视频| 丁香婷在线| 色婷婷大香蕉| 六月婷婷综合网2| 另类图片激情五月| www.日韩艹| 亚洲啪啪网| 99在线精品免费视频| 天堂亚洲 在线| 深爱丁香网| 欧美日本va| 日本五月婷婷| 91日综合欧美| 亚洲婷婷月丁香五月| 九九热只有这里精品| 婷婷综合在线观看视频| 久热大香蕉| 五月伊人91| 大香蕉婷婷色| 天天做天天摸| 亚洲精品99| 98色丁香五月婷婷综合网| 欧美丁香婷婷天天操| www,99热| 伊人激情AV一区二区三区| 色综合久久88| 五月天婷婷色小说| 婷婷五月天精品| 99在线免费视频播放| 丁香五月激情天AV无码| 色播播五月天| 日韩av变天就操逼不卡区| 久久综合五月天| 丁香五月综合在线观看| 99热这里只有精品9| 一月婷婷色色| 色噜噜狠狠插综合| 婷婷五月花| 伊人碰碰碰| 九九九九这里只有精品| 亚洲国产精品二二三三区| 亚洲AV网址| 色综合天天天天做夜夜| 丰满少妇猛烈A片免费看观看| 欧美图片丁香五月天| 五月香六月婷| 丁香五月花| 丁香五月婷婷久久综合激情网 | 狠狠干五月天| www.丁香六月婷婷久久天堂影院.con| 草草视频91| 色爱综合网| 九月色婷婷婷| 五月丁香久久久| 超碰99在线观看| 日韩亚洲视频| 婷婷色五月天第7色| 中文字幕在线日亚洲9| 玖玖99精品视频| 丁香婷婷五月基地| 亚洲网综合在线| 深情六月婷婷综合久久| 九九热九九| AV动漫不卡无码免费| 久久九九视频| 亚洲成人日韩无码精品| 五月天激情Av| 成人精品视频99在线观看免费| 激情五月天婷婷图| 色婷五月天| 国产三级片91| 色色日本欧美| 五月婷婷导航| 性色五月天| 区啪精品| 五月婷综合| 超级碰碰99| 婷婷激情五月天小说校园| 99婷五月| 巴基斯坦粉嫩无码视频| 亚洲综合色成丁香五月色| 这里只有精品99www| 无码人妻少妇色欲AV一区二区| 99色在线视频观看| www.久热| 天天做天天视天天谢| 五月激情站| 丁香六月啪| 丁香花五月天激情| www.超碰在线| 九热视频| 精品思思久久| 激情综合网色播五月| 开心婷婷五月花| 婷婷激情五月| 99精品视频在线| 婷婷 伊人 久久| 亚洲99在线| 怡红院精品视频久久久久久久久| 伊人玖玖婷婷| 丁香五月激情图片婷婷| 九九热在线99| 亚洲丁香婷婷丁香五月天激情| 深爱激情五月天色婷婷| 91偷拍视频| 亚洲国产网址| 免费看欧美成人A片无码| 在线视频你懂得| 五月丁香六月激情欧美综合| 69五月天视频| 免费黄色片子| 激情久久丁香| 人妻在线观看视频| 国产成人精品一区二三区熟女在线 | www.五月天婷婷| 成 人 色 色| 亚洲色五月天在线| 久久99综合| 91精产一区三区免费观看| 日操夜操天天操不卡| 狠狠操狠狠爱| 1024国产| 婷婷色五月婷| 天天色,天天日,天天做| 亚洲AAA| 五月天无码| 9999三级片| 大香蕉人人网| 天天操天天插天天射| 国产成人精品一区二区三区视频| 99久在线精品99re8热| 激情爱爱网站超大免费| 久久婷婷六月综合| 99久久精品网| 丁香婷婷综合五月天| 九九五月天| 婷婷射图| 激情綜合網址| 成人AV在线电影| 99在线精品观看99| 免费国产视频| 五月丁香六月婷| 激情五月婷婷综合| 国产色色色色| 色五月综合激情| 九九热这里只有精品31| 亚洲色域网| 日韩一区二区三区无码| 国产激情综合五月| 五月丁香久久网| 色情综合网| 67194国产| 久久xxxx| 99ri精品视频在线观看| 丁香六月激情四射| 五月丁香欧美综合| 在线天堂9| 欧美图片丁香五月天| 波多野结衣AV无码Porn| 色婷婷情片| 免费AV在线网址| 大香蕉人人网| 99在线热视频| …亚洲黄色在线播放日韩、av中文a…| 性爱七区| 性热视频99精品| 色五月婷婷影院| 久9热视频在线观看| 成人丁香色| 久久女人天堂| 中文字幕在线观看视频www| 色婷婷基地| 中文网AV| 99热精品少| 五月丁香WWW| 亚洲第精品| 婷婷五月精品中文字幕| 毛片毛片毛片毛片| 99精品大片| 激情婷婷六月天| 五月色综合| 亚洲欧洲国产精品| 操91| 99在线免费视频| 热91久| 性爱技巧五月| 婷婷五月天首页激情| 99精品97| 九九九九国产| 狠狠狠婷婷五月综合| 五月天婷婷激情干干| 五月婷婷丁香五月婷婷| av五月天婷婷丁香| 伊人色综合网| 婷婷色丁香五月| 五月亭亭开心网| 99视频| 五月丁香六月停停停| 婷婷 丁香 久久| 久久五月网| 深爱五月激情综合| 婷婷之六月丁香| 开心五月网 | 国产精品人成A片一区二区| 99五月香婷婷丁香在线视频| 91VIP在线观看| 91干在线| 亚洲成人色五月天| www.六月丁香看AV| 色停停五月,在线观看| 亚洲六月婷婷| 六月丁香五月婷婷| 亚洲182在线观看| 小色小蛇伊人婷婷色香五月| 色激情综合| 就爱操www com| 亚洲色情网站| 96精品久久久久久久久| 亚洲激情久久| 婷婷天堂伊人| 激情爱爱网站| 色爱99| 五月婷精品| 婷婷欧美综合| 777影视理论片大全在线观看 | 婷婷丁香在线| 久热精彩视频98| 99精品热视频| 五月丁婷婷| 五月天色五月| 丁香六月激情| 五月天大香蕉视频| AV九九| 亚洲色vA| 婷婷五月激情欧美| 亚洲亚洲人成综合网络| AVV黄| 性色播| 99无码黄色视频| 五月天精品视频| 91re色综合视频| 成人一级片| 日夜夜天天| 99福利导航| 亚洲网在线观看| 97人人搞| 国产高清RV综合aVa| 丁香五月影视| 日韩乱轮AV| 91avse| 五月天激情.com| 色色综合网站| 五月天另类小说久久小说网| 91色五月| 99热的无码| 丁香六月五月天| 无码人妻一区二区一牛影视| 久思思热视频在线观看| 五月天婷婷激情在线色图| 婷婷伊人网| 国产操肏网站| 思99热精品久久只有精品| 996热re视频精品视频| 欧美色男人网站| 色综合丁香| 华人在线免费| 综合色播| 丁香婷婷综合激情五月色| 激情丁香五月激情婷婷| 日韩综合天堂| 色综合播放| 夜夜操夜夜爽| 91丨九色丨熟女丰满| AV大片在线播放| 久久激情五月| 六月丁香五月天| 青草青草视频2免费观看| 天天射天天干天插色综合| 日本熟女内射| 久久五月综合| 五月婷婷深深爱| 亚洲激情免费视频| www久久久| 综合久久影院| 五月情色天| BBWCUCKOLD精品熟妇 | 超碰A V在线| www..com色爱| 婷婷久久综合| 激情熟女网| 婷婷五月丁香六月天亚洲综合| 午夜丁香婷婷| 先锋资源91| 亚洲va欧洲va国产va不卡| 99热在线观看| 婷婷色色五月天| 99热官网| 97操碰日本女人| 天天干,噜噜色,狠狠色| 五月婷婷婷婷| 欧美天堂久久| 天天干天天操天天拍| 丁香花社区av| 亚洲avjiujiur91| 婷婷五月香蕉| 久婷首页| 玖玖资源站蜜臀| 色色三级视频| 这里只有在线精品| 天天做夜夜爽| -91九色大屁股| 婷婷五月丁香超碰| 日韩AV中文字幕在线| 亚洲性色XXXXX| 嫩BBB槡BBBB搡BBBB| 五月婷婷免费在线| 五月婷婷欧美| 九九热99视频在线| 99亚洲视频| 婷婷激情五月天激情小说 | 婷婷五月丁香六月| 大香蕉精品视频| 婷婷综合视频| 老妇操B| 色综合久久88色综合天天99| 色婷婷91激情小说| 这里只有精品69| 激情综合丁香六| 深爱开心五月天| 人妻丰满精品一区二区A片| 久久久久久久五月婷婷六月丁香综合,开心激情综合网 | 伊人在线视频| 婷香狠狠爱五月| 2025色婷婷| 日韩AV在线免费| 九九色热视频| 中文不卡av| 99久久久国产精品免费蜜乳tv| 狠狠精品干练久久久无码中文字幕| 综合激情网五月激情| 激情五月丁香五月| 激情五月图| 色婷婷亚洲婷婷| 亚洲AV激情五月综合网| 免费观看18视频网站| 五月婷庭丁香在线| 久久人妻熟女一区二区| 五月婷婷丁香大陆免费| 丰满少妇猛烈A片免费看观看| 夜夜天天天天天干天天爽| 51精品国自产在线| 小视频一区| 亚洲岛国电影| 美国色五月天婷婷资源站| 超爽内射| 五月婷在线| 欧美激情综合色综合啪啪五月| 色婷婷免费观看| www.色婷婷| 4399成人黄A片| 狠狠va| 色五月天婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷 | 丁香五月在线伊人| 少妇高潮呻吟A片免费看软件| 丁香五月天婷婷久久综合| 亚洲综合网在线| 婷婷色五月综合| 婷婷丁香综合| 26uuu精品一区二区| 丁香五月性| 99热综合| 色性日本| 综合超碰熟| 婷婷欧美综合| 国产乱码久久| 欧美性生交XXXXX无码小说| 丁香五月天成人| 日本少妇AA一级特黄大片| 久久婷婷综合国产| 五月天婷婷色在线视频免费观看| 久久九九99| 丁香五月综合在线播放 | 99色综合网| 99久久人妻精品无码二区| 久久人妻高清中文| 亚洲婷婷丁香五月| 99精品自拍视频| 婷婷在线观看五月天在线视频| 无码人妻精品一区二区蜜桃色欲 | 五月激情六月综合| 日日夜夜青青草| 最新日韩AV中文字幕| 成人免费在线电影| 久热只有这里有精品| 字幕网AV中文字幕| 日韩AAAAA| 91一起操| 桃色成人网| 丁香五月香蕉| 四色永久成人网站| 亚洲12p| 五月开心久久| 丁香色婷婷| 色色色色丁香| 九九大香蕉黄色影院| 熟女婷婷网站一婷婷五月一丁香婷婷一婷婷激情网 | xxxx五月激情| 国产精品色婷婷99久久精品| 精品乱码视频| 大香蕉久久青青| 26uuu国产| 综合丁香婷婷五月天| 超碰九热| 五月丁香色色| 视频这里只有精品16| 亚洲成片在线观看| 久久精彩免费视频| 五月婷婷在线观看| 99热在线精品播放| 嫩草AV久久伊人妇女超级A| 99精品福利视频| 2015好吊操| 色婷婷亚洲综合天堂| 久久99久久久久久| 激情婷婷六月| 色射影院| 婷婷婷婷午夜| 日本在线视频播放91| 五月丁香六月婷婷亚洲激情综合| 91精品丝袜久久久久久久久粉嫩| 五月天激情丁香| 婷婷五月天六点丁香五月| 色婷丁香| 婷婷五月丁香四射| 五月天婷婷视频| 婷婷综合色播网| 久久婷婷五月天激情新地址| 91/九色黑人| 激情五月丁香婷婷| 精品久久久人妻| 99视频久久免费视频| 亚洲成片在线观看| 乱精品一区字幕二区| 五月天激情网站| 天天拍夜夜爽| 亚洲成人影视在线观看| 9视频在线成人网站| 99精品久久| 欧美日韩AAAA| 色波激情五月天| 青青草原伊人网| 变态 另类 在线 | 噜噜噜噜在线| 99视频精品| 中文成人在线| 国产成人精品一区二三区熟女在线 | 97狠狠色| 无码 色| 免费精品66| 伊人色综合影院视频| 色在线免费观看| 激情网五月天| 久久婷婷久久| 99热这里只有精品最新地址获取| 永久思思热在线| 久人操| 精品一区久热| 久久五月综合| 久99视频在线观看| 人妻操逼视频| 丁香五月激情六月综合| 99视频精品全部免费看| 久久图色4| 激情网 久久| 欧美激情综合色综合啪啪五月| 天天综合久久| 思思 热 99| 色五月婷婷激情五月| 天天爽在线视频| www久久艹| 就爱日五月天| 国产精品人成A片一区二区| 91久久1118| 国产精品色| 亚洲色色香蕉| 人人干Av| 六月色婷婷欧美| 99re在线视频精品,这里只有精品18,| 五月天丁香婷婷社区| 婷婷五月综合基地| 最近中文字幕2019视频1| 色综合99| 狠狠丁香| 热五月婷婷| 能看的av网站| 欧美色爱五月天| 人人看人人要| 春色激情第四色| 五月激情丁香久久综合网| 级情九色| 在线观看996精品| 久久免费试看120秒| 大鸡巴伊人网| 伊人99久久| 丁香五月五月婷婷欧美大香蕉 | 免费看成人747474九号视频在线观看| 97超级免费无码| 99久操视频| 色青青电影色五月| 精品国产乱码久久久久久免费| 亚洲综合婷婷| 五月天婷婷久久视频| 91婷婷| 六月婷婷激情| 婷婷性爱网| 色5月婷婷色| 五月丁香婷草| 五月丁香六月婷婷久久肏| 五月天色区| 另类激情首页| 色色色色色网| 婷婷激情综合| 人人干av| 日本va欧美va欧美精品88| 五月天婷婷爱| 五月婷婷六月丁香综合| 婷婷色五月综合| 婷婷日日夜夜| 六月丁香社区| 婷婷精品性视频| 天天插天天插天天插天天插| 国产综合网在线| 婷婷丁香人妻天天爽| 激情综合五月开心狠狠| 激情图片五月天| 99只有精品| 99色精品| 九色婷婷| 天天爽天天操| 天天色情站|