99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Arthas實(shí)戰(zhàn):Java線上問題排查利器,無需重啟即可診斷JVM

Arthas實(shí)戰(zhàn):Java線上問題排查利器,無需重啟即可診斷JVM 真香定律放在技術(shù)圈一樣適用。以前總覺得線上排查問題靠日志、靠監(jiān)控、靠人肉加日志就夠用了直到真正把 Arthas 用起來才發(fā)現(xiàn)以前那些操作有多繞。Arthas 是一個(gè)開源的 Java 診斷工具不用改代碼、不用重啟服務(wù)可以直接 attach 到正在運(yùn)行的 JVM 進(jìn)程上實(shí)時(shí)查看類加載情況、方法出入?yún)?、調(diào)用棧、線程狀態(tài)、JVM 指標(biāo)還能反編譯和在線熱更新。它專門解決一類問題線上偶發(fā)、日志不全、無法本地復(fù)現(xiàn)、一重啟現(xiàn)場就沒了。無論你是后端開發(fā)、維護(hù)過老項(xiàng)目還是正在被“線上 bug 怎么都復(fù)現(xiàn)不了”折磨這篇文章都值得花十分鐘讀完。1. 為什么說它是排查線上問題的“真香”工具1.1 傳統(tǒng)排查方式的三座大山先聊聊大家最熟悉的排查流程。遇到線上故障第一反應(yīng)通常是翻日志。但日志工具抄出來的往往是“結(jié)果”不是“過程”很多關(guān)鍵參數(shù)、臨時(shí)變量、調(diào)用時(shí)序根本不存在。如果日志里什么都有那問題可能早就被監(jiān)控平臺發(fā)現(xiàn)了現(xiàn)實(shí)往往是日志不夠、不夠細(xì)、沒有參數(shù)上下文。接著你會想本地復(fù)現(xiàn)把線上數(shù)據(jù)導(dǎo)出來構(gòu)造請求打一遍結(jié)果發(fā)現(xiàn)本地怎么都復(fù)現(xiàn)不出來。因?yàn)椴l(fā)量、緩存狀態(tài)、時(shí)鐘順序、臟數(shù)據(jù)都可能影響最終結(jié)果本地環(huán)境永遠(yuǎn)只是線上環(huán)境的一種近似。最后一招是加日志重啟改一行 log.info編譯打包發(fā)版等流量進(jìn)入再看日志這中間耗時(shí)少說半小時(shí)多則幾個(gè)小時(shí)而且頻繁重啟會讓現(xiàn)場被破壞流量重放也未必能還原問題。這三座大山我相信每個(gè)后端都經(jīng)歷過。Arthas 恰好能繞開它們不需要提前埋點(diǎn)因?yàn)樗茉谶\(yùn)行時(shí)直接查看真實(shí)出入?yún)⒉恍枰磸?fù)發(fā)布因?yàn)樗苯硬僮鳟?dāng)前進(jìn)程不需要靠猜因?yàn)樗馨颜{(diào)用路徑和方法執(zhí)行細(xì)節(jié)攤開給你看。用過一次之后你會真心覺得“真香”。1.2 原理attach 與字節(jié)碼增強(qiáng)要理解 Arthas 為什么能做到這些得先知道它的原理基礎(chǔ)。Arthas 本質(zhì)上利用了 Java 的 attach 機(jī)制和字節(jié)碼增強(qiáng)技術(shù)。attach 是 JDK 提供的一種能力允許一個(gè) JVM 進(jìn)程運(yùn)行時(shí)連接另一個(gè) JVM 進(jìn)程并通過 Agent 方式執(zhí)行操作。字節(jié)碼增強(qiáng)則是在類加載或運(yùn)行時(shí)對已經(jīng)加載的類做動(dòng)態(tài)修改在方法執(zhí)行前后插入攔截邏輯相當(dāng)于給方法裝上一套“臨時(shí)探針”。這套探針是臨時(shí)的JVM 一重啟就沒了不會影響原有邏輯。原理本身在 Java 生態(tài)里不算多新鮮但真正難的是把這一套能力封裝得好用做成命令行交互式的產(chǎn)品。Arthas 做到的正是這一點(diǎn)從啟動(dòng)到使用幾乎不需要在應(yīng)用代碼里增加任何依賴這對排查場景來說是極大的優(yōu)勢。1.3 什么時(shí)候該想到用它很多人問什么場景下 Arthas 才是剛需。我的判斷標(biāo)準(zhǔn)很簡單只要你遇到“日志看不出來、重啟代價(jià)高、需要確認(rèn)運(yùn)行期狀態(tài)”這三個(gè)條件中的兩個(gè)就該考慮它。典型場景包括接口耗時(shí)突然變長、CPU 飆升、線程池被打滿、緩存數(shù)據(jù)異常、灰度環(huán)境某個(gè)請求表現(xiàn)不一致、老項(xiàng)目沒有源碼無法重新編譯。這里有一個(gè)容易被忽略的點(diǎn)Arthas 不是只給“救火”用的。在正常的壓測、聯(lián)調(diào)、性能分析階段也可以主動(dòng)用它。我經(jīng)常在壓測時(shí)開著 dashboard一邊加壓一邊觀察線程池大小、GC 頻率和熱點(diǎn)方法比事后看測試報(bào)告直觀得多。因?yàn)樗皇菑慕y(tǒng)計(jì)數(shù)據(jù)里做推測而是直接從運(yùn)行中的 JVM 里拿事實(shí)。1.4 為什么團(tuán)隊(duì)?wèi)?yīng)該統(tǒng)一學(xué)習(xí)Arthas 這類工具個(gè)人會用和團(tuán)隊(duì)都會用的效果差別很大。一個(gè)人掌握遇到問題只能是他上團(tuán)隊(duì)都掌握任何值班的人都能快速定位初級問題不用每次都把核心開發(fā)叫起來看服務(wù)器。我見過不少團(tuán)隊(duì)把 Arthas 列為后端必修技能要求每個(gè)人至少掌握 dashboard、thread、watch、trace 四個(gè)命令的基本用法我覺得是非常務(wù)實(shí)的做法。2. 上手必須先掌握的 6 個(gè)高頻命令命令速查表先放在前面后面會逐個(gè)細(xì)講命令用途典型場景dashboard全局面板CPU、內(nèi)存、GC、線程狀態(tài)一眼看全watch觀察方法出入?yún)⒋_認(rèn)參數(shù)是否正常、異常在哪拋出trace方法調(diào)用鏈耗時(shí)定位慢請求卡在哪個(gè)子調(diào)用thread線程分析CPU飆高、死鎖、線程阻塞jad反編譯看線上實(shí)際運(yùn)行的代碼mc redefine熱更新緊急修復(fù)后臨時(shí)止損2.1 啟動(dòng)與選擇進(jìn)程java -jar arthas-boot.jarArthas 的使用路徑非常直接。第一步下載 arthas-boot.jar放到服務(wù)器某個(gè)目錄下執(zhí)行java -jar arthas-boot.jar啟動(dòng)后它會自動(dòng)列出當(dāng)前機(jī)器上所有 Java 進(jìn)程輸入序號就能 attach。如果想跳過交互直接選進(jìn)程可以在后面直接加 PIDjava -jar arthas-boot.jar 1234512345 是目標(biāo)進(jìn)程的進(jìn)程號。剛上手時(shí)我建議大家執(zhí)行 help 看看當(dāng)前版本支持的命令列表因?yàn)椴煌姹局g命令細(xì)節(jié)會有差異老是照著老資料敲容易踩坑。有一個(gè)小細(xì)節(jié)Arthas 本身運(yùn)行需要 JDK但需要 attach 的目標(biāo)進(jìn)程不一定要用 JDK 啟動(dòng)部分 JRE 環(huán)境也可以兼容。不過實(shí)際部署中建議用和運(yùn)行環(huán)境同一版本的 JDK 去啟動(dòng) Arthas 客戶端減少無謂的兼容性問題。attach 成功后會進(jìn)入交互終端提示符變成$所有命令都在這里輸入。2.2 dashboard 一眼看全局attach 成功后的第一個(gè)建議命令是 dashboard。它會實(shí)時(shí)刷新一個(gè)面板展示 CPU 占用率、內(nèi)存使用、GC 次數(shù)、線程狀態(tài)分布、每個(gè)線程的 CPU 消耗等信息。這等于給 JVM 裝了一個(gè)實(shí)時(shí)監(jiān)控屏幕打開它就能快速判斷問題在哪一層是 CPU 整體打滿還是內(nèi)存上漲觸發(fā)頻繁 GC還是某個(gè)線程卡死。初次使用的人容易被大量指標(biāo)淹沒我一般只看四樣?xùn)|西最上面的 CPU 使用率、內(nèi)存區(qū)域變化、GC 頻率、線程狀態(tài)里 BLOCKED 和 WAITING 的數(shù)量。如果 GC 頻率異常優(yōu)先排查堆內(nèi)存和對象分配如果有大量 BLOCKED 線程優(yōu)先找鎖競爭。面板是持續(xù)刷新的按 q 可以退出回到交互終端。2.3 watch 查看入?yún)?、返回值和異常watch 是線上排查使用頻率最高的命令沒有之一。它的作用是對指定方法觀察當(dāng)方法被調(diào)用時(shí)打印出入?yún)ⅰ⒎祷刂祷蛘弋惓P畔?。watch com.example.order.OrderServiceImpl createOrder {params, returnObj, throwExp} -x 2這條命令的意思是觀察 OrderServiceImpl 類的 createOrder 方法當(dāng)它執(zhí)行時(shí)打印入?yún)ⅰ⒎祷刂岛彤惓ο笄短渍归_深度 2 層。這里用了 OGNL 表達(dá)式用單引號包裹內(nèi)置變量包括 params 數(shù)組、returnObj 和 throwExp。我第一次用 watch 排查問題時(shí)整個(gè)人的感覺就是開了天眼。以前要加日志重新發(fā)版才能看到的參數(shù)現(xiàn)在直接在當(dāng)前進(jìn)程里實(shí)時(shí)看到而且可以臨時(shí)加條件只觀察特定用戶或特定業(yè)務(wù)類型watch com.example.order.OrderServiceImpl createOrder {params[0]} params[0].userId 10086 -x 3條件表達(dá)式寫最后返回布爾值只有滿足條件才打印。這樣在流量大的接口下看不會被無關(guān)請求刷屏。2.4 trace 定位方法耗時(shí)分布如果說 watch 解決的是“參數(shù)對不對”trace 解決的就是“時(shí)間花在哪”。它會輸出指定方法的調(diào)用鏈路上每個(gè)子方法的耗時(shí)自動(dòng)計(jì)算總耗時(shí)和每個(gè)節(jié)點(diǎn)耗時(shí)執(zhí)行效果類似一棵調(diào)用樹trace com.example.order.OrderServiceImpl createOrder命令執(zhí)行后目標(biāo)方法一旦被調(diào)用你會看到類似下面的輸出---createOrder() # 總耗時(shí) 823ms ---checkStock() # 56ms ---deductBalance() # 720ms ---sendMessage() # 47ms順著耗時(shí)最大的節(jié)點(diǎn)繼續(xù)往下 trace逐層鉆取就能鎖定真正慢的底層方法。這個(gè)過程就像剝洋蔥把慢請求一層層拆到最小執(zhí)行單元。有一點(diǎn)要提醒trace 是通過字節(jié)碼增強(qiáng)實(shí)現(xiàn)的它只增強(qiáng)執(zhí)行命令之后發(fā)生的調(diào)用歷史調(diào)用不會回溯。所以想抓到想要的 trace 結(jié)果必須讓目標(biāo)請求再進(jìn)來一次。如果接口觸發(fā)頻率低可以配合定時(shí)任務(wù)或者手動(dòng)打一個(gè)測試請求。2.5 thread比 jstack 更實(shí)用的線程分析很多同學(xué)排查線程問題只會 jstack但 jstack 一下輸出大量線程棧分不清哪個(gè)線程才是問題源頭。Arthas 的 thread 命令可以直接按 CPU 消耗排序這個(gè)能力非常實(shí)用thread -n 3它會打印出 CPU 占用最高的 3 個(gè)線程同時(shí)帶上對應(yīng)線程棧。對比 jstack 還得自己去數(shù)線程 ID、對應(yīng) 16 進(jìn)制換算效率高了一個(gè)量級。它還能直接查死鎖thread -bFound one Java-level deadlock: thread-1: waiting to lock monitor ...thread -b會直接輸出檢測結(jié)果和相關(guān)線程棧不用再從 jstack 輸出里手工解析 Locked ownable synchronizers。如果需要看指定線程可以帶線程 ID 精確查看這個(gè)在分析阻塞場景時(shí)很管用。2.6 jad mc redefine 實(shí)現(xiàn)在線熱更新這一組命令要謹(jǐn)慎使用但在緊急情況下非常救命。jad 用于反編譯已加載的類可以看線上運(yùn)行的真實(shí)代碼而不是本地倉庫里可能已經(jīng)過期的版本mc 是內(nèi)存編譯基于 jad 查看后的源碼在內(nèi)存里重新編譯redefine 是把編譯好的字節(jié)碼替換到運(yùn)行中的 JVM 里。jad --source-only com.example.order.OrderServiceImpl /tmp/OrderServiceImpl.java mc /tmp/OrderServiceImpl.java -d /tmp redefine /tmp/com/example/order/OrderServiceImpl.class熱更新最典型的使用場景是線上有 bug 需要臨時(shí)改一行邏輯發(fā)布流程要走審批這時(shí)先用 Arthas 做臨時(shí)修復(fù)讓服務(wù)先恢復(fù)然后馬上走正規(guī)發(fā)布。要注意這個(gè)操作不會改磁盤上的 class 文件也不會寫回 jar 包服務(wù)一重啟就失效。而且不是所有代碼都能熱更新成功增加類、改變方法簽名的場景通常會失敗。3. 實(shí)戰(zhàn)從幾個(gè)真實(shí)故障看 Arthas 的實(shí)際用法3.1 場景一CPU 飆高快速定位到正則災(zāi)難性回溯我先講一個(gè)最常見的 CPU 100% 問題。某服務(wù)在活動(dòng)流量上來后CPU 使用率持續(xù)接近滿核業(yè)務(wù)方反饋接口響應(yīng)很慢。按老辦法先看 top 找到進(jìn)程 PID然后 jstack 導(dǎo)出線程棧再做 16 進(jìn)制轉(zhuǎn)換找到對應(yīng)線程整個(gè)過程相當(dāng)繁瑣。用 Arthas 的流程會快很多。attach 之后先執(zhí)行 dashboard整體看一眼 CPU 和線程狀態(tài)當(dāng)時(shí)很明顯看到幾個(gè)線程占用 CPU 非??鋸垺H缓髨?zhí)行thread -n 5它直接給出了 CPU 最高的 5 個(gè)線程及其調(diào)用棧。我看到一個(gè)線程棧反復(fù)停在同一個(gè)業(yè)務(wù)方法里跟進(jìn) trace 這個(gè)方法發(fā)現(xiàn)內(nèi)部有一段非常復(fù)雜的字符串正則匹配在特定輸入下觸發(fā)災(zāi)難性回溯CPU 全部耗在了正則引擎內(nèi)部。定位過程前后不到五分鐘全程沒有重啟服務(wù)。定位到原因之后我用 jad 反編譯出當(dāng)前代碼把正則邏輯臨時(shí)替換成樸素的字符串前綴匹配通過 mc 和 redefine 熱更新到線上進(jìn)程服務(wù)立刻恢復(fù)。這個(gè)案例給我的最大感觸是CPU 飆高和接口慢本質(zhì)上都是“定位問題”的效率問題。只要能看到線程在干什么排查時(shí)間就能從小時(shí)級縮短到分鐘級。3.2 場景二接口偶發(fā)超時(shí)trace 逐層揪出隱藏阻塞另一個(gè)案例是某接口偶發(fā)超時(shí)頻率不高大概每天幾次。這種偶發(fā)問題最折磨人日志里偶爾看到超時(shí)但不知道卡在哪個(gè)環(huán)節(jié)。我先用 watch 看接口入?yún)l(fā)現(xiàn)超時(shí)請求和正常請求的參數(shù)沒有明顯區(qū)別于是改用 trace 觀察調(diào)用鏈路。第一次 trace 還沒有抓到超時(shí)等了差不多十幾分鐘才有一次超時(shí)出現(xiàn)。這次 trace 輸出里接口方法總耗時(shí)接近 3 秒其中一個(gè)下游 RPC 調(diào)用的子節(jié)點(diǎn)耗時(shí)占 2.5 秒其他子節(jié)點(diǎn)都只有幾十毫秒。順著這個(gè)異步下游繼續(xù)往下定位最后發(fā)現(xiàn)是某個(gè)配置中心客戶端的刷新邏輯在特定時(shí)刻阻塞導(dǎo)致請求串行等待。這個(gè)例子想說明一個(gè)關(guān)鍵點(diǎn)很多偶發(fā)問題根本不體現(xiàn)在業(yè)務(wù)日志里因?yàn)闃I(yè)務(wù)代碼里沒有打印每一次下游調(diào)用的耗時(shí)明細(xì)。Arthas 的運(yùn)行時(shí)觀察能力等于給線上系統(tǒng)裝了一臺顯微鏡它能把正常日志看不到的細(xì)節(jié)全部拉到眼前。3.3 場景三驗(yàn)證修復(fù)方案不用發(fā)布就能試還有一種很常見的用法不是緊急救火而是驗(yàn)證方案。曾經(jīng)有一個(gè)灰度問題我們懷疑是某個(gè)枚舉映射導(dǎo)致數(shù)據(jù)錯(cuò)亂但不敢完全確定。改代碼發(fā)布會話成本高而且如果改完還是錯(cuò)的等于白折騰。我先用 jad 反編譯出線上實(shí)際運(yùn)行的類確認(rèn)枚舉字段順序和本地代碼不一致這是一個(gè)非常關(guān)鍵的信息。因?yàn)楸镜卮a經(jīng)過多次迭代線上的 class 可能已經(jīng)和 git 分支對不上。確認(rèn)問題后我在本地改好用 mc 和 redefine 熱更新到灰度進(jìn)程再跑一次請求問題復(fù)現(xiàn)時(shí)已經(jīng)不出現(xiàn)了這才放心走正式發(fā)布流程。很多人擔(dān)心熱更新有副作用。我的經(jīng)驗(yàn)是先在測試環(huán)境或灰度環(huán)境做驗(yàn)證確認(rèn)無誤后再對生產(chǎn)操作操作完成之后立刻用 watch 或重新發(fā)一次請求確認(rèn)行為符合預(yù)期。熱更新在 JVM 層是支持的但生產(chǎn)環(huán)境的變更仍要符合團(tuán)隊(duì)變更流程最好有同事在場一起確認(rèn)至少留一條操作記錄。4. 常見問題與排查技巧實(shí)錄4.1 attach 不上目標(biāo)進(jìn)程怎么辦我遇到最多的問題是 attach 失敗報(bào)錯(cuò)或者列不出進(jìn)程。這里有一個(gè)速查表基本覆蓋我遇到過的原因常見原因現(xiàn)象處理建議用戶權(quán)限不一致attach 時(shí)報(bào)錯(cuò)或無權(quán)限切換成目標(biāo)進(jìn)程同一用戶啟動(dòng)/tmp 空間滿了attach 后立刻異常退出清理 /tmp 下臨時(shí)文件目標(biāo)進(jìn)程已退出進(jìn)程列表里找不到用 jps 確認(rèn)進(jìn)程狀態(tài)端口被占用telnet 連接失敗指定新端口啟動(dòng)Linux 下 attach 有權(quán)限限制最好用和目標(biāo)進(jìn)程相同的用戶操作。Arthas attach 時(shí)會在 /tmp 寫臨時(shí)文件空間不足會導(dǎo)致各種奇怪問題。如果還是不行可以在啟動(dòng) arthas-boot.jar 時(shí)帶上--telnet-port和--http-port參數(shù)換兩個(gè)沒被占用的端口很多端口沖突的問題就解決了。4.2 對線上服務(wù)的影響到底有多大這是每個(gè)初次接觸的人都會問的問題。字節(jié)碼增強(qiáng)確實(shí)會帶來一些性能開銷但實(shí)際影響通常很小。我的實(shí)測經(jīng)驗(yàn)是在常規(guī)業(yè)務(wù)方法上開啟 watch 或 trace單次調(diào)用的額外開銷在幾毫秒以內(nèi)對整個(gè)請求來說幾乎感知不到。但如果是對超級熱點(diǎn)方法開 trace比如某個(gè)每秒調(diào)用上萬次的基礎(chǔ)工具方法開銷就會放大。這種基礎(chǔ)方法被所有上層業(yè)務(wù)調(diào)用攔截和記錄的成本會被放大到不可忽略。我的建議是精準(zhǔn)選擇目標(biāo)方法不要對整個(gè)包路徑做通配觀察觀察期間留意 dashboard 的 CPU 變化如果發(fā)現(xiàn)明顯升高立刻縮小范圍或者停掉觀察命令。4.3 權(quán)限控制不能忽視Arthas 很強(qiáng)強(qiáng)到可以隨時(shí)查看進(jìn)程內(nèi)數(shù)據(jù)、修改運(yùn)行中的代碼所以它也是一把雙刃劍。在團(tuán)隊(duì)里使用至少要做到三件事控制在指定的運(yùn)維和開發(fā)人員范圍內(nèi)使用不要全員開放服務(wù)器權(quán)限生產(chǎn)環(huán)境使用前提前申請臨時(shí)權(quán)限并記錄操作原因操作完成后及時(shí)退出交互終端不要長期掛著會話。有些團(tuán)隊(duì)會把 Arthas 封裝成內(nèi)部平臺通過 Web 界面暴露受限接口避免開發(fā)人員直接登錄服務(wù)器亂敲命令。我比較認(rèn)可這種思路能力強(qiáng)大和可控并不矛盾。安全這塊做到位工具才能長期用下去。4.4 部分命令在生產(chǎn)環(huán)境不可用跟具體 JDK 版本相關(guān)的問題也值得關(guān)注。某些 JDK 版本下 jad 反編譯可能不完美尤其是涉及 Lambda 表達(dá)式或者動(dòng)態(tài)代理生成的類時(shí)反編譯結(jié)果會讓人看得很困惑。redefine 的限制更多對新增成員變量、改變方法簽名這類結(jié)構(gòu)性變更通常不支持強(qiáng)行操作會報(bào)錯(cuò)。遇到這種情況不要死磕熱更新。先用 watch 拿到足夠信息確認(rèn)根因后該走發(fā)布流程就走發(fā)布流程。工具的作用是幫你看清現(xiàn)場而不是替代正常的變更管理。5. 使用經(jīng)驗(yàn)和技巧分享5.1 條件表達(dá)式讓 watch 不再刷屏watch 默認(rèn)打印所有請求在流量大的接口下輸出會刷得飛快關(guān)鍵是里面有價(jià)值的請求可能只占很小比例。用條件表達(dá)式可以做到精準(zhǔn)觀察比如只看某類訂單創(chuàng)建失敗的請求watch com.example.order.OrderServiceImpl createOrder {params[0], returnObj} params[0].orderType 2 returnObj.success false條件表達(dá)式寫在命令最后返回布爾值滿足條件才觸發(fā)打印。這個(gè)技巧能讓你在繁忙環(huán)境下直接鎖定目標(biāo)請求不用從大量日志輸出里去撈。5.2 ognl 命令主動(dòng)觸發(fā)靜態(tài)方法調(diào)用有些時(shí)候你不僅想看還想主動(dòng)觸發(fā)某個(gè)方法比如清理某個(gè)靜態(tài)緩存、查看某個(gè)配置項(xiàng)。Arthas 提供 ognl 命令可以不寫代碼直接執(zhí)行靜態(tài)方法調(diào)用ognl com.example.config.CacheManagerclear()這種操作在應(yīng)急時(shí)很有效但風(fēng)險(xiǎn)也高它相當(dāng)于直接往 JVM 里執(zhí)行代碼。我建的建議是先把命令在測試環(huán)境驗(yàn)證一次再上生產(chǎn)并且必須明確這個(gè)調(diào)用會影響什么、會不會有并發(fā)問題。5.3 腳本批量采集線程現(xiàn)場遇到周期性出現(xiàn)的問題比如每小時(shí)整點(diǎn)偶發(fā)一次卡頓單次執(zhí)行 thread 不一定能抓到現(xiàn)場??梢杂靡粭l簡單的 shell 循環(huán)把 Arthas 的批處理模式用起來while true; do echo --- $(date) --- thread_dump.log java -jar arthas-boot.jar PID -c thread -n 5 -i 1000 thread_dump.log 21 sleep 5 done這里用到了-c參數(shù)可以讓 Arthas 執(zhí)行一條命令后自動(dòng)退出非常適合在腳本里批量使用。-i 1000是采樣間隔單位是毫秒。把多次采集到的線程快照放在一起對比周期性問題的觸發(fā)特征就很容易暴露出來。5.4 工具是幫手不是萬能藥最后說一點(diǎn)個(gè)人觀察。Arthas 確實(shí)香但解決的是“運(yùn)行態(tài)信息不可見”的問題很多線上故障的根因其實(shí)是代碼邏輯、容量規(guī)劃或者架構(gòu)設(shè)計(jì)。工具能幫你更快定位問題但定位完之后該重構(gòu)要重構(gòu)、該擴(kuò)容要擴(kuò)容不能把熱更新當(dāng)成常態(tài)化修復(fù)方式。我現(xiàn)在的習(xí)慣是復(fù)雜問題先用 Arthas 快速觀察現(xiàn)場拿到關(guān)鍵證據(jù)后把結(jié)論和操作記錄整理到運(yùn)維工單然后走穩(wěn)定的修復(fù)流程。工具負(fù)責(zé)把定位時(shí)間從小時(shí)降到分鐘剩下的工程質(zhì)量問題還是要靠扎實(shí)的代碼和可靠的變更流程解決。前后踩過幾次坑之后我對 Arthas 的態(tài)度已經(jīng)從“要不要學(xué)”變成了“怎么用得更穩(wěn)”。如果你也被線上問題復(fù)現(xiàn)難、定位慢困擾別猶豫找個(gè)低峰期在測試環(huán)境把 watch、trace、thread 這幾個(gè)基礎(chǔ)命令練熟真到救火那一刻你會感謝這個(gè)“真香”工具。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
这里只精品热在线18| 99久久玖玖| 中文字幕无码人妻少妇免费视频| 色色日本| 91啪级电影| 俺去婷婷 丁香| 五月激情六月综合| 99丁香五月婷| 中文字幕 中文字幕明步| 日韩啪啪视频| 激情六月丁香| 色色综合激情| 五月婷婷综合影院| 婷婷干| 99九九在线精品热动漫| 色综合九九| 激情操逼婷婷| 精品一二三区久久AAA片| 久久久天天啊| 色婷婷六月| 五月丁香六月情婷婷久久| 人妻久热| 免费97碰碰| 五月天另类小说久久小说网| 天堂伊人干| 五月丁香狠狠爱| 99综合视频| AV国产有码| 99er这里只有精品| 婷婷五月综合视频免费播放| 色在线免费观看| 五月婷婷片| 狠狠干天天日| 996er热| dingxiangtingtingliuyue| 五月激情丁香久久综合网| 91九色超碰正在播放| 久久AV无码精品人妻系列试探| 99热这里都是精品| 婷婷久久五月天| 国产性爱一级| 久热91| 我要色综合五月婷婷| www.99久久久| 91婷婷搞| 九九热色视频| 婷婷五月天亚洲色| 互月天综合| 性爱先锋AV| 99热加勒比| 日本性视频| 欧美大片| 潘金莲AAAAAAAAAA| 日本三级色| 天天日色情| 中文字幕人妻熟女在线| 日韩黄在免| 亚洲精品又粗又大又爽A片 | 激情五月天啪啪| 99操不停| 激情五月天啪啪| 五月丁香婷色| 色欲天天综合| WWW.夜夜操.com| 天天做天天爱高潮片| 婷婷五月天黄色网址| 开心五月婷婷伊人| 丁香综合久久| 色999亚洲人成色| 激情综合五月天| 色色爽爽天天| 婷婷六月丁香激情综合| 99精品视频网站| 夜夜躁爽日| 爱草人视频| 亚洲色激情| 操操操AV| 五月天色丁香| AV大片在线播放| 91碰碰视频在线观看| 男人的天堂在线婷婷| 欧美日韩精品一区二区三区钱| 黄色AAAAAAA| 天天操天天国产三级片处女学生妹| 91热视频| 五月婷中文字幕| 婷婷久久五月天| 久久er九九| 久久99久久99精品免视看婷婷| www.五月激情红色| 97干97色| 青草视频在线播放| 国产精品汇聚精彩第二页 - 高清完整版在线 - 青蛙AV | 久久狠狠干| 激情综合五月婷婷| 办公室少妇激情呻吟A片在线观看| 国产成人一区二区三区在线观看| 91|九色|动漫| 色婷婷丁香五月丁香| 国产毛多水多女人A片| 精国产品一区二区三区A片| 成人无码精品1区2区3区免费看| 人人摸人人操人人爱| 99热人人操人人操| 婷婷五月天伊人在线| 五月天激情网址| 九九热精品视频九九| 人人草人人看| Blackedraw视频一区二区| 色婷婷丁香AV综合| 梁铮版蜘蛛女在线观看| 国产免费一区二区三州老师F1F1| 久久婷婷丁香花综合网| 五月丁香亚洲校园欧美| 婷婷五月天伊人| 五月丁香啪| 人妻内射一区二区在线视频| www狠狠| 五月天婷a| 色综合久久综合中文综合网| 97ai婷婷| 午夜婷婷五月天在线| 色婷婷五月综合在线| 天天射影院| 综合激情专区| 婷婷久久综合久色| 综合色七七| 色播综合| 丁香色色网| 九一娱乐在线观看视频| 免費亭亭成人| 丁香五月综合| 日本精品在线噜噜噜| 98色花堂98t.R| 97人人操人| 日日懆天天懆| 9久热视频| www.伊人天堂偷偷婷婷| co超碰在线观看| 这里只有在线精品| 国产美女无遮挡裸体毛片A片| 九九Av| 婷婷五月天综合久久| 另类国产欧美视频| av在线免费网站| 97艹| 成人网在线视频| 操逼五月天| 五月天五月婷五月激情网| 色播播五月天| 99在线视频在线观看| 五月天社区| sS丁香五月婷婷| 婷婷五月天电影网| 色五月视频无码播放| 久99久视频| 華人性愛AV在線| 久久怕怕视频| 亚洲小说欧美激情| 天啪天啪天啪天啪| 六月丁香五月婷婷| 天天色月| 99A片| 五月丁香六月婷婷综合网缴情| www,婷婷,com| 五月天狠狠色| 99色啊| 99精品视频在线观看| 久色视频首页| 97操男人的天堂| 五月天激情网站| www.色婷婷.com| 99九九玖玖| 亚洲99综合| 天天草天天爽| 激情五月视频在线婷婷| 99在线精品观看99| 婷婷色色综合| 久久久久亚洲AV成人无码电影| 亲子乱AV一区二区三区下载| 91操人人操| 五月婷六月| 91互操| 久久婷婷视频| 操一操干一干| 91精品熟女| 91无码色色| 欧美xx激情视频在线观看| 人妻中文字幕网| 色噜噜狠狠色综合日日| 天天日天天爱天天噪| 婷婷性爱视频在线| 久草热8精品视频在线观看| 久久婷婷六月综合| 五月情四婷婷| 99九九综合久久九九| 婷婷久久综合久| 五月婷婷久久爱| www.99.色| 五月天激情综合网| 色综合日日| 色一情一乱一乱91Av| 四色永久成人网站| 日韩精品999| 五月丁香六月欧美综合| 超碰免费在线| 五月丁香九九| 69久久久| 在线视频区| www.99精品在线| 五月婷婷久久激情 | 久热这里精品免费| 97色干| 欧美五月婷婷综合| 色狠狠色噜噜AV天堂五区| 99视频在线观看网址| 丁香五月自拍| 欧美色99| 国产成人AV在线播放| 做爰丰满少妇1313| 黑人糟蹋人妻HD中文字幕| 天天五月天综合网址| 五月六月播婷婷| 欧美日韩五月婷婷| 久久色吧| 婷婷丁香五月在线观看91| 操碰99| 狠狠干综合网| 日本成人噜噜| 不卡影院午夜理论片| 日韩成人电影AV| 五月天综合色| 日韩AV一区二区三区| 偷偷与邻居做爰完整视频| 综合色五月天| 五月激情婷婷在线| 色色色无码| 中文成人在线| 99色色| 日日操夜夜骑| 狠狠操狠狠操| 思思99热| 淫视馆aV二区一区| 六月 丁香 视频| 丁香五月社区| 久久9精品| 五月天激情啪啪| 五月丁香六月婷婷开心网| 狠狠狠人妻| 成人五月天婷婷| 狠狠色丁香| 日本 欧美在线| 一级二级色大片| 狠狠干狠狠操狠狠爱| 五月天天丁香婷婷| 伊人超碰在线| Www99热| 免费AV在线| 97热九九| 国产一级片| 久草 天堂| 在线你懂的亚洲欧| 99re最新地址视频| www.伊人天堂偷偷婷婷| 五月草影视| 天天色综合综合| 99人人操人人摸| 色小说婷婷五月天天天| 99热在线观看这里只有精品| www.99热视频| 99久久婷婷国产综合精品草原| 日本91在线| 最新久久网址| .精品久久久麻豆国产精品| 亚洲无AV在线中文字幕| 婷婷97C| 免费操超碰| 五月婷婷九九热| 色婷婷丁香综合中文字幕| 超碰免费人妻| 色综合综合色| 国产精品成人AV在线| 婷婷99中文字幕| 99热这里只有精品22| 丁香五月天视频| 国产全是老熟女太爽了| 色婷成人狠干| 日韩五月婷婷| 六月婷婷综合| 五月综合久久| 99碰| 九九色99| 九九香蕉网| 午夜少妇在线观看视频| 69精品人妻不卡视频| 久久永久视频| 五月婷婷六月基地| 日韩啪啪网| 国产免费一区二区在线A片视频| 久久精品一区二区三区四区| 欧美婷婷丁香五月社区| 精品A√| 久久伊人婷婷| 涩涩激情五月婷婷| 亚洲婷婷丁香五月天激情小说 | 99热这里有精品| 97超级免费无码| 亚洲成人在线免费| 五月婷婷之综合激情| 久久人人看| 中日韩美欧成人一区二区精品在线| 欲色人妻| 婷婷五月天无码熟女| 婷婷六月丁香欧美视频在线| 精品一二三区久久AAA片| 色五月天丁香婷婷色| 五月丁香久久网| 五月丁香六月婷婷网| 色婷婷影院| www.97干视频| 79色色| 欧美激情五月天| 五月激情射| 26uuu激情五月天| 99超级碰碰| 一二线视频 另类| 99操碰| 俺也去在线视频 | 情涩婷婷五月天| 99干视频| 青996青| 啪啪激情网站| 三人荫蒂添的好舒服A片 | 中文网AV| 人人播| 欧美天天搞| 综合图区激情| 91色五月在线观看| 婷婷五月天成人综合网| 中文字幕成人网站| 婷婷亚洲五月丁香综合在线| 99久久99九九99九九九| 九九人妻福利| 五月婷婷激情综合| 丁香六月 婷婷六月| 九月婷婷久久| 色吧综合网| 夜夜躁婷婷AV| 亚洲综合色婷婷| 丁香五月婷婷偷拍| 99久在线观看| 婷婷五月天视频| 91丨九色丨43老版熟女| 丁香五月手机在线| 影音先锋xfplay资源男人网| 日日夜夜狠狠| 开心综合激情综合| 五月天堂六月丁香亚州中文字幕久久| 思思 热 99| 国产av一区二区三区| 99热欧| 免费精品99| 色欲Av五月天| 久九男女天堂| 色五月综合激情| 久热99视频在线观看| 色婷婷先锋| 日本大人久久| 91青娱乐青青草| 色婷精品91| 婷色五月| 婷婷五月综合激情小说| 97爱综合| 欧美性丁香色色五月天干干| 日韩婷婷五月天| 久久精品无码一区| 99热国产免费| 久久国产精品乱子伦_靑青草…| 精品一区二区三区免费毛片爱| 色另类五月天| wwww.色婷婷| 婷婷五月综合体验看| 色久女| 丁香五月天电影| 五月婷婷丁香五月亚洲色| 乱岳熟女50岁| 色99视频| 中文字幕色色| 99精品在线观看视频| 丁香婷婷六月天| 五月丁香A片| 国产乱人偷精品人妻A片| 五月婷婷伊人久久| 超级黄色片| 色五月综合在线| 五月婷婷丁香大陆免费| 91大屁股精品| 97精品人人A片免费看| 青青草原99热| 色色日韩网| 精品久久久中文字幕大豆网推荐理由| 日本丁香五月| 婷婷六月插屄激情| 欧美五月婷婷| 九色激情| 亚洲免费看片| 五月天婷婷基地综合网| 激情综合五月色丁香婷婷| 欧美色色色色色色| 91日在线视频| 亚洲天堂热| 五月深爱网| 色色五月天激情| 日韩成人不卡| 人人干av| 性色天| 草操网| 婷婷色情五月| 国产在线网| 五月天婷婷网站888| 夜夜www| 五月丁香六月成人| 97婷婷五月丁香| 日韩啪啪视频| 五月丁香五月综合欧美| 天天爽夜夜爽| 婷婷热婷婷色| 婷婷六月丁香在线| 中文字幕在线播放视频| 成人色图情色成人网 www.5b5b5bcom 五月天| 激情丁香五月婷婷| 亚洲色综合| 婷婷综合激情| 成年人看Va免费视频| 五月香蕉综合| 婷婷激情小说网| 婷婷激情四射网| 婷婷影院A成人| 五月丁香香蕉| 色婷婷97| 激情五月天色色网| 婷婷色九月| 丁香五月天激情视频| 激情五月综合色婷婷| 99色婷婷| 大香蕉久久| 99热99| 五月停停大香蕉| 色五月av| 激情五月天网| 免费看欧美成人A片无码| 超碰免费人人| 伊人激情| 亚洲激情网| 婷婷九月| 色播五月天激情| www.zbzhongsen.com| 庭庭久久内射| 另类视频一区| 久久99精品视频| AV人人操| 99久久国产宗和精品1上映| 婷婷色综合| 99ri在线视频| 色色婷婷丁香| 色六月 婷婷| 婷婷久综合| 综合 激情 婷婷| 99热午夜精品| 男人天堂AV在线一区二区| 丁香五月激情啪啪啪| 亚洲图色五月天| 色约约视频一区二区三区四区五区| 婷婷五月激情四射手| 女人被躁到高潮嗷嗷叫小| 激情五月天婷婷| 日韩中文字幕| 亚洲欧洲一二| 99久久婷| 亚洲五月天伊人| 婷婷五月色亚洲| 久久婷婷综合五月趴| 婷婷五月丁香综合激情| 五月婷婷综合久久| 国产精品美女久久久久AV超清| 亚洲V国产V欧美V久久久久久| 中文字幕无码人妻少妇免费视频| 北条麻妃伊人| 中文资源在线a| 久久综合激情五月天| 激情综合网,婷婷| 亚洲五月情| 日本狠狠干| 玖玖婷婷五月天| 午夜69成人做爰视频| 蒲京久久无码视频| 色综合久久99色| 丁香五月欧美成人| 色婷青青| 9久视频| 夜夜噜夜夜奇| 五月天丁香久久| 亚州操人在线视频| 日本道久久91| 五月丁香爱婷婷深深| 综合六月激情婷婷| 九九青青草成人| 久久国产一区二区三区| 狠狠色丁香久久婷婷综合五月| 伊人久久艹| 日韩小视频在线99| 国产激情久久久| 熟妇高潮一区av| 伊人狠狠丁香婷婷综合尤物| 丁香五月天欧美在线| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 一区二区三区XXXXXX| 色情五月天小说| 五月播播| 影音先锋高清无码资源网| 538任你爽视频不一样的| 亚洲色色爱| 色五月五月婷婷| 国产精品第一国产精品| 中美日韩成人在线| 亚洲激情婷婷| 中文字幕一色哟哟哟哟| 九九热这里有精品视频| 狠狠色丁香婷婷久久综合| 日韩免费视频| 激情色中文| 久久激情五月婷婷| 色99最新网址| 婷婷五月永远18免费久久久| 综合大香蕉| 婷婷五月欧美AA片免费| 蜜桃成语时李时珍 免费| 色婷婷香蕉丁丁网| 亚洲激情精品| 日韩av一区二区在线/日产精品久久久 | 玖玖热视频| 色婷婷成人做爰A片免费看网站| 性爱五月丁香| 人人干人人看| 伊人超碰在线| 亚洲亚洲亚洲AAAAAA| www.99热| 五月天天丁香婷婷在线中| 久久3p| 99久久色| 丁香五月在线观看| 丁香五夜激情四射夜夜夜| www.婷婷,com| 色狠狠色综合久久久绯色aⅴ影视| 亚洲精品色色| 天天色播| 亚洲人人96@| 九九久久网| www98日本小时间到了| 久久a热| 91美女艹逼网站| 五月激情网综合| av中文网| 久久er99| 色婷婷色综合激情91| 天天日综合| 伊人热婷婷| 日本色狠狠| 99热日本精品| 五月天激情四射网站| 免费人人操| 亚洲色爱综合| 激情五月综合久久| 99色在线观看| 亚洲成色综合网站免费观看| 国产精品久久久久久久久久| 五月丁香六月婷婷玖玖| 超碰妻人人| 五月婷婷开心综合| 伦99热| 丁香伊人网| 91色久| 99九九精品| 色综合爱综合| 九热av| 玖玖99精品视频| 欧美色爱五月天| 中文字幕黄色电影网址| 91超级碰| 色综合久久伊伊婷婷五月| 最新无毒无码AV| 激情网五月婷婷| 六月丁香激情| 开心激情婷婷| 久久这里只有国产视频| 七七九色| 日日干日日| 开心婷婷五月中文字幕组| 一起草av在线观看| 久久香蕉影院| 开心激情网五月天| 久久精彩综合视频| 黄色AAAA韩国guochansanji| 色99热| 亚洲激情高潮| 激情五月天婷婷色色色色色色色色色色色| 成人精品在线| 婷婷综合色播网| 99欧州偷拍视频| 思思热在线观看| 亚洲综合色色色| 久九色| 五月丁香本色在线观看| 丁香花五月天激情| 久久丁香五月婷婷| 婷婷丁香五月麻豆| 天堂久久丁香| 丁香婷婷影院| 色播五月| 森林影视大全,最好看的2019年视频 | 国产精品日韩十五区| 97操操操| 欧美婷婷色五月网| 欧美 日韩 人妻 高清 中文| 91丨九色丨白浆秘| 五月婷婷狠狠干| 丁香五月天堂网| 99精品手机在线视频| 五月丁香婷婷欧美| 久久天堂| 成人丁香婷婷| 69五月天视频| 五月天亚洲图片婷婷| 精品动漫 无码av| 99色热| 99在线视频免费| 综合色综合| 中文网AV| 色丁香久久| 热婷婷在线视频| 国产人妻777人伦精品HD| 五月丁香六月成人| www天天色天天射| 色月视频| 人人操Av| site:pzdcoin.com| 色婷网| 亚洲欧洲午夜成人精品av| 久久婷综| 99久久九九视频| 色婷婷丁香五月| 日本精品99网站| 99热这里只有精品免费| 五月天俺去也| 婷婷六月花| 狠狠干在线视频| 69堂午夜视频最新地址| 九九这里只有精品在线视频| 99熟女| www久久久久久久97| 在线视频激情网站| 亚洲色图81p| www.com任你艹| 31色区视频免费看| 久久五月天丁香| 国产99久9在线+|+传媒| 日操夜操天天操不卡| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 五月天久久婷婷| 国产婷婷色综合AV蜜臀AV| 丁香激情婷婷网| 亚州日本欧州韩美高青高潮一| 丁香激情五月综合网| 色婷婷五月天亚洲 | 97操操操| 丁香五月天堂网| 大香蕉综合| 五月婷婷性爱| 熟惀91九色在线| 久久五月婷综合| 丁香六月婷婷激情| 97人妻碰碰碰久久| 亚洲AV网址| 久热久| 亚洲精品欧洲精品| 91dy.av| 天天射夜夜骑| 99精品免费视频| 97色97干| 久久香蕉网| 春色激情| 麻豆雪千夏| 久热九九| 五月天婷婷开心| 丁香五月六月婷婷殴美综合| 天天日天天爽| 狠狠搞狠狠操| 天天射天天操天天干| 怡红院91a√| 五月天成人综合| 99爱免费在线观看| 激情五月,色播五月| 五月天综合久久丁香91| 天天色播| 五月色精品| 久久久无码精品成人A片小说| 色婷婷久久综合| 99这里有精品| 综合久久综合综合| 欧洲激情网站| 丁香六月成人| 天干夜夜操| 色五月婷婷在线观看第一页舔| 日本97久久久精品| 79精品在线视频| 直接看的AV| 国产 码在线成人网站| 九九色情网站| 中文字幕婷婷| 婷婷五月色综合| 日本久久婷| 99爱操| 337p大胆噜噜噜噜噜91Av| 日逼免费视频| 人妻无码精品一区| 操比激情五月| 婷婷丁香六月影视| 五月婷婷激情久久| ai97re99一本| 狠狠狠婷婷五月综合| 99无码黄色视频| 97久久视频| 91精产一区三区免费观看| 678五月丁香亚洲综合| 99资源在线视频| 国产精品电| 99久久免费性爱视频`| 色色色色色综合| 五月婷婷色色| 五月天伊人综合| 亚洲综合狠狠艹| 亚洲AV免费在线| 成人片在线免费看| 九九热区一区二区三区| 色噜噜狠狠一区二区三区| 影音先锋91男人资源在线播放| 亚洲成人色五月婷婷综合| 色色色婷| 色情开心五月| 婷婷五月天在线观看第二页| 午夜成人片400| 狠狠色婷婷| 国产精品日日躁夜夜躁| 久久全色| 五月丁香花婷婷玉莉AV| 六月丁香婷婷色综合| 狠狠狠狠狠狠色| 9久热视频| 这里只有免费的精品| 丁香五月天堂| 色情五月天视频网| 色999五月色| 任你擦免费视频| 天天澡天天狠天天天做| www.com在线操视频免费观看| 五月丁激情| 色五月激情网| 99热6这里之有精品| 激情五月天综合| 日韩啪啪视频| 丁香五月婷婷啪啪| 婷婷六月色| 色五月在线观看| 色色色色欧洲| 播播网色播播| xxxx五月激情| 九九碰九九爱97超碰| 欧美成性色| 五月婷婷五月天| 最新日本A片| 狠狠色综合网| 五月丁香拍拍激情综合| 99在线精品免费视频| 激情五月网站| 99在线视频观看| 天天爽夜夜爽天天爽夜夜爽| 日韩日比视频在线| 婷婷五月天免费视频| 激情性爱网站| 天天综合网91| 丁香五月天欧美成人| 久久曰曰| 99re这里只有精品首页| 亚洲成人AV一区在线观看| 色色网站| 91综合国免费久入| 色999五月色| 成人网站免费sxj| 激情综合文学| 丁香五月天堂网| 亚洲av网站| 五月丁香六月激情| 五月丁香亚洲五月| 奇米色大香蕉| 免费播放片大片| 五月天亚洲图片婷婷| 午夜精品人妻无码一区二区三区| 天天透天天摸天天舔| 中文字幕av网站| 97影院一级片| 在线五月色播| 欧洲区自拍| 67194国产| 亚洲 在线 性爱 | 免費观看aV在线网址| 欧美黄色韩日网| 欧美激情综合| 牛牛澡牛牛爽| 五月天色色婷婷| 久久久久久久久久久久久久人妻视频| 亞洲自怕| 激情综合婷婷| 亚洲中文乱字字幕线在永久| 九九热婷婷| 天天拍天天操| 色 色 色综合com| 激情五月深爱五月观看| av首页在线| 九九热99热| 久久综合激情婷婷激情| 激情欧美婷婷| 五月深情久久| 色99视频| www.五月天婷婷| 丁香五月在线观看综合| 久久大香蕉同僚| 欧美情色一区| 丁香六月婷婷| 另类小说激情五月天| 婷婷五月丁香五月| 五月婷婷开心五月| www.五月激情.com| 99视频35精品视频在线观看| 婷婷丁香日韩五月| 狠狠干综合| www激情婷婷com| 天天日人人| 成年人夜夜喷水| 九月婷婷人人操人人舔人人爱| 丁香五月综合| 亚洲成人五月天| 五月丁香婷婷激情| 亚洲综合在线伊人婷| 色婷婷激情五月天| 亚洲传媒在线观看| 婷婷综合五月天| 日韩黄黄| 欧美日韩成人在线观看| 99国产这里只有精品| 天天日人人| 久久婷婷五月综合| 丁香六月婷婷综合欧美| 9久9久9久女女女九九九一九| 人人操AV| 六月婷婷开心| 超碰成人在线观看| 荷兰av一级| 激情综合丁香五月| 66精品成人免费网站在线观看| 色五月婷婷狠狠撸| 久久综合中文| 亚洲人人操| 一区操| 中文AV网站| 搡BBBB搡BBB搡18 | 黑人糟蹋人妻HD中文字幕| 婷婷色五月天在线观看| Av九九| 99色在线观看视频| 日本色婷婷| 久久九九热视频| 丁香婷婷五月基地| 五月天六月婷婷电影| 天天操天天日天天爽| 婷婷爱综合| 激情涩涩网| 激情婷婷内射| 亚洲AV激情五月综合网| 欧美日韓成人亚洲精品另类| 天天搞夜夜叫| 91热er| 激情五月丁香色婷婷| 国产阿姨日皮艹逼内射视频| 五月天婷婷午夜丁香| 欧美狠狠草| 五月婷婷与六月丁香图片激情| 99热99网| 人人色性网| 26UUU在线观看| 森林影视大全,最好看的2019年视频 | av高清无码| 97成人操| 亚洲第二AV| h亚洲| www.99久| 精品久久婷婷五月天| XXXX岛国| 噜噜噜噜在线| 婷婷丁香人妻天天| 天天 青草 丝袜制服 在线| 激情伊人网| 激情VA视频| 婷婷五月丁香五月| 丁香婷婷网| 欧美激情综合色综合啪啪五月| 国产精品18久久久| av人人操| 激情综合网激情五月天| 精品成人久久久久久久_一二三四视| 婷婷综合| 丁香五月婷婷乱| 丁香美女主播视频在线观看| 99在线精品视频在线观看| 99色五月| 五月天激情四射| 国产毛片操B| 丁香婷婷超碰| 久久五月天精品视频| 精品综合久久久久久五月天| 热久久这里只有三级视频| 婷婷五月精品中文| 一级片sese片.COM| 5月丁香六月婷婷| 久操97| 狠狠色综合网| 日韩美一级毛卡片| 噜噜噜狠狠色综合| 亚洲成人va| 97婷婷狠狠| 亚洲精品国产A久久久久久| 婷五月天| 久鲁鲁色网 | 色婷婷五月视频| 亚洲丁香花色| 亚洲AV久久久久久久久久久久久久久久 | 色五月婷婷狠狠撸| 五月婷婷第四色| 色综合久久久久| 久9综合| 91ncom.色| 亚洲综合婷婷六月丁香五月| 色播婷婷大香蕉| www久视频com| 九九热99视频| 丁香婷婷色情社区成人小说| 五月丁香综合激情| 热婷婷在线视频| 色9色| 婷婷99中文字幕| 五月天婷婷狂暴白浆| 九九激情综合| 91婷婷五月天嫩女| 欧美性生交A片免费看| 8区视频在线| 色五月丁香伊人| 99爱在线视频| 色私五月婷婷| 天天舔天天摸视频| 五月婷色| 激情综合网五月丁香| 91精品久久久久久综合五月天| 久久婷色| 色婷婷av在线| 久久偷拍综合五月天| 成人午夜视频精品一区| 91热久久| 99只有这里有精品在线视频| 热热色色五月天婷婷| 激情五月激情综合俺也去婷婷小说| 激情五月天com| 丁香花社区av| 久久在这里有精品| 五月丁香婷婷基地| 九九热99熟女| 黄色激情五月天| 91人在线观看| 色爱99| 精品乱码久久久久| 天天综合网91| 九九无码| 伊人大香蕉在线视频| 日日狠狠久久偷偷四色综合免费| 久久小说| 天天舔天天摸天天射| 欧美婷婷综合| 色色婷| 影音先锋色婷婷| www.婷婷,com| 亚洲VA口| 99精品高潮| 狠狠狠色激情综合适合| 97人人操com| 亚洲视频图片婷婷五月| 婷婷丁香五月综合久久| 99re这里只有精品首页| 精品无码久久久久久久久| 婷婷五月丁香影院| 综合网色| 中文字幕日产A片在线看| 丁香五月激情六月欧亚激情综合导航| 色欲天天综合| 成人AV免费观看| 日本色色色| site:hcxsz888.com| 婷婷五月天小说网| 激情桃色网| 噼里啪啦完整版中文在线观看| 久久久久久xxxxx| 香蕉久久国产AV一区二区| 思思热99er在线视频| 校花娇喘呻吟校长陈若雪视频 | 婷婷五月天色色| 久久这里在精品视频| 中文字幕按摩做爰| 色色婷婷综合网| 涩丁香91| 天天日夜夜| 久久久激情视频| 人人操AV| 丁香五月天婷婷中文| 日韩野外 无套| 五月天网站亭亭| A级毛片高清免费不卡播放谢谢谢谢| 五月婷婷激情中文字幕| 人人摸人人操人人爽| 99热这里只有精品在线| 丁香六月婷婷综合麻豆| 亚洲人成网站999综合| 久久久天天啊| 丁香激情网| 国产av天堂| 久久久精品色色色| 久久婷婷五月综合精品蜜芽| 国产日韩欧美性爱| 天天干天天操天天上| 久碰久| 99操| 丁香五月天BBw| 久久婷婷东京热大香樵| 色色色五月婷婷| 五月婷丁香久久久| 94干大香蕉| 五月激情婷婷在线| 五月综合影院| 丁香五月婷婷激情尤物| 九九色色| 六月丁AV| 丁香婷婷人妻| 91国产精品视频播放| 91九色熟女| 五月丁香六月婷婷综合网| 99re在线免费视频| 夜夜谢天天干| 日日夜夜久| 久久狠狠欧美| 日本97在线看片| 丁香婷婷色五月| 九九色视频| 色狠狠色| 亚洲国产黄色电影| 亚洲婷婷五月天| 色五月婷婷在线观看| 天天干夜夜操A片| 激情五月丁香色色去久久| 五月天大香蕉| 99精品热| 激情五月婷婷啪啪| 丝袜人妻| 超碰在线资源| 久热91| 六月撸婷婷| 久久久精品人妻录| 国产伊人五月天| 永久免费一区二区三区| 亚洲综合网在线| 99久久6| 五月天综合久久| 精品99网站| 婷色五月| 丁香五月婷婷综合精品素人| 无码激情AAAAA片-区区| 香蕉婷婷| 五月天成人综合| 狠狠干伊人| 色综久久AV| 黄网免费看| 久久99日本精品视频免费观看| 777精品久无码人妻蜜桃| 五月婷婷六月丁香综合| 狠狠干夜夜干| 国产精品色一哟哟| 综合激情五月综合激情五月激情1 天天爱天天做天天舔 | 免费观看欧美成人AA片爱我多深 | 99热啪啪| 色综合视频| 99久久天堂婷婷| 久久se 综合网| 天天干天天干天天干| 99热这里有精力| 久久婷婷网站| 视频一二区| 亚洲中文乱字字幕在线永久| www.夜夜.com| 最近中文字幕2019视频1| 99久在线精品99re8| 三级三久久线久久99久目本WW| 成年人丁香五月| 五月天综合婷婷| 久久99久久99精品免观看软件| 99亚洲综合| 欧美欧盟性爱网| 五月婷婷六月丁香| 99九色视频在线观看| 96精品久久久久久久久| 手机旧版看人妻1025| 99er热精品视频| 综合亚洲AV| 性爱七区| 九月久久婷婷| 婷婷五月色色| 日韩 中文 欧美| 色婷婷操逼| 亚洲九九夜夜| 婷婷激情小说网| 激情丁香婷婷六月天| www.激情在线| 99热这里只有精品手机在线观看| 日韩一区二区在线播放| 激情丁香婷婷五月天| 婷婷美女精品视频| 婷婷六月色播| 亚洲精品久久久无码| 国产成人精品一区二区三区视频 | 性做久久久久久久免费看| 久热9| 大学生高潮无套内谢视频| 99热精品在线| AV中文网| www.韩日视频| 日本97久久久精品| 色玖玖爱| 天天舔夜夜操www com| 精品综合久久久久久五月天| 久久这里只有精品网| 色色色.COM| 在线视频99| 五月天婷婷丁香| 婷婷色情 | 久久婷婷大香蕉| 站长推荐无码播放| 99热99成人| 色婷婷六月开心中文字| 深情五月天| 国产白丝在线一区| 丁香六月综合激情| 丁香婷婷五月色综合| 青青久久大香蕉| 伊人激情| 99成人无码| 婷婷五月天网| 丁香六月婷婷综合| 九九爱激情| 久久99精品久久久久久噜噜| 欧美狠狠草| 丁香五月开心婷婷| 91成人品| 嫩草AV久久伊人妇女超级A| 操比激情五月| 丁香五月色情| 久久婷婷五月天激情唯美| 99这里都是精品| 国产精品美女| 在线亚洲综合网| 色噜噜狠狠色综合日日| 五月婷婷九| 久草视频一,二三四| 97精品人人A片免费看| 四射综合网| 日韩一区二区在线播放| 激情五月,色播五月| 偷拍五月丁香| 国产综合A片| 伊人五月天日日夜夜久久久天天| 丁香激情综合| 激情综合网五月| 超级97碰碰| 久久丁香五月婷婷激情综合网| 思思热高清在线观看| 激情综合五月天| 综合亚洲AV| 欧爱综合视频| 色欲av伊人久久大香线蕉影院| 五月色婷婷综合色| 国产在这里只有精品| 中文字幕欧美日韩VA免费视频| 97五月天婷婷综合激情网| 五月丁香婷婷国产精品综合| 噜噜色五月| 99福利视频导航| 开心五月激情| 生活片五区| 亚洲情欲久久| 色青青五月| 色婷婷在线播放| 色色色五月| 99视频精品8| 五月婷婷五月| 97性视频| 夜夜撸天天操| 亚洲乱码日产精品BD| 五月总合激情网| 2020日日干| 色五月激情综合网站| 亚洲婷婷丁香五月亚洲| 99色在线视频| 国产综合婷婷| 天天干天干| 亚洲在线网站| 青青五月天婷婷| 色五月婷婷网| 久热大香蕉| 曰曰久久| 婷婷色吧| 九九热99热| 思思热99er| 狠狠狠五月婷婷六月丁香| 国产精品一区在线观看你懂的| 激情五月天色色| www婷婷| 久久久ww| 色综合久久中文| 亚洲午夜Av| 婷婷五月天色播| 久久人视频| 人人射人人高潮| 日本nghangse中文字幕| 人人爽亚洲| 91婷婷丁香五月亚洲| 开心五月天激情| 丁香五月天堂婷婷| 天天插天天干天天舔| 极品人妻VIDEOSSS人妻| 六月亚洲| 亚洲视频在线观看| 亚洲五月天综合| 天天躁日日躁狠狠躁日日躁2022年5月9日 | 色五月丁香激情| 国产肥白大熟妇BBBB视频| 5月色亭亭视频| 国产午夜成人AV在线播放| 婷婷五月天AV激情| 河北真实伦对白精彩脏话 | 丁香婷婷五月综合| 日韩人妻无码精品| 久99热| 青青热久久综合|