99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

On-CPU 與 Off-CPU:Linux 性能分析雙視角與延遲排查

On-CPU 與 Off-CPU:Linux 性能分析雙視角與延遲排查 1. 先把 On-CPU 和 Off-CPU 這兩個詞掰開揉碎性能分析這件事做得久了會發(fā)現(xiàn)一個很尷尬的現(xiàn)象很多人拿到一臺卡頓的機(jī)器第一反應(yīng)是 top、ps、然后開 perf 抓火焰圖看到 CPU 使用率不高、火焰圖也沒幾個尖峰就得出系統(tǒng)沒問題的結(jié)論。但業(yè)務(wù)方還在催接口還是慢。問題出在哪出在只看了線程跑在 CPU 上的那段時間忽略了線程不在 CPU 上的那段更漫長的時間。Linux 性能分析里的 On-CPU 和 Off-CPU說的就是把一個線程的完整生命周期切成兩半來看On-CPU 是線程真正占用處理器執(zhí)行指令的時間Off-CPU 是線程雖然活著、但沒有被處理器執(zhí)行的時間。這兩塊時間加起來才是一個請求從進(jìn)來到返回的真實(shí)墻鐘耗時。我做過的排查里至少有六成的性能問題根子在 Off-CPU 上等鎖、等磁盤 IO、等網(wǎng)絡(luò)回包、等定時器、等被喚醒調(diào)度。而大家習(xí)慣用的工具幾乎全是為 On-CPU 設(shè)計的。這就導(dǎo)致一個結(jié)構(gòu)性盲區(qū)——你越用 On-CPU 的工具越會把注意力放在計算熱點(diǎn)上越容易漏掉阻塞點(diǎn)。所以這篇內(nèi)容想聊的就是怎么把這兩半時間都量出來、怎么看、怎么改。適合已經(jīng)會用 top、perf 這類基礎(chǔ)工具但遇到CPU 不高卻很慢的場景會卡住的運(yùn)維、后端開發(fā)和 SRE也適合剛接觸 Linux 性能調(diào)優(yōu)、想建立一套完整分析框架的朋友。1.1 一個類比餐廳后廚和等位區(qū)把服務(wù)器想象成一家餐廳CPU 核心就是廚師線程就是一道道待做的菜。On-CPU 時間相當(dāng)于廚師正在灶臺前顛勺的時間Off-CPU 時間是這道菜從點(diǎn)單到出餐之間廚師沒碰它的所有時間——可能是在等配菜送過來等 IO可能是灶臺被別的菜占著等鎖也可能是廚師被叫去處理別的單子、這道菜就擱在一邊調(diào)度延遲。只統(tǒng)計廚師顛勺的時長你會覺得后廚效率挺高但顧客感受到的是從點(diǎn)單到上菜的完整等待。這兩者之間的差距就是 Off-CPU 分析要填的坑。理解了這層類比后面所有的工具和指標(biāo)其實(shí)都是在回答兩個問題廚師到底在哪個灶臺上花了多少時間On-CPU 熱點(diǎn)以及這道菜在沒被烹飪的時候究竟卡在哪一步Off-CPU 阻塞點(diǎn)。1.2 為什么只盯 On-CPU 會系統(tǒng)性誤判CPU 使用率是個比值分子是忙的時間分母是總時間。當(dāng)系統(tǒng)大量線程都在睡覺等待時這個比值天然就低看起來很閑。但這恰恰可能是最糟的狀態(tài)線程數(shù)開了一堆每個都在等同一個資源吞吐上不去延遲還高。這類問題在 On-CPU 視角里幾乎隱身因?yàn)閴焊鶝]有多少指令在跑。更麻煩的是一些常見結(jié)論會把人帶偏。比如CPU 使用率低說明負(fù)載輕可以再壓一壓實(shí)際可能是下游某個依賴把請求全堵住了再比如火焰圖沒熱點(diǎn)所以代碼沒問題實(shí)際瓶頸在 syscall 睡眠或者 futex 等待上采樣器根本沒采到什么棧。所以建立 On-CPU 和 Off-CPU 的雙視角不是為了多學(xué)幾個命令而是為了堵住這個判斷漏洞。1.3 把線程時間賬本拆開一個線程從被創(chuàng)建到退出它的時間可以粗略拆成三塊Running在 CPU 上跑、Runnable就緒但在等 CPU、Sleeping睡眠等某個事件。Running 就是 On-CPU后兩者合起來是 Off-CPU。這里有個容易被忽視的細(xì)節(jié)Runnable 狀態(tài)本身也是一種浪費(fèi)它說明 CPU 不夠分或者調(diào)度策略讓某些線程遲遲輪不上。很多偶發(fā)尖刺就是 Runnable 排隊造成的。把這三塊量化出來你就能給任何一次慢請求做一個耗時歸因表多少時間在算多少時間在等鎖多少時間在等 IO多少時間在等調(diào)度。歸因清楚了優(yōu)化方向基本就是明牌。接下來的章節(jié)我會先講 On-CPU 怎么采得準(zhǔn)再講 Off-CPU 怎么把等待棧抓出來最后給一個從現(xiàn)象到修復(fù)的完整推演。2. On-CPU 分析采樣、火焰圖與熱點(diǎn)定位On-CPU 分析的目標(biāo)很明確找出線程把時間花在了哪些代碼路徑上。主流做法是基于定時中斷的采樣sampling而不是插樁計數(shù)因?yàn)椴蓸訉π阅苡绊懶 ⒛芊从痴鎸?shí)分布也不需要改代碼。采樣器每隔一個固定周期打斷一次 CPU抓下當(dāng)前的調(diào)用棧攢夠樣本數(shù)之后按棧聚合就得到了調(diào)用分布的近似。樣本越多統(tǒng)計越穩(wěn)。2.1 perf 采樣機(jī)制和幾個必須懂的參數(shù)Linux 上最通用的采樣工具就是 perf。它依賴內(nèi)核的 perf_event 子系統(tǒng)和硬件/軟件 PMU能按時間頻率或事件計數(shù)觸發(fā)采樣。一條典型的抓取命令是這樣perf record -F 99 -g -p 12345 -- sleep 30 perf script perf.out ./stackcollapse-perf.pl perf.out perf.folded ./flamegraph.pl perf.folded oncpu.svg幾個參數(shù)值得掰扯清楚。-F 99 表示每秒采樣 99 次。為什么不是 100因?yàn)檎麛?shù) 100 容易和系統(tǒng)里其他 100Hz 的周期任務(wù)比如某些定時器產(chǎn)生鎖相采出來的樣本會偏向某個固定相位導(dǎo)致分布失真。99 是個質(zhì)數(shù)能打散這種共振。-g 是抓完整調(diào)用棧沒有它你只能看到最頂層的函數(shù)看不到是誰調(diào)用的定位就沒有上下文。-- sleep 30 是限定采集時長用 sleep 而不是直接 Ctrl-C是為了讓腳本化更穩(wěn)定、退出更干凈。還有兩個參數(shù)在排查特定問題時很關(guān)鍵-e 可以指定事件默認(rèn)是 cycles但你也可以換成 cache-misses、branch-misses 來抓特定瓶頸--call-graph dwarf 會在用戶態(tài)棧難以回溯時改用 DWARF 調(diào)試信息展開代價是開銷更大、產(chǎn)出更大。一般先默認(rèn) fpframe pointer跑一遍棧斷了再考慮 dwarf。注意perf 的內(nèi)核棧符號來自 /proc/kallsyms用戶態(tài)符號需要帶調(diào)試信息的二進(jìn)制。生產(chǎn)環(huán)境經(jīng)常遇到符號被 strip 掉的情況采出來全是十六進(jìn)制地址白忙一場。動手前先確認(rèn)目標(biāo)進(jìn)程有沒有 debuginfo 或者帶符號的構(gòu)建產(chǎn)物。2.2 火焰圖怎么讀哪些形狀代表什么問題火焰圖的橫軸是樣本占比不是時間順序縱軸是調(diào)用深度每一塊是一個棧幀塊越寬說明該函數(shù)在采樣里出現(xiàn)得越多。讀圖的核心心法就一句先找最寬的葉子再看它是被誰調(diào)用的。最寬的葉子通常是實(shí)際的 CPU 消耗大戶但它的元兇可能在它的調(diào)用者那一層——比如一個通用的序列化函數(shù)很寬但真正的問題是某個業(yè)務(wù)邏輯反復(fù)調(diào)它。幾種典型形狀對應(yīng)不同問題。平頂山形狀底部寬、頂層一排差不多的寬塊通常是循環(huán)或批處理在反復(fù)執(zhí)行同類操作優(yōu)化點(diǎn)是降復(fù)雜度或加緩存。塔尖形狀某一層特別寬下面迅速收窄說明有個單點(diǎn)函數(shù)吃滿了 CPU直接盯它。斷層形狀中間某層突然很窄說明采樣在這個函數(shù)里分布稀疏要么是它執(zhí)行快要么是棧在那斷了需要配合 dwarf 或檢查符號。2.3 符號丟失、棧截斷和 JIT 代碼這三類坑實(shí)話說On-CPU 分析最容易翻車的不是命令不會敲而是采出來的東西沒法看。第一類坑是符號丟失解決方式是裝對應(yīng)版本的 debuginfo 包或者用perf buildid-list確認(rèn) build-id 能不能對上 debug 文件。第二類坑是棧截斷frame pointer 被編譯器優(yōu)化掉了-fomit-frame-pointer 是很多發(fā)行版的默認(rèn)這時候要么重新編譯加 -fno-omit-frame-pointer要么切到 dwarf 模式。深度太深時 perf 默認(rèn)只抓一部分??梢杂?-call-graph dwarf,65528加大棧大小。第三類坑是 JIT 代碼Java、Node、部分 Go 場景都會遇到采出來是一堆[JIT]或者匿名地址。Java 的解法是掛 perf-map-agent讓 JIT 編譯時把方法地址映射寫到 /tmp/perf-PID.mapperf 就能解析更省事的做法是直接用 async-profiler 抓 CPU 火焰圖它對 JIT 代碼的映射是內(nèi)建的。Node 可以用--perf-basic-prof之類的方式輸出映射表。這類工作如果一開始沒規(guī)劃好事后補(bǔ)會很難受建議在部署階段就把符號和映射準(zhǔn)備好。3. Off-CPU 分析把等待這件事量化聊完 On-CPU重頭戲來了。Off-CPU 分析要回答的是線程沒在跑的時候到底在等什么等了多久。傳統(tǒng)思路是插樁記錄每個阻塞點(diǎn)的進(jìn)入和退出時間但這要求改代碼、而且覆蓋不到內(nèi)核路徑。更優(yōu)雅的做法同樣是跟蹤切換內(nèi)核每次發(fā)生上下文切換時都會記錄誰被換下、誰被換上如果我們在這兩個時刻打點(diǎn)就能算出每個線程兩次被調(diào)度之間隔了多久并且抓下它被換下時的調(diào)用棧——那個棧就是它睡覺的原因。3.1 線程離開 CPU 的幾種典型原因歸納一下線程從 Running 變成 Off-CPU常見就這幾類。第一類是睡眠等待主動調(diào)用會睡眠的 syscall 或同步原語比如 read/write 阻塞、futex 等待、nanosleep。第二類是等鎖包括用戶態(tài)自旋鎖的退化、互斥量、文件鎖內(nèi)核里 futex 是重災(zāi)區(qū)。第三類是等 IO包括磁盤、網(wǎng)絡(luò)、管道很多時候表現(xiàn)為 epoll_wait 或 read 阻塞。第四類是被搶占時間片用完或被高優(yōu)先級線程擠下去這時候線程還是 Runnable只是沒輪上。前幾類是 Sleeping第四類是 Runnable。區(qū)分它們很重要Sleeping 說明有外部依賴拖著優(yōu)化方向是縮短依賴或并發(fā)化Runnable 說明 CPU 資源或調(diào)度配置有問題優(yōu)化方向是加資源或調(diào)優(yōu)先級、綁核。很多分析工具會把兩者混在總 Off-CPU 時間里看的時候要留意能不能拆開。3.2 offcputime 與 wakeuptime等待棧和喚醒鏈BCC 工具集里的 offcputime 是最常用的入口。它會跟蹤上下文切換統(tǒng)計每個線程 Off-CPU 的累計時長并按被換下時的棧聚合offcputime -df -p 12345 30 offcpu.folded flamegraph.pl --colorio --titleOff-CPU Time --countnameus offcpu.folded offcpu.svg參數(shù)含義-d 打印分隔符方便后續(xù)折疊-f 輸出折疊格式直接喂給火焰圖腳本-p 限定進(jìn)程最后一個數(shù)字是采集秒數(shù)。得到的 Off-CPU 火焰圖跟 On-CPU 長得像但橫軸寬度是阻塞時長微秒讀法是哪個棧把線程卡住得最久。offcputime 解決的是線程在哪睡但它不回答誰把它叫醒的。這時候就要請出 wakeuptime。它把阻塞棧和喚醒棧拼在一起直接告訴你A 線程在某個 futex 上睡了 200ms是被 B 線程喚醒的。這個信息非常值錢因?yàn)樗岩蚬溄o串起來了——很多鎖競爭的根因不是持鎖線程慢而是持鎖線程被別的更慢的操作卡住了。wakeuptime -p 12345 30實(shí)測下來wakeuptime 在排查線程池互相等待、上游把下游拖死的場景里特別好用。缺點(diǎn)是對復(fù)雜調(diào)用棧的輸出會比較長需要配合過濾看。3.3 runqlat被忽視的調(diào)度延遲前面說過 Runnable 狀態(tài)是獨(dú)立的一類浪費(fèi)量化它主要靠 runqlat老版本叫 runqslower。它統(tǒng)計任務(wù)從進(jìn)入就緒隊列到真正被調(diào)度執(zhí)行之間的延遲分布輸出是直方圖runqlat -m -P 10-m用毫秒做單位-P按進(jìn)程聚合。看這個輸出主要看長尾如果 p99 到了幾十毫秒說明某些線程經(jīng)常在就緒隊列里等很久CPU 飽和或者有 CPU 密集任務(wù)在搶。這類延遲在應(yīng)用層往往表現(xiàn)為莫名的抖動而且因?yàn)樗幌?CPU 時間常規(guī)監(jiān)控根本看不到。線上偶發(fā)毛刺排查runqlat 是我必開的一個工具。注意offcputime 統(tǒng)計的時長里其實(shí)已經(jīng)隱含包含了 Runnable 的等待因?yàn)榫€程從被換下到再次被換上中間可能既有睡眠也有排隊。要精確拆開需要同時看 offcputime 和 runqlat用差值估算。睡了 100ms 里有 80ms 是在排隊這種結(jié)論只能靠兩個工具配合才能得出。4. 一次真實(shí)排查的完整推演講完工具來走一遍完整流程比干講參數(shù)有用得多。以下是我處理過的一個典型場景做了脫敏和簡化但思路和步驟是原樣的。4.1 現(xiàn)象描述和初步假設(shè)現(xiàn)象某服務(wù)接口在壓測時 p99 從 20ms 漲到 900ms但機(jī)器 CPU 使用率只有 25%IO 也不高監(jiān)控上看不出明顯異常。單看資源指標(biāo)這臺機(jī)器簡直空閑得可以去度假。這種資源不緊張但延遲爆炸的形態(tài)基本可以判定瓶頸在 Off-CPU而且大概率是排隊或者鎖不是計算。先立幾個假設(shè)一是線程池被某個慢調(diào)用占滿新請求只能排隊二是某個共享資源連接池、緩存、鎖成了串行點(diǎn)三是 GC 或者定時任務(wù)周期性搶占導(dǎo)致抖動。接下來逐個驗(yàn)證。4.2 用 On-CPU 排除計算密集第一步還是先排除計算問題畢竟它最好查。抓 30 秒 On-CPU 火焰圖perf record -F 99 -g -p $(pgrep -f myapp | head -1) -- sleep 30 perf script | ./stackcollapse-perf.pl | ./flamegraph.pl oncpu.svg結(jié)果很干凈最寬的葉子占不到 5%沒有任何函數(shù)吃滿。這就基本排除了 CPU 熱點(diǎn)也側(cè)面印證問題在等待。同時看了一眼 On-CPU 的采樣總數(shù)30 秒 99Hz 應(yīng)該接近 3000 個樣本實(shí)際只采到不到 800 個——這個差值本身就是信號大量時間線程根本沒在跑采樣器采不到。4.3 用 Off-CPU 定位到鎖競爭接下來抓 Off-CPUoffcputime -df -p $(pgrep -f myapp | head -1) 30 offcpu.folded flamegraph.pl --colorio --titleOff-CPU --countnameus offcpu.folded offcpu.svg火焰圖一出來最寬的一條棧非常顯眼從業(yè)務(wù)入口一路到pthread_mutex_lock再往下是futex_wait累計阻塞時間占了總 Off-CPU 時間的六成以上。也就是說大量線程都堵在同一把鎖上。順著棧找到那個 mutex 對應(yīng)的代碼位置是一個本以為讀多寫少的共享配置緩存實(shí)際每次刷新都會整表加寫鎖而刷新又調(diào)用了下游接口一旦下游慢鎖就持很久。再用 wakeuptime 確認(rèn)喚醒鏈wakeuptime -p $(pgrep -f myapp | head -1) 30輸出清楚地顯示喚醒這些等鎖線程的正是那個持鎖的刷新線程而刷新線程自己又阻塞在下游網(wǎng)絡(luò)讀上。到這里因果鏈完整了下游慢 → 刷新線程持鎖時間長 → 其他線程全堵在鎖上 → 請求排隊 → p99 爆炸。4.4 驗(yàn)證與修復(fù)驗(yàn)證方式很直接給共享緩存的刷新邏輯改成先算好再原子替換指針也就是讀路徑無鎖、寫路徑只做一次指針交換把持鎖時間從整個下游調(diào)用縮到指針賦值。改完復(fù)壓p99 回落到 30ms 以內(nèi)Off-CPU 火焰圖上那條 futex_wait 的寬度基本消失了。這次排查的價值不在于用了多高級的工具而在于先用 On-CPU 排除、再用 Off-CPU 定位、最后用 wakeuptime 串因果這個固定套路。你把這套順序記下來遇到類似問題就不用靠猜了。5. 環(huán)境準(zhǔn)備與工具選型的一些硬門檻工具再好環(huán)境不支持也白搭。Off-CPU 這類分析工具大多基于 eBPF對內(nèi)核版本和權(quán)限有實(shí)打?qū)嵉囊筇崆按_認(rèn)能省掉很多抓耳撓腮的時間。5.1 內(nèi)核版本與 eBPF 能力自檢先看內(nèi)核版本uname -roffcputime、wakeuptime 這類工具依賴掛載 kprobe 的能力實(shí)踐上建議內(nèi)核 4.15 以上5.x 更穩(wěn)。4.9 到 4.14 之間有些工具能跑但偶有兼容問題。檢查內(nèi)核配置grep -E CONFIG_BPF|CONFIG_BPF_SYSCALL|CONFIG_KPROBE /boot/config-$(uname -r)幾個關(guān)鍵項要能查到BCC 工具集才能正常工作。如果是最小化安裝的發(fā)行版可能連 bcc-tools 包都沒裝。5.2 安裝 BCC 與依賴主流發(fā)行版基本都有現(xiàn)成包# Debian/Ubuntu 系 sudo apt-get install bpfcc-tools linux-headers-$(uname -r) # RHEL/CentOS 系 sudo yum install bcc-tools kernel-devel-$(uname -r)裝完工具一般在/usr/sbin或者/usr/share/bcc/tools下可能帶-bpfcc后綴。perf 和火焰圖腳本另裝perf 跟內(nèi)核版本綁定最好用包管理器裝避免自己編譯出坑FlameGraph 是一堆 Perl 腳本clone 下來即可。5.3 容器和虛擬化環(huán)境的特殊處理容器環(huán)境里有兩個必踩的坑。第一是 PID 命名空間容器里看到的 PID 和宿主機(jī)不是一回事perf 和 bcc 工具如果跑在宿主機(jī)上得用宿主機(jī)的 PID用docker top或者ps -eLf | grep去定位。BCC 的-p參數(shù)接受的是它所在命名空間里的 PID跑在容器內(nèi)就填容器內(nèi) PID。第二是權(quán)限eBPF 傳統(tǒng)上要 root5.8 以后有了 CAP_BPF 和 CAP_PERFMON 可以降權(quán)但生產(chǎn)上多數(shù)還是用 root 或者 privileged 容器。虛擬化環(huán)境里硬件 PMU 事件可能不可用perf 的部分功能會退化但軟件事件cpu-clock和采樣依然可用Off-CPU 工具基于 kprobe 基本不受影響。這一點(diǎn)在云主機(jī)上不需要太擔(dān)心。提示如果 offcputime 報 HINT: ... failed to attach 之類的錯誤先確認(rèn)內(nèi)核開了 CONFIG_BPF 相關(guān)選項再確認(rèn)自己沒有在受限的 seccomp 環(huán)境里跑。有些安全加固過的環(huán)境會禁用 bpf() 系統(tǒng)調(diào)用。6. 常見問題與排查技巧速查把經(jīng)常遇到的坑整理成一張表排查時直接對號入座比翻文檔快?,F(xiàn)象可能原因排查手段處理方式On-CPU 火焰圖全是地址符號二進(jìn)制被 strip 或缺 debuginfoperf buildid-list對比安裝 debuginfo 包或帶符號重編采樣樣本數(shù)遠(yuǎn)低于預(yù)期線程大量 Off-CPU對比預(yù)期樣本數(shù)轉(zhuǎn) Off-CPU 分析Java 棧顯示為[JIT]JIT 代碼無符號映射檢查/tmp/perf-PID.map掛 perf-map-agent 或換 async-profileroffcputime 棧斷在中間棧展開深度不足看棧頂部是否有斷裂dwarf 模式或加大棧參數(shù)Off-CPU 圖里大量 idle/swapper采集到空閑任務(wù)觀察最寬塊的名字用-p限定進(jìn)程或加過濾p99 抖動但 CPU 不高調(diào)度延遲長尾runqlat -m -P查 CPU 飽和或綁核調(diào)優(yōu)先級等鎖時間長但持鎖者不慢持鎖者被下游卡住wakeuptime看喚醒鏈縮短持鎖范圍或改無鎖容器內(nèi)工具報 PID 找不到命名空間不一致docker top核對用對應(yīng)命名空間的 PIDeBPF 工具 attach 失敗內(nèi)核能力或 seccomp 限制查內(nèi)核 config 和安全策略換環(huán)境或提權(quán)這張表里我最想強(qiáng)調(diào)的兩行是采樣樣本數(shù)遠(yuǎn)低于預(yù)期和等鎖時間長但持鎖者不慢。前者是一個很隱蔽的信號很多人看到 CPU 不高就直接放棄 perf 了其實(shí)差值本身就在告訴你答案后者是翻身常犯的錯——盯著等鎖的人看忽略了叫醒他們的人。把這兩個視角建立起來絕大多數(shù)詭異延遲都能找到入口。再補(bǔ)幾個實(shí)操心得。第一采集時長別太短Off-CPU 事件往往稀疏10 秒可能采不到幾次建議至少 30 秒長尾問題可以拉到幾分鐘。第二采樣時盡量復(fù)現(xiàn)問題場景空跑采集沒意義要壓測就邊壓邊采。第三火焰圖看的是分布不是順序別試圖從圖里讀出時間先后要看先后得用 trace 類工具。第四perf script產(chǎn)出的中間文件可能很大幾十秒采集幾百 MB 是常事注意磁盤空間和后續(xù)處理的內(nèi)存占用。7. 一些踩坑之后才明白的經(jīng)驗(yàn)最后聊點(diǎn)工具之外的東西都是實(shí)打?qū)嵅瘸鰜淼?。剛接觸 Off-CPU 分析時我老想找一個命令搞定后來發(fā)現(xiàn)這套分析的價值恰恰在于組合On-CPU 排除計算、offcputime 找阻塞點(diǎn)、wakeuptime 串因果、runqlat 補(bǔ)調(diào)度四個環(huán)節(jié)缺一個結(jié)論就可能偏。還有一個體會是Off-CPU 時間不是越低越好而是越可解釋越好。有些等待是設(shè)計使然比如正常的網(wǎng)絡(luò) RTT、必要的批量攢批這些等待是劃算的真正要干掉的是那些沒必要的、可以并發(fā)化的、因?yàn)閷?shí)現(xiàn)缺陷被放大的等待。所以別追求把 Off-CPU 壓到零先追求能說清楚每一段等待花在哪、值不值。另一個容易忽略的點(diǎn)是采樣開銷。eBPF 工具在高頻事件上比如上下文切換特別頻繁的系統(tǒng)本身也會產(chǎn)生可觀測的額外負(fù)載采集的時候要留意對被分析進(jìn)程的影響別把觀察行為變成了干擾因素。壓測對比時最好先跑一次不采集的基線再跑采集版本把采集開銷從結(jié)果里扣掉不然容易冤枉代碼。再分享一個小技巧如果線上不方便跑 root 工具可以先從/proc/PID/status里的 voluntary_ctxt_switches 和 nonvoluntary_ctxt_switches 看趨勢兩個值漲得快說明上下文切換頻繁O(jiān)ff-CPU 問題概率大這就是個零成本的先行指標(biāo)用來決定要不要上重武器很夠用。這套東西我用了好幾年越用越覺得它不是什么高深技術(shù)就是把線程到底在干嘛這個問題拆成兩半來回答的樸素方法。工具會隨內(nèi)核版本變理解On-CPU 加 Off-CPU 等于完整墻鐘時間這個賬本關(guān)系才是長期管用的東西。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
精品人妻伦一二三区久久| 国产成人精品一区二三区熟女在线| 噜噜噜狠狠色综| 青草视频在线观看视频| 狠狠草狠狠草| 91干视频| 亚洲熟妇无码乱子AV电影| 那里有AV网址| 亚洲人妻av| 婷婷五月综合基地| 操逼五月婷婷| 9国产在线视频| 六月丁香婷婷亚洲中文玖玖| 激情黄色小说色五月| 老师高潮流白浆喷水的A片| 丁香啪啪| 五月丁香香蕉| 丁香五月电影| 五月婷婷AV| 五月天婷婷影院影院观看| 天天日日人| 2020日日干| 国产精品男人AV不卡| 99成人在线观看| 丁香六月婷婷久久综合| 狠狠五月天| 丁香欧美| 久久成人人妻| 99久久极情精品一区| 第六色在线| 噜噜噜噜婷婷五月天| 激情五月综合久久| 99噜噜| 97伦色婷婷| 午夜爱爱网站| 九九久久高清| 亚洲无码黄色| 色v综合网| www亚洲无码| 六六久久黄色| 伊人丁香五月婷婷潮吹| 99碰在线视频| 婷婷99中文字幕| 大伊香蕉玖玖爱| 丁香五月婷婷激情蜜桃| 极品九九九九九九| 丁香久久综合| 《诡秘之主》在线观看| 婷婷五月俺要去| 99热精品在线观看| 大狠狠在线| 99热综合在线观看| 欧州色色| 亚洲另类婷婷综合| 亚洲五月婷| www激情| 99热91| 久久女婷| 久久se 综合网| 婷婷五月色播天| 色综色网| 啪啪操超碰| 九九色播五月丁香| 婷婷色五月婷婷姐妹| 啪啪91| 精品久久人妻热| 欧美日韩大黄| 久久婷婷五月天蜜桃| 婷婷六月色开 | 俺去婷婷 丁香| 在线综合啪| 超级碰碰碰久久网站| 丁香花综合永久入口| 丁香情色五月| 91丁香五月| 婷婷中文字幕| 五月天俺去也| 亚洲日日操| www.99热| 伊人久久大香线蕉综合网站| 激情四射五月天偷偷看婷婷| 丁香五月婷婷激情蜜桃| 可以直接看的av| 国产美女无遮挡裸体毛片A片| 久久精品A片777777| 这里只有精品视频99| 日本人人xxx| 久久五月天视频| 天天影院色| 99人妻碰碰久久久禁片| 色狠狠综合网| 热99热9| 天天干电影| 久草婷婷| 久久婷婷五| aa久久| 五月激情综合婷婷| av久热| 少妇人妻偷人精品无码视频新浪| 精品99在线看| 狠狠操婷婷| 婷婷五月天堂| 婷婷94s| 国产真人做爰视频免费| 九月激情综合| 思思久日精品视频| 久久综合激情| 激情综合国产| 79精品视频| 五月丁香婷婷成人网| 五月婷A V在线| 在线观看欧美| 中文字幕色色| 精品无码久久久久久久久| www.婷婷激情网.com| 日韩综合天堂| 天天日天天色| 99久久婷婷精品视频| 丁香五月欧美色综合| 丁香五月婷婷六月婷| 天天天在线观看| 伊人在线视频| 五月天五月色婷婷综合| 五月丁香激情四射| 日日综合网| 日本天堂网站99| 色天天综合天天综合频道。| 亚洲在线资源| WWW·色色色·COM| 精品五月天| 婷婷激情五月| 久久99免费视屏| 这里只有精品免费视频在线观看| 一起草AV入口| 一區四區歐美日韓| 五月天大香蕉| 色噜噜伊人| 激情亚洲婷婷| 久久婷婷丁香| 丁香婷婷色九月| 开心五月婷婷伊人| 久热精品视频| 久久精99| 99视频久久| 亚洲精品a成人在线播放| 亚洲激情av| 激情丁香五月| 久Se视频在线观看| 五月丁香六月婷婷久久肏| 日B日潘金莲BB| 天天日日人| 亚洲AV网址| 久久九⑨| 久艹大香蕉| www91久久| 五月丁香婷婷激情澎湃四射| 丁香啪啪中文字幕| 五月丁香六月婷婷综合网站| 伊人影院久久网| 偷拍视频五月天| 久久久婷| 丁香五月六月欧美| YW无码| 丁香欧美| 激情婷婷网| 99久久大片| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 天天天天爽爽天干| 一起操 91N.com| 99热这里只有精品最新| 午夜九九九九九九| 五月婷婷熟女| 亚洲夜五月| 亚洲成人网站在线观看| 色婷婷91激情小说| 色日本颜射| 九九视频精品在线免费| 日韩AC在线免费观看| 亚洲另类婷婷五月综合| 天天透天天干| 五月丁香婷婷啪啪| 五月丁香999| 99只有精品| 开心亚洲久久开心| 亚洲9久久精品| 99无吗| 91九色PORNY中文啦| 激情99在线视频| 日噜噜色| 狠狠干婷婷| WWW,五月天| 天天综合网站| 高清无码视频网址| 亚洲AV成人在线| 在线播放成人网站| 亚洲成人噜噜| 婷婷五月色| 日本一级黄色电影| 开心激情网在线| 日本精品干| 日韩999| 丁香五月综合色婷婷| 日本人妻伦在线中文字幕 | 婷婷丁香五月高清| 欧美日韩999| 五月天激情国产综合婷婷婷| 丁香六月婷婷综合欧美| 九九操操| 97碰91| 亚洲成人中心| 久久这里只有精品网| 182tv992tv人之初午夜免费观看| 99热最新| 婷婷五月天在线观看免费 | 日木狠狠干| 免费视频WWW在线观看网站| 五月丁香六月婷婷在线播放| 久久久.COM| 欧美电影在线播放| 激情丁香六月| 人人爱人人添| 色综合xx| 亚洲精品亚洲人成人网| 五月婷婷丁香综合,亚洲天堂| 天天肏天天肏天天肏| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 免费AV在线| 黄网在线免费| 五月丁香六月婷婷网| 夜夜夜叫天天天做| 五月六月播婷婷| 色天使久久综合| 丁香色色色| 国产精品久久久60086| 色婷婷激情五月天| 两性婷婷丁香五月| 97色干| 天天爽天天日| 狠狠操狠狠做| 亚洲婷婷月丁香五月| 亚洲乱啪| 五月婷婷久草| 思思久久99热只有频精品66| 色爱综合网| 婷婷开心久久| 开心五月色婷婷综合开心网| 五月花综合网| 亚洲五月婷婷| 肏屄色播伊人97婷婷| 韩国中文字幕91| 色人久久| 999婷婷综合| 色五月婷婷大香蕉| 殴美97色| 97人人妻人人艹| 欧美色五月| 999久久久国产精品| 欧洲综合色| 天搞天天天天天| 色五月婷婷天堂| 国产成人精品亚洲线观看| 超碰com| se99视频| 九九免费视频| 天天日本夜夜谢| 严洲天天插| 中文人妻主播久久| 丁香五月天激情婷婷丁香六月| 99热网址| 七七九色| 五月婷婷激情| www色色com| 六月丁香婷婷色狠狠久久| 色九九中文字幕| www色色com| 99日本精品视频热| www.日日夜夜.com| 99久热| 天天爽人人综合免费7799| 亚洲色婷婷| 开心婷婷五月| 亚洲婷婷91丁香| 超碰猛烈的性猛交| 超碰人人超碰| 色玖玖| 99色热| 激情综合五月| 欧美性爱五月天| 激情六月天| 久久这里只精品| 深爱五月激情| 99这里有精品| 久777| 亚洲人操亚洲人| 日韩五月婷婷久久| 99久久精品亚洲综合| 六月丁香婷婷综合影院| 91ncm视频| 97碰久久| 亚洲婷婷丁香五月天激情小说| 久久aaa| 深爱激情五月天色婷婷| 婷婷五月天激情综合网| 五月婷婷之婷婷| 99热精品在线在线| 丁香在线视频| 综合色五月亭亭| 99视频综合| 久久久九九视频精品18| 熟女网站久久| 色婷婷六月激情| 婷婷综合成人五月天| 丁香五月亚洲无码| 婷婷五月激情丁香| 天天操人人干| 伊人免费视频9| 大香蕉丁香| 91精品久久久久久久久| 亚洲性受XXXX五月丁香| 另类图片婷婷五月天| 亚洲欧美一区二区三区爱爱动图 | 久久这有这里精品| 99精品视频免费| 五月天婷婷AV| 亚洲精品字幕在线观看| 久久99免费视频网站| 午夜丁香综合婷婷| 天天爱天天做天天舔| 激情五月天免费视频| 可以看的AV| 色色五月天激情| 日日爽夜夜爽| 超碰国产AV| 婷婷丁香人妻天久久| 五月丁香婷色| 色综合久久中文| 亚洲色频| 香蕉乱插| 欧洲激情五月天| 99热色精品| 久色视频| 青青草原伊人网| VA日本视频| 丁香五月激情鲁| 91九色国产| 国产全是老熟女太爽了| 97碰碰视频| 草操AV在线| 亚州操人在线视频| 丁香五月成人| yellow视频在线观看91| 婷婷五月天激情五月天| www.zbzhongsen.com| 在线播放成人| 草美女在线观看视频在线播放| 色五月综合激情| 欧美99热| 日韩一级网站| 五月婷婷五月天亚洲无码| 99性视频| 日韩视频女神99| av在线超清中文| 夜夜撸日日操| 久久精品熟女亚洲AV麻豆| 色婷婷狠| 99热天堂| WWW.久久99| 影音先锋男士资源网一区| 狼人婷婷久久| 丁香五月在线| 日逼影音先锋男人资源站| 五月开心婷婷网| 人妻精品一区二区三区| 亚洲欧美综合7777色亭亭| 丁香成人五月天| 夜夜骑夜夜撸| 97超碰9久热婷婷热| 激情综合五月激情XXXX| 99九九精品| 国产婷婷久久| 日日操天天| 极品人妻VIDEOSSS人妻| 婷婷五月蜜桃成人桃色丁香| 操91| 99热这里都是精品| 久久女人天堂| 亚洲小电影在线观看黄999| 色5月婷婷| 人人操av| Av性爱网站| 欧美色色色色色色色| 中文字幕成人日韩| 久久五月天色| 操日本色| 26UUU精品一区二区| 国产精品 的国产| 综合五月网| 99网址在线观看| 婷婷五月天亚洲色| 免费视频WWW在线观看网站| 五月天激情小说| 任你爽免费视频| 麻豆雪千夏| 九九激情| 久久伦乱| 爱射综合| 99亚色色色| 亚洲激情五月| 人人操Av| 日本人人超碰| 五月婷婷自拍视频| 丁香五月色色婷| 操操操AV| 五月丁香网站| 国产成人网址| 激情五月天在线观看色婷婷| 国产精品久久久久久久久久 | 综合色播| 精品99爱免费视频在线观看| 婷婷六月天国产综合| 99热在线中文字幕| 久草视频大香蕉99| www.久久综合| 久色视频在线| 国产内射婷婷| 激情都市丁香婷婷| 人人97碰| 色婷婷五月天| 日日操天天| 亚洲国产成人AV在线| 99热精品在这里| 色哟哟性爱av| 激情丁香五月| 伊人9999| 九九热99免费视频| AV九九| 99 这里只有精品| 久久五月婷综合| 六月综合在线| 91干| 五月Huangsewang| 91精品综合久久久久久五月丁香| 久久免费操| 久久综合五月| 天天做 天天爱| 伦99热| 97久久久| 五月婷婷婷婷婷| 性爱激情小说AV五月丁香花| 超碰在线国产| 操熟女成人网| 伦乱天堂| 六月丁香婷婷爱| 综合性爱网| 亚洲激情亚洲激情| 久草婷婷视频| 色婷婷久久| 激情婷婷五月天日本系列| WWW免费视频碰碰碰碰| 亚洲热视频在线| 五月婷婷狠狠干| 久久婷婷五月激情综合| 男同91| 久久九九热视频| 婷婷精品视频| 国产午夜精品一区二区三区四区| 丁香六月婷婷姐网| 日韩精品999| A短视频免费在线观看| 伊人网碰碰| 九月婷婷丁香| 天天搞天天爽| 激情九九六月激情免费视频| 天天拍夜夜爽日日| 337p大胆噜噜噜噜噜91Av| 另类丁香五月天区图| 久久久99久久| 五月婷婷激情视频| 色五月激情五月| 人人操97| 五月天综合| 777精品久无码人妻蜜桃| 在线超碰91| www.狠狠操.com| 亚洲视频五区| 午夜日韩久久久网站| 丁香桃色综合网| 色五月天丁香婷婷| 狠狠狠狠青草| 开心色播色五月婷婷| 思思热视频在线观看| 中文字幕+中文在线| 午夜丁香六月婷| 二色AV| 成人 九九九九| 日日干日日s| 大香蕉啪啪啪| www.91.com黄| 丁香五月偷拍| av人人操| 国产精品久久久丁香五月八戒视频| 色屌丝中文字幕| 熟女91九色| 99愛国产| 婷婷五月丁香基| 丁香五月天激情婷婷丁香六月| 丁香五月激情综合| 综合激情在线观看| 综合五月婷婷| 91久久九九| 亚洲婷婷成人五月天| www.yw尤物| 丁香五月天激情| 五月天婷婷网站888| 久久婷婷色综合老司机| 婷婷五月天堂| 激情婷婷五月| 99色干| 任你操精品免费| 99资源在线| 天天日,天天射,天天舔| 五月色情精品| 婷婷噜噜| 97AV人人插人人操| 思思热视频在线| 一级性感毛片| 天天爱天天做天天| 亚洲成人网站在线| 999久久久国产精品| 五月丁香婷婷99| 99精品小视频| 五月婷婷精品| 中文久久婷婷| 久久精典| 亚洲中文字幕av| 五月天无码| 色99色| 五月婷婷五月天激情视频| www.狠狠操| 天天爽天天爽天天爽天天爽天天爽天天爽天天| 九九成人视频| 日日爽日日操| 日韩av免费版| 人人干人人看| 在线观看亚洲视频影院| 日本人妻A片成人免费看片| 99在线69| 精品无码久久久久久久久| 综合逼五月激情婷婷| 亚洲电影在线观看| 亚洲色激情| 丁香五月成人丝袜| 欧美色久| 日本的α片xxxwww| 日本操天堂| 色色丁香激情五月| 99色久| 久草A片| 丁香婷婷综合激情五月色,开心五月丁香花综合网,激情综合五月亚洲婷婷,五月天 | 任你艹| 午夜天堂啪啪| 日韩精品一区二区亚洲AV观看| 神马欧美精| 97九色| 国产精产国品一二三在观看| 综合激情深爱| 久久新| 天天搞天天爽| 五月婷婷免费视频| 久久婷婷东京热| 色综合网址| 婷婷五月天改成什么了| 久久九久久| 五月丁香香蕉| 丁香六月婷婷综情欧美| 九久久婷婷| 五月激情婷婷国产精品久久久久久| 丁香婷婷五月综合影院| 亚洲精品又粗又大又爽A片| 欧美丁香五月天| 婷婷丁香五月天大香蕉| 色99网| 《》【无码】想被搞到爽AV应募而来的超M素人 西纯子 10musume-011723-01 | 另类丁香综合| 丁香五月手机在线| 九月丁香五月婷婷| 丁香九月婷婷综合| 丁香六月婷婷缴情欧美| 丁香婷婷色九月| 人人操Av| 人人综合91网| 裸睡玩奶头(高H)| 久久这里有| 99久久久久| 亚洲人人操| 噜综合| 日韩三级视频一区二区| 色色色com| 热99只有里视频| 丁香九月久久| 久热精彩视频98| 大香网伊人久久综合| 婷婷亚洲在线| 亚洲色情久久| 欧美日韩中国| 国产亚洲精品AAAAAAA片| 99色网站| 婷婷五月开心中文字幕色| 久操97| 久久久亚洲精品一区二区三区浴池| 久久久久久人妻| 欧美丁香六月在线观看视频| 五月天天综合| 91久女| 九九99久久| 天天天操天天天日| 精品一区二区三区四区五区六区介绍| 97碰碰碰| 日本三级99人妇网站| 欧美人妻一区二区| 韩国激情五月天综合网| 五月天色五月天| 超碰免费99| 天堂网亚洲色图| 99热18| 日韩AV片| 久久这里有精品| 五月婷丁香在线视频在线| 日本在线视频播放91| 国产毛片操B| 99视频网| www.狠狠操.con| 在线观看的av| 色五月婷婷AV| 中文字幕高清av| 熟妇人妻中文字幕无码老熟妇| 91干视频| 五月婷婷丁香五月| 欧美日韩aaaa| 这里只有精品在线播放| 26uuu国产色| 五月丁香 啪啪| 五月丁香最新| 伊人天堂婷婷| 超91热| 51精品国自产在线| 丁香六月啪啪| 99∨VTV| 黄色片区子| 97se视频在线| 天天草天天爽| 六月激情久久| 婷婷五月六月| 天天色综网| 天天干、天天日日| 天天成人综合视频| 天天射射夜| 99热在线免费观看精品| 欧美大奶熟女噜噜噜噜| 国产精品久久99| 九九亚洲视频| 狠狠舔| 亚洲综合99| 久草性爱| caop在线视频| 超碰亚洲天堂| 玖玖视频福利| 桃色五月婷婷| 伍月婷丁香婷| 久久一热免费视频| 大波美女VA网站| 亚洲九九免费| 六月香五月婷| 日日操日日射| 噜噜噜噜噜色| 玖玖资源在线视频| 国产在这里只有精品| 色婷婷五月天激情在线观看| 狠狠色狠狠操| 五月综合色| 91丨九色丨丰满人妖| 亚洲天堂啪啪| 日韩无码色色| 久久人妻视频| 91无码色色| 欧美十二区| 九九色网| 啪啪黄页网| 日本一级| 美女丁香五月天| 色天天狠狠干| 五月丁香六月香综合激情| 啪到高潮激情丁香五月| 色99在线视频| 91色在线/日韩| 色色色色网站| 中字幕视频在线永久在线观看免费| 超碰在线50| 99热在线播放精品| 99狠狠| 久热这里只精品| 五月久久噜噜| 大陆肏屄视频| 六月婷婷啪啪| 久色激情| 激情五月丁香五月综合| 人妻在线网站| 久热伊人| 激情综合网亚洲色图| 久播影院免费观看电视剧大全最新网| 五月婷婷日| 五月婷婷丁香在线| 日本强伦片中文字幕免费看 | 亞洲自怕| 99热网址| 五月婷婷天天色| 五月婷婷综合精品| 国产成人av在线| 99精品成人无码A片观看金桔| 日本色啪| 五月天丁香综合| 2020久久婷婷五月| 婷婷五月激情图片| 久久免费精彩视频| 天天久久九九| 狠狠干综合| 极品五月天| 色五月婷婷在线| 亚洲亚洲人成综合网络| aaa9区免费在线观看| 99热 这里只有精品 国产 日韩| 夜夜做天天爽| 超碰资源在线| 极品人妻VIDEOSSS人妻| 综合伊人久久| 一二三区视频韩国| 五月天激情四射网站| 99精品偷自拍| www.97碰碰com| 99久久综合网| 99九无网码| 99人妻碰碰久久久禁片| 欧美天堂久久| 亚洲婷婷激情888精品久| 婷婷丁香九月| 三日本无码| 日韩色色色色色| 婷婷激情社区| www.99热| 久久婷丁香五月| 69综合在线| 69婷婷丁香午夜| 色五月天堂| 久久男人网婷婷| 欧美狠狠草| 九九热最新| 成人中文网| 丁香五月另类色婷婷麻豆| 婷婷五月噜噜| 久久99网站| 4399在线观看免费高清黄色视频| 五月婷婷色情| 97人人超| 亚洲啪啪视频| 五月性色| 欧美在线ee日韩| 26uuu淫色| 激情六月丁香| 亚洲欧美国产A片免费观看| 99热6这里之有精品| 美女网黄| 亚洲成片在线观看| 久久综合天天综合| 五月天婷婷成人网| 六月激情婷婷| 五月婷婷日| 色婷婷av综合网| 丁香婷婷偷拍| 亚洲操B| 色色狼人综合| 色婷婷亚洲婷婷在线观看| 色婷婷8| 成人久久天天x资源站| 婷婷色在线观看| 超级碰碰碰碰视频| 五月激情六月宗合| 碰99在线| 99热精品9| 极品人妻VIDEOSSS人妻| 五月婷婷激情综合在线| 丁香激情久久| 六月丁香六月婷婷欧美| 热99这就是精品视频| 丁香五月婷婷av影院| 亚洲 激情 中文| 亚洲九区| 操操操www.com| 婷婷丁香熟妇综合网| 91|九色|动漫| 99色| 91精产一区三区免费观看| 啄木鸟丝袜美女福利视频| 午夜无码熟熟妇丰满人妻| 欧洲亚洲免费视频9| 五月在线| 亚洲五月天色| 五月天综合色| 中文网AV| 婷婷五月天福利| 色就是色婷婷五月亚洲激情| 91啪啪视频| 九九九九毛片| 天天激情站| 九九碰九九爱97| 日韩中文欧美| 这里只有精品在线视频精品| 色婷婷五月天偷拍| 五月丁香六月婷婷啪啪综合 | 九九久久五月天| 97综合在线| 日韩九九视频| 99久久久久| 一根材五月婷成人| 96自拍视频九色在线观看| 伊人婷婷五月| 五月九九综合| 婷婷色五月丁香六月欧美啪| 久久 中文 日本| 影音先锋偷偷色男人站| 97热这里精品在线视频| 综合色图区| 婷婷丁香五月综合| 日本色色网| 五月天婷婷伊人| 亚洲AV久久久久久久久久久久久久久久 | 五月天激情四射网站| 婷婷激情在线| 五月丁香六月综合激情| 99小精品| 以及AA大片看看| 美女五月狠狠| 美女网黄| 狠狠操狠狠爱| 成人丁香婷婷五月天| 中文在线视频久9| 激情啪啪五月| 国产精品久久99| 激情内射人妻1区2区3区| 激情五月婷婷综合色播小说| 五月天色色色色色| A片一曲| 久久99热这里| 丁香五月伊人| 五月激情丁香久久综合网| 极品少妇XXXX精品少妇偷拍| 婷婷五月天婷婷| 色色五月天com| 久99视频| 天天操天天操天天操| www.久操| 97综合在线| 丁香五月98| 在线成人av播放| 99热综合| SS丁香五月婷婷| 97色图片中文字幕视频在线观看| 天天色亚洲| 玖玖精品资源| www.sebowuyue| 99久视频| 丁香六月情| 成人在线日韩| 国产婷婷婷| 久久性爱视频| 同性gv国产精品一区二区| 3DAV亚洲香蕉久久 一区二区| 另类图片激情五月| 婷婷 激情 五月| 99久久新视频| 五月综合色| 99热久| 婷婷丁香五月激情综合站_久久五月丁香激情综合_开心五月综合激情综合五月_婷 | 久色视频在线| 天天综合网色欲香| 99在线免费观看| 色婷婷久综合久久一本国产AV| 色色色色色色色色五月先| 超碰国产在线播放| 日韩综合天堂| 热99热9| 在线播放成人网站| 男人的天堂在线婷婷| 婷婷综合在线| 九九精品在线观看视频6| 五月天综合网| 变态另类色图| 一级黄色影片| 色色色在线观看| 综合性视频99| 啪啪激情网| 国产特黄色精品一区二区三区精品无广告| 国产精品久久久久久白浆色欲| 狠狠干五码| 91久久婷婷| 天堂网操| 色色亚洲五月天| 免费99情趣网视频| 99热综合在线| 蒲京久久无码视频| 99操碰| 久久在线大香蕉| 色五月成人在线| 丁香五月激情宗合网| 日韩黄色AV无码| 九九99久久精品| 91久久婷婷| 中文av网站| 天天干天天操天天上| 色婷婷综合网| 99亚洲精美视频在线观看| 超碰只有精品在线| AAA久久| 99激情网| 夜夜躁爽日日| 狠婷婷五月| 99热这里有精品6| 激情另类综合| 99久久亚洲国产| 九九婷婷激情综合网| 97色色网| 亚洲AV免费在线| 激情五月天色播| 99热99热不卡| 天天综合色综合| 日日夜夜狠狠婷婷色| 亚洲综合在线播放| 99热在线爱| 中文AV网站| 日日鲁鲁鲁夜夜爽爽狠狠视频97| 婷婷午夜天| 久操综合| 狠狠狠狠狠狠| 思思热精品在线| 丁香五月天激情网| 激情亚洲婷婷六月| 丁香五月日啪| 丁香六月婷婷综合激情欧美| 99操逼视频| 久久久jd| 丁香五月777| 色五月大香蕉婷婷| 另类图片五月天婷婷| 91久女| 激情五月天天| 三级黄色大片视频| 曰韩少妇内射免费播放| 日韩婷婷| 91超级碰| 九九色影院| 色色a| 亚洲热视频在线| 九九色综合| 97福利视频| 色狠狠色| 五月丁香| 久久这里只有精品99| 啪啪91| 五月婷婷成人| 日韩啪啪网| 丁香婷婷激情| 婷婷激情五月| 午夜不卡久久精品无码免费| 最近中文字幕大全免费版在线| 97人人操人人干| 91超级碰碰| 天天爽天天| 校花娇喘呻吟校长陈若雪视频| 国产日韩精品SUV| 国产成人精品一区二区三区视频| 亚洲愉拍99热成人精品| 成人 在线观看国产| 五月婷婷丁香91| 欧美精品狠狠色丁香婷婷| 久9热插入| 国产精品岛国片在线观看免费| 黄色91在线观看| 啪啪操超碰| 内射综合网| 大香蕉婷婷| 精品人妻伦| 人妻久久久久久久久妻久久久久| 五月天久久www| 99成人小视频| 天天色天天| 99精品久久久久久久婷婷| 婷婷五月天成人| 中文字幕在线观看视频www| 少妇被下春药玩弄A片| 色婷婷综合久久| www.色情五月天.com| 五月丁香自拍| 性爱动图国产麻豆一区二区三区 | 国产99久久久| www.夜夜操.con| 婷婷五月丁香色情| 狠狠色综合网站久久久久| 91九色国产熟女| 人人摸人人| 日本视频不卡123区| 99久久人人| 久操福利| 久久五月人人摸| 婷婷色情五月| 91婷婷色| 五月天婷婷激情| 国产精品 的国产| 欧美日本黄色| 国产99精品免费视频| 激情五月婷婷综合色播小说| 无码色| 久久久久婷婷| 在线观看日韩12345区| 操比激情五月综合| 人人爽人人射-美女久久久久久久久久-成人AV | 99re热视频这里只精品5| 91干视频| 国产3p露脸普通话对白| 丁香五月天激情四射网络不好| 婷婷五月天六点丁香五月| 视频免费精品免费精品免费精品免费精品免费精品免费精品免费99 | 亭亭丁香aV| 丁香五月婷婷色| 久久久久久久97| 中文字幕一色哟哟哟哟| 婷婷五月综合色中文字幕| 五月丁欧美| 性生活久久朋友人妻| 99日本黄站| av大片在线| 开心五月婷婷婷美女| 亚洲色五月天是什么| 亚洲另类视频| 五月天成人免费视频| 丁香六月综合| 亚洲激情亚洲激情| 日日噜狠狠色| 激情五月婷婷视频一区二区三区| 亚洲永远av在线播放| 激情五月综合| 五月丁香黄色视频| 五月天播播| 一区二区传媒视频| 99在线爽| 久热超碰91| 99成人| 乱精品一区字幕二区| 激情五月色婷婷| 五月婷婷深爱六月| 欧美日韩99| 亚洲殴洲精品Av在线| 在线观看五月婷婷网| 色五月天综合网| 极品少妇高潮啪啪AV无码| 亚洲天堂无码| 色婷婷丁香AV综合| 伊人99热| 婷婷成人在线| 夜夜夜叫天天天做| 99热官网精品在线| 久久天堂色| 99热在线中文字幕| 欧美日韩成人在线| 婷婷久久婷婷| 五月丁香五月激情综合色综合| 激情久久肏屄视频| 91人无码久久久久久| 日本无va视频| 九九热黄色| 激情五月婷婷啪啪| 人妻肉射免费观看| 欧美这里只有精品| 国产婷婷综合在线免费视频| 激情网五月婷婷| 丁香激情网| 久久综合爱| 99色综合| 日韩三级视频一区二区| 91dy.av| 五月婷婷五月天| 99精品在线观看视频| 五月第四色| 婷婷综合丁香| 五月天开心成人网| 26uuu最新地址| av在线中文| 99久视频| 玖玖玖婷婷婷| 精品免费99| 色噜噜狠狠色综无码久久合欧美| 99色色热热| 婷婷99中文字幕| 夜色综合网| 色狠狠婷婷| 久久天堂女人| 开心五月色婷婷综合开心网| 成人做爰高潮A片免费视频| 婷婷五月天AV网| 99黄色性生活| 综合另类视频| 超碰93在线观看| 五月天丁香婷婷社区| 欧美成人色婷婷| 久草视频大香蕉99| 丁香五月在线看| 日韩ww| 小视频一区| 亚洲天堂婷婷丁香| 狠色狠色狠色狠色狠色网| 91丨九色丨东北熟女| 99热情这里只有精品在线播放| 丁香色色网| 二色AV| 狠狠爱综合网| 久久99视频| 久久综合丁香激情五月| 超碰激情网| 亚洲精品国产成人AV在线| 久久婷婷色情7777网站| 欧美视频五区| 婷婷丁香宗合888| aa久久| 久草A片| 99日韩| 99免费综合网| 九九热视频在线观看| 色欲人妻综合aaaaaaaa网| www.婷婷五月天| aaaaaa片| 亚洲乱码日产精品BD| 丁香五月激情站| 欧美五月停| 开心五月激情婷婷| 俺去婷婷 丁香| 色偷偷五月天| 国产熟女大叫受不了| 狠狠色狠狠| 一区色色色色网| www.久久爱| 国熟女视频| 淫视馆av三区| 五月天四色房丁香亭亭| 婷婷综合影院| 亚洲av网站| 蜜乳9188| 无码免费人妻A片AAA毛片西瓜| 五月丁香六月婷婷综合伊人| 伊人大香蕉爱聚| 五月性色| 色婷婷www| 色五月欧美| 亭亭色天香| 日韩无码亚欧无码| 99九九热视频| 婷婷伊人| 亚洲日本韩国| 99热无码| 国产日韩av片| 六月婷婷综合| 思思精品久久艹| 五月亭久久无码视频| AV在线观看网站| 亚洲小说五月婷婷| 色青青电影色五月| 亚洲色五月婷婷| 久久婷婷亚洲| 国产AV一区二区三区最新精品| 狠狠色丁香久久婷婷综合五月| 色情五月天导航| 五月婷婷久久综合| 激情婷婷五月天伊人在线观看| 伊人狼人干| 日韩av在线免费观看| 无码地址| 色天使久久综合| 91AV婷婷| 插插网爽妇五月丁香| 国产伊人大香蕉| 夜夜撸天天操| 天天日人人爽| 色婷婷激情四射视频| 91超级碰| 久久视频这里有精品99| 狠狠爱综合| 淫五月停停| 丁香狠狠色婷婷| 一个色的综合| 亚洲成人中文字幕| 99色精品| 五月天婷婷在线播放免费| 色色五月丁香婷婷| 婷婷五月欧美综合| 超碰三级片| 五月天色婷婷视频| 99久久五月丁香野外| 91超级碰碰| 99色精品| 777久久综合视频| 69精品人妻不卡视频| 久久婷婷影院| 久色资源| 综合激情五月综合激情五月激情1| 欧美男女婷婷| 人人爱操| 99热这里只有精| 国产精品五月丁香| 另类激情码| 色欧美一级| 天天射综合网站| 五月草影视| 婷婷五月综合婷婷| 九九热91| 青草青草视频2免费观看| www.色九月| 丁香婷婷啪啪| 狠狠操狠狠| 高清无码一区二区三区四区| 影音先锋91资源站| 色狠狠色噜噜AV天堂五区| 丁香婷婷91在线观看视频| 99热日本| 亚洲天堂99| 午夜福利成人AV91| 中文字幕日产A片在线看| 这里只有精品视频免费在线观看| 激情婷婷色小说| www一起操| 日本91在线播放| 色色婷婷五月| 国产免费AV在线| 人草人人| www.日韩艹| 色五月婷婷中文字幕在线观看 | 在线观看av网站| 97综合视频在线| 99热综合| 日韩啪| 开心激情网在线| 99精品视频在线| 激情小说五月天社区丁香| 色噜久| 色色999三级片| 99热这里有精品| 亚洲最大视频| www.色婷婷.com| 五月丁香六月婷婷综合网站| 天天插夜夜爽| 蜜乳9188| 超碰女人天堂| 婷婷久久伊人| 色婷婷小视频| 99精彩视频网站在线| 丁香九月激情| 国产精品大香蕉| 五月婷婷激情久久| 激情五月色婷婷| 久久精品视频在这里有|