99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Linux 性能優(yōu)化實(shí)戰(zhàn):CPU / 內(nèi)存 / IO / 網(wǎng)絡(luò)全鏈路調(diào)優(yōu),線上可直接落地

Linux 性能優(yōu)化實(shí)戰(zhàn):CPU / 內(nèi)存 / IO / 網(wǎng)絡(luò)全鏈路調(diào)優(yōu),線上可直接落地 文章目錄第一章:CPU使用率100%排查??核心判斷(top看%Cpu)??工具鏈??標(biāo)準(zhǔn)排查步驟??實(shí)戰(zhàn)案例案例1:Nginx+PHP?FPM案例2:Java應(yīng)用CPU 100%??關(guān)鍵注意點(diǎn)第二章: CPU高,但找不到高CPU進(jìn)程?結(jié)論先行第一層:故障現(xiàn)象第二層:兩個(gè)根因第三層:排查步驟(面試口述版)第四層:兩個(gè)典型案例第五層:踩坑關(guān)鍵點(diǎn)第三章: D不可中斷進(jìn)程 Z僵尸進(jìn)程排查(增加代碼通俗注解版)一、進(jìn)程狀態(tài)速覽二、故障根因D狀態(tài)(iowait高)Z僵尸進(jìn)程三、排查命令步驟1)全局觀察2)排查D狀態(tài)/iowait高3)排查Z僵尸進(jìn)程四、經(jīng)典案例(D+Z同時(shí)出現(xiàn),附代碼說明)五、高頻踩坑點(diǎn)第四章: 資深運(yùn)維面試|CPU性能優(yōu)化 4道深度面試題Q1:線上定位出CPU性能瓶頸之后,你完整的優(yōu)化閉環(huán)思路是什么?很多人找到瓶頸直接改代碼上線,會(huì)踩哪些坑?Q2:同樣CPU使用率100%,us用戶態(tài)高 和 sys內(nèi)核態(tài)高,你的分析思路?分別對(duì)應(yīng)哪些典型線上場景?Q3:CPU優(yōu)化手段有:代碼算法優(yōu)化、緩存、CPU親和性綁定、cgroup限制CPU。生產(chǎn)環(huán)境如何取舍?各自適用場景?哪些手段不能隨便亂用?Q4:怎么理解「過早優(yōu)化是萬惡之源」?結(jié)合運(yùn)維實(shí)戰(zhàn),什么情況該優(yōu)化,什么情況堅(jiān)決不要做優(yōu)化???終面綜合大題(可用于壓軸)第五章: Linux CPU性能Q1:線上CPU打滿,簡述完整故障排查閉環(huán),你會(huì)重點(diǎn)規(guī)避哪些坑?Q2:us高與sys高,分別代表什么?列舉典型場景與排查手段Q3:線上負(fù)載很高,但CPU idle還有20?30%,us/sy/wa都正常,請(qǐng)分析原因,能不能直接做CPU綁定?Q4:CPU優(yōu)化有算法優(yōu)化、緩存、CPU親和性、cgroup限制CPU;生產(chǎn)如何取舍,哪些手段慎用?Q5:perf采樣遇到哪些常見坑?(容器、Java、閾值、swapper)第六章: Linux虛擬內(nèi)存(終面)Q1:簡述Linux虛擬內(nèi)存核心原理,為什么要設(shè)計(jì)虛擬內(nèi)存?Q2:malloc底層brk、mmap分配機(jī)制,區(qū)別、優(yōu)缺點(diǎn)?Q3:free命令如何解讀?free、buff/cache、available有哪些線上坑?Q4:top VIRT / RES / SHR / %MEM含義,生產(chǎn)排查踩坑?Q5:內(nèi)存壓力下Linux三種內(nèi)存回收;OOM、oom_score、oom_adj原理?Q6:伙伴系統(tǒng)、slab分配器,slab是否用于用戶態(tài)malloc???SRE高頻拓展面試題Q7?1:缺頁異常分為哪幾類?Q7?2:HugePage大頁適合什么業(yè)務(wù)?有哪些生產(chǎn)代價(jià)?Q7?3:容器內(nèi)執(zhí)行free,顯示的是容器內(nèi)存還是宿主機(jī)整機(jī)?Q7?4:什么是內(nèi)部碎片、外部碎片???面試口述收尾(資深運(yùn)維必背)第七章: Buffer與Cache 資深運(yùn)維面試Q1:請(qǐng)講清楚Linux Buffer、Page Cache(buff/cache)區(qū)別?free命令中buff/cache是什么?Q2:`free`里`available`、`free`有什么本質(zhì)區(qū)別?很多運(yùn)維看到free很小就緊張,對(duì)不對(duì)?Q3:`echo 3 /proc/sys/vm/drop_caches`作用?線上生產(chǎn)環(huán)境能不能隨便執(zhí)行?3代表什么?Q4:slab中SReclaimable與SUnreclaim區(qū)別,會(huì)體現(xiàn)在free輸出哪里?Q5:vmstat中bi、bo是什么指標(biāo)?結(jié)合buffer/cache解釋寫文件流程。??SRE拓展深挖題Q6:怎么理解臟頁dirty page?臟頁過多會(huì)有什么線上問題?Q7:buff/cache持續(xù)占用很高,業(yè)務(wù)內(nèi)存充足,需要手動(dòng)drop_caches釋放嗎?Q8:free、vmstat數(shù)據(jù)來源于哪里???面試一句話收尾第八章: 系統(tǒng)Page Cache緩存 資深SRE面試題Q1:怎么評(píng)估系統(tǒng)頁緩存(page cache)的好壞?cachestat/cachetop/pcstat各自作用?O_DIRECT直接IO為什么cachetop看不到大量緩存未命中?Q2:線上業(yè)務(wù)IO慢,cachetop顯示進(jìn)程READ_HIT%=100%,但是業(yè)務(wù)讀延遲依舊很高,請(qǐng)分析原因與排查步驟?Q3:free看到buff/cache占用很高,free內(nèi)存很小,運(yùn)維要不要手動(dòng)執(zhí)行`echo 3 /proc/sys/vm/drop_caches`清理緩存?線上有什么風(fēng)險(xiǎn)?什么場景才適合執(zhí)行???面試一句話收尾??面試官備用深挖題第九章: 內(nèi)存泄漏 資深SRE面試題Q1:什么是內(nèi)存泄漏?堆、棧、數(shù)據(jù)段、文件映射段,哪些會(huì)發(fā)生內(nèi)存泄漏?線上內(nèi)存泄漏會(huì)帶來哪些連鎖危害?Q2:線上懷疑存在內(nèi)存泄漏,請(qǐng)描述完整排查流程,memleak工具原理,容器環(huán)境會(huì)遇到什么坑?Q3:C語言業(yè)務(wù)進(jìn)程RES持續(xù)上漲,怎么區(qū)分是真內(nèi)存泄漏還是偽泄漏?列舉常見偽泄漏場景。??面試口述收尾??面試官備用深挖題第十章: Linux內(nèi)存故障排查 資深SRE面試Q1:線上收到內(nèi)存告警,請(qǐng)描述完整排查思路,核心看哪些指標(biāo),如何區(qū)分是進(jìn)程、緩存、slab、Swap導(dǎo)致的壓力?Q2:什么是major主缺頁、minor次缺頁?線上指標(biāo)升高分別是什么現(xiàn)象,對(duì)業(yè)務(wù)有什么影響?Q3:Linux內(nèi)存調(diào)優(yōu)有哪些常用手段?哪些參數(shù)/命令生產(chǎn)環(huán)境嚴(yán)禁隨意操作,會(huì)帶來業(yè)務(wù)抖動(dòng)??面試速記小結(jié)(口述小結(jié),背完直接收尾)第十一章: 磁盤IO性能 資深SRE面試題Q1:線上業(yè)務(wù)接口響應(yīng)慢,top觀察iowait很高,請(qǐng)描述完整排查鏈路,關(guān)鍵工具與核心指標(biāo)?Q2:strace -p 綁定進(jìn)程PID,pidstat確認(rèn)該進(jìn)程大量寫IO,但是strace抓不到write調(diào)用,會(huì)是什么原因?Q3:iostat關(guān)鍵指標(biāo)%util、await、aqu?sz,解釋含義;哪些誤區(qū)容易誤導(dǎo)排障??面試速記小結(jié)第十二章: 數(shù)據(jù)庫慢查詢(系統(tǒng)層+MySQL層)資深SRE面試Q1:業(yè)務(wù)接口訪問MySQL,響應(yīng)耗時(shí)十幾秒,top看到iowait很高,請(qǐng)描述完整排查流程Q2:strace拿到mysqld的線程fd,直接把線程號(hào)傳給lsof卻查不到文件,是什么坑?Q3:除了SQL缺少索引,還有哪些外部系統(tǒng)因素,會(huì)導(dǎo)致MySQL查詢突然變慢??面試速記小結(jié)第十三章: Redis響應(yīng)延遲 資深SRE面試Q1:業(yè)務(wù)調(diào)用Redis查詢接口,查詢操作但接口響應(yīng)很慢,top看到iowait高,但iostat磁盤%util并不高,請(qǐng)描述完整排查鏈路Q2:容器內(nèi)運(yùn)行Redis,strace看到fdatasync耗時(shí)高,如何確認(rèn)這個(gè)fd對(duì)應(yīng)的socket還是磁盤文件?會(huì)遇到什么容器坑?Q3:iowait高,但iostat中磁盤%util不高,是什么原因??面試速記小結(jié)第十四章: Linux IO瓶頸快速定位 資深SRE面試Q1:線上業(yè)務(wù)變慢,收到iowait告警,請(qǐng)描述你快速定位IO瓶頸的完整套路?Q2:磁盤IO四大核心指標(biāo)是什么?考察時(shí)容易踩哪些誤區(qū)?Q3:文件系統(tǒng)層面有哪些容易忽略的IO性能指標(biāo)??面試速記結(jié)論第十五章: Linux網(wǎng)絡(luò)基礎(chǔ)與性能 資深SRE面試Q1:簡述Linux數(shù)據(jù)包收發(fā)完整流程Q2:衡量網(wǎng)絡(luò)性能核心指標(biāo)有哪些,分別含義?Q3:線上網(wǎng)絡(luò)變慢排查,你的排查步驟??面試速記小結(jié)第十六章:C10K / C1000K / C10M 速記?? 塔尖一句話一、三階段核心對(duì)比二、必背4個(gè)概念三、生產(chǎn)7大故障(按出題頻率排序)四、監(jiān)控必查命令(脫口而出)五、面試黃金收尾話術(shù)第十七章 tcpdump + Wireshark 面試一頁紙(3道面試題+總結(jié))面試題1:ping 訪問域名,單條ICMP延遲很小,但整個(gè)ping命令執(zhí)行耗時(shí)很長,可能是什么原因?如何定位解決?面試題2:線上服務(wù)器如何使用tcpdump和Wireshark做網(wǎng)絡(luò)故障排查,講完整操作流程,重點(diǎn)參數(shù)?面試題3:抓包中看到TCP斷開連接出現(xiàn)3個(gè)包,不是傳統(tǒng)的四次揮手,請(qǐng)解釋原理?一頁紙核心總結(jié)第十八章 DDoS(SYN?Flood)??核心概念??三大指標(biāo)?軟中斷 softirq??識(shí)別惡意流量(SYN洪水)??緩解手段iptablessysctl內(nèi)核調(diào)優(yōu)(寫入/etc/sysctl.conf,sysctl -p生效)分層防御??完整故障鏈路??面試必背短句第一章:CPU使用率100%排查??核心判斷(top看%Cpu)指標(biāo)高問題方向us/ni用戶業(yè)務(wù)代碼(死循環(huán)、大量計(jì)算、Java GC頻繁)sy內(nèi)核、頻繁系統(tǒng)調(diào)用、內(nèi)核線程wa磁盤IO瓶頸hi/si硬/軟中斷風(fēng)暴top按數(shù)字1,查看每個(gè)CPU核使用率??工具鏈top:定位高CPU進(jìn)程PID,默認(rèn)3s采樣pidstat 1 5:進(jìn)程細(xì)分 %usr / %system / %CPUperf(線上優(yōu)先,不中斷業(yè)務(wù))# 實(shí)時(shí)看熱點(diǎn)函數(shù)、調(diào)用棧perftop-g-pPID# 離線保存,適合轉(zhuǎn)瞬即逝問題perf record-g-pPID# Ctrl+C結(jié)束perf report??容器場景perf出現(xiàn)16進(jìn)制地址:宿主機(jī)生成perf.data,docker cp拷貝進(jìn)容器內(nèi)執(zhí)行report解析?GDB不適合線上:會(huì)暫停業(yè)務(wù)進(jìn)程Java專屬工具# 打印所有線程堆棧,定位高CPUJava線程jstackPID# 統(tǒng)計(jì)JVM各個(gè)內(nèi)存區(qū)域jstat-gcPID1000??標(biāo)準(zhǔn)排查步驟top觀察CPU分項(xiàng),確認(rèn)用戶態(tài)/內(nèi)核態(tài)/IO問題獲取高CPU進(jìn)程PID(top / pidstat)若是Java進(jìn)程:top?H -p PID找到高消耗線程tid,轉(zhuǎn)16進(jìn)制,配合jstack定位Java代碼;也可以使用perf采樣非Java進(jìn)程:perf采樣定位熱點(diǎn)函數(shù)根據(jù)函數(shù)/堆棧定位業(yè)務(wù)源碼,確認(rèn)根因(死循環(huán)、大量循環(huán)計(jì)算、頻繁FullGC等)修改代碼/配置,壓測驗(yàn)證修復(fù)效果??實(shí)戰(zhàn)案例案例1:Nginx+PHP?FPM現(xiàn)象:php?fpm進(jìn)程CPU打滿,us98%ab壓測:ab -c10 -n10000 http://ip:10000top確認(rèn)php?fpm占用CPUperf top -g -p PID找到sqrt為熱點(diǎn)源碼:單次請(qǐng)求百萬次循環(huán)執(zhí)行sqrt,遺留測試代碼刪除循環(huán),QPS從11提升至2237案例2:Java應(yīng)用CPU 100%現(xiàn)象:Java進(jìn)程CPU持續(xù)100%,us占比極高排查流程:top發(fā)現(xiàn)Java進(jìn)程PID=2345,CPU占用接近100%top -H -p 2345,發(fā)現(xiàn)線程tid=2368CPU占比很高tid轉(zhuǎn)16進(jìn)制:printf "%x\n" 2368→940jstack 2345 jstack.log,在日志搜索0x940堆棧定位業(yè)務(wù)代碼:for無限死循環(huán),沒有sleep;或者集合大數(shù)據(jù)遍歷補(bǔ)充:如果jstat?gc觀察到頻繁FullGC,CPU高是內(nèi)存泄漏導(dǎo)致,優(yōu)先排查內(nèi)存問題??關(guān)鍵注意點(diǎn)CPU使用率是一段時(shí)間采樣差值計(jì)算的平均值,不同工具采樣間隔不一樣,對(duì)比要保持間隔統(tǒng)一/proc/stat原始數(shù)據(jù)是開機(jī)累計(jì)值,不能直接拿來算使用率偶發(fā)瞬時(shí)CPU沖高,登錄現(xiàn)場已消失:依靠監(jiān)控 + perf record離線采樣Java使用perf:需要安裝perf符號(hào),否則只能看到j(luò)vm內(nèi)部符號(hào);jstack更適合定位Java業(yè)務(wù)代碼問題/////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////第二章: CPU高,但找不到高CPU進(jìn)程?結(jié)論先行系統(tǒng)CPU整體很高,但top/pidstat看不到高CPU進(jìn)程,90%是短時(shí)進(jìn)程,其次是進(jìn)程反復(fù)崩潰重啟。第一層:故障現(xiàn)象top全局us/sy高,id低;但所有進(jìn)程CPU占比都很低top看到大量R(Running)運(yùn)行態(tài)進(jìn)程,PID快速不停變化pidstat所有進(jìn)程CPU加起來遠(yuǎn)小于系統(tǒng)總CPU第二層:兩個(gè)根因短時(shí)進(jìn)程(最常見):業(yè)務(wù)代碼exec/system/ProcessBuilder調(diào)用外部命令,進(jìn)程生命周期極短,小于工具采樣間隔,top/pidstat抓不到,海量頻繁創(chuàng)建銷毀累積消耗CPU。進(jìn)程反復(fù)崩潰重啟:程序崩潰,被監(jiān)控/K8s反復(fù)拉起,初始化邏輯消耗CPU,進(jìn)程存活時(shí)間很短。第三層:排查步驟(面試口述版)top:看全局CPU,重點(diǎn)觀察R狀態(tài)進(jìn)程數(shù)量、PID是否漂移;有execsnoop優(yōu)先執(zhí)行,直接捕獲exec調(diào)用,拿到子進(jìn)程和父PID;沒有execsnoop,用perf全系統(tǒng)采樣,必須加-a,不能指定PIDperf record-ag-gperf reportpstree追溯父進(jìn)程,定位業(yè)務(wù)服務(wù);審查源碼外部命令調(diào)用,查看dmesg/容器日志確認(rèn)是否崩潰重啟。第四層:兩個(gè)典型案例PHP:http請(qǐng)求exec調(diào)用stress,權(quán)限報(bào)錯(cuò)快速退出,大量短時(shí)進(jìn)程吃滿CPU。Java:ProcessBuilder高頻調(diào)用shell腳本,腳本執(zhí)行完立刻退出,Java主進(jìn)程CPU占用并不高。第五層:踩坑關(guān)鍵點(diǎn)perf排查短時(shí)進(jìn)程不能帶?p指定PID,必須?a全系統(tǒng)采樣,swapper是空閑內(nèi)核進(jìn)程直接忽略;top/pidstat是采樣平均值工具,進(jìn)程壽命短于采樣間隔就捕獲不到;容器perf符號(hào)缺失:perf.data復(fù)制進(jìn)容器內(nèi)做report解析。面試一句話總結(jié):CPU高找不到進(jìn)程,優(yōu)先懷疑短時(shí)進(jìn)程,用perf -a全系統(tǒng)抓,不要指定進(jìn)程PID。///////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////第三章: D不可中斷進(jìn)程 Z僵尸進(jìn)程排查(增加代碼通俗注解版)面試/線上速查,現(xiàn)象:iowait高、負(fù)載上漲、大量D/Z進(jìn)程一、進(jìn)程狀態(tài)速覽狀態(tài)含義關(guān)鍵影響R運(yùn)行/就緒CPU調(diào)度隊(duì)列D不可中斷睡眠,等待硬件IO拉高平均負(fù)載,kill?9無效Z僵尸,子進(jìn)程已退出,父未回收資源耗盡PID,無法新建進(jìn)程;kill僵尸本身無效S可中斷睡眠正常等待事件,可被信號(hào)喚醒I內(nèi)核線程空閑態(tài)不會(huì)拉高負(fù)載T暫停/調(diào)試跟蹤gdb、SIGSTOP觸發(fā)重點(diǎn):短時(shí)D屬于正常;大量持續(xù)D、持續(xù)增長Z屬于故障。二、故障根因D狀態(tài)(iowait高)業(yè)務(wù)O_DIRECT直接IO,繞過pagecache頁緩存,直接操作物理磁盤,磁盤慢導(dǎo)致進(jìn)程阻塞D狀態(tài);??通俗:不使用內(nèi)存緩存,每一次讀都直接訪問硬盤,硬盤速度遠(yuǎn)慢于內(nèi)存,CPU大量時(shí)間等待磁盤返回。perf看到blkdev_direct_IO內(nèi)核函數(shù)就是證據(jù)。本地磁盤故障、RAID異常;NFS存儲(chǔ)服務(wù)端卡死,客戶端進(jìn)程阻塞IO。Z僵尸進(jìn)程fork()創(chuàng)建子進(jìn)程,父進(jìn)程未調(diào)用wait/waitpid回收子進(jìn)程退出狀態(tài);未注冊(cè)SIGCHLD信號(hào)處理函數(shù);子進(jìn)程退出速度快于父進(jìn)程處理。??通俗:子進(jìn)程干完活退出,父進(jìn)程代碼沒執(zhí)行“收尸”邏輯,子進(jìn)程就變成僵尸。父進(jìn)程退出,僵尸由init(1)自動(dòng)收割。三、排查命令步驟1)全局觀察top# 看load、wa(iowait),看S列D/Z;按1看各CPUdstat1# 同時(shí)對(duì)比CPU iowait與磁盤讀寫流量2)排查D狀態(tài)/iowait高pidstat -d 1全局看進(jìn)程IO讀寫;進(jìn)程轉(zhuǎn)瞬變?yōu)榻┦瑂trace無法attach,用全系統(tǒng)perf采樣(不加?p)perf record-ag-gperf report忽略swapper內(nèi)核空閑進(jìn)程;看到blkdev_direct_IO代表開啟直接磁盤IO。D狀態(tài)進(jìn)程kill?9殺不掉,需等待IO返回,硬件故障極端情況只能重啟。3)排查Z僵尸進(jìn)程ps-e-ostat,ppid,pid,cmd|grepZ# 拿到僵尸PID、父PPIDpstree-aps僵尸PID# 向上追溯父進(jìn)程臨時(shí)緩解:重啟父進(jìn)程,init自動(dòng)回收僵尸;根治:代碼增加wait/waitpid或SIGCHLD信號(hào)處理。四、經(jīng)典案例(D+Z同時(shí)出現(xiàn),附代碼說明)現(xiàn)象:iowait打滿,負(fù)載高,同時(shí)僵尸進(jìn)程持續(xù)增多;dstat確認(rèn)wa升高伴隨大量磁盤讀;pidstat?d看到app大量讀盤;進(jìn)程D狀態(tài)后迅速變成Z,strace attach失??;perf全系統(tǒng)采樣發(fā)現(xiàn)blkdev_direct_IO;?問題代碼:open(disk, O_RDONLY|O_DIRECT|O_LARGEFILE, 0755);開啟O_DIRECT繞過內(nèi)存緩存,大量直接磁盤IO,iowait飆升。?修復(fù):刪除O_DIRECT參數(shù),走操作系統(tǒng)頁緩存,iowait恢復(fù)。僵尸根因:wait()寫在死循環(huán)外面,代碼永遠(yuǎn)執(zhí)行不到//錯(cuò)誤:wait放在死循環(huán)外面,永遠(yuǎn)跑不到for(;;){for(inti=0;i2;i++){fork();}sleep(5);}while(wait(status)0);//?修復(fù):wait移入循環(huán)內(nèi)部,每輪循環(huán)回收子進(jìn)程for(;;){for(inti=0;i2;i++){fork();}while(wait(status)0);sleep(5);}wait挪入循環(huán),子進(jìn)程退出后立刻被回收,不再生成僵尸。五、高頻踩坑點(diǎn)iowait高≠磁盤瓶頸:少量IO也會(huì)拉高wa,必須結(jié)合實(shí)際磁盤讀寫量判斷;kill僵尸進(jìn)程不起作用,僵尸已經(jīng)死亡,必須處理父進(jìn)程;perf報(bào)告swapper是內(nèi)核空閑進(jìn)程,直接忽略;父進(jìn)程為1號(hào)init還殘留僵尸,業(yè)務(wù)無解,大概率內(nèi)核bug,只能重啟機(jī)器。?面試一句話總結(jié):D狀態(tài)優(yōu)先排查IO:直接IO(O_DIRECT)、本地磁盤、NFS,kill?9無效;僵尸不要?dú)⒔┦旧恚ㄎ桓高M(jìn)程,代碼做好子進(jìn)程回收。////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////第四章: 資深運(yùn)維面試|CPU性能優(yōu)化 4道深度面試題考察:實(shí)戰(zhàn)閉環(huán)、權(quán)衡取舍、線上踩坑,金字塔答題,包含問題+完整參考答案+深挖追問+追問完整答案Q1:線上定位出CPU性能瓶頸之后,你完整的優(yōu)化閉環(huán)思路是什么?很多人找到瓶頸直接改代碼上線,會(huì)踩哪些坑??完整參考答案(金字塔)結(jié)論先行:CPU優(yōu)化不是找到瓶頸就直接改,必須走「確認(rèn)瓶頸→量化基線→方案選型→對(duì)比驗(yàn)證→評(píng)估副作用」完整閉環(huán);直接改代碼上線最大風(fēng)險(xiǎn):誤判根因、優(yōu)化帶來副作用、無法證明優(yōu)化收益。確認(rèn)真瓶頸,區(qū)分根因與衍生現(xiàn)象。很多指標(biāo)高只是現(xiàn)象,不是根源。例如iowait升高只是現(xiàn)象,根源是O_DIRECT直接IO;軟中斷CPU高是現(xiàn)象,根源是大量網(wǎng)絡(luò)小包。不能針對(duì)現(xiàn)象做優(yōu)化,要解決背后的根因。建立雙維度基線。不能只看系統(tǒng)CPU使用率;同時(shí)采集**業(yè)務(wù)指標(biāo)(QPS、延遲、錯(cuò)誤率)**和系統(tǒng)指標(biāo)(CPU、上下文切換)作為優(yōu)化前基準(zhǔn)。壓測客戶端要與業(yè)務(wù)服務(wù)隔離部署,防止壓測工具本身消耗資源,污染測試數(shù)據(jù)。多方案選型,綜合權(quán)衡。不能只看性能提升幅度,綜合評(píng)估:改造成本、代碼復(fù)雜度、可維護(hù)性、優(yōu)化副作用;拒絕拿來主義,不追求一步到位解決全部問題?;叶闰?yàn)證,對(duì)比優(yōu)化前后。不僅看系統(tǒng)資源指標(biāo),重點(diǎn)校驗(yàn)業(yè)務(wù)指標(biāo),防止出現(xiàn)CPU降了,但接口延遲升高這類負(fù)優(yōu)化。風(fēng)險(xiǎn)防控,警惕過早優(yōu)化。沒有真實(shí)業(yè)務(wù)壓力,不要提前堆砌緩存、異步、CPU綁定這類復(fù)雜邏輯,徒增維護(hù)成本。實(shí)戰(zhàn)坑舉例:直接對(duì)進(jìn)程做CPU綁定,業(yè)務(wù)流量波動(dòng)大時(shí),會(huì)破壞內(nèi)核調(diào)度均衡,出現(xiàn)單核打滿其余核空閑,整體性能反而變差。??面試官深挖追問 + 參考答案追問:優(yōu)化后CPU使用率降下來,但業(yè)務(wù)接口延遲反而升高,可能有哪些原因?答:① 優(yōu)化手段帶來額外開銷:例如引入緩存,增加鎖、緩存淘汰邏輯;② CPU綁定導(dǎo)致調(diào)度失衡,任務(wù)集中在個(gè)別CPU核,隊(duì)列排隊(duì);③ 算法優(yōu)化雖然降低CPU,但增加IO/鎖等待;④ 并發(fā)線程/進(jìn)程數(shù)量被限制,請(qǐng)求排隊(duì)堆積;⑤ 內(nèi)核參數(shù)調(diào)整,犧牲延遲換取CPU利用率。追問:怎么區(qū)分觀測到的指標(biāo)是根因,還是衍生現(xiàn)象?舉一個(gè)線上實(shí)際例子。答:根因是源頭,衍生現(xiàn)象是根因引發(fā)的結(jié)果。解決根因,衍生現(xiàn)象會(huì)自動(dòng)消失。例子:大量短時(shí)fork子進(jìn)程,會(huì)導(dǎo)致sys CPU高,sys高是現(xiàn)象;真正根因是業(yè)務(wù)頻繁調(diào)用exec創(chuàng)建短時(shí)進(jìn)程。修復(fù)業(yè)務(wù)不再頻繁創(chuàng)建進(jìn)程,sys CPU自然下降,而不是去調(diào)內(nèi)核參數(shù)壓制sys指標(biāo)。追問:如果環(huán)境不允許做完整壓測,只能線上灰度,基線數(shù)據(jù)該怎么獲?。看穑孩?取優(yōu)化前一段時(shí)間監(jiān)控歷史作為基線,保證流量、時(shí)間段盡量對(duì)齊;② 采用灰度發(fā)布,一部分實(shí)例優(yōu)化,一部分實(shí)例保持原樣,做同環(huán)境對(duì)照;③ 對(duì)比兩組實(shí)例的業(yè)務(wù)、系統(tǒng)指標(biāo);④ 小流量逐步放量,一旦指標(biāo)異常立刻回滾。Q2:同樣CPU使用率100%,us用戶態(tài)高 和 sys內(nèi)核態(tài)高,你的分析思路?分別對(duì)應(yīng)哪些典型線上場景??完整參考答案(金字塔)結(jié)論先行:us高代表業(yè)務(wù)用戶態(tài)消耗CPU;sys高代表內(nèi)核態(tài)開銷;二者排查方向完全不同,先分清指標(biāo),再選擇工具定位。us(用戶態(tài)CPU高):CPU消耗來自業(yè)務(wù)代碼邏輯典型場景:死循環(huán)、高復(fù)雜度算法、大量計(jì)算、頻繁正則表達(dá)式、Java頻繁Full GC;工具:perf top -g -p pid定位業(yè)務(wù)熱點(diǎn)函數(shù);Java配合jstack、jstat -gc。sys(系統(tǒng)CPU高):CPU消耗來自內(nèi)核,由系統(tǒng)調(diào)用、上下文切換、中斷引發(fā)典型場景:大量fork/exec短時(shí)進(jìn)程;頻繁鎖競爭;海量細(xì)小系統(tǒng)調(diào)用;軟硬中斷風(fēng)暴;進(jìn)程數(shù)量多導(dǎo)致頻繁上下文切換;工具:perf record -ag -g做全系統(tǒng)采樣看內(nèi)核調(diào)用棧;pidstat -w觀察上下文切換;execsnoop捕獲短時(shí)exec調(diào)用。??重要坑:短時(shí)進(jìn)程場景,top、pidstat抓不到高CPU進(jìn)程,必須全系統(tǒng)perf采樣,不能指定?p pid。實(shí)戰(zhàn)區(qū)分小技巧:us高優(yōu)先懷疑業(yè)務(wù)代碼;sys高優(yōu)先懷疑系統(tǒng)調(diào)用、進(jìn)程創(chuàng)建、中斷,不要上來就修改業(yè)務(wù)代碼。??面試官深挖追問 + 參考答案追問:Java服務(wù)sys系統(tǒng)CPU很高,你會(huì)一步步怎么排查?答:① 先看pidstat -w,觀察自愿/非自愿上下文切換,如果非自愿切換很高,線程過多、爭搶CPU;② 使用perf record -ag -g全系統(tǒng)采樣,看內(nèi)核調(diào)用棧,看是系統(tǒng)調(diào)用、線程創(chuàng)建、鎖、還是中斷消耗;③ execsnoop排查是否Java通過ProcessBuilder大量創(chuàng)建外部短時(shí)子進(jìn)程;④ 查看JVM配置:線程數(shù)量是否過多;⑤ 排除硬件層面中斷風(fēng)暴。追問:為什么短時(shí)進(jìn)程,指定perf -p PID抓不到問題?答:短時(shí)進(jìn)程生命周期極短,執(zhí)行完立刻退出。perf-p需要進(jìn)程存活才能附著采樣;等執(zhí)行perf命令時(shí)進(jìn)程已經(jīng)消亡。必須?a全系統(tǒng)采樣,捕獲系統(tǒng)內(nèi)全部事件,不綁定特定PID。追問:sys高,但是沒有看到大量fork,還會(huì)有什么可能性?答:① 海量細(xì)小系統(tǒng)調(diào)用,如頻繁read/write、epoll_wait;② 大量線程上下文切換,線程數(shù)量過多;③ 硬中斷、軟中斷風(fēng)暴(網(wǎng)絡(luò)包量大);④ 頻繁鎖競爭,內(nèi)核態(tài)自旋鎖消耗;⑤ 內(nèi)存缺頁異常頻繁。Q3:CPU優(yōu)化手段有:代碼算法優(yōu)化、緩存、CPU親和性綁定、cgroup限制CPU。生產(chǎn)環(huán)境如何取舍?各自適用場景?哪些手段不能隨便亂用??完整參考答案(金字塔)結(jié)論先行:優(yōu)先應(yīng)用層業(yè)務(wù)邏輯優(yōu)化,其次緩存;系統(tǒng)層面CPU綁定、
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久久亚洲无码| 亚洲国产成人AV在线| 另类A片| 思思久久99热只有频精品66| 狠狠综合色网| 丁香六月欧美| 婷婷六月色情| 亚洲色婷婷五月天| 五月婷婷啪啪| 色五月丁香六月婷婷| 丁香五月天堂亚洲社区| 玖玖在线视| 精品久久99码| 婷婷中文字幕网站| 伊人玖玖精品| 五月天伊人av| 婷婷97C| 色色色色热| 91热视频色网站| 中文AV在线播放| 婷婷综合| 九九99精品视品| 国产婷婷五月天| 精品九九网| 97碰碰在线看视频免费| 激情丁香五月激情婷婷| 射区导航| 亚洲 在线 另类| 婷婷五月天偷拍| 日韩美女羞羞网站在线观看| 激情综合亚洲| 另类激情中文| 五月丁香婷婷国产精品综合| 午夜成人网站在线观看| 任你躁XXXXX麻豆精品| 婷婷色色丁香| 五月婷婷黄色| 色天天综合| 久色88| 婷婷激情六月| 99这里| 五月天婷婷xxx| 91婷婷视频| 色婷婷AV在线| 亚州精品久久久久AV无码| 婷婷久久18| 青草网在线观看| 欧美天天综合网站上去吧| 艹色18p| 五月婷婷狠狠干| 亚洲色婷婷婷婷人人爽| 色www.con| www.minyis.com【JT】实力收量可预付QQ2101460746| 五月天婷综合网站| 黄色片精品| 五月婷婷五月天| 青青草原福利在线| 色播丁香五月婷婷操:屄| 无码一级片| 色五月综合在线| 男女久久婷婷五月天| 精品亚洲日韩99欧美片| 大香蕉久久视频久久视频| 1024国产| 天天狠狠夜夜狠狠2023| 日韩精品色| 99热人人| 婷婷终合色图| 日本色色视频| 青青久在线视频免费观看| 婷婷久久丁香| 人妻久久久久久久久久| 日韩一66精品| 色婷婷狠狠| 五月天丁香花婷婷| 韩国中文字幕91| 九九综合伊人| 免费看欧美成人A片无码| 国语对白性爱视频播放| 五月激情啪啪| 97影院一级片| 婷婷色色欧美| 毛v一区二区视频| 被强行糟蹋的女人A片| 婷婷五月色综合| 丁香五月亚洲婷婷| 黄涩毛片| 婷婷六月色丁香视频在线观看| 久久色9| 99re欧美精品| 欧美婷婷色| 激情五月丁香五月| 成人在线日韩| 激情五月天色网站| 九九精品自拍| 九九亚洲视频| 91色久| 狠狠狠狠狠干| 可以免费观看的av| 国产小精品| 99激情在线| 天天综合网~91| 九九aV| 亚洲六月色婷婷| 伊人啪啪网| 狠狠色狠狠色综合日日91| 婷婷五月天改成什么了| www久久五月com| 久久视网36| 日本黄色在线观看| 激情六月天婷婷| 伊人五月婷婷国产视频| 婷婷七月丁香色色| 伊人狠狠丁香婷婷综合尤物| 操91| WWW五月天| 无码九九| 婷婷六月婷婷| 免费久久这里只有精品99| 电影蜘蛛女| 狠狠色五月激情| 性爱先锋AV| 婷婷丁香社区网| 色婷网| 婷婷综合精品| 亚洲成人网站在线观看| 婷婷激情丁香五月婷婷激情丁香五月婷婷 | 亚洲成av人影院| 丁香五月伊人| 99热 精品在线| 色五月激情五月| 中文激情网| 五月婷婷六月激情| 影音先锋高清无码资源网| 久久婷婷青青草| 极品人妻VIDEOSSS人妻| 丁香五月激情久久麻豆| 丁香花操逼| 狠爱婷色| 丁香五月精品视频| 99九九视屏| 国色天香伊人狠狠色| VA婷婷亚洲| 久久久精品色色色| 丁香六月婷婷综合激情欧美| 婷婷六月天| 九九热免费视频| 三十熟女| 91九色熟女| 99色色网| 九九性视频| 中文幕无线码中文字蜜桃| 国产精品人成A片一区二区| 99无码| 丁香婷婷色五月| 熟女人妻视频| 91久久五月天| 九九免费精品在线视频| 亚洲va欧洲va国产va不卡| 五月天亚洲色| 久99热| 97久久久久久久久久久| 丁香婷婷色情| 婷婷97狠狠干| 99国产在线| 久久五月网| 人人爱操| 9久久网| 亚洲综合99| 婷婷五月天激情在线观看 | 婷婷五月综合中文字幕| 五月丁香成人| 日日肏天天操| 亚洲色碰| 精品热九九| 九九亚洲无码| 激情五月视频| 深爱激情丁香| 免费成人中文字幕| 国产va在线视频| 天天射色五月天| 99热在线观看| 超极99精品| 伊人综合色干| 欧美综合激情五月天| 九九热免费视频| 五月丁香色情| 狼友超碰| 思思 热 99| 日韩AV片| 天天色凹凸| 99热都是精品| 婷婷狠狠干| 久久久久久久人妻| 色色五月天网站| 五月丁香色婷婷基地| 亚洲碰碰碰| 成人综合网站| 久久久久久久久久8888| 开心五月网| 丁香五月成人论坛| 久青操| 激情又色又爽又黄的A片| 亚洲Av成人在线观看| 伊人五月天日日夜夜久久久天天| h亚洲| 成人午夜视频精品一区| 国产成人av在线播放| 色五月丁香六月婷婷| 91久久婷婷| 天堂呦 呦百度搜索-百度搜索| 亚洲精品无码久久| 六月丁香啪啪啪| 欧美成人一区二区三区在线视频| 丁香五月天激情网址| 五月婷婷综合在线视频小说| 91人人人人人| 婷婷五月激情六月丁香| 日本婷婷| 色色色干| 色五月天丁香婷婷| 激情熟女网| 丁香五月天殴美激情| 日韩在线视频网站| 午夜成人在线免费视频| 亚亚州久久高潮| 国产AV一区二区三区最新精品 | 欧美99热| 六月婷婷啪啪| av五月天婷婷丁香| 色青青电影色五月| 九九视频精品在线免费| 精品一二三区久久AAA片| 久久综合影院| www.久久综合| 婷婷激情六月综合| 色私五月婷婷| 久久婷狠狠色| 色五月天丁香| 丁香婷婷黄网站| 香蕉网婷婷| 五月婷丁香花| 51国精产品自偷自偷综合| 天天肏高清在线| 六月丁香激情综合| 五月婷九月| www.婷婷五月天啪啪| 九九精品热| 97超碰在线免费观看| 婷婷伊人五月天| 99热10在线高清播放| 五月婷婷激情综合在线| 99热久| 欧美日韩99| 五月天丁香成人社| 婷婷丁香花五月天| 超碰99在线观看| 九艹在线| 97天堂| 国产精品久久..4399| 九色91视频| 久久性刺激| 天天干天天做| 91色色色| 色99视频| 五月天色婷婷图片| 啪啪啪丁香五月| 久热精品视频| 亚洲人人操| 人妻久久人妻久久第一区| 国精产品一区二区三区| 丁香婷婷色九月| 9色在线视频| 99碰| 五月天开心激情综合网| 五月色婷婷影视在线电影| 五月婷丁香| 男人天堂亚洲综合| 伊人久久丁香狠狠婷婷综合香蕉| 色色AV色色色东莞| 久久婷婷网站| 99热精品在线在线| 亚洲情a| 九九精品re免费视频| 五月天啪啪啪| 婷婷五月天成人网| 国产高清av黄色看片| www.五月丁香av| 久久免费干| 中文av网| 丁香五月色色色色| 99热99精品在线观看| 亚洲天天综合| www.五月婷婷久久.com| 日本欧美成人片AAAA| 伍月婷丁香花全集| 99热碰碰热| 99热这里有精品| 奸逼视频| 丁香五月综合激情啪啪| 99热国品| www.五月婷婷.com| 久热这里精品免费| 五月丁香婷婷婷激情爱爱| 婷婷九月色| 日韩av干| www.91九色| 久热99| 伊人五月丁香| 久久综合99| 极品少妇XXXX精品少妇偷拍| 六月丁香五月婷婷| 三区激情四射av| 激情五月天久久| 日本天天操| 久草天堂| 在线超碰免费| 丁香五月天激情视频| 久久婷婷五月激情网站| 色婷婷亚洲| 国产人妻人伦精品一区二区| 123草逼网| 日本精品。999| 色婷婷影音| 激情综合五月| 精品久久艹| 九九精品网站| 艹天天射| 高潮毛片又色又爽免费| 91精品在线看| 天天干天天操天天拍| 五月天久久久| 日本 色综合| 久久丁香五月| 激情久久久久久久久久| 丁香六月天婷婷开心综合| 色99在线视频| 丁香五月 激情文学| 久久黄色网扯| 日韩AV一区二区三区| 成年人丁香五月| jiqingliuyuetian| 26uuu亚洲色| 丁香五月情| 婷婷丁香红五月91C| 99在线免费视频| 天天拍久久| 激情久久久久| 色五月婷婷天堂| 九九Av| 人人干女人| 婷婷五月天a| AV色五月婷婷| 九月影院義母在线播放| 亚洲一级AV在线免费播放| 午夜少妇在线观看视频| 日本一级黄色电影| 91色在线 | 日韩| 九九婷婷五月天影视| 97操碰视频| cao视频,现在观看| 欧美综合五月天婷婷tin| 婷婷丁香人妻天天爽| 五月久视频| 五月四色色| 操操操操操操婷婷五月天| 人人叉久| 日韩成人电影av| 九九爱激情| 大学生高潮无套内谢视频| 亚州色婷婷| 午夜婷婷久久| 成人va视频| 天天操屄网| 99热这里只有精品2016| 婷五月丁香| 五月丁香爱婷婷深深| 久久婷婷综合基地| w婷婷五月婷婷w| 丁香激情五月少妇| 99综合成人视频在线观看| 色五月丁香91| a级毛片一区二区免费视频| 国产欧美日韩综合精品一区二区| 亚洲午夜AV| www激情| 99自拍视频在线| 一丁香五月天月AV| 天天爱天天做天天| 色五月涩涩婷婷| 色色射| 26uuu欧美日本| 九九无码视屏| 99精品大片| 欧美久久婷婷| 色噜噜五月天| 天堂色婷婷| 91久久九色| 停停六月 综合| 色色草97| 亚洲精品成人片在线播| 99九九视频精彩在线| 影音先锋 一区| 69色婷婷| 色五月天堂| www.超碰在线| 激情五月伊人婷婷| 激情综合网 激情五月天| 思思热久久婷婷五月天| 亚洲亚洲亚洲AAAAAA| 婷婷五月天综合色| 色噜噜狠噜噜视频| 色一情一乱一乱一区91| 亚洲婷婷五月天| 色色无码| chaopeng在线人人| av最新在线| 国产日韩av片| 欧美五月丁香在线| 久久深爱激情网| 99热精品在线免费观看| 99热青青草| 99精色| 色色无码| 久草视频大香蕉99| 午夜色婷婷| 五月婷婷内射网| 五月丁香六月合| 日日日日操| 超碰高清在线| 色情五月丁香| www.婷婷五月.com| 日本欧美国产| 婷婷久久国产视频| 色婷狠狠| 欧美色五月| 玖玖婷婷色欲| 日韩精品一区二区亚洲AV观看| 六月丁香久久| 夜夜撸天天日| 五月婷网| 丁香五月天天久久综合小说| 丁香六月欧美| 婷婷五月花.97| 久久9999| 中文久久久人妻| 26uuu亚洲欧美| 超碰在线9| 少妇性按摩无码中文A片| 97久久精品视频| 久久婷婷综合基地| 能直接看的AV网站| 亚州色婷婷| 国产精产国品一二三在观看| 亚洲无aV在线中文字幕 | 九九在线视频| 思思热在线| BlACKEDRAW视频一区二区| xx久久| 日本在线免费中文com.| 超碰在线综合| 不卡在线超碰| 色欲久久综合| 五月婷婷免费看| 91欧美| 婷婷五月天综合久久日| 丁香五月在线人妻| 九九色综合九九色| 丁香六月婷婷久久综合| 色女人久久| 色五月婷婷开心| 内射综合网| 婷婷丁香五月天综合在线日韩| 婷婷五月AV| www.minyis.com【JT】币址百万U预算可预付QQ2101460746 | 我爱大香蕉| www.cao.com久久| 婷婷大香蕉| 六月 丁香 视频| 九九热精品在线| 亚洲人人艹| 美女丁香五月天| 九九亚洲| 色色综合网。| 五月视频日本免费观看| 综合久久97| 日韩aⅴ视频| 精品99这里有| 日韩成人AV在线播放 | 99热这里只有精品中文字幕| 精品国产AV色一区二区深夜久久| 婷婷五月av| 九九热精品99| 婷婷五月成人系列| 影音先锋91网站在线观看| 99色热视频| 婷婷五月天激情五月天| 粉嫩AV久久一区二区三区| 色你久久| 五月性色| 91传媒无码人妻精| 婷婷五月色亚洲| 国产精品99久久久久久久女警| 久久视频婷婷视频| 九九综合色综合| 大香蕉丁香五月| 99re在线观看视频| 亚洲天堂热| www.黄色片-久久成人国产精品在线播放-999AV| 天天做天天爱综合| 久久人妻少妇嫩草AV| 久久只有精| 亚洲AV人人操| 亚洲超级碰| 五月五婷婷| 五月丁香婷婷五月色| 99re在线观看视频| 欧洲色色| 涩综合在线| 丁香色色网| 久9无码视频| 人妻精品一区二区三区| www.爱婷婷.com| 99在这里有精品| 色狠狠婷婷| 美女要搞搞天天搞搞搞网站| 美日韩成人| 99热这里只有精品26| 婷婷色在线观看| 99在线免费视频| 狠狠色97| 中文字幕在线播放视频| 激情五月丁香五月| 五月丁香在线视频观看| 六月婷婷色综合| 激情五月婷黄版| www.minyis.com【JT】实力收量可预付QQ2101460746 | 色婷婷电影网| 久久小视频免费| 97干在线视频| 九久九精品| 天天拍天天做视频| 五月婷婷六月激情| 丁香五月六月婷婷怡红院| 色五月综合网站| 久久这里有精品视频| 葵花AV在线| 深爱五月激情| 亚洲一级色电影| 91久久久久久久久18| 色婷婷香蕉| 深爱五月激情| 五月婷婷久久综合| 五月婷护士| 99精品小视频| www.91在线观看| 六月激情婷婷| 五月丁香六月婷婷在线小说视频| 淫五月停停| 99精品小视频| 狠狠爱婷婷爱| 99亚洲精品| 求可以看的AV网址| 午夜福利成人AV91| 亚洲成人AV在线播放| 综合久久99| 996热| 五月丁香婷中文字幕| 亚洲人成播放网站| 日本三级中国三级99| 91婷婷丁香五月天免费视频网站| 六月天婷婷| 三级大香蕉网| 欧美性久| 激情第四色| 免费播放99性爱视频| av第一二区| 五月丁香黄色视频| 开心五月婷婷在线| 亚洲超级碰| 深爱激情五月网| 亚洲性爱99在线| 在线成人av播放| 99啪啪| 五月综合激情综合久| 亚洲AV永久无码影院黑人| 日本色久| 最新精品视频99| 99啪啪骑| 激情婷婷五月天| SESE无码AV| 五月丁香精品| 五月婷综合| 色色婷婷五月| 婷婷五月综合社区在线| 成人电影一区| 天天射色五月天| 97操在线视频| 91热视频| 天天干,天天日| 这里只有精品免费观看网占| 99热超碰| 色原狠狠综合| 少妇高潮呻吟A片免费看软件| 亚洲中文乱字字幕在线永久| 六月丁香婷婷网| 婷婷五月天AV在| 色色激情五月天| 日日色综合| 天天日夜夜B久久| 亚洲色婷婷久久99精品91| 五月天激情小说| 婷婷色五月天在线观看| 美女婷婷六月色| 六月婷婷色色色| 中字幕视频在线永久在线观看免费 | 亚洲男人的天堂婷婷色五月| 高清视频一区| 97在线天堂| 99色在线| 亚洲成人一区| 婷婷精品性视频| 丁香五月 综合| 九九色区| 天天色2017| 51国精产品自偷自偷综合| 婷婷免费视频| 欧美色色色| 无码色色色色色| 五月丁了香蕉综合| 91丁香综合| 日本五月婷婷| 色婷婷五月综合在线| 亚洲丁香五月在线观看| 久久婷婷丁香五月一二三| 久久精品系列| 99热很操老逼| 丁香五月婷婷国产av| 99成人| www.色五月| 99在线er热| 99热销国产这里有精品| 欧美日本国产| 国产精品久久久久久喷浆| 思思久久99| 天天肏在线观看| 五月天啪啪| 久久成人综合五月天| 人人草成人视频| 夜夜大香蕉婷婷丁香| www狠狠爱com| 精品9l九九九九九77777| 天天日天天干天天插天天射| 精品久久婷婷五月天| 操人91| WWW色色色COm| 综合色网站| 日韩性爱无码| 天堂久久大香蕉| 久草视频大香蕉99| 99综合99| 日本道久久91| www.久操| AV在线不卡网站| 亚洲美女裸体被操在线观看| 婷婷丁香18| 国产XXXX搡XXXXX搡麻豆| 五月天激情小说| 丁香五月天堂网| 狠狠色婷婷7777久| 91狠狠综合久久| 天天日夜夜爽| 蜜桃人妻无码AV天堂三区| 这里只有精品久久| 欧美色五月| 五月天综合色| 五月婷婷丁香| 丁香网站| 狠狠爱青青草| 超碰自拍天堂| 久xxxx| 丁香五月婷婷五月| 激情综合99| 日本啪啪网| 婷婷亚洲影院| www.激情五月天.com| 久久黄色免费视频| 人人干AV| 婷婷99狠狠躁| 色五月激情综合| 丁香五月91| 强伦轩人妻一区二区电影| 99热这里只有精品8| 丁香九月激情| 久久一级AV| 大鸡巴伊人网| 婷婷色吧| site:xiongshengzz.com| 五月天婷亚洲天综合网综合| 狠狠狠人妻| 日日夜夜狠狠干| 五月丁香六月综合激情| 久久久91| 五月香婷婷| 久婷婷视平| cao视频,现在观看| 色日本五月天| 无码日本精品XXXXXXXXX | 丁香色婷婷色手机免费在线| 亚洲四色五月| 丁香五月影院| 色婷婷六月综合| 热思思| 五月婷婷啪啪啪| 六月丁香啪啪| 丁香五月婷婷综合激情啪啪啪| 色五月婷婷AV| 激情婷婷五月女| 狠狠干 狠狠操| 丁香激情五月| 国产人妻人伦精品一区二区| 日本玖玖在线| 激情久久久久久| 色欲五月天| 婷婷性爱五月天| 99九九精品| 专区无日本视频高清8| 另类图片五月激情| 日韩操人| 亚洲综合在线丁香五月| 久久人人超| AA片在线观看视频在线播放| 99啪在线| 欧美美女国产日韩一区二区久| 天天色,天天日,天天做| 精品五月天| 亚洲狠狠爱婷婷| 超碰91人人操| 久热这里只有精品视频6| w婷婷五月婷婷w| 91人人人人人| 欧美熟女99| 激情小说 五月天| 东京热伊人| 激情五月天婷婷播播久久综合91| 精典久久| www.亚洲激情| 日日操夜夜爽| 卡视频1区2区| 色婷婷最爱五月| 丁香五月欧美色综合| 人妻内射一区二区在线视频| 国产婷婷五月天| 久久网思思| www超碰| AV六月丁香| 日韩草草草草草草草草草草草草| 丁香五月激情网| 国产精产国品一二三在观看| 97人凄人人操人人爽| 99热这里只有精品最新地址获取| 色播五月丁香| 99色在线免费观看视频| 伊人综合网4| 色婷婷久久综合| 啪啪操网| 色情五月天首页| 色情综合网| 婷婷综合av| 五月丁香伊人网| 激情小说在线视频| 色五月激情综合| 99热色在线精品| 日日夜夜干| 色综合久久99色| 天天色天天爱天天爱天天爱y| 狠狠狠狠狠狠| 超碰人人在线| www.婷婷.com| 日韩AV中文字幕在线| 五月天婷婷色小说| 99久久综合| www.色五月| 五月天基地| 久久人妻在线| 无遮挡国产高潮视频免费观看| 99在线播放视频| 天天人人人人人人人人人人人| 婷婷中文字幕网站| 激情网第四色| 大香蕉婷婷| 久久婷婷青草五月天| 91无码视频| 热久久色| 99精品视频网站| 99久99久| 99思思热只有在这里看| 97在线观看| 99小精品| 婷婷五月丁香五月| 最新日本A片| 97干97色| 婷婷月综合| 激情久久丁香| 金品在线视频99| 成人开心五月天| 91人人妻人人操人人爽| 99er久久| 日本在线观看aaa 99| 激情网综合| 香蕉视频性爱BB做爱| 开心五月丁香啪| 91肏肏肏| 99久久er| 日韩三十六页| cc精品国产性传播| 97超碰色| 人人摸人人摸| www91久久| 日本色色网站| 99热亚洲| 美女五月天| 99er日韩| 婷婷久久五月天| 99在线观看精彩视频| 天天干天天干天天干| 26uuu四色| 久久久久久久人妻| 亚洲色婷婷99一9|| 激情五月黄色| 天天做天天爱天天做| 久久久五月天婷婷成人网| 精品五月天| 91性人人| 操逼巨乳91| 五月丁香六月香香蕉| 激情五月综合网| 日本色噜| 9久热精品在线视频| 五月丁香六月婷综合成人综合| 操逼综合激情网| 色色色色色网| 无码区婷婷五月花开| 色吧五月婷婷| 婷婷五月天六月综合| 激情婷婷丁香| 丁香色五月婷婷| 26uuu偷拍亚洲欧洲综合| 九九激情综合| 久久国产精品乱子伦_靑青草…| 影音先锋男人女人| 第五色色色婷婷| 毛片新网地| 夜夜操狠狠操| 久久这里有精品在线观看| 99热全是精品| 婷婷天堂综合| 97婷婷丁香五月天激情图片| 狠狠色噜噜狠狠狠狠狠色综合久久| 伊人激情啪啪| 九九这里只有精品| 色婷五月天综合网| 猫咪伊人久久| 色噜噜狠狠色综无码久久合欧美| 大陆肏屄视频| 96精品久久久久久久久| 丁香五月天堂网| 五月婷在线视频免费看| 人人操AV| 色网五月婷婷| 新激情五月天天在线网| 五月欧美色播| 色九九九综合| 中文字幕在线免费观看视频| 无码人妻一区二区三区四区| 久久aaaaa| 亚洲成人网站在线观看| 人人综合五月人人婷婷| 2015超碰| 久久性爱视频| 激情丁香五月婷婷| 精品色情一区二区三区四区| 久久天堂女人| 久久a热| 噜噜噜噜噜色| 午夜婷婷丁香| 色综合色综合色综合| 五月天综合色| 思思热视频在线观看| 综合玖玖性爱免费视频| 免费在线观看av网站| 综合色99| 久热这里只有精品视频免费观看| 九九成人精品免费视频| 五月天婷婷激情六月久久| 丁香婷婷性爱| 深爱五月最新网址| 婷婷放心五日爱| 色婷婷久久7777| 色婷婷99| 97色色色| 丁香五月婷婷亚洲综合精品在线| 激情中文在线| www.91五月| 婷婷五月天综合在线| 久久这里都是精品| 婷婷五月天,影院| 五月婷婷狠狠干| 婷婷丁香六月天激情四射网| 激情五月天视频| 五月人妻婷婷视频| 五月五丁香婷婷| 久久98| 99啪在线| 丁香五月婷婷国产av| 玖玖婷婷五月天| 婷婷 色 丁香 夜| 五月色丁香国产在线视频| 久久HD| 九九久久污| 99精品国产乱码久久久人妻| 99ri在线视频| 丁香婷婷影院| 五月天激情婷婷小说| 99热这里在线精品| 久99久视频免费观看| 久久R激情| 337p大胆噜噜噜噜噜91Av| 成人短视频在线免费观看| 五月天婷婷黄色| 综合五月丁香久久| 91人人操.COM| 涩 五月 婷婷 狠狠| 香蕉网婷婷| 九九热精品| 五月丁香六月婷婷久久| 婷婷五月天亚洲五码| 丁香五月天成人| 丁香五月激情月| 九九99在线观看视频| 99福利导航| 国内久久亭亭| 日本情色一区二区| 90色免费视频| 日本人妻伦在线中文字幕| 五月天综合在线| 99re这里只有精品国产99| 色婷婷久久视屏| 超级碰碰碰久久网站视频| 91男同视频| 久久99热这里只频精品6学生| 天天激情站| 丁香五月日韩| 五月婷婷激情久久| 99热精品在线观看| 婷婷激情小说| 五月婷婷片| 婷婷久久草| 婷婷五月成人系列| 婷婷激情五月天视频在线| 天天干夜夜欢| 深爱丁香激情| 激情影院免费视频婷婷五月天| 五月婷婷亚洲天堂激情在线| 亚洲色9| 婷婷五月综合婷婷| 婷激情五月天视频导航| 婷婷亚洲日本| 天天操夜夜爽天天操| AV激情五月| 久久久久久xxxxx| 九九家庭影院| 热久久77777| 婷婷区日本| 五月天成人网婷婷| 天天橾日日橾夜夜橾17| 国产成人va在线| 丁香婷在线| 涩婷婷五月天| 狠狠高潮精品亚洲1| 丁香五月婷中字幕| 日日噜噜夜夜狠狠久久丁香六月| 五月婷婷视频| 99九九99九九九视频精彩| 99热主页日本| 热99在线| 天天做天天爱天天爽| 亚洲视频在线观看| 丁香情色五月| 丁J香六月首页| 欧美天天搞| 九九热自拍| 97色色色色| 日本丁香五月婷婷| 色婷婷九月综合| 五月丁香淫淫婷婷婷| 天天做天天爱| 人妻22p| 久久婷婷色| 日韩精品无码一区二区| 99色综合久久| 大香蕉 伊人夜| 丁香激情网| 丁香六月天AV| 婷婷丁香五月,狠狠综合| 五月激情婷婷丁香| 婷婷丁香宗合888| 九九99精品视频在线观看| 另类在线| 超碰在线免费观看3 9| aaaa.黄| 成人短视频在线| 婷婷五月天激情偷拍| 99热这里只有精品官网| 开心五月婷婷| 六月天婷婷| 亚洲精品a成人在线播放| 天天肏天天肏| 91久久久久久| 亚洲第精品| 五月六月伦理| 99ri视频| 日逼影音先锋男人AV资源站| 亚洲久艹| 五月激情丁香五月| 伊人色欲五月天| 色天堂A| 婷婷中文字幕| 天啪色| 99精品久久久久久久婷婷| 五月婷婷香蕉| 激情五月天 婷婷| 五月激情婷婷丁香| 97超碰,人人舔,人人操,人人摸| 亚洲爱婷婷| 国产精品久久久爽爽爽麻豆色哟哟 | 日本婷久久| 激情婷婷综合| 五月婷婷开心网| 综合色99| 狠狠狠狠青草| aaa丁香五月天| 这里有精品2| 人人播| 天天综合色99| 99热这里只有精品268| 久久小片| 五月天婷婷成人网| 综合 蜜月 婷婷| 激情五月黄色小说| 五月婷婷婷| 大香蕉520| 婷婷六月色情| 色五月av伊人| 性高潮久久久久久-九九九九九九九九九九热-成人AV | 五月六月婷婷激情网| 五月丁香六月香综合激情| 欧美影院婷婷| 丁香九月激情在线视频| 九九综合色| 伊人五月成人| 婷婷综合网站| 色五月欧美| 天天操天天谢| 噜噜噜狠狠色综合| 色婷婷色综合| 夜夜涩涩涩| 香蕉视频91| 日韩丁香涩| 任你艹| 激情五月天小说网| 亚洲欧洲中文日韩久久AV乱码| 天天综合 99久久婷婷| 激情五月com| 玖玖热视频| 伊人狠狠色婷婷综合丁香一区| 青青草深爱激情网| 狠狠综合久久| 丁香六月色| 丁香五月婷婷天激情| 五月婷婷激情久久| 激情久久网 | 久久婷婷五月丁香蜜桃网| 狠色综合网| 丁香五月色网| 亚洲激情六月丁香| 丁香婷婷六月激情| 五月丁香免费看| www.com亚洲网站在线免费| 丁香五月激情视频在线| 婷婷激情小说| 97极品在线| 久热这里只有精品99re| 狠狠CAO日日穞夜夜穞AV| 99综合久久| 五月综合色| 伦乱人妻| 亚洲99视频| 开心激情婷婷| 91精品久久久久久| 天天做天天爱天天玩| 色综合77777| 日 日干 日日做| 久久九九国产精品怡红院| 影音先锋一区| 久久九精品| 吾爱AV导航| 狠狠搞亚洲| 国产真实乱对白精彩| 色网站99| 五月色综合| 久久久97| 91ncom.色| 91狠狠综合网| 欧洲色色| 色综合狠狠色| 激情五月影院| 午夜福利8055| 终合激情网| 无码一区二区三区四区五区91c| 天天射影视综合网| 久99999热视频在线观看免费| 包操45分钟网站| 午夜天堂啪啪| 99婷婷五月天| 九九这里只有精品| 色婷五月婷婷| 伊人久久艹| 亚洲激情校园| 婷婷97| 99热国产国产| 香蕉AV福利精品导航| 色五月婷婷少妇人妻| 五月婷婷激情综合| www.五月激情.com| 最近中文字幕2019视频1| 五月丁香六月婷婷综合网| 精品一二三区久久AAA片| 3p日韩网站视频| 9精品久久999| 久久这里只有国产精品视频| 九九色婷婷五月天| 久久五月婷天天干| 欧美五月婷婷综合| 久久婷婷成人综合色怡春院| 国产免费一区二区三区三州老师F1F1.CC| 色综合色综合色综合| 婷婷六月综合激情| 71在线精品视频一区| 99九九在线观看免费| 色爱综合网| 激情五月影院| 婷婷丁香高潮了| 五月丁香婷婷色啪| 亚洲色情网站| 色婷婷AⅤ| 中文字幕AV在线播放| 丁香五月婷婷基地| 1024人妻| 五月天自拍视频| 影音先锋男人av资源站| 久久色情综合免费网站| 9 1在线视频| 久久婷婷亚洲| 3pAV| 毛片九九九九九九九九18| 五月天婷婷成人| 亚洲乱码在线观看| 五月丁香色| 激情图片婷婷| 97干在线免费| 久久婷婷91| 狠狠色五月激情| 婷婷五月天免费99| 精品人妻一区| 亚洲精品无码久久| 最近中文字幕大全免费版在线| 国色天香伊人狠狠色| 日韩美女羞羞网站在线观看| 色色五月天激情| 狠狠另类视频| 国产亚洲成人综合| 五月丁香操婷逼| 色综久久久| 婷婷五月激情在线| 性高潮久久久久久-九九九九九九九九九九热-成人AV | 大香蕉狼人久久| 可以看的AV| α久久| 超碰99热精品| 精品婷婷| 亚洲色情网站| www狠狠| 国产在线激情视频| 中文字幕婷婷| 五月天色婷婷成人| 色婷婷综合成人| 久热9| 婷婷.com| 久久xxxx| 九色综合网| 免费婷婷| 狠狠色无码| 丁香激情五月| 五月丁香六月激情| 久久婷婷六月综合综合色| 欧美婷婷丁香五月社区| 国产在线网| 超碰免费大香蕉| 亚洲丁香五月深爱五月| 91亚洲免费片| 狠狠色噜噜狠狠狠狠综合| 丁香五月激情综合啪啪| 五月丁香福利| 五月婷婷久草| 日本超碰在线| 色久综合天天做视频| 中文AV在线播放| 丁香婷婷五月份| 国产在线黄色| 日本欧美国产| 久久色情| 九九伦子片| 99热首页| 夜夜撸日日操| 玖玖精品视频99| www久久久久久久97| 婷婷丁香成人色综合| 亚洲操b| 五月天狠狠网| 亚洲色五月天在线| 国产成人在线精品| 日本婷婷色| 色色99| 操逼六区| 久久五月激情| 只有精品在线观看| 国产免费一区二区三州老师F1F1……| 丁香激情五月天| 婷婷五月天堂| 五月天涩涩| 婷婷丁香一月| 91色色色| 丁香五月123| 色九九综合色| 激情五月天综合网| xx久久| 激情五月色在线播放| 99视频精品视频| av国产精品偷| 超碰丁香五月| 国产偷人爽久久久久久老妇APP| 97在线精品| 99精品视频免费观看| 久久视频九九视频| 涩涩五月天综合| 99福利导航| 国产精品岛国片在线观看免费| 色色五月婷婷狠狠| 99色综合| 久久久久9999| 九九99热久久精品66中文字幕| 26uuu欧美激情另类| 激情五月天之六月婷婷| 色五月激情视频在线综合| 亭亭色网|