99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

全鏈路壓測(cè)方案:DESP仿真度、流量隔離與自動(dòng)化基線

全鏈路壓測(cè)方案:DESP仿真度、流量隔離與自動(dòng)化基線 簡(jiǎn)介《全鏈路壓測(cè)最佳實(shí)踐》是一份面向性能測(cè)試工程師、測(cè)試開(kāi)發(fā)人員與穩(wěn)定性保障團(tuán)隊(duì)的實(shí)戰(zhàn)型文檔聚焦生產(chǎn)級(jí)全鏈路壓測(cè)從理論方法到工程落地的完整路徑。內(nèi)容圍繞全鏈路壓測(cè)的核心概念、適用場(chǎng)景與DESP模型展開(kāi)逐一拆解數(shù)據(jù)仿真度、環(huán)境仿真度、場(chǎng)景仿真度和壓力仿真度的設(shè)計(jì)要點(diǎn)并結(jié)合新東方續(xù)班體系案例說(shuō)明核心鏈路梳理、背景數(shù)據(jù)與參數(shù)化數(shù)據(jù)構(gòu)造、并發(fā)與TPS負(fù)載配置、壓測(cè)流量隔離及自動(dòng)化實(shí)施過(guò)程同時(shí)覆蓋壓測(cè)平臺(tái)架構(gòu)與功能規(guī)劃。壓縮包僅含1個(gè)docx文件大小約1.65MB結(jié)構(gòu)集中便于按章節(jié)檢索和復(fù)盤(pán)。已有364人學(xué)習(xí)適合需要系統(tǒng)理解全鏈路壓測(cè)模型設(shè)計(jì)、案例拆解與平臺(tái)建設(shè)思路的讀者參考。1. 從一次續(xù)費(fèi)窗口期說(shuō)起全鏈路壓測(cè)要解決的是「測(cè)不準(zhǔn)」某在線教育平臺(tái)的續(xù)報(bào)窗口期在晚上八點(diǎn)開(kāi)啟。測(cè)試同學(xué)提前在預(yù)發(fā)環(huán)境把下單接口壓到 3000 QPS曲線漂亮報(bào)告也寫(xiě)了。窗口一開(kāi)鏈路中間一個(gè)不起眼的規(guī)則校驗(yàn)接口把數(shù)據(jù)庫(kù)連接池占滿(mǎn)整個(gè)下單流程卡在原地運(yùn)維臨時(shí)擴(kuò)容才扛過(guò)去。這類(lèi)翻車(chē)在窗口期和大促現(xiàn)場(chǎng)并不少見(jiàn)原因也不神秘單接口壓測(cè)只回答了「這個(gè)接口能扛多少」沒(méi)有回答「這條業(yè)務(wù)鏈路在真實(shí)數(shù)據(jù)分布、真實(shí)并發(fā)配比、真實(shí)環(huán)境拓?fù)湎履芸付嗌佟埂H溌穳簻y(cè)要解決的就是后者——基于生產(chǎn)業(yè)務(wù)場(chǎng)景、系統(tǒng)環(huán)境和真實(shí)數(shù)據(jù)模擬海量用戶(hù)請(qǐng)求跑完整條鏈路再持續(xù)調(diào)優(yōu)。這份方案適合兩類(lèi)人做性能方向畢設(shè)、需要把模型和落地都講清楚的學(xué)生以及要給窗口期、大促做容量評(píng)估的開(kāi)發(fā)與測(cè)試。下面按模型設(shè)計(jì)、流量隔離、數(shù)據(jù)構(gòu)造、負(fù)載建模、避坑排查、驗(yàn)收答辯的順序展開(kāi)。2. 壓測(cè)模型設(shè)計(jì)DESP 四維仿真度怎么拆成可執(zhí)行參數(shù)全鏈路壓測(cè)的核心是四件事業(yè)務(wù)場(chǎng)景、數(shù)據(jù)鏈路、壓力模型、環(huán)境拓?fù)?。把這四個(gè)核心點(diǎn)抽象成模型就是 DESP數(shù)據(jù)仿真度D、環(huán)境仿真度E、場(chǎng)景仿真度S、壓力仿真度P。模型本身不難背難的是每個(gè)維度落到具體參數(shù)上時(shí)你到底要改哪個(gè)值。仿真度決定壓測(cè)結(jié)果的參考價(jià)值一個(gè)維度偷懶整份報(bào)告就只?!概苓^(guò)了」三個(gè)字。2.1 數(shù)據(jù)仿真度規(guī)模只是及格線復(fù)雜度才是分水嶺壓測(cè)數(shù)據(jù)分兩塊。一塊是被壓系統(tǒng)的背景數(shù)據(jù)也就是歷史存量和存量規(guī)模查詢(xún)類(lèi)場(chǎng)景對(duì)這塊特別敏感——同一個(gè)列表接口返回 1 萬(wàn)條和返回 10 萬(wàn)條結(jié)果耗時(shí)可能差一個(gè)量級(jí)。原則很樸素背景數(shù)據(jù)規(guī)模盡量貼近真實(shí)寧可多導(dǎo)一些不要圖省事只造幾百條。另一塊是請(qǐng)求的參數(shù)化數(shù)據(jù)可以來(lái)自線上脫敏數(shù)據(jù)也可以按參數(shù)規(guī)則自己構(gòu)造。這里最容易忽略的是數(shù)據(jù)復(fù)雜度。真正影響性能的往往不是總量而是對(duì)象之間的關(guān)聯(lián)分布。以續(xù)報(bào)場(chǎng)景為例同樣 100 個(gè)學(xué)員一種分布是 90 個(gè)學(xué)員各報(bào) 2 個(gè)班、10 個(gè)學(xué)員各報(bào) 10 個(gè)班另一種是 10 個(gè)學(xué)員各報(bào) 2 個(gè)班、90 個(gè)學(xué)員各報(bào) 10 個(gè)班。后者的整體性能明顯更差因?yàn)閱蝹€(gè)學(xué)員的關(guān)聯(lián)對(duì)象變多鏈路里逐條校驗(yàn)和優(yōu)惠計(jì)算的成本被放大。如果構(gòu)造數(shù)據(jù)時(shí)按平均分布鋪開(kāi)這條瓶頸根本壓不出來(lái)。數(shù)據(jù)分層構(gòu)造來(lái)源規(guī)模目標(biāo)需要控制的復(fù)雜度因子背景存量數(shù)據(jù)生產(chǎn)脫敏抽樣與生產(chǎn)同量級(jí)單賬號(hào)關(guān)聯(lián)對(duì)象數(shù)分布、歷史數(shù)據(jù)時(shí)間跨度請(qǐng)求參數(shù)數(shù)據(jù)日志回放 規(guī)則構(gòu)造覆蓋 Top 接口主要取值參數(shù)取值多樣性、邊界值占比業(yè)務(wù)規(guī)則數(shù)據(jù)按窗口期規(guī)則改寫(xiě)覆蓋當(dāng)前生效規(guī)則集規(guī)則命中比例、優(yōu)惠疊加層數(shù)分布比例不是拍腦袋定的得從訂單明細(xì)里統(tǒng)計(jì)出來(lái)。通常的做法是拉一段時(shí)間窗口期的訂單統(tǒng)計(jì)每個(gè)學(xué)員的報(bào)班量分布再按這個(gè)分布生成壓測(cè)數(shù)據(jù)。下面這段腳本就是按統(tǒng)計(jì)結(jié)果反向構(gòu)造的# 按真實(shí)報(bào)班量分布構(gòu)造學(xué)員-班級(jí)關(guān)系而不是平均分配 import random def build_student_class_pairs(n_students10000, n_classes5000, seed42): random.seed(seed) # 固定種子保證每輪壓測(cè)數(shù)據(jù)可復(fù)現(xiàn) pairs [] for sid in range(n_students): r random.random() if r 0.90: k random.randint(1, 5) # 90% 學(xué)員報(bào) 1~5 個(gè)班主體流量 elif r 0.95: k random.randint(6, 10) # 5% 學(xué)員報(bào) 6~10 個(gè)班 else: k random.randint(11, 30) # 5% 長(zhǎng)尾學(xué)員專(zhuān)門(mén)用來(lái)壓出瓶頸 pairs.extend((sid, cid) for cid in random.sample(range(n_classes), k)) return pairs三個(gè)參數(shù)要跟著業(yè)務(wù)走n_students決定并發(fā)賬號(hào)基數(shù)一般按預(yù)估峰值在線人數(shù)除以單賬號(hào)可復(fù)用次數(shù)來(lái)估n_classes要保證班級(jí)容量規(guī)則不會(huì)在壓測(cè)中途被耗盡比例閾值 0.90、0.95 是從訂單明細(xì)里統(tǒng)計(jì)出來(lái)的換了業(yè)務(wù)就得重算不要直接抄。種子固定是為了讓每輪基線壓測(cè)跑在同一份數(shù)據(jù)上否則性能波動(dòng)沒(méi)法歸因。2.2 環(huán)境仿真度線上壓測(cè)優(yōu)先線下等比例不等于等比縮環(huán)境仿真度看三個(gè)因子是否線上壓測(cè)、線下部署規(guī)模、線下服務(wù)器資源配置。首選當(dāng)然是在線上壓但要先建壓測(cè)通道、做數(shù)據(jù)隔離不能把真實(shí)數(shù)據(jù)攪亂。做不到線上壓線下就得按線上集群等比例部署服務(wù)器配置盡量保持一致否則仿真度會(huì)大打折扣。這里有一條血淚經(jīng)驗(yàn)等比例壓縮只壓應(yīng)用層不壓中間件瓶頸位置會(huì)整體錯(cuò)位。線上 200 臺(tái)應(yīng)用對(duì)應(yīng) 20 臺(tái)數(shù)據(jù)庫(kù)你在線下壓成 20 臺(tái)應(yīng)用卻仍然只掛 2 臺(tái)數(shù)據(jù)庫(kù)先掛的一定是數(shù)據(jù)庫(kù)你據(jù)此得出的「數(shù)據(jù)庫(kù)是瓶頸」結(jié)論在線上根本不成立。折算清單要一起算應(yīng)用節(jié)點(diǎn)、數(shù)據(jù)庫(kù)連接數(shù)、緩存分片、消息隊(duì)列分區(qū)、網(wǎng)關(guān)實(shí)例缺一個(gè)都會(huì)讓瓶頸搬家。資源類(lèi)型線上規(guī)模線下折算折算時(shí)必須同步調(diào)整的參數(shù)應(yīng)用節(jié)點(diǎn)200 臺(tái) 8C16G20 臺(tái) 8C16G每節(jié)點(diǎn)連接池上限按比例下調(diào)數(shù)據(jù)庫(kù)主從多實(shí)例同比例縮減實(shí)例數(shù)最大連接數(shù)、慢查詢(xún)閾值同步下調(diào)緩存多分片集群縮減分片但保留集群模式客戶(hù)端分片算法不變避免壓測(cè)代碼走另一條路徑網(wǎng)關(guān)多可用區(qū)部署單可用區(qū)多實(shí)例限流閾值按實(shí)例數(shù)等比縮放2.3 場(chǎng)景仿真度核心鏈路要敢做減法壓測(cè)場(chǎng)景就是壓測(cè)的目標(biāo)和范圍前提是把業(yè)務(wù)吃透。做法是從日志和用戶(hù)行為里歸納出一條或幾條核心鏈路明確鏈路上每個(gè)接口、每類(lèi)調(diào)用同步還是異步、串行還是并行、每類(lèi)參數(shù)。所謂核心鏈路是用戶(hù)在關(guān)鍵時(shí)間點(diǎn)的真實(shí)操作序列打開(kāi)購(gòu)物車(chē)、進(jìn)結(jié)算頁(yè)、打開(kāi)收銀臺(tái)、選優(yōu)惠、選支付、下單、下單后置處理。確定核心鏈路最關(guān)鍵的一點(diǎn)是不要貪多。覺(jué)得用戶(hù)可能會(huì)點(diǎn)這里、也可能點(diǎn)那里把低頻操作也塞進(jìn)主鏈路結(jié)果是把核心鏈路的壓力稀釋掉還多了一堆無(wú)關(guān)的失敗點(diǎn)。以零點(diǎn)場(chǎng)景為例非核心查詢(xún)基本都會(huì)被降級(jí)——比如訂單列表只允許查最近三個(gè)月其余提示稍后再查把資源全部讓給核心鏈路。這個(gè)降級(jí)策略本身也要寫(xiě)進(jìn)壓測(cè)方案因?yàn)閴毫δP统闪⒌那疤崾墙导?jí)開(kāi)關(guān)真的生效了。接口峰值調(diào)用占比是否進(jìn)壓測(cè)鏈路降級(jí)策略登錄鑒權(quán)18%是不降級(jí)壓測(cè)標(biāo)識(shí)走獨(dú)立通道班級(jí)與規(guī)則校驗(yàn)26%是不降級(jí)優(yōu)惠計(jì)算24%是不降級(jí)下單與訂單落庫(kù)22%是不降級(jí)歷史訂單查詢(xún)6%否限時(shí)間范圍查詢(xún)推薦位與運(yùn)營(yíng)位4%否直接返回兜底內(nèi)容2.4 壓力仿真度并發(fā)模式與 TPS 目標(biāo)模式怎么選壓力仿真度就是負(fù)載參數(shù)壓測(cè)模式、并發(fā)數(shù)或目標(biāo) TPS、集合點(diǎn)、thinktime、預(yù)熱時(shí)長(zhǎng)、壓測(cè)時(shí)長(zhǎng)。模式選錯(cuò)整套壓測(cè)的方向就偏了。并發(fā)模式適合已知大概并發(fā)的場(chǎng)景。比如預(yù)估有 10 萬(wàn)用戶(hù)會(huì)來(lái)先判斷這 10 萬(wàn)是集中訪問(wèn)還是分散訪問(wèn)集中在秒殺、搶購(gòu)這類(lèi)瞬間場(chǎng)景那就設(shè) 10 萬(wàn)并發(fā)并開(kāi)集合點(diǎn)讓請(qǐng)求同一時(shí)刻放出去如果是一天累計(jì) 10 萬(wàn)按二八法則折算成峰值并發(fā)就夠。TPS 目標(biāo)模式適合后臺(tái)接口類(lèi)場(chǎng)景跟并發(fā)數(shù)無(wú)關(guān)只盯吞吐量接口設(shè)計(jì)上限是 3 萬(wàn) TPS就直接設(shè) 3 萬(wàn)壓測(cè)系統(tǒng)自動(dòng)調(diào)節(jié)并發(fā)去逼近目標(biāo)達(dá)不到就判定不達(dá)標(biāo)非常適合作為基線任務(wù)的固定口徑。# 續(xù)報(bào)核心鏈路壓測(cè)場(chǎng)景配置TPS 目標(biāo)模式 scene: renewal_core_chain mode: tps_target # 可選 tps_target / concurrency target_tps: 3000 # 按歷史峰值 TPS 上浮 20% 設(shè)定 ramp_up_seconds: 300 # 預(yù)熱 5 分鐘避開(kāi) JIT 與連接池冷啟動(dòng)造成的假瓶頸 duration_seconds: 1800 # 穩(wěn)定壓 30 分鐘覆蓋一次 GC 周期 think_time_ms: 800 # 按真實(shí)用戶(hù)操作間隔設(shè)置設(shè) 0 會(huì)虛高吞吐 rendezvous: enabled: false # 目標(biāo)模式不設(shè)集合點(diǎn)集合點(diǎn)只用于瞬時(shí)并發(fā)驗(yàn)證 data_binding: account_pool: pressure_account_q1 param_source: renewal_pair_distribution sla: p99_ms: 800 error_rate: 0.001幾個(gè)參數(shù)的理解比數(shù)值本身重要ramp_up_seconds太短第一分鐘的 p99 會(huì)非常難看那是冷啟動(dòng)不是瓶頸think_time_ms直接決定同一并發(fā)下的實(shí)際 TPS設(shè)成 0 相當(dāng)于讓每個(gè)虛擬用戶(hù)全速打壓出來(lái)的數(shù)字沒(méi)人敢信rendezvous開(kāi)在目標(biāo)模式下會(huì)把平滑壓力變成脈沖除非你就是要驗(yàn)證瞬時(shí)沖擊否則關(guān)掉sla里用 p99 而不是平均值平均值會(huì)把長(zhǎng)尾藏起來(lái)這是壓測(cè)報(bào)告里最常見(jiàn)的黑匣子。3. 流量與數(shù)據(jù)隔離壓測(cè)標(biāo)識(shí)怎么透?jìng)鳌?shù)據(jù)怎么回收線上壓測(cè)繞不開(kāi)隔離。壓測(cè)流量進(jìn)了生產(chǎn)庫(kù)、壓測(cè)訂單污染了真實(shí)報(bào)表后續(xù)清理成本遠(yuǎn)高于壓測(cè)本身。業(yè)界比較成熟的做法是給壓測(cè)流量打標(biāo)標(biāo)識(shí)隨調(diào)用鏈一路透?jìng)鞲飨到y(tǒng)按標(biāo)識(shí)分支處理數(shù)據(jù)側(cè)則用影子賬號(hào)、影子對(duì)象加規(guī)則改寫(xiě)把壓測(cè)數(shù)據(jù)和真實(shí)數(shù)據(jù)分開(kāi)。這套東西不難難在透?jìng)麈溌飞先魏我画h(huán)丟標(biāo)。3.1 標(biāo)識(shí)注入與全鏈路透?jìng)鞯娜齻€(gè)落點(diǎn)第一個(gè)落點(diǎn)是網(wǎng)關(guān)。壓測(cè)流量統(tǒng)一從壓測(cè)機(jī)或壓測(cè)通道進(jìn)來(lái)網(wǎng)關(guān)解析 header 里的標(biāo)識(shí)寫(xiě)進(jìn)請(qǐng)求上下文同時(shí)打到日志 MDC 上后續(xù)排查能按標(biāo)識(shí)撈全量日志。第二個(gè)落點(diǎn)是 RPC 上下文。服務(wù)間調(diào)用要把標(biāo)識(shí)放進(jìn)隱式參數(shù)或 header不能靠業(yè)務(wù)代碼逐層傳參否則遲早漏。第三個(gè)落點(diǎn)是消息隊(duì)列生產(chǎn)消息時(shí)把標(biāo)識(shí)寫(xiě)進(jìn)消息屬性消費(fèi)端讀出來(lái)重新塞進(jìn)上下文。// 網(wǎng)關(guān)層統(tǒng)一收口壓測(cè)標(biāo)識(shí)避免各業(yè)務(wù)方各自解析出偏差 public class PressureTagInterceptor implements HandlerInterceptor { public static final String PRESSURE_HEADER X-Pressure-Flag; private static final ThreadLocalBoolean HOLDER new ThreadLocal(); Override public boolean preHandle(HttpServletRequest req, HttpServletResponse resp, Object handler) { // 只認(rèn) 1其余取值一律按生產(chǎn)流量處理避免臟標(biāo)識(shí)誤傷真實(shí)請(qǐng)求 boolean isPressure 1.equals(req.getHeader(PRESSURE_HEADER)); HOLDER.set(isPressure); MDC.put(pressure, String.valueOf(isPressure)); return true; } Override public void afterCompletion(HttpServletRequest req, HttpServletResponse resp, Object handler, Exception ex) { // 線程池復(fù)用場(chǎng)景必須清理否則標(biāo)識(shí)會(huì)串到下一個(gè)請(qǐng)求上 HOLDER.remove(); MDC.remove(pressure); } }關(guān)鍵在afterCompletion里的清理動(dòng)作。Web 容器線程是復(fù)用的只 set 不 remove下一個(gè)真實(shí)請(qǐng)求可能繼承上一個(gè)壓測(cè)請(qǐng)求的標(biāo)識(shí)結(jié)果真實(shí)用戶(hù)的數(shù)據(jù)被當(dāng)成壓測(cè)數(shù)據(jù)清了這種事故修起來(lái)極其難受。異步線程和線程池場(chǎng)景要用可傳遞的 ThreadLocal 包裝或者顯式在提交任務(wù)時(shí)把標(biāo)識(shí)帶過(guò)去這是透?jìng)麈溌防镒钊菀讛嗟囊画h(huán)。3.2 數(shù)據(jù)隔離影子賬號(hào)、影子對(duì)象與規(guī)則改寫(xiě)隔離分讀寫(xiě)兩側(cè)。讀側(cè)靠賬號(hào)區(qū)分為壓測(cè)預(yù)留一批專(zhuān)用賬號(hào)綁定的學(xué)員是虛擬學(xué)員與真實(shí)學(xué)員在姓名和賬號(hào)維度上完全隔開(kāi)壓測(cè)怎么查都查不到真實(shí)數(shù)據(jù)。寫(xiě)側(cè)靠對(duì)象和規(guī)則班級(jí)可以復(fù)用真實(shí)班級(jí)信息這樣容量、狀態(tài)這些屬性才是真的但訂單、購(gòu)物車(chē)這類(lèi)寫(xiě)數(shù)據(jù)必須帶壓測(cè)標(biāo)識(shí)續(xù)報(bào)規(guī)則和優(yōu)惠規(guī)則通過(guò)標(biāo)識(shí)改寫(xiě)為「當(dāng)前時(shí)刻有效」的規(guī)則集讓壓測(cè)數(shù)據(jù)能正常走完業(yè)務(wù)流轉(zhuǎn)同時(shí)又不觸碰真實(shí)規(guī)則的時(shí)間窗口和名額限制。為什么不干脆建一套獨(dú)立影子庫(kù)成本高而且仿真度反而下降——影子庫(kù)的索引、數(shù)據(jù)量、慢查詢(xún)特征都和生產(chǎn)不一樣壓出來(lái)的結(jié)論沒(méi)法直接用。用標(biāo)識(shí)做邏輯隔離配合任務(wù)結(jié)束后的定向清洗通常是性?xún)r(jià)比最高的方案。前提是標(biāo)識(shí)透?jìng)鞅仨汄?yàn)證過(guò)不能只靠代碼 review 拍胸脯。3.3 壓測(cè)數(shù)據(jù)構(gòu)造與清洗回收的完整閉環(huán)壓測(cè)數(shù)據(jù)按三層準(zhǔn)備。基元數(shù)據(jù)是登錄賬號(hào)和學(xué)員方案里維護(hù)了一個(gè)數(shù)萬(wàn)級(jí)的測(cè)試賬號(hào)池由平臺(tái)按項(xiàng)目統(tǒng)一分配和回收業(yè)務(wù)型數(shù)據(jù)是班級(jí)、續(xù)報(bào)規(guī)則、優(yōu)惠規(guī)則班級(jí)支持一鍵構(gòu)造規(guī)則按標(biāo)識(shí)指定時(shí)間段生效鏈路數(shù)據(jù)則由基礎(chǔ)數(shù)據(jù)和業(yè)務(wù)規(guī)則模擬真實(shí)操作生成支持調(diào)度中心一鍵或定時(shí)觸發(fā)。-- 壓測(cè)任務(wù)結(jié)束后的數(shù)據(jù)回收三板斧刪業(yè)務(wù)數(shù)據(jù)、解綁賬號(hào)、回寫(xiě)賬號(hào)池 DELETE FROM order_item WHERE pressure_flag 1 AND created_at NOW() - INTERVAL 7 days; DELETE FROM cart WHERE pressure_flag 1; UPDATE account_pool SET status idle, bound_student_id NULL, released_at NOW() WHERE batch_no pressure_q1 AND status in_use;順序不能反。先刪業(yè)務(wù)數(shù)據(jù)再解綁賬號(hào)否則賬號(hào)先回池、舊數(shù)據(jù)還在下一輪壓測(cè)就可能讀到臟購(gòu)物車(chē)pressure_flag 1這個(gè)條件必須走索引否則一次清理能掃全表。回收還要考慮異常路徑任務(wù)中途掛掉清理任務(wù)得由調(diào)度中心兜底觸發(fā)不能指望人工發(fā)現(xiàn)。方案里通常會(huì)給賬號(hào)池設(shè)計(jì)狀態(tài)機(jī)idle / in_use / dirty / recycling任何一步失敗都能定位到卡在哪個(gè)狀態(tài)。4. 負(fù)載建模與自動(dòng)化基線把一次性壓測(cè)變成每周跑的任務(wù)一次壓測(cè)報(bào)告的說(shuō)服力有限真正有價(jià)值的是基線同一場(chǎng)景、同一壓力模型、同一數(shù)據(jù)分布每周或者每個(gè)版本跑一次指標(biāo)一偏就報(bào)警。這樣性能問(wèn)題從「上線后才發(fā)現(xiàn)」變成「合并前就發(fā)現(xiàn)」擴(kuò)容決策也有了數(shù)據(jù)支撐而不是等到窗口期前拍腦袋加機(jī)器。4.1 并發(fā)配比表怎么從日志和訂單里推出來(lái)壓力模型不是估出來(lái)的是算出來(lái)的。第一步拉核心鏈路各接口的日志峰值和占比定位鏈路覆蓋范圍和業(yè)務(wù)并發(fā)點(diǎn)第二步用調(diào)用量和抓包確認(rèn)上下游調(diào)用關(guān)系找出真正的并發(fā)點(diǎn)在哪一層第三步從窗口期訂單明細(xì)里統(tǒng)計(jì)報(bào)班量占比把數(shù)據(jù)分布和并發(fā)配比同時(shí)對(duì)齊真實(shí)流量第四步如果有條件全量拉取參與窗口期的真實(shí)加購(gòu)數(shù)據(jù)做一次瞬時(shí)并發(fā)評(píng)估這份數(shù)據(jù)對(duì)擴(kuò)容方案的參考價(jià)值最高。壓測(cè)場(chǎng)景并發(fā)占比目標(biāo) TPS 占比數(shù)據(jù)特征單班續(xù)報(bào)主流程55%58%學(xué)員報(bào) 1~5 個(gè)班占主體多班批量續(xù)報(bào)25%22%學(xué)員報(bào) 6~10 個(gè)班規(guī)則校驗(yàn)更重長(zhǎng)尾學(xué)員續(xù)報(bào)12%13%報(bào) 11~30 個(gè)班單請(qǐng)求耗時(shí)最長(zhǎng)購(gòu)物車(chē)加購(gòu)與結(jié)算8%7%基于真實(shí)加購(gòu)數(shù)據(jù)回放占比之間要有解釋力為什么長(zhǎng)尾場(chǎng)景只占 12% 的并發(fā)卻給了 13% 的 TPS因?yàn)樗膯握?qǐng)求耗時(shí)更長(zhǎng)占用的處理資源更多。這張表是壓測(cè)方案里最該被追問(wèn)的東西答辯時(shí)評(píng)委只要問(wèn)一句「這個(gè)比例怎么來(lái)的」你能不能報(bào)出日志統(tǒng)計(jì)口徑和訂單統(tǒng)計(jì)口徑基本就決定了方案的 credibility。4.2 基線任務(wù)的四段式流程基線任務(wù)通常拆成四段用調(diào)度中心串起來(lái)支持手動(dòng)和定時(shí)兩種觸發(fā)方式。# 基線任務(wù)編排構(gòu)造 - 試運(yùn)行 - 預(yù)熱 - 正式壓測(cè) - 對(duì)比通知 task_run() { step1_build_data # 按分布自動(dòng)構(gòu)造壓測(cè)數(shù)據(jù)產(chǎn)出批次號(hào) step2_smoke_run # 小流量試運(yùn)行驗(yàn)證鏈路連通與數(shù)據(jù)可用 step3_preheat # 數(shù)據(jù)預(yù)熱把熱點(diǎn)數(shù)據(jù)提前加載進(jìn)緩存 step4_baseline_run # 正式基線壓測(cè)固定 TPS 與時(shí)長(zhǎng) step5_compare_and_notify # 與上一輪基線對(duì)比超閾值告警 }第二步最容易被跳過(guò)也最不該跳。壓測(cè)場(chǎng)景復(fù)雜數(shù)據(jù)構(gòu)造完不等于數(shù)據(jù)可用賬號(hào)可能被上一輪占著沒(méi)釋放班級(jí)可能名額已滿(mǎn)規(guī)則可能已經(jīng)過(guò)期。試運(yùn)行用低流量把整條鏈路走一遍幾秒鐘就能發(fā)現(xiàn)「鏈路不通」和「數(shù)據(jù)失效」這兩類(lèi)問(wèn)題比正式壓測(cè)跑到一半大量報(bào)錯(cuò)強(qiáng)得多。第三步的預(yù)熱可以自定義也可以省略但如果你的業(yè)務(wù)有大量本地緩存省掉預(yù)熱會(huì)讓第一輪基線的數(shù)字明顯偏低。4.3 壓測(cè)平臺(tái)的最小功能集自建壓測(cè)平臺(tái)不需要一上來(lái)就做大而全先把跑通閉環(huán)的最小功能集做出來(lái)剩下的按需長(zhǎng)。模塊最小功能驗(yàn)收口徑腳本管理支持 HTTP/HTTPS在線創(chuàng)建與調(diào)試腳本新建到首次調(diào)試成功不超過(guò) 10 分鐘數(shù)據(jù)構(gòu)造一鍵生成基元數(shù)據(jù)與業(yè)務(wù)數(shù)據(jù)構(gòu)造失敗可重試產(chǎn)出批次號(hào)可追溯壓測(cè)建模場(chǎng)景、并發(fā)配比、目標(biāo) TPS 可配置同一場(chǎng)景配置可復(fù)制生成新版本施壓機(jī)管理統(tǒng)一注冊(cè)、心跳、任務(wù)分發(fā)施壓機(jī)掉線能自動(dòng)剔除且告警過(guò)程監(jiān)控實(shí)時(shí)指標(biāo)看板、閾值預(yù)警、熔斷觸發(fā)熔斷后 30 秒內(nèi)停止施壓結(jié)果歸檔報(bào)表聚合、基線庫(kù)、歷史對(duì)比任意兩輪結(jié)果可按場(chǎng)景對(duì)比任務(wù)調(diào)度基線任務(wù)定時(shí)執(zhí)行、結(jié)果通知支持郵件與即時(shí)消息兩類(lèi)通知其中熔斷這一條最容易被砍掉但它是后悔藥壓測(cè)過(guò)程中如果真實(shí)業(yè)務(wù)指標(biāo)出現(xiàn)異常核心接口錯(cuò)誤率飆升、數(shù)據(jù)庫(kù)連接數(shù)打滿(mǎn)系統(tǒng)要能自動(dòng)停止施壓。沒(méi)有這個(gè)開(kāi)關(guān)一次壓測(cè)可能直接把生產(chǎn)拖垮這個(gè)責(zé)任沒(méi)人擔(dān)得起。5. 避坑與排查壓測(cè)里最容易翻車(chē)的五類(lèi)問(wèn)題壓測(cè)方案寫(xiě)得再漂亮落地時(shí)總有幾個(gè)坑等著。下面五條是按「現(xiàn)象 → 原因 → 解決」整理的都是實(shí)際項(xiàng)目里反復(fù)出現(xiàn)的問(wèn)題提前知道能省掉大半天排查。5.1 數(shù)據(jù)與隔離類(lèi)看不見(jiàn)的臟數(shù)據(jù)最傷人現(xiàn)象一壓測(cè)跑完之后生產(chǎn)報(bào)表里的訂單量莫名多了一批客服反饋有用戶(hù)看到不屬于自己的購(gòu)物車(chē)。原因基本可以鎖定在標(biāo)識(shí)丟失。壓測(cè)標(biāo)識(shí)只在入口層打了異步任務(wù)、線程池、消息消費(fèi)這幾個(gè)環(huán)節(jié)沒(méi)有透?jìng)鲗?dǎo)致部分寫(xiě)操作按生產(chǎn)流量處理直接落進(jìn)了真實(shí)表。解決分三步一是把標(biāo)識(shí)透?jìng)髯龀煽蚣芗?jí)能力RPC 隱式參數(shù)、消息屬性、線程池包裝統(tǒng)一收口業(yè)務(wù)代碼不手寫(xiě)二是加一條回歸用例用壓測(cè)標(biāo)識(shí)發(fā)起請(qǐng)求斷言鏈路上每個(gè)節(jié)點(diǎn)的日志里都帶標(biāo)識(shí)三是清理任務(wù)改為按標(biāo)識(shí)定向刪除而不是按時(shí)間范圍模糊刪避免誤傷?,F(xiàn)象二壓測(cè)結(jié)果非常好TPS 達(dá)標(biāo)、p99 很漂亮但線上窗口期一開(kāi)就崩。多半是數(shù)據(jù)構(gòu)造偷懶了。用平均分布造數(shù)據(jù)每個(gè)賬號(hào)關(guān)聯(lián)的對(duì)象數(shù)量差不多鏈路上逐條校驗(yàn)、逐條計(jì)算的開(kāi)銷(xiāo)被攤平最耗時(shí)的長(zhǎng)尾路徑根本沒(méi)被觸發(fā)。解決方法是回到訂單明細(xì)統(tǒng)計(jì)真實(shí)的對(duì)象關(guān)聯(lián)分布按分位數(shù)構(gòu)造數(shù)據(jù)至少保證 5% 的請(qǐng)求落在長(zhǎng)尾區(qū)間。這類(lèi)問(wèn)題的排查有個(gè)技巧壓測(cè)結(jié)束后看耗時(shí)分布的偏度如果 p99 和 p50 差距很小先懷疑數(shù)據(jù)太均勻?,F(xiàn)象三第二周跑同一個(gè)基線任務(wù)指標(biāo)突然變差但代碼一行沒(méi)改。大概率是上一輪的數(shù)據(jù)沒(méi)清干凈。賬號(hào)沒(méi)解綁、購(gòu)物車(chē)還有舊數(shù)據(jù)、優(yōu)惠規(guī)則命中了過(guò)期配置都會(huì)讓第二輪的結(jié)果失真。解決是把清理做成任務(wù)的前置步驟而不是后置步驟每次開(kāi)跑前先對(duì)賬號(hào)池做一次全量校驗(yàn)狀態(tài)不是 idle 的一律回滾或剔除業(yè)務(wù)數(shù)據(jù)按批次號(hào)刪除不按時(shí)間刪規(guī)則改寫(xiě)帶上批次標(biāo)識(shí)避免不同批次互相污染。5.2 負(fù)載與環(huán)境類(lèi)瓶頸會(huì)搬家現(xiàn)象四線下壓測(cè)顯示應(yīng)用層 CPU 打滿(mǎn)、數(shù)據(jù)庫(kù)很閑于是結(jié)論是「應(yīng)用需要擴(kuò)容」線上實(shí)際是先扛不住數(shù)據(jù)庫(kù)。這是等比例壓縮只壓了一半的典型后果。應(yīng)用節(jié)點(diǎn)從 200 臺(tái)縮到 20 臺(tái)數(shù)據(jù)庫(kù)和緩存卻沒(méi)按同比例縮或者縮了實(shí)例數(shù)但沒(méi)調(diào)連接池上限瓶頸位置自然錯(cuò)位。解決方法是維護(hù)一張折算清單應(yīng)用、數(shù)據(jù)庫(kù)、緩存、網(wǎng)關(guān)、消息隊(duì)列逐項(xiàng)對(duì)照每項(xiàng)都要標(biāo)注「縮了多少、對(duì)應(yīng)參數(shù)改了什么」壓測(cè)前先用單機(jī)小流量校準(zhǔn)一次確認(rèn)各層資源利用率的關(guān)系與線上一致再上正式壓力?,F(xiàn)象五壓測(cè)一開(kāi)始的三十秒 p99 高得離譜之后突然變好報(bào)告不知道該怎么寫(xiě)。這是預(yù)熱不足加上 thinktime 設(shè)置不當(dāng)。JIT 編譯、連接池建立、本地緩存加載都需要時(shí)間一開(kāi)始的全速?zèng)_擊會(huì)把這些冷啟動(dòng)成本放大成假瓶頸反過(guò)來(lái)thinktime 設(shè)成 0 會(huì)讓每個(gè)虛擬用戶(hù)全速發(fā)請(qǐng)求壓出來(lái)的 TPS 虛高線上根本達(dá)不到。解決是固定預(yù)熱 5 到 10 分鐘預(yù)熱期的指標(biāo)單獨(dú)統(tǒng)計(jì)、不混進(jìn)正式結(jié)果thinktime 按真實(shí)用戶(hù)操作間隔設(shè)通常在幾百毫秒量級(jí)集合點(diǎn)只在驗(yàn)證瞬時(shí)并發(fā)時(shí)打開(kāi)常規(guī)基線一律關(guān)閉。6. 方案怎么驗(yàn)收答辯前必須能自證的四個(gè)交付物壓測(cè)方案和普通功能方案不一樣它的產(chǎn)出不是代碼是「結(jié)論 證據(jù)」。評(píng)審和答辯時(shí)被追問(wèn)的從來(lái)不是「你用了什么工具」而是「你憑什么說(shuō)這個(gè)結(jié)論可信」。所以驗(yàn)收前先把四份交付物備齊每份都要能獨(dú)立回答一個(gè)問(wèn)題。交付物回答的問(wèn)題驗(yàn)收口徑壓測(cè)模型說(shuō)明四個(gè)仿真度分別做到什么程度每個(gè)維度有可量化參數(shù)缺失項(xiàng)寫(xiě)明原因與影響隔離方案與驗(yàn)證記錄壓測(cè)數(shù)據(jù)會(huì)不會(huì)污染生產(chǎn)有標(biāo)識(shí)透?jìng)骰貧w用例的通過(guò)記錄有清理演練結(jié)果數(shù)據(jù)構(gòu)造與回收清單數(shù)據(jù)從哪來(lái)、跑完去哪了分布比例有統(tǒng)計(jì)來(lái)源回收腳本有執(zhí)行日志基線任務(wù)與對(duì)比報(bào)告性能是否穩(wěn)定、退化在哪至少兩輪同口徑對(duì)比指標(biāo)口徑一致、波動(dòng)可解釋答辯時(shí)最常被追問(wèn)的三個(gè)點(diǎn)提前想好答案。第一「為什么不用線下單接口壓測(cè)數(shù)據(jù)」——因?yàn)閱谓涌跓o(wú)法體現(xiàn)鏈路放大效應(yīng)和資源競(jìng)爭(zhēng)要能舉出自己鏈路里某個(gè)接口在串聯(lián)后耗時(shí)翻倍的例子。第二「壓測(cè)標(biāo)識(shí)會(huì)不會(huì)漏」——不要回答「不會(huì)漏」要回答「怎么發(fā)現(xiàn)漏」比如每個(gè)節(jié)點(diǎn)必須打標(biāo)、定時(shí)抽樣比對(duì)壓測(cè)請(qǐng)求數(shù)與應(yīng)用側(cè)命中數(shù)是否一致。第三「基線對(duì)比看哪個(gè)指標(biāo)」——答 p99 和錯(cuò)誤率平均值只作參考因?yàn)槠骄禃?huì)把長(zhǎng)尾藏起來(lái)而窗口期最先崩的就是長(zhǎng)尾。我自己的習(xí)慣是壓測(cè)正式開(kāi)跑前強(qiáng)制走一遍「標(biāo)識(shí)透?jìng)骰貧w 數(shù)據(jù)回收演練」兩件事各花不到十分鐘但能把后面最難受的兩類(lèi)事故擋在門(mén)外。這套流程第一次做會(huì)覺(jué)得繁瑣做上三輪就會(huì)變成肌肉記憶。希望幫到你。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
影音先锋女人av鲁色资源网小说免费| 丁香五月激情视频在线| 久久婷婷五月天亚洲欧美| 久久久久婷婷| 99热成人| 久久99这里只有精品视频| 婷婷香蕉香| 六月久久狠狠| 99在线免费视| 91人人看| 婷婷久久五月天| 丁香婷婷综合精品六月初| 久久久婷婷| 六月丁香婷婷开心综合基地| 91精品久久久久久久久久久久| 日韩操逼大片| 日韩好吊操| 久久人妻熟女一区二区| 综合激情在线| 五月开心网| 五月丁香另类图片| 色九月丁香婷婷蜜桃在线观看| 久热只有精品| 色色婷五月天| 91avse| 久久久久久人妻| 激情综合激情五月| 天天综合情| 九九九激情综合| 黄色AAAAA| 激情久久综合| 91九色在线| 久久婷色| 91综合国免费久入| 九九热思思| 成人片在线播放| 一级无码作爱片| 99热这里都是精品| 久99久精品| 婷婷色五月久久| 婷婷五月六月| 雪千夏麻豆| 久热99| 亚洲六月婷婷| 天天操天爱综合| 国产精品成人AV在线| 中文毛片无遮挡高潮免费| 国产成人综合在线| 伊人玖玖网| 丁香婷婷五月天色播| 色老久久| 亚洲VA在线| 天天人人综合| 99re在线精品视频| 久久网站免费亚洲| 色情激情五月| 九九视频精品视频精品| 夜夜撸日日骑| 极品五月天| 五月丁香婷婷六月天| 亚洲激情亚洲激情| 久久欧洲久久| 激情五月天网页| 99热这里只有精品96| 天天综合插插| 日日.c| 欧美噜一噜| 五月天堂婷婷| 99热在线精品观看| 超碰免费大香蕉| 六月婷婷色综合| 亚洲尤物在线| www.色婷婷| 99re青青草| 色色亚洲| 97久久人人人干| 玖玖婷婷色欲| 免费日本aⅴ中文字幕| 欧美色必爱| 狠狠 久久| 99网| 欧美综合五月天婷婷tin| 九九碰九九爱97超碰| 天天日夜夜拍| 婷婷综合视频| 激情丁香五月AV| 国产古装妇女野外A片| 婷婷色五月大香蕉在线| 日本99婷婷| 婷婷狠狠综合网入口| 久9草在线观看视频| 丁香五月激情久久麻豆| www.91在线观看| 超碰免费人人| 天天操天天操| 日韩色久| 99久久婷婷国产综合亚洲| 国产美女主播vip| 欧韩性爱| 六月婷婷激情图片| 99热观看| 五月丁香婷婷啪啪综合网| 亚洲成人黄色网| 久久思思热视频| 婷婷五月激情在线| 激情99| 激情五月综合亚洲另类| www色综合亚洲92| 久久之人妻| 色色99色色| www激情com| 99综合网| 搡BBBB搡BBB搡五十| 大香蕉视频99| 激情五月天综合图片小说网站| 亚洲成色综合网站免费观看| 婷婷激情小说| 超碰99在线| 国产精品久久久爽爽爽麻豆色哟哟| 无码一区精品一区视频| 无码地址| 亚洲综合99| 8090在线影视少妇| 精品一区二区三区四区五区六区介绍| 亚洲天堂热| 亚洲电影中文字幕| 日韩黄色电影| 五月婷婷狠天天色综合| 五月丁香六月激情在线| 色99在线| 婷婷五月天堂| 五月丁香亭亭操逼| 免费五月婷婷网| 婷婷色综合| 亚洲午夜电影| 99热这里有精力| 婷婷爱五月| 91美女被操| 操97免费超级视频 | 大学生高潮无套内谢视频| 欧美日本国产欧美日本韩国99| 美英法精品无码免费视频| 婷婷激情图片| 色色九九五月天 | 成人AV在线网站| 五月丁香婷婷成人网| 人妻九九九九| 人妻狠狠操| 五月婷婷丁香大陆免费| 九九综合色| 丁香激情网| 综合网狠狠| 婷婷五月天黄色小说| 黄色AAAA韩国guochansanji | 久热网站| 日本久久人| 婷婷涩涩网| 综合激情五月天| 婷婷色基地在线看 | 日本婷久久| 啪精品| 蜜乳.comcom| 色日本综合| 丁香六月婷婷开心婷婷网| 日本久久爱| 99热99日天天干| 久久人妻www| 99re在线免费视频| 丁香婷婷基地| 欧美综合在线五月天色婷婷| 久久色午夜在线导航| 久久99热在线观看| www99热| 深爱五月婷婷| 五月丁香综合啪啪啪啪啪| 99爱视频| 激情六月下句是什么| www.激情五月| 婷婷五月18永久免费视频| 婷婷五月丁香99| av中文网站| 999九九九久久久99HD| 国产日韩欧美性爱| 99精品视频在线免费观看| 被男人添B超爽视频| 人人看人人草人人摸| 亚洲日比视频| 久久综合99| 婷婷九月激情| 国产九九一区二区三区| 无码成人AAAAA毛片AI换脸| 五月天婷婷乱| 99热99美国在线观看| 99免费| 日韩婷婷五月天| www.1024久久| 五月婷婷丁香六月| 五月天开心色情网| 五月 婷婷 成人| 被男人添B超爽视频| 丰满少妇猛烈A片免费看观看| 天天撸天天干天天插| 九月综合| 天天天天色天天天天天干| 丁香色成人| 婷婷色婷婷| 开心五月天激情网站| 182TV亚洲| 成人做爰A片免费看视频| 成人网在线观看视频| 第二色AⅤ| 在线一起草av| 电影91久久久| 超碰免费成人| 五月婷婷激情综合av| 中文网AV| 超碰超碰在线| 九九九激情网| 亚洲AV成人片无码网站| 99热99思午夜精品| 大香蕉五月丁香| 怡红院AV亚洲一区二区三区H | 99九九视频| 色五月色图| 777精品久无码人妻蜜桃| 五月婷婷开心五月| 26uuu亚洲欧美| 婷色五月| 丁香五月在线人妻| 大香蕉久操| 丁香五月成人丝袜| 影音先锋男士资源网一区| 99性视频| 天天插,天天射| 久久一热免费视频| jiujiu热在线视频| 天天做综合| 99啪99| 久热精彩视频98| 秋霞免费视频| 国产精品久久久久久喷浆| 婷婷色丁香五月| 九九精品网| 丁香五月天婷婷中文| 五月天婷婷色在线视频免费观看| 色综合久久888| 丁香五月黄色| 另类激情五月| 精品成人久久久久久久_一二三四视| 免费观看日韩成人av| 91紱請| 久青草影院| 五月丁香啪啪啪| 日韩九九| 噼里啪啦完整版中文在线观看| 久久婷五月| www.99日本| 丁香五月中文字幕色播| 亚韩在线视频| 久久婷婷视频| 影音先锋秋秋五月婷婷| 丁香久久激情俄| 日韩在线视频9色| 男人大jjc女人免费视频| 丰满少妇猛烈A片免费看观看| 五月婷婷激情综合| 激情綜合W W W,激情五月天| 久久婷婷视频| 丁香五月狠狠在线观看| 亚洲av无码精品色午夜| 精品人人操| 亚洲1区| 色五月大香蕉| 欧爱综合视频| 99热这里只有精品9| 五月天社区婷婷丁香社区| 亚洲秘 无码一区二区三区妃光/1| 婷婷五月天综合久久| 思思热精品在线| 色五月婷婷五月天| 9l视频自拍9l九色成人| 婷婷五月综合基地| 日本97在线视频| 色色色999| 99这里有精品久久97| 五月丁香婷成人网| 噜噜精品| 婷婷啪啪| 91|九色|动漫| 激情五月网站| 丁香五月手机在线| 少妇性BBB搡BBB爽爽爽视頻| 国产免费av在线| 丁香五月婷婷激情网| 九九视频免费| 亚洲无码99| 99热在线播放| 天堂久久大香蕉| 91人人爽狠狠狠| 日韩AV在线免费观看| 婷婷色五月激情| 国产成人VA| 色停停五月天| 久久久久人妻| 99在线公开视频| 性 色 婷婷| 狠狠色噜噜色狠狠狠综合久久成人波 | 天天狠狠色| 99精品视频网| 亚洲春色奇米影视| 婷婷五月天AV| 特级西西4444www无码| 九九热AV| 国产黄大片在线观看画质优化| 99热色综合| 日韩精品999| 色婷婷丁香五月天激情综合网| 噜噜色五月| 性做久久久久久久免费看| 丁香伊人五月色婷婷五十路| 丁香花五月天| 五月天婷婷久久视频| 超级碰碰碰久久网站| a色色色色色| 午夜丁香婷婷| 色综合色香蕉网| 亚洲激情在线| 九热免费视频| 久久久jd| 免费亚洲婷婷| 9一精品视频观看| 天天爽天天爽天天爽天天爽天天爽| 拳交大逼| 97操资源婷婷| 色婷婷a三区麻| 日韩1区2区| 久久亚洲无码| 五月婷婷激情综合| 日本色色网站| 免费97碰碰| 九月婷婷人人操人人舔人人爱| 偷偷狠狠久久婷婷五月天| 亭亭玉月丁香| 久草狼人| 狠狠色狠狠| 激情久久月| 婷婷激情六月天视频| 狠狠干综合| 91精品久久久久久77777| 99热8| 果冻传媒A片一二三区| 99'无码| 97干在线视频| 九九九午夜视频| WWW.夜夜| 成人亚洲精品久久久久 | 天天日夜夜草进麻麻的子宫| 久久久亚洲精品一区二区三区浴池 | 色综合激情| 熟女色色一区二区| 婷婷六月伊人| 夫妻超碰在线| 久久在这里99| 99精品热视频只有精品10| 97操在线视频| 五月激情丁香久久综合网| 婷婷在线视频| 很很操很很操| 国产精品24r| 99热在线观看亚洲区| 五月天操逼激情| 99热的无码| 久久久久久久久18久久| 激情综合网五月激情| 色婷大香蕉| 亚洲男女激情| 久/久精品99看9| 色色国产| 视色综合| 婷婷欧美综合| 午夜少妇在线观看视频| 99热日韩| 亚洲最大在线| 777影视理论片大全在线观看| 五月色婷婷综合丁香精品无遮挡| 亚洲无码猫咪| 婷婷五月色情天| 九九無碼| 伦乱人妻| 婷婷97| 99在线观看免费精品视频| 99在线精品免费视频| 日日夜夜小色哥| 婷婷国产五月天17c| 欧美日韩成人免费在线| ,99视频久久| 97色一二三| 色婷婷在线视频| 亚洲色情久久| 色色丁香五月天社区| 97人人干人人操| 色丁香在线视频| 色婷婷最新域名| AAA久久久| 婷婷美女精品视频| 黑人熟妇一区二区三区| 国外亚洲成AV人片在线观看| 五月天激情四射网站| 91VIP在线观看| 国产激情在线| 在热视频精品| 思思99热在线| 九九热视频99| 色吧99| 高清无码入口| 天天天天干| 成人色五月天婷婷| 日韩淑女人妻luan伦激情精品一区二 | 久久久97| 五月激情综合网| 99热精品少| 婷婷五月天毛片| 99综合视频一体| 久久99热免费最新版| aaaaaa片| 99热老网站| 麻豆123区| 久久久久9| 色婷婷国产精品综合在线观看| 日本婷婷丁香五月| 色99视频| 亚洲不卡| 婷婷五月电影| 超碰在线观看成人视| 久久97| 五月丁香亭亭操逼| 91大屁股精品| AV性爱在线| 五月天婷婷六月| 婷婷五月综合丁香久久| 午夜精品久久久久久久爽| 婷婷色色网| 五月天婷综合| 色播五月婷婷| 五月天色社区| 吉澤明步Av一區二區| 婷婷色香六月综合激情| 成人深爱丁香五月| 五月丁香啪啪啪免费看| 激情六月丁香综合| 综合激情网五月激情| 97人人看| 99久久网站| 日本精品干| 微拍92| 艳妇野外情欲放荡HD| 久9视频| 五月天.com| 色婷婷免费观看| 九九热精品视频在线观看| 婷婷色情六月| 激情五月五月婷婷| 九九大香蕉黄色影院| 色偷偷综合| 一级性爱视频| 久久精彩免费视频| 丁香色成人| 日日干日日| 97热这里只有精品| 五月天伊人综合| 玖玖爱综合网| 五月丁香香蕉| 青柠影视免费高清电视剧| 五月激情在线| 碰超亚洲| www.9797国产| 久久久这里都是精品| 99久热在线精品| 五月色亭丁香| 夜夜撸天天日| 五月丁香综合中文| 丁香五月成人社区| 99超超碰| 久久综合婷| 激情图片久久| 国产色丁香| 婷婷大美在线| 婷婷六月丁香五月| 色婷婷五月在线| 九九色色| 色情五月天导航| 女操碰| 久久久婷| 亚洲小视频| 99热在线观看| 亚洲成人综合在线| 青青久久91| 免费啪啪亚州视频| 777丁香六月青青草婷婷综合久月| 天天干天天操天天上| 亚洲热久久| 9热视频在线观看| 99久久综合网| 碰碰碰91| 婷婷日| 色色网五月激情| 97在线/亚洲| 日日日日日| 91精品综合久久久久久五月天| 中文字幕av在线| 五月婷伊人| 夜夜骑夜夜操| 亚洲深喉AV| 婷婷色在线视频| 婷婷丁香五月天欧美| 婷婷五月丁香手机在线视频| 激情小说五月天| 性爱五月婷| site:xiongshengzz.com| 激情五月天色婷婷综合| 亚洲六月色| 久久成人亚洲欧美电影| 五月亭亭六月色| Www.狠狠| 狠狠色综合五月人人| 黄色激情久久| 99热这里只有精品免费观看| 亚洲激情久久| a在线观看| 久久只有18视频| 亚洲精品色| 91视频久久久| 五月婷婷激情四月| 中文字幕无码人妻少妇免费视频| 五月丁香久久呀| 91视屏在线观看com.wwwvv| 七七色色综合| 久久婷婷原创视频| 一区二区三区四区五区| 在线视频你懂得| 99re视频在线精品| 亚洲精品色色色| 激情五月婷婷五月| 五月丁香福利| 激情五月天网站| 91人妻九色大屁股| 91操操操| 成 人片 黄 色 大 片| 六月激情婷婷| 久99久在线观看| 激情综合另类| 狠狠狠夜夜夜| 一起操最新网址| 激情五月亚洲综合网| 五月丁香色婷婷| 免费婷婷| 综合网色| 五月婷婷性爱| 99热这里只有精品免费| 色播五月丁香| 第四色五月天| WWW,五月天| 伊人婷婷五月天| 精典久久| 色99在线| 秋霞黄色一级久久| 91人妻PORNY九色大屁股| 日本色色色| 人妻中文在线| 丁香六月婷婷缴情欧美| 五月天激情婷婷| 色综合爽| 亚洲国产精品VA在线看黑人| 天天摸日日舔狠狠添婷婷婷| 婷婷五月激情黄色| 91色情播放| 婷婷五月天最新网址| 色永久| 天堂va久久久噜噜噜久久Va| 精品久久艹| 97操| 午夜丁香| 伊人久久婷婷五月天激情四射| 97碰碰碰免费公开在线视频| 欧美丁香五月天| 色九九中文字幕| 成人性爱无码| www.maotanji.com| 久综合网| 色99欧洲色19| 182TV大香蕉| 91丨九色丨国产打屁股| 日本在线免费中文com.| 天堂在线观看视频| 久久激情网| 色色色婷婷五月天| 国产日韩精品SUV| 婷婷五月深爱五月| 五月丁香无码| 成人免费120分钟啪啪| 婷婷丁香五月天在线| 五月亭亭色| 精品色| 开心五月深爱五月婷| 亚洲成人丁香花| 色五月五月天色婷婷色五月| 久久久久久天天日天天爱| 亚洲狠狠爱婷婷| 26uuu国产| 天天日天天做天天舔 | 亚洲一二三网| 婷婷伊人綜合中文字幕| 日本AAAAAAAAAAAAAA片| 婷婷伊人综合中文字幕| 成人无码精品1区2区3区免费看| 九九在线这里只有精品视频 | 丁香成人五月天| 天天综合情| 色99最新网址| 都市激情蜜桃婷婷五月天| 在线观看中文字幕| 色六月天天激情综合网| 久久人操-久草婷婷-成人AV| 99视频内射三四| 99热这里只有精品4| 色五月婷婷激情综合网| 婷婷自拍| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 第四色色六月色综合| 综合久久十| 九九99久久| 五月婷婷啪| 五月天合网| 综合色色综合| 激情综合在线观看| 五月丁六月婷| 亚洲精品乱码久久久久久按摩观| 69精品无码一区二区三区| 久久激情五月| 婷婷五月电影院| 丁香五月天在线| 久久综合网免费视频| 五月婷婷导航| 丝袜熟女一区二区三区| 国产毛片精品一区二区色欲黄A片| 99热只有这里有精品| 成人网站免费sxj| 九月丁香婷婷| 亲子乱AV一区二区三区下载| 奇米网大香蕉| a毛片二逼wwwwwwwwww| 男女啪啪做爰高潮无遮挡| 国产激情AV| 综合网啪| 激情综合五月婷婷| 能直接看的av网站| 99热日韩| 五月天婷婷中文字幕在线播放| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 青草少妇激情| 5月婷婷激情网| 五月久久亚洲| 三级成人网站| 色五月婷婷激情五月| 丁香六月婷婷缴情欧美| 亚洲综合99| 综合久久影院| 丁香九月久久| 日本啪啪网| 99亚洲视频| 色色综合激情| 五月天伊人综合| 天天操天天曰天天射| 婷五月天| 嫩草视频观看| 91操片| 欧美va视频| 六月婷婷激情| 久色视频在线| 狠狠擼综合| 天天操天天操天天操| 国产热精品| 亚洲综合婷婷| 日韩在线aaa| 99思思| 丁香婷婷视频在线| 4399亚洲视频| 激情五月影院| 国产午夜精品一区二区三区四区 | 新精品99| 国产性爱一级| www色五月| 人人操AV| 一起操最新网址| 色色丁香色五月| 操九色| 五月丁香网视频| 激情5月婷婷狠狠干| 婷婷狠狠五月综合| 六月婷婷五月天| www.婷婷亚洲基地| 国产乱妇无乱码大黄AA片| AV中文网| 久久综合伊人77777蜜臀| 中文字幕 码精品视频网站| 婷婷,五月天,丁香,第一| 亚洲综合视频一下| 亚洲天堂色色| 丁香六月啪| www.丁香黄色五月天人与| 97婷婷丁香五月天激情图片| 亚洲精品视频在线| 五月丁香青草综合啪啪| 色你久久| 日韩人妻AV在线| 97碰碰视频| 久热这里这里有精品| 久久免费婷婷视频| 五月丁香| 91伦| 日本色噜| 99热只有| 亚洲愉拍99热成人精品| 免费播放片大片| 国产裸舞福利资源在线视频| 中文AV网| 亚洲电影在线观看| 五月丁香亭亭操逼| 激情狠狠丁香月| 久久婷婷五月综合激情国产| 欧美色男人网站| AA久久| 婷婷五月天性| 亚洲综合在线视频| 另类图片五月激情| 婷婷丁香六月影视| 婷婷射综合| 婷婷综合仓库中文| 色婷婷五月影视| 无码操B| 亚洲欧洲中文日韩久久AV乱码| 97婷婷狠狠久久综合9色| 五月丁香六月欧美综合| 色婷婷色99国产综合精品| 67久久| 七七九九色色| 五月婷婷色情| av第一二区| 亚洲色欲AAAAAA| 五月天桃色深爱网| 六月婷久久| 精品久久久人妻| 激情文学综合婷婷五月天丁香花| 五月天激情四射| 丁香婷婷九月| 五月天婷婷涩涩| 丁香五月婷婷成人网| 丁香九月激情| 性爱综合网| 五月丁香好婷婷A片网| 热久91| 九九热在线视频,| 97福利视频| 97操碰| 婷婷丁香色情| 中文AV在线观看| 五月天婷婷在线播放| 大香伊人久色| 久久这里只有国产精品视频| 极品人妻VIDEOSSS人妻| 秋霞三级影视资源| 99热在线播放| 亚洲性图一区二区三区| 99热| 思思热99er在线视频| 五月婷婷开心网| 如何安全看伊人婷婷| 久久综合中文| 色欲av伊人久久大香线蕉影院| 99久久www| 99男人天堂| 丁香久久综合| 丁香婷婷五月天激情四射| 九九热99免费视频| 99色网站| 五月天.com| 婷婷六月丁香开心深深爱| 久青草影院| 99视频精品视频| 黄桃AV无码免费一区二区三区| 电影爱拉战争免费观看| 五月综合视频| 久久久99精品| 亚洲色区17| 色99在线| 精品久久99码| 9久热| 五月丁香在线国产| 色亭亭九月| 夜夜撸日日操| 婷婷在线精品| 粉嫩AV久久一区二区三区| 丁香六月婷婷色XXXX| 婷色综合| 综合激情在线视频| 丁香六月色香蕉视频| 成人国产欧美大片一区| 五月丁香做爱视频| 色婷婷狠狠久久YY| 五月丁香综合网| 五月天成人网婷婷| 性色综合网| 婷婷九月丁香| 狠狠搞综合色| 日本nghangse中文字幕| 婷婷月综合| 丁香五月婷婷性爱| 亚洲123区高清入口| 99热综合色图| 99er免费在线观看| 一区二区你懂的| 久久久大香蕉| 五月婷婷这里都是精品| 四色五月视频| 99人人干| 婷婷婷婷婷开心无码播放| 久久在这里99| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 天天摸天天舔天天天天爽| 成人在线视频网| 五月婷婷色在线| 婷婷久久精品| 色婷婷婷综合五月天| 久久中国毛毛片爱久久| 天天爽天天| 拳交大逼| 第四色五月激情网| 玖色色综合| www五月| 色综合天天| 欧洲激情五月天| aaa久久| 五月桃花网综合| 婷婷五月天堂| 色婷婷综合网站| 久热无码| 婷婷的色色五月天| AV片一区在线观看| 99热在线观看| 四月婷婷丁香五月| 丁香五月综合图片在线观看| 丁香五月综合激情啪啪| 亚洲一区二区色图-亚洲精品国产精品乱码-成人AV | 大香蕉综合视频在线| 婷婷五月花| 中文字幕色色| 天天做天天双| 久久九九综合| 色色色色区| 色啦啦视频| 日本人妻A片成人免费看片| 99久热| 婷婷五月天激情五月天| 亚洲日本激情| 九久9精品| 中文字幕亚洲-区久久99婷婷| 欧美私人家庭影院| 丁香五月婷婷网| 991国产精选视频在线播放下载| 丁香五月第四色88| 五月丁香婷婷AV天堂| 中文字幕在线免费观看视频| 91 九色 入口| 色婷婷色和| 老师高潮流白浆喷水的A片| 色噜噜婷婷| 婷婷丁香五月亚洲| 九色PORNY自拍成人精彩视频| www,99热| 亚洲成人va| 五月四色婷婷| www.色婷婷。com| 狠狠草天天草| www.婷婷网| 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | 天搞天天天天天| 亚洲成人影视在线观看| 亚洲成人无码网站| 天堂久久性| 婷婷综合在线播放| 欧美日韩成人高清在线| 五月婷婷日| 亚洲色综久久五月| 天天干,天天操,天天射| 9久久精品视频| 婷婷五月精品中文| 免费超碰在线| 色婷婷色综合激情91| 色婷亚洲五月丁香| a在线免费v| 4438激情网| 亚洲综合视频网| 超碰免费成人| 久久99免费视屏| 噜综合| xx综合网| 狠狠五月激情婷婷直播片| 日日操,夜夜撸| 丁香婷婷色| 五月丁香综合激情网| 五月天六月色| 久久婷婷啪啪视频| 99精彩视频| 一本大道嫩草AV无码专区| 四川BBB搡BBB搡多人乱亂| 亚洲V国产V欧美V久久久久久 | 婷婷五月天av网| 狠狠狠人妻| 中文字幕乱轮| 亚洲色夜| www超碰| 色五月亚洲| 综合久久六月| 91vip在线观看| 婷婷五月天激情文学小说| 五月天成人在线精品| 精品,99| 99啪啪网| 91操人| 久久五月热| 激情99热| 丁香桃色综合网| av操一操| 婷婷色在线| 精品香蕉99久久久久网站| 91九色在线观看免费| 五月婷婷六月天| 天天艹夜夜爽| 色五月婷婷在线| 99热这里只有精品9| 色五月天婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷 | 深爱激情九九五月天 | 99在线观看精品| 婷婷综合五月天激情| 久久精品亚洲一级牲爱综合| 91成人电影| 99精品视频在线观看| 视频久久9| 79亚洲精品少妇| 99热这里只有精品86| 五月天婷婷激情小说电影| 91色性感五月婷婷丁香| 丁香六月久久| 五月丁香婷婷俺| 色爱五月天| 欧美婷婷色五月网| 天天日夜夜B久久| 日韩啊啊啊| 最近中文字幕2019视频1| 很很色丁香久久停停| 99热欧| 中文字幕综合| 99热人人艹| 亚洲五月天,激情视频| 欧美日韩一区二区三区四区| 丁香五月天啪啪| 久色激情| 少妇人妻综合色6699| 色五月播五月| 欧美精品A片一区在线观看| 婷婷丁香五月天色区| 99激情网| 久久九九婷婷| 激情宗合网激情五月天| 日本欧美成人片AAAA| 色婷婷文字幕| 久草xx性爱视频| 久久久18| 日韩欧洲亚洲| 99热这里只有精品99| 九九亚洲天堂| 色欲婷婷夜夜| 亚洲精品国产成人AV在线| 五月天丁香花婷婷| 婷婷成人综合五月| 狠狠操狠狠| 色色五月婷| 五月丁香激情婷婷| 91AV视频| 思思精品热在线| 精品亚洲国产成AV人片传媒| 26uuu欧美日韩| 五月丁香无码| 丁香五月婷婷亚洲另类| 丁香五月无码| 婷婷五月丁香青青草在线| 婷婷五月天激情综合婷婷五月天激情综合| 91热久久| www..999热久| 五月婷婷九九热| 婷婷五月激情五月丁香五月| 九九色视频| 久久九九99视频| 涩涩婷婷五月| 成人做爰黄A片免费看直播室男男| 色婷五月婷婷| 婷婷五月天网| 亚洲热手机在线观看| 五月天激情国产综合婷婷| 久久99操| 天天干夜夜想| 丁香五月激情宗合网| 色欲色香综合网| 99精品在线观看| 激情欧美五月丁香| 9久热| 色噜噜狠狠色综无码久久合欧美| 色综合丁香| 丁香五月婷久久| 久久机热这里只有精品免费视频| 天天天天天天操| 免费成人va| 天天干一干| 九九视频精品在线免费| 97五月婷| 婷婷天天日婷婷| 婷婷色在线视频| 日日噜狠狠| 婷婷色色网| 热久久这里只有精品| 五月色情婷婷开心五月色情| chaopengdaxiangjiao| 人妻精品久久久久久| 九九热99在线视频| 亚洲碰碰碰| 91啪啪视频| 成AV人片一区二区三区久久| 五月丁香六月停停| 超碰99热在线观看| 国产免费一区二区三区三州老师F1F1.CC | 五月停停丁香| 婷婷色色欧美| 啪啪91| 蜜乳A√| 色情五月天导航| 91婷婷在线| 久久这有这里精品| 奇米色大香蕉| 国产在线黄色| 91热er| 久久ri精品视频| 香蕉国产2013| 一个色的综合| 99久久色| 九九在线精点品| 色噜噜在线| 婷婷激情人妻| 1000部毛片A片免费观看| http://www.sd-xiangsu.com/| 亚洲AV第二区国产精品| 婷婷色导航| 可似看的AV| 九九热黄色| 少妇高潮呻吟A片免费看软件| 天天狠天天叉| 五月婷婷伦理| 99热在线看| 色五月亚洲| 九九这里有精品| www.国产亚洲69ty.久久久久久久久久久久| 97伦乱| 色婷婷99| 天天综合亚洲| 天天爽天天爽天天爽天天爽天天爽天天爽天天 | 欧美日韩国产伦精品日韩人妻一| 欧美99| 这里只有精品视频| 6月丁香婷婷激情| 婷婷性爱视频在线| 欧美搡BBBBB摔BBBBB| 婷丁香五月天| 五月丁香在线国产 | 五月婷婷深深爱| 天天艹夜夜爽| 亚洲综合成人网| 强奸幻女毛片| 蜜桃成语时李时珍 免费| 九月色婷婷综合| 九九精品热播| 国产精品日本一区二区在线播放| 婷婷五月综合色拍| 五月婷婷综合潮喷| 天天日天天插天天操| 成人视频在线免费播放| 五月天婷婷婷| 丁香五月综合| 99久久99久久| 亚洲va欧洲va国产va不卡| bbwcuckold精品熟妇| 亚洲av日韩无码| 色综啪啪| 欧美性猛交99久久久久99按摩| 99超级碰免费视频| www.婷婷| 国产色色色色| 五月开心激情网| 婷婷丁香五月视频| 久99热| 激情久久久久久久久久久| 五月丁香A片| 婷婷五月丁香综合网| 内射爽无广熟女亚洲| 亚洲操b| 亲子乱AV一区二区三区下载| 狠狠草狠狠草| 久热这里只有精品视频免费观看| 天天干天天日日| 狠狠色婷婷7| 五月婷婷干干干| 97久久草草超级碰碰碰| 色蜜婷婷| 日韩美女羞羞网站在线观看| 亚洲 成人 电影av在线观看| 五月婷婷六月激情| 中文字幕在线免费看线人| 97人人草| www.婷婷| 五月天综合网| 少妇AB又爽又紧无码网站| AV电影在线播放| 婷婷在线视频| 久久久激情| wwwss在线观看| www.色五月| 久草热久草在线视频| 久久精品99国产精品日本| 精品人妻伦一二三区久久| 久久九九综合| 狠狠精品干练久久久无码中文字幕 | 欧美超碰亚洲| 超碰人人操人人9| 99热精品超碰| 婷婷欧美激情| www.色综合.com| 九九蜜臀精品| 国内久久婷婷| 婷婷五月在线| 五月天激情网址| 97碰久久| 丁香婷婷激情综合五月激情| 激情综合网五月在线播放| 涩涩涩,com| 五月丁香婷色| 婷婷五月天亚洲综合| 亚洲第79页| 久久最新色| 天天日,天天插| 亚洲精品又粗又大又爽A片| 成人.在线日韩| 狠狠色噜噜狠狠亚洲A∨| 免费播放片大片| 丁香色五月直播| 五月丁香亚洲五月| 综合色色色色色色| 亚洲激情综| 99热成人| 色综合99无码| 日熟女| 2014天天爽| 色婷婷五月综合网| 婷婷99狠狠| 天天爱天天操| 五月婷婷很很色| 欧美伊人9| 婷婷丁香色五月亚洲| 影音先锋 婷婷| 国产欧美va| www婷婷| 午夜在线成人网站免费观看| 久久99综合网| 亚洲色五月天是什么| 香蕉AV777XXX色综合一区| 久婷婷婷| 一本大道伊人AV久久综合| 婷婷六月色情| 日日噜狠狠色综| 婷婷五月天日本无码| 激情四射网| AA片在线观看视频在线播放| 综合超碰熟| 婷婷,五月天,丁香,第一| 亚洲激情网站| 99久久久| Www.久久| 99视频这里只有免费精品| 久久色这里只有精品| 依人大香蕉| 久久免费干| 99re思思| 天天澡天天狠天天天做| 91久久久久久| 色婷婷影| 另类小说五月天综合网| 亚洲操逼片| 嘿嘿视频免费看9| 99热乎| 丁香婷婷激情五月天无毒不卡蜜桃| 97精品综合| 五月丁香激| 欧美成人精品老美女噜噜噜| 色五月在线播放| 成人短视频免费| www.狠狠色.com| 亚洲综合婷婷| 在线综合91| 全国最新疫情| 97在线视频观看| 超级碰碰碰碰视频| 丁香六月天婷婷开心综合| 日狠狠| 国产成人高清| http://www.sd-xiangsu.com/| 丁香婷婷久久 | 99在线观看| 婷婷五月六月丁香| 亚洲黄色网址| 色色啊| 91久久婷婷| 超碰爱爱爱| 五月天婷婷视频| 九九热视频精品999| 色色色综合视频| 久久五月婷| 天天综合网~91综合网| 99在线精品免费视频| 五月婷三级片| 激情的五月| 婷婷操逼| 性爱动图国产麻豆一区二区三区| 影音先锋91| 无码A片一区二区免费| 99性爱视频网站| 五月久久综合| 久久五月丁香综合17C| 久久五月天婷婷| 国产伦理精品高清在线观看网站一区二区| 亚洲免费av在线| 国产亚洲色婷婷久久99精品91 www.riverspirits.org www.hnnun.com www.changh | 五月婷婷色丁香| 任你草| 婷婷五月丁香六月伊人网| 婷婷色五月天在线观看| 999婷婷综合| 亚洲无码播放| 大香蕉久久久久| 99热播放| 亚洲美女高潮久久久久久69| 五夜丁香| 婷色五月天| 婷婷色婷婷| 丁香五月婷婷色| 天天综合网站| 电影《战争与艾拉》免费观看| 天天爽天天| 亚洲性爱99在线| 玖玖九九超碰|