99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

從模糊代號到運行系統(tǒng):自研輕量資源監(jiān)控工具rea的完整實踐

從模糊代號到運行系統(tǒng):自研輕量資源監(jiān)控工具rea的完整實踐 很多朋友看到rea這個標(biāo)題時大概率會以為打錯了字或者覺得這是某個庫的縮寫。我要先坦白一件事——它最初真沒有什么標(biāo)準(zhǔn)全稱只是某天我在終端里隨手敲的三個字母用來命名一個空目錄。后來這個目錄慢慢長成了一個完整的資源效率分析工具Resource Efficiency Analyzer內(nèi)部代號縮寫就是rea專門負(fù)責(zé)采集服務(wù)器的CPU、內(nèi)存、磁盤與網(wǎng)絡(luò)指標(biāo)再把這些數(shù)據(jù)整理成實時看板幫我從被動救火式運維變成主動觀察式管理。這篇文章就把一個模糊標(biāo)題如何變成一個可運行系統(tǒng)的完整過程寫出來適合手里有個想法、但還沒想清楚架構(gòu)的開發(fā)者參考也適合那些想自建一套輕量監(jiān)控體系、又不想直接套用重型全家桶的朋友。1. 先給 rea 一個定義從模糊代號到明確需求1.1 代號背后的真實需求別再讓服務(wù)器走在下線邊緣見過凌晨兩點的告警郵件嗎說的不是那種CPU 忽高忽低再觀察一下的假警報而是磁盤使用率沖到 98%數(shù)據(jù)庫進(jìn)程直接崩掉然后你在睡夢中被電話叫起來瞇著眼睛查哪張表把空間吃光了。我經(jīng)歷過幾次這種場景之后決定不能再靠感覺運維了。我需要一個工具能持續(xù)地告訴我每一臺機器的資源消耗長什么樣不是事后翻日志而是事前能看到趨勢。rea 的第一個需求就這么定下來了采集多臺服務(wù)器的系統(tǒng)資源指標(biāo)存入數(shù)據(jù)庫用圖表展示歷史趨勢。聽起來很簡單但里面藏了幾個硬約束。一是采集不能太影響業(yè)務(wù)agent 本身要輕二是數(shù)據(jù)量會持續(xù)增長存儲和查詢得接得住三是展示要讓人能快速定位問題不能打開看板還要等十幾秒。給項目起代號的時候我壓根沒花心思。rea 就是 resource efficiency analyzer 的縮寫順手打的也沒打算對外發(fā)布。但正式動手前我給自己寫了一段項目說明用最低的運維成本記錄基礎(chǔ)設(shè)施的資源水位讓趨勢可見、異??刹椤_@段話后來幫我擋掉了不少需求膨脹的沖動誰再說順便加個 XX 功能我就把這段話翻出來給他看。1.2 誰是它的目標(biāo)用戶我為什么不做成通用監(jiān)控平臺市面上的監(jiān)控平臺很多從老牌開源方案到商業(yè)全家桶隨便挑一個都能用。但我做 rea目標(biāo)用戶從一開始就只有兩類一個是我自己另一個是和我類似的小團(tuán)隊——機器數(shù)量在 5 到 30 臺之間沒有專職運維預(yù)算有限又不想為了看幾個指標(biāo)把整套重型框架搬回家。自研的邊界一定要劃清楚。我不追求覆蓋所有監(jiān)控場景也不打算做高可用集群。rea 要解決的是 80% 的常見問題機器負(fù)載有沒有異常、內(nèi)存是不是長期吃緊、磁盤大概還有多少天會被寫滿、網(wǎng)絡(luò)流量是不是有突發(fā)。至于分布式鏈路追蹤、日志檢索、APM 這類能力那是另外的戰(zhàn)場硬塞進(jìn)來只會讓項目失焦。而且自建這條路有個隱形好處整個系統(tǒng)從采集到展示都是自己寫的每個環(huán)節(jié)都清楚出了問題不會像黑盒一樣無從下手。公司里如果買了商業(yè)產(chǎn)品排障時只能提工單用開源方案遇到不滿足的場景得讀源碼改插件。而 rea 是我自己的我想讓它支持什么業(yè)務(wù)指標(biāo)直接加一個字段就行這種掌控感用錢買不到。2. 技術(shù)方案怎么定三層結(jié)構(gòu)是小項目的保命符2.1 為什么第一反應(yīng)不是全家桶監(jiān)控系統(tǒng)有現(xiàn)成的開源監(jiān)控組合可用為什么要自己寫這個問題我在動手前認(rèn)真回答過自己。最直接的原因是學(xué)習(xí)成本。全家桶方案確實強大但它的學(xué)習(xí)曲線很陡配置項非常多默認(rèn)參數(shù)不一定適合你的場景踩坑時要在告警規(guī)則、服務(wù)發(fā)現(xiàn)、模板變量之間來回排查。我見過不少團(tuán)隊把監(jiān)控系統(tǒng)裝起來了結(jié)果沒人會配告警閾值最后變成一個昂貴的圖表庫。另一個原因是業(yè)務(wù)指標(biāo)接入的靈活性。系統(tǒng)監(jiān)控指標(biāo)可以用現(xiàn)成方案采集但業(yè)務(wù)指標(biāo)比如某個核心接口的響應(yīng)時間、某條消息隊列的積壓數(shù)量、今天新增的訂單量這些需要業(yè)務(wù)代碼主動上報。與其在自研系統(tǒng)之外再接一套上報通道不如把 rea 做成一個通用的指標(biāo)接收器無論是系統(tǒng)數(shù)據(jù)還是業(yè)務(wù)數(shù)據(jù)只要按約定格式推過來就能落庫、查詢、展示。當(dāng)然現(xiàn)成方案也有它的價值。我并沒有完全否定它只是在 rea 這個特定項目里我希望它足夠輕、足夠可控。如果哪天機器規(guī)模漲到上百臺需要服務(wù)發(fā)現(xiàn)、自動告警、多租戶隔離這些能力到時候再評估遷移也不遲。先解決眼前的問題不為了未來可能的規(guī)模提前背上復(fù)雜度的包袱。2.2 前后端與存儲選型的一個參考組合rea 的技術(shù)棧沒有用花哨的新框架全是經(jīng)得起時間考驗的組合。前端選了 Vue3 加 TypeScript用 Vite 做構(gòu)建工具圖表庫用 ECharts。后端用 Python 的 FastAPI接口寫起來快性能也夠用。存儲這塊是重頭戲選的是 TimescaleDB跑在 PostgreSQL 之上既保留關(guān)系數(shù)據(jù)庫的熟悉感又針對時序數(shù)據(jù)做了專門優(yōu)化。選擇依據(jù)其實很務(wù)實環(huán)節(jié)選型核心理由前端框架Vue3 TypeScript Vite組件化清晰類型安全開發(fā)效率高圖表庫ECharts折線圖、面積圖開箱即用大數(shù)據(jù)量渲染有內(nèi)置優(yōu)化后端框架Python FastAPI異步支持好自動生成接口文檔開發(fā)速度快數(shù)據(jù)存儲TimescaleDB原生支持時序表分區(qū)壓縮率高SQL 查詢降低成本部署方式Docker Compose Nginx一套命令拉起全部依賴適合小規(guī)模場景為什么不用 MySQL 或者 MongoDBMySQL 存時序數(shù)據(jù)不是不行但數(shù)據(jù)量上來后按時間范圍刪除舊數(shù)據(jù)、按時間窗口聚合這些操作都會變得別扭。MongoDB 文檔模型靈活但聚合查詢寫起來不如 SQL 直觀而且對時間序列的壓縮能力幾乎沒有。TimescaleDB 本質(zhì)上還是 SQL我可以用熟悉的 JOIN 和 GROUP BY同時獲得自動分區(qū)和壓縮帶來的性能紅利這是它最打動我的地方。2.3 一次架構(gòu)的簡化-膨脹-再簡化很多個人項目死在想得太多上rea 也不例外。最初畫架構(gòu)圖的時候我列了一堆組件消息隊列緩沖采集流量流處理引擎做實時聚合NoSQL 存原始數(shù)據(jù)寬表存聚合數(shù)據(jù)再配一套 Redis 做緩存前端還要考慮 WebSocket 推送。畫完之后自己看著都害怕這哪是個人工具這是照著大型互聯(lián)網(wǎng)公司的基礎(chǔ)設(shè)施在搭。后來我做了個減法把架構(gòu)壓縮成三條鏈路采集器定時把指標(biāo) POST 到后端接口后端寫入數(shù)據(jù)庫前端通過查詢接口取數(shù)繪圖。中間的消息隊列和流處理全部去掉理由是數(shù)據(jù)量沒有大到需要異步削峰的程度一臺采集器 10 秒上報一次20 臺機器也就每秒兩條請求FastAPI 處理這點請求綽綽有余。這個砍需求的過程讓我學(xué)到一點小項目最值錢的優(yōu)勢就是簡單任何你覺得以后可能用得上的組件都先記在文檔里而不是裝進(jìn)代碼里。真到了需要消息隊列的那天再把它加進(jìn)來而不是一開始就為想象中的人流量修一條十車道的高速公路。3. 核心鏈路落地采集、寫入、查詢、展示一個都不能少3.1 數(shù)據(jù)表設(shè)計時序數(shù)據(jù)的第一課rea 落地的第一個關(guān)鍵環(huán)節(jié)是數(shù)據(jù)庫表結(jié)構(gòu)。時序數(shù)據(jù)的特點是寫多讀少、數(shù)據(jù)只追加、舊數(shù)據(jù)需要定期清理所以表結(jié)構(gòu)不能照搬普通業(yè)務(wù)表。我建的第一張表是主機資源指標(biāo)表核心字段包括采集時間、主機名、CPU 使用率、內(nèi)存使用率、磁盤使用率、網(wǎng)絡(luò)流入量、網(wǎng)絡(luò)流出量以及一個 JSONB 類型的擴展字段。建表語句如下CREATE TABLE host_metrics ( time TIMESTAMPTZ NOT NULL, host TEXT NOT NULL, cpu_usage DOUBLE PRECISION, mem_usage DOUBLE PRECISION, disk_usage DOUBLE PRECISION, net_in BIGINT, net_out BIGINT, tags JSONB DEFAULT {} ); SELECT create_hypertable(host_metrics, by_range, time);這里有幾個設(shè)計細(xì)節(jié)值得展開說一下。第一個是為什么用TIMESTAMPTZ而不是TIMESTAMP。時序數(shù)據(jù)最怕時區(qū)混亂如果用不帶時區(qū)的TIMESTAMP采集器從不同時區(qū)的機器上報數(shù)據(jù)時時間軸會錯位。統(tǒng)一用帶時區(qū)的類型所有時間都按 UTC 存儲展示層再按用戶時區(qū)轉(zhuǎn)換這是最不容易出錯的方案。第二個是為什么保留一個tags字段。單臺機器的指標(biāo)字段是固定的但業(yè)務(wù)上可能想給不同機器打標(biāo)簽比如區(qū)分線上環(huán)境、測試環(huán)境或者標(biāo)注機器所屬的可用區(qū)。把這些維度塞進(jìn)單獨的列會很死板放在 JSONB 里就靈活多了查詢時用tags-env就能做過濾。第三個是為什么time和host不加聯(lián)合主鍵。剛開始我也習(xí)慣性地想加后來實測發(fā)現(xiàn)唯一約束會嚴(yán)重拖慢寫入速度時序數(shù)據(jù)本身就帶有時間戳這個天然標(biāo)識重復(fù)數(shù)據(jù)靠應(yīng)用層去重就夠了數(shù)據(jù)庫層的唯一性約束在這里性價比很低。3.2 寫一個不添亂的采集器采集器是 rea 的神經(jīng)末梢它要足夠輕不能給被監(jiān)控的機器添亂。我用 Python 的 psutil 庫實現(xiàn)資源采集這個庫的優(yōu)勢是跨平臺、接口穩(wěn)定、文檔全Linux 和 Windows 都能跑對個人項目來說覆蓋面足夠了。核心采集邏輯比較直接import socket import time import requests import psutil INTERVAL 10 ENDPOINT http://rea-server:8080/api/metrics def collect_once(): return { host: socket.gethostname(), cpu_usage: psutil.cpu_percent(interval1), mem_usage: psutil.virtual_memory().percent, disk_usage: psutil.disk_usage(/).percent, net_in: psutil.net_io_counters().bytes_recv, net_out: psutil.net_io_counters().bytes_sent, ts: int(time.time()) } while True: try: data collect_once() requests.post(ENDPOINT, jsondata, timeout3) except Exception as exc: log_to_file(freport failed: {exc}) time.sleep(INTERVAL)代碼看著簡單但有幾個細(xì)節(jié)如果處理不好后續(xù)會相當(dāng)難受。第一個是cpu_percent的interval參數(shù)。psutil.cpu_percent(interval0)是絕大多數(shù)初學(xué)者的寫法結(jié)果往往返回 0因為第一次調(diào)用沒有歷史采樣數(shù)據(jù)。代碼里傳interval1含義是阻塞 1 秒、計算這 1 秒內(nèi)的平均使用率這樣第一次拿到的值就是可信的。當(dāng)然這 1 秒阻塞是可以接受的畢竟采集頻率本來就不高。第二個是網(wǎng)絡(luò)流量讀的是累積值而不是速率。bytes_recv和bytes_sent是從開機以來的累計字節(jié)數(shù)存到數(shù)據(jù)庫里之后繪圖時要用當(dāng)前值減去上一時刻值再除以時間間隔才能得到平均速率。我可以選擇在采集器里先把速率算好也可以把累積值存下來交給查詢端計算。我選了后者理由是想保留最原始的計數(shù)這樣即使后來想調(diào)整時間窗口也能靈活重算。第三個是采集器不需要花哨的并發(fā)能力單線程循環(huán)加異常隔離就足夠了。上傳失敗不能影響采集日志要寫到文件而不是控制臺不然服務(wù)跑起來之后根本看不到報錯。啟動之后先用一次cpu_percent(None)做預(yù)熱避免第一次上報的數(shù)據(jù)點失真這也是容易忽略的小坑。3.3 服務(wù)端接口別讓單條寫入拖垮寫入性能后端接口是整個鏈路的中轉(zhuǎn)站它要同時面對兩個問題來自多臺采集器的持續(xù)寫入請求以及來自前端的時間范圍查詢請求。寫入接口的寫法一定要考慮批量處理。最直觀的做法是每收到一條數(shù)據(jù)就 INSERT 一條但這樣做數(shù)據(jù)庫壓力會大連接頻繁開關(guān)TPS 一口就被壓死了。我采用的方案是內(nèi)存隊列加定時 flush。接口收到指標(biāo)后先把數(shù)據(jù)放進(jìn)一個線程安全的隊列后臺任務(wù)每隔 5 秒或者隊列累積到 500 條時統(tǒng)一執(zhí)行批量插入。這樣數(shù)據(jù)庫每次操作面對的是一批數(shù)據(jù)寫入吞吐量能差出一個數(shù)量級。下面是簡化后的核心結(jié)構(gòu)import asyncio import asyncpg from fastapi import FastAPI app FastAPI() _batch [] async def flush_batch(): if not _batch: return records _batch[:] _batch.clear() async with pool.acquire() as conn: await conn.executemany( INSERT INTO host_metrics (time, host, cpu_usage, mem_usage, disk_usage, net_in, net_out, tags) VALUES ($1, $2, $3, $4, $5, $6, $7, $8) , records ) app.post(/api/metrics) async def receive_metrics(item: MetricItem): _batch.append(( datetime.fromtimestamp(item.ts, tztimezone.utc), item.host, item.cpu_usage, item.mem_usage, item.disk_usage, item.net_in, item.net_out, json.dumps(item.tags) )) if len(_batch) 500: await flush_batch() return {status: ok}這個設(shè)計的關(guān)鍵不只是批量還包括失敗重試和容量控制。如果后臺 flush 任務(wù)拋異常不能把隊列里已有的數(shù)據(jù)丟掉要記錄日志并保留備份否則會出現(xiàn)看板缺數(shù)據(jù)的詭異現(xiàn)象。隊列本身也需要一個上限比如最大 5000 條超過上限的請求先返回錯誤而不是無限堆積內(nèi)存否則采集器一旦異常大量上報后端的進(jìn)程內(nèi)存會被撐爆這時候反而需要采集端主動降頻。3.4 查詢與前端看板如何讓頁面不卡數(shù)據(jù)寫進(jìn)去之后查詢接口要能支持時間范圍、主機過濾、指標(biāo)選擇這些常見條件。最關(guān)鍵的一個優(yōu)化是降采樣。一張時序表里如果存了數(shù)十萬條數(shù)據(jù)前端小屏幕根本畫不下強行渲染只會讓頁面卡死。SQL 層用time_bucket函數(shù)把秒級數(shù)據(jù)聚合成分鐘級或小時級數(shù)據(jù)曲線既平滑又輕量這才是正確姿勢。一個典型的趨勢查詢是這樣的SELECT time_bucket(1 minute, time) AS bucket, host, avg(cpu_usage) AS cpu_avg, max(cpu_usage) AS cpu_max FROM host_metrics WHERE host $1 AND time $2 AND time $3 GROUP BY bucket, host ORDER BY bucket;前端看圖只關(guān)心大體趨勢分鐘級均值足夠用了。如果用戶想看某個瞬間的精確值再加一個下鉆接口返回原始明細(xì)數(shù)據(jù)這樣的兩級策略兼顧體驗和性能。前端看板用的是 Vue3 加 ECharts。整體布局分三塊頂部是時間范圍選擇器左側(cè)是主機列表中間是多個指標(biāo)折線圖。主機列表支持多選選中的每臺機器用不同顏色區(qū)分時間范圍改變后所有圖表聯(lián)動刷新。實現(xiàn)聯(lián)動時有一個并發(fā)問題要注意多個請求同時發(fā)出返回順序可能不一致后返回的舊數(shù)據(jù)不能覆蓋新數(shù)據(jù)。我用請求序號做了一層校驗只渲染最后一次發(fā)起的請求結(jié)果這個細(xì)節(jié)花了我一晚上才定位到。4. 部署細(xì)節(jié)與踩坑實錄rea 從本機跑到服務(wù)器的過程4.1 Docker Compose 一鍵拉起整套環(huán)境rea 的部署目標(biāo)是一臺 2C4G 的云服務(wù)器所有組件用 Docker Compose 管理。這個選擇意味著環(huán)境依賴被全部封進(jìn)容器換機器、重新部署都很從容不用在一臺新服務(wù)器上手動裝 Python、Node、PostgreSQL也避免版本不一致的問題。docker-compose.yml 的骨架如下version: 3.8 services: timescaledb: image: timescale/timescaledb:latest-pg16 environment: POSTGRES_PASSWORD: rea_db_pass POSTGRES_DB: rea volumes: - rea_db_data:/var/lib/postgresql/data ports: - 5432:5432 rea-server: build: ./server environment: DATABASE_URL: postgresql://postgres:rea_db_passtimescaledb:5432/rea depends_on: - timescaledb ports: - 8080:8080 rea-web: build: ./web ports: - 80:80 depends_on: - rea-server volumes: rea_db_data:容器化部署里有幾個容易踩的點。第一個是數(shù)據(jù)庫數(shù)據(jù)卷必須單獨掛載否則容器一刪數(shù)據(jù)全沒。第二個是容器之間通信用服務(wù)名而不是 IP因為每次重建容器 IP 都可能變而timescaledb這個服務(wù)名在 Compose 網(wǎng)絡(luò)內(nèi)是穩(wěn)定的。第三個是整個鏈路的前端與后端分離部署前端服務(wù)不僅負(fù)責(zé)提供靜態(tài)頁面還要用 Nginx 反向代理后端接口這樣頁面里的請求地址可以統(tǒng)一寫相對路徑避免瀏覽器跨域問題。4.2 我踩過的四個坑每一個都是性能殺手rea 從能跑變成好跑的過程中我踩了不少坑撿四個印象最深的分享出來。第一個是唯一約束拖垮寫入性能。開始建表時我習(xí)慣性地加了PRIMARY KEY (host, time)想著防止重復(fù)數(shù)據(jù)結(jié)果寫入一壓測TPS 只有幾百完全不是 TimescaleDB 該有的水平。去掉唯一約束之后寫入吞吐直接翻了幾倍。時序場景下重復(fù)數(shù)據(jù)很少偶爾重復(fù)也可以容忍數(shù)據(jù)庫不應(yīng)為不可能發(fā)生的情況買單。第二個是時區(qū)混亂導(dǎo)致曲線偏移八小時。采集器上報的是 UTC 時間前端 ECharts 默認(rèn)按瀏覽器本地時間格式化看起來所有曲線都平移了一段。折騰了半天才發(fā)現(xiàn)是時區(qū)問題?,F(xiàn)在我的原則是通信全程用時間戳展示層轉(zhuǎn)成用戶本地時間數(shù)據(jù)庫里統(tǒng)一存 UTC三層各管一段絕不混用。第三個是cpu_percent首次調(diào)用返回 0。這個問題說起來有點可笑但新手真的會碰到。psutil 的 CPU 使用率計算依賴前后兩次調(diào)用之間的差值第一次調(diào)用沒有基準(zhǔn)直接返回 0。在采集器啟動后先做一次預(yù)熱調(diào)用問題就消失了。第四個是前端圖表一次性拉全量數(shù)據(jù)導(dǎo)致瀏覽器崩潰。最初我沒做降采樣一次查 7 天秒級數(shù)據(jù)幾萬甚至十幾萬個點ECharts 直接卡成幻燈片。后來改成time_bucket降采樣加 ECharts 自帶的sampling: lttb圖表不卡了加載速度也快了。在數(shù)據(jù)可視化里聰明地丟棄細(xì)節(jié)比死磕完整性重要得多。4.3 常見問題速查表把日常運行中出現(xiàn)過的問題整理成一張速查表方便自己排查也方便后來者現(xiàn)象可能原因處理方式看板長時間沒有新數(shù)據(jù)采集器進(jìn)程掛了或網(wǎng)絡(luò)不通檢查采集器日志telnet 測試接口連通性數(shù)據(jù)庫磁盤快速增長保留策略未配置舊數(shù)據(jù)無限堆積添加定時任務(wù)刪除超期數(shù)據(jù)圖表曲線出現(xiàn)缺口批量寫入失敗且無重試檢查后端日志確認(rèn) flush 隊列是否丟失數(shù)據(jù)跨天數(shù)據(jù)時間軸錯亂采集端時區(qū)與數(shù)據(jù)庫不一致統(tǒng)一用 UTC 時間戳展示層再做時區(qū)轉(zhuǎn)換多臺機器曲線顏色重復(fù)前端只按主機名取色主機名過短改用主機列表的索引作為顏色區(qū)分依據(jù)查詢接口響應(yīng)越來越慢沒有按時間范圍建立索引確保time列有索引查詢盡量帶時間下推條件5. 給 rea 留出的后路從監(jiān)控工具變成分析平臺5.1 告警、預(yù)測、權(quán)限優(yōu)先級怎么排rea 目前已經(jīng)能穩(wěn)定采集和展示了接下來要擴展的方向按優(yōu)先級排告警第一預(yù)測第二權(quán)限第三。告警最好做因為數(shù)據(jù)已經(jīng)有了只需要在后端加一個定時檢查任務(wù)對最近一分鐘的指標(biāo)做閾值判斷觸發(fā)條件時把消息推到通知渠道。這個功能能極大降低人肉盯看板的頻率算是對自由時間的解放。預(yù)測功能更有意思也更能體現(xiàn)數(shù)據(jù)分析的價值。比如磁盤使用率可以根據(jù)過去三十天的增長趨勢做線性擬合估算出按當(dāng)前速度還能用幾天。這種預(yù)測不需要復(fù)雜的機器學(xué)習(xí)模型最小二乘法就夠了但它的提醒效果比生硬的閾值告警好得多讓人有充分的緩沖時間去清理或擴容。權(quán)限這塊暫時不急因為目前只有我自己在看。但如果未來某個團(tuán)隊要用多用戶體系就必須考慮了。我的思路是在 API 層面加一層 Token 鑒權(quán)前端每個請求帶上身份標(biāo)識后端按用戶維度限制可見的主機范圍。暫時不需要引入完整的關(guān)系權(quán)限模型保持簡單等需求真的來了再細(xì)化。5.2 業(yè)務(wù)指標(biāo)接入后看板才真正有生命力系統(tǒng)資源指標(biāo)只能告訴你基礎(chǔ)設(shè)施健不健康但業(yè)務(wù)指標(biāo)才是決定要不要立刻起床的關(guān)鍵。rea 的上報接口是通用的這意味著業(yè)務(wù)代碼可以把關(guān)鍵指標(biāo)直接 POST 進(jìn)來和系統(tǒng)指標(biāo)存在同一張鏈路里看板就能把業(yè)務(wù)異常和資源異常對照著看。比如某個核心服務(wù)響應(yīng)時間突然上漲很可能是部署機器 CPU 被打滿導(dǎo)致的。只看業(yè)務(wù)指標(biāo)你只知道慢了只看 CPU 指標(biāo)你不知道它影響到什么。兩個維度疊加在一個時間軸上看因果關(guān)系就清晰多了。我的做法是給業(yè)務(wù)指標(biāo)加一個metric_type標(biāo)識字段系統(tǒng)指標(biāo)使用system業(yè)務(wù)指標(biāo)使用business查詢時既可以在同一張圖上疊加展示也可以按類型分開過濾。我在實際使用中還有一個體會是自研監(jiān)控最有價值的點不是省掉了采購成本而是在這個過程中建立的數(shù)據(jù)第一的觀念。當(dāng)你連續(xù)觀察了一段時間的曲線之后你會開始相信數(shù)據(jù)而不是直覺。以前我總覺得機器快不行了打開看板一看流量平穩(wěn)心里就踏實了有時候我感覺一切正常但曲線顯示內(nèi)存緩緩爬升反而能提前發(fā)現(xiàn)隱患。這種感覺用任何人都給你裝不上的監(jiān)控配方也換不來。最后再分享一個小技巧如果你也想做類似的項目名字叫什么并不重要哪怕像我一樣隨手敲三個字母也行。重要的是從第一天開始就把數(shù)據(jù)模型當(dāng)成地基來打采集頻率、存儲格式、時間精度這些基礎(chǔ)決策一旦定了后面很難改改一次就牽一發(fā)動全身。先把地基打穩(wěn)再慢慢加樓層。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
丁香操逼| 亚洲视频在线观看99| 五月天俺去也| 狠狠丁香| 99re免费视频| 五月网站| 五月天播播| 79色色免费| 五月婷av| 综合久久十| 五月婷婷色影院| 深爱激情四射| 99色热| 久久婷婷超碰| 日本一级一级一级一级| www色色com| 婷婷五月天在婷| 一本久道综合99| 少妇人妻人伦A片| 色色射| 五月天婷婷激情网| 五月婷婷丁香大陆免费| 久久国产高清| 久久九九囯产| 日本色超碰| 色玖玖| 国产精品天天狠天天看| 99热91| 性99网站| 五月婷导航| 婷婷五月天在线看| 華人性愛AV在線| 91丨九色丨熟女丰满| 鲁鲁色五月| 91精品久久久久久| 久久新地址| 丁香五月激情啪啪| 五月丁香人妻| se99视频| 亚洲色优| 狠狠干婷婷| 婷婷激情五月天激情在线| 欧美天天搞| 色婷婷中文| 婷婷五月天色色| 久9久9热久热| 五月丁香六月激情欧美综合| 五月婷婷六月丁香| www99热| 国产.亚洲.欧洲视频在线| 99精品视频在线| 婷婷六月丁香激情| 丁香五月天人体| 99操| 久久香蕉婷婷五月天| 丁香五月大香蕉| 五月 激情视频| 97资源碰碰在线| 另类激情五月| 狠狠操综合| 丁香六月激情国产| 婷婷五月激情图片| www色婷婷| 五月天激情丁香| 91丨九色丨东北熟女| 欧美三级欧美一级| 国产人妻777人伦精品HD| 亚洲中文字幕av| 99热久| 在线天堂9| 五月综合视频| 99视频这里有精品| 99热在线中出| 国产免费一区二区三区三州老师F1F1.CC| 丁香婷婷老司机久操| 一区中文字幕电影| 亚洲欧洲另类| 五月丁香色婷婷熟女| 蜜乳中文字| 人人摸人人摸| 双性美人被调教到喷水A片| 色情综合| 9l视频自拍九色9l黑人| 中美日韩成人在线| 激情综合五月色丁香婷婷| 婷婷六月五月| 9+1视频网址| 日韩人妻AV在线| 97操资源婷婷| 亚洲啪视频| 天天色综合色色色色色。| 五月丁香在线婷婷蜜桃| 欧洲不卡视频| 精品综合网在线| 9 9 9色色| 日本久久婷婷| 五月婷婷在线综合| 99色色网| 99久久久久久| 五月花丁香婷婷| 婷婷在线播放| 《亚洲操B久久免费在线观看,亚洲操B久久在线播放》在线播放 - 高清资源 - 97 | 亚洲成人综合在线| 九九热思思| 五月香婷婷| 少妇伦子伦精品无吗| 色播色丁香五月| 亚洲综合另类| 五月激激激情综合网| 爽极品色| 久久九九re热| 丁香五月日本| 爱射综合| 丁香六月开心| 99亚洲视频| 国产又粗又大又爽又黄| 婷婷五月色情天| 婷婷激情欧美| WWW.桔色成人.COM| 天天爽天天爽天天爽天天爽天天爽| 丁香五月色情| 婷婷五月激情中文字幕| 婷婷六月激情| 久久伦乱| 一区二区乱码视频| 丁香综合婷婷五月天| 色色色热| 激情深爱综合| 精品久久99码| 久久99精品九九久久久婷婷| 丁香九月综合激情| 精品人妻在线| 超碰a女人的天堂| 婷婷五月天丁香久久| 日本色婷婷久久99精品91| 久久网日本| 天堂va久久久噜噜噜久久Va| 就爱射中文字幕资源网| 一本色道久久综合狠狠躁一二三| 激情五月天无码| 97九色视频| 91成人看| 色婷婷先锋| 99精品综合在线| 成人超碰AV| 日日噜噜夜夜狠狠久久丁香六月| av色婷婷| 欧美成人A片AAA片在线播放 | 婷婷伊人五月| 思思re最新视频| 五月天天天操天天爽夜夜操| 狠狠操综合| 日本色色图| 日韩成人综合| 俺也高清无码高清视频| 丁香花婷婷五月天| 99riAV国产精品视频| 色色五月综合| 超碰97干| WWW色五月天| 天天插天天插天天插天天插| 综合激情五月丁香9999久久精| 丁香九月久久| 色综合色综合婷婷热| 激情五月天啪啪| 五月婷九九草| 日本99视频| 任你爽视频| 久久婷综合| 婷婷激情五月| 江苏少妇性BBB搡BBB爽爽爽 | 狠狠se| 丁香五月综合在线观看| 日韩黄色AV无码| 婷婷五月激情小说| 看婷婷五月天网| 久久免片| 六月狠狠综合| 97色久| 伊人激情影院| 久久婷婷在线| 98色花堂98t.R| 久久资源网五月婷| 五月天欧美 另类小说| 热热色色五月天婷婷| 国产精品美女久久久久AV超清| 中文精品久久久久人妻不| 九九性视频| 国产日日夜夜操| 精品99*| 天天操天天操天天操天天操天天操天天操天天操天天操天天操 | 精品9197碰| 婷婷色丁香五月| 伊人激情综合| 四色永久成人网站| 日本在线噜噜| 99热国品免费| 超碰国产在线观看| 99热99艹在线观看| 九九操操| 色婷婷www| 精品激情| 无码一级片| 五月婷婷中文字幕| 欧美成人色婷婷| 中文字幕在线播放视频| 欧美日韩国产一二区| 六月久久婷婷| 69色色视频| 婷婷五月色色| www.99riav99| 色婷婷电影网| 成人网站在线观看视频| 激情五月丁香亭亭| 激情五月天免费视频| 国产激情在线| 久久蜜臀婷婷| 色激情综合狠狠婷婷| 丁香五月婷婷基地| 日本99热| 五月丁香啪啪啪综合网| 九色啦蜜臀| 婷婷五月天播| 久久视这里只有精品| 性爱111111| 色色激情| 久久婷婷国产| 99视频激情四射| 天天撸夜夜爽| hd五月婷婷在线| 婷婷激情人妻| 九九热婷婷| 高潮毛片又色又爽免费| 香蕉久久av一区二区三区| 97AV在线视频| Av九九| 五月丁香婷爱在线| 丁香五月婷婷天激情| 欧美婷婷日本| 婷婷天天日婷婷| 天天干夜夜欢| 另类综合国产| 九九色视频| 激情图片婷婷| 五月丁香六月婷婷免费| av 一区三区四区| 色欲婷婷五月天丁香| 亚洲成人av中文| 女人高潮内射99精品| 97天堂| 这里只有精品久久| 婷婷在线视频| 九九99九九99九九99视频网| 一区二区免费看| 婷婷五月亚洲一本在线丁香| 久久婷婷六月综合综合色| 狠狠色激情综合| 欧美五月丁香啪啪响视频| 丁香五月影视| 久久五月天色婷婷| 五月丁香拍拍激情综合| 婷婷五月天成人影片| 丁香六月av| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 日本一级特黄大片AAAAA级| 激情五月天色婷婷| 五月丁香在线观看| 久久作爱| 丁香五月影院| 色婷婷色综合久久精品V| 亚洲乱码日产精品BD| 第五色婷婷| 久久久久人妻精品| 色色色香蕉五月婷| 欧美丁香五月| 人人玩人人橾| 天天夜天天色天天| 久久婷婷五月综合伊人| 天天操天天曰天天射| 国产精品视频网| 停停六月 综合| 亚洲热久| 99久久丝| 色情五月天婷婷| 日日舔夜夜操| 九九99免费理论| www.婷婷六月天| 免费看欧美成人A片无码| 亚洲三A| 激情98色婷婷五| 日韩欧美不卡| 91碰在线| 99国产性感视频| 夜夜撸夜夜骑| 中文字幕日产A片在线看| www.色五月| 男人天堂AV在线一区二区| 色噜噜五月天| 日韩AAA| 俺去啦综合网| 这里只有精品视频99| 国产人妻777人伦精品HD| 玖久久网站| 久草九九| 国产探花AV在线| 思思热视频在线观看| 九九久久五月天| 无码激情AAAAA片-区区| 91九色视频| 久色中文| 天天爽天天干| 久久9热| 五月天成人网婷婷| www.超碰在线| 九九激情视频| 99在线看片| 夜夜爱伊人| 色久综合| 五月天婷婷基地| 五月丁香九九九综合| 99在线精品视频| 国产精品久久久久久久久久| 六月丁香av| 五月开心深深爱激情综合 | 另类专区在线| 97碰成超视频免费视频| 五月婷婷深爱六月| 久久丁香五月天| 亚洲无码成人网| 九九在线免费观看| 天天操天天插| 激情五月天视频| 丁香六月激情综合啪啪| 五月开心网| 无码橾| 五月婷丁香亚洲| 另类图片色五月| 四色五月婷婷| 战争与艾拉电影免费观看| 欧美99热| 99热综合在线| 五月综合激情| 97超碰在线免费观看| 天天摸人人摸| 婷婷丁香五月社区亚洲| 五月婷婷色吧!| www.91久久| 欧美超级视频97| 久热只有这里精品| 丁香五月婷婷图片综合| \\五月天婷婷激情| 五月天电影网| 99精品在| 婷婷五月天综合亚洲| 亚洲精品乱码久久久久久综合| 久久停停超碰| 国产一级片| 另类精品视频在线观看| 亚洲综合视频网| 婷婷五月天AV| 国产精品操| 亚洲天堂色色| 激情99| www.婷婷| 国产在线中文字幕| 婷婷五月激情中文字幕| 日本精品。999| 99精品国产在热久久| 丁香五月天激情网址| 五月婷婷啪啪| 精品五月丁香| 嫩BBB搡BBBB榛BBBB| 亚洲熟妇AV综合网五月丁香伊人 | 我要射综合| 天天射影院| 夜夜噜夜夜奇| 久草婷婷视频| 久久精品4| 538任你爽| 五月婷婷天| 色婷婷色99国产综合精品| 婷婷五月丁香综合| 99在线免费视| 丁香五月婷婷操逼| 五月丁香91| www.激情| 新激情五月天| 婷婷97碰碰| 伊人久久婷婷| 色综合久久久无码中文字幕999| 99久久精品视频女神1| 奇米色大香蕉| 玖玖综合网| 成人必爱视| 91九九九九| 99热6色| 99久久97久久欧美综合网| 亚洲人妻Av| 色色色五月婷婷| 日本欧美成人片AAAA| hd五月婷婷在线| 狠狠狠狠狠狠草| 天天日天天爽| 五月丁香好婷婷姑娘综合网| 婷婷伊人视婷婷婷| 思思热在线视频精品| 五月婷婷九| 丁香五月婷婷综合精品素人| 亚洲超碰在线| AV成人在线播放| 十月丁香婷婷| 人人综合久| 丰满少妇猛烈A片免费看观看| 天天高潮夜夜爽| 激情婷婷在线中文字幕| 91聚色综合网| 激情丁香五月婷婷| 色五月91| 婷婷五月天成人小说| ww亚洲ww在线观看| 五月婷婷综合影院| 九九婷婷五月天| 婷婷综合网站| 婷婷五月天视频| 五月天色婷伊人| 色五月激情综合网站| 色婷婷狠狠| 五月婷婷在线免费观看| 国际国外精品欧洲南美洲专区无码不卡| www.AV在线| 精品无码久久久久久久久| 六月婷婷色| 久久只这里有精品| 五月天激情综合在线| 毛v一区二区视频| 国产av天堂| www.91九色| 六月久久狠狠| 久久机只有这里精品| 大香蕉婷婷色| 丁香婷婷色九月| 激情五月六月婷婷综合啪啪| 91丨九色丨熟女丰满| 操操综合网婷婷| 色综合色| 九九无码| 色无码| 激情性爱五月| 六月久久婷婷| 亚卅毛片| 久久99激情| 99热无码| 婷婷丁香五月高清| 五月婷婷六月丁香综合| 婷婷丁香在线播放| 婷婷色丁香六月| 天天摸日日舔狠狠添婷婷婷| 色五月婷婷激情五月| 久久久人妻久久久| 激情五月综合色| 91婷婷在线| 五月天丁香综合久久国产| 久久婷婷五月综合网| 噼里啪啦完整版中文在线观看| 婷婷色综合| 久草五月婷婷| 丁香五月天综合| 久久这里有精品| 91日本在线观看| 高清视频一区| 五月婷婷五月| 亚洲亚洲人成综合网络| 欧美精品在线观看| 五月丁香A片| 日韩三十六页| 色综合av超碰| 日本啪啪天堂| 免费黄色片子| 亚洲射激情| 五月综亚洲| 亚洲射激情| 男女久久婷婷五月天| 久草xx性爱视频| 亚洲综合婷婷六月丁香五月| 5月丁香婷婷激情网| 九九综合| 99色在线视频| 久草婷婷网 | 久久久久久99精品无码| 久久五月婷婷电影| 另类小说五月天综合网| 日婷婷| 丝袜激情网| 亚洲成人综合在线| 无码激情AAAAA片-区区| 91超级碰人人操| 五月天婷婷香蕉狠狠超碰综合| 色综合天天综合成人网| 亚洲精品影视| 91919191919久久成人视频| 激情五月最新网址| 99热都是精品| 99.色| 婷婷色av| 第五色婷婷| 亚洲免费综合一区| 婷婷久久五月天丁香| 九九色色| 激情小说婷婷五月| 久久这里只有精品99| 丁香五月影| 色色婷婷丁香五月天| 久er免费视频| 五月婷婷69| 色播播五月天| 婷婷伊人75| 激情精品久久| 天天干,夜夜爽| 久操热线| 欧美天堂久久| 亭亭五月天成人| 久久九色| 五月丁香视频色色| 六月丁香综合网| 成人免费在线电影| 97色精品视频| 激情五月深爱五月| 91热爆在线| 97超美国视频在线观看| 丁香午月AV中文字幕| 99在线观看视频| 久热这里| 色综合激情| 欧美丁香婷婷五月| 大香蕉久久视频久久视频 | 丁香狠狠| 高清不卡一区| 超碰无码318604| 久色网五月| 色五月婷婷综合| 婷婷丁香综合色AV| www.思思99热| 99精品偷自拍| 五月色情婷婷| 亚洲热热视频| 爆乳熟妇一区二区三区爆乳照片| 天天爽夜夜爽夜夜爽精品视频| 婷婷精品| 五月激情丁香五月| 香蕉综合网| 亚洲午夜一区二区| 五月天激情无码| 日日干四虎| 黄网免费观看| 综合色视频| 草做免费在线观看| 色综合久久久无码中文字幕999| 密黄站| 久久99精品九九久久久婷婷| 激情图片婷婷| 激情亚洲婷婷| 精品女人九九九| 综合在线色婷婷| 日本丰满久久| 五月天色婷婷网| 国产免费一区二区三州老师F1……| 五月丁香网av| 欧洲电影在线观看免费版英语版| 丁香五月天人体| 五月婷婷啪啪| 午夜精品777| 欧美美女视频| 婷婷五月激情在线| 久久久精品99| 久久久婷婷五月亚洲97号色| 无码区婷婷五月花开| 五月丁香激情四射| 婷婷99| 丁香五月天啪啪| 五月婷丁香花| 99色综合| 五月婷婷六月基地| 久草五月婷| 免费亚洲婷婷| 五月丁香影院| 日韩黄在免| 婷婷五月天成人综合网| 亚洲天堂制| 久久这里有精品| 日本人人干| 九月婷婷综合| 秋霞电影理论| 9 大屁股在线视频精品| 97色天堂| 婷婷五月成人色综合| 天天做天天爱天天高潮| 激情五月亚洲| 激情综合色图| 狠狠狠狠狠干| 韩国天天婷婷| 9色在线| 粉嫩AV久久一区二区三区| AⅤ色区| 另类图片五月激情| www.超碰| 99人人操人人摸| 色情开心五月| 91久操| 99热国品| 思思热视频在线观看| 久久九九综合| 丁香五月天大香蕉啪啪| 激情五月色婷婷| 色七色九九| av一区免费看| 五月色丁香| 99re视频精品| 久久久久久草黄色片AV在线观看| 丁香六月欧美| 91色久| 色亚洲欧洲| 天天搞夜夜爽夜夜爽| 色插人人| 五月丁香五月婷婷| 五月天成人在线播放| 深爱女色婷婷丁香五月亚洲图区| 青草青草久9视频在线视频| 欧美日韩成人在线| 婷婷婷婷婷婷婷五月丁香| 激情宗合哪里能看| 97婷婷五月激情六月丁香伊人| 性色五月天| 狠狠干无码| 日本va网站| 91婷婷丁香五月| 五月婷婷 婷婷五月 一区二区 久久久| 99视频网址| 伊人色欲五月天| 怡红院 久久| 婷婷五月激情综合啪啪| 亚洲精品a成人在线播放| 欧美熟女99| 丁香婷婷成人网| 丁香五月第九色| 色综合综合色| 丁香六月| 九月av在线| 久久久久久久11111111111| a在线观看| 五月激情影视| 色色色色色网站| 狠狠色婷婷丁香六月| 久色网址| 97人凄人人操人人爽| 开心久久网婷婷| 伊人丁香在线| 99热在线观看| JAPANRCEP老熟妇乱子伦视频| 99视频久久| 五月天婷婷AV| 人人摸人人澡人人| 亚洲综合五月| 亚洲男女激情| www.五月.com| 99热首页| 婷婷五月综合网| www.色色色色| 婷婷五月av| 六月色播| 婷婷丁香五月综合免费视频百花| 丁香狠狠色婷婷久久无码视频| 色色亚卅| 操一操| 欧美成人网婷婷综合在线| 色频玖玖五月天| 99热99成人| 五月Huangsewang| 97操操操| 天天狠狠夜夜狠狠2023| 色五月丁香婷婷| 日韩AV大全| 久久人人超| 夜夜大香蕉婷婷丁香| 99热这里有精品首页10| 丁香五月AV| 五月天丁香久久| 影音先锋偷偷色男人站| 玖玖婷婷色| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 婷综合六月| 综合网网欲色| 综激情网| 很很操96| 婷婷五月天熟妇| 色噜噜婷婷| 五月丁香综合| 无码操B| 99ER热精品视频| 五月丁香六月片| 色综合久久无码| 肏屄色播伊人97婷婷| 久久丁香五月婷婷| 婷婷五月天影视| 欧美狠狠地| 色色亚洲| av九九| av在线婷婷| 丁香久久九九99| 久99久视频| 天天色天天干天天插| 可以免费看AV网站| 99ri在线观看视频| 操操操97| 激情综合在线观看| 亚洲色欲欧美一区二区三区| 激情五月天电影| 99热这里只有精品22| 亚洲精品一区中文字幕乱码| 国产在线视频1234| 婷婷五月天激情网址| 丁香社区婷婷五月| 亭亭五月色男人| 伊人婷婷大香蕉在线| 日本一级特黄大片AAAAA级| 侠女刀之记忆电影在线看免费| 婷婷五月丁香综合人妻| www.99热视频| 丁香五月天激情四射网络不好| 超碰狠狠操| 五月丁香六月综合激情无码软件亮点| 色色色色网站| 9久久精品视频| 色婷婷深爱五月| 国产精品成人AV在线| 乱乱av| 成人国产综合| 五月婷婷六月丁香综合| 国产成人精品一区二三区熟女在线| 五月丁香综合久久夜夜| 99热国产这里只有| 99热精品99| 操操综合网婷婷| 欧美久草在线日本一级特黄大片做受9在线观看韩国电影《两个女人》未删减-毛片 | 一起草av在线观看| 丁香婷婷五色月| 色色色免费视频| 另类综合婷婷五月天欧美视频| 九月丁香| 日本97在线| 久热A| 日日干夜夜干| 五月丁香成人网| 九九热最新| 久热精品免费视频4| caobi四区| 91色婷婷综合久久中文字幕二区| 97色视频网| 婷婷五月天美女视频| 久久9视频| 色婷视频| 五月天堂色| 激情文学第四色婷婷丁香五月| 日日日天天干| 日韩熟女啪啪视频| 婷婷五月天人妻| 可以看的av| 第2色五月婷| 婷香五月激情视频| 色婷婷久久| 99久久婷| AAA久久| 99热在线精品播放| 婷婷va| 99在线小视频| 狠狠爱丁香婷| 天天爽天天草| 4438全国最大视频成人网站在线观看| 亚洲va在线| 刘玥精品一区| 色五月综合激情| 欧美日韩一区二区三区四区| 五月六月激情| 无毒黄色网址| 国产综合网在线| 激情五月天福利| 九九这里都是精品| 九九超碰人人| 激情综合网五月| 亚洲综合1024| 九九無妻| 色婷婷最爱五月| 成人做爰A片免费看网站找不到了| 这里只有精品99视频| 欧美精品99久久久| 五月丁香啪啪啪啪| 日韩久久系列| 五月婷婷免费在线观看视频| 大天天伊人| 婷婷丁香九月| 天天性视频| 国产又黄又爽又色的免费| 五月天伊人日日噜影片AV| 波多婷婷久久| 五月丁香亭亭| 五月天丁香六月综合| 色色婷婷丁香| 嫩草AV久久伊人妇女超级a| 丁香五月成人自拍| 99在线热| 婷婷丁香五另类网站| 九九久久偷拍| 日韩操逼大片| 激情综合五月| 色婷婷色五月综合| 日本3级片一区2区| 婷婷成人视频| 天天综合网网欲色| 国产五月天婷婷| 丁香五月婷婷啪啪| 婷婷五月天高清无码| AV五月丁香| 中文字幕日产A片在线看| 婷婷开心久久| 日韩啪啪视频| 另类五月激情| 亚洲九区| 人人爽亚洲| av在线观看免费| 日韩国产在线精品| 国产免费一区二区三区三州老师F1F1.CC| www99热| 五月天福利影院导航| 97色色色| 91热er| 亚洲午夜Av| 精品一二三区久久AAA片| 色色色色色网| 激情五月综合六月丁香婷婷狠狠干| 九九色插| 色色婷婷丁香| 色五月大| 五月天婷婷影院影院| 成人av中文字幕| 亚洲欧美综合7777色亭亭| 久99热| 婷婷色5月激情网| 久久99热这里只有| 亚洲色基地| 久久人妻熟女一区二区| 五月婷婷丁香大陆免费| 精品色色色| 99爱这里只有精品| 婷婷五月香蕉| 综合99在线| 色狠狠色噜噜AV天堂五区| 色碰碰| 亚洲AV色婷婷人禽五月天| 开心五月天私房婷婷| 色婷婷久久视屏| 99婷五月| 国产毛片欧美毛片久久久| 成人在线网址| 久久激情天堂| 久草五月天| 婷婷五月天免费| 天天肏屄夜夜爽| 成人欧美日韩| 亚洲成人av在线播放| 丁香婷婷欧美综合| 思思热在线| 色九九综合| 久久小视频| 五月六月伦理| 丁香五月婷婷欧美成人色图| 五月婷婷丁香五月亚洲色| 综合色播| 色五月首页| 变态另类9| 五月婷婷丁香啪啪| 十区av| 欧美婷婷综合| 中文婷婷狠狠| 欧美五月婷婷综合| 三级片AAA久久久AAA久久久AAA| 天天综合网站| 深爱激情丁香| 99久热这里只有精品| 毛片新网地| 色婷婷a v| 第四色大香蕉| 丁香午夜天| 五月开心色| 五月婷婷 激情五月| 五月婷婷六月开心| 九九这里都是精品| 狠狠干婷婷| 天天激情欧美美女| 五月天激情图片| 亚洲色频| 深爱激情五月网| 草五月| 日韩AV片| 激情伊人五月天| 色色com| 婷婷丁香六月| 99ER热精品视频| 激情5月婷婷| 日韩AV在线免费| 亚洲免费视频网站| 久久最新色| 色噜噜综合网| 精品一二三区视频立| 激情五月婷婷网在线观看| 激情综合五月色在线| 五月婷婷影视| 在线1青婷| 五月婷婷激情网| 色婷天天| 91久热| av在线婷婷| yazhochengrenavwang| 久久看婷婷| 婷婷精品视频| 夜夜噜夜夜奇| 日本婷婷色日| 久久99网站| 白人荫道BBWBBB大荫道| 婷婷五月激情综合网| 六月丁香婷婷色狠狠久久| 玖玖婷婷五月天| 五月天婷婷爱丁香中文字幕| 99re热视频这里只精品5| 欧美色色色色色色| 久久9视频| 色综合色色色色色色综合| 欧美在线视频免费播放| 成人va在线观看视频| 久久97久久99久久综合欧美| www狠狠爱com| 91碰碰| 亚洲VA在线| 天天综合五月天| 国产精品色色| 丁香婷婷婷婷十二月在线观看视频| 秋霞A V毛片| 人人天堂操| 日91高清无玛| 96精品成人无码A片观看金桔 | 亚洲婷婷五月草久| 五月天综合色| 六月婷婷综合| 久操97| 亚洲综合五月天综合| 日韩AAAAAAAAAAA片| 六月丁香五月天| 九九热视频精品999| 成人电影一区| 夜夜躁爽日| 婷婷五月天小说| 色情婷| 久久成人精品视频| 成人短视频在线| 色色五月天 亚洲| 大香蕉久| 狠狠干在线| 99热婷婷| 超碰免费大香蕉| 激情五月天婷婷视频| 久久机热/这里只有精品| 91女人18毛片水多国产| 久青青久| 色色色在线观看| 亚洲无码影片| 婷婷五月天日本国产| 亚洲 视频 导航 一区| 色婷婷很很丝袜| 欧美欧盟性爱网| 婷婷内射视频在线| Av免费网站在线| 日 日干 日日做| 91成人品| 玖玖激情五月天| 丁香五月停停av| 成人做爰A片免费看网站找不到了 噼里啪啦在线观看免费完整版视频 | 高清无码网址| 国产超碰在线| 免费看成人747474九号视频在线观看| 亚洲182在线观看| 夜夜操夜夜姧| 香蕉久久国产AV一区二区| 五月婷婷av| 婷婷刺激综合| 91精品视频男人的天堂| 99精品在线下载| 色色亚洲| 色婷婷91激情小说| 丁香五月色| 黄色AV日韩| 色婷丁香| 97干欧美| 久热人妻| 欧美熟女99| 狼人婷婷久久| 五月丁香六月色| 五月精品| 黄色一极大片| 五月丁香综合激情| 久久aaaaa| 五月婷婷之综合激情| 91亚洲视频| 性生活久久人妻| 东北熟女高潮99综合99| 婷婷五月天狠狠搞干| 九色激情| 日日操日日撸| 黄久久久| 天天操婷婷| 综合AV在线| 91色综合网| 综合色影院| 97操碰碰无码视频| 五月天堂色| AV色五月婷婷| 色色色欧美| 婷婷丁香五月激情中文字幕版| 婷婷丁香久久| 丁香婷婷六月天| 久在线88综合| 天天爽天天日天天舔| 一级性爱大片| 狼人婷婷综合| 俺也去在线久久精品23欧美综合视频网站,丰满人妻一区二区三区在线视频53,丰满 | 亚洲精品性色| 五月天堂六月丁香亚州中文字幕久久| 色色色9| 久久99精品日本| 人妻激情在线| 极品色丁香| 色狠狠色噜噜AV天堂五区| 激情六月婷| 六月婷婷香蕉| 色色色热| 丁香欧美| 最新日韩久热免费视频看看| 人妻综合网| 天天做天天双| 91人人人人人人人| 天天日天天爽| 五月花综合网| 婷婷最新地址| 色婷婷88| 欧美激情丁香五月天久久婷婷一区| 开心色色五月天综合| 涩五月婷婷| 亚洲夜五月| 欧在线一区| 超碰99久久| 成人婷婷五月| 97五月婷婷| 激情五月天丁香| 亚洲狠狠狠| 操久久网| 五月天操逼激情| 97九色视频| 五月天激情网址| 九九色院| 97在线观视频免费观看| 丁香五月天激情免费在线观看AV777 | 青青草日本亚洲| 久青操| 色婷婷综合久久| 99热这里只有精品1025| 99er在线观看| 激情 婷婷| 国产欧美精品AAAAAA片| 在线视频99| 亚洲国产精品成人va在线观看| www.日本91| 爱久久小说下载网| 玖玖爱资源站| 99热色在线精品| 超碰精品在线| 日韩久操婷婷| 国产亚洲精品AAAA片APP| 操操自拍| 五月丁香六月婷婷久久久综合| 色婷婷久久综合| 久久五月婷综合网| 国产精品99久久久久久久女警| 精品人妻伦一二三区久久| 清色五月天| 九九五月天| 亚洲另类AV| 国产伦亲子伦亲子视频观看| 久久五月视频| 丁香五月社区| 天天操天爱综合| 日本女天天爽| 67194成I人在线观看线路1| 99精品久久久久久久久| 超碰v| 久久久婷婷| 91要啪| 狠狠操狠狠操| 99热精地址| 深爱五月中文字幕| 五月天激情国产综合婷婷婷就去爱| 9久久精品视频| 五月天婷婷青青草| 任你躁XXXXX麻豆精品| 99性视频| 色婷婷色99国产综合精品| 69色婷婷| 99A片| 亚洲第一精品成人999久久精品| 色情五月天se| 99热精品在线播放观看| 久久久人妻不卡| 99A级片| 九九大香蕉黄色影院| 婷婷色五月天色色| 色婷婷狠狠禁久久| 激情性爱五月天网页| 无码激情AAAAA片-区区| 五月天激情小说| 另类视频五月天| 热久精品| 亚洲激情久久| 婷婷激情六月| 天天插天天日| 久久曰曰| 青青青在线视频国产| 综合久久婷婷| 极品人妻VIDEOSSS人妻| 99性爱视频| 成人精品视频99在线观看免费| 天天爽人人综合免费7799| www婷婷| 色五月激情网| 欧美经典片免费观看大全| 午夜性做爰电影| 色婷婷成人做爰A片免费看网站 | 亚洲综合色棒| 婷婷伊人网| 99爱精品| 亚洲AV成人在线| 激情五月丁香五月| 夜夜操狠狠操| 欧美性猛交 XXXX 乱大交| 亚洲黄色网址| 亚洲天堂制| 五月丁香九九| 日本婷久久| 色五月激情视频在线综合| 欧美狠狠草| AV 3P| 99日韩网站| 激情婷婷丁香| 国产免费一区二区在线A片视频| 九九热在线视频| 欧美成人一区二区三区在线视频| 大香焦啪啪啪| 激情五月天第四色| 九热...av| 久久婷婷丁香五月一二三| 色色亚卅| 99免费| 26uuu精品国产| 久久人妻熟女一区二区| 天啪天啪天啪天啪| 色婷婷成人网| 久久婷婷五月草视频在线播放| 婷婷之六月丁香| 婷婷丁香十月| 亚洲综合激情五月久久| 色狠狠色噜噜AV天堂五区| 69人人操人人爽| 激情文学久久| 久久人人人人妻| 免费亚洲婷婷| 亚洲激情av| 丁香五月天影院| 亚洲av网站| 国产熟女日日骚五月丁香爱| 五月天色婷婷综合| 亭亭玉月丁香| www.久久色.com| 深爱激情中文五月天av| 久久久久久丁香五月| 超碰九九热| 丁香六月在线综合| 国产婷婷五月天| 天天日日天天| 天天天天干| 色一情一乱一伦一区二区三区| 怡红院91a√| 狠狠88综合久久久久噜噜噜| 日本婷色| 裸体做A爰片毛片A片免费| 亚洲av电影网站| 91干在线| 日韩黄色中文字幕| www.91在线观看| 无码G高清天| 六月婷婷久久| 7EzOBIhNq85TO| 日韩亚洲视频| 热思思| 激情AV| 国产精品色婷婷99久久精品| 99色丁香婷婷综合网| 大香蕉久热| 婷婷色网址| 激情小说五月丁香在线视频观看视频| 丁香色五月婷婷| 1000部毛片A片免费观看| 久人操| 这里只有精彩视| 色色亚洲| 狠狠情色| 五月婷婷丁香综合网| 丰满人妻一区二区三区| 久久色五月| 情趣视频66| 91夫妻视频| 色婷婷丁香六月| 婷婷丁香激情综合色情| www.99热精品99.com| 久久av电影| 激情网五月天| 色哟哟精品| 亚洲婷婷五月天激情| www.91av.com| 激情婷婷五月天网址| 99热在这里只有精品| 超碰a女人的天堂| 强伦轩人妻一区二区电影| 久久婷婷五月综合色欧美| 激情五月图| 99色在线| 婷婷天堂综合| 啪啪99| 久婷婷五月综合欧美| 久久婷婷综合五月天| 五月激情婷婷偷拍| 婷婷六月中文字幕| 蜜桃五月天| 日日干综合| 狠狠干综合| 99热国产国产| 成人精品在线观看| 五月婷婷在线视频免费观看| 综合五月婷婷| 99自拍网| www99精品| 婷婷五月丁香啪啪| 欧美六月| 色综合色五月| 91碰| 97精品欧美91久久久久久久| 久久多色| 婷婷五月色情天| 99热九九热| 狠狠色丁香五月婷巨| 久久婷婷影院| 五月婷婷成人w|