99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

Grafana Tempo 監(jiān)控 MIXIN 完全指南:從 jsonnet 構(gòu)建到儀表盤、告警與 Runbook 實戰(zhàn)

Grafana Tempo 監(jiān)控 MIXIN 完全指南:從 jsonnet 構(gòu)建到儀表盤、告警與 Runbook 實戰(zhàn) Grafana Tempo 監(jiān)控 MIXIN 完全指南從 jsonnet 構(gòu)建到儀表盤、告警與 Runbook 實戰(zhàn)【免費下載鏈接】tempoGrafana Tempo is a high volume, minimal dependency distributed tracing backend.項目地址: https://gitcode.com/GitHub_Trending/tempo1/tempo本文以倉庫operations/tempo-mixin目錄為骨架系統(tǒng)講解 Grafana Tempo 官方監(jiān)控方案的組成、構(gòu)建流程、可調(diào)參數(shù)與運維實踐。讀完你將掌握如何用make all一鍵生成 Grafana 儀表盤與 Prometheus 告警/記錄規(guī)則理解config.libsonnet中每一項閾值與選擇器的含義并學(xué)會對照 Runbook 對分布式追蹤集群進行故障排查。一、tempo-mixin 是什么tempo-mixin是 Grafana Tempo 官方的Jsonnet 監(jiān)控混入mixin集合。它用 Jsonnet 語言描述監(jiān)控一個 Tempo 集群需要的一切——即 Grafana 儀表盤dashboards、Prometheus 告警規(guī)則alerts和記錄規(guī)則rules并通過 jsonnet-bundler 引入 grafana-builder 與 mixin-utils 等公共庫完成渲染。構(gòu)建后的產(chǎn)物統(tǒng)一放在operations/tempo-mixin-compiled目錄可以直接導(dǎo)入 Prometheus 和 Grafana 使用。倉庫為此提供兩種用法直接使用編譯產(chǎn)物從tempo-mixin-compiled/dashboards/、alerts.yaml、rules.yaml原樣導(dǎo)入自行構(gòu)建按需修改 mixin 源碼如調(diào)整閾值、Job 名、命名空間再重新生成產(chǎn)物以便融入自己的變更。整個 mixin 的裝配入口是operations/tempo-mixin/mixin.libsonnet它把配置、儀表盤、告警、規(guī)則四部分疊加在一起(import config.libsonnet) (import dashboards.libsonnet) (import alerts.libsonnet) (import rules.libsonnet)而dashboards.jsonnet、alerts.jsonnet、rules.jsonnet三個入口文件分別負責把上述內(nèi)容渲染成 JSON 儀表盤文件與 YAML 規(guī)則文件。二、構(gòu)建環(huán)境準備根據(jù)operations/tempo-mixin/README.md構(gòu)建需要兩個工具jsonnetJsonnet 語言解釋器jsonnet-bundlerjbJsonnet 包管理工具用于拉取依賴庫。在 macOS 上安裝方式如下原文檔原文brew install jsonnet brew install jsonnet-bundler go install github.com/jsonnet-bundler/jsonnet-bundler/cmd/jbv0.6.0在 Linux 環(huán)境下可從發(fā)行版軟件源安裝jsonnetjb同樣可通過go install安裝。依賴聲明見operations/tempo-mixin/jsonnetfile.json當前 mixin 依賴grafana/jsonnet-libs倉庫中的grafana-builder與mixin-utils兩個子目錄版本均為master分支jsonnetfile.lock.json鎖定了具體的提交。三、構(gòu)建流程make all 到底做了什么在operations/tempo-mixin目錄下執(zhí)行make all即可重新生成全部儀表盤、告警和規(guī)則。原文檔給出了完整的執(zhí)行輸出? make all jb install jsonnet -J vendor -S dashboards.jsonnet -m ../tempo-mixin-compiled/dashboards/ ../tempo-mixin-compiled/dashboards/tempo-backendwork.json ../tempo-mixin-compiled/dashboards/tempo-block-builder.json ../tempo-mixin-compiled/dashboards/tempo-operational.json ../tempo-mixin-compiled/dashboards/tempo-reads.json ../tempo-mixin-compiled/dashboards/tempo-resources.json ../tempo-mixin-compiled/dashboards/tempo-rollout-progress.json ../tempo-mixin-compiled/dashboards/tempo-tenants.json ../tempo-mixin-compiled/dashboards/tempo-writes.json jsonnet -J vendor -S alerts.jsonnet ../tempo-mixin-compiled/alerts.yaml jsonnet -J vendor -S rules.jsonnet ../tempo-mixin-compiled/rules.yaml對照operations/tempo-mixin/Makefilemake all實際依次執(zhí)行四個目標目標命令作用installjb install按jsonnetfile.json拉取依賴到vendor/目錄dashboardsjsonnet -J vendor -S dashboards.jsonnet -m ../tempo-mixin-compiled/dashboards/渲染全部儀表盤 JSON 到tempo-mixin-compiled/dashboards/alertsjsonnet -J vendor -S alerts.jsonnet ../tempo-mixin-compiled/alerts.yaml渲染告警規(guī)則到alerts.yamlrulesjsonnet -J vendor -S rules.jsonnet ../tempo-mixin-compiled/rules.yaml渲染記錄規(guī)則到rules.yaml命令參數(shù)說明-J vendor在vendor目錄中查找 jsonnet 庫導(dǎo)入路徑-S以字符串方式輸出string output使 YAML/JSON 內(nèi)容保持純文本避免被轉(zhuǎn)義-m 目錄多文件輸出模式按字典鍵名生成多個文件。Makefile 還提供兩個輔助目標check重新構(gòu)建后執(zhí)行g(shù)it diff --exit-code -- ../tempo-mixin-compiled/若產(chǎn)物與倉庫中已提交的編譯結(jié)果不一致則構(gòu)建失敗——適合 CI 中校驗源碼與產(chǎn)物同步fmt對目錄下所有*.libsonnet與*.jsonnet文件運行jsonnetfmt -i統(tǒng)一代碼格式。四、核心配置 config.libsonnet 逐項解讀operations/tempo-mixin/config.libsonnet是 mixin 的全部可調(diào)參數(shù)所在分為三組組件 Job 名映射、告警閾值、標簽選擇器與聚合配置。4.1 組件 Job 名映射jobsTempo 的每個組件在 Kubernetes 部署中的 Prometheusjob標簽?zāi)J值如下配置鍵默認值對應(yīng)組件gatewaycortex-gw(-internal)?網(wǎng)關(guān)正則query_frontendquery-frontend查詢前端querierquerier查詢器metrics_generatormetrics-generator指標生成器distributordistributor分發(fā)器compactorcompactor壓縮器block_builderblock-builder數(shù)據(jù)塊構(gòu)建器Kafka 消費backend_schedulerbackend-scheduler后端調(diào)度器backend_workerbackend-worker后端工作器memcachedmemcachedMemcached 緩存層live_storelive-store實時存儲live_store_zoneslive-store.*實時存儲按可用區(qū)正則若你的部署使用了不同的job標簽例如通過 Helm 自定義只需覆蓋這些鍵即可讓全部告警和儀表盤自動適配。4.2 告警閾值alerts原文檔未展開、但源碼中完整定義的所有閾值如下可直接在_config.alerts中覆蓋配置鍵默認值用途compactions_per_hour_failed2每小時壓縮失敗次數(shù)告警閾值flushes_per_hour_failed2每小時刷新失敗次數(shù)閾值polls_per_hour_failed2每小時 blocklist 輪詢失敗次數(shù)閾值user_configurable_overrides_polls_per_hour_failed5每小時用戶可配置 Overrides 重載失敗閾值max_tenant_index_age_seconds600tenant index 最大允許年齡秒p99_request_threshold_seconds3P99 請求延遲告警閾值秒p99_request_exclude_regexmetrics\|/frontend.Frontend/Process\|debug_pprofP99 統(tǒng)計中排除的路由正則outstanding_blocks_warning100待壓縮數(shù)據(jù)塊數(shù)告警warningoutstanding_blocks_critical250待壓縮數(shù)據(jù)塊數(shù)告警criticalpartition_lag_critical_seconds90015 分鐘指標生成器 Kafka 分區(qū)滯后 critical 閾值block_builder_partition_lag_warning_seconds200約 3.3 分鐘block-builder 分區(qū)滯后 warning 閾值block_builder_partition_lag_critical_seconds3005 分鐘block-builder 分區(qū)滯后 critical 閾值backend_scheduler_jobs_failure_rate0.05調(diào)度器任務(wù)失敗率閾值5%backend_scheduler_jobs_retry_count_per_minute20每分鐘任務(wù)重試次數(shù)閾值backend_scheduler_compaction_tenant_empty_job_count_per_minute10每分鐘空任務(wù)數(shù)閾值backend_scheduler_bad_jobs_count_per_minute0壞任務(wù)數(shù)閾值有任何壞任務(wù)即告警backend_worker_call_retries_count_per_minute5工作器每分鐘調(diào)用調(diào)度器重試次數(shù)閾值vulture_error_rate_threshold0.1vulture 校驗錯誤率閾值10%distributor_kafka_produce_failure_ratio0.001分發(fā)器寫 Kafka 失敗率閾值0.1%作為快速前導(dǎo)信號live_store_partition_lag_warning_seconds200live-store 分區(qū)滯后 warning 閾值live_store_partition_lag_critical_seconds120020 分鐘live-store 單成員滯后 critical 閾值live_store_all_members_lag_seconds3005 分鐘live-store 全體成員同時滯后閾值對應(yīng)讀路徑部分中斷4.3 標簽選擇器與聚合selectors / group_bymixin 支持多集群、多命名空間、多租戶的監(jiān)控隔離通過一組標簽列表控制per_cluster_label: cluster、namespace_selector_separator: /cluster_selectors[cluster, namespace]用于按集群聚合的告警job_selectors[cluster, namespace, job]用于按組件聚合tenant_selectors[cluster, namespace, tenant]用于按租戶聚合對應(yīng)的group_prefix_*下劃線連接與group_by_*逗號連接分別用于 PromQL 表達式中的by (...)子句。此外http_api_prefix默認空字符串用于適配網(wǎng)關(guān)在反代后追加的 API 路徑前綴namespace默認.*即默認匹配所有命名空間可通過覆蓋該鍵將監(jiān)控范圍限定到特定命名空間如tempo-prod。4.4 記錄規(guī)則時間窗recording_rules_range_interval: 1m控制直方圖記錄規(guī)則的聚合區(qū)間。源碼注釋明確提醒該值至少應(yīng)為抓取間隔scrape interval的兩倍建議設(shè)為抓取間隔的四倍否則記錄規(guī)則可能輸出空數(shù)據(jù)——這是調(diào)節(jié) scrape 頻率后最容易踩的坑。五、構(gòu)建產(chǎn)物與使用方式5.1 儀表盤dashboardsmake all后在operations/tempo-mixin-compiled/dashboards/下生成 10 個 Grafana 儀表盤文件名關(guān)注內(nèi)容tempo-backendwork.json后端調(diào)度器/工作器任務(wù)執(zhí)行情況tempo-block-builder.jsonblock-builder 消費與構(gòu)建tempo-livestore.jsonlive-store 實時存儲分區(qū)與滯后tempo-operational.json運維總覽壓縮、輪詢等tempo-reads.json讀路徑網(wǎng)關(guān)/查詢前端/查詢器/live-store 的 QPS、延遲tempo-resources.json資源使用CPU、內(nèi)存等tempo-rollout-progress.json滾動發(fā)布進度tempo-service-graph.jsonService Graph服務(wù)間調(diào)用拓撲tempo-tenants.json按租戶維度的使用與限流情況tempo-writes.json寫路徑接收、Kafka、壓縮寫入儀表盤的結(jié)構(gòu)定義在operations/tempo-mixin/dashboards.libsonnet與dashboards/下的各.libsonnet文件。以dashboards/tempo-reads.libsonnet為例可以看到Gateway → Query Frontend → Querier → Livestore分行的面板編排每行包含 QPS 與 Latency 面板且查詢語句按組件 Job 名與路由前綴route~api_.*過濾例如 querier 行的延遲面板為tempo_request_duration_seconds{job~querier,route~querier_api_.*}livestore 行還會展示tempo_live_store_complete_queue_length待完成隊列長度、tempo_live_store_blocks_completed_total已完成數(shù)據(jù)塊速率以及按分區(qū)/消費組拆分的 Kafka 滯后面板。這些.json文件可直接在 Grafana 中通過Import dashboard上傳或在配置了 provisioning 時放入儀表盤目錄。5.2 告警規(guī)則alerts.yaml構(gòu)建出的operations/tempo-mixin-compiled/alerts.yaml是標準的 Prometheus 規(guī)則文件告警組名為tempo_alerts。原文檔指出告警清單見對應(yīng)文件——編譯產(chǎn)物展開后的 32 條告警及其觸發(fā)條件、嚴重級別與for時長如下表達式均已把cluster/namespace等占位符替換為實際選擇器一組件健康類| 告警 | 嚴重級別 | for | 觸發(fā)條件要點 | | --- | --- | --- | --- | |TempoDistributorUnhealthy| warning | 15m |tempo_ring_members{stateUnhealthy,namedistributor}大于 0 | |TempoLiveStoreUnhealthy| critical | 15m | ring 中 live-store 有不健康成員 | |TempoMetricsGeneratorUnhealthy| critical | 15m | ring 中 metrics-generator 有不健康成員 | |TempoMemcachedErrorsElevated| warning | 10m | memcached 5xx 占比超過 20% |二存儲/blocklist 類| 告警 | 嚴重級別 | for | 觸發(fā)條件要點 | | --- | --- | --- | --- | |TempoCompactionsFailing| critical | 1h | 1 小時內(nèi)壓縮失敗 2 且最近 5 分鐘仍有失敗 | |TempoPollsFailing| critical | — | 1 小時內(nèi) blocklist 輪詢失敗 2 且 5 分鐘內(nèi)仍失敗 | |TempoTenantIndexFailures| critical | — | 1 小時內(nèi) tenant index 錯誤 2 且 5 分鐘內(nèi)仍錯誤 | |TempoNoTenantIndexBuilders| critical | 5m | 某租戶無 index 構(gòu)建者且 blocklist 非空 | |TempoTenantIndexTooOld| critical | 5m | tenant index 年齡超過 600 秒 | |TempoCompactionTooManyOutstandingBlocks| warning/critical | 6h/24h | 每后端工作器待壓縮塊數(shù) 100/250 | |TempoBadOverrides| critical | 15m |tempo_runtime_config_last_reload_successful 0| |TempoUserConfigurableOverridesReloadFailing| critical | 15m | 1 小時重載失敗 5 且 5 分鐘內(nèi)仍失敗 |三Kafka 分區(qū)滯后類| 告警 | 嚴重級別 | for | 觸發(fā)條件要點 | | --- | --- | --- | --- | |TempoMetricsGeneratorPartitionLagCritical| critical | 5m | metrics-generator 分區(qū)滯后 900s | |TempoBlockBuilderPartitionLagWarning| warning | 5m | block-builder 6 分鐘平均滯后 200s | |TempoBlockBuilderPartitionLagCritical| critical | 5m | block-builder 6 分鐘平均滯后 300s | |TempoLiveStorePartitionLagWarning| warning | 5m | live-store 分區(qū)滯后 200s | |TempoLiveStoreSingleMemberLagHigh| critical | 5m | 單個 live-store 成員滯后 1200s | |TempoLiveStoreAllMembersLagging| critical | 2m | 某分區(qū)全部 live-store 成員滯后 300s讀路徑部分中斷 | |TempoBlockBuildersPartitionsMismatch| critical | 10m | 超過一個分區(qū)無 block-builder 認領(lǐng) | |TempoLiveStoresPartitionsUnowned| critical | 10m | 存在無 live-store 認領(lǐng)的活躍/非活躍分區(qū) | |TempoLiveStoreZoneSeverelyDegraded| critical | 10m | 某可用區(qū)持有分區(qū)數(shù)比其他區(qū)少 60% 以上 |四調(diào)度器/工作器類| 告警 | 嚴重級別 | for | 觸發(fā)條件要點 | | --- | --- | --- | --- | |TempoBackendSchedulerJobsFailureRateHigh| critical | 10m | 任務(wù)失敗率 5% | |TempoBackendSchedulerRetryRateHigh| warning | 10m | 每分鐘重試任務(wù) 20 | |TempoBackendSchedulerCompactionEmptyJobRateHigh| warning | 10m | 每分鐘空任務(wù) 10 | |TempoBackendWorkerBadJobsRateHigh| warning | 10m | 每分鐘壞任務(wù) 0 | |TempoBackendWorkerCallRetriesHigh| warning | 10m | 每分鐘調(diào)用調(diào)度器重試 5 |五寫路徑/指標生成器/vulture 類| 告警 | 嚴重級別 | for | 觸發(fā)條件要點 | | --- | --- | --- | --- | |TempoDistributorKafkaProduceFailing| critical | 5m | 分發(fā)器寫 Kafka 失敗率 0.1%排除cancelled-before-producing原因并要求產(chǎn)生速率非零 | |TempoDistributorUsageTrackerErrors| critical | 30m | 租戶用量追蹤報錯 | |TempoMetricsGeneratorProcessorUpdatesFailing| critical | 15m | 處理器動態(tài)更新失敗 | |TempoMetricsGeneratorServiceGraphsDroppingSpans| warning | 15m | service graph 丟棄 span 占比 0.5% | |TempoMetricsGeneratorCollectionsFailing| critical | 5m | 指標收集失敗次數(shù) 2 | |TempoVultureHighErrorRate| critical | 5m | vulture 校驗錯誤率 10% |一個值得注意的實現(xiàn)細節(jié)是TempoDistributorKafkaProduceFailing它被設(shè)計為寫路徑問題的快速前導(dǎo)指標。由于失敗率可能很小但持續(xù)存在等到錯誤傳播到cortex-gw觸發(fā) SLO burn-rate 告警可能要數(shù)小時而從生產(chǎn)者側(cè)度量幾分鐘內(nèi)就能發(fā)現(xiàn)。表達式末尾的... and sum by (...) (rate(tempo_distributor_produce_records_total[5m])) 0守衛(wèi)是為了避免分母為零時 PromQL 求值為Inf導(dǎo)致無意義告警。tempo_distributor_produce_failures_total攜帶的reason標簽由pkg/ingest/writer_client.go中的produceErrReason設(shè)置取值包括timeout、buffer-full、record-too-large、canceled、other其中cancelled-before-producing屬于調(diào)用方取消、被顯式排除在告警表達式之外。5.3 記錄規(guī)則rules.yamloperations/tempo-mixin-compiled/rules.yaml對應(yīng)tempo_rules組由operations/tempo-mixin/rules.libsonnet通過 mixin-utils 的histogramRules自動生成。它針對tempo_request_duration_seconds直方圖預(yù)聚合了 6 條記錄規(guī)則按(cluster, namespace, job, route)維度聚合record: cluster_namespace_job_route:tempo_request_duration_seconds:99quantile record: cluster_namespace_job_route:tempo_request_duration_seconds:50quantile record: cluster_namespace_job_route:tempo_request_duration_seconds:avg record: cluster_namespace_job_route:tempo_request_duration_seconds_bucket:sum_rate record: cluster_namespace_job_route:tempo_request_duration_seconds_sum:sum_rate record: cluster_namespace_job_route:tempo_request_duration_seconds_count:sum_rate例如 99 分位規(guī)則的具體表達式為histogram_quantile(0.99, sum(rate(tempo_request_duration_seconds_bucket[1m])) by (le, cluster, namespace, job, route))預(yù)聚合的價值在于儀表盤直接引用這些低基數(shù)序列避免每個面板都重復(fù)執(zhí)行高開銷的直方圖分位數(shù)計算同時保證多個面板對P99 延遲的統(tǒng)計口徑完全一致。六、Runbook告警觸發(fā)后怎么處理operations/tempo-mixin/runbook.md是每條告警配套的排障手冊與告警文件一一對應(yīng)告警注解中的runbook_url即指向該文件的錨點。以下提煉其中最關(guān)鍵的幾類問題。6.1 查詢追蹤失敗Trace Lookup Failures當查詢報錯queue doesnt have room for xyz jobs時說明數(shù)據(jù)塊數(shù)量超過了查詢器并行檢查的能力。判斷公式為(blocklist 長度 / 查詢器數(shù)量) 查詢器隊列深度 queue_depthqueue_depth 在查詢器配置中設(shè)置默認 10000storage: trace: pool: queue_depth: xyz # 默認 10000處置方向增加查詢器數(shù)量調(diào)大隊列深度調(diào)整壓縮策略減少數(shù)據(jù)塊總數(shù)。快速檢查指標tempodb_blocklist_length、count(tempo_build_info{containerquerier})日志{containerquerier} | queue doesnt have room for6.2 組件不健康Distributor / LiveStore / MetricsGenerator Unhealthy這些告警通常由非優(yōu)雅終止如 Pod 被 OOM-Kill留下的殘留 ring 成員觸發(fā)。分發(fā)器會在2 * distributor.ring.heartbeat-timeout后自動遺忘不健康條目默認 5 分鐘超時對應(yīng) 10 分鐘自動清理小于告警 15 分鐘的for窗口因此通常無需人工干預(yù)。若需立即處理可訪問對應(yīng) ring 頁面如/distributor/ring點擊 Forget 按鈕移除。相關(guān)的快速檢查指標為tempo_ring_members{stateUnhealthy, name組件}。6.3 壓縮失敗TempoCompactionsFailing最常見原因是壓縮超大 trace 導(dǎo)致 OOM。處置思路將內(nèi)存上限提升到足以越過該 trace且需一直保持到該 trace 超出保留期被刪除否則可能反復(fù) OOM同時復(fù)查并調(diào)低攝取限制無法解決的壞塊可手動刪除。在當前 backend-scheduler/backend-worker 架構(gòu)下調(diào)度器暴露積壓指標tempodb_compaction_outstanding_blocks工作器負責實際壓縮排查時應(yīng)結(jié)合調(diào)度器的隊列深度指標與工作器的資源/日志。6.4 輪詢問題Polling Issues 系列輪詢失敗意味著組件對后端的認知逐漸過期查詢器會開始對已存在的數(shù)據(jù)返回 404后端工作器會嘗試壓縮不存在的塊。間歇性失敗無需關(guān)注持續(xù)性失敗必須處理若后端不可用導(dǎo)致輪詢無法修復(fù)讀路徑將開始失敗而寫路徑正常需提前告知用戶。關(guān)鍵認知是tenant index 是按租戶獨立構(gòu)建的問題可能只影響個別租戶。tempodb_blocklist_tenant_index_builder、tempodb_blocklist_tenant_index_age_seconds、tempodb_blocklist_tenant_index_errors_total都是按租戶打標的指標。最省事的杠桿是刪除過期的 tenant index 文件位于對象存儲的/tenant/index.json.gz所有組件會自動回退到桶掃描bucket listing。兩種日志的含義不同failed to pull bucket index for tenant. falling back to polling系統(tǒng)已回退處于穩(wěn)定態(tài)只需查日志定位根因failed to write tenant indexindex 未在更新需要更直接的干預(yù)。對TempoNoTenantIndexBuilders優(yōu)先手段是提高構(gòu)建者數(shù)量storage: trace: blocklist_poll_tenant_index_builders: 2 # 增大此值或刪除未更新的 index 文件強制回退掃描。6.5 待壓縮塊積壓TempoCompactionTooManyOutstandingBlocks壓縮瓶頸通常是 CPU因此增加后端工作器是最有效的措施。擴容后觀察tempodb_compaction_outstanding_blocks是否開始下降由于塊數(shù)量升高還需復(fù)查隊列相關(guān)配置避免觸發(fā)前文的查詢失敗。6.6 Kafka 分區(qū)滯后TempoPartitionLag 系列指標生成器滯后給消費組增加實例block-builder 滯后擴實例對齊 live-store 分區(qū)或縮短 cycle timelive-store 單成員滯后若 Pod 剛重啟可能是重放中節(jié)點過載會拖慢重放屬部分自愈若未重啟則可能真的卡住可重啟該 Pod或檢查單分區(qū) leader 切換等 Kafka 側(cè)問題live-store 全體成員滯后意味著沒有任何可用區(qū)能服務(wù)該分區(qū)屬于讀路徑部分中斷需檢查是否發(fā)生同步滾動重啟、節(jié)點過度調(diào)度或 Kafka broker 問題。6.7 寫路徑快速前導(dǎo)信號TempoDistributorKafkaProduceFailing按reason標簽拆分失敗率定位故障模式timeout指向 Kafka broker 健康buffer-full指向客戶端緩沖打滿通常是下游變慢record-too-large指向異常租戶發(fā)送超大批次canceled按源碼注釋不應(yīng)發(fā)生需立即調(diào)查。同時用tempo_distributor_buffered_produce_bytes / tempo_distributor_buffered_produce_bytes_limit觀察緩沖占用。七、自定義與維護建議改閾值覆蓋config.libsonnet的_config.alerts對應(yīng)鍵例如把outstanding_blocks_warning調(diào)到 150改組件名覆蓋_config.jobs中的正則適配非默認的job標簽限定范圍覆蓋_config.namespace如tempo-prod縮小告警與儀表盤的作用域格式化與 CI提交前運行make fmt統(tǒng)一格式在 CI 中執(zhí)行make check校驗編譯產(chǎn)物與源碼一致避免改了源碼忘更新產(chǎn)物產(chǎn)物再分發(fā)operations/tempo-mixin-compiled/下的alerts.yaml、rules.yaml可直接由 Prometheus Operator 的PrometheusRuleCRD 引用或作為靜態(tài)規(guī)則文件掛載10 個儀表盤 JSON 可通過 Grafana provisioning 批量導(dǎo)入。八、總結(jié)tempo-mixin將 Grafana Tempo 的監(jiān)控最佳實踐沉淀為可版本化、可參數(shù)化的 Jsonnet 代碼config.libsonnet集中管理全部閾值與選擇器alerts.libsonnet定義了覆蓋環(huán)成員、blocklist/索引、Kafka 滯后、調(diào)度器、寫路徑與指標生成器的 32 條告警rules.libsonnet提供延遲直方圖預(yù)聚合dashboards.libsonnet按讀/寫/資源/租戶等維度組織 10 個儀表盤而runbook.md為每條告警配套了從公式判斷到快速檢查命令的完整排障路徑。無論是直接使用tempo-mixin-compiled產(chǎn)物快速接入監(jiān)控還是 fork 后定制自己的閾值與組件映射這份 mixin 都是運維 Tempo 集群最值得依賴的起點?!久赓M下載鏈接】tempoGrafana Tempo is a high volume, minimal dependency distributed tracing backend.項目地址: https://gitcode.com/GitHub_Trending/tempo1/tempo創(chuàng)作聲明:本文部分內(nèi)容由AI輔助生成(AIGC),僅供參考
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
婷婷精品在线| 亚洲情欲久久| 久久性爱视频这里只有精品| 婷婷激情视频| 婷婷五月综合丁香久久| 五月丁香激情综合| 超碰免费人妻| 综合五月丁香六月婷婷| 久久精品视频9| 五月丁香婷婷婷激情爱爱| 成人AV在线电影| 亚洲综合婷婷六月丁香五月| 蜜臀AV在线成人| 九九热内射| 色婷婷电影| 五月激情网络| 亚洲五月天综合| 伊人三级激情| 日韩大片艹艹| 激情丁香久久| 99热99在线精品| 亚洲色色色| 91碰超| ji'qing'luan'ren'lun| 婷婷久久五月天亚洲欧美国产日韩在线观看 | 中文字幕综合网| www,五月丁,com| 精品牛仔裤超碰| 91丨九色丨国产| www.色婷婷| 五月丁香六月婷婷成人电影| 五月天婷婷乱论小说| 欧美丁香六月激情视频| www.minyis.com【JT】币址百万U预算可预付QQ2101460746 | 天天综合天天玩夜夜玩天天玩夜夜玩 | 大香蕉五月婷婷| 丁香五月天婷婷大香蕉| 亚洲123区高清入口| 国产精品18久久久| 99亚洲精品综合在线| 开心婷婷五月| 中字幕视频在线永久在线观看免费 | 色噜噜婷婷| 9999久久久久| 亚洲无码色| 五月丁香综合影院| 久草五月婷婷| 丁香色色网| WWW99热| 午夜丁香婷婷| 日韩在线成人电影| h亚洲| 国产免费一区二区三州老师F1F1……| 麻豆精品| 色色色综合色| 婷婷的激情五月| 婷婷香香五月| 六月丁香婷婷开心综合基地| 色久五月天| www.日韩艹| 七七九九色色| 久热精品视频| 色婷婷69| 欧美槡BBBB槡BBB少妇| 桃色五月天| 可以免费观看的av| 9 大屁股在线视频精品| 操久久网| 午夜不卡成人一区二区| 色噜噜狠狠色综合日日| 日韩成人电影AV| 婷婷五月激情五月激情| 伊人热在线大香蕉| 婷婷色色欧美| 五月天丁香啪啪综合| 五月婷婷色男女| 丁香五月综合福利视频导航| 丁香五月播播| 超碰成人免费| 色色色五月| 色呦呦美女| av久热| 五月天婷婷黄色视频| 激情校园 亚洲| 综合图区激情| 五月丁香综合在线| 蜜桃婷婷狠狠久久综合| 97激情五月天| 色99在线观看| 免费无码毛片一区二区A片| 91色呦哟| 色色日韩网| 五月天婷婷爱丁香中文字幕| 乱码操操| 日本在线wwww| 六月丁香综合网| 五月婷婷成人| 色五月,com| 日本久久99久久| 丁香五月天天哦| 五月婷AV| 色五月婷婷五月天| 99热日韩| 九九热在线视频| 色色色热| 婷婷色色丁香五月天| bbwcuckold精品熟妇| 精品51XX| 搡BBBB搡BBB搡五十| A1片久久| Www.激情| 婷婷视频在线碰| 五月丁香啪啪激情| 五月婷婷丁香| 五月婷婷亚洲色图| 26uuu亚洲欧美| 日日.c| 色99久草在线| 丁香五月激情月| 婷婷五月色情| 欧美乱码国产一级A片| 五月天开心激情网色欲无码| 99久久久久久| 日本视频欧美观看免费| 日日爽天天| 六月婷婷色| 五月色丁香婷婷综合| 久久五月天大美女| 99热这里只有精品1| 色婷婷玖玖影院| 日日干日日s| 激情九月婷婷| 大香蕉婷婷丁香天堂AV| 色啪网| 亚洲Av成人在线观看| 天天操夜夜玩!| 91碰碰| 丁香婷婷五月综合影院| 成人 视频免费观看网站| 97se在线视频| 亚洲婷婷五月天| www,99热在线观看| 青草少妇激情| 色色色9 9 9| 激情五月天婷婷视频| 九九性视频| 伊人激情| 国产成人精品一区二三区熟女在线 | 丁香五月a| 欧美成人精品A片免费一区99| www.99婷婷| 五月丁香六月婷婷国产视频| 丁香婷婷91在线观看视频| 99思思| 丁香婷婷浪潮AV久久综合| 亚洲人妻一区二区| 激情五月天婷婷色色色色色色色色色色色 | 97干网站| 婷婷六月激情小说网| 日日夜夜狠狠| 久久99视频| 久久 婷婷 五月天| 亚洲婷婷丁香五月在线| 九七色色六月丁香| 99人妻碰碰碰久久久久视| 超碰在线中文字幕| 日本色婷婷| 九九免费精品在线视频| 性爱111111| 婷婷.com| 久久婷婷精品| 五月天婷婷狂暴白浆| 99色1| 亚洲激情Av| 婷婷五月激情六月| 色五月激情问网站| 久久久免费图片视频| 国产裸舞表演WWWW| 99精品自拍| 可以免费观看的AV| 吉澤明步Av一區二區| 99人人精品| 日韩啪啪视频| A网在线欧洲| 久久久潮喷-久久久九九-成人AV| 高清不卡一区| 激情五月色综合国产精品| 天天操天天插天天射| 99热一区| 亚洲激情 久久| 久久5 9视频免费观看| 欧美va欧美va差| 久久九⑨| 91男同视频| 天天狠狠六月婷丁香影院| 丁香五月停停基地| 美女婷婷激情亚洲| 伊人久久婷婷| 亚洲电影在线观看| 久9视频| ...婷婷国产成人亚洲日韩| 丁香色婷婷色手机免费在线| 婷婷99| 婷婷五月天色综合| 熟女乱论网| 1024在线视频| 大伊香蕉精品视频在线 | 五月激情在线| 激情五月综合| 婷婷 月 丁香| 99精品这里只有免费视频| 人妻Av在线| 99精品视频免费观看| 六月丁香激情婷婷| 狠狠舔| 中文字幕高清av| 久久人人看| 噜噜视频| 九九精品网| 欧美性二区| 婷婷五月综合网激情| 天天影院色| 婷婷久久草| 这里只有精品视频在线观看免费| 色婷婷大香蕉| 天堂综合久久| 久久天堂婷婷五月| 欧美日韩国产成人在线| 在线观看免费观看在线9久| 视频一二区| 成人做爰A片免费看网站找不到了| 久热只有精品| 色色网站在线| 色欲一区二区三区精品A片| 无码一区二区三区四区五区| 韩日在线熟女| 日韩欧美一区二区三区四区| 秋霞黄色一级久久| 久久婷婷丁香五月一二三| 99久久婷婷五月综合| 亚洲欧洲美女在线观| 99操逼| 97碰久久| 丁香五月六月| 久久久婷| 大地资源色婷婷视频在线| 大香蕉九九| 夜色综合网| 在线只有精品| 欧美综合123区| 美国十月色婷婷在线观看| 成人综合伍月天| 求可以看的AV网址| A色色| 五月丁香婷中文字幕| 97色色色视屏| 成人网站免费sxj| 精品国产va久久久久| 激情综合色网| 九九热在视频| 五月丁香婷婷人体| 26uuu欧美日本| 日韩乱玛久久| 色婷婷的五月天| 日日天天干| 丁香婷婷深情五月亚洲| 五月婷婷偷拍| av国产精品| 久久久天堂国产精品女人| 超碰碰碰碰| 色色亚洲| 超碰激情五月| 亚洲精品网站色视频| WWW,色五月| 欧日韩AV| 亚洲狠狠干| 六月撸婷婷| www.久久爱.c n| 人人操操| 五月丁香婷婷五月色| WWW.桔色成人.COM入口| 99热无码首页| 色色色综合| 日本人妻伦在线中文字幕| 成人无码髙潮喷水A片| 欧美 色婷婷| www. 五月. com| 国产激情在线| 久久伊人日日夜夜| 六月婷婷激情| 99精品视频在线观看| 夜夜嗨一区二区三区直播内容 | 婷婷激情综合无月| 精品成人a v无码内射| 97色在线观看视频| av操逼网| 97在线碰| 婷婷色基地| AV在线大香蕉| 一级内射毛片| 婷婷六月激情小说网| 色香五月天| 婷婷五月天免费视频| 九九这里是免费的视频5| 人妻内射视频| 日亚二欧美| 五月天婷婷激情在线色图| 六月色婷婷| www,99色| 激情五月六月婷婷综合啪啪| 色啪综合| 人妻操日日| 久久狠狠欧美| 色色国产| 99操不停| 天天肏天天插| 九九99在线免费在线观看视频| 成人在线观看国产| 欧美日韩成人在线| 久热69| 婷婷成人基地| 丁香六月综合激情| 26uuu丁香婷婷五月| 色欧美色色色| 丁香久久AV| 久久婷婷五月天| 亚洲欧洲中文日韩久久AV乱码| 性爱网六月丁香| 色婷婷综合中心| 久久五月激情综合| 91精品婷婷国产综合| 五月丁香久久呀| 五月天婷婷久久| 综合 蜜月 婷婷| 久久五月天激情视频| 九色91视频| 中文字幕人妻AV| 情情五月天色| 精品夜夜澡人妻无码AV| 去干网av| 五月天色不卡| 国产激情久久久| .comwww在线观看免费操| 日韩人妻无码一区二区| 色噜噜狠狠色综合日日| 这里只有精品视频222| 婷婷色综合| 中文字幕不卡网站| 人妻精品久久久久久| 九九热精品视频在线观看| 天堂色婷婷| 久久这里只有精品8| 久久激丁香| 亚洲熟妇AV综合网五月丁香伊人| 另类视频在线| 久久av电影| 久99| 思思久久96热在精品国产,| 99精品久久| 操操自拍| 欧美性丁香色色五月天干干| 在线观看熟女少妇| 人人操AV| 亚洲国产色色| 午夜丁香综合婷婷| 九九九九这里只有精品| 九九99视频精品| www.狠狠| 欧美va亚洲va在线播放| www亚洲无码| 日本美女五月天| 91玖玖| 97干在线| 内射丰满人妻| 欧美色偷偷大香| 久色资源| 99热最新网址| 国产看真人毛片爱做A片| 操逼在线视频| 亚洲色图日韩网址| 国产激情综合五月| 操大屄五月天视频| 99在线免费视频| 中文字幕AV网址| 狠狠干无码| 激情五月图| 国产婷婷婷| 亚洲成人在线五月天| 9999热精品| 久久婷婷网站| 激情丁香淫荡婷婷| 国产亚洲色婷婷久久99精品91 www.riverspirits.org www.hnnun.com www.changh | 日日操夜夜爽天天天| 搡BBBB搡BBB搡18| 26uuu亚洲欧美| 狠狠色噜噜狠狠亚洲A∨| 26uuu国产| 婷婷五月天av| 99综合五月免费视频色婷婷| 五月婷婷偷拍| 日本成人小说婷婷六月| 伊人色综合影院视频| XX色综合| 亭亭玉月丁香| 精品人妻久久久| 色播五月丁香综合| 伊人久久99| 久草热久草在线视频| 人妻自慰高清合集| 色亚洲无码| 伊人午夜综合色啪| www.射伊蕉婷婷| www.夜夜| 精品久久9| 五月丁香六月色情网欧美| 国产伊人大香蕉| 99色视频| 一区二区乱码视频| 色人妻五月| 51成人| 深夜婷婷 丁香| 99热1| 伊人狠狠操| 激情色色| 五月丁香六月婷婷久久肏| 大香网伊人久久综合| WWW,五月| 欧美性丁香色色五月天| 色五月激情视频在线综合| 蒲京久久无码视频| 欧洲第一无人区观看| 狠狠色噜噜狠狠| 五月天狠狠干| 99这里有精品免费| 色婷视频| 久草五月婷婷| 婷婷精品综合| 91 九色 入口| 99re在线免费视频| 日操夜操天天操不卡| 开心五月深爱五月| 另类小说五月天| 丁香五月天啪啪| Va另类视频| 丁香亭亭久久| 欧美激情五月综合| 婷婷国产综合| 青青草a在线| 久久资源网五月婷| 91碰超| 亚洲激情五月天| 婷婷丁香激情五月天色色| 婷婷五月激情热播| 天天色天天搡| 欧韩性爱| 在线VA视频| 热99这里只是精品| www99热| 黄色激情久久| 久久婷婷综合网| 成人av观看| WWW久| 五月婷婷|欧美| 五月天激情黄色网址| 久久久久久久久18久久| 色五月色五天色情网址| 99久久亚洲国产| 色偷偷人人| 日韩无码亚欧无码| 日韩国产在线免费观看| 伊人玖玖精品| 亚洲小视频免费播放| 婷婷综合在线| 天天爽—爽| 99热这里只有精品国产免费| 婷婷亚洲丁香五月| 婷婷干五月综合在线播放| 开心色五月天久久久久久久| 五月丁香婷婷深深爱| 丁香综合婷婷五月天| 欧洲色色| 丁香色五月天| 欧美性生交XXXXX无码小说| 色综合77777| 丁香六月婷婷久久亚洲天堂| 丁香婷婷五月色成人网站| 久久曰曰| 99热国产在线| 久久性爱视频| 国产真实乱对白精彩| 好叼操在线观看| 激情骚五月| 五月天综合久久| 激情五月天噢美| 69激情小说| 色色色成人网| 综合久久99| 北京熟妇搡BBBB搡BBBB | 亚洲色另类| 欧美色久| 亚洲精品无AMM毛片| 任你干aa| 丁香婷婷啪啪| 亚洲色情在线| 婷婷激情五月综合| 亚洲无码黄色| 色婷綜合网| 五月天播播中文字幕| 亚州操人在线视频| 九九99偷拍视频| 五月丁香精品| 99久久激情视频| 亚洲色综合| 另类五月激情| 俺也去婷婷五月天第五色| www狠狠| 狠狠综合网| 久久无码成人| 大香蕉伊人久久| 久久婷婷五月天激情唯美| 五月婷精品| 欧美天堂婷婷日韩| 激情综合五月激情17| 色五开心五月五月深深爱| 一级黄色影片| 人人插9| 啪啪啪五月天| 激情99| 五月天丁香婷婷社区| 日日干综合| 六月婷久久| 欧美日韩国产一二区| 色婷婷色五月另类综合| 久久人人九| 久综合4| 只有精品在线观看| 色玖玖综合网| 人人操女人| 欧美天天性| 无码任你操| 九月色婷婷综合| 天天摸日日舔狠狠添婷婷婷| 91久久99久久91熟女精品| 97碰碰在线观看视频| 五月天激情婷婷小说| 九九热在线视频| 大香蕉婷婷五月| 丁香六月婷婷综合欧美| 丁香六月成人| 日本不卡五月婷婷丁香| 国产日产亚系列精品版优势| 久久婷婷五月国产激情综合片| AA丁香综合激情| 婷婷五月综合社区在线| 九九精品在线网| 久久99国产综合精品免费 | 九九热精品| 夜色.cnm| 五月婷婷色五月| 大香蕉丁香婷婷| 九九视频精品在线免费 | 五月丁香色情| 亚洲中文字幕av| 久久性操| 丁香六月色婷婷| 亚洲色图五月丁香| 五月天激情久久| 性色av大香综合| 99热66| 夜夜爱影院| 一区=区操屄高清大全av| 99热99这里有免费的精品| 激情内射人妻1区2区3区| www..com色爱| 五月婷狠狠| 蜜乳中文字| 婷婷丁香综合色AV| 久久婷婷五月综合啪| 激情五月丁香六月综合AVXXXX| 天天久综合| 婷婷新网址| 99热这里只有精品1| 天堂五月婷婷| 99热这里只有精品免费| 热久久66| 午夜九九九九九九| 久热欧美| 九九亚洲小视频| 午夜AV网| 99热青青草| 性爱先锋AV| 亚洲亚洲人成综合网络| 五月丁香啪啪伦理电影| 淫视馆AV在线| 色五月亚洲| 六月天丁婷婷| 色色色色色五月丁香| 色五月激情网| 五月婷在线色视频| 久婷久婷激情肉| 九九九色综合| 六月天无码网址| 无码字幕中文| 99欧美| 五月丁香欧美| 日韩成人av在线| 青草青草视频2免费观看| 婷婷精品性性性性性性性| 五月综合丁| www.久热| 五月天成人小说| 天天做天天要天天爱| 九九色情网站| 欧美日韩99| 99热这里只有精品13| www色综合亚洲92| 天天天天天日| 丁香五月激情婷婷婷婷在线观看| 五六月婷婷| 色吧网综合| 97自拍视频在线| 色爱终和网| 人人操99| www五月天com| 高清无码一区二区三区四区| 骚五月婷婷| 午夜少妇在线观看视频| 日本一级特黄大片AAAAA级| 激情五月天无码| 久久九九玖玖| 一起操 91N.com| 午夜丁香婷婷| 久操大| 色亚洲欧洲| 热久久99视频| 九九国产视频| 色色色97| 日本nghangse中文字幕| 噼里啪啦在线观看免费完整版视频 | 五月丁香成人网| 日本色爽| 五月天综合影院| 五月婷婷伦理| 五月天综合在线| 99热碰碰| 日本三日本三级少妇三级66| 成人无码免费一区二区中文| 久久五月丁香| 青青草五月天| 97色干| 婷婷综合视频| 免费观看大片视频 丁香婷婷 六月欧美| 亚洲五月综合色播| 综合色五月天| 人人舔人人色人人高潮| 婷婷成人网五月天| 五月婷婷色色| 久久婷婷五月天激情新地址| 五月久久婷婷| 婷婷五月天堂| 五月丁香婷婷综合久久| 99亚洲视频| 色婷婷瘦婷婷日韩| 韩国19 主播内部福利vip免费播放| 第九色区AV在线| 亚洲精品第一色色色色色色| 国产真实乱了老女人视频| 九九黄色网| 思思热在线观看| 激情五月天影院| 亚洲五月花| 99这里只有精品视频| WWW久久久| 天天肏夜夜肏| 99热亚洲| 日本欧美成人片AAAA| 人人摸人人干| 婷婷丁香五月综合网| 乱轮A片| 精品一区二区三区木瓜| 六月婷婷亚洲| 五月天婷婷综合免费| 99免费| 日日夜夜天天| 色五月综合网| 天天干,夜夜爽| 欧美成人精品A片免费一区99| 久久视频在线视频| 碰碰碰97国产| 综合色婷婷| 成人版视频在线观看| 日本不卡中文字幕| 婷婷5月色| 色丁香在线视频| 激情五月婷婷在线| 色婷婷的五月天| 99热在线精品观看| 色9999日韩国产| 中文字幕中文有码在线| 97AV人人插人人操| 九九人人操| 五月丁香婷婷综合激情基地| www.丁香五月| 婷婷久久五月丁香| AA片在线观看视频在线播放| 99精品丰满| 五月丁香六月激情综合| 激情综合五月激情| 色色网站免费| 欧美久热| 综合久久十| 九月激情网| 五月社区婷婷激情| 色色色网站| 丁香九月激情| 五月天激情综合网| 婷婷五月天伊人在线| 色五月婷婷五月丁香五月| 中文字幕激情综合| 被强行糟蹋的女人A片| 综合九九久久| 综合五月亭亭9| 日日干夜夜干| 日本人人超碰| 久色网| 婷婷五月天综合小说网| 开心激情婷婷| 亚洲超级碰| 插插网爽妇五月丁香| 殴美综合激情五月天免费视频| 操人无码| 九九性爱网| 五月天伊人日日噜影片AV| 国产精品成人AV在线| 97干干干丁香| 在线播放中文字幕| 色开心五月婷婷丁香HD| 天天婷婷天天| 日韩婷婷| 67194中文字幕| 天天干、天天日日| 五月丁香啪啪网| 久久最新色| 激情色视频| 五月综合激情网| 色情久久久| 色婷婷亚洲精品天天综| 色色欧美色色色| 99综合色色色| 大香蕉五月天婷婷| 九九九午夜视频| 五月婷婷手机在线| 午夜少妇在线观看视频| 我爱大香蕉| 国产九九一区二区三区| 久久综合综合综合| 婷婷五月天激情五月天网站| 大地9中文在线观看免费高清| 97色色色| 99热精品99| 热婷婷久| 激情五月天伊人影院| 中文字幕无线久必| 成人色五月天| 国产99久久久国产精品免费看 | 五月婷婷激情综合| 五月丁香综合啪啪| 五月丁香婷婷综合久久| 五月婷婷婷综合网| EEUSS鲁片一区二区三区| 青青操日本摸摸看看| 天天操天天谢| 狠狠干五月| 亚洲九九99精品视频在线播放| 香蕉AV福利精品导航| 色久婷婷五月| 欧美99| 婷婷五月天激情在线观看 | 狠狠穞A片一區二區三區| 丁香五月性| 丁香五月婷婷六月| 少妇丁香婷婷 | 五月天婷婷激情在线色图| 亚洲精品第一国产综合亚AV | 丁香五月天狠狠操| 丁香五月婷婷偷拍| 五月丁香激情四射| 五月丁香免费看| 另类激情五月天。| 五月天色丁香| 婷婷激情五月天在线视频| 少妇人妻人伦A片| 五月婷婷香蕉| 99久热视频在线| 亚洲第一第二网站| 99碰网站| 天天干,天天日| 婷婷五月欧美综合| 亚洲日本三级片| 色婷婷五月天激情在线观看| 国产肏屄大片| 丁香六月情| 亚洲激情电影五月天色婷婷丁香一起草 | 97干在线视频精品店| 激情五月丁香六月综合AVXXXX| 伊人久久大香线蕉AV最新午夜| 五月天婷婷综合网| 色色色综合网| 日韩黄色中文字幕| 久久99热在线观看| 欧美色99| 伊人激情AV一区二区三区| 97五月天婷婷| 久久刺激网| 国产精品人人做人人爽人人添| 99色免费视频| PORNY九色9l自拍视频成人| 91精品综合久久久久久五月丁香| 人人操超踫| 九九色色色| 婷婷大香蕉| 丁香六月婷婷一区二区三区| 色色五月婷婷久久| 欧洲第一无人区观看| 婷婷五月激情视频| 操91| 亚洲成人精品三区| www,天天干| 丁香五月婷婷在线视频| 国产 亚洲 在线| 在线视频婷婷| 久久精品婷婷| 婷婷丁香综合成人| 日本久久99| 日本97在线看片| 99在线小视频| 深爱五月激情| 亚洲开心激情网| 亚洲性爱电影| 精品成人在线| 天天爽人人综合免费7799| 97干干干丁香| 日韩啪啪视频| 五月婷婷 激情五月| 草综合网| 五月丁香婷婷婷激情爱爱| 夜精品无码A片一区二区蜜桃| 丁香五月婷婷AV在线| 日本狠狠爽| 亚洲五月天婷婷| 九九热内射| 丁香六月婷婷| 激情另类综合| 婷婷激情六月| 久久99成人性爱高清视频| AV堂狠狠干| 色婷六月| 精品操逼一区二区| 中文字幕乱码亚洲精品一区| 国产激情AV| 色色AV色色色东莞| 久久网思思| 99热在线里有精品| 中文字幕在线免费观看视频| 91在线视频综合| 中文字幕综合色| 国产肥白大熟妇BBBB视频| 久久伊人大香蕉| 国产亚洲精品久久一区二区三区| 五月丁香婷婷激情澎湃四射| 99er免费在线观看| 依人大香蕉| 欧美色97| 日韩操女| 91热久| 五月婷狠狠| 日韩在线视频9色| 黄色热99| 97在线99| 综合色五月亭亭| 99年操人人爽| AV大片在线播放| 亚洲无AV在线中文字幕| 色色99| 国产亚洲精品AAAAAAA片| 五月丁香六月婷综合成人综合| 色播婷婷大香蕉| 激情六月天婷婷| 日韩av在线免费观看| 99精品无码| www.色婷婷| 99九九视频| 棕合影院色色| 丁香五月影院| site:pnnrt.com| 综合激情婷婷| 搡BBBB搡BBB搡18| 日韩综合成人| 婷婷狠狠青青| 狠狠干狠狠操狠狠爱| 五月天色站| av线电影| 夜夜爱伊人| 99热精品在线播放| 狠狠看狠狠| 婷婷黄色五月天在线视频| 天天色伊人| 熟女五月天久久综合| www开心激情网| 综合色五月| 天天噜| 久久草大香蕉| 亚洲爆乳无码精品AAA片蜜桃| 99网| 综合久久综合五月天婷婷| 黄色五月婷| 久久色区| 五月花成人网| 天天做天天爱天天要| 婷婷婷婷婷婷婷婷| www,久久久| 久久久久久人妻| 日B日潘金莲BB| 视频1区2区| 可以免费观看的av网址| 99综合99| 日本色婷婷| 丁香六月婷婷久久综合| 五月综合激情啪啪啪啪啪| 99国产欧美视频| 狠狠操狠狠爱| 能直接看的AV网站| 五月丁香自拍| 99国产精品久久久久久久久久久 | 久久人妻乱| 色色五月婷婷| 国产亚洲AV人片在线| 色欲五月婷婷| 91操操操| 色七七九九| 青草视频在线观看视频| 丁香久月| 亚洲综合干| 开心激情站| 国产成人精品一区二三区熟女在线 | 婷婷 伊人 久久| 婷婷五月天伊人在线| 美国色五月天婷婷资源站| 五月天综合网| 色婷婷无吗| .操區COm| 97热在线精品| 激情操逼婷婷| 99热最新网址| 狠狠色丁婷婷日日,伊人激情综合网| 色私五月婷婷| www.五月天婷婷| 中国丰满熟女A片免费观| 久婷久婷| wwwC0maV五月花| 97人人干人人操| 成人va在线| 人妻操逼| 丁香五月婷婷激情网| 情色五月天 网站| 99综合色色色| 色五月五月婷婷| 欧美婷婷色| 午夜丁香丁香婷婷| 无码99| 北条麻妃伊人 | 高清无码入口| 婷婷玖玖五月天| 中文字幕性爱丰满| 色色激情五月天| 最新av在线观看| 99看片| 9色婷婷| 丁香婷婷丁香五月欧美人| 91精品无码| 在线99精品| 韩国三级五月天婷婷。| 国产成人一区二区三区在线观看| 97碰久久| 五月天婷婷AV| 青青草五月天| 2025天天操| 操操操97| 五月激情丁香五月宗合| 狠狠色成人影片| 婷婷天堂综合| 99久久婷婷五月综合| 婷婷国产欧美97| 免费在线观看欧美激情xx小视频| 天天综合网~91| 五月丁香AV、伊人业余、性色熟妇| 亚洲中文乱字字幕在线永久| 色欲色天天香综合| 97干在线观看视频| 超碰a女人的天堂| 99热都是精品| 五月婷婷黄色毛片| 无码人妻一区| 99caobi| 五月丁香六月情| 婷婷五月欧美| 丁香婷婷视频在线| 91oumei| 久久丁香五月天| 综合激情sV| 五月天激情小说网| 日韩在线99| 久久婷丁香五月| 开心五月综合激情网| 99视频在线播放大全| 久久婷视频| 天堂久久精品| 亚洲思思热久| 激情婷婷丁香| 99精品视频在线| 狠狠干五月| 日屌日日操日日色| 色婷婷瘦婷婷日韩| 午夜亚洲国产精品av一区二区| 亭亭色网| 激情图片五月天| 欧美激情xxxXX| 一级片操逼视频| 九九热视频精品| 99热99美国在线观看| 日本综合久久| 婷婷久久五月| 九八Av| 人人爽欧美婷婷久久久五月丁香| 婷婷丁香综合| 色五月婷婷久久| 五月婷婷色男女| 67194中文在线| 久久婷婷五月天激情| 91久久1118| 极品少妇高潮啪啪AV无码| 开心五月婷婷99| 久久久99日本大片| 色香欲综合| 思思热再线视频| 久久99久久久久久久噜噜| 国产99久久久| 狠狠色丁婷婷日日,伊人激情综合网| 碰碰人人人| 丁香 久久| 综合激情五月丁香9999久久精| 六月婷婷综合网2| 国产婷婷五月天| 丁香五月激情欧欧美| 在线免费观看激情视频| 六月99天天婷婷激情综合| 五月婷婷丁香五月亚洲色| 狠狠色噜噜色狠狠狠综合色| 91色久| 欧美视频在线观看噜噜| 激情四射婷婷色色色| 99色色网| 色情成人五月天| 熟女乱论网| 青青草Avb在线| 天天操天天插| 丁香五月天啪啪| 日本本土色网第一区| 五月深情久久| 天天色粽合合合合合合合| 五月婷婷婷婷网| 婷婷激情丁香五月婷婷激情丁香五月婷婷 | 九九碰九九爱97| 五月婷婷说| 国产色色在线| 伊人久久大香线蕉综合网站| 色综合色色| 九九99热| 另类激情五月| www.久久爱| www.五月婷| 亚洲精品字幕| 9色在线| 噜噜国产| 开心五月婷婷在线视频免费观看| 日韩在线视频网站| 99热99日天天干| 五月天婷婷基地| 久久在这里99| 五月婷婷丁香网| 色情五月天首页| 色噜噜狠狠色综合无码久久欧美| 丁香五月婷婷综合91| 色欧美一级| 日日夜夜干| 久久永久视频| 色婷婷丁香五月在线观看| 天天操天天操| se99高清无码| 婷婷少妇激情| 99啪在线视频| 玖玖婷婷免费| 做爰丰满少妇1313| 99久久极情精品一区| 玖玖99免费视频| 久久五月综合| 99er6热在线观看精品6| 人人操Av| 五月丁香六月综合情在线观看| 五月 成人 婷婷| 综合九九久久| 婷婷激情97| 五月丁香六月激情| 人妻丰满精品一区二区A片| 日本狠狠干| 思思热99热| 99热超碰在线| 丁香色六月婷婷| 91婷色| 狼人婷婷综合| 激情綜合網址| 日本色色网站| 国产亚洲色婷婷久久99精品91| www.久久av.com| 色五月丁香五月婷婷五月成人网| 天天操,天天插| 色婷婷五月天天天天天天天天天| 久婷婷五月激情| 伊人丁香六月婷婷| 激情综合自拍五月婷婷色五月| 九月丁香婷婷| 国产精品久久99| 玖月婷婷爱丁香| 久热这里只有精品在线观看 | 五月天婷婷久久综合| 午夜精品777| 人人做人人看人人摸| 六月婷婷网站| 色性日本| 天天色,天天日,天天做| 99久在线精品99re8热| 综合在线色婷婷| 色偷偷色婷婷| 丁香婷婷基地| 激情五月婷| 欧美性生交A片免费看| 五月天婷婷婷| 96精品国产综合久久久久久| 色婷亚洲五月丁香| 日韩综合久久| 欧美丁香婷婷天天操| 色婷丨日丨天丨综合久久| 色婷婷色五月综合| 五月天另类视频| 激情AV在线| 天天干夜夜想| 亚洲日本韩国| 丁香五月 无码| 91干在线| 激情五婷精品网在线观看网址| 亚洲婷婷月丁香五月| 亚洲第一综合| 久久激情五月网| 五月天婷婷基地| 婷婷五月天另类视频| 久久久区区一久久久久久| 六月久久狠狠| 六月婷婷av| 婷婷丁香六月天| 婷婷天天五月天| 亚州操操| 综合99在线| 一级操逼内射在线视频| 五夜丁香| 99这里只有精品| 99久久五月婷婷| 97人人超| 婷婷色情小说| 99热亚洲| 国产精品久久久久久喷浆| 9久久久| 婷婷激情丁香五月天综合| 天天爽天天摸| 91久久婷婷| www.99色在线| 丁香九月婷婷综合| 九九九午夜影院成人| 五月天激情小说| 亚洲欧洲中文日韩久久AV乱码| 四色五月视频| 成人久久天天x资源站| 色色色色热| 99性爱| 伊人碰碰婷婷| 我爱婷婷五月天综合88| 97视频.干com| 久久六月婷婷| 激情五月婷婷综合| 亚州操人在线视频| 激情99| h亚洲| 五月婷婷丁香六月在线| www.99视频| 99色在线视频观看| 五月丁香六月日逼| 日本WWW九九九| 久久久久久99日本| 天天操天天日天天爱| 99网| 婷婷色五月91啪啪| 丁香五月,开心五月,成人婷婷| 婷婷五月在线播放| 国产精品久久久久久久久久免费| 性天堂久久| 91精品久久久久久综合五月天| 播播网色播播| 人人综合久| 五月婷婷在线综合| 国产99久久久国产精品免费看| 成人短视频在线| 色亭亭五月天丁香综合AV - 百度 - 百度| 97色碰| 99热最新| www.91在线观看| 夜色爱爱亚洲| 99热精品9| 亚洲操操操| 久久伊人大香蕉| 日日干日日| 久久亭亭电影| 人人看人人草人人摸| 97香蕉碰碰人妻国产欧美| 色色五月天丁香| 天天爽天天| 六月丁香成人| 激情六月一二| 99热在线观看| 国产夫妻操逼内射视频| 五月激情六月宗合| 五月停停999| 天堂综合久久| 日本精品九九九| 久久婷婷五月天蜜桃| 久久久亚洲成人无码A片| 米奇影视资源婷婷狠狠色激情欧美五月丁香| 99久久综合网| 只有精品视频在线观看| 久99热| 色情综合网| 五月丁香婷婷基地| 99久久99久久综合| 综合久久婷婷| 日本超碰在线| 五月丁香婷婷六月| 玖热精品综合视频| 俺去也五月天婷婷| 黄色aaaaa| 91Chinese在线| 热99精品视频观看| 狠狠五月天| 五月天小说激情| 亚洲狠狠色丁香婷婷综合久久| 丁香色播五月天| 一本到不卡高清DVD| 五月丁香六月婷婷亚洲综合| 五月天丁香花婷婷|