99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

內(nèi)存排查實(shí)戰(zhàn):從JVM OOM到Native崩潰的系統(tǒng)化思路

內(nèi)存排查實(shí)戰(zhàn):從JVM OOM到Native崩潰的系統(tǒng)化思路 如果程序是一輛行駛在道路上的車內(nèi)存就是它腳下的路面。路況好時你感覺不到它的存在一旦前方出現(xiàn)坑洞、裂縫或者突然收窄的車道車的性能再強(qiáng)也會瞬間失控。過去幾年里越來越多服務(wù)端應(yīng)用和嵌入式系統(tǒng)面臨的恰恰是這種“路況失控”問題Java 進(jìn)程冷不丁拋出OutOfMemoryError: Java heap spaceC 進(jìn)程在 Windows 上以0xc0000005也就是十進(jìn)制的3221225477退出或者 JVM 直接報出Native memory allocation (malloc) failed to allocate ... bytes。很多開發(fā)者的第一反應(yīng)是“加內(nèi)存”“重啟試試”“讓運(yùn)維擴(kuò)容”。但真正讓人頭疼的并不是單次崩潰而是這些問題的復(fù)現(xiàn)沒有規(guī)律業(yè)務(wù)高峰期出現(xiàn)、低峰期消失換了機(jī)器就復(fù)現(xiàn)不了升級一個小版本后突然頻發(fā)。這個問題的本質(zhì)是我們只看到了“內(nèi)存不夠”的表象卻沒有建立起一套系統(tǒng)化的內(nèi)存掌控能力。這就是我把這篇文章的主題概括為“Driving on Memory”的原因——不是介紹某一個具體工具的 API而是要幫你在內(nèi)存這條高速公路上把住方向盤。這篇文章會從底層概念講起但不做枯燥的教科書式鋪陳接著會帶你識別三類最常見的崩潰現(xiàn)場再分別給出 JVM 堆內(nèi)與系統(tǒng)級 native 內(nèi)存的排查方法最后會聊到車載、嵌入式這類“駕駛”場景里更苛刻的內(nèi)存治理要求并給出一份能直接落地到團(tuán)隊(duì)工程實(shí)踐的檢查清單。如果你已經(jīng)不止一次被 OOM、內(nèi)存泄漏或訪問違例折磨過這篇內(nèi)容會很適合你。1. 為什么內(nèi)存問題像一顆“延遲炸彈”普通 Bug 的特點(diǎn)是“只要觸發(fā)很快就暴露”。比如接口參數(shù)傳錯了跑一次測試就能發(fā)現(xiàn)數(shù)組越界在大多數(shù)語言里也比較容易定位。內(nèi)存問題卻相反它的爆發(fā)點(diǎn)往往離根因點(diǎn)非常遠(yuǎn)這也是它最難排查的原因。舉個常見的例子某個服務(wù)在啟動階段申請了一塊緩存正常情況下只占 200MB但緩存中的鍵沒有設(shè)計(jì)過期策略數(shù)據(jù)只增不減。第一天運(yùn)行很正常第二天內(nèi)存漲了 5%第三天又漲了 5%。由于總內(nèi)存還夠用GC 也還“撐得住”服務(wù)并不會立刻出問題。直到一周后的業(yè)務(wù)高峰期Old Gen被打滿GC 線程接近失控接口延遲從 30ms 變成 3 秒緊接著進(jìn)程 OOM 重啟。等你登錄服務(wù)器排查時進(jìn)程已經(jīng)重啟現(xiàn)場已經(jīng)沒了大半而根因竟然藏在一周前的某段代碼里。這就是內(nèi)存“延遲炸彈”的典型特征故障現(xiàn)象和故障根源在時間上被拉得很遠(yuǎn)。更麻煩的是內(nèi)存問題往往不會孤零零地出現(xiàn)。當(dāng)一個 JVM 進(jìn)程把系統(tǒng)內(nèi)存吃光同機(jī)器上的另一個 Java 進(jìn)程也會跟著遭殃最后看起來像多個應(yīng)用同時出故障很容易誤判成“網(wǎng)絡(luò)問題”或“數(shù)據(jù)庫問題”。要拆掉這顆炸彈靠“重啟”是沒有用的。你需要知道三個層面的信息第一內(nèi)存到底去哪了第二是誰在哪個階段申請的第三這種申請是否超出了可控范圍。下面我們從底層概念開始把這三件事講清楚。2. 內(nèi)存管理核心概念先搞懂程序向誰要內(nèi)存我們常說“程序占了多少內(nèi)存”但“內(nèi)存”這個詞在不同語境下含義完全不同。2.1 物理內(nèi)存與虛擬內(nèi)存CPU 真正直接訪問的是物理內(nèi)存條上的地址但現(xiàn)代操作系統(tǒng)并不會讓應(yīng)用程序直接接觸物理內(nèi)存而是給每個進(jìn)程提供一份獨(dú)立的虛擬地址空間。進(jìn)程看到的是從0x0開始的連續(xù)地址實(shí)際上這些地址要通過頁表轉(zhuǎn)換成物理地址。頁表由操作系統(tǒng)和硬件 MMUMemory Management Unit共同維護(hù)因此程序分配了一塊內(nèi)存不代表它立刻占用了同等大小的物理內(nèi)存。這個設(shè)計(jì)帶來的好處是隔離性A 進(jìn)程寫壞了自己的內(nèi)存不會直接改寫 B 進(jìn)程的數(shù)據(jù)。代價是一旦程序訪問了“沒有映射到物理內(nèi)存”的虛擬地址硬件就會觸發(fā)缺頁異?;蚨五e誤在 Windows 上這類錯誤通常會以0xc0000005呈現(xiàn)含義是訪問違例Access Violation。2.2 堆、棧、元數(shù)據(jù)區(qū)、native 內(nèi)存程序運(yùn)行時并不是只在一個地方申請內(nèi)存。按主流語言和運(yùn)行時劃分大致可以分為幾類區(qū)域主要用途典型管理方式溢出時常見表現(xiàn)棧函數(shù)調(diào)用、局部變量、返回地址編譯器自動分配和釋放棧溢出 StackOverflow堆動態(tài)創(chuàng)建的對象、集合、緩存運(yùn)行時 GC 或手動分配OOM、內(nèi)存泄漏元數(shù)據(jù)區(qū)/方法區(qū)類信息、常量、JIT 編譯產(chǎn)物GC 按需卸載Metaspace OOMnative 內(nèi)存JIT、GC 數(shù)據(jù)結(jié)構(gòu)、線程棧、DirectBuffer、JNI由運(yùn)行時向操作系統(tǒng)申請malloc 失敗、進(jìn)程崩潰很多 Java 開發(fā)者以為 OOM 就等于堆不夠大這是誤解。JVM 除了堆還會向操作系統(tǒng)申請大量 native 內(nèi)存。Metaspace、線程棧、JIT 編譯器代碼緩存以及 Java NIO 的 DirectBuffer 都不在堆內(nèi)。當(dāng)你使用-Xmx設(shè)置了 2GB 堆但 1000 個線程每個默認(rèn)棧大小 1MB線程棧就要占約 1GB如果再加上堆外緩存進(jìn)程實(shí)際占用的內(nèi)存可能遠(yuǎn)超-Xmx。因此排查進(jìn)程崩潰時不能只看堆還要看 RSS常駐內(nèi)存集。2.3 垃圾回收不是萬能的CPP 程序員需要手動管理內(nèi)存Java、Go 等語言引入了 GC看起來不用管內(nèi)存了但 GC 只能回收“運(yùn)行時認(rèn)為不再可達(dá)”的對象。如果業(yè)務(wù)代碼里某個集合一直被全局引用持有GC 永遠(yuǎn)不會回收它。表面上是 GC 不給力實(shí)際上是“內(nèi)存泄漏”在源頭不斷積累。理解這一點(diǎn)才能建立一個重要判斷內(nèi)存問題不是只有“分配太多”這一種成因還可能來自“該回收的沒有回收”和“運(yùn)行時申請方式不當(dāng)”。排查的時候先分清是哪一種再動手看代碼和工具。3. 識別崩潰現(xiàn)場從錯誤信息反推故障類型內(nèi)存故障的排查最好從第一現(xiàn)場的報錯信息入手。不要一看到OutOfMemoryError就去看堆大小也不要一看到進(jìn)程退出就懷疑是代碼 Bug。不同類型的信息對應(yīng)完全不同的排查路徑。3.1 JVM 進(jìn)程內(nèi) OOM第一種是 Java 應(yīng)用打印出的異常堆棧例如Exception in thread main java.lang.OutOfMemoryError: Java heap space at com.example.memory.OomDemo.main(OomDemo.java:12)這個錯誤的直接含義是 JVM 堆無法再分配新對象??赡艿挠|發(fā)因素包括堆設(shè)置過小、某個集合異常增長、存在內(nèi)存泄漏。如果要定位重點(diǎn)看的是“發(fā)生分配的位置”和“堆里占著內(nèi)存不放的對象是誰”而不是去猜-Xmx該設(shè)多大。此外還有Metaspace、GC overhead limit exceeded、Unable to create new native thread等變體。它們雖然都頂著OutOfMemoryError的名字實(shí)際成因并不相同。比如Unable to create new native thread往往是操作系統(tǒng)線程數(shù)限制或進(jìn)程地址空間不足導(dǎo)致的和 Java 堆幾乎沒有關(guān)系。3.2 Windows 上的 0xc0000005 / 3221225477很多開發(fā)者在 Windows 上跑程序時會看到類似提示Process finished with exit code 3221225477或者0xC0000005: Access violation reading location 0x00000000000000003221225477換算成十六進(jìn)制就是0xC0000005它對應(yīng) Windows 的STATUS_ACCESS_VIOLATION。這類錯誤通常不是 Java 堆溢出而是進(jìn)程嘗試訪問了沒有權(quán)限的地址。常見場景包括C/C 里對空指針或野指針解引用、JNI 調(diào)用的本地庫寫壞了內(nèi)存、JVM 自身在 native 層崩潰。遇到0xC0000005時首先要找崩潰現(xiàn)場日志。如果是 JVM 崩潰進(jìn)程的工作目錄下會生成hs_err_pidPID.log里面記錄了觸發(fā)崩潰的指令和線程棧。不要拿著這個退出碼去調(diào)整 JVM 堆大小那很可能跑偏。3.3 JVM 向操作系統(tǒng)申請內(nèi)存失敗第三種崩潰信息在服務(wù)端更常見它的報錯長這樣There is insufficient memory for the Java Runtime Environment to continue. Native memory allocation (malloc) failed to allocate 2046256 bytes for chunk注意這里的 2MB 左右分配聽起來很小卻失敗了。這說明問題大概率不在“某一次分配的量太大”而是操作系統(tǒng)層面已經(jīng)無法滿足內(nèi)存申請??赡茉虬ㄟM(jìn)程可用的虛擬地址空間耗盡、系統(tǒng)內(nèi)存被其他進(jìn)程占滿、容器 cgroup 內(nèi)存限制被觸發(fā)或者進(jìn)程間接導(dǎo)致的vm.max_map_count超過上限。這時候如果還在糾結(jié)“為什么 2MB 都分配不出來”方向就錯了。正確做法是先看整個機(jī)器的內(nèi)存水位再看進(jìn)程的 RSS 大小和線程數(shù)然后檢查是否被容器限制。4. 掌握觀測手段內(nèi)存排查不是靠猜內(nèi)存分析不能靠“我感覺內(nèi)存漲了”。沒有度量就沒有定位。關(guān)鍵要掌握三層觀察系統(tǒng)層、進(jìn)程層、運(yùn)行時層。4.1 系統(tǒng)層先看整機(jī)內(nèi)存水位在 Linux 上排查時我習(xí)慣按下面的順序看數(shù)據(jù)# 查看系統(tǒng)總內(nèi)存、已用內(nèi)存、可用內(nèi)存 free -h # 查看內(nèi)存詳細(xì)指標(biāo) cat /proc/meminfo | grep -E MemTotal|MemAvailable|CommitLimit|Committed_AS # 查看某個進(jìn)程的常駐內(nèi)存、虛擬內(nèi)存 ps -o pid,rss,vsz,%mem,cmd -p PID # 查看進(jìn)程的地址空間與物理內(nèi)存映射 pmap -x PIDfree -h輸出的available列比free列更接近真實(shí)可用內(nèi)存因?yàn)?Linux 的清緩存機(jī)制讓部分緩存內(nèi)存可以被迅速回收。如果available已經(jīng)很低就要進(jìn)一步找誰在占用。/proc/meminfo里的CommitLimit和Committed_AS值得單獨(dú)理解。它們對應(yīng)系統(tǒng)承諾給進(jìn)程的虛擬內(nèi)存總量。如果Committed_AS長期逼近CommitLimit即使物理內(nèi)存還有富余操作系統(tǒng)也可能拒絕新的內(nèi)存申請。4.2 JVM 進(jìn)程層堆和 native 都要監(jiān)控查看 Java 進(jìn)程的啟動參數(shù)時可以通過jcmd查看 JVM 實(shí)際生效的配置# 查看指定 JVM 進(jìn)程的基本信息 jcmd PID VM.flags # 查看堆當(dāng)前使用量 jcmd PID GC.heap_info # 查看類加載數(shù)量和元數(shù)據(jù)區(qū)使用量 jcmd PID VM.metadata比較推薦的做法是接入帶 GC 日志的啟動參數(shù)。GC 日志能明確告訴你堆是否頻繁 Full GC、每次 GC 后存活對象是否持續(xù)增長。如果存活對象一直增長內(nèi)存泄漏的概率非常高。4.3 容器環(huán)境小心只看 host 不看 cgroup容器化部署之后最常見的一個坑是在宿主機(jī)上執(zhí)行free -h發(fā)現(xiàn)內(nèi)存很充足但容器還是 OOM。原因在于容器使用的內(nèi)存上限由 cgroup 控制宿主機(jī)空閑不代表容器還有配額。排查容器內(nèi)存問題需要看容器自身的內(nèi)存統(tǒng)計(jì)# 在容器內(nèi)查看 cgroup 內(nèi)存限制與當(dāng)前用量 cat /sys/fs/cgroup/memory/memory.limit_in_bytes cat /sys/fs/cgroup/memory/memory.usage_in_bytes # 如果 cgroup v2 cat /sys/fs/cgroup/memory.max cat /sys/fs/cgroup/memory.current在 Kubernetes 中如果 Pod 頻繁被殺死kubectl describe pod的事件里會出現(xiàn)OOMKilled。這種問題先調(diào)整容器內(nèi)存上限再檢查 JVM 是否能感知到容器限制是常見的排查順序。5. 實(shí)戰(zhàn)從零定位一個 JVM 堆內(nèi)存 OOM理論講完我們做一個能完整跑通的最小實(shí)驗(yàn)。這個實(shí)驗(yàn)不需要復(fù)雜業(yè)務(wù)只需要一個會不停往集合里塞對象的 Java 類。5.1 模擬程序文件路徑src/main/java/com/example/memory/OomDemo.javapackage com.example.memory; import java.util.ArrayList; import java.util.List; /** * 最小 OOM 復(fù)現(xiàn)程序。 * 每次分配 1MB 數(shù)組并持有引用避免被 GC 回收。 * 請勿在生產(chǎn)環(huán)境直接運(yùn)行。 */ public class OomDemo { public static void main(String[] args) throws Exception { Listbyte[] cache new ArrayList(); int index 0; while (true) { cache.add(new byte[1024 * 1024]); index; if (index % 50 0) { System.out.println(allocated index MB); Thread.sleep(100); } } } }這段代碼的邏輯非常簡單循環(huán)創(chuàng)建 1MB 大小的字節(jié)數(shù)組并添加到Listbyte[]中。只要List不釋放引用數(shù)組就不會被 GC 回收。5.2 用有限堆啟動并自動生成 Heap Dump文件路徑run-oom-demo.sh#!/usr/bin/env bash java -Xms256m -Xmx256m \ -XX:HeapDumpOnOutOfMemoryError \ -XX:HeapDumpPath/tmp/oom-demo.hprof \ -cp target/classes \ com.example.memory.OomDemo這里的兩個參數(shù)很關(guān)鍵HeapDumpOnOutOfMemoryError表示在 OOM 時自動導(dǎo)出堆快照HeapDumpPath指定導(dǎo)出路徑。生產(chǎn)環(huán)境建議一開始就加上否則進(jìn)程重啟后很難找回現(xiàn)場。5.3 預(yù)期運(yùn)行結(jié)果程序運(yùn)行一小會兒后會看到類似這樣的輸出allocated 50 MB allocated 100 MB Exception in thread main java.lang.OutOfMemoryError: Java heap space at com.example.memory.OomDemo.main(OomDemo.java:14) java.lang.OutOfMemoryError: Java heap space Dumping heap to /tmp/oom-demo.hprof ... Heap dump file created [26572256 bytes in 0.051 secs]看到Heap dump file created說明堆快照已經(jīng)生成。接下來就可以用 MATEclipse Memory Analyzer或 VisualVM 打開/tmp/oom-demo.hprof按照“Dominator Tree”排序查看哪些對象占用了最大比例的內(nèi)存。最終看到的通常會是那個byte[]數(shù)組以及持有它的ArrayList。這個實(shí)驗(yàn)的價值在于幫你建立兩條排錯直覺第一-Xmx設(shè)多大不解決“引用不釋放”的問題第二堆轉(zhuǎn)儲文件的導(dǎo)出是 OOM 排查里最值得優(yōu)先確保的一步。真實(shí)業(yè)務(wù)中代碼會比這段復(fù)雜得多但分析思路完全一致先找到一個明確的根對象再看是一張表、一個緩存還是一個全局集合在“抱住”大量內(nèi)存不放。6. native 內(nèi)存分配失敗的另類排查JVM 的 OOM 通常能拿到異常堆棧native 分配失敗卻常常只有一段 “There is insufficient memory” 的啟動日志或崩潰日志。場景更接近“系統(tǒng)路況已經(jīng)堵死車還沒上高速就熄火了”。6.1 先把范圍縮小到三個方向遇到Native memory allocation (malloc) failed時第一件事不是加內(nèi)存而是快速判斷問題屬于哪一類。第一系統(tǒng)或容器真正沒有可分配內(nèi)存了。你會看到free -h中available極低或者 cgroup 的memory.max已經(jīng)被打滿進(jìn)程的 RSS 已經(jīng)接近限制值。此時要找的是進(jìn)程里誰占用了越多的 native 內(nèi)存。第二地址空間或內(nèi)核參數(shù)受限。有些系統(tǒng)默認(rèn)vm.max_map_count只有 65530如果進(jìn)程創(chuàng)建了大量線程、共享內(nèi)存或 JIT 代碼段可能導(dǎo)致映射數(shù)量超出限制后續(xù)小塊內(nèi)存分配都會失敗??梢杂孟旅娴拿畈榭春团R時調(diào)整# 查看當(dāng)前限制 sysctl vm.max_map_count # 臨時提高限制生產(chǎn)環(huán)境建議寫入 /etc/sysctl.conf 持久化 sysctl -w vm.max_map_count262144第三JVM 自身某些 region 設(shè)置不合理。比如 Metaspace 無上限但類加載異常、DirectBuffer 被不停申請而沒有釋放、線程數(shù)太多導(dǎo)致線程??臻g暴漲。這些雖然都以 native 內(nèi)存形式存在但根因在運(yùn)行時配置和代碼。6.2 一個典型的容器內(nèi)存踩坑場景假設(shè)一個 Java 應(yīng)用啟動命令是java -Xmx1024m -jar app.jar容器配置如下resources: requests: memory: 768Mi limits: memory: 768Mi這個配置繼續(xù)運(yùn)行的結(jié)局大概率是OOMKilled。原因很簡單JVM 以為可以堆外申請超過容器限制的內(nèi)存把-Xmx設(shè)置成 1GB容量上限卻被固定在 768MB。即使堆沒有打滿JIT、Metaspace、線程棧等額外內(nèi)存也可能讓總數(shù)越過 cgroup 限制。更穩(wěn)妥的做法是讓 JVM 感知容器限制并設(shè)置合理的堆外余量。以 JDK 10 以上的版本為例在容器內(nèi)啟用UseContainerSupport默認(rèn)開啟后JVM 會自動讀取 cgroup 限制團(tuán)隊(duì)實(shí)際部署時仍然要為堆外內(nèi)存預(yù)留約 25% 的余量不要盲目把-Xmx頂?shù)浇咏萜魃舷?。這個比例并不是固定公式但“堆外一定要留余量”這條原則是確定的。7. “Driving on Memory”的現(xiàn)實(shí)版車載與嵌入式系統(tǒng)中的內(nèi)存挑戰(zhàn)讀完前面的 JVM 與服務(wù)器場景再回到“Driving on Memory”這個標(biāo)題。車載智能座艙、自動駕駛域控制器這類嵌入式系統(tǒng)才是對內(nèi)存“駕駛”要求最苛刻的地方。這類系統(tǒng)有兩個突出特點(diǎn)。第一是資源受限內(nèi)存大小是硬件上早就定死的不可能像云端那樣靠“擴(kuò)容”解決第二是運(yùn)行周期極長車輛啟動后系統(tǒng)可能連續(xù)運(yùn)行數(shù)天甚至數(shù)月一個每天泄漏幾 KB 內(nèi)存的模塊經(jīng)過數(shù)月積累也會拖垮整個系統(tǒng)。更關(guān)鍵的是嵌入式系統(tǒng)一旦因?yàn)?OOM 重啟影響的可能不只是用戶體驗(yàn)還涉及功能安全。所以在設(shè)計(jì)階段就對內(nèi)存治理想得非常嚴(yán)格。具體到工程實(shí)踐嵌入式場景里更看重這幾件事靜態(tài)分配優(yōu)先。在系統(tǒng)啟動階段就確定主要內(nèi)存池的大小減少運(yùn)行期動態(tài)分配避免長期運(yùn)行后產(chǎn)生內(nèi)存碎片。分模塊設(shè)置內(nèi)存預(yù)算。每個組件能申請多少內(nèi)存一開始就有量化指標(biāo)超預(yù)算報警而不是等到系統(tǒng)整體 OOM。重視碎片化。動態(tài)分配和釋放頻繁后總剩余內(nèi)存可能還有但連續(xù)大塊內(nèi)存不足導(dǎo)致分配失敗。這和服務(wù)器上的 native malloc 失敗現(xiàn)象本質(zhì)一致。日志和狀態(tài)頁要設(shè)計(jì)好。車載設(shè)備無法隨時讓工程師連接調(diào)試器因此系統(tǒng)需要有內(nèi)存水位監(jiān)控、異??煺沼涗浐桶踩导墮C(jī)制。服務(wù)器場景里經(jīng)常被忽視的“長期運(yùn)行風(fēng)險”在嵌入式場景里被放到了最高優(yōu)先級。這也是“Driving on Memory”的核心含義內(nèi)存管理不是上線前的臨時檢查而是貫穿整個產(chǎn)品生命周期的駕駛能力。你以為自己只是在寫業(yè)務(wù)代碼實(shí)際上你每創(chuàng)建一條線程、一個緩存、一次 IO 緩沖區(qū)都在影響著系統(tǒng)的內(nèi)存軌跡。8. 內(nèi)存異常信息速查表下面用一張表格匯總前文提到的典型報錯方便你實(shí)際排查時對照。異常信息或退出碼直接含義常見根因第一排查方向OutOfMemoryError: Java heap spaceJava 堆無法分配對象堆過小、集合持有大量對象導(dǎo)出 Heap Dump查看大對象持有鏈OutOfMemoryError: Metaspace元數(shù)據(jù)區(qū)耗盡類加載器泄漏、動態(tài)生成類過多查看類加載數(shù)與 Metaspace 配置OutOfMemoryError: GC overhead limit exceededGC 頻繁但回收效果差堆基本被占滿先看堆容量和 GC 日志再做 Heap DumpProcess exited with code 3221225477Windows 訪問違例0xC0000005野指針、JNI native 崩潰查找hs_err_pid*.log分析崩潰棧Native memory allocation (malloc) failed to allocate ...JVM 無法向系統(tǒng)申請內(nèi)存系統(tǒng)/容器內(nèi)存不足、映射數(shù)超限檢查整機(jī)與 cgroup 內(nèi)存水位容器被OOMKilled進(jìn)程超過容器內(nèi)存限制堆外內(nèi)存占用超預(yù)算檢查 JVM 容器感知與內(nèi)存 limit 設(shè)置這份表格并不能覆蓋所有內(nèi)存問題但可以作為一條快速分類線。先把錯誤歸類再決定要不要看堆、看系統(tǒng)內(nèi)存還是看崩潰日志。很多排查卡殼往往是因?yàn)橐婚_始就進(jìn)錯了方向。9. 長期可落地的內(nèi)存治理實(shí)踐與其每次都“救火”不如把內(nèi)存治理變成工程日常。結(jié)合服務(wù)端與嵌入式項(xiàng)目的共性建議從下面幾個方面建立機(jī)制。第一從源頭控制分配。寫代碼時要明確大對象的生命周期哪些是短生命周期的局部對象哪些是全局緩存哪些是運(yùn)行時決定的動態(tài)集合。對緩存的引用一定要能清理否則遲早會變成“隱形的內(nèi)存泄漏”。接口返回大批量數(shù)據(jù)時優(yōu)先使用流式處理而不是一次性集合全量加載。第二建立內(nèi)存監(jiān)控的可觀測體系。Java 服務(wù)至少要有堆使用率、GC 次數(shù)與耗時、Metaspace、線程數(shù)、native 內(nèi)存估算和 RSS 指標(biāo)。接入 Prometheus 后可以給關(guān)鍵指標(biāo)配置告警。更重要的是留存歷史曲線否則內(nèi)存漲了 5% 時沒有人在意等漲到 90% 才發(fā)現(xiàn)排查難度會成倍上升。第三堅(jiān)持版本發(fā)布前做壓力測試。內(nèi)存問題有一個特點(diǎn)它在低負(fù)載下可能完全隱匿。只有在壓測中把請求量抬高到線上峰值的數(shù)倍才能暴露那些“請求量增長時內(nèi)存也線性增長”的代碼路徑。壓測時如果發(fā)現(xiàn)內(nèi)存曲線沒有回落不要繼續(xù)加負(fù)載先拉 Heap Dump 找根因。第四設(shè)計(jì)可回滾的配置與容量預(yù)案。無論怎么優(yōu)化線上環(huán)境仍可能出現(xiàn)突發(fā)流量或未知 Bug。發(fā)布前要考慮進(jìn)程內(nèi)存告警后能否快速摘流量、能否擴(kuò)容、能否回滾。提前設(shè)計(jì)好這三級預(yù)案遠(yuǎn)比崩潰后開會復(fù)盤更有效。第五新成員培訓(xùn)中加入“內(nèi)存基礎(chǔ)”。團(tuán)隊(duì)合作時代碼評審不只看業(yè)務(wù)邏輯還要看內(nèi)存邊界。新人最容易踩的坑是把無限增長的集合當(dāng)緩存、在定時任務(wù)里創(chuàng)建大對象卻不釋放、以及完全不理解容器內(nèi)存限制對 JVM 的影響。如果團(tuán)隊(duì)里人人都能識別出一段代碼“可能產(chǎn)生內(nèi)存問題”很多故障在評審階段就會被攔下。10. 寫在最后回到開頭那個比喻程序跑在內(nèi)存上就像車跑在路上。你不能等爆胎了才去補(bǔ)路而應(yīng)該形成一套持續(xù)的駕駛習(xí)慣——知道儀表盤每個數(shù)字的含義知道前方什么路況容易失控知道剎車方向和避險順序。Java 的 OOM、Windows 的0xc0000005、native malloc 失敗、容器 OOMKilled其實(shí)都是同一條路上不同的“事故形態(tài)”。真正能幫到你的不是某一個-Xmx參數(shù)也不是某一個分析工具而是你看到報錯之后能夠快速判斷這是堆的問題、GC 的問題、操作系統(tǒng)的問題還是代碼設(shè)計(jì)的問題。判斷對了排查只是時間問題判斷錯了加多少內(nèi)存都只是把事故推遲到下一次。建議你把文章里的速查表和排查步驟存下來下次再遇到內(nèi)存問題時先別急著改代碼把現(xiàn)場信息盡可能完整地收集起來GC 日志、堆轉(zhuǎn)儲、系統(tǒng)內(nèi)存快照、崩潰日志、最近發(fā)布記錄。掌握了這套方法論你才算真正在“Memory”這條路上穩(wěn)穩(wěn)開過車。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
五月六月伦理| 久re在线| 三级黄网站| 色狠狠六月| 五月天激情日色在线| 99自拍视频在线| 色综合综合色| 高清激情av在线观看| 第五婷婷伊人丁香| 五月丁香婷婷欧美色图视频五月丁香777电影 | 天天肏天天爽夜夜爽| 97干网站| 国产免费av在线| 嫩草AV久久伊人妇女超级A| 色热久| 天天日天天日天天搞| 99热大香蕉| 欧美激情-区二区三区| 婷婷五月情| 五月丁香六月欧美综合网站| 日本五月婷婷| 五月丁香亚洲综合| 久久人妻伦理| 日本成人噜噜噜| 伊人五月久久| 《》【无码】想被搞到爽AV应募而来的超M素人 西纯子 10musume-011723-01 | 亚洲性爱电影| 色婷婷五月综合在线| 六月丁香好婷婷| 九九sese| 婷婷丁香五月天综合网| 色五月婷婷丁香国产在线| 六月婷婷综合久久| 国产老熟妇亲子乱对白| 婷婷五月天AV在线| 亚洲综合无码| 黄网免费观看| 狠狠做五月| 九色91美女| 91超级碰人人操| 欧美A片在线视频免费观看| 97在线观看| 激情五月天小说网| 国产精品久久久久久久久久| www,奇米影视| 色婷婷久久9.com| 视频一区二区在线| 色黄啪啪| 五月婷婷啪啪啪| 日本视频欧美观看免费| 91AV婷婷| 那里有AV网址| 先锋资源996| 激情五月亚洲综合网| Av性爱网| 色婷婷在线视频综合| 天天狠狠插| 五月综合激情久久| 99热这里有精品2| 天天拍夜夜爽日日| www.日日夜夜.com| 狼人狠狠操| 91AV婷婷| 图片区 小说区 区 亚洲五月| 丁香五月激情五月| 欧美在线ee日韩| 六月婷婷毛片| www.婷婷,com| 日本人妻丁香婷婷久久寝取熟女五月| 色人妻五月| 精品无码视频| 亚洲午夜av| www.91九色| 五月天播播| 99色婷婷| 丁香熟女乱| 五月天激情四射网站| 日韩人妻在线观看| 丁香六月婷婷高清| 亚洲色另类| 久久婷婷五月综合啪| 996er热| 97人人操人人干| 亚洲九区| 五月丁香最新| 免费色色色| 丁香五月综合在线| 色99在线观看| 九色亚洲| 婷婷久久久| 日韩成人精品一区久久久久| 99爽视频| 新激情五月天| 99热自拍| 久久精热| 2018夜夜草| 99视频在线观看视频| 丁香花五月天激情| 久 久9 9 热 视 频| 99久在线观看| 婷婷丁香五月社区亚洲| 婷婷免费精品视频| 思思热在线| 色色色网站| 丁香99| www.99热视频| 婷婷婷婷婷婷婷婷| 国产偷人爽久久久久久老妇APP| 成人在线免费网址| 五月丁香婷婷AV天堂| 色情综合网| 亚洲愉拍99热成人精品| 伊人久久大香线蕉AV最新午夜| 这里只有精品免费在线视频| 激情九九六月激情免费视频| 久久九九Com| 色播五月丁香| 久久总和99| 内射人妻视频国内| 99er日韩| 色99在线视频| 看全色黄大色大片| 中文字幕婷婷五月天在线观看| AV网站免费在线| 天天综合色| 伊人三级激情| 色婷婷成人| 91丨九色丨大屁股| 色欲人妻综合aaaaaaaa网| 99色性爰网络| 丁香婷婷综合影院| 精品九九视频| 成 人片 黄 色 大 片| 亚洲黄色精品| 综合性爱网| 久操香蕉| 五月激情婷婷开心| 色综合99无码 | 日本精品人妻无码77777| 婷五月天六| 国产精品久久久60086| 人人摸人人摸| 五月天激情黄色小说在线观看| 亚洲热视频| 天天色天天操天天射| 四虎成人精品永久免费AV九九| 激情综合网五月激情| 八戒青柠影视剧在线观看| 久七香蕉| 夜色综合网| 碰碰人人人| 国产成人VA| 激情九月婷婷| 九九久久综合| 丁香婷婷啪啪| 天天色天天爱天天舔| 久久综合爱| 久久一级片| 深爱激清网| 九月丁香很很色| 99这里只有精品国产| 91成人性爱视频| 97性视频| 久久99热这里只有精品| 99re思思热在线视频| 色噜噜狠狠色综合成人网| 色综合偷拍| 天天色天天日天天舔| 色婷婷成人久久| 五月丁香六月婷婷a v| 五月天大香蕉| 人人爽人人爽人人爽人人爽| 天天干天天日蜜臀av| 丁香五月深爱五月婷婷| 丁香五月激情五月| 天天肏天天肏天天肏| 色五月综合97| 国产成人+综合亚洲+天堂| 9热精品| 亚洲啪啪网| 99热1| 九九热自拍| 人伦30P| 婷婷五月天av| 香蕉婷婷色五月| 东京热免费视频| 婷婷五月丁香六月伊人网| 99热91| 秋霞三级影视资源| 五月婷婷久久爱| 婷婷丁香激情综合色情| 久婷婷婷| 激情文学综合婷婷五月天丁香花| 五月丁香啪啪综合| 97碰在线视频| 丁香六月天婷婷色| 欧美性猛交99久久久99| 激情婷婷五月亚洲| 东北熟女高潮99综合99| AV在线大香蕉| 五月婷丁香在线视频在线| 亚洲精品字幕| 99啪啪网| 日日夜夜噜噜爽爽| 99热99久久| 日日色综合| 99热这里有精品24| 国产精品操| 99热这里只有精品9| 婷婷的五月天另类视频| 99久操| 色五月天综合网| 99热思思在线观看| 五月婷婷,狠狠操| 99热9| 天天摸天天高潮天天爽| 另类精品视频在线观看| 字幕网AV中文字幕| 日本99久久| 色婷婷综合中心| 天天综合网色欲香| 色五月婷婷色| 啪啪 综合网| 丁香色啪综合| 亚洲五月婷| 99国产精品白浆在线观看免费| 开心激情播播五月天| 丁香婷婷久久 | 国产色五月婷婷| 91狠狠色色丁香婷婷综合久久| 青草五月天| 思思久久青草热| 亚洲性爱电影| 91人无码久久久久久| 丁香五月大香蕉| 99热只有这里才是精品| 色婷五月婷婷| 婷婷射图五月天| 伊人婷婷大香蕉在线| 丁香五月影视| 日韩AAAAAAAAAAA片| 777久久综合视频| 麻豆精品| 99综合色色色| 无码激情AAAAA片-区区| 色五月婷婷综合| 久久性爱视频久久性爱视频| 五月色丁香国产在线视频| 99毛片| 丁香六月在线综合| 无码人妻精品一区二区蜜桃色欲| 久久婷婷六月综合| 狠狠色大香蕉| 五月婷婷69| 2023天天日夜夜爽| 丁香五月自拍| 亚洲色婷婷| 激情五月婷婷啪啪| 九九久99免费视频| 七月丁香婷婷 色色| 五月天综合视频| 青青草成人网| 婷婷五月丁香五月综合网| 亚洲丁香五月天在线视频| 丁香大香蕉| 99热99思午夜精品| 久综合4| 久热99| 99久久99九九99九九九| aa久久| 日日天天干| 五月天激情婷婷丁香| 秋霞三级色戒| 做爱夜夜干天天操| 婷婷色五月噜噜| 五月天激情影院| 丁香六月婷婷开心婷婷网| 91干婷婷| 任我肏视频精品| Av狠狠色丁香婷| 成人无码髙潮喷水A片| 日本久久网| 日亚二欧美| 五月婷亚洲精品| 五月婷色啪| 婷婷综合网伊人| 丁香五月激情欧欧美| 色狠狠五月天| 久久久er热| 五月婷婷高清| 伊人久久婷婷五月天激情四射| 九九热在线亚洲免费视频| 狠狠色噜噜狠狠狠狠综合| 色婷婷综合亚洲| 五月婷婷日| 亚洲精品成人片在线播| 丁香五婷婷| 任你爽精品免费视频6| 六月婷婷综合激情| 夜夜夜天天操| 婷婷丁香五月天在线视频| 五月婷婷香蕉| 五月婷色激情五月| 色综合久久88色综合天天看| 99热这里只有精品55| 91avse| 日本成人噜噜噜噜噜| AV在线观看网站| WWW五月天| 日韩精品一品二区三区的使用体验| 五月天婷婷av| 九九热在线精品| 99热免费| 99热这里只有精品1025| 色XX综合网| 26uuu精品国产| 日本三级第一页| 外国碰视频网站97| 天天五月天综合网址| 五月天婷婷在线视频| 97色综合视频| 九九爱看亚洲| 九九热精品| 亚洲综合另类| 玖玖热视频| 亚洲亚洲人成综合网络| 九九AV| 玖玖精品视频| 999热这里只有美国精品| 亚洲av网站在线观看| 五月天堂在线| 欧美内射AAAAAAXXXXX| 色99热| 国产成人99久久亚洲综合精品| 九九色综合| 爆乳熟妇一区二区三区爆乳| 丁香五月手机在线| 日本99视频精品免费播放| 丁香五月激情性色郤| 色99网| 久久色9| 色丁香五月天婷婷| 在线超碰精品| 国产婷婷五月色情综合| 丁香五月婷婷激情蜜桃| 亚洲激情网站| 久久久噜噜噜操操操| 伊人综合网4| 日日干天天| 99久久网站| 婷婷丁香亚洲色综合91| 久久色五月| 狠狠摸狠狠摸| 久久久99视频| 色五月在线观看| 99亚洲精美视频在线观看| 五月丁香六月激情欧美综合| 伊人久久综合| 97欧美在线| 亚洲人妻电影| AV在线免费播放| 婷婷丁香五月91| 亚洲秘 无码一区二区三区妃光/1| 丁香五月婷婷欧美成人色图| 天天操天天插| 综合久久婷婷| 少妇水多A片太爽了| 99热6这里之有精品| 99爱在线视频| 26UUU精品一区二区c〇m| 五月婷婷色在线| 色色色色色色97| 91丨九色丨首页| 婷婷丁香五月高清| 中文精品在| 可以看的AV| 亚洲视频在线观看99| 天天干天天干天天干| 深爱网深爱综合网| www.九月婷婷丁香.com| 婷婷伊人久久| 国产精品噜噜在线视频| WWW.五月com| 九九无码| 五月天天天开心激情网| 久久精品噜噜噜成人A∨色欲| 五月丁香六月激情综合| 国产日批视频免费播放| 99精品综合在线| 婷婷五月天视频| 亚洲中文字幕AV| 色五月婷婷基地| 亚洲狠狠狠色婷婷综合激情久久久| 色婷婷激情五月天丁香| 九九99免费理论| 国产五月丁香在线| 99re热在线视频观看| 激情小说视频图片| 五月丁香欧美在线| 久久色情| 中文字幕av久久爽| 五月天婷婷基地| 天天干天天爽天天操| 五月激情射| 久久五月视频| 另类 在线| WWW色综合| 久久久日韩特色特黄AAAA| 91人操| 五月婷婷色综图片| 五月丁香好婷婷A片网| 少妇性按摩无码中文A片| 婷婷五月天激情免费在线观看| 日本一道久久| 99caobi| 伊人色综合网| 久久五月激情综合| 五月婷婷婷婷网| 久久久精品视频79| 人人干女人| 人妻熟女一区二区AV| 色天堂在线| 亚州日本欧州韩美高青高潮一| 久久久久亚洲AV无码网影音先锋| 一区操| 97av在线视频| 久久久8| 婷婷五月花西瓜| 六月丁婷婷| 天天日夜夜欢| 99热在线爱| 怡红院AV亚洲一区二区三区H| 99久久99九九99九九九| 综合网亚洲| 五月丁香六月合| 操操操www.com| 成人电影在线免费试看| 四色五月视频| 亭亭丁香97| 色欲一区二区三区精品A片| 五月天久久综合| 狠狠激情五月天| 久久婷婷欧美| 婷婷开心青青草| 99er日韩| 天天色综和网| 91精品综合久久久久久五月丁香| WWW.婷婷五月天.COM| 97操在线资源| 狠狠色九月| 亚洲精品**不卡在线播he| 国产精品人人做人人爽人人添| 色碰碰视频| 99成人| 夜夜爱网站| 啪到高潮激情丁香五月| 色色AV色色色东莞| 色婷婷六月| 色色综合色| 热99热9| 99秘 在线| 婷婷五月精品在线| 色综合色综合网| 亚洲麻豆乱码国产2028| 色99热| 亚洲 五月 婷婷 成人| 另类小说婷婷色| 丁香五月激情澎湃一区| 九九99一区| 狠狠干五月丁香综合网| 五月天婷婷在线视频| 夜夜夜夜撸夜夜操| 色色综合激情| 色五月丁香婷婷| 五月婷婷深深爱| www.夜夜| 日本欧美啪啪| 第四色激情网| 大狠狠在线| WWW.99热| 亚欧州精品视频| 99久久婷婷国产综合精品草原| WWW,五月| 涩丁香| 玖玖五月丁香| 婷婷色色狠狠| 99久久免费精品| 人人色婷婷| 97久久超碰| 欧美性爱五月天| 国产成人AV| 色综合99色| 九月婷婷激情| 婷婷AV丁香| 久久人妻人人槡| 狠狠狠色激情综合适合| 丁香色色网| www,99视频| 另类亚洲视频| 色色色综合视频| 噜噜久| 久久9精品| 免费无码毛片一区二区A片| 亚洲AV成人无码精品| 97干视频在线| 99精品视频免费观看,| 色屌丝中文字幕| 六月 丁香 视频| 日本91在线播放| 色综合中文| 另类丁香五月天区图| 天天操人人干| 五月丁香久久| 好看的国产精品| 久久机热这里只有| 人妻熟妇国产精品| www.久久99精品| 亚洲激情四射| 思思热这里只有精品| 夜夜躁爽日日| 草草影院爱爱| 激情小说 五月天| 色婷婷综合网站| 最新无码专区| 麻豆科斗777| 26uuu成人网| 内射爽无广熟女亚洲| 91人人操人人看| 五月婷婷香蕉| 大香蕉av在线| 色综合丁香婷婷| 日韩操逼小电影| 日日夜夜干| 婷婷五月综合啪| 国色天香伊人狠狠色| 亚洲激情五月| 婷婷九月激情| 夜色综合网| 亚洲中文AV| 亚洲VA欧美VA| 97色婷婷| 九九青青草成人| 天天搞天天爽| 婷婷中文字暮| 99精品免费欧美小视频| 欧美三级巜人妻互换| 六月婷婷天天操夜夜爽视频| 精品久久99| 一起草无码| 久草五月天| 久综合4| 九九这里只这里只有精品| 成人 在线 日韩| 老师把我爽高潮了免费A片| 婷婷成人小说综合| 欧美 色婷婷| 婷婷五月天色综合翘| 狠狠色综合网| 97色色色视屏| 99噜噜噜在线播放| 激情5月婷婷狠狠干| 99在线免费视频| 激情五月天色色| 久久久香| 欧美极品999| 超碰99在线观看| 国产精典视频在线观看| 婷婷久久五月| 色频玖玖五月天| 丁香婷婷影院| 99高级会所久久| 香蕉久久av一区二区三区| 丁香五月天电影| 欧美色色色| 国产日比| 五月丁香999| 亚洲最大成人综合网720P| 99视频精品8 | 欧美丰满熟妇BBB久久久| 美女丁香五月天| 色婷婷亚洲婷婷| 国产淫熟妇| 北条麻妃伊人| 婷婷大乡焦噜噜| 91ncom.色| 99性视频| 狠狠五月激情丁香六月| 亚洲视频操| 久/久精品99看9| 99久热这里有精品| 九九色情网五月天| 91干| er99免费视频在线| 午夜日韩久久久网站| 热99精品视频五月| 5月丁香婷婷| 99在线视频观看| 99热在线观看免费精品| 99综合网| 9999热在线| 91干在线| 五月色天五月色| 99久久五月丁香野外| 大香蕉综合在线| 99高级会所久久| 狠狠色婷| 五月天综合视频| 丁香五月亚洲综合| 五月丁香性爱| 婷婷在线中文字幕| 五月婷婷综合激情网| 99人这里只有精品| 9久久久| 亚洲天堂99| 99视频在线精品免费观看2| 色婷婷五月色| 婷婷综合国产| 色狠狠综合| 五月天综合在线观看| 激情综合色| 丁香深五月婷婷| 婷婷丁香成人| www五月天com| 国产欧美日韩一区二区三区| 五月丁香好婷婷A片网| 少妇被躁爽到高潮无码文| 天天插天天射| 男女久久婷婷五月天| 激情丁香六月| 米奇影视资源婷婷狠狠色激情欧美五月丁香| 欧美日韩成人在线网| 五月天综合网| 婷婷久久大香蕉| 99视频这里只有精品10| 深爱激情小说五月婷婷| 热久久91| 久久影视婷婷五月| 啪啪日热| 香蕉久久av一区二区三区| 外国碰视频网站97| 婷婷播5月| 日操五月婷| 噜噜色天天开心| 婷婷第一页| 婷婷五月天桃花网| 96丁香六月婷婷蜜桃综合久久| AVDV久久| 丁香六月婷婷色XXXXX| 国产日日夜夜操| 婷婷五月天受日本法律保护| 一本久道综合99| 九九精品碰| 国产婷婷婷| 日本精品久久久久中文字幕| 色综合伊人网| 伊人五月天在线| 99九九精品视频| 96丁香六月婷婷蜜桃综合久久| 热99这里只有精品视频| 欧美毛片www| 婷婷久久国产视频| 在线看九一V图片| 久草性爱| 97干视频| 亚洲国产成人综合| 99熟女| 色~性~乱~伦~噜| www.色婷婷.com| 天天操夜夜操| 亚洲黄色精品| 九九九热精品| 丁香五月五月婷婷| 国产激情综合五月久久| 天天日天天舔| 99热在线观看| 懂色av粉嫩AV蜜臀AV| 超碰成人影视| 久久无意婷婷| 久久99综合网| 久热9| www.激情五月天。com| 99综合网| 精品一区二区三区四区五区六区介绍 | 丁香五月激情图片婷婷| 影音先锋男人站,影音先锋男人色资源网,影音先锋AV最新资源站,影音先锋AV资源 | 亚洲婷婷五月天| 久久XX| 中国操逼99| 九九99精品免费播放| 超碰啪啪网| 久久婷婷草| 99热免费精品| 欧美日韩AAAAA| 丁香婷婷啪啪啪| 亚洲99精品欧美一区| 99网99热| 操一区| 9色婷婷| 伊人婷婷五月天av| 五月天狠狠网站| 五月丁香亚洲五月| 色婷婷小说网| 久久婷婷五月天| 色色色色色色综合网| 第1影院之五月婷婷| 久久网日本| 天堂五月婷婷| 精品久久人妻| 婷婷久久色| 日本在线播放97| 婷婷丁香成人五月天| 二色av| 色情激情五月| 婷婷五月AV| 99热在线观看| 激情综合国产| 婷婷五月天熟妇| 丝袜激情网| 亚洲精品V天堂中文字幕| 久9热插入| 六月婷婷天天操夜夜爽视频| 无码 色| 五月激情六月综合| 九九九AAA热视频| 玖玖视频福利| 色丁香五月| 色情成人五月天| 丁香六月婷婷色播| 热热久久久久久久久| 狼人狠狠操| 婷婷影院A成人| 五月天堂色| 欧美日韩中国| 激情五月激情综合俺也去婷婷小说| 性色视频| 五月丁香网站| 九九九九国产| 综合图片色色| 免费91久久精品| 99热免费网站| 91婷婷搞| 五月天婷婷激情在线色图| 婷婷五月天xxx| 色色丁香婷婷| 玖玖婷婷色| 色久激情在线| 日本少妇裸体做爰高潮片| 天堂久久精品| 婷婷色操| 激情综合婷婷久久| 色综合综合色| 亚洲视频在线观看| 欧美激情五月天婷婷| www.99热在线观看| 97婷婷五月激情六月丁香伊人| 先锋资源996| 五月天色丁香| 97啪啪| 成人版视频在线观看| www.久久色.com| 日日做天天操夜夜爽| 五月色综合| 在线99热| 色色五月天婷婷| 1024婷婷综合久久五月天| 色狠久| www.ywav| 在线可以看的av网址| 婷婷五月综合国产精品| 亚洲开心激情网| 激情五月天丁香| 久久婷婷激情五月天一区二区| 九月激情网| 婷婷五月亚洲综合| 亚洲超碰在线| 97人妻碰碰中文无码久热丝袜| 欧美三级欧美一级| 91色在线/日韩| 亚洲欧美成人在线| 亭亭五月丁香综合欧美| 丁香五月天啪啪| 婷香五月网在线| 99热这里只有精| 在线观看亚洲AV| 五月天另类小说亚洲| 国产亚洲色婷婷久久99精品91| www.婷婷| 久久人妻熟女一区二区| 五月天婷婷五月| 五月天婷婷丁香成人网| 久久视频这里99| 久久9RE热视频精品98| 免费看欧美成人A片无码| 久9免费视频| 亚洲啪视频| 日韩免费乱轮网站| 噼里啪啦在线观看免费完整版视频| 天天色天天爽| 狠狠婷婷色综合| 天天爽,夜夜爽| 九热视频在线精品15| 99热九九热| 午夜九九电影| 秋霞网在线免费基地五月婷婷丁香| 五月激情婷婷国产精品久久久久久| 九九热99熟女| 九九久久综合| 久久这里只有精品22| 婷婷丁香综合| 婷婷五月天堂| 五月开心婷婷| 激情综合网色五月| 亚洲五月婷婷| 91wwmm导航| 久久精品婷婷| 综合天堂AV久久久久久久| 五月情婷婷| 六月色色| 91夫妻网站九色| 综合色影院| 色情五月丁香婷婷网| 超碰妻人人| 日韩婷婷| 综合五月天婷婷色| 99热老网站| 五月丁香综合精品欧美| 超碰97干| 五月丁香久久呀| 久久免费操| 艹B高清无码| 五月天婷婷基地综合网| 五月丁香六月激情狠狠| www.99精品视频| 亚洲国产无线乱码在线观看| 天天综合色| 色小说婷婷五月天天天| 99色在线观看视频| 97超碰免费超级在线观看| www.久久99热地址发布| 丁香网五月网| 青青.com| 99爱爱网| 国产操B| 五月亭亭开心网| 日本色五月| 校园激情 亚洲| 操人无码| 国产视频福利| 日本波多野结衣视频| 99在线观看精品视频| 人妻久久人妻久久第一区| 五月丁香久久久日婷婷久久婷婷日 | 青草视频在线蜜臀| 色999;丁香五月| 香蕉五月婷婷| 少妇高潮呻吟A片免费看软件| 超碰三级片| 久热网站| 亚洲成人乱码av网站| 天天曰夜夜爽| 91九色无码日韩| 欧美日韩国产成人在线| 午夜精品久久久久久久爽| www.婷婷| 99热亚洲| 久久9热| 噜噜色噜噜网| 思思热99在线视频| 丁香五月婷婷色五月| 五月丁香999| www.婷婷.com| 国产精品岛国片在线观看免费| 任你躁XXXXX麻豆精品| 99热精品在线观看| 久久六月天| 大香蕉久| 91欧美日韩综合| 在线天堂9| 成人综合视频在线| 国产无人区大片| 丁香五月婷婷基地| 激情五月天婷婷在线网址发给我| 激情婷婷网| 日日做天天操夜夜爽| 五月丁香婷婷五月色| 有码人妻久久| 日本婷婷丁香五月| 极品 少妇 内射| 伊人六月丁香婷婷| 这里只有精品在线播放| 婷婷成人综合五月| 伊人狠狠操| 色五月婷婷天天操夜夜操| 秋霞影音91人妻久久| 婷婷娱乐丁香综合网| 天天擼久久擼在线| 色综合色综合色综合| 99热这| 69色婷婷| 97人人操人人爽| 五月天综合色| 国产乱人偷精品人妻A片| 久久黄色片| AV在线不卡网站| 亚洲午夜Av| 久热成人| 丁香五月婷婷久久久| 六月五月久久丁香| 天天日日夜夜爽。| 99热这里只有精品8| 在线视频另类| www.色综合| 97超碰,人人舔,人人操,人人摸| 婷婷五月天国产性感美女演员久久久久| 99热亚州综合| 99色视频在线观看最新| 久久er免费视频| 这里只有九九精品| 免费亚洲婷婷五月| 五月丁香激情综合网| 1024亚洲无码| 亚洲操B视频| aⅤ79成人片| 日夜夜天天| 一本色道久久综合狠狠躁小说| 婷婷精品在线| 日产精品一线二线三线芒果| 亚洲第二AV| 丁香六月激情综合| 色婷婷五月天堂资源| 色婷婷亚洲婷婷在线观看| 99精品久久| 大香焦啪啪啪| 9久热在线视频精品| 亚洲色激婷| 国产激情综合五月久久| 五月天开心网| bukadeavzaixian| 色色无码日韩| 99热这| 国产精品18久久久| 99热在线看片| 3p日韩网站视频| 新激情五月天天在线网| 欧美大肥婆大肥BBBBB| 婷婷丁香视频| 狠狠干2007| 超碰在线免费9| 亚洲天堂婷婷丁香| 91色婷婷综合久久中文字幕二区| 五月丁香欧美综合免费视频| 97人凄人人操人人爽| 丁香婷婷五月份| 五月丁香六月婷综合成人综合| 婷婷情色激情| 丁香五月天激情| 99伊人性爱在线影院| 激情www.98com| 综合久久婷婷| 九九re视频在线视频| 2025最新亚洲激情在线| 五月天丁香网站| 51精品国内探花| 婷婷舔| 久久婷婷五月| 成人在线网站| 夜夜做夜夜愛| 国产亚洲成AV人片在线观黄桃| 99日精品视频| 久久这里只| 国产精品激情AV久久久青桔| 色色综合网站| 五月天激情四射网站| 亚洲182在线观看| 天天日狠狠| 人妻久久久久久久| 99热九九在线| 五月天久久www| 婷婷激情五月综合| 五月丁香花视频| 天天干夜夜想| 天堂成人A片永久免费网站| 97人人射| 丁香六月婷婷综合在线| 99激情| www99热| 激情五月天天狠狠久久| 殴美97色| 激情综合色五月丁香六月亚洲| 天天爽天天日| 婷婷射丁香| 天天日夜夜| 久久五月婷综合网| 天天高潮夜夜爽| 99久久超级| 5月丁香综合网| 久久思思热| 五月丁香激情五月天| 性欧美日本| 欧美大香蕉视频| 五月丁香婷婷激情在线| 国产亚洲成AV人片在线观黄桃| 狠狠狠婷婷五月综合| 九久9精品| 91热在线| 99热九九热| 另类激情五月| 97操在线视频| 婷婷啪啪| 中文字幕黄色片| 色99网| 欧美婷婷综合| 五月天激情黄色小说在线观看| 久久五月丁香| 天天干,天天舔| 亚洲免费婷婷| 狠狠香婷婷五月| 欧美人与性动交CCOO| sS丁香五月婷婷| 强壮的公次次弄得我高潮A片日本 | www,欧美干干干干干干| 99热最新网址| 国产性色蜜乳| 欧美色必爱| WWW,五月| a九九热www| 五月花免费视频| 99热思思久| 亚洲日韩乱码一区二区三区四区 | 五月婷婷亚洲综合网| 99热热热99精品婷婷| 99热这里只有精品在线播放| 五月丁香六月激情| 婷婷五月天激情免费在线观看| av在线免费网站| 亚洲免费av在线| 丁香综合婷婷开心激情网| 狠狠干狠狠干| 另类国产综合| 97香蕉人人在线观看| 伊人久久大香蕉网| 午夜大香蕉| 日韩限制级大尺度黑料泄密大尺度视频一区二区在线观看 | 天天操天天操天天操天天操天天操 | 丁香五月婷婷啪啪啪| 激情五月天色播| 丁香五月精品视频| 色婷婷五月综合激情中文字幕| 五月综合激情视频| 97碰人人操| 五月婷婷综合网| 久久永久网址| 99热人人艹| 久久婷婷网站| 俺五月| 久久婷婷的综合色丁香五月| 婷婷五月天精品| www.av骚货| 任你搞网站| 九八Av| 美女激情综合| 操操操av| Caop在线| 99ER热精品视频| 丁香色五月婷婷| 天天插天天插天天操| 狠狠色综合图片| 内射综合网| 久久五月婷天天干| 强伦轩人妻一区二区电影| 99热这里只有精品8| 97 A I色色| 99热国产在| 色色综合院| 亚洲爆乳无码精品AAA片蜜桃| 99精品在线观看视频| 天天日天天做天天舔| 久久综合综合综合| 中文字幕在线观看视频www| 国产亚洲精久久久久| 2015好吊操| 亚洲熟女乱色综合亚洲网站| 俺去也五月天| 色婷婷成人五月| 99这里只有精品8| 九九热99免费视频| 99热在线观看| 99热这里只有精彩| AA丁香综合激情| 五月丁香六月婷婷不卡免费无码| 丁香五月婷婷色情综合| 色都都狠狠色都都色综合色| 亚洲成人在线播放| 一本色道久久综合狠狠躁小说| 无码G高清天| 99热九九这里只有精品| 欧美激情-区二区三区| 成人国产欧美大片一区| 伊人99热| 五月天色不卡| 激情五月www| 亚洲人人干| 九九Av| 久天综合| 伊人碰碰婷婷| 色色色色欧美| 婷婷激情综合| 啪啪综合网| 欧美大香蕉视频| 99在线观看视频| 婷婷五月综合视频| 99视频精品8| 婷婷欧美偷拍综合| AV大香蕉| 久久久97| 玖玖综合色| 六月婷婷AV| 激情婷婷网| 久久精品日| 综合色图婷婷| 亚洲妇女熟BBW| 少妇被躁爽到高潮无码文| 色婷婷久久综合| AV性爱在线| 久久99网| 九九热精品在线| 久草热视频在线观看| 亚美欧色影院| 激情五月天小说| 开心五月婷婷在线| 婷婷一本和五月丁香| 很操日本7| 99热只有国产在线精品| 美女婷婷六月色| 五月婷婷香蕉| 99热精品9| 婷婷五月天激情综合深爱激情| 岛国av网| 亚洲VA在线| 欧美性爱5月天天天看| 日本五月丁香| 九九爱看亚洲| 婷婷五月天开心激情网| 玖玖婷婷综合| 婷婷色婷婷| 亚洲中文字幕AV| 国产精品大香蕉| 人人爽天天爽| 日本一级一片免费视频| 激情久久久久久| 久久久久er热| 玖玖婷婷五月天| 四川BBB搡BBB搡多人乱亂| 色.五月综合网| 激情丁香五月| 久激情| 91无码视频| 五月激情五月丁香| 这里只有精品热| 嫩BBB槡BBBB搡BBBB视频| 婷婷综合爱| 一月婷婷色色| 五月丁香婷婷色| 少妇人妻丰满做爰XXX| 九色激情| 日本3级片偷拍网站| 丁香婷最新动态| 激情五月婷婷啪啪| 色噜噜五月天| 五月婷婷激情性爱| 久热超碰| 色偷偷人人| AA丁香综合激情| 五月丁香啪啪拍| 婷婷午夜天| 婷婷综合在线| www,奇米影视| 免费观看2018www黄色操逼网站| 夜夜 操无码| 69er小视频| 五月天伊人综合| 人妻啪啪啪| 久久综合55| 97人人操人人爽| 久久99热 这里有精品| 开心婷婷中文字幕| 五月丁香啪啪网| av在线观看网址| www色色色com| 深爱五月婷| 79精品视频在线观看,| 成人免费超碰| 成人婷99最新| 激情五月婷婷中文字幕| 色哟哟精品| 久久ri精品| 大香蕉99| 色五月丁香五月婷婷五月成人网 | 九月激情网| 色99欧洲色19| 丁香成人五月天| 激情五月天婷婷色色色色色色色色色色色| 色噜噜狠狠色综合成人网| 热99re| 丁香六月婷| 婷婷丁香社区| 久色姿源| 九九久久网| 成人网页在线观看| 婷婷五月免费在线| 免费婷婷| 欧美婷婷综合| 国产寻花在线| 亚洲色五月| 久久99精品久| 成人五月天在线视频在线观看| 性生活视频98791| 日韩久久日| 久久五月天合网| 婷婷五月AV| 人妻中文字幕网| 99久久精品视频女神1| 天天操无码| 婷婷五月激情小说| 就爱啪啪婷婷| 99色色网| 色婷婷久久综合| WWW,婷婷,COM| 99久久66综合| 人妻系列久久久久久久久久久| 久热人妻| 日韩大片艹艹| 色婷婷五月中文字幕在线dvd| 精品人妻午夜一区二区三区四区| 欧美色图45678| 婷婷成人视频| 九九九九中文字幕| 丁香五月亚洲婷婷| 国产成人精品一区二三区熟女在线| 无码色色色色色| 99超级碰碰| 狠狠色网| 天天影院色| 中文网婷婷字幕婷| 天天做 天天爱| 丁香五月花影院| 青青草婷婷综合五月| 乱岳熟女50岁| 日韩精品999| 激情五月天婷婷| 午夜婷婷久久 | 久久婷婷综合五月天| 嫩草哈哈操| 99热在线观看亚洲区| 婷婷五月花| 久久婷婷五月天懂色| 91大神操美女| www.综合久久.com| 色五月丁香婷婷| 99热久97| 超碰色综合| 大香蕉婷婷久久| 欧美性爱五月天| 午夜免费试看| 色九区| 久久 这里只有精品1|