99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

ECC多面解析:內(nèi)存糾錯、MBIST測試與SAP年結(jié)實戰(zhàn)指南

ECC多面解析:內(nèi)存糾錯、MBIST測試與SAP年結(jié)實戰(zhàn)指南 ECC這個詞在圈子里絕對是個多義詞。搞硬件的看到它第一反應(yīng)是內(nèi)存糾錯碼Error Correction Code做芯片測試的腦子里冒出來的是MBIST里的ECC校驗邏輯而搞企業(yè)信息化的老哥第一時間想到的卻是SAP ECC那套ERP系統(tǒng)的年度結(jié)賬流程。同一個縮寫三種完全不同的技術(shù)棧但底層都離不開“查錯”和“糾錯”這兩個核心動作。這篇文章我想把這三個維度的ECC串起來聊一聊從糾錯碼的原理開始講到服務(wù)器內(nèi)存里常見的ECC和 uncorrected ECC error 顯示2 這種告警怎么排查再聊到芯片設(shè)計里MBIST怎么借助ECC機制做存儲器測試最后說說SAP ECC年結(jié)到底在結(jié)什么、為什么每年都有人在這上面翻車。無論你是管服務(wù)器的運維、寫RTL的芯片工程師、做測試的還是被財務(wù)追著問“年結(jié)怎么還沒跑完”的IT支持這篇文章里應(yīng)該都能找到對你有用的東西。1. ECC的核心邏輯糾錯碼到底在糾什么1.1 為什么需要糾錯數(shù)據(jù)翻轉(zhuǎn)這個“小概率大事故”糾錯碼這個概念的誕生本質(zhì)上是因為一個很樸素的問題數(shù)據(jù)在存儲和傳輸?shù)倪^程中可能出錯。這個概率在大多數(shù)普通人看來可以忽略不計但在大規(guī)模數(shù)據(jù)系統(tǒng)里它是個必須正視的現(xiàn)實。拿DRAM內(nèi)存舉例內(nèi)存里的每個bit本質(zhì)上是靠電容存儲電荷來區(qū)分0和1的電容會漏電需要定期刷新。一旦某個電容的電荷量因為某種原因發(fā)生異常衰減或者受到外部粒子轟擊導(dǎo)致電荷突變這個bit就翻了1變00變1。這就是我們常說的“位翻轉(zhuǎn)”bit flip。引發(fā)位翻轉(zhuǎn)的因素有很多。一是高能粒子比如宇宙射線轟擊芯片封裝材料產(chǎn)生次級粒子擊中存儲單元二是芯片本身的老化和電壓波動制程越先進存儲單元就越小電荷量越少遇到干擾時翻車的概率就越高三是鄰近單元之間的耦合干擾這也是制程微縮后越來越頭疼的問題。一個bit翻轉(zhuǎn)如果發(fā)生在普通的圖片、視頻數(shù)據(jù)里頂多花屏或者出現(xiàn)一個壞像素。但如果發(fā)生在操作系統(tǒng)的內(nèi)核代碼、數(shù)據(jù)庫的事務(wù)日志、科學(xué)計算的關(guān)鍵中間結(jié)果里后果就是系統(tǒng)崩潰、計算錯誤、甚至數(shù)據(jù)永久損毀。這時候就需要一種機制讓計算機能自己發(fā)現(xiàn)錯誤、糾正錯誤這就是ECC糾錯碼存在的意義。1.2 ECC如何工作漢明碼的思路與SEC-DED我們把“糾錯碼”拆開看核心就兩件事加冗余、算校驗。最簡單的方案是奇偶校驗Parity給一組數(shù)據(jù)加1個bit讓整個組里1的個數(shù)是奇數(shù)還是偶數(shù)這樣能發(fā)現(xiàn)奇數(shù)個bit的錯誤但發(fā)現(xiàn)不了錯誤在哪兒也糾不了錯只能報“你壞了”。這就像快遞外包裝上貼了個“是否破損”的標(biāo)簽?zāi)苤老渥涌赡軌牧说恢览锩婺募浳锼榱?。真正讓ECC在內(nèi)存領(lǐng)域普及起來的是Richard Hamming提出的漢明碼。漢明碼的思路極其聰明不是給整組數(shù)據(jù)加一個校驗位而是把數(shù)據(jù)按不同的位置規(guī)則分組給每組分別計算校驗位這樣這些校驗位之間就有了一種“交叉印證”的關(guān)系。當(dāng)某一位出錯時多組校驗結(jié)果會同時異常通過比對各組異常的組合模式就能精確算出是哪一bit翻了從而把它再翻轉(zhuǎn)回來。以經(jīng)典的漢明碼(7,4)為例4個數(shù)據(jù)位3個校驗位。校驗位分別落在第1、2、4位它們各自覆蓋不同的數(shù)據(jù)位組合。接收端重新計算校驗位并與發(fā)送來的校驗位比對會得到一個叫“校正子”Syndrome的二進制值這個值在二進制里代表的數(shù)字就是出錯bit的位置。Syndrome為0表示沒錯非0就可以直接對相應(yīng)位置做取反操作完成糾錯。這種只糾正單bit錯誤的能力叫SECSingle Error Correction。如果再增加一個全局偶校驗位就能實現(xiàn)檢測雙bit錯誤即SEC-DEDSingle Error Correction, Double Error Detection這也是現(xiàn)代內(nèi)存ECC最主流的能力基準(zhǔn)。1.3 糾錯不是萬能的覆蓋范圍與代價說句實在話ECC并不是魔法它的糾錯能力是有邊界的。單bit錯誤可以糾正雙bit錯誤只能檢測不能糾正一旦檢測到不可糾正的錯誤系統(tǒng)能做的只是報錯或者直接halt防止錯誤數(shù)據(jù)擴散。而且糾錯能力的強弱和開銷是成正比的。校驗位越多能糾的錯誤越多但存儲開銷、編碼延遲、帶寬損耗也會跟著漲。在存儲系統(tǒng)里如果用復(fù)雜的Reed-Solomon碼或BCH碼可以在NAND Flash等場景下糾正多bit連續(xù)錯誤但控制器里的計算復(fù)雜度遠高于漢明碼。在DDR內(nèi)存控制器里ECC校驗計算消耗的是訪存延遲在SSD里L(fēng)DPC糾錯消耗的是主控的處理能力和前端讀取延遲。所以沒有哪套機制是“最好”的只有“在成本、延遲、可靠性之間取得平衡”的方案。理解了這一層后面對內(nèi)存ECC告警、MBIST ECC測試邏輯、甚至SAP年結(jié)里的“對賬”思路就都有了通感的抓手——所有糾錯/校驗機制本質(zhì)上都是在冗余成本和錯誤風(fēng)險之間做博弈。2. 內(nèi)存ECC服務(wù)器穩(wěn)定性的第一道防線2.1 Registered ECC與Unbuffered ECC的區(qū)別在服務(wù)器和高端工作站里ECC內(nèi)存幾乎是標(biāo)配。但同樣是ECC內(nèi)存還分Registered ECC簡稱RDIMM和Unbuffered ECC又稱UDIMM。這兩者最大的區(qū)別在于RDIMM的地址和控制信號經(jīng)過寄存器Register緩沖后再進入內(nèi)存顆粒數(shù)據(jù)線不受影響所以在同一通道上可以多插幾條內(nèi)存容量能做很大高負載穩(wěn)定性也更好。UDIMM沒有寄存器緩沖地址線直接連到內(nèi)存顆粒延遲略低一點點但電氣負載更大一個通道能插的條數(shù)很有限一般就2條。從外觀上看RDIMM和UDIMM最明顯的差異是內(nèi)存條中間位置有沒有額外的寄存器芯片——RDIMM通常會有幾顆較小的芯片做信號中繼。兩者的物理防呆缺口位置也不同不能混插。選擇上家用平臺或入門級單路服務(wù)器常見UDIMM ECC雙路及以上的服務(wù)器幾乎清一色RDIMM。還有LRDIMM通過Rank緩沖技術(shù)進一步降低負載適合需要超大規(guī)模內(nèi)存容量的場景價格也更高。2.2 如何確認內(nèi)存是否開啟ECC很多買了“支持ECC的主板”的新手以為只要插上ECC內(nèi)存就自動開啟了ECC其實并不是。內(nèi)存控制器需要顯式啟用ECC模式并且要和CPU、主板BIOS配合。在服務(wù)器上通常可以在BIOS的Memory Configuration里確認ECC Mode是否為Enabled。有些主板里如果同時開啟了Memory Encryption或部分內(nèi)存鏡像功能和ECC可能會組合出不同的容錯策略。進了Linux系統(tǒng)后可以用dmidecode查看內(nèi)存條的類型信息。重點關(guān)注兩個字段Total Width和Data Width。如果Total Width比Data Width多8位比如72位 vs 64位說明這根內(nèi)存帶ECC如果兩者一樣都是64位那就是普通非ECC內(nèi)存。dmidecode --type memory | grep -E Total Width|Data Width|Size|Speed|Manufacturer|Part Number如果Total Width顯示72 bitsData Width顯示64 bits那8位的差距就是ECC校驗位。Bit 0-63是數(shù)據(jù)位Bit 64-71是校驗位。UC和SEC-DED的校驗開銷不同但72648是業(yè)界最普遍的DDR ECC配置。2.3 uncorrected ECC error 顯示2 是怎么來的在服務(wù)器帶外管理系統(tǒng)比如IPMI/BMC管理界面或者Linux的EDAC驅(qū)動日志里經(jīng)常會看到類似“uncorrected ECC error count: 2”的信息。這里的關(guān)鍵詞是Uncorrected也就是不可糾正錯誤。要理解這條告警先要明確ECC對錯誤的處理路徑。當(dāng)內(nèi)存控制器發(fā)現(xiàn)某個bit錯了并且能算出它是哪個位置它會直接在硬件層面修正然后把修正結(jié)果寫回同時遞增一個Corrected ECC錯誤計數(shù)。這種錯誤對系統(tǒng)是無感的業(yè)務(wù)不會中斷但記多了說明內(nèi)存條所在的DIMM可能正在漸進性老化。而Uncorrected錯誤則是錯誤程度超過了ECC的糾正能力比如一個數(shù)據(jù)字里同時出現(xiàn)了兩個bit的錯誤ECC只能檢測到有錯但不知道具體錯在哪兩個位置無法修補。一旦發(fā)生不可糾正錯誤內(nèi)存控制器會生成一個機器檢查異常MCE。在Intel平臺上這個MCE可能記錄在Bank 0的MCE日志里同時通過IPMI向BMC上報SEL事件顯示“Uncorrected ECC Error”。那個“顯示2”通常代表這個事件已經(jīng)被記錄并且累計了2次。看到“uncorr. ecc 顯示2”第一反應(yīng)不應(yīng)該是“繼續(xù)用吧反正沒崩”而是立刻按下面流程處理先確認錯誤地址和關(guān)聯(lián)的DIMM槽位。通過IPMI SDR記錄、Linux的ras-mc-ctl --summary或者直接看 /sys/devices/system/edac/mc/mc*/csrow*/dimm_label。如果機器還在運行盡快規(guī)劃維護窗口。因為每一次Uncorrected錯誤都是一次數(shù)據(jù)完整性事故下次可能直接造成文件系統(tǒng)損壞或進程core dump。定位到具體DIMM后優(yōu)先做內(nèi)存條交叉驗證把疑似故障條換到另一個槽位跑MemTest86壓力測試確認是槽位問題還是條子問題。檢查散熱和供電。我遇到過一臺機器頻繁報uncorrected ECC換了內(nèi)存也沒用最后發(fā)現(xiàn)是CPU散熱器沒裝好內(nèi)存控制器過熱導(dǎo)致存取時序漂移。提示不要忽視單個Uncorrected ECC錯誤。很多服務(wù)器里內(nèi)存故障的典型路徑就是“開始報corrected - 錯誤頻率上升 - 某天報uncorrected - 系統(tǒng)直接hang死”。從第一個Uncorrected事件開始就已經(jīng)進入故障處理流程了。3. 芯片設(shè)計中的MBIST ECC還沒出廠就把錯誤揪出來3.1 為什么要做MBIST芯片內(nèi)部集成越來越多的SRAM用于緩存、FIFO、寄存器堆。到了先進制程時代一顆SoC里SRAM的面積占比可以超過50%甚至到70%。這些片上存儲分布在芯片的各個角落數(shù)量多、密度大、頻率高但芯片封裝之后沒有那么多測試引腳可以直接訪問每一塊SRAM。于是就有了MBISTMemory Built-In Self-Test把測試邏輯直接做進芯片內(nèi)部。MBIST控制器和被測SRAM之間通過專用的測試端口連接測試時由控制器自己產(chǎn)生地址、數(shù)據(jù)、控制信號遍歷整個存儲陣列把讀回的數(shù)據(jù)和預(yù)期值比對一旦不一致就記錄失敗信息。MBIST的好處在于它不需要外部測試機去精確驅(qū)動每個內(nèi)部信號只需要外部通過JTAG或IEEE 1500接口發(fā)送一條“開始測試”的指令然后等結(jié)果。這樣測試成本大幅降低而且能在系統(tǒng)級測試、老化測試、甚至現(xiàn)場上電自檢時反復(fù)使用。3.2 MBIST如何與ECC配合MBIST和ECC其實是兩個不同層面的事MBIST是“測試手段”ECC是“防護機制”。但兩者在現(xiàn)代芯片設(shè)計里緊密配合。MBIST測試時通常并不依賴ECC去糾正錯誤反而要繞過或禁用ECC這樣才能暴露出存儲單元最真實的物理缺陷。如果讓ECC在旁邊“幫忙”糾錯MBIST可能測不出那些已經(jīng)存在但被掩蓋的故障單元生產(chǎn)測試就失去了意義。所以標(biāo)準(zhǔn)做法是MBIST模式下通過測試模式控制信號把ECC路徑旁路掉直接讀寫原始的數(shù)據(jù)和校驗位。某些更高級的MBIST設(shè)計會把ECC校驗邏輯作為被測對象的一部分來測試。因為ECC的編碼、解碼、校正邏輯本身也是復(fù)雜邏輯電路萬一編碼器有問題即使存儲單元沒壞也會檢測出錯。所以測試序列里會專門安排一組驗證步驟往特定地址寫入可控數(shù)據(jù)讀取時插入一位邏輯錯誤然后檢查ECC校正電路能否正確糾正。MBIST在診斷方面的能力也很強。通過失敗日志可以記錄每一個發(fā)生故障的邏輯地址、數(shù)據(jù)模式和預(yù)期數(shù)據(jù)模式。把這些數(shù)據(jù)導(dǎo)出來做bitmap分析工程師能精確判斷是哪一根字線、位線、sense amplifier出了問題。這對于新品調(diào)試和良率提升至關(guān)重要產(chǎn)線分析出來的故障模式直接反饋給工藝部門改進。3.3 可測試性設(shè)計要點真正做芯片測試規(guī)劃時有幾點經(jīng)常被忽視我在這里提一下MBIST控制器要在低功耗模式下也能運行。很多車規(guī)、IoT芯片需要在生產(chǎn)老化測試和板級測試時進入低功耗自檢狀態(tài)這時候如果MBIST把整個SRAM功耗拉滿會導(dǎo)致測試芯片超過溫度規(guī)格觸發(fā)誤翻。在SoC集成多個SRAM時要合理分組成多個MBIST域BIST Domain并行測試不同域可以縮短整體測試時間但會帶來瞬時功耗沖擊。每個域的規(guī)模和控制策略需要仔細權(quán)衡。Repair機制是MBIST產(chǎn)線的自然延伸。檢測到故障后會通過內(nèi)建自修復(fù)BISR把前述故障行/列替換成冗余行/列修復(fù)結(jié)果記錄到eFuse。所以很多芯片標(biāo)稱“有MBIST”實際量產(chǎn)時跑的是“MBIST - 分析失效地址 - 冗余替換 - 重測驗證”的完整閉環(huán)。用來輔助MBIST的ECC必須和產(chǎn)品正常模式用的ECC策略一致。如果產(chǎn)品宣稱具備SEC-DED能力那么MBIST對校驗位區(qū)域的測試也要覆蓋不然校驗存儲器本身有缺陷運行時會直接生產(chǎn)錯誤。4. SAP ECC年結(jié)ERP老系統(tǒng)的年度關(guān)賬4.1 SAP ECC是什么為什么還有人說起它如果把話題切換到企業(yè)信息系統(tǒng)SAP ECC全稱是SAP ERP Central Component是SAP上一代旗艦ERP套件的核心組件。雖然SAP現(xiàn)在主推S/4HANA但現(xiàn)實中還有大量企業(yè)在繼續(xù)運行SAP ECC系統(tǒng)尤其制造業(yè)、醫(yī)藥、能源行業(yè)系統(tǒng)里積累了幾十年的主數(shù)據(jù)、定制化增強代碼和復(fù)雜接口遷移成本極高?!癝AP ECC年結(jié)”在財務(wù)顧問和IT運維的口中就是財務(wù)年度結(jié)賬Year-End Closing。ERP系統(tǒng)不像普通財務(wù)軟件季度關(guān)了季度年終結(jié)轉(zhuǎn)賬很麻煩。它涉及資產(chǎn)折舊、總賬余額結(jié)轉(zhuǎn)、利潤中心結(jié)轉(zhuǎn)、物料賬結(jié)算等一系列模塊之間的聯(lián)動A步驟沒跑完B步驟就是跑不過去。每年12月底到次年1月初都是一批財務(wù)顧問和IT支持守在機房蹲年結(jié)的日子。4.2 年結(jié)的關(guān)鍵步驟與實操要點年結(jié)在SAP里并不是單一事務(wù)代碼能搞定的而是一連串的順序操作。以最常見的資產(chǎn)會計FI-AA年結(jié)為例核心步驟分兩塊一是資產(chǎn)公司年末結(jié)賬。先用事務(wù)代碼AJRW運行“資產(chǎn)年度余額結(jié)轉(zhuǎn)”或叫“余額結(jié)轉(zhuǎn)”把本年度資產(chǎn)的購置值、累計折舊、賬面凈值結(jié)轉(zhuǎn)到新會計年度。然后事務(wù)代碼AJAB執(zhí)行資產(chǎn)會計年度最終關(guān)賬。很多公司遇到的“結(jié)不了賬”問題都卡在AJAB這一步因為系統(tǒng)會檢查是否存在未折舊的資產(chǎn)、未過賬的采購訂單、未結(jié)清的資產(chǎn)主數(shù)據(jù)等等任何一個校驗沒過AJAB都會報錯。二是總賬余額結(jié)轉(zhuǎn)。事務(wù)代碼FAGLGVTRSAP ECC 6.0或F.56把總賬科目的余額結(jié)轉(zhuǎn)到下一年度。執(zhí)行時要注意必須先把所有12月的會計憑證全部過賬完成把應(yīng)收應(yīng)付、存貨、損益類科目余額都結(jié)轉(zhuǎn)到對應(yīng)科目之后才能跑這一步否則結(jié)轉(zhuǎn)出來的余額就是錯的。實操里我看到過幾個典型的翻車點過賬期間沒開。年度切換后OB52里新年度過賬期間沒有及時打開所有跑到新年的憑證都會報“期間未打開”的錯誤。資產(chǎn)年結(jié)前忘了跑折舊。資產(chǎn)折舊沒跑完AJAB會提示資產(chǎn)存在未折舊的情況讓你先回上月折舊期間跑AFAB。把測試數(shù)據(jù)和正式數(shù)據(jù)混了。年結(jié)前一定要用測試環(huán)境完整跑一遍年結(jié)腳本拿測試結(jié)果給財務(wù)確認科目余額是否正確再在正式系統(tǒng)里操作。我見過有人跳過了測試直接在PRD里跑AJRW結(jié)果資產(chǎn)余額出現(xiàn)巨大差異只能做沖銷再來。4.3 一個成熟的年結(jié)檢查清單下面是我總結(jié)的年結(jié)前檢查清單分享給正在準(zhǔn)備年度結(jié)賬的同行每條背后都有踩坑的代價確認所有12月期間的外幣評估、應(yīng)收應(yīng)付重分類、GR/IR清賬等周期性任務(wù)已經(jīng)完成。檢查AJAB運行日志里的每一個錯誤提示紅色報錯全部處理后重新跑黃色警告要逐條評估是否影響結(jié)賬結(jié)果。總賬余額結(jié)轉(zhuǎn)前導(dǎo)出各科目的期末余額表和財務(wù)手工編制的科目余額表對照一致后再運行。結(jié)轉(zhuǎn)后抽查幾個關(guān)鍵科目在新年度里是否已有期初余額尤其往來科目和存貨科目。注意物料賬ML的年度結(jié)賬流程CKM3N在年結(jié)時容易報“物料賬期未關(guān)閉”需要在后臺物料賬期間控制里同步調(diào)整。提示SAP ECC年結(jié)最怕的是“趕時間”。財務(wù)說月底必須跑完但你一定不能省流程。先備份再測試最后動生產(chǎn)。任何時候都要留出一到兩天的緩沖窗口用于處理意外問題。5. 排障實戰(zhàn)從“uncorr. ecc 顯示2”開始捋一套思路5.1 一次真實的內(nèi)存ECC錯誤排查流程有一天客戶報一臺數(shù)據(jù)庫服務(wù)器IPMI里有Uncorrected ECC Error事件計數(shù)顯示2。登錄系統(tǒng)后我先確認了操作系統(tǒng)是否信任ECC邏輯# 查看EDAC設(shè)備 ls /sys/devices/system/edac/mc/ cat /sys/devices/system/edac/mc/mc0/ue_count cat /sys/devices/system/edac/mc/mc0/ce_count結(jié)果顯示mc0的ue_count確實為2ce_count反而不高只有幾十說明這顆DIMM有突發(fā)性、不可糾正錯誤的風(fēng)險已經(jīng)比較高了。我隨后用ras-mc-ctl --error-count獲取更詳細的地址映射ras-mc-ctl --error-count輸出里會列出哪個內(nèi)存控制器mc、哪個csrow和dimm標(biāo)記對應(yīng)具體物理DIMM位置。服務(wù)器BMC也會在SEL里記下DIMM槽位號。處理策略是先和業(yè)務(wù)確認可以中斷的時間然后給服務(wù)器安排一次內(nèi)存壓力測試。用MemTest86完整跑兩遍如果連MemTest都報錯那這內(nèi)存條基本可以判定為物理故障。之后聯(lián)系供應(yīng)商按保修流程更換。有個細節(jié)換完內(nèi)存后不要急著讓系統(tǒng)恢復(fù)正常運行。我建議保留EDAC的ue_count清零確認一下有些系統(tǒng)需要重啟后reload edac模塊計數(shù)才會清零。重啟后如果ue_count繼續(xù)快速增長說明可能是內(nèi)存控制器或者主板布線有問題也可能是內(nèi)存條插槽的觸點臟了建議把CPU重新安裝一遍內(nèi)存條換個插槽再測試。5.2 MBIST fail怎么追作為芯片測試工程師處理MBIST FAIL的方法論更依賴數(shù)據(jù)。拿到fail log之后先看失敗地址的分布分析是行分布、列分布還是塊分布。單點失效大概率是粒子缺陷或介質(zhì)擊穿整行失效往往是字線驅(qū)動電路損壞整列失效多為位線read/write通路問題。這時候把物理地址映射到邏輯地址很關(guān)鍵。芯片內(nèi)部SRAM通常經(jīng)過行列地址重映射需要通過地址展開腳本對照網(wǎng)表確認對應(yīng)的物理單元。之后再結(jié)合bitmap和電鏡分析做缺陷定位判斷是光刻、刻蝕、還是金屬殘留導(dǎo)致。如果是量產(chǎn)階段的MBIST fail還要做良率相關(guān)性分析同一批次wafer里fail die的坐標(biāo)是否存在分布聚集某臺光刻機處理的區(qū)域是不是故障率偏高把這些數(shù)據(jù)反饋到工廠往往能快速定位工藝窗口漂移。ECC在這時候的作用是輔助分析比如修復(fù)后的die重測仍掛在ECC校驗位區(qū)域就需要檢查eFuse冗余行的熔斷是否異常。5.3 年結(jié)報錯如何快速定位SAP年結(jié)報錯分成兩類配置類錯誤和業(yè)務(wù)數(shù)據(jù)類錯誤。配置錯誤通常是年度變式、期間變式、屏幕變式?jīng)]有為新年度創(chuàng)建數(shù)據(jù)錯誤則是某些陳舊的主數(shù)據(jù)或未清憑證卡住了流程。定位思路無非三步看消息號、查OSS noteSAP官方知識庫、做數(shù)據(jù)檢查。比如FIN_AA_YEAR_CLOSE里報“存在未過賬的折舊”先到AFAB里確認所有折舊運行是否都成功再檢查資產(chǎn)過賬期間有沒有錯誤關(guān)閉。如果是OB52期間錯誤直接修改相應(yīng)公司代碼的過賬期間即可如果是折舊范圍配置缺失可能要在AO11里補充折舊范圍。關(guān)鍵原則是在SAP里“強制關(guān)賬”永遠是最下策。很多年結(jié)問題不是靠強行解鎖跑過去的而是底層數(shù)據(jù)本身存在錯漏該回去改憑證就改憑證該清未清項就清未清項。不要只盯著那個紅叉告警數(shù)據(jù)正確才是最終目標(biāo)。5.4 排查方法論關(guān)鍵詞到根因的三層定位這幾類問題看著風(fēng)馬牛不相及但排障思路其實是相通的。我把常見做法整理成三層定位法基本通用第一層收斂關(guān)鍵詞?!皍ncorr. ecc 顯示2”里的核心詞是“不可糾正”和“計數(shù)為2”MBIST fail的“fail address”SAP年結(jié)報錯里的“消息號”。先明確現(xiàn)象關(guān)鍵詞和相關(guān)模塊。第二層做組件歸因。內(nèi)存到DIMM、MBIST到SRAM陣列、SAP報錯到后臺配置或數(shù)據(jù)表這一步是把問題從“系統(tǒng)層面”縮小到“組件層面”。第三層隔離驗證。換內(nèi)存、重測、跑仿真、重新執(zhí)行年結(jié)事務(wù)代碼確認根因假設(shè)。到了這一步大部分問題已經(jīng)能定性。這套方法用來對付日常的服務(wù)器監(jiān)控、芯片量產(chǎn)異常、ERP年結(jié)運維都夠用了。如果拿不準(zhǔn)寧可多花一小時收集數(shù)據(jù)也不要憑感覺拍腦袋下結(jié)論——這個經(jīng)驗在我多年工作里被反復(fù)驗證。結(jié)尾ECC這幾個字母從內(nèi)存到芯片再到大企業(yè)系統(tǒng)貫穿的其實是同一種工程思想用冗余換取可靠用校驗換取信心。我這些年在服務(wù)器、芯片驗證和企業(yè)系統(tǒng)運維里來回穿梭最大的體會是遇到任何“錯誤”“告警”“異?!鳖惖南⒌谝环磻?yīng)都應(yīng)該是記錄現(xiàn)場信息第二反應(yīng)才是動手修。很多運維同事一看到uncorrected ECC就嚇得直接重啟機器結(jié)果漏掉了現(xiàn)場日志反而失去了判斷根因的唯一線索很多芯片工程師在MBIST失敗之后不先看bitmap就開始盲改測試流程最后只能靠撞運氣解決問題浪費大量工時。最后分享一個小習(xí)慣無論管理多少臺服務(wù)器都應(yīng)該在監(jiān)控系統(tǒng)里給EDAC的ce_count和ue_count單獨建一條趨勢曲線。ECC錯誤的增長速率比單次錯誤值更能反映硬件的健康走向——緩慢增長大概率是正常老化指數(shù)級暴增多半是設(shè)備正在走向崩潰。提前發(fā)現(xiàn)趨勢既能避開業(yè)務(wù)中斷也能讓保修流程走得從容許多。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
综合久久99| 狠狠婷婷色综合| 激情综合网络插| 丁香婷婷在线| 婷婷五月天中文字幕.| www九九免费视频| 色噜噜五月天| 色婷婷色婷婷五月| 婷婷五月天影视| 色婷婷91| 五月婷婷性爱视频| 亚洲视频综合网| 色婷婷五月综合在线| 婷婷五月天无码视频| 久久99日本精品视频免费观看| 亚洲精品视频在线| 六月婷婷国产| sewuyue第四色| 午夜成人天堂久久无码日韩久久| 欧美人人超级碰| 天天干天天爽| 亚州操人在线视频| 色狠狠综合| 一区二区传媒视频| 99热国品| 99久久99久久综合| 色综合五月| 丁香色婷婷| 久草五月天电影网| A片试看120分钟做受图片| 欧美大道不卡| 丁香五月婷婷大香蕉| 五月婷婷丁香六月在线| 亚洲婷婷丁香五月视频| 色综合色欲综合天天免费 | 丁香五月婷婷影院| 最新国产AV| www.99色| 日本乱子人伦在线视频| www.激情| 免费无码毛片一区二区A片| 黄色三级日本| 我爱大香蕉| 开心婷婷五月| 99热精品99| 五月婷色激情五月| 九九热在线99| 日日夜夜狠狠| 亚洲第一精品成人999久久精品| 思思视频这里是精品| 男人天堂99| 综合玖玖偷拍| 久久性刺激| 色色热日| 色月丁| 婷婷综合中文字幕| 91女人18毛片水多国产| 国产综合久久久777777| 人人综合91网| 中文字幕在线不卡| 六月丁香视频网站| 婷婷五月丁香激情| www.91AV.com| 久久久久99精品成人网站| 婷婷综合另类| 日韩狠狠色| 91九色精品| 99热丁香| 五月婷婷在线视频免费观看| 日日天天操| 99视频久久免费视频| 97福利视频| 激情久久久| 影音先锋色婷婷| 激情AV在线| 日本三级99人妇网站| 国产成人综合电影| 欧美日本高清视频99| 色婷婷综合丁香五月天| 九九婷婷综合| 伊人丁香五月| 5月婷婷6月六月丁香| 天天狠狠六月婷丁香影院| 草五月| 婷婷五月天av| 婷色五月| 婷婷五月五月丁香| 99re在线视频| 丁香婷婷射| 9久热这里只有精品| www.五月瑟| 九九久久网| 99色视| 亚洲综合网区| 五月天国产婷婷精品视频在线| 天天日综合| 色色五月天丁香婷婷| 夜夜爽天天干| 久久天堂女人| 人妻久久婷婷| 五月精品免费XXX| 综合久久99| 日本三级中国三级99| 天天日天天摸| 日韩伊人大香蕉| 大香av| 色五月丁香五月激情五月激情| 逼逼AV| 五月婷天天搞视频| 日本色色色| 久久性都花花世界成人免费视频| 成人在线网| 国产欧美日韩一区二区三区| 69久久99精品久久久久婷婷| 激情5月婷婷| 91seAV| 99热青青草| 丁香月五月天婷婷久久| 久久伦乱| 色天使久久综合| 啪啪操超碰| 精品乱码视频| 色五月大| 久久无码成人| 99综合视频在线| 激情网五月婷婷| 99热这里只有精品中文字幕| 欧美激情综合五月色丁香| 97伊人综合婷婷| 操笔无码| 99久久99热| 色五月第四色| 精品无码久久久久久久久| 超碰2021| 婷婷丁香五月激情中文字幕版| 激情丁香五月天图片| 激情五月天网| 超碰免费99| 久久96热| 国产真实乱了老女人视频| 六月婷婷九月丁香| 九九热视频精品| 激情五月天色色| 亚洲AV另类| 婷婷伊人激情婷婷| 日本久久精品| 天天狠天天狠| 五月丁香六月激情欧美综合| 91精品婷婷国产综合| 就爱射中文字幕资源网| 天堂伊人干| 99久久99九九九99九他书对| 色婷婷丁香五月| 日韩青青| 国产精品久久久丁香五月八戒视频| 26uuu精品一区二区| 久久人妻少妇嫩草AV| 91婷婷在线| 99er精品视频| 色九九九综合| 色播激情五月天| 大地资源色婷婷视频在线| 五月天综合在线| 色欲婷婷五月天丁香| seuuu婷婷| 思思99热在线| 国产av一区二区三区| 久久婷婷热| 五月天另类激情在线| 五月丁香六月停停停| 国内婷婷丁香社区在线播放| 色999亚洲人成色| 五月丁香六月婷婷的女人| 五月婷丁香久久久| 婷婷激情久久| 午夜色丁香| 99资源在线视频| 色色色99| 中文AV在线播放| 神马欧美精| 激情五月婷婷综合| 久久丝丝热| 久久久久久久97| 色噜久| 天天噪夜夜爽| 综合福利网| 婷婷天天插天天爱| 淫视馆av三区| 婷婷综合在线| 婷婷久久内射| 天天色视频| 99精品视频偷拍| 碰97久久| 五月色情婷婷| 开心激情站| ww亚洲ww在线观看| 一本色道久久88加勒比| 99久久大片| av人人操| 超碰在线成人| 天天日天天舔天天摸| 99精品久久| 噜综合| 五月婷婷性爱| wwwwww.色| 三日本无码| 丁香婷婷视频| 99热99色| 久久婷婷丁香花综合网| 色婷五月天网站| 亚洲狠狠色丁香婷婷综合久久| 狠狠干 狠狠操| 九九热内射| 婷婷五月网图片区| 色婷婷久久| 五月停停直播| 丁香五月www| 香蕉视频91| 丁香六月色婷婷| 色香欲综合| 97婷婷丁香五月天激情图片| www.色色com| 亚洲视频二区| 五月丁香婷婷啪啪综合网| 日本熟妇乱妇熟色A片蜜桃| 99久久综合精品五月天| 久色网址| 九九热在线视频| 99热这里只有精品33| 丁香五月伊人| 另类在线| 五月婷婷av| www.9797国产| 久久大大香| 丁香五月开心亚洲| 久久人妻情侣| 色五月天激情| 97操碰在线97| 五月婷婷丁香| 久99视频| 亚洲五月天另类小说图片| 色色婷婷丁香| 逼特逼在线免费播放| 99在线视频免费| 九九激情网| 成人va在线| 91久久久久久| 久久人妻久久| 丁香色啪综合| 婷婷久久内射| 十二区无码| 婷婷久久五月丁香| 夜夜爱网站| 五月婷婷在线短视频| 欧美久久九九| 六月丁香啪啪| 91超碰九色| 婷婷五月天激情影片| 91精品国产99久久久久久天美| 色五月天综合网| 五月丁香六月婷婷久久久综合| 久久综合婷| 伊人综合网站| www.天天干| wwccc久久久| 激情另类综合| 欧洲亚洲午夜| 69色婷婷| 97操| 婷五月天| 怡春院天天干| 欧美在线ee日韩| 婷婷91| 免费啪啪亚州视频| 婷婷五月天激情开心网| 色色色色色色色色综合网| 5月丁香婷婷| 性爱网五月天| 91日日日| 色婷婷国产精品综合在线观看| 夜夜嗨一区二区三区直播内容| 丁香五月婷老师| 爱草视频在线观看| 婷婷五月久久| 色欧美色色色| 亚洲精品一区中文字幕乱码| 色婷婷成人做爰A片免费看网站| 超碰在线精品| 久久九九网| 波多野结衣AV无码Porn| 亚洲色热| 亚洲午夜一区二区| 久久精品99久久久久久| 激情久久丁香| 中文字幕,综合,91| 亚洲第79页| 无月播播激情在线观看视频| 五月婷婷综合久久| 色五月第四色| 激情综合五| rr天天操| 婷婷丁香五月综合免费视频百花| 精品久久艹| www.日日日.com| 欧美狠狠草| 天天搽天天射| 丁香五月天五码婷婷| 丁香五月综合福利视频导航| 天天狠狠色噜噜| 91啪级电影| 五月丁香婷色| 国内婷婷丁香社区在线播放| 五月丁香综合久久| 久久五月丁香综合17C| 婷婷亚洲五| 66精品国产成人| 92久操视频| 91久草五月天婷婷| 91色婷婷综合久久中文字幕二区| 久久婷婷青草五月天| 五月丁香婷婷色| 五月天激情影院| 中文字幕av亚洲| 精品久热69| 91黄址| 久久久网站| 99精品一二三四视频| 久久久91| 狠狠狠狠狠狠狠狠狠狠狠色宗合图片| 综合久久丁香婷婷,五月婷婷六月丁香,开心激情综合网,六月丁香在线观看,婷婷丁 | 亚洲精品成人| 国产精产国品一二三在观看| 超碰九热| 综合激情五月婷婷| 六月婷婷五月丁香首页| 五月婷婷色吧!| 激情五月天啪啪| 婷婷五月天性| 久re热视频| 日韩九区| 激情五月综合| 97se在线视频| 五月婷婷六月丁香免费| 丁香五月天欧美| www,婷婷| 日本五月婷| 99热在线观看| 日91高清无玛| 五月综合激情图片 | 97色天堂| 射满了还射免费在线观看 -午夜版全集-新视觉影院 | 午夜激情五月| 日韩欧美一级大黄网站| 国产,欧美,学生妹,视频| 久久丁香婷| 外国碰视频网站97| 天天草天天日| 99热久| 亚洲深喉aV| 五月天婷婷激情六月久久| 国产操B视频| 婷婷激情五月天在线视频| 婷婷十月激情综合网| 熟女激情网| 精品一二三区久久AAA片| 伊人爱爱日本| 丁香婷婷综合激情五月色,开心五月丁香花综合网,激情综合五月亚洲婷婷,五月天 | 六月婷婷综合久久| 99热综合在线观看| 大香蕉五月丁香| 极品少妇XXXX精品少妇偷拍| 色婷婷先锋| 激情婷婷综合| 99只有这里有精品在线视频| 婷婷伊人五月天| 99爱在线| 欧美久久五月婷婷| 色色色99| 干一干xxxx| 伊人婷婷色激情丁香| 成人片在线播放| 欧美三级视频| 天天操九九插| 色婷视频| 91狠狠色丁香婷婷综合久久| 天堂综合久| 国产亚洲精品久久久久久久久动漫| 五月丁香激情综合啪啪| 丁香五月五婷| 久久久久久久11111111111| 91xxxx九色| 五月色婷婷综合丁香精品无遮挡| 亚洲综合久| 九九精品丁香花| 狠狠狠婷婷五月综合| 五月天婷婷免费视频| 激情AV网| 激情婷婷黄色五月| 久久久人妻门| 日韩人妻白浆视频系列| 亚洲爱爱无码婷婷色五月| 久热九九| 激情综合婷婷| 日韩性视频| 无码九九九九| 99在线观看精品视频| aaa久久久| 婷婷六月丁香1| 一起草av| www。五月天激情| 激情五月综合亚洲另类| 东京热免费视频网站| 五月天小说激情| 99在线免费观看| www婷婷| 五月丁香亭亭操逼| 免费看欧美成人A片无码 | av在线观看网站| 秋霞三及片| 丁香色五月 97干| 色色色婷婷五月| 伊人激情影院| 丁香五月婷婷激情尤物| 99在线精品视频免费观看20| 国产精品色情AAAAA片软件| AV伊人青草丁香六月| 婷婷性爱网| 色五月色图| 激情五月天啪啪| 丁香五月大香蕉AV| 1024亚洲| 99热最新| 久久9视频| 天天插天天| 色色狼人综合| 99色色网| 99精品网| 激情六月婷婷| 五月激情偷拍婷婷| 99九九这里有免费视频| 99热最新| 丁香婷婷婷五月综合色情| 天天做天天爽| 色婷婷六月天| 色丁香五月婷婷| 五月天大香蕉| 亚洲国产精品VA在线看黑人| 婷婷综合六月| 无毒黄色网址| 亚洲不卡| 国产精品噜噜在线视频| 久草婷婷| 激情婷婷网| 久久99免费视频| 成人网在线视频| 另类视频一区| 精品人妻在线免费观看| 亚洲操操操| 91精产品自偷自偷综合| 高清无码入口| 成人精品99| 嫩草视频观看| 激情五月婷婷综合| 综合激情五月丁香| 亚洲九九婷婷| 97在线精品| 99热这里只有精品 搜| 亚洲成Av人片乱码色第1集| 丁香五月天.com| 综合五月婷婷| 久久这里只有精品视频15| 人人摸人人| 欧美日韩99| 亚洲 在线 另类| 五月丁香六月情| 国产97色在线 | 日韩| 婷婷五月色| 五月婷婷网站| 1024人妻| 日日影院 | 久久午夜丁香| 婷婷五月天av| 大天天伊人| 色色综合日韩| 婷婷五月综合色拍| 综合五月天| 少妇激情五月天| 天天狠狠婷婷在线| 色婷综合| 狠狠精品干练久久久无码中文字幕 | 五月天天天天天天天天天天天婷婷婷| 丁香五月天在线视频| 婷婷香蕉香| 98色花堂98t.R| 操操操av| 久久婷婷五月天蜜桃| 精品夜夜澡人妻无码AV| 日日噜噜夜夜狠狠久久丁香六月| 六月色婷婷欧美| 9精品视频在线| 人妻丰满精品一区二区A片| 亚洲va成人va成人va在线观看| 情婷婷五月天在线| 色色丁香婷婷| 五月丁香六月婷婷综合| 色婷青青| 中文字幕无码人妻少妇免费视频 | 五月婷婷综合网| 91九色熟女| 丁香九月婷婷色| 久久久妻人人人| 欧美激情伊人| 婷久久久| 色婷婷网大全在线| 国产人妻人伦精品一区二区| 性一交一乱一交A片久久四色| 思思热国产在线| 色情五月丁香婷婷网| 9l视频自拍九色9l视频在线观看| 亚洲V国产V欧美V久久久久久| 91色在线/日韩| 99色看这里只有精品| 色婷婷久久视屏| 99热传媒| 精品亚洲国产成AV人片传媒| 99热综合| 九九热免费视频| 欧美色色色色色色色| 日本www五月婷婷| 亚洲啪啪啪啪| 97视频91| 中文字幕九九九九| 丁香色综合| www.99精品视频| 超碰在线免费观看日韩| 无码成人AAAAA毛片AI换脸| 五月天色影院| 超碰av在线| 婷婷丁香宗合888| 欧美综合五月丁香五月天| 色婷婷丁香网| 丁香五月婷婷婷婷欧美综合| 九九国产视频| 狠狠五月激情在线| 五月婷婷六月丁香激情深爱| 婷婷色在线观看| 超碰二区| 成人在线精品| 亚洲婷婷在线播放十月| 五月色婷婷亚洲 | 久久婷婷七月丁香| 婷婷激情六月中文| 超碰人人摸人人操| 韩日AV片| 69精品人人人人人人| 香蕉中文在线| 成人中文字幕在线| 九月激情综合婷婷| 97成人丁香| 丁香五月激情五月| 无码髙清| 五月婷婷啪啪| 激情综合网,五月| 日日鲁鲁夜夜爽爽| 婷婷开心激情五月激情网| 四色AVwww| 婷婷深爱五月天| 开心激情五月天网| 99在线视频精品| 人妻av在线| 亚洲AV人人操| 色色色热| 操操操97| 99ri视频在线播放| 丁香婷婷六月激情文学 | 成人免费120分钟啪啪| 超碰婷婷色| 久草婷婷视频| 精品爆操| 99热情这里只有精品在线播放| 五月天激情综合网俺也去| 婷婷五月天色丁香| 色丁香婷婷| 蜜桃人妻无码AV天堂三区| 激情伊人五月天| 久久99热这里只有精品| 九九热AV| 久99久视频精品| 99色免费| 青青草a在线| 天天夜夜六月丁香五月婷婷老师| 97丁香五月| www.激情| 婷婷久久女人| 五月婷婷在线丁香| 五月婷婷网五月在线| 婷婷激情五月综合基地| 美欧成人视频| 欧美日韩欧美| 久久综合综合综合| 色情五月天视频网| 婷婷丁香五月精品| 久久久久久97| 精品久久久人妻| 亚洲mm免费| 996er热| 婷婷在线观看五月天在线视频| 天天摸日日舔狠狠添婷婷婷| 婷婷婷久久久| 怎么样可以看免费的一级av| 操操熟女| 色综合五月在线| www.henhenl| 99精品成人无码A片观看金桔| 91刘玥视频在线观看| 99re思思热在线视频| 国产乱妇乱子伦| 99日本精品视频热| 9999热在线| 性日本激情| 婷婷五月天第三页| 久久在线视频免费观看| 色色丁香五月天| 五月丁香在线婷婷美女| 色五月大香蕉| 激情综合网五月在线播放| 婷婷五月天开心网| 亚洲春色奇米影视| 婷婷五月激情热播| 婷婷五月丁香欧洲| 婷婷日韩| 人人干人人操人人摸人人做| 国产无套精品一区二区| av最新在线| www,五月天激情| 久久九九免费视频| 国产精品视频免费看| 少妇激情五月天| 99热久久这里只有精品| 丁香五月婷婷激情小说| 日本久久人人| 成人色图情色成人网 www.5b5b5bcom 五月天 | 色综合另类| 91久久久久久久| 五月婷婷大香蕉| AV性爱网| 亚洲成人无码片| 天天舔天天插天天干| 色狠狠综合| 影音先锋一区二区三区| 婷婷激情视频| www热久久yy9| 日韩无码色色| 99色在线免费观看视频| 人人爽亚洲| 日韩人妻白浆视频系列| 丁香五月六月激情| 一本色道久久88综合日韩精品| 大香蕉av在线| www激情| 久久99久久99精品免观看粉嫩| 久草热视频在线观看| 狠狠婷婷综合| 天天夜天天色天天| 91大操| 激情美女五月天激情在线| 极品少妇高潮啪啪AV无码| 日日夜夜狠狠婷婷色| 国产成人AV在线播放| 成人丁香色| 六月婷婷啪啪| 五月色婷婷影院| 五月丁香六月成人| www.91操| 综合网亚洲| 色婷婷狠狠爱| 亚洲日日日| 五月丁香手机在线| 无码人妻少妇色欲AV一区二区| 综合狠狠伊人| BBWCUCKOLD精品熟妇| 深爱五月激情网| 极品少妇高潮啪啪AV无码| ji'qing'luan'ren'lun| 熟女强人妻一区二区三区四区无| 精品久久久久久久人妻| 五月婷婷婷色| 97性视频| 日日骑夜夜撸| 202丰满熟女妇大| 久久精品永久免费| 丁香五月婷婷综合激情啪啪啪啪啪啪啪| 五月天色婷婷成人| 亚洲婷婷激情综合激情999精品| 日本色色网站| 久色网| 最近中文字幕2019视频1| 丁香久久五月天视频在线观看| 东京热五月婷婷| 99无码黄色视频| 精品99在线看| 超碰在线看| 久久99久久99精品免观看软件| 中文字幕高清av| 熟女激情网| 激情涩涩网| 射满了还射免费在线观看 -午夜版全集-新视觉影院 | 888精品福利地址| 久久久久久久11111111111| 五月丁香色婷婷综合| 中文字幕不卡视频| 99色在线观看| 天插天啪天啪天啪| 天堂综合久| 欧美色婷婷| 婷婷丁香五月欧美人| 百度4399有码精品V在线观看 | 97超碰9久热婷婷热| 天天综合五月天| 狠狠狠激情网| 五月丁香婷婷啪啪综合| 色综合色色| 欧美草久久五月天91| www999日韩精品| 97精品人人A片免费看| 五月丁香激情综合久久| 婷婷5月色| 久热9热| 26uuu亚洲| 丁香五月婷婷手机| 99区视频| 久久婷婷丁香| 天天射天天插天天干| www,色婷婷| 极品 少妇 内射| 97超碰在线免费观看| www久久久久久久久久久| 色色色在线观看| 午夜丁香六月婷| 91日韩美女被插视频| 色色婷婷丁香| 狠狠操天天干| 另类国产综合| 99精品激情| 99啪啪骑| 五月色情| 开心激情网五月天| 99只有这里有精品在线视频| 26uuuu精品一区二区| www.五月天色色.com| 日韩成人综合网| 天天射综合网站| 99久久久| 人妻videos人妻高清| 日本一毛片| 婷色综合| 99爱在线视频| 午夜激情婷婷| 婷婷五月天六月丁香| 丁香五月婷婷乱| 天天摸.天天mo| 岛国操B不卡在线| 五月婷婷激情啪啪| 国产黄大片在线观看画质优化| 99欧州偷拍视频| 四色五月婷婷在线观看| 极品人妻videosss人妻| 2015好吊操| 色色色五月婷| 91精品丝袜久久久久久久久粉嫩| 丁香五月婷婷综合啪啪| 99久久久久久www| 激情五月综合| 可以免费看的AV网站| 涩涩婷婷五月| 婷婷五月亚洲激情| 9er热在线精品视频| 久久 婷婷 五月天| 2017人人操| 激情AV中文| 99碰碰碰| 9久热视频| 九月丁香久久网| 专区无日本视频高清8| 天天日天天爽| 永久精品| 久久婷婷亚洲| 可以看的av| 天天色视频| 九九成人| 色婷婷久久| 开心婷婷五月| 天天做天天爽| 97人人超| 超碰人妻在线| 国产精品国产成人国产三级| 久热免费视频| 日产精品一线二线三线芒果| 激情综合亚洲| 做爰丰满少妇1313| 国产精品24r| 91在线资源| 丁香五夜激情四射夜夜夜| 国产高清视频91九九九久久久| 区欧美日韩成人| 久久性都花花世界成人免费视频| 丁香五月婷婷香| 91久久九九| 欧美精品A片一区在线观看| 九月久久婷婷| 五月激情视频| www.激情在线| 激情五月婷婷综合视频| 极品五月天| 九九这里都是精品| 婷婷五月天成人网| 久久婷婷成人| 婷婷激情五月| Av狠狠色丁香婷| 丁香六月丁香婷婷激情 | 青青草搞屄视频网站| www.夜夜夜| 色五月婷激情| 色噜噜狠噜噜视频| 婷婷99狠狠| 九九亚洲天堂| 区啪精品| 亚洲1区| 亚洲五月天伊人| 人人爽欧美婷婷久久久五月丁香| 九九热最新| www.99在线| 成人av免费观看| 综合欧美五月婷婷| 日韩有码久久| 91chinese在线| 激情综合激情五月| 婷婷五月av| 99久在线精品99re8| 国产亚洲在线| 激情五月婷婷色色| 婷婷色基地在线看 | 丁香五月婷婷av影院| 超碰精品国产首页| 五月婷丁香花| 色婷婷五月天天天干天天操天天爽| 五月天激情图片| 狠狠操狠狠操AV| 五月天婷婷激情| 五月久久网| 婷婷色五月激情| 黄色AAAAA| 五月婷婷香| 99色免费观看全部| 成人av中文字幕| 六月丁香综合网| 五月天丁香成人| www婷婷色| 大香蕉网站,大香蕉综合| www.狠狠狠狠| 4438激情网| 无遮挡国产高潮视频免费观看| 9精品一区| 《诡秘之主》在线观看| 五月停停激情网| 婷婷六月丁香五月| 亚洲一区二区无遮挡A片| 亚洲成人色五月婷婷综合| 日韩五月丁香| 国产精品涩涩涩视频网站| 97碰成超视频免费视频| 婷婷激情综合色五月久久,色婷婷丁香花,丁香婷婷五月情天,久久婷婷五月综合色 | 青青草原99热| 色五月婷婷在线| 日韩AV在线免费| 美女丁香五月天| 深爱五月天| 五月天色色无码| 久久伊人五月天| 色色色色色综合| 国产肥白大熟妇BBBB视频| 大香蕉婷婷五月天| 日日干四虎| 天堂爱爱| 91碰视频| 色爱综合五月| α久久| 思思热99热| 婷婷五月天网址| 日日夜夜小色哥| 九九性视频| 天天干,天天操,天天射| 天天色综合综合| 五月丁香啪啪网| 婷婷六月天天| 日本人人xxx| 亚洲春色奇米影视| 久久er这里只有精品| 大香蕉久久婷婷| 大香蕉久久久久久久久| 婷婷区日本| 五月婷在线观看| 欧美精品啪啪| 丁香五月成人婷婷| 婷婷五月欧美AA片免费| 色婷婷a三区麻| 人妻丰满精品一区二区A片| 综合久久影院| 婷婷丁香人妻久久在线观看| 综合久久丁丁香婷| sewuyue第四色| www.夜夜操| 玖玖资源站国产| 成人AV在线电影| 久久在这里99| 99久久www| 久久久久98| 黄色成人网站在线播放| 金品在线视频99| 五月天婷婷在线视频| 五月激情婷婷四射| 十月丁香九月婷婷综合| 99re资源在线视频导航| 另类激情五月| 婷婷色色亚洲| 狠狠色综合精品视频在线| 午夜成人av在线| 欧美亚洲操逼| www.99精品日操伊人乱碰在线| 欧美综合五月丁香六月婷| 午夜伊人大香蕉| 综合网五月天123| 99网址在线观看| 人人视频人人干人人做| 青青久久大香蕉| 五月婷婷六月天| 国产精品色婷婷99久久精品| 欧美日韩成人一区二区| AV网站免费在线| 久久五月丁香婷婷| 免费成人中文字幕| www,久久久| 久久久久久欧美精品se一二三四| 色99网站| Av性爱网| 97色射| 亚洲日日操| 丁香五月婷婷亚洲另类| 欧美激情综合色综合啪啪五月| 久久综合无| 久久丁香| 日本欧美在线| 婷婷五月综合激情| xxx综合在线| 九久热| 久久综合丁香| 丁香婷婷六月婷婷六月婷婷六月婷婷| 久久婷婷视频| 日日狠狠久久偷偷四色综合免费| 色五月色情| 天天色图| 青青草搞屄视频网站| AA片在线观看视频在线播放 | 欧洲色区| 婷婷综合六月| 成人网丁香五月| 五月丁香婷婷色| 久久6这里只有精品| 天天色中文字幕女优AV| 日本va视频| 成人一级片| 国产精品涩涩涩视频网站| 天天天天天天天操| 激情五月综合第一页| 亚洲激情五月| WWW.夜夜| 亚洲视频码| 激情五月天色色网| 婷婷五月综合视频| 婷婷欧美激情综合| 五月婷丁香| 天天插综合| 五月天婷婷基地| 日本熟女啪啪| 久99热| 婷婷丁香五月天亚洲| 激情无码网| 五月婷婷六月色| 六月色播| 久久东京热婷婷五月| 任你搞免费视频观看| 激情婷婷久久| 狠狠色噜噜狠| 五月婷婷久久综合| 婷婷激情啪啪| www婷婷| 大伊香蕉精品视频在线| 国产婷婷综合| 激情纯色婷婷五月天在线不卡视频| 中文字幕五月久久婷婷| www.色婷婷| 丁香五月婷婷在线观看| 色婷婷五月天亚洲| 91精品综合久久婷婷九色| 日日夜夜狠狠| 色婷婷国产精品综合在线观看| 开心五月丁香综合久久| 亚洲视频国产一区| av一级棒av| 五月综合视频| www.五月丁香av| 五月天狠狠网站| 成人丁香五月婷| 1000部毛片A片免费观看| 97色天堂| 日日天天操| 六月丁香啪啪| 六月激情网| 操人妻AV| 六月婷婷五月天| 激情五月综合| 婷婷五月色综合| 色五月综合婷婷久久综合婷婷久久综合婷婷久久综合婷婷久久 | 国产激情综合五月久久| 五月丁香六月色| 五月噜噜| 天天搞夜夜爽夜夜爽| 婷婷狠狠综合网入口| 色色色综合网| 日本在线视频播放91| 五月婷婷二月丁香| 婷婷五月天最新综合你懂的 | 国产精品扒开腿做爽爽爽A片唱戏 青青草国产亚洲精品久久 | 亚洲视频伍月婷婷| 国产噜一噜天天噜| 亚洲熟女色| 五月天开心色色网| 国产精品久久久久久久久久| 99综合| 青青草原伊人网| 激情五月四色| 五月色丁香婷婷中文字幕| 婷婷趴趴| 色婷婷天堂| 九九热99在线视频| 色九四色| 人妻丰满精品一区二区A片| 久久99网| 九九99热| 狠狠xx| 操逼棍操逼| 天天干夜夜欢| 99亚洲欧洲| 九月婷婷综合八月丁香在线观看| 久久久久激情| 欧美99视频| 色欲久久久久久综合网综合网| 婷婷色色丁香| 亚洲视频1区| se婷97| 五月婷婷激情日本| 色色色色色综合| 97操男人的天堂| 91熟妇大香蕉| 六月丁香AV| 精品九九网| 综合 蜜月 婷婷| 91fuliwang| 99视频啪啪| 狠狠色噜噜色狠狠狠综合色| 少妇被躁爽到高潮无码文| 国产精品99久久久久久久女警| 国产成人网| 99精品偷自拍| 99在线精品免费视频| 无码人妻精品一区二区蜜桃色欲 | www.狠狠操.com| 婷婷丁香成人在线视频| 激情五月综亚网| 深爱激情网婷婷| 五月天激情国产综合AV| 久久九九99字幕| 丁香涩涩爱| 亚洲色热| 色婷婷97| 天天色天天| 欧美搡BBBBB摔BBBBB| 久热精品免费视频4| cao视频,现在观看| 日韩啪图| 久久92| 天天综合网、天天综合色 | 激情AV在线| 99久视频| 超碰cap| 亚洲国产色婷婷| 久久久久婷| 特黄三级片| 激情深爱婷婷网| 思思热国产在线| 久操97| 亚洲日日日| AA片在线观看视频在线播放 | 婷婷五月激情欧美大胆视频| 日韩十国产极品久久| 成人精品亚洲性爱| 久99久在线观看| 中文字幕 中文字幕明步| 色婷婷色综合久久精品V| 久久久香港| 五月丁香婷婷基地| 成人羞羞啪啪 全 视频| 色五月婷激情| 中文字幕色色| 狠狠做深爱婷婷久久综合一区| 中文字幕人妻熟女在线| 夜夜爽日日躁| 婷婷丁香五月亚洲综合网在线视频观看| 日韩乱玛久久| 久99热| 色五月天丁香| 久久99婷婷| 中文字幕,综合,91| 色婷婷19| 色婷婷久久综合| 天天爽天天做| 久久久久久欧美精品se一二三四| 五月综合视频| 五月婷婷天堂| 色婷婷的五月天| 年轻的妺妺伦理HD中文| 婷婷九月丁香天堂丁香天堂| 久大香蕉| 人人操人人看97干| 99九九久久| 五月天婷婷色小说| 久久综合影院| 一级操逼大片| 久久久久久久8| 99热久久这里只有精品| 婷婷五月激情五月激情| 青青草激情网| 久久婷婷老| 丁香五月区| 五月丁香在线偷拍视频| 天天舔天天爽| AV九九| 国产成人AV| 久久久久9| 五月天激情中文字幕| 婷婷色五天| 极品人妻VIDEOSSS人妻| 97黑人精品区| 日韩一66精品| 日本天堂免费99| 欧美成人AAA片一区国产精品| 国产精品视频网| 无码G高清天| www色综合| 国产亚洲99久久精品| 亚洲激情五月| 欧美婷婷五月无砖| 亚洲av日韩无码| 免费色婷婷| 丁香月五月天婷婷久久| 婷婷五月丁香五月| 综合六月久久| 99色这里| 波多野结衣AV无码Porn| seuuu婷婷| 91婷婷丁香五月天免费视频网站| 丁香五月六月婷婷殴美综合| 五月天激情国产综合婷婷婷| 久久青青日本视频| 色色色视频免费无码 | 免费亚洲婷婷| 玖玖婷婷色欲| 99视频超级精品| 色丁香五月婷婷| 色五月天婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷 | 日本激情综合| 日日干日日色| 91九色精品女同系列| 色婷婷aV四虎| 色优久久| 黄色AV日韩| www.久久9| 性生活久久人妻| 日本欧美成人片AAAA| 超碰成人AV| 5月丁香婷婷激情网| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 五月天久久www| 亚洲天堂aaaa| 丁香婷婷久| AAA亚洲AV| 无码成人AAAAA毛片AI换脸| 综合五月婷婷| 国产欧洲欧洲精品久久| 国产精品成人AV在线| 激情婷婷六月天| 免费超碰在线| 精品99爱免费视频在线观看| 99原创自拍视频在线观看| 五月天·www·com| 337p大胆噜噜噜噜噜91Av| www色色com| 99热免费| 久综合色| caop在线| 97干视频| 九九色精品| 草操AV在线| 嫩草AV久久伊人妇女超级A| 99热在这里只有免费精品| 久久激情网| 99re热| 日韩在线视频9色| 综合五月激情| 果冻传媒A片一二三区| 天天色综合网吨吧| 风流少妇A片一区二区蜜桃| 婷婷五月丁香成人| 玖玖婷婷免费| 蜜桃五月天| 操b视频在线观看一区二区| 深爱激情六月| 99热大| 超碰在线中文字幕| 97碰碰在线看视频免费| 久99久视频| 丁香五月aV| 五月丁香色欲| 人人摸人人搞| 天堂综合久久| 涩综合网| 五月婷婷xxx| 激情综合五月婷婷| 开心五月深爱五月婷| 欧美顶级少妇做爰HD| 久久这里只| 先锋资源91| 成年人丁香五月| 天天干,噜噜色,狠狠色| 婷五月天| 久久婷婷五月综合伊人| 99色综合| 欧洲电影在线观看免费版英语版 | 琪琪色影音先锋| 五月丁香婷草| 中文网AV| 综合色、色综合| 欧美婷婷成人| 国产 亚洲 在线| 777精品久无码人妻蜜桃| 草做免费在线观看| 九九十99视频| 婷婷五月天成人网| 六月丁香激情婷婷| 天天干,天天操,天天射| 五月天久久久| 狠狠干2007| 亚洲视频久久| 九九热在线视频观看| 99精品在线下载| 2013AV天堂|