99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

MindSpore源碼工程審閱:算子、內(nèi)存與測(cè)試的架構(gòu)解析

MindSpore源碼工程審閱:算子、內(nèi)存與測(cè)試的架構(gòu)解析 最近一直在做源碼級(jí)別的工程審閱這期把目標(biāo)定在了華為開源的MindSpore框架上。選擇它的原因很簡(jiǎn)單這是少有的、能把“大廠基礎(chǔ)設(shè)施”級(jí)別的AI框架完整開源出來的項(xiàng)目從Python前端到C編譯器再到設(shè)備側(cè)運(yùn)行時(shí)全部攤開在眼前。市面上的教程大多告訴你“怎么用MindSpore訓(xùn)練一個(gè)模型”但我更關(guān)心的是另一個(gè)問題這套代碼本身經(jīng)不經(jīng)得起推敲。所以這一篇Valhalla靜態(tài)工程審閱的定位很明確——不跑訓(xùn)練、不做benchmark、不調(diào)參煉丹純粹以“源碼證據(jù)”為唯一裁決依據(jù)逐層拆解MindSpore的工程架構(gòu)、關(guān)鍵機(jī)制和代碼素養(yǎng)。如果你正準(zhǔn)備二次開發(fā)MindSpore、想研究AI框架底層實(shí)現(xiàn)或者只是單純好奇“大廠開源的代碼到底長什么樣”這篇應(yīng)該能給你一份比較完整的靜態(tài)審閱地圖。1. 開局先講方法這次“靜態(tài)審閱”到底審什么在動(dòng)手之前我先把方法說清楚。靜態(tài)工程審閱和動(dòng)態(tài)評(píng)測(cè)是兩條完全不同的路線動(dòng)態(tài)評(píng)測(cè)靠跑分、跑case、跑benchmark來觀察運(yùn)行時(shí)表現(xiàn)本質(zhì)上測(cè)的是“這臺(tái)機(jī)器上這套代碼表現(xiàn)得怎么樣”而靜態(tài)審閱靠讀代碼、追調(diào)用鏈、看目錄結(jié)構(gòu)、讀commit記錄來還原代碼庫本身的設(shè)計(jì)意圖和工程質(zhì)量測(cè)的是“這套代碼作為工程產(chǎn)品它的結(jié)構(gòu)、邊界、擴(kuò)展性和維護(hù)性處于什么水位”。1.1 為什么不用“跑一遍”代替“讀一遍”有人可能會(huì)問MindSpore都開源這么久了直接pip install然后跑個(gè)模型不就能看出好壞了嗎其實(shí)跑一遍能覆蓋的東西非常有限。一個(gè)模型訓(xùn)練跑通只能證明“主路徑上的代碼是能工作的”但一個(gè)框架的工程水平恰恰體現(xiàn)在主路徑之外的大量細(xì)節(jié)里——稀疏分支的越界檢查、設(shè)備內(nèi)存緊張時(shí)的降級(jí)策略、shape推導(dǎo)失敗時(shí)的錯(cuò)誤提示、多線程競(jìng)爭(zhēng)時(shí)的鎖粒度。這些場(chǎng)景在本地機(jī)器上極難復(fù)現(xiàn)但嵌在源碼里屬于一讀便知的部分。我上一期審閱過一個(gè)網(wǎng)絡(luò)中間件源碼動(dòng)態(tài)測(cè)試時(shí)吞吐量很好看但翻到錯(cuò)誤處理路徑發(fā)現(xiàn)大量catch(...){}空吞異常這類代碼一旦部署到生產(chǎn)環(huán)境出問題就是最難的“靜默故障”。這就是動(dòng)態(tài)評(píng)測(cè)給不了的信息。所以這一篇的結(jié)論全部來自代碼本身。1.2 證據(jù)來源代碼、目錄、注釋、測(cè)試與提交歷史“源碼證據(jù)驅(qū)動(dòng)”不是隨便翻幾眼代碼就下結(jié)論而是要建立證據(jù)鏈。這次審閱我取證的路徑有五條源碼主體MindSpore倉庫中mindspore/core、mindspore/ccsrc、mindspore/python三個(gè)關(guān)鍵目錄下的實(shí)現(xiàn)代碼目錄結(jié)構(gòu)通過頂層目錄的組織方式反推架構(gòu)分層意圖注釋與文檔字符串看代碼作者對(duì)接口邊界、使用前置條件、設(shè)計(jì)約束的說明測(cè)試代碼tests/ut與tests/st目錄下的用例分布和覆蓋傾向提交歷史與代碼注釋標(biāo)記用git log和git blame補(bǔ)全“為什么這么寫”的上下文。1.3 這期審什么、不審什么我把審閱范圍限制在“AI框架基礎(chǔ)設(shè)施”的核心鏈路算子注冊(cè)與調(diào)度、張量生命周期與設(shè)備內(nèi)存、錯(cuò)誤處理與日志、測(cè)試組織與工程素養(yǎng)。至于上層API的易用性對(duì)比、訓(xùn)練性能跑分、生態(tài)工具鏈豐富度這些不是靜態(tài)審閱能給出公正結(jié)論的這期不碰。另外要聲明一點(diǎn)審閱版本以官方公開倉庫的release分支為準(zhǔn)我拉取的是當(dāng)前穩(wěn)定分支的代碼快照不針對(duì)某個(gè)具體commit做版本考古。2. 源碼之骨架目錄結(jié)構(gòu)如何暴露MindSpore的設(shè)計(jì)觀一個(gè)大型項(xiàng)目的目錄結(jié)構(gòu)就是架構(gòu)師留給世界的“第一份代碼”。它比任何架構(gòu)文檔都真實(shí)——因?yàn)槲臋n可能是理想態(tài)而目錄結(jié)構(gòu)是落地后的物理事實(shí)。2.1 從根目錄開始的三層識(shí)別把倉庫克隆下來之后第一件事不是找README而是直接看根目錄下的模塊劃分。MindSpore的頂層結(jié)構(gòu)里有三個(gè)目錄幾乎決定了整個(gè)框架的骨架形態(tài)mindspore/pythonPython前端層也就是用戶直接接觸的mindspore.nn、mindspore.ops、mindspore.common等模塊的實(shí)際代碼所在mindspore/ccsrcC核心后端包含了前端優(yōu)化器、圖編譯、運(yùn)行時(shí)、內(nèi)核注冊(cè)、設(shè)備插件等繁重工作mindspore/core最底層的基礎(chǔ)庫提供IR數(shù)據(jù)結(jié)構(gòu)、張量對(duì)象、工具函數(shù)等與設(shè)備無關(guān)的通用能力。這個(gè)分層本身就說明了一個(gè)關(guān)鍵設(shè)計(jì)決策M(jìn)indSpore選擇了一條“Python DSL C編譯器 設(shè)備側(cè)插件”的三層結(jié)構(gòu)路線而不是像某些框架那樣把Python對(duì)象和C對(duì)象深度耦合在一起。三層之間有明確的調(diào)用邊界Python側(cè)只負(fù)責(zé)構(gòu)建計(jì)算圖和調(diào)用底層接口圖編譯和內(nèi)核執(zhí)行都下沉到C層。2.2 graphengine子模塊與圖編譯分界線在mindspore/ccsrc內(nèi)部我特別注意到frontend和backend的布局。frontend下面掛著optimizer、parser等子目錄是圖編譯的前端優(yōu)化器backend則偏向設(shè)備側(cè)適配和內(nèi)核執(zhí)行。MindSpore還通過子模塊方式引入了graphengine圖引擎這塊專門處理GEGraph Engine側(cè)的圖執(zhí)行管線。從目錄層面看MindSpore的圖編譯管線是“多引擎可切換”的——除了GE還有mindspore自己的編譯執(zhí)行路徑。這種“主路徑備選引擎”的冗余設(shè)計(jì)是大廠基礎(chǔ)設(shè)施常見的防御性架構(gòu)如果一條執(zhí)行路徑出問題至少還存在另一條可用的降級(jí)通道。2.3 從目錄命名看設(shè)備側(cè)插件化設(shè)計(jì)再看mindspore/ccsrc/plugin目錄下面的結(jié)構(gòu)是按設(shè)備類型組織的device/ascend、device/gpu、device/cpu各自獨(dú)立成目錄。這就是一個(gè)非常清晰的插件化信號(hào)。設(shè)備相關(guān)代碼被物理隔離在plugin目錄內(nèi)意味著新增一個(gè)設(shè)備后端時(shí)主干的圖編譯、IR定義、tensor管理代碼幾乎不需要改動(dòng)只需要實(shí)現(xiàn)該設(shè)備對(duì)應(yīng)的kernel注冊(cè)、內(nèi)存管理和執(zhí)行流。類似的設(shè)計(jì)思路在Linux內(nèi)核源碼的driver目錄、以及在muduo源碼里按模塊拆分網(wǎng)絡(luò)核心與業(yè)務(wù)handler的方式都能看到影子——基礎(chǔ)設(shè)施類項(xiàng)目最怕“牽一發(fā)而動(dòng)全身”插件化隔離是控制爆炸半徑的最基本手段。從靜態(tài)審閱的角度目錄的物理分隔是否清晰直接決定了后續(xù)二次開發(fā)的成本。MindSpore在這一項(xiàng)上是加分明顯的。3. 證據(jù)鏈一從算子注冊(cè)到內(nèi)核調(diào)度的完整代碼路徑看完骨架進(jìn)到具體機(jī)制。我選了一條貫穿前后端的核心路徑來追——一個(gè)算子從Python調(diào)用到設(shè)備執(zhí)行的完整旅程。這條路幾乎覆蓋了MindSpore一半的核心機(jī)制。3.1 Python側(cè)Primitive的注冊(cè)入口算子在MindSpore里對(duì)應(yīng)的核心對(duì)象叫Primitive。Python端的定義在mindspore/ops/primitive.py每個(gè)算子通過prim_attr_register裝飾器完成屬性注冊(cè)同時(shí)綁定到C側(cè)的Primitive對(duì)象。舉個(gè)例子以公開版本的實(shí)現(xiàn)為參考prim_attr_register def __init__(self): self.init_prim_io_names(inputs[x, y], outputs[output])這就是在聲明算子的輸入輸出名字。靜態(tài)審閱時(shí)我會(huì)特別關(guān)注這個(gè)裝飾器的使用是否規(guī)范——因?yàn)樗谋澈箅[藏著C側(cè)對(duì)象的映射邏輯。如果Python側(cè)聲明的算子屬性與C側(cè)的期望不一致通常會(huì)在圖編譯階段才暴露出晦澀難懂的報(bào)錯(cuò)。3.2 C側(cè)內(nèi)核注冊(cè)與分發(fā)機(jī)制Python只是前戲重頭戲在C側(cè)。算子最終要落到具體的設(shè)備計(jì)算上MindSpore在ccsrc/backend和plugin目錄下維護(hù)了一張內(nèi)核注冊(cè)表。不同設(shè)備通過各自的注冊(cè)宏把kernel實(shí)現(xiàn)掛載到算子名上比如GPU側(cè)的Cuda kernel、CPU側(cè)的Eigen或原生實(shí)現(xiàn)、Ascend側(cè)的TBE算子。靜態(tài)審閱時(shí)我重點(diǎn)檢查三類實(shí)現(xiàn)證據(jù)同算子多設(shè)備實(shí)現(xiàn)是否齊平如果Add這個(gè)算子CPU版、GPU版、Ascend版都有說明該算子的設(shè)備覆蓋度完整如果某個(gè)算子設(shè)備側(cè)缺失上層Python接口又沒有顯式攔截用戶就可能在切換到某類設(shè)備時(shí)踩到“算子不支持”的坑算子shape推導(dǎo)邏輯是否健全算子注冊(cè)時(shí)會(huì)掛載infer_shape和infer_dtype我傾向于認(rèn)為“shape推導(dǎo)代碼的完備度”是衡量算子實(shí)現(xiàn)質(zhì)量的最佳單項(xiàng)指標(biāo)——因?yàn)榭蚣茏钆碌牟皇撬愕每觳豢於恰八阃炅税l(fā)現(xiàn)shape不對(duì)”或者“該報(bào)錯(cuò)的時(shí)候沒報(bào)錯(cuò)”是否有通用的fallback路徑當(dāng)某設(shè)備缺少專用實(shí)現(xiàn)時(shí)是否有CPU回退或通用實(shí)現(xiàn)可兜底這決定了一個(gè)框架在異構(gòu)環(huán)境下的魯棒性。3.3 一條op從Python到設(shè)備的貫連把整條鏈路串起來大致是這樣的證據(jù)鏈Python側(cè)調(diào)用ops.Add構(gòu)造Primitive此時(shí)只建立符號(hào)描述該P(yáng)rimitive進(jìn)入計(jì)算圖Python對(duì)象與C側(cè)Primitive對(duì)象通過pybind綁定完成橋接圖編譯階段的優(yōu)化器對(duì)圖做改寫、算子融合等操作編譯期根據(jù)算子名和設(shè)備類型在內(nèi)核注冊(cè)表中查找對(duì)應(yīng)的kernel實(shí)現(xiàn)運(yùn)行時(shí)把輸入張量搬運(yùn)到設(shè)備內(nèi)存啟動(dòng)kernel執(zhí)行。這條鏈路里每一步之間都有對(duì)應(yīng)的代碼文件。審閱時(shí)我會(huì)逐一打開這幾段的頭文件和實(shí)現(xiàn)確認(rèn)接口邊界是否清楚、錯(cuò)誤分支是否有兜底。尤其是第4步的“查表”邏輯——一張?jiān)O(shè)計(jì)良好的內(nèi)核注冊(cè)表應(yīng)該支持“按設(shè)備按算子類型”的高效檢索而不是靠if-else鏈硬堆。從實(shí)際代碼看MindSpore核心注冊(cè)表是采用宏展開靜態(tài)映射實(shí)現(xiàn)的整體結(jié)構(gòu)比較清爽。3.4 靜態(tài)審閱如何判斷一個(gè)op的實(shí)現(xiàn)質(zhì)量這里分享一個(gè)我的習(xí)慣看一個(gè)算子質(zhì)量好不好不要只看主計(jì)算邏輯重點(diǎn)看三處邊角料——入?yún)⒑戏ㄐ孕r?yàn)、動(dòng)態(tài)shape支持、異常情況下的錯(cuò)誤信息。比如一個(gè)算子只支持靜態(tài)shape在動(dòng)態(tài)shape輸入時(shí)給出的錯(cuò)誤提示是“Shape is invalid”還是解釋了為什么invalid、需要滿足什么條件這直接反映了作者有沒有替調(diào)用者考慮。MindSpore里大量算子的錯(cuò)誤提示是帶參數(shù)的上文信息的這類細(xì)節(jié)在大廠基礎(chǔ)設(shè)施代碼里屬于“必須到位”的標(biāo)準(zhǔn)。4. 證據(jù)鏈二張量對(duì)象的生命周期與設(shè)備內(nèi)存管理算子是計(jì)算的主角張量Tensor則是數(shù)據(jù)流動(dòng)的載體。一個(gè)框架的張量管理和內(nèi)存管理直接決定了長時(shí)間訓(xùn)練時(shí)的穩(wěn)定性——顯存泄漏、內(nèi)存碎片、拷貝開銷多半都出在這一層。4.1 Tensor在Python側(cè)的暴露與C側(cè)本體用戶在Python側(cè)拿到的mindspore.Tensor本質(zhì)上是mindspore/common/tensor.py里的一個(gè)包裝類。它的底層C對(duì)象在core/tensor/tensor.h中定義持有數(shù)據(jù)指針、shape、dtype等描述信息。靜態(tài)審閱時(shí)我比較關(guān)注的是Python側(cè)Tensor與C側(cè)Tensor的同步方式是持有引用還是每次深拷貝。從代碼結(jié)構(gòu)來看Python側(cè)Tensor通過tensor_impl持有底層實(shí)現(xiàn)這是一種典型的“用戶態(tài)包裝 實(shí)現(xiàn)態(tài)本體”分離模式。好處是Python側(cè)可以做一些懶加載、延遲初始化之類的優(yōu)化壞處是如果包裝層和本體層之間的生命周期管理做得不細(xì)致容易出現(xiàn)Python對(duì)象被GC回收但C側(cè)還在使用的野指針問題。4.2 引用計(jì)數(shù)、拷貝策略與零拷貝接口內(nèi)存管理的基礎(chǔ)是生命周期。MindSpore的Tensor底層有一套引用計(jì)數(shù)機(jī)制核心思路跟高性能網(wǎng)絡(luò)庫中的引用計(jì)數(shù)管理類似——只有最后一個(gè)引用釋放時(shí)底層內(nèi)存才歸還給設(shè)備內(nèi)存池。但靜態(tài)審閱的樂趣在于發(fā)現(xiàn)細(xì)節(jié)差異。我在代碼里注意到MindSpore在部分接口上明確支持“零拷貝”語義當(dāng)你把一個(gè)Tensor傳給某個(gè)API時(shí)如果不顯式調(diào)用拷貝接口底層數(shù)據(jù)指針并不發(fā)生復(fù)制只是在引用計(jì)數(shù)上1。這類“默認(rèn)不拷貝”的設(shè)計(jì)對(duì)性能非常友好但也對(duì)使用者的心智模型提出了要求——如果你在原Tensor上做了in-place修改另一個(gè)共享底層數(shù)據(jù)的Tensor可能也會(huì)被無聲改變。文檔里其實(shí)有提但這類行為從代碼層面被確認(rèn)才真正讓人放心。4.3 設(shè)備內(nèi)存池從MemoryManager類看內(nèi)存復(fù)用策略在ccsrc/device目錄下可以找到各設(shè)備的內(nèi)存管理實(shí)現(xiàn)。以GPU為例CudaMemoryManager這類類中維護(hù)著內(nèi)存分配/釋放、緩存復(fù)用和碎片整理的邏輯。靜態(tài)審閱內(nèi)存池代碼時(shí)我會(huì)重點(diǎn)看三件事內(nèi)存塊分級(jí)策略設(shè)備內(nèi)存是否有大小分級(jí)小塊內(nèi)存和大塊內(nèi)存是否分池管理避免小塊分配拖累大塊分配釋放策略內(nèi)存釋放是立即返還給cudaMalloc還是進(jìn)入緩存池待復(fù)用緩存池的淘汰機(jī)制是什么峰值內(nèi)存控制在訓(xùn)練過程中是否能做到顯存的高效復(fù)用而非不斷擴(kuò)容。從實(shí)際代碼看MindSpore的內(nèi)存池確實(shí)提供了內(nèi)存復(fù)用機(jī)制訓(xùn)練時(shí)同shape的中間結(jié)果傾向于復(fù)用同一塊緩存這種“按shape緩存”的策略在動(dòng)態(tài)圖模式下尤為關(guān)鍵。如果你在閱讀時(shí)把device::mem_manager相關(guān)的實(shí)現(xiàn)代碼通讀一遍會(huì)對(duì)MindSpore在顯存控制上的設(shè)計(jì)意圖有更具體的感知。4.4 從代碼區(qū)分“真實(shí)優(yōu)化”和“文檔優(yōu)化”很多框架宣傳材料里說“做了顯存優(yōu)化”“支持零拷貝”但到底做到幾分代碼一翻便知。比如“零拷貝”如果只是Python側(cè)繞開了numpy的一次拷貝但C側(cè)在設(shè)備間搬運(yùn)時(shí)依然有重復(fù)的host-device復(fù)制那就算不上真正的零拷貝。審閱時(shí)我找到了幾個(gè)值得肯定的證據(jù)MindSpore在算子執(zhí)行路徑上支持輸出張量直接復(fù)用輸入張量的設(shè)備內(nèi)存避免額外分配同時(shí)在Tensor的賦值和拷貝語義上做了區(qū)分處理assign和copy走的不是同一條路徑。這類實(shí)現(xiàn)屬于“文檔里不會(huì)細(xì)講、但真實(shí)存在且好用”的東西。5. 工程素養(yǎng)藏在細(xì)節(jié)里錯(cuò)誤處理、日志與測(cè)試代碼如果說目錄結(jié)構(gòu)決定了一個(gè)項(xiàng)目的上限那錯(cuò)誤處理、日志和測(cè)試這“三件套”決定的是下限。線上出問題的時(shí)候框架報(bào)錯(cuò)是否可定位、日志是否可追蹤、回歸測(cè)試是否覆蓋到位往往比算子算得多快更影響用戶體驗(yàn)。5.1 錯(cuò)誤處理宏MS_LOG與MS_EXCEPTION的使用習(xí)慣MindSpore的C代碼里大量使用了MS_LOG和MS_EXCEPTION系列宏。靜態(tài)審閱時(shí)我會(huì)隨機(jī)抽取若干個(gè)文件統(tǒng)計(jì)這些宏的使用密度。一個(gè)直接的觀察在核心路徑比如圖編譯和內(nèi)核調(diào)度的主鏈路上錯(cuò)誤處理的密度明顯偏高幾乎每個(gè)可能失敗的調(diào)用后面都跟了日志輸出或異常拋出的分支而在一些非核心的輔助函數(shù)里日志密度會(huì)大幅下降。這個(gè)分布是合理的——核心路徑錯(cuò)誤要早暴露、早定位輔助路徑則避免日志刷屏。我還特別關(guān)注了一個(gè)細(xì)節(jié)MS_LOG的日志級(jí)別使用是否準(zhǔn)確。DEBUG、INFO、WARNING、ERROR這些級(jí)別如果被濫用嚴(yán)重后果是“想排查問題時(shí)日志里全是噪音”。從抽樣來看大部分日志的級(jí)別選擇是克制的INFO級(jí)不下探到每個(gè)調(diào)用細(xì)節(jié)WARNING也不濫用這點(diǎn)在大型C項(xiàng)目里屬于難得的自覺。5.2 測(cè)試組織ut與st的分工、命名規(guī)范與覆蓋傾向測(cè)試是另一個(gè)能在靜態(tài)審閱中給出大量信息的區(qū)域。MindSpore的測(cè)試目錄分為tests/ut單元測(cè)試和tests/st系統(tǒng)測(cè)試這種劃分并不罕見但值得看的細(xì)節(jié)在于用例的組織方式。打開tests/ut下面的目錄可以看到測(cè)試用例基本按照“組件/模塊”維度來組織每個(gè)核心模塊都有自己的專屬測(cè)試目錄文件名通常以test_xxx.py或test_xxx.cc命名。這里有一條隱藏信息測(cè)試的組織方式直接反映了被測(cè)代碼的模塊化程度——如果被測(cè)代碼是意大利面式的測(cè)試就不可能在物理上做成模塊化。我還發(fā)現(xiàn)MindSpore在CI側(cè)配置了多套測(cè)試環(huán)境CPU/GPU/Ascend分別跑這屬于靜態(tài)審閱中可以推斷出的“并行回歸”策略。大量測(cè)試用例帶有pytest.mark.level之類的分級(jí)標(biāo)記說明測(cè)試自身也有優(yōu)先級(jí)管理可以在回歸壓力大時(shí)分級(jí)裁剪。5.3 基礎(chǔ)設(shè)施級(jí)代碼的“穩(wěn)健性設(shè)計(jì)”讀大廠開源基礎(chǔ)設(shè)施代碼最容易感受到的一點(diǎn)就是它們對(duì)“異常不擴(kuò)散”有近乎偏執(zhí)的追求。MindSpore的C代碼中大量使用RAII來管理資源從DeviceStream到內(nèi)存池的鎖都封裝在析構(gòu)函數(shù)里保證異常安全。在文件讀寫、設(shè)備上下文切換等容易出錯(cuò)的環(huán)節(jié)能頻繁看到Try/Catch邊界和狀態(tài)恢復(fù)邏輯。這類設(shè)計(jì)不會(huì)給程序帶來性能提升也不會(huì)讓某個(gè)算子跑得更快但它決定了框架在長時(shí)間運(yùn)行、異常注入、顯存不足等惡劣條件下是否能“體面地失敗”。我在審閱網(wǎng)絡(luò)庫源碼時(shí)也養(yǎng)成了同樣的條件反射先看錯(cuò)誤路徑是否體面再看主路徑是否高效。5.4 值得商榷的代碼味道當(dāng)然這期審閱也不是一味唱贊歌。靜態(tài)審閱的價(jià)值之一就是要把那些“能跑但不太好”的代碼揪出來。在抽樣閱讀中我確實(shí)留意到一些可以商榷的地方部分文件頭注釋偏薄一些關(guān)鍵類只有一兩行的類注釋沒有說明設(shè)計(jì)約束和線程安全屬性。如果這個(gè)類需要多人協(xié)作維護(hù)后續(xù)接手的人只能靠猜TODO標(biāo)記分布不均代碼中散落著一定數(shù)量的TODO和FIXME有些年份看著比較久了。TODO本身不可怕可怕的是“TODO掛了三年也沒人處理”——這表明某些技術(shù)債被默認(rèn)了偶發(fā)的重復(fù)邏輯比如某些錯(cuò)誤分支的處理邏輯在不同device目錄下各寫了一遍理論上可以抽取成公共工具函數(shù)但目前是各管各的。這類重復(fù)在大廠代碼里很常見屬于“局部合理、整體可優(yōu)化”。這些都屬于“不影響當(dāng)前功能但會(huì)累死后來者”的類型。6. “證據(jù)驅(qū)動(dòng)”的另一面靜態(tài)審閱的邊界與校驗(yàn)手段講完具體發(fā)現(xiàn)還得聊聊方法論本身。靜態(tài)審閱盡管能挖掘出大量動(dòng)態(tài)測(cè)試看不到的信息但它不是萬能的。坦誠地講靜態(tài)審閱的結(jié)論是“代碼結(jié)構(gòu)層面的可能性判斷”不是“運(yùn)行效果層面的驗(yàn)證”。這兩者之間有一條不可逾越的鴻溝。6.1 靜態(tài)審閱的盲區(qū)并發(fā)、性能與運(yùn)行期行為靜態(tài)審閱最大的盲區(qū)有三個(gè)并發(fā)場(chǎng)景多線程競(jìng)爭(zhēng)、死鎖、ABA問題這些在代碼上很難一眼看穿。一個(gè)鎖的粒度寫得是否合理只有跑到高并發(fā)下才會(huì)現(xiàn)出原形。靜態(tài)讀代碼能發(fā)現(xiàn)“這里上了鎖”但很難判斷“這個(gè)鎖是否縫對(duì)了位置”真實(shí)性能代碼里的復(fù)雜度分析可以推斷但L2/L3緩存命中率、內(nèi)存分配器行為、kernel launch的純開銷這些只有profiler能給出定量結(jié)論運(yùn)行期偶發(fā)問題比如顯存碎片導(dǎo)致的大模型訓(xùn)練OOM、特定輸入shape下的數(shù)值異常這些幾乎不可能從靜態(tài)閱讀里找出根因。所以靜態(tài)審閱的定位應(yīng)該是“架構(gòu)體檢”是排查問題的第一站而不是最后結(jié)論。6.2 用git blame與git log補(bǔ)全“為什么”靜態(tài)審閱補(bǔ)充動(dòng)態(tài)信息最有效的手段是考古提交記錄。git blame一個(gè)看起來不合理的地方往往能看到當(dāng)年的commit message里寫了“fix #issue xxx”或者“revert xx because of perf regression”。這些上下文是純看代碼永遠(yuǎn)得不到的。這次審閱里我也用這個(gè)手段驗(yàn)證了幾個(gè)判斷。比如某個(gè)存儲(chǔ)管理類在多處都用了同一套加鎖模式初看以為是重復(fù)代碼git log一查原來是同一輪重構(gòu)中批量調(diào)整的屬于“有意為之的統(tǒng)一風(fēng)格”。所以審閱時(shí)不要輕易把“重復(fù)”判為“壞味道”先看提交歷史再下結(jié)論。6.3 與文檔對(duì)照發(fā)現(xiàn)文檔與實(shí)現(xiàn)的偏差另一個(gè)有價(jià)值的靜態(tài)審閱動(dòng)作是把官方文檔描述與源碼實(shí)現(xiàn)做對(duì)比。文檔寫的是“應(yīng)該的樣子”源碼展現(xiàn)的是“實(shí)際的樣子”兩者之間的縫隙常常埋著坑。我這次抽查了一個(gè)“支持動(dòng)態(tài)shape”的公開能力描述對(duì)照代碼后發(fā)現(xiàn)該能力在較新版本中確實(shí)有相關(guān)實(shí)現(xiàn)路徑但限制較多很多算子仍只支持靜態(tài)shape。如果你只看文檔以為所有算子都可以跑動(dòng)態(tài)shape那實(shí)際使用時(shí)就會(huì)被報(bào)錯(cuò)教育。這種“能力邊界只有源碼才說得清”的情況在AI框架里非常普遍。6.4 可以帶走的靜態(tài)審閱checklist如果把這次審閱方法論沉淀成一張可復(fù)用的checklist大概是這個(gè)結(jié)構(gòu)目錄結(jié)構(gòu)模塊邊界是否清晰設(shè)備相關(guān)代碼是否插件化隔離核心調(diào)用鏈從上層API到底層kernel是否路徑完整每層是否有邊界校驗(yàn)錯(cuò)誤處理核心路徑的日志密度是否足夠錯(cuò)誤信息是否有上下文內(nèi)存與資源RAII是否貫穿內(nèi)存池是否分級(jí)緩存拷貝是否可控測(cè)試組織單元測(cè)試是否模塊化測(cè)試是否有分級(jí)關(guān)鍵路徑是否有回歸守護(hù)提交歷史用git log和blame為“不可理解”的代碼尋找上下文文檔偏差宣稱的能力與代碼實(shí)際實(shí)現(xiàn)是否一致邊界條件是否說明清楚。這套清單不限于MindSpore審任何一個(gè)中大型開源基礎(chǔ)設(shè)施項(xiàng)目都可以按這個(gè)順序走一遍。最后分享兩個(gè)小技巧這次審閱MindSpore我用的工具鏈其實(shí)很簡(jiǎn)單VSCode打開倉庫配好clangd跳轉(zhuǎn)再配合ripgrep做全局搜索。但有一個(gè)小技巧挺想分享——用git log --oneline -- 文件路徑按文件看提交歷史。當(dāng)你想知道“這段代碼為什么這么寫”時(shí)單看這個(gè)文件的歷史commit往往比全局搜索高效得多。我在審閱內(nèi)存池實(shí)現(xiàn)時(shí)就是用這個(gè)命令定位到了當(dāng)年引入緩存淘汰策略的那次大重構(gòu)。另一個(gè)心得是審閱AI框架這種超大代碼庫一定不要抱著“全部讀完”的心態(tài)。抓主干、看邊界、追關(guān)鍵機(jī)制足夠了。比如這次我只深入追了“算子注冊(cè)與調(diào)度”“張量生命周期與內(nèi)存管理”兩條鏈路已經(jīng)能得到相當(dāng)豐滿的工程結(jié)論。如果貪多求全反而會(huì)在細(xì)節(jié)里迷失。說到底一個(gè)大廠開源項(xiàng)目能長期運(yùn)轉(zhuǎn)靠的從來不是一兩個(gè)牛逼算法而是底層工程是否經(jīng)得起“讀”。MindSpore這次審閱下來整體印象是架構(gòu)分層清楚、設(shè)備插件化做得到位、錯(cuò)誤處理有分寸感、測(cè)試體系比較完整屬于“確實(shí)能打”的開源基礎(chǔ)設(shè)施。至于那些分散在角落里的代碼味道反而不太讓人擔(dān)心——只要維護(hù)者在持續(xù)重構(gòu)技術(shù)債就是在可控范圍內(nèi)。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
激情五月丁香亭亭| 亚洲免费av在线| 国产性爱亚洲是图| 五月丁香六月情婷婷久久| 99精品国产在热久久婷婷| 免费视频99| 久狠日av| 天天综合亚洲综合| 热久久思思热思思| 久久五月视频| 久久99婷婷| 99精品久久久久久久久| 婷婷亚洲在线| 色五月色综合| 成人综合视频网址| 亚洲黄色网址| 色视频色综合91| 五月丁香好婷婷A片网| 五月丁香六月合| 欧美操人| 色色色图| 99热这里只有精品66| 五月天伊人网| 婷婷深爱五月天| 五月天婷婷青青| 99热婷婷| 天天日天天添| 日韩一区二区在线播放| 五月丁香六月日逼| 狠狠88综合久久久久噜噜噜| 婷婷欧美色| 婷婷五月天激情电影| 九九色婷婷Av| 婷婷五月激情综合啪啪| 丁香五月综合首页| 五月丁香久久综合色| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 狠狠色综合网站久久久久| 激情com| 五月综合激情| 99热国内| 色色色色色爱| 婷婷丁香激情综合色情| 五月婷婷婷| 久久这里只有欧美| 九九性爱网| 色香欲综合| 开心婷婷五月中文字幕组| 天天插轮理| 99热成人精品| 色丁香六月| 久久欧洲综合网| 人人操A| 久久人妻情侣| 色噜噜婷婷| 丁香五月综合在线播放| 丁香婷婷噜噜| 大香蕉精品视频| 99精品在线观看视频| 免费看欧美成人A片无码 | av操逼网| 久久婷婷综合色丁香| 狠狠色婷婷综合开心影视| 激情精品久久| 人人操AV| 午夜九九电影| 天天日天天摸| 色99在线| 激情婷婷五月综合| 51成人| 337p大胆噜噜噜噜噜91Av| 性视频久久| 亚洲五月婷| 99色6爱9热| 婷久看人爽| 亚洲 在线 性爱| 丁香五月天啪啪激情综合网| 泰州成人视频| 激情综合五月婷婷| 操草草草| 噜综合| 一夜福利不卡| 五月婷婷丁香俺日污视频| 日本久久人| 激情九月婷婷| 99久99久| 亚洲九九夜夜| 99热精品无码| 久久怡红院| 伊人热在线大香蕉| 亚洲永久免费| 丁香五月激情图片| 欧洲色| 激情五月婷婷综合秋霞| 亚洲永久免费| 激情五月天电影| 激情九月婷婷| 伊人青涩网| 91干在线| 深爱激情婷| 日本精品99网站| 国产精品第一国产精品| 五月丁香婷婷综合久久| 激情五月综合网最新 | 婷婷丁香成人在线视频| 天天干天天操天天射| 亚洲天天操| 天堂久久丁香| xxxx五月| 亚洲婷婷丁香| 欧洲区自拍| 色综合网上班开心婷婷久久| 丁香六月婷婷久久综合| 中文字幕操比影片| AV 3P| 九九热精品视频在线观看| 99视频只有精品| 99操不停| 色婷婷五月天综合网| 99热99久久| 色一色综合| 99久在线观看| 热99在线精品| 免费V片在线| 六月婷婷无码| 丁香五月性爱| 婷婷六月视频| 成人在线视频一区| 久久日韩婷婷五月| 色操b| 日日干天天| 97香蕉人人在线观看| 电影《战争与艾拉》免费观看| 五月丁香六月婷婷网| 国产精品18久久久| 人妻操逼| 国产真人做爰视频免费| 精品五月丁香| 99热9| 婷婷的久久网站| 99爱视频在线播放| 亚洲成人AV一区在线观看| WWW色五月天| 九九亚洲综合| 婷婷五月激情欧美| 伊人久久大香蕉网| 人妻久热| 丁香婷婷久久| 亚洲色色色色色色色色色| 色香欲综合| 中文字幕丰满孑伦无码专区| 婷婷丁香五月天色区| 99无码精品| 激情99热| 天天操天天操天天操天天操天天操天天操天天操天天操天天操 | 丁香激情网| 色婷婷av综合网| 五月天婷婷黄色| 国产精品美女久久久久AV超清| 色婷婷基地| 色99自拍| 一起草无码视频| 久婷| 九九99视频精品| 丁香六月啪啪| 丁香五月婷婷呀| 日日夜夜干| 另类专区在线观看| 99视频内射三四| 狠狠色丁香综合| 婷婷狠狠干| 激情性爱五月天| 无码啪啪| 丁香激惜男女| 超碰99热精品在线| 欧美狠狠色| 日韩美女在线视频19| 婷婷六月久久综合导航| 五月婷婷婷综合网| 日本狠狠干| eeuss人妻| 大香蕉五月天| 99性感视频| 在线精品97| 51avj视频大全| 91丨人妻丨国产丨丝袜| 超碰在线观看99| 色色婷| 色婷婷九月| 天天摸天天舔天天爽| www.色五月| 亭亭五月激情亚洲在线| 97资源碰碰在线| 九色91视频| 日本久久99| 91超级碰碰| 亚洲狠狠狠色婷婷综合激情久久久| 青草青草视频2免费观看| 天天操天天谢| 久婷婷五月综合欧美| 五月婷婷影院| 激情九九这里只有精品| 亚洲成人AV在线观看| 日韩成人综合网| 日日懆天天懆| 婷婷的99视频网站| 在线五月婷| 天天操夜夜操| 色五月开心五月激情五月| WwW色婷婷| 99re6久热只有精品6在线直播| 丁香六月狠狠干| 99这里有精品| 丁香五月成人社区| 丁香六月狠狠| 综合一区二区三区| 婷婷的五月天另类视频| 五月丁香啪啪网| 96性爱视频| 丁香视频| 无码激情AAAAA片-区区| 激情综合网五月丁香| 玖玖色资源站| 色婷婷久久天天性爱| 五月天激情综合网| 天天日日夜夜| 99在这里有精品| 中文精品在| 中文字幕有多少字| 天天日,天天干,天天操| 色婷婷五月天偷拍| 色香五月天| 婷婷丁香亚洲色综合91| 99亚洲精品综合在线| 超碰色色综合| www.国产色| 亚洲五月丁香综合网| 草久私拍| av在线播放网站| 9热视频在线观看| 我爱va亚洲va52| 丁香九月综合| 激情五月婷婷啪啪| 五月丁香 狠狠爱| 99久久婷婷国产综合| 五月婷婷片| 久久6这里只有精品| 五月色亚洲| 四川BBB搡BBB搡多人乱亂| 婷婷在线播放| 天天日天天爽夜夜爽| 五月丁香啪啪激情| 可以免费观看的av网址| 99热播放| 外国碰视频网站97| 九九精彩久久| 五月婷婷草| 色综合久久之分久久| 99久久6| 色婷婷六月| 婷婷五月丁香六月天亚洲综合| 青青草原中文字幕| 国产亚洲99久久精品| 人妻Av在线| 久久国产一区二区三区| 这里只有精品视频| 午夜性做爰电影| 亚洲综合激情五月久久| 另类激情综合| 在线中文av| 99热成人精品网站| 五月综合激情| 99热99精品| 六月婷婷在线视频| 很很干天天干| 狠狠综合网| 色在线视频网2025| 草综合14| 99九无网码| 婷婷五月天综合久久| 欧美精品熟女一区二区| 婷婷婷婷色| 国产精品激情五月天色婷婷| 婷婷五月六月丁香综合| 五月天涩涩| 五月丁香婷婷潮喷中文字幕| 婷婷色五月色| 我去色色网五雨天| 激情婷婷色色| 日日夜夜干| 久久这里只精品| 五月婷婷综合视频| 这里只有精品久久| 91色性感五月婷婷丁香| 99视频在线啪| 色婷婷大香蕉| 九九sese| 色五月综合网| 九九婷婷网五月天| 久婷婷婷| 婷婷综合| 色婷婷狠狠久久综合五月| yjzz亚洲国产| 中日韩狠狠色| 色色五月天婷婷| 五月天婷婷六月激情网| 色五月成人网| 99精品国产在热久久婷婷| 99色精品| 天天日天天插| 久久五月天 91| 欧亚中文A V| g00d人体西西| 欧美群妇大交乱婬网| 五月天婷五月天综合网小说首页-五月天激激婷婷大综合,婷婷亚洲综合五月天小说 | 青草网在线观看| 少妇丁香婷婷| 日日日天天干| 久久曰曰| 国内一级片| 在线免费观看激情视频| 香蕉综合在线| 激情五月天色婷婷| 97综合在线| 99精品在线观看| 五月天婷婷偷拍| 综合玖玖偷拍| mmm1717.6dbm人人爱人人操| 亚洲va在线∨a天堂va欧美va| 狠狠色丁香婷婷久久综合| AA丁香综合激情| 五月婷婷影视| 香蕉久久国产AV一区二区| 美女婷婷六月色| 久久五月天色| 午夜不卡久久精品无码免费 | 六月亚洲| www久久艹| 五月婷婷色| 亚洲丁香婷婷| 99精品无码视频| 欧美va亚洲va在线播放| 亚洲激情av| 777精品久无码人妻蜜桃| 97在线/日本| 天堂婷婷五月在线| 五月丁香六月婷婷激情视频在线观看免费| 人妻久久久| 久久综合五月情| 九九热这里只有精品5| 色色色色色色色色色999| 婷婷色五月婷| 万月丁香狠狠爱| 久久精典| 亚洲热视频| 婷婷大香蕉| 成人在线观看一区| 偷拍视频五月天| 99热播放| 婷五月天六| 五月天成人网婷婷| 五月婷婷之综合激情| 五月丁香趴趴| 久久性爰视频这里只有精品| 婷婷五月花| 久久狠狠干| 开心激情站婷婷五月天| 精品一二三区久久AAA片| 久久久婷婷五月亚洲97号色| 天天色,天天日,天天做| 综合天堂AV久久久久久久| 丁香婷婷五月天激情四射| 99热这里只有精品最新| 少妇出轨做爰高潮A片| 中文字幕婷婷| 九色自拍| 五月丁香久久久久| WWW.17C亚洲精品| 狼人伊人天堂| 亚洲99在线| 婷婷丁香在线| 色五月xxx| 91九色丨国产丨爆乳| 97操碰日本女人| AⅤ色区| 婷婷五月天综合在线| 五月丁香综合成人社区| 天天天干夜夜夜操| 色99视| 五月精品免费XXX| 八戒青柠影视剧在线观看| 丁香婷婷五月天激情四射| 五月激情综合美女久久| 9精品一区| 精品免费99| 日本视频不卡123区| 激情五婷精品网在线观看网址| 成人网站免费在线播放| 色色色地址| 久久色亭亭五月天| 天堂成人久久| 激情久久五月天| 欧美超级视频97| 色色色com| 碰超在线九色| 婷婷六月亚洲综合| 色综合久久88色综合天天看| 日韩色五月| 激情视频91| 婷婷五月综合体验看| 天天操精品| www五月天com| 丁香六月婷婷久久高清| 色噜噜综合网| 色八月婷婷| 婷婷狠狠操| 99这里有精品视频3| 91久久婷婷| 蜜臀丁香黄色婷婷五月天| 久久综合中文| 亚洲激情电影五月天色婷婷丁香一起草| 天天日天天插| 激情小说之五月| 婷婷情色五月| 色你久久| 久久五月天激情婷婷| 最近中文字幕大全免费版在线 | 色五月婷婷DVD| WWW色色色COM| 婷婷五月丁香啪啪| 国产精品在线视频| 五月 婷 久| 看片视频在线免费日产在线看| 99视频在线观看网址| 五月天久久综合| 欧美日韩999| 97色婷婷| 婷婷五月天视频亚洲| 99综合自拍| 99精品在这里| 日日夜夜综合| 狠狠操综合| 极品人妻VIDEOSSS人妻| 天天舔天天操| 精品99这里有| www.韩日视频| 99无码黄色视频| 亚洲五月丁| 婷婷五月激情视频网| 91九色丨国产丨爆乳| www.激情在线| 99热全是精品| 国产婷婷色综合AV蜜臀AV| 性色99| 久久99激情| 97色色婷婷| 可以观看的AV| 五月久久五月激情| 2022久久婷婷| 大香蕉久久| 五月婷婷之美女图片| 性视频久久| 在线看九一V图片| 婷婷六月啪啪| 五月激激网w'w'w| 98热精品| 久久人妻熟女一区二区| 精品99视频| 99在线观看视频精品| 91大神在线免费看视频全集男男一起操| 亚洲欧洲中文日韩久久AV乱码| 中字幕视频在线永久在线观看免费| 无码激情AAAAA片-区区| 久久 婷婷 五月天| 五月婷婷综合精品| 成人精品视频99在线观看免费| 婷婷丁香五月激情密臀av| 天干干夜夜操| 亚洲永久四色| 丁香五月天婷婷91| 丁香六月无码| 日日影院 | 超碰在线9| 五月香六月婷| 99在线精品免费视频| 超碰资源在线| 激情五月丁香六月综合AVXXXX| 五月色综合| 国产精品操| 99热99这里只有精品| www.色综合| 亚欧州精品视频| 天天干天天操| 成人无码精品1区2区3区免费看 | 婷婷五月丁香婷婷| 色综合99| 九九蜜臀精品| 欧美精品99久久久| 久热黄色| 99久在线精品99re5热视频| 五月丁香色欲| 激情 婷婷 插| 最近中文字幕大全免费版在线| 91在线日| 五月婷婷六月丁香综合| 91激情五月开心| 开心激情网五月| 亚洲成av人影院| 99免费热在线精品| 欧美性丁香色色五月天干干| 大香蕉久操| 亚洲成人超碰| 97碰碰视频| 黄色激情五月天| 99九九这里有免费视频| 久久这里99| 国产精品第一国产精品| 五月天天天综合| 婷婷五月丁香五月| 超碰人人操人人干| 亚洲中文字幕av| 丁香五月手机在线| 日韩欧美颜射| 丁香五月性爱| 五月丁香啪啪网| 超碰在线国产| 99热一区| 99精品视频在线6| 91九色精品熟女内射| 91久热| 丁香五月成人| 99综合色色色| 久久思思热| 日本色婷婷综合| 色色色综合| 五月婷婷久久激情| 大香伊人久色| 曰日爽日日操| AV成人在线播放| 五月婷婷天堂| 热99国产精品| 五月天激情小说网| 99色视频在线观看| 一区二区乱视频码| 欧美成人日韩| 91碰碰| 婷婷色播婷婷| 人妻尝试久久久久久久久久久久| 免费在线观看av网站| 26UUU欧美| 97操碰在线视频| 五月天伊人综合| 99久久久免费| 国产精品18久久久| 天天干天天爽天天操| 99久久終合| 一区二区乱码视频| 丁香婷婷综合精品六月初| 欧美韩国日本| 亚洲AV色婷婷人禽五月天| 东北黄色一级| 婷婷五月天av| 五月婷伊人| 婷婷9月天| 激情综合网五月天| 色综合久久久久| 少妇人妻偷人精品无码视频新浪| 激情婷婷网| 欧美天天搞| 色婷婷久久| 五月激情另类| 五月丁香激情综合网官网| 色综合九九| 婷婷五月色亚洲| 日韩无码人妻一区二区| se99视频| 天天日婷婷| 99久久视频| 久久亚洲婷婷| 激情五月婷婷丁香| 久久女婷| 色亭亭九月| 九色视频91疯狂| 亚洲五月婷婷在线| 亚洲在线视频321| 狠狠干在线| 天天干天天玩天天夜天天射天天操天天日蜜臀少妇 | 五月天播播中文字幕| 五月婷婷另类| 色综合五月| 婷婷色在线观看| 思思热99在线| 原琪琪色影院| 五月丁香花成人社区| 六月丁香啪啪啪| 青青草搞屄视频网站| 九九精品系列| www.婷婷| 综合网啪| www激情网| 日韩一级A片黄色| 在线看片h站| 五月丁香婷婷久久| 婷婷五月伦理网站| 欧美久草在线日本一级特黄大片做受9在线观看韩国电影《两个女人》未删减-毛片 | 久久9热综合| 日日操日日撸| 婷婷五月天AV| 6080av| 日韩 中文 欧美| 亚洲成人在线在线| 丁香六月婷婷| 五月婷婷激情五月| 99热精品9| 九月婷婷综合| 97超级碰碰碰| 婷婷最新地址| 亚洲色婷婷| 99热在线播放| 天天操天天日天天操| 欧美情月伍月天| 国内久久亭亭| 色情婷婷久久五月天| 九九激情网| 欧美色99| 五月天六月婷婷| 伊人丁香婷婷东京| 久久丁香五月综合六月激情红杏视频| 99热久久日本| 久久婷婷原创视频| 国产精品99久久久久久久女警| 丁香婷婷色色| 亚洲激情婷婷| 亚洲激情精品| 五月天激情Av| 79精品在线视频| 久久精品视频99| www.99热这里精品| 婷婷五月日本| 久久R激情| 成人看片网站| 午夜丁香婷婷| 日本精品99| 天天干一干| 操操操AV| 亚洲色亚洲精品| caopeng97日韩| 日韩好吊操| 成人在线日韩| 久久九九综合| 91成人品| 91人妻人人做人碰人人爽九色| 操逼国产91| 91九色PORNY中文啦| 日韩不卡123| 中文字幕日本最新乱码视频| 免费看欧美成人A片无码| 久久婷婷亚洲| 色五月成人| 人妻久久久久久久 | 99思思| 色婷婷大香蕉| 亚洲精品视频在线播放| 黄色片区子| 天堂久久精品| 婷婷久久综合| 五月天婷婷在线观看| 第四色激情网| www,天天干| 丁香六月在线| 亚洲va成人va成人va在线观看| 亚州色色色| 五月丁香影视| 欧美肉大捧一进一出免费视频| 久久综合五月天| 亚洲成人网站在线观看| 精品亚洲国产成人A片在线鸭王| 99热精品在线观看| 中字幕视频在线永久在线观看免费 | 久久99久久99精品免观看软件 | 久草热8精品视频在线观看| 97碰碰碰免费公开在线视频| 91av传媒高清在线视频网| 韩日另类| 日韩精品VIP| 69精品人人人人人人| 天堂综合久| 五月丁香啪啪综合网| 色婷久久| 怡红院院在线导航网| 亚洲日韩26uuu| 久久99成人性爱高清视频| 激情小说五月欧美亚洲丁香| 色婷婷久久综合久色综| 久久婷婷五月丁香网| 九九热免费| 激情网五月天| 精品热九九| 综合玖玖偷拍| 97人人操人人干| 十月丁香婷婷| 丁香五月中文字幕久色| 五月天婷婷小说| 玖玖综合色| 99热啪啪| 婷婷激情六月中文| 婷婷五月色综合| 五月丁香日本一抹本| 久久99热 这里有精品| 天天综合天综合| 七七九色| 啪啪综合网| 九九XX视频| 综合99视频| 激情色中文| 色色色色色爱| 欧美97色| 狠狠爱青青草| 超碰色婷婷| 久久99热这里| 亚州色色色| 99性视频| www久久久久久久久久久久久久久久久| 99热国产婷婷| 色色色视频免费无码| 五月婷婷开心综合| 99热在线精品观看| 亚洲丁香婷婷| 91久久久久久| 欧美VA在线观看| av在线资源| 婷婷五月丁香青青草在线| 91狠狠色色丁香婷婷综合久久| 婷婷色色综合激情| 久久色9| 成人精品视频99在线观看免费| 99热在线看| 日日日日做夜夜夜夜无码| 色五月第四色| 亚洲第一综合| 热99久| 日日干日日s| 婷婷五月天网址| 91人人人人人| 色欲久久综合| 亚洲精品激情| 欧美成人精品A片免费一区99| 香蕉伊人综合| 五六月丁香激情视频| 另类图片色五月| 婷婷五月天国产性感美女演员久久久久| 国产在线中文字幕| 情婷婷五月天| 久热久| 99ri精品在线| 久热这里只有精品在线| 久99视频| 五月丁香成人| 五月婷天天搞视频| 丰满老熟妇BBBBB搡BBB | 九九色综合网| 91久久人人操| 五月深爱婷婷| 99无码黄色视频| 超级碰碰碰91| 五月之婷婷| 开心激情站| 亚洲av综合网| 色五月丁香五月| 九九婷| 久久亚洲网| 久热婷婷| 成人在线综合| 成人丁香婷婷| 色青青电影色五月| 激情综合网五月天天| 91色色色| 色娸娸综合网| 天天婷婷综合亚洲亚洲| 色婷婷中文| AV五月丁香| 五月激情天| 99热国产精品| 啪啪99| 91婷婷五月丁香碰| 婷婷干五月综合在线播放| 日本人妻伦在线中文字幕| 天天骑日日爽| 色婷五月天| 九九热99免费视频| 99热久| 九九色网| 六月色丁香中文字幕| 91打屁股免费看| 色婷婷婷婷成人网| 婷婷色中文字幕| 异能之下短剧免费观看全集| 五月 成人 婷婷| 2022人人操人人看| 天天综合网在线| 激情淫乱男女| 五月丁花六月丁香综合| 好大好粗嗯啊-一级黄色大片免费观看-成人AV| 久久只这里有精品| 丰满少妇猛烈A片免费看观看 | 欧美性猛交 XXXX 乱大交| 狠狠做六月爱婷婷综合aⅴ| 日本精品99| 欧美久久婷婷| 欧美内射AA| 大香蕉综合| 久婷五月| 久久九九网| 久热无码| 五月婷视频久久| 97色色色色色| 五月天色导航婷婷资源婷婷| 99热这里只有精品免费| 天堂AV三级| 色色99| 激情的五月| 色色网站毛片| 色性五月天| 色丁香五月婷婷综合久久| 丁香成人色情五月天| 91人人看| 99成人| 中美日韩成人在线| 天天狠狠夜夜狠狠2023| 久久精品国产色| 国产精品久久久久久久久久免费 | 亚洲、欧美、国产另类笫二区| 六月丁香啪啪啪| 综合激情五月丁香| 亚洲色五月| 亚洲精| BlACKEDRAW视频一区二区| 婷婷激情五月天激情| 97碰成超视频免费视频| 久久免费操| 丁香六月开心| 99ER热精品视频| 日日操人人操| 97人人看一| 激情婷婷色色| 99这里只有免费的小视频在线观看| 国产伦亲子伦亲子视频观看| 激情婷婷五月天日本系列| 5五月综合网亚洲| 99精品久久久| 99精品视频在线6| 丁香六月成人| 91久久电影| 丁香五月,开心五月,成人婷婷| 丁香婷婷综合激情五月色| 五月丁香欧美在线| 123草逼网| 91一起操| 亚洲色婷婷五月| 国产精品色婷婷99久久精品| 人人干人人看| 99视频热| 97视频91| 免费看欧美成人A片无码| 色亚洲欧洲| 欧美99热| 五月天天丁香婷婷| 极品另类| 综合久色五月| 99热99思午夜精品| 99热这里只有精品16| 99热综合在线观看| 99热加勒比| 久久婷婷五月天| 婷婷伊人网| 亚洲小视频免费看| 日本色超碰| 五月丁香狠狠爱| 婷婷丁香激情五月天色色| 熟女网站久久| 超级碰碰97在线| 99热99久久| 白天AV月月| 日本97在线视频| 成人中文网| www.91婷婷| 逼逼AV| 五月丁香啪啪综合| 久久婷婷青青草| 久热成人| 亚洲精品国产精品乱码不99| www婷婷| 丁香五月瑟瑟| 久久久这里有精品| 天天精品视频免费观看| 天天天操天天天爰| 草榴视频网| 日本少妇裸体做爰高潮片| 99资源在线视频| 五月丁香婷婷人体| 久综合网| 超碰97色| 97在线观视频免费观看| 五月丁香啪啪激情| 99精品免费欧美小视频| 婷婷六月丁香综合| 五月婷婷婷| 激情图片亚洲| 五月婷婷六月色| 婷婷综合五月| 色噜综| 永久思思热在线| 婷婷丁香五月色偷偷| 秋霞AV吧| 9l视频自拍9l九色成人| 综合99视频| 丁香六月婷婷综合在线| 色婷婷色五月另类综合| 久久最新色| 色婷婷狠狠久久综合五月| 综合色色网| 强伦轩人妻一区二区电影| 都市激情小说婷婷| 成人久久天天x资源站| 久久六月天| 欧美月久久| 久久综合五月天激情小说网站| 99精品无码| 狠狠久久婷五月| 色色性爱视频| 久久婷婷五月天激情唯美| 色色啊| 婷婷久久综合久| 五月婷婷深深爱| 狠干综合| 奇米色大香蕉| 五月丁久久| 涩涩五月天| 26UUU精品一区二区| 色五月天丁香婷婷| 久热免费| 亚洲精品激情| 嫩草AV久久伊人妇女超级a| 婷婷大美在线| 丁香婷婷五月天色综合| 久99久视频| 激情五月婷| 91在线操| 色色色色色综合| 综合久久首页| 91人人看| 色色图五月天| 日日夜夜亚洲一区| 91丨九色丨国产| 曰韩五月丁香色婷婷无码| 日产精品久久久久久久蜜臀| 六月丁香啪啪| 五月天激情四射| 五月丁香影院| 国产成人+综合亚洲+天堂| 婷婷免费视频| 日韩色色视频| site:pnnrt.com| 日日天天干| 五月天桃色深爱网| 丁香婷婷社区| 久久久久婷婷| 丁香六月啪| 五月综合久久| 亚洲乱码日产精品BD| 疯狂做受XXXX高潮A片| 午夜不卡久久精品无码免费| 99网| 91夫妻视频| 日本美女97在线视频| 99热 日韩| 4399在线观看免费高清毛片| 九九精品系列| 亚洲婷婷五月| 亚洲成人AV在线播放| 激情五月综合网最新| 婷婷五月天色| 99这里只有精品8| 亚洲九九九九| 狠狠色噜噜| 色五月婷婷很很操| 五月婷婷深深爱| 久久 婷婷 五月天| 婷婷六月色| 五月丁香综合啪啪| 日韩一本操| 五月天大香蕉婷| 99热99草97| a九九热www| 大香蕉久久| ...婷婷国产成人亚洲日韩| 日本成人噜噜噜噜噜| 伊人五月天婷婷| 五月婷婷六月丁香在线| 玖玖婷婷色五月| 狠狠狠狠狠狠狠狠| 国产毛片精品一区二区色欲黄A片| 九九99九九精品免费 | 毛片新网地| 亚洲色五月婷婷| 免费观看全黄做爰的视频| 五月天久久小说| 久久精品系列| 67194国产| 26UUU亚洲欧美| 99热免| 热九九精品| 国产精品99久久久久久久女警| 九九艹女| 99视频在线播放大全| 性五月激情| 五月天停停基地| 另类 在线| 久色| 色九月丁香婷婷蜜桃在线观看| 99热资源在线| 99免费成人网| 五月花丁香婷婷| 99riAV国产精品视频| 丁香五月天堂网| 亚洲精品另类| 91九色在线| 欧美婷| 五月丁香综合网| 激情六月天| 丁香五月色情av| 亚洲天堂啪啪| 色播五月丁香综合| 亚洲无码99| 九色视频91| 91主播在线| 五月开心婷婷极品激情| 99re在线这里只有精品视频首页| 夜夜大香蕉婷婷丁香| 538在线精品| 另类亚洲视频| 5月丁香综合网| 亚洲成人av在线播放| 五月激情天| 色五月婷婷1| 婷婷丁香六月影视| 五月婷婷五月天| 午夜不卡久久精品无码免费| 丁香六月婷婷社区| 这里都是精品99| 婷婷五月天激情电影小说| 97色色视频| 97超碰欧美中文字幕| 欧美成性色| 天天狠狠夜夜狠狠2023| www.狠狠| 色综合久久88色综合天天看| 中文无码精品一区二区三区| www.婷婷.com| 大香蕉五月婷婷丁香| 妇激情基地| 婷婷五月天精品| 国产精品色色| 久热黄色| 九九色综合视频| 婷婷在线视频| 一月婷婷色色| 五月婷婷丁香色播网| 狠狠干狠狠干| 日本精品干| 久8色色| 超碰99热| 色呦呦美女| 99热无码| 欧美性猛交99久久久久99按摩 | 五月婷婷中文字幕| 2015在线中文字幕| 色色网站在线免费观看视频| 色综合中文| 91九九热| 深爱开心五月天| 亚洲免费婷婷| AV成人在线播放| 久 久9 9 热 视 频| 成人做爰A片免费看视频| 91九色国产| 婷婷五月六| 久久婷综| AV五月丁香| 五月丁香成人网| 丁香婷婷五月色成人网站| 老司机伊人| 婷婷综合中文| 这里只有精9| 色色五月天婷婷| 亚洲成人九九九| 99r这里| 色色欧美。| 99热在线99| 日日撸夜夜操| 大香蕉五月天婷婷| 91久久九久久九久久九久久九久久| 97成人在线视频| 思思99re这里只有| 思思热在线观看| 五月丁香六月激情综合网| 激情五月丁香社区| 99久久精彩视频| 五月婷婷丁香社区| 日韩国产AV播放| 丁香五月天啪啪激情综合网| 国产成人精品亚洲线观看| 美女亚洲五月丁香| 色播五月网| 欧美久热| 婷婷五月色| 最新色色五月天| 九九精品综合| 久久9热| 激情五月天开心| 91在线看免费 九九九九| 99热6精品| 婷婷五月欧美| 五月天色婷婷激情| 69人人操人人爽| 一本久道综合色婷婷五月| 丁香av网| 久久只有18视频| 微拍92| 激情六月综合| 婷婷丁香婷婷97| 狠狠五月激情丁香六月| 极品五月天| 五月激情六月宗合| 无码一级片| 草五月| 草榴视频网| 超碰在线观看9| 九九re精品视频在线观看 | 婷婷综合色图| 99久久9| 丁香婷婷色五月| 天天综合色| 精品五月丁香| 777影视理论片大全在线观看| 日 日干 日日做| 黄色国久久| 久久久久人妻精选| 国产探花一片区| 久久久噜噜噜久久人妻| 色五月婷婷91| 亚洲天堂久久| 色五月无码| 爱99干99| 五月丁香亚洲婷婷| 影音先锋男人资源站一区二区| 久久五月天色婷婷| 婷婷五月色| 日产精品一线二线三线芒果| 六月婷婷网站| 婷婷婷五月香蕉| 九热免费视频| 欧美一级色| 久久er99热精品一区二区| 六月丁香激情综合| 激情婷婷网| 91在线日| 色婷婷在线视频久| 97人碰人操| 久久婷婷亚洲| 综合五月婷婷| 久久人妻熟女一区二区| 夜夜综合色| 蜜桃婷婷狠狠久久| 婷婷99狠狠| 久香草视频在线观看| 五月婷天堂视频| 亚洲综合五月天婷婷丁香| 激情婷婷内射| 婷婷五月,综合伊人| 五月婷婷成人| 九九精品网站| 久久婷婷综合五月| 综合网啪| 26uuu色噜噜精品一区| 人人操人人妻| www.精品99| 高清激情av在线观看| 大香蕉伊然在亚洲90| 丁香六月婷婷开心| 天天拍夜夜爽日日| 黄色91在线观看| 久久综合五月| 99思思热只有在这里看| 婷婷欧美激情综合| 久久精品99国产精品日本| www激情婷婷com| 婷婷综合激情| 色色色com| 99久久婷| 五月丁香六月停停| 综合久久高清| 国产AV熟妇人震精品一品二区| 色色亚洲视频| peg 2区三区四区的| 中文字幕婷婷在线| 婷婷五月天成人| 韩国天天婷婷| 欧美狠狠一在草| 五月婷婷亚洲色图| 久/久精品99看9| 日日色综合| 玖玖99福利| 91热网址| 香蕉久久国产AV一区二区| 色婷婷国产精品综合在线观看| 婷婷久久免费看| 国产视频福利| 日韩性爱AV| 久久性视频| 韩国三级五月天婷婷。| 99re热视频这里只精品5| 天天日夜夜爽| 这里只有精彩视频| 99热久只有精品首页| 综合九九中文字幕| 国产欧美精品AAAAAA片| 国产精品视频| 婷婷激情丁五月| 天天色播| 激情性爱网站| 青青草国产亚洲精品久久| 久久婷婷五月天激情四射| 欧美97p| 中文字幕在线观看视频www| 亚洲色区17| 五月激情综合网| 91操在线视频| 日日爽日日爽| 午夜丁香六月婷| 午夜激情综合| 人人操大| 91.www综合| www五月| 六月撸婷婷| 丁香五月无码| 色婷婷在线视频久| 婷婷的久久网站| 九热视频免费观看| 精品9197碰| 婷婷五月在线观看| 99噜噜| 久色欧美| 丁香五月亚洲无码| 婷婷伊人| 1024婷婷综合久久五月天| 思思热99er| 中文字幕按摩做爰| 五月婷婷天| 日本一级特黄大片AAAAA级| 婷婷色情六月| 夜夜操狠狠操天天操| 青青夜夜狠狠夜夜狠狠| 草草操操| 色五月婷婷操逼| 九热电影av|