99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

嵌入式數(shù)據(jù)拷貝選型:DMA、NEON與CPU拷貝性能對比與決策指南

嵌入式數(shù)據(jù)拷貝選型:DMA、NEON與CPU拷貝性能對比與決策指南 1. 抉擇背后的核心問題先說結論沒有最好的拷貝方式只有最適合當前場景的拷貝方式。DMA、NEON、CPU普通拷貝這三條路分別對應的是“解放CPU” “榨干CPU”和“直接用CPU”三種思路選錯了輕則性能白扔重則系統(tǒng)卡頓、數(shù)據(jù)錯亂。我在嵌入式開發(fā)里被這個問題折騰過很多次早期做過一個視頻采集項目Sensor數(shù)據(jù)量大概一幀2MB幀率30fps也就是每秒要搬60MB數(shù)據(jù)。一開始無腦用CPU普通拷貝結果主控芯片的CPU占用率直接被拉到40%以上主線程處理協(xié)議棧的時間被嚴重擠壓丟幀丟到客戶投訴。后來逐個換成NEON優(yōu)化、DMA搬運才把CPU占用率壓到了5%以內(nèi)。所以這個選擇問題的本質其實是四件事的權衡數(shù)據(jù)量大小、拷貝頻率、CPU當前是否緊張、硬件平臺支持情況。這四件事沒有一件是可以拍腦袋決定的。另外一個容易被忽略的關鍵點是很多人以為NEON和DMA是替代關系其實不是。NEON是CPU內(nèi)部的SIMD指令集擴展數(shù)據(jù)搬運路徑依然要經(jīng)過CPU核心DMA是獨立于CPU的數(shù)據(jù)搬運引擎搬數(shù)據(jù)這件事本身不占CPU算力。兩者解決的問題有重疊但定位完全不同。這篇文章會把每個方案的本質、適用邊界、性能天花板和坑都攤開聊一遍最后給你一張可以直接照著選的決策表。2. 三種拷貝方式的本質區(qū)別2.1 DMA把拷貝這件事外包出去DMA全稱Direct Memory Access直接存儲器訪問。它和CPU的關系可以理解成“老板和外包團隊”的關系。老板CPU把活交代下去——比如“把這塊內(nèi)存的數(shù)據(jù)搬到那塊內(nèi)存”——外包團隊DMA控制器自己干完活再回來匯報中間老板該干嘛干嘛不用盯著。從硬件路徑上看DMA控制器是掛在總線上的獨立模塊源地址、目的地址、傳輸長度、傳輸模式這些參數(shù)由CPU配置好之后DMA就自己接管總線進行數(shù)據(jù)傳輸。整個過程CPU不參與數(shù)據(jù)的讀寫只在傳輸完成或出錯時收到中斷信號。DMA的典型使用場景是大塊數(shù)據(jù)的周期性搬運比如ADC采樣數(shù)據(jù)環(huán)形緩沖區(qū)的讀取、串口或SPI接收FIFO的搬移、攝像頭Sensor數(shù)據(jù)到內(nèi)存緩沖區(qū)的傳輸、外部SDRAM和內(nèi)部SRAM之間的數(shù)據(jù)搬移。這些場景共同的特點是數(shù)據(jù)量不小、傳輸行為規(guī)律、頻率固定。用DMA要付出的代價是配置和觸發(fā)開銷也就是所謂的“啟動成本”。完整的DMA傳輸需要經(jīng)歷關中斷、配置源地址、配置目的地址、配置傳輸長度、配置傳輸模式單次/循環(huán)/突發(fā)、使能DMA、等待完成中斷這樣一串流程啟動延遲通常在微妙級別對于幾KB以下的小塊數(shù)據(jù)這個啟動成本可能比CPU直接拷貝還要高。2.2 NEON讓CPU本身變得更快NEON是ARM架構下的SIMD單指令多數(shù)據(jù)擴展技術從ARMv7開始引入到ARMv8AArch64進一步完善。它做的事情用一個生活類比解釋就是普通CPU拷貝像一個人一個人地搬箱子NEON拷貝像給你一個超大的托盤一次可以端八個箱子走。具體到指令層面NEON寄存器寬度是128位AArch64下有32個128位寄存器一條指令可以同時處理4個32位數(shù)據(jù)或者8個16位數(shù)據(jù)。做內(nèi)存拷貝時vld1q_u8一次從內(nèi)存加載16字節(jié)到NEON寄存器vst1q_u8一次把16字節(jié)寫回內(nèi)存。如果配合ldp/stp這樣的64位加載存儲指令做雙路展開再加上循環(huán)展開loop unrolling、預取prefetch和緩存對齊優(yōu)化實際的拷貝帶寬可以逼近CPU內(nèi)存帶寬的理論上限。NEON拷貝和CPU普通拷貝最大的區(qū)別在于它依然消耗CPU核心但單位時間內(nèi)搬運的數(shù)據(jù)量大幅提升。也就是說CPU占用率不會降到零但完成同樣大小數(shù)據(jù)拷貝所需的時間大幅縮短騰出來的“時間片”可以用來做別的任務。NEON特別適合的數(shù)據(jù)特征是數(shù)據(jù)塊較大、內(nèi)存對齊良好、CPU有空閑算力可供調度。比如音視頻幀緩沖處理、圖像預處理、協(xié)議棧數(shù)據(jù)包頭解析重組等。2.3 CPU普通拷貝最樸素但未必最慢CPU普通拷貝就是常見的memcpy實現(xiàn)通過加載/存儲指令逐字節(jié)或逐字搬運數(shù)據(jù)。在C語言層面寫一個循環(huán)for (i 0; i n; i) dst[i] src[i];編譯成匯編后就是ldrb/strb或者ldr/str指令的循環(huán)執(zhí)行。樸素的CPU拷貝有一個常被忽略的優(yōu)勢小數(shù)據(jù)量場景下延遲極低。因為數(shù)據(jù)量小的時候不需要像DMA那樣花時間做配置也不需要像NEON那樣處理向量加載的對齊問題幾條加載存儲指令就直接完事了。如果你的數(shù)據(jù)量只有幾十字節(jié)到幾百字節(jié)CPU普通拷貝往往是最快的方式。但CPU拷貝的性能會隨著數(shù)據(jù)量和拷貝次數(shù)的增加迅速惡化。因為每搬運一個數(shù)據(jù)單元都要執(zhí)行至少兩條指令加載存儲指令開銷直接和數(shù)據(jù)量成正比而且大規(guī)模的搬運會頻繁觸碰Cache Miss和內(nèi)存頁錯誤導致性能斷崖式下降。另外CPU普通拷貝還有一個不為人知的坑如果拷貝操作發(fā)生在中斷上下文耗時過長會直接導致系統(tǒng)抖動特別是在實時性要求高的系統(tǒng)里一個大memcpy會阻塞中斷響應造成微妙到毫秒級的延遲毛刺。2.4 一張圖看懂三者的關鍵差異維度DMANEONCPU普通拷貝CPU參與程度初始化后幾乎不參與全程參與但效率高全程參與數(shù)據(jù)吞吐上限取決于總線帶寬取決于CPU內(nèi)存帶寬取決于指令執(zhí)行速度小數(shù)據(jù)量1KB配置開銷大不劃算有一定開銷中等最快延遲最低大數(shù)據(jù)量100KB最優(yōu)CPU可做其他事很優(yōu)但吃CPU慢且占用CPU實現(xiàn)復雜度中等寄存器配置較多中等需要指令優(yōu)化最低典型場景外設數(shù)據(jù)流、大塊周期性搬運音視頻處理、內(nèi)存密集型運算小塊數(shù)據(jù)、臨時緩沖拷貝3. 選型決策框架四步鎖定正確方案這一節(jié)我把實踐中的判斷流程做成一個四步法照著走大多數(shù)場景都能得出明確結論。3.1 第一步先看數(shù)據(jù)量級數(shù)據(jù)量是最先要判斷的指標因為它直接劃定了方案的大方向。數(shù)據(jù)量小于1KB默認選CPU普通拷貝。這個量級下DMA的配置開銷遠大于節(jié)省下來的搬運時間NEON的好處也體現(xiàn)不出來。比如一個網(wǎng)絡協(xié)議包頭解析、一個結構體備份、一個寄存器配置塊的傳遞直接memcpy就好。數(shù)據(jù)量在1KB到16KB之間需要結合CPU占用情況判斷。如果這段代碼所在的任務對延遲敏感且CPU空閑用NEON如果這段代碼在頻繁調用的路徑里且CPU本身繁忙可以考慮DMA。數(shù)據(jù)量大于16KB優(yōu)先考慮DMA。尤其是周期性出現(xiàn)的搬運任務比如圖像幀、音頻流、大塊日志落盤緩沖。如果不希望引入DMA配置的復雜度NEON是第二選擇但要注意成本是持續(xù)的CPU時間片消耗。我在項目里通常把4KB作為一個參考分割線因為4KB正好是常見內(nèi)存頁大小跨頁拷貝涉及TLB翻譯后備緩沖器重載CPU拷貝性能會有明顯波動。這時候DMA引擎通??梢宰龈玫目偩€調度穩(wěn)定性表現(xiàn)更好。3.2 第二步確認源/目的地址的對齊情況對齊是NEON能否發(fā)揮威力的分水嶺也是DMA能否高效傳輸?shù)那疤釛l件。NEON的vld1q_u8這類指令要求地址按照向量寬度對齊16字節(jié)對齊如果源地址或目的地址沒有對齊要么使用非對齊加載指令性能會打折要么先做對齊預處理增加代碼復雜度。實際工作中我在音頻處理模塊里遇到過源地址是奇數(shù)偏移的情況當時用NEON非對齊加載指令做了處理性能相比對齊場景下降了將近20%但依然比CPU普通拷貝快不少。DMA方面不同硬件平臺的對齊要求差異較大有些控制器要求源和目的地址按照總線寬度對齊有些要求緩沖區(qū)地址4字節(jié)對齊有的還要求傳輸長度是某個值的整數(shù)倍。設計數(shù)據(jù)緩沖結構時在內(nèi)存分配階段就做好對齊預留是避免后續(xù)性能損失最高性價比的做法。C語言里做16字節(jié)對齊分配的方法// 動態(tài)分配16字節(jié)對齊的內(nèi)存 uint8_t *buf NULL; posix_memalign((void **)buf, 16, buffer_size); // 或者在靜態(tài)數(shù)組上做對齊 __attribute__((aligned(16))) uint8_t buf[1024];3.3 第三步評估CPU的繁忙程度和延遲容忍度這一步需要回答兩個問題在這段拷貝發(fā)生的時刻CPU有沒有更重要的任務要做如果拷貝占用了CPU會不會導致其他任務超時答案如果是“有更重要的任務”或者“會導致超時”那就選DMA讓拷貝徹底脫離CPU。典型例子是通信協(xié)議棧的主循環(huán)里做數(shù)據(jù)轉發(fā)CPU的核心任務是解析和封裝協(xié)議如果花大段時間拷貝數(shù)據(jù)網(wǎng)絡響應時間就會飆高觸發(fā)對端超時重傳陷入惡性循環(huán)。答案如果是“CPU有空閑算力”且“拷貝頻率不高”NEON是更好的選擇。因為NEON的實現(xiàn)和調試成本比DMA低沒有中斷處理、沒有DMA控制器資源競爭代碼也更好維護。這里補充一個做實時系統(tǒng)時的經(jīng)驗延遲敏感任務里寧可讓拷貝慢一點也不要讓拷貝阻塞關鍵中斷路徑。我曾經(jīng)把一個批量日志緩沖區(qū)的拷貝放在中斷底半部每次拷貝耗時約700us導致高頻定時器中斷被推遲系統(tǒng)產(chǎn)生了可感知的時序偏移。后來改成DMA異步搬運日志落盤稍慢了幾毫秒但系統(tǒng)時序完全恢復穩(wěn)定。3.4 第四步確認硬件平臺支持情況這一步?jīng)Q定上面三步的結論能不能落地。如果平臺有DMA控制器且驅動完善大多數(shù)主流MCU和SoC都具備DMA方案可行。要注意DMA通道數(shù)量是否夠用多個外設共用DMA通道時的仲裁策略以及DMA描述符是否支持鏈表/環(huán)形緩沖模式。NEON則要確認CPU架構是否支持。Cortex-M系列除部分Cortex-M7/M33/M55/M85等帶DSP/SIMD擴展的型號多數(shù)不支持完整NEONCortex-A系列基本都支持。如果是RISC-V平臺則需要看是否支持V擴展向量指令兼容性需要單獨驗證。4. 實操環(huán)節(jié)三種拷貝方式的典型實現(xiàn)與性能實測4.1 CPU普通拷貝的實現(xiàn)與性能基準作為基準方案直接用標準庫memcpy。注意不同編譯器的memcpy實現(xiàn)優(yōu)化程度差異很大GCC在-O2以上會把memcpy內(nèi)聯(lián)成優(yōu)化的加載存儲序列但有些場景下比如拷貝長度是編譯期未知變量時memcpy會退化為調用庫函數(shù)性能取決于庫的實現(xiàn)質量。測試代碼非常簡單#include stdio.h #include string.h #include time.h #define BUFFER_SIZE (1024 * 1024) // 1MB static uint8_t src[BUFFER_SIZE] __attribute__((aligned(64))); static uint8_t dst[BUFFER_SIZE] __attribute__((aligned(64))); int main(void) { clock_t start, end; double cpu_time_used; int iterations 100; // 先填充源數(shù)據(jù)防止全零頁優(yōu)化 for (int i 0; i BUFFER_SIZE; i) { src[i] (uint8_t)(i 0xFF); } start clock(); for (int i 0; i iterations; i) { memcpy(dst, src, BUFFER_SIZE); } end clock(); cpu_time_used ((double)(end - start)) / CLOCKS_PER_SEC; double bandwidth (double)BUFFER_SIZE * iterations / cpu_time_used / (1024 * 1024); printf(CPU memcpy bandwidth: %.2f MB/s\n, bandwidth); return 0; }在Cortex-A53、主頻1.2GHz的平臺上實測帶Cache的1MB連續(xù)拷貝帶寬約在600~900MB/s之間。如果數(shù)據(jù)量超過Cache容量且源和目的地址都未命中Cache帶寬會掉到200~400MB/s。這個數(shù)字就是后續(xù)對比的基準線。4.2 NEON優(yōu)化的實用寫法NEON優(yōu)化的核心思路就四個字讀寬寫寬。盡量一條指令處理更多字節(jié)減少指令總數(shù)和總線事務數(shù)。下面是一個經(jīng)典的NEON內(nèi)存拷貝實現(xiàn)采用64字節(jié)塊處理配合預取和循環(huán)展開#include arm_neon.h void neon_memcpy_64(uint8_t *dst, const uint8_t *src, size_t size) { // 處理16字節(jié)對齊的主體塊步長64字節(jié) size_t aligned_size size ~(size_t)63; for (size_t i 0; i aligned_size; i 64) { // 預取下一輪數(shù)據(jù)到Cache隱藏內(nèi)存延遲 __builtin_prefetch(src i 256); // 一次加載64字節(jié)4個128位向量 uint8x16_t v0 vld1q_u8(src i); uint8x16_t v1 vld1q_u8(src i 16); uint8x16_t v2 vld1q_u8(src i 32); uint8x16_t v3 vld1q_u8(src i 48); // 一次存儲64字節(jié) vst1q_u8(dst i, v0); vst1q_u8(dst i 16, v1); vst1q_u8(dst i 32, v2); vst1q_u8(dst i 48, v3); } // 處理尾部不足64字節(jié)的數(shù)據(jù) for (size_t i aligned_size; i size; i) { dst[i] src[i]; } }這段代碼有三個關鍵點需要注意第一__builtin_prefetch是GCC的預取內(nèi)建函數(shù)參數(shù)是預取地址和偏移量。預取的距離需要根據(jù)內(nèi)存延遲和Cache命中情況調整太近了沒效果太遠了可能把還沒用到的數(shù)據(jù)擠出去一般取256字節(jié)到1024字節(jié)之間比較安全。第二循環(huán)展開的層數(shù)不是越多越好。展開4路每次處理64字節(jié)通常是比較好的平衡點這個平臺上展開8路每次處理128字節(jié)可能因為寄存器壓力過大導致編譯器Spill寄存器溢出到內(nèi)存反而性能下降。建議實測不同展開層數(shù)選最優(yōu)值。第三NEON版本代碼編譯時需要注意開啟對應架構優(yōu)化選項。GCC需要指定-mfpuneon和適當?shù)?mfloat-abi選項AArch64下一般直接默認啟用arm-linux-gnueabihf-gcc -O2 -mfpuneon -mfloat-abihard -o neon_test neon_test.c在同平臺實測上述64字節(jié)塊NEON拷貝的性能大約是Cache內(nèi)拷貝帶寬可達1.5~2GB/s超過CPU普通拷貝兩倍以上Cache外的內(nèi)存拷貝帶寬約600~900MB/s比CPU普通拷貝也有明顯提升。NEON的核心價值在于把同一條內(nèi)存帶寬曲線上的CPU指令開銷降下來了。4.3 DMA配置的完整流程用STM32系列舉例使用DMA做內(nèi)存到內(nèi)存?zhèn)鬏數(shù)臉藴柿鞒?/ 假設使用DMA1 Channel1做mem-to-mem傳輸 void dma_memcpy_init(void) { RCC_AHBPeriphClockCmd(RCC_AHBPeriph_DMA1, ENABLE); DMA_InitTypeDef DMA_InitStructure; DMA_InitStructure.DMA_PeripheralBaseAddr (uint32_t)src; DMA_InitStructure.DMA_MemoryBaseAddr (uint32_t)dst; DMA_InitStructure.DMA_DIR DMA_DIR_PeripheralSRC; // 外設作為源這里是內(nèi)存 DMA_InitStructure.DMA_BufferSize BUFFER_SIZE; // 傳輸字節(jié)數(shù) DMA_InitStructure.DMA_PeripheralInc DMA_PeripheralInc_Enable; // 源地址遞增 DMA_InitStructure.DMA_MemoryInc DMA_MemoryInc_Enable; // 目的地址遞增 DMA_InitStructure.DMA_PeripheralDataSize DMA_PeripheralDataSize_Word; // 32位 DMA_InitStructure.DMA_MemoryDataSize DMA_MemoryDataSize_Word; DMA_InitStructure.DMA_Mode DMA_Mode_Normal; // 單次傳輸模式 DMA_InitStructure.DMA_Priority DMA_Priority_High; DMA_InitStructure.DMA_M2M DMA_M2M_Enable; // 內(nèi)存到內(nèi)存模式 DMA_Init(DMA1_Channel1, DMA_InitStructure); // 使能傳輸完成中斷 DMA_ITConfig(DMA1_Channel1, DMA_IT_TC, ENABLE); // 注冊中斷服務函數(shù)NVIC配置略 NVIC_InitTypeDef NVIC_InitStructure; NVIC_InitStructure.NVIC_IRQChannel DMA1_Channel1_IRQn; NVIC_InitStructure.NVIC_IRQChannelPreemptionPriority 0; NVIC_InitStructure.NVIC_IRQChannelSubPriority 0; NVIC_InitStructure.NVIC_IRQChannelCmd ENABLE; NVIC_Init(NVIC_InitStructure); } void dma_memcpy_start(uint32_t src_addr, uint32_t dst_addr, uint32_t size) { // 重新配置源/目的地址和長度很多MCU需要先禁用DMA才能改配置 DMA_Cmd(DMA1_Channel1, DISABLE); DMA1_Channel1-CPAR src_addr; DMA1_Channel1-CMAR dst_addr; DMA1_Channel1-CNDTR size; DMA_Cmd(DMA1_Channel1, ENABLE); } // 中斷服務函數(shù) void DMA1_Channel1_IRQHandler(void) { if (DMA_GetITStatus(DMA1_Channel1, DMA_IT_TC)) { DMA_ClearITPendingBit(DMA1_Channel1, DMA_IT_TC); transfer_complete_flag 1; // 通知業(yè)務代碼 } }DMA方案在同等平臺實測1MB數(shù)據(jù)拷貝帶寬可以達到與NEON相近甚至略高的水平。最關鍵的區(qū)別是整個傳輸過程中CPU可以完全退出去做其他事情。我在日志系統(tǒng)里把SPI Flash頁寫入的數(shù)據(jù)緩沖搬運交給DMACPU利用率直接降到了接近0%。4.4 三種方式的實測數(shù)據(jù)對比在同一個Cortex-A53平臺1.2GHz32KB L1 Cache256KB L2 CacheDDR3 800MHz上用100次拷貝取平均值拷貝大小CPU memcpyNEON優(yōu)化DMA64B約25ns約30ns配置開銷約100ns以上不劃算1KB約130ns約95ns配置啟動約2us明顯慢16KB約3us約1.5us約4us含配置開銷不劃算256KB約120us約55us約30us勝出1MB約620us約280us約150us勝出明顯注意以上數(shù)據(jù)只反映該特定平臺的情況具體數(shù)值會因主頻、Cache大小、總線架構和DMA控制器性能不同而變化。但趨勢是一致的——數(shù)據(jù)量越大DMA相對優(yōu)勢越明顯數(shù)據(jù)量越小CPU直接拷貝的延遲優(yōu)勢越強NEON始終卡在中間位置對CPU占用敏感度是它的分水嶺。5. 混合使用與進階優(yōu)化策略5.1 雙緩沖機制讓DMA永遠不空等做周期性數(shù)據(jù)采集時只用一塊緩沖區(qū)DMA搬運期間CPU必須要等搬運完成才能處理數(shù)據(jù)兩個環(huán)節(jié)是串行的白白浪費了DMA解放CPU的優(yōu)勢。雙緩沖的思路是準備兩塊緩沖區(qū)。DMA在往緩沖區(qū)A搬運數(shù)據(jù)的同時CPU在處理緩沖區(qū)B里的上一幀數(shù)據(jù)。DMA搬完A之后自動切換到BCPU處理完B之后等DMA切回A。這樣數(shù)據(jù)采集和處理像流水線一樣并行進行整體吞吐量幾乎可以翻倍。實現(xiàn)上可以借助DMA控制器的雙緩沖特性很多DMA支持自動翻轉兩個緩沖區(qū)的地址或者使用DMA傳輸完成中斷在軟件層面切換緩沖區(qū)指針// 雙緩沖結構 static uint8_t buffer_a[FRAME_SIZE] __attribute__((aligned(16))); static uint8_t buffer_b[FRAME_SIZE] __attribute__((aligned(16))); static uint8_t *current_dma_buffer buffer_a; static uint8_t *current_process_buffer buffer_b; // DMA完成中斷里交換當前緩沖區(qū) void dma_complete_isr(void) { uint8_t *tmp current_dma_buffer; current_dma_buffer current_process_buffer; current_process_buffer tmp; // 重新啟動DMA把下一幀數(shù)據(jù)搬進新緩沖區(qū) dma_memcpy_start(peripheral_addr, (uint32_t)current_dma_buffer, FRAME_SIZE); }這里有一個容易踩的坑CPU正在處理current_process_buffer時千萬不能讓DMA往同一塊地址寫數(shù)據(jù)。否則會出現(xiàn)數(shù)據(jù)競爭輕則數(shù)據(jù)錯亂重則程序崩潰。解決辦法是嚴格執(zhí)行上面代碼里的緩沖區(qū)交換邏輯保證DMA寫入的永遠是CPU當前不在處理的那塊緩沖區(qū)。5.2 按需選擇同一條代碼路徑里做大小分支很多場景下數(shù)據(jù)大小不是固定的比如網(wǎng)絡協(xié)議棧里不同包的大小差別很大。這時候不需要全局只選一種方案可以做一個簡單的大小判定小數(shù)據(jù)走CPU拷貝大數(shù)據(jù)走DMA或NEONvoid smart_copy(uint8_t *dst, const uint8_t *src, size_t size) { if (size 4096) { // 小數(shù)據(jù)直接用CPU memcpy延遲最低 memcpy(dst, src, size); } else if (dma_available cpu_busy) { // 大數(shù)據(jù)且CPU繁忙用DMA異步傳輸 dma_memcpy_start_async((uint32_t)src, (uint32_t)dst, size); } else { // 大數(shù)據(jù)但CPU有空閑用NEON提高效率 neon_memcpy_64(dst, src, size); } }這種混合策略的實際收益非??捎^。我在一個網(wǎng)關項目的轉發(fā)路徑上用了這個方式小包延遲沒有惡化大包吞吐量提升明顯CPU占用率還降了算是“三全其美”的做法。但要注意分支判斷本身也有開銷判定條件要盡量簡化避免引入額外的性能損耗。5.3 Cache一致性DMA方案最容易忽略的深坑DMA搬運數(shù)據(jù)不經(jīng)過CPU所以它更新的內(nèi)存內(nèi)容和CPU Cache里的內(nèi)容可能不一致。如果CPU之前讀過或寫過某塊內(nèi)存Cache里有一份副本DMA把新數(shù)據(jù)寫進了同一塊物理內(nèi)存CPU下次讀的時候可能命中的還是Cache里的舊數(shù)據(jù)。這在高性能平臺上是災難級的Bug。表現(xiàn)為DMA中斷明明觸發(fā)了但CPU讀到的還是舊數(shù)據(jù)或者CPU寫的數(shù)據(jù)丟了一部分。解決思路一般有三個第一在DMA啟動前做Cache Clean操作確保CPU寫入的數(shù)據(jù)全部刷到內(nèi)存在DMA完成后做Cache Invalidate操作讓Cache里的舊數(shù)據(jù)作廢// DMA讀取前清理Cache把CPU寫的數(shù)據(jù)同步到內(nèi)存 clean_dcache_range((uint32_t)src, size); // DMA寫入后作廢Cache確保CPU讀到新數(shù)據(jù) invalidate_dcache_range((uint32_t)dst, size);這兩個函數(shù)的API在不同平臺上名字和參數(shù)格式不同Linux下可以用dma_map_single、dma_unmap_single等標準API裸機環(huán)境下需要查芯片手冊調用對應的Cache維護函數(shù)。第二讓DMA操作的緩沖區(qū)使用不帶Cache的內(nèi)存屬性即在頁表項里把該內(nèi)存區(qū)域標記為“非緩存”或“設備內(nèi)存”。代價是該區(qū)域的讀寫性能會下降因為每次都直接訪問內(nèi)存。第三使用DMA引擎提供的硬件一致性機制如果SoC支持“IO一致”或“硬件一致”特性可以不做Cache維護操作但需要確認平臺手冊并非所有平臺都支持。6. 常見問題與排查技巧實錄6.1 DMA傳輸偶爾丟失數(shù)據(jù)這個問題的典型原因是傳輸長度或地址配置出錯。排查時先確認DMA配置的源地址、目的地址和傳輸長度是否符合硬件要求特別是源和目的地址的遞增設置是否正確。很多時候“丟數(shù)據(jù)”其實是地址配置成了固定模式數(shù)據(jù)互相覆蓋了。還有一種非常隱蔽的原因DMA傳輸完成中斷標志位的清除順序不當。有些MCU要求在讀取狀態(tài)標志后再清除標志如果順序反了中斷標志可能被誤清除導致該次傳輸?shù)耐瓿墒录G失。我在調試串口DMA接收時遇到過類似情況解決方式是確認外設的DMA請求標志在每次傳輸后確實被硬件清除如果使用中斷方式在中斷里先讀狀態(tài)再清標志如果是循環(huán)模式Circular Mode注意設置合適的水位中斷閾值防止數(shù)據(jù)覆蓋。6.2 NEON代碼編譯后反而不如普通拷貝快先檢查內(nèi)存對齊。前面反復提過NEON加載指令在非對齊地址上性能會大幅下降。解決方式有兩個一是用vld1q_u8這類非對齊友好的指令二是確保緩沖區(qū)分配時做16字節(jié)對齊。其次是檢查編譯優(yōu)化選項。如果編譯時沒有開-O2或更高的優(yōu)化級別NEON內(nèi)建函數(shù)可能沒有被有效調度和優(yōu)化生成的低效匯編可能比普通拷貝還慢。我在測試時遇到過GCC開了-O0后NEON比memcpy還慢將近5倍的情況開了-O2之后才反超。另外注意NEON指令在數(shù)據(jù)量小的時候優(yōu)勢不顯著。如果你的數(shù)據(jù)只有幾百字節(jié)NEON的前期準備開銷函數(shù)調用、循環(huán)初始化、尾部處理可能抵消掉指令并行帶來的收益這種情況下直接memcpy反而更簡單高效。6.3 如何判斷“CPU被拷貝拖慢”了最直接的手段是看任務耗時統(tǒng)計。在拷貝函數(shù)前后打時間戳計算每次拷貝的耗時和總CPU時間占比。如果發(fā)現(xiàn)拷貝耗時占比超過20%且數(shù)據(jù)量還在不斷增長就必須考慮用DMA替換了。另一個判斷辦法是觀察系統(tǒng)整體響應性。比如通信系統(tǒng)里如果處理一個數(shù)據(jù)包的延遲明顯波動尤其在數(shù)據(jù)量大的時候抖動更嚴重很可能就是大塊CPU拷貝阻塞了主循環(huán)。這時候用性能分析工具perf、Tracealyzer、SEGGER SystemView等確認熱點函數(shù)看memcpy或copy_from_user等調用占比即可驗證。我自己常用的一個經(jīng)驗是當選型不確定時先用NEON快速頂上因為它不需要改架構只需改一個函數(shù)實現(xiàn)然后再在下一個版本迭代里根據(jù)CPU Profiling數(shù)據(jù)決定要不要引入DMA。這樣風險可控不會一上來就動硬件配置和中斷架構。7. 按需選型的最終決策表判斷條件推薦方案核心原因數(shù)據(jù)量 4KB偶爾拷貝CPU memcpy延遲最低實現(xiàn)最簡單數(shù)據(jù)量 4KB高頻拷貝每秒百次以上NEON壓縮指令開銷降低CPU負載數(shù)據(jù)量 4KB ~ 64KBCPU有余量NEON比DMA配置簡單性能足夠數(shù)據(jù)量 4KB ~ 64KBCPU繁忙DMA釋放CPU時間片數(shù)據(jù)量 64KB周期性拷貝DMA吞吐量高且不占CPU緩存敏感場景實時性要求高DMA 雙緩沖避免大塊拷貝阻塞關鍵路徑從實測數(shù)據(jù)和我這些年的經(jīng)驗來看8成以上的場景其實用NEON就夠用且最優(yōu)DMA的主要價值在于“非阻塞”而不是“最快”。很多項目引入DMA是為了讓CPU在等待數(shù)據(jù)搬移的這段時間里去做協(xié)議處理或響應IO事件這是NEON無法替代的。但如果你的系統(tǒng)CPU資源非常充裕、任務也不多那繼續(xù)用簡單的memcpy也沒有什么問題。性能優(yōu)化的最高原則永遠是不優(yōu)化沒問題的地方。我在實際項目中對三種方式的取舍也經(jīng)歷了幾個階段從一開始只會memcpy到項目緊迫時臨時加NEON加速再到系統(tǒng)復雜到需要DMA才能保證實時性每一步都是被逼出來的但也正好把這三條路的優(yōu)缺點都摸透了。這些經(jīng)驗濃縮成一句話就是先量數(shù)據(jù)再看CPU最后決定要不要動DMA。希望這篇文章能幫你少走一些我曾經(jīng)走過的彎路。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
99视频自拍| 奸逼视频| 日噜噜色| 色婷婷丁香五月| 五月婷婷和六月| 啪啪东京热| 99综合视频| 国产精品久久久60086| 久操干| 99操久久| 99re6久热只有精品6在线直播| 色色色色欧洲| 六月丁香大香蕉| 欧美S码亚洲码精品M码| 日韩在线一级| 五月丁香操亭亭网| 日韩成人无码片| 久久婷婷五月天| 色婷婷五月天视频在线| 五月婷婷无码专区| 色爱99| 97人碰人操| www久久久久久久97| 天天开心AV色综合婷婷五月天| 毛片新网地| 五月天婷婷色| 婷婷五月天色| 中文激情网| 在线成人视频免费| 激情网婷婷五月天| 五月天综合色| 5月丁香婷婷激情网| 亚洲激情淫网| 美女丁香五月天| 日本一级| 中文字幕在线日亚洲9| 精品一区二区三区三区| 俺去也婷婷| 九九视屏| 欧美 日韩 成人 在线| www.夜夜.com| 色9色| 97人妻碰碰碰久久| 五月婷婷日本| 午夜成人综合| 综合视频久久| 六月大香蕉| 婷婷五月性感| 九九精品碰| 国产人妻777人伦精品HD| 色综合婷婷| 五月丁香六月婷婷玖玖| 婷婷丁香五月欧美人| 丁香六月婷| 夜夜躁爽日日| 这里只有精品视频在线| 色色五月婷| 五月天色不卡| 中文无码婷婷| 五月丁香自拍| 亚洲婷婷免费| 夜夜爽77777妓女免费下载| 婷婷婷婷色| 狼人婷婷久久| 99色在线| 久久人妻少妇嫩草AV| 99热这里只有精品9| 欧美在线干| 精品成人在线观看| 亚洲午夜av| 人人播| 色综合九九色综合88| 深爱五月婷婷| 婷婷五月香蕉| 亚洲精品白浆高清久久久久久| 五月花婷婷| 五月婷婷六月天| 综合五月天完整| 操射国产日本| 99这里只有精品| 色香久久| 久久久GOGO无码啪啪艺术| 97色碰| 蜜桃人妻无码AV天堂三区| 欧美肉大捧一进一出免费视频| 色播综合| 影音先锋91男人资源在线播放| 国产99久9在线| 色婷婷狠狠18yy| 欧美日韩一区二区三区四区| 97人人做| 久久婷婷婷婷伊人| 婷婷激情人妻| www.五月天| 午夜伊人大香蕉| 人人操婷婷| 天堂中文国产| 亚洲婷婷五月草久| 五月婷婷之综合激情| 久久免费精彩视频| 99色热| 无码激情AAAAA片-区区| 亚洲成人网站在线| 色婷婷深爱五月| 性色99| 久久九精品| 无码任你操| 日本99在线| 五月天成人综合| 国产做爰视频免费播放| 色五月婷婷综合在线| 激情婷婷内射| 五月天啪啪啪| 无码少妇高潮喷水A片免费| 欧美六月婷婷| 婷婷综合网在线| 五月丁香龟婷婷| 97碰免费视频在线| 婷婷九九色| 婷色五月天| 色婷婷国色天香综合| 99久久玖玖| 啪啪综合| 97干在线免费| www.com久久久久久久久久久久久久久久久| 激情av网| 99色看| 狠狠色综合精品视频在线| 97香蕉碰碰人妻国产欧美| 亚洲日韩乱码一区二区三区四区| 国产免费一区二区三州老师F1F1……| 777丁香六月青青草婷婷综合久月| 午夜五月天| 天天综合网在线| 97碰操| 五月丁香六月婷婷在线小说视频| 亚洲综合色婷婷| 日本综合99| 日韩操人| 久久婷网| 亚洲AV无码电影| 99爱视频精品| 五月 成人 婷婷| WWW.国产| 五月婷婷六月丁香激情深爱| 欧美三日本三级少妇三99| 九九九九精品精| 午夜免费试看| 另类激情综合| 综合久久五月天| 婷婷激情网五月天| 色色婷婷综合| 天天操夜夜爽天天操| 婷婷五月天第三页| 玖玖九九9999在线观看视频精品| 亚洲男人的天堂婷婷色五月| 三年高清大片免费观看国语| 99er免费在线观看| 99久久久久久www| 91狠狠色丁香婷婷综合久久狠丁香综合久久精品 | 97精品综合久久内射| 亚洲色婷婷婷婷人人爽| 激情五月婷| www.97干视频| 丁香五月综合激情性爱| 91色在线| 99在线视频播放| 超碰永久在线| 五月丁香九九九综合| 97久久超碰| 婷婷久久五月| 超碰91在线| 久热大香蕉| 色色色婷婷五月| 亚洲欧美国产A片免费观看| 激情五月六月丁香| 91国产精品视频播放| 久久这里都是精品视频| 97色精品视频| 久久人妻在线| 《丁香激情综合久久伊人久久》影视在线观看 -高清预告手机免费播放 -三妹影院 | 亚洲精品va| 91婷婷在线| 黄色成人网站在线播放| 五月天另类视频| 欧美99热| 9999三级片| 伊人久久大香线蕉综合网站| 色五月成人| 色综合av超碰| 婷婷九月激情| Xx色综合| 色色色五月天婷婷| 婷婷五月丁香五月综合网| 色九九中文字幕| 五月丁香婷婷激情澎湃四射| 国产免费av在线| 国产精品色色| 草操AV在线| 精品亚洲国产成AV人片传媒| 99热在线中文字幕| 五月婷婷97| 五月天婷婷基地综合网| 天天做天天爱天天摸| 婷婷五月在线观看| 激情开心五月天婷婷基地丁香社区| 嫩草免费视频| 91久久精品无码一区二区三区| 欧美日本黄色| 黄桃AV无码免费一区二区三区| 翔田千里aV中文字幕| 少妇性BBB搡BBB爽爽爽电影| 26UUU在线观看| 人妻内射一区二区在线视频| 五月天啪啪啪| 在线观看熟女少妇| 韩国97天堂| 色综合伊人网| 99精品无码视频| 成人做爰A片免费看视频| RenRenSe在线视频网站| 一婬一伦一区二区三区| 女人天堂AV| 激情婷婷狠狠干| 久久九九囯产| 五月天激情婷婷| 99干视频| 婷婷五月激情欧美大胆视频| 九九色综合网| 日日鲁鲁夜夜爽爽| 久久婷婷五月综合精品蜜芽| 无码成人AAAAA毛片AI换脸| 99er国产| 成人版视频在线观看| 99自拍视频| 婷婷射婷婷舔| 99热在线爱| WW婷婷五月天com| 色情五月综合婷婷| 五月婷久久| 婷婷五月综合性爱| 超碰精品在线| 超碰97干| 九九久热| 春色激情第四色| www.夜夜爱.com| 激情第四色| 思思视频这里是精品| 亚洲在线网站| 国产亚洲精品久久久久久郑州| 色色色色色网站| 激情九九六月激情免费视频| 丁香性爱在线视频| 婷婷五月天网| 色色丁香| 丁香六月婷婷色播| 丁香婷婷综合激情五月色| 亚洲AV成人在线| 狠狠色噜噜狠狠狠777奇米| 无码网| 色吊丝中文字幕| 九九成人| 狠狠色丁香| 99视频这里只有精品10| 丁香五月婷婷激情视频播放| 9色免费网| 久操婷婷| 九九大香视频| 婷婷五月六月激情| 99热九九这里只有精品| 五月丁香激情婷婷| 婷婷五月丁香花综合| 亚洲宗合激情| 九九亚洲天堂| 丁香五月影院| 99久久www| 欧美色欲色欲天天天www| 日本女va| 欧美激情五月天婷婷| 久久与婷婷| 色婷婷狠狠18yy| 中文成人在线| 精品人妻伦九区久久AAA片| 九九精品在线观看视频6| 六月丁香婷婷综合色播| 激情欧美婷婷| wWwCom夜操wwW| 91碰超| 久久五月天丁香花| 91国产精品视频播放| 九九五月天| 九九热最新视频| www.五月天激情| 激情五月天色爱| 九九九AAA热视频| 天天干,夜夜爽| 激情五月小说婷婷| 狠狠干综合| 热99在线| 少妇高潮A片无套内谢麻豆传| 丁香五月天啪啪| 最新色色五月天| 五月天天久久香| 色五月在线观看| 婷婷五月六月激情| 九九热在线视频观看| 色五月丁香伊人| 五月天六月婷婷电影| 午夜婷婷六月天| 99久久综合精品五月天| 丁香五月a| 99热九九热| 26uuu亚洲欧美另类| 日韩无码人妻一区二区三区综合| 丁香婷婷五月六月天| 激情综合五月.....| 一本道综合网| 深爱1激情网| 激情五月天激情综合网| 四月婷婷五月丁香| 天天日,天天插| 日本三级韩三级99久久| 色五月丁香com| 91狼友视频在线观看| 亚洲电影中文字幕| 国产1区2区3区| www.超碰在线| 色五月五月丁香| 思思热99在线视频| 亚洲免费99| 五月婷婷在线视频| 欧美日韩成人综合9| 色9999综合久久| 99干免费视频| 精典久久| 99精品视频在线| 婷婷五月丁香网| 天天做天天爱| 久久婷婷五月天| 国产69久久久欧美黑人A片| 9久久狠狠的| 亚洲图片 丁香婷婷| 久久婷综合网| 亚洲在线激情婷婷五月| 99热免| www久久99| 色色色综合网| 五月丁香婷婷成人版| 日本三级大片| 久久小片| 天天爱天天操| 香蕉乱插| 超碰精品手机在线| 天天色天天日| 色婷婷激情| 五月丁香婷久久| WWW色色色COm| 丁香六月视频免费观看| 久久激情视频| 色九九九综合| 色99视| 五月色婷婷综合| 久久综合丁香激情五月| 丁香,开心成人,久久| 久久嘟嘟丁香| 色婷婷丁香特级性爱视频| 色婷五月天| 天天操夜夜夜拍拍拍| 99热8| 日本天天操| 一起草日本| 97成人丁香婷婷| www.成人婷婷综合| 久碰视频| 综合色情网| 六月丁香影院| 日日影院 | h亚洲| 激情婷婷另类| 思思热精品在线| 丁香五月 激情文学| 99热免费精品热久久66| 婷婷丁香九月| 五月丁香婷婷啪啪网| 欧美美女国产日韩一区二区久| 久久伊人五月天| 人妻AV中文系列| 91色逼| www.av骚货| 思思热再线视频| 丁香六月婷婷开心| 日韩国产在线免费观看| 996日日爱| 久草热久草在线视频| 日本综合色色| 九色91国产| 9在线9在线婷婷在线国产| 婷婷丁香人妻| 五月天激情小说| 99玖玖免费视频| 婷婷五月天第三页| 六月婷婷日| 九九爱看亚洲| 丰满少妇猛烈A片免费看观看 | 午夜成人AV在线| 啪啪小说五月天| 日本黄色一级| 免费试看小视频 99| 狠狠干狠狠干| 色五月xxx| 超碰久热| 思思热闹这里只有精品| 婷婷五月激情网| 激情久久久久久| 激情五月婷黄版| 青草青草久9视频在线视频| 亚洲久久婷婷| 欧美久久九九| 亚洲99热| 91九色精品熟女内射| 中文字幕激情综合| 久久婷婷色综合| 99爱爱网| 久久亚洲婷婷| 中文网AV| AA片在线观看视频在线播放| 玖操97| 天天色天天操天天射| 伊人综合网4| www.99热这里只有精品| 4399在线观看免费高清电视剧| 婷婷色播婷婷| 玖玖精品视频99| 人人插操| 怡红院一二三| 九热久| 五月婷婷五月| 青青999| 久久99热这里只有精品| 天天搞天天色综合| 亚洲激情久久| 国产日日夜夜操| 亚洲六月色| 久久精品亚洲一级牲爱综合| 97碰成超视频免费视频| 色播婷婷大香蕉| 五月婷婷深深的爱| 丁香五月婷婷社区| 五月天丁香| 99自拍网| 老美AA片| 99热8| 91久久综合亚洲鲁鲁五月天| 日韩成人电影AV| 国产又黄又爽又激情不遮挡视频在线观看| 欧美婷婷丁香社区在线播放| 婷婷五月影院| 久久六月婷婷| 美国十月色婷婷在线观看| 婷婷五月综合网| 色欲天天综合网| 丁香婷婷人妻综合网| 免费视频无码| 青草激情综合| 九九精品网站| 午夜微拍福利| 久99热| 一本久久亚洲五月婷婷| 欧美婷婷丁香五月| 99视频只有精品| 五月天激情婷婷丁香| 美国不卡视频| 国自产拍偷拍精品啪啪一区二区 | 五月天成人综合| 久久婷婷五月综合啪| 伊人五月天97| 欧美S码亚洲码精品M码| 五月亭亭开心网| 激情久久久| 丁香综合日产精品久久| 亚洲成人免费在线| 婷婷五月激情在线视频| 婷婷激情六月综合| 中文字幕在线aⅴ免费观看| 深爱激情五月网| 五月婷婷在线丁香| 婷婷黄色五月| 少妇高潮呻吟A片免费看软件| 婷婷五月天播播| 色色色99韩| 9999热免费视频视频| 99久久婷婷| 五月天另类图片| 亚洲欧美婷婷五月色综合| 色综啪啪网| 婷婷99狠狠躁天天| 九九热99热| 色色色视频免费无码 | 这里只有精品在线观看视频| 婷婷五月丁香在线视频| 九九亚洲小视频| 五月丁香黄色| 超爽内射| 国产成人精品亚洲线观看| 99热都是精品| 五月色网| 夜夜做天天爽| eeuss人妻| 九九热精品99| 婷婷综合干| 伊人综合网站| 五月激情网站| 天天插天天爽| 久久这里有| 免费的日逼视频| 人人人操| 日本WWW九九九| 欧美A片在线视频免费观看| 天天日天天摸| 五月丁香999| 五月天播播| 俺去也在线视频| 日韩一66精品| 深爱女色婷婷丁香五月亚洲图区| 婷婷色五月丁香六月欧美啪| 婷婷激情视频| 百度4399有码精品V在线观看 | 99精品视频在线观看| 337p大胆噜噜噜噜噜91Av| 99热这里只有精品86| 成人网丁香五月| 精品一二三区视频立| 久月婷婷| 97福利视频| 丁香五月综合激情啪啪| 91凹凸在线| 婷婷综合偷拍| 97五月天婷婷综合激情网| av网站免费在线| 9色91视频| 国产精品人人做人人爽人人添 | 五月视频日本免费观看| 国产乱码久久| 色天天综合色| 丁香五月另类小说在线阅读| 午夜九九电影| 久婷婷久草| 色婷婷婷婷| 99re热视频这里只有综合亚洲| 丁香六月啪啪啪| 丁香婷婷五月色成人网站| 五月天综合久久| 五月丁香啪。| www.99热在线观看| 六月婷婷激情| 大香蕉天堂| 人妻激情综合| 丁香五月五月婷婷| 亚洲激情99| 欧美交换配乱吟粗大25P| 色五月婷婷激情综合网| 极品人妻VIDEOSSS人妻| 激情五月五月五月婷婷| 99ri6在线视频| 天天做天天爱天天要| 亚洲天堂有码| 婷婷五月丁香综合激情| 亚洲操操| 丰满老熟妇BBBBB搡BBB| 天天摸天天日天天舔| 日韩av手机在线观看| 六月五月婷婷| 99免费在线视频| 任我肏| 亚洲综合在线伊人婷| 97人人草| 先锋资源996| 人人肏逼视频在线一区二区| 五月天成人综合| 淫视馆AV在线| 99热成人| 天天爱夜夜爽| 99在线视频精品| 色五月婷婷五月| 伦99热| 毛v一区二区视频| 五月婷亚洲精品AV天堂| 五婷婷六月合| 天天色凹凸| 六月丁香色色| 天天做天天爱天天爽在| 人妻中文av| 91日韩在线| 夜夜www| 大香蕉伊人丁香五月| 亚洲色另类| 青草青草久热这里只有精品| 狠狠婷婷色综合| 天天射影院| 婷婷五六月丁香| 婷婷黄色网| 综合久久97| 色婷丨日丨天丨综合久久| 激情久久月| 激情六月综合| 激情 婷婷 丁香五月天| 99婷婷国产最新视频| 少妇人妻人伦A片| 丁香六月情| 婷婷伊人| 超碰在线观看caop| 五月色综合| 亚洲色激情| 婷婷月五天在线在线看| 色噜婷婷| 久久激情视频| 五月激情婷婷播播开心| 五月婷婷六月丁香激情综合网| 婷婷日本色| 婷婷色中文字幕| 五月丁香六月婷婷在线观看| 五月婷婷与六月丁香图片激情| 欧美婷婷综合| 色丁香五月婷婷| 婷婷爱五月| 午夜性爱影视一区77| 五月婷婷,狠狠操| 欧美性猛交99久久久久99按摩| 五月天狠狠色| 亚洲五月天天| 天堂中文国产| 亚洲情欲久久| 欧洲色区| 激情五月天婷婷| 五月人妻婷婷视频| 99成人无码| 久久精彩综合视频| 超碰国产在线观看| 91九色超碰| 婷婷五月天激情小说| 五月天激情无码高清 | 五月婷婷激情| 激情六月丁香| 五月天成人综合| 婷婷丁香五月天亚洲| 色色自拍视频网站| 久99久热| 99伊人婷婷在线| 成人αV视频免费观看| 丁香婷婷五月| 色综合网址| 婷婷六月激情| 丁香五月天天高清在线| 伊人久久婷婷五月天激情四射| 成人视频一区| A在线观看| 婷婷免费视频| 激情九月丁香婷婷| AA片在线观看视频在线播放| 丁香五月av| 五月天久久婷婷| 日本天天色| 99热这里只有精品2| 99精品视频在线| 开心五月激情| 五月丁婷香| 天堂久久精品| 婷婷九月亚洲| www.91婷婷| av第一二区| 免费99色| 国产操逼网站| 大香蕉啪啪啪啪啪啪| 国产精品男人AV不卡| 黄色片久久| 青青草免费公开视频| 91啪啪视频| 99热这里精品| 五月丁香六月色| 五月天婷婷色综合| 丁香五月婷婷精品视频| 色婷婷成人影片| 亚洲舔观看| 激情精品久久| 亚洲天天免费| 深爱婷婷色| 五月丁香天天| 成人精品在线观看| 天天天久久久| 99热国产国产| 99热日本| 99热这里只有精品一区| 呦呦视频无码播放| 99久久免费精品| 婷婷五月天在线观看免费| 五月婷色激情五月| 久久99网| 天天爽天天干| 97人人搞| 99热综合网| 丁香六月婷婷久久综合| 国产又色又爽又黄又免费| 丁香五月综合| 丰满少妇猛烈A片免费看观看| 大伊香蕉精品视频在线| 丁香五月婷婷av影院| 超级碰碰一区| 99精品久久久久| 激情综合区| 激情五月深爱五月观看| 五月天婷婷六月| 五月丁香六月婷婷手机无线| 日本操逼九九九九58日本操逼| 人。妻久久| 91婷婷搞| 91丨九色丨东北熟女| 九九九九操逼| 大香伊人婷婷| 色婷婷亚洲| 欧美99热| 婷婷伊人激情婷婷| 99热在线观看精品免费| 久久 婷婷 五月天| 99久久免费精品| 六月综合婷婷开心伊人| 久操人妻| 色五月激情五月| 操比激情五月| 九九精品99| 亚洲视频丁香网va| 99精品免费欧美小视频| 欧美三级欧美一级| 开心激情网五月天| 久久五月婷天天干| 一级二级色大片| 婷婷五月色播网| 五月天婷婷永久免费视频| 天天操婷婷| 开心五月网| 色婷丁香91| 婷婷精品综合| 日本婷婷综合精品| 亚洲五月花| 99热这里只有精品在线观看| 超碰妻人人| 亚洲成人AV在线观看| 五月天久久成人| 97色啪| 色噜噜狠狠色综无码久久合欧美| 1024在线观看免费视频| 婷婷五月天综合激情| 日本激情五月| 丁香五月婷婷激情网| 五月开心播播网| 91九色小视频| 五月婷婷免费| 五月丁香六月天| 亚洲乱码日产精品BD| 丁香 亚洲 久久| 十月丁香婷婷| 婷婷色五月在线视频| 精品久久99码| 色青五月天| 五月婷婷久久开心网| 六月婷婷综合| 国产亚洲精品AAAA片APP| 97黑人精品区| 色婷婷成人久久| 99re最新地址视频| 天天操婷婷| 亚洲国产精品二二三三区| av免费在线网站| 丁香五月深爱五月婷婷| 日韩另类| 日韩久久日| 久久99最新| 99亚洲视频| 狠狠色丁香乆乆| 六月丁香花婷婷| 天天弄天天操| 久久人人添人人爽添人人片αV| 综合久久99| 开心五月深爱五月| 男女啪啪视频久 9| 色五月婷婷成人视频| 色综合区| 九月丁香八月婷婷久久综合久97| 噜噜噜色噜噜| 99久久网站| 在线你懂的亚洲欧| 丁香五月婷婷色偷偷| 激情丁香五月| 狠狠色婷婷| 婷婷五月天影院| 超碰免费观看| 欧美猛片| 99精品在线观看| 久久婷婷网| 色色色热热热| 色婷婷丁香AV综合| 婷婷射图五月天| 国产乱子轮XXX农村| 99综合| 欧美日韩123| 综合激情在线观看| 六月丁香社区| 九九爱激情| 天天激情夜夜干| 99色天堂| 女性自慰系列第五页| 丁香五月天黄色片| 色天堂在线| 亚洲婷婷欧美婷婷| 亭亭丁香97| www.久久爱.com| 五月激情网络| 深夜婷婷 丁香| www.狠狠狠狠| 无码色| 电影蜘蛛女| 五月色综合| 亚洲婷婷在线播放十月| 久久九九99| 欧美色图天堂网| 九九九九国产| 婷婷性爱网| 碰碰女| 大香蕉99热| 五月丁香色色| 日本久久天堂| 91精品久久久久久综合五月天| 97人妻碰碰碰久久香蕉| 美欧日韩国产成人在战| 成人综合AV| 久久婷婷综合基地| 色婷婷导航| 直接看的AV| 婷婷亚洲五| 五月婷婷无码| 丁香五月婷婷色五月| 荫道BBWBBB高潮潮喷| 99热精品一区| 成人AV播放| 激情五月天在线视频| 五月四色激情| 五月丁香婷婷激情视频| 日本三级网址| 天天干天天干天天干天天干天天干| 亚洲婷婷丁香五月| 国产精品爽爽久久久久久| 色欲影香| 婷婷五月天激情文学| 狠狠操.com| 国产人妻777人伦精品HD| 丁香五月,激情五月,深爱五月| 性爱111111| 九九热视频这里只有精品| 天天综合网~91综合网| 久久九九99| 99热99日…..| 婷婷五月丁香综合亚洲| 女高怪谈在线观看| WWW.久久久久久久| 亚洲精品99| 99精品高潮| 色综合色色| 5月色亭亭视频| 久久密臀婷婷| 五月婷婷深深爱| 丁香六月婷婷综情欧美| 亚洲深喉AV| 五月婷婷啪| 五月天综合久久| 色婷婷99| 狠狠操天天日| 在线视频激情网站| 婷婷综合色图| 99re这里只有精品视频6| 97成人操| 美女网黄| 五月丁激情| 成人在线观看一区| 99亚洲精品视频| 99这里只有精品在线观看| 99超碰人人| 五月天激情小说网| 亚洲五月天婷婷在线| 五月婷婷狠狠久久| 人妻22p| 人妻久久久久久久久妻久久久久| 综合九九久久| 色婷婷五月天| 九九久热| 丁香久久综合| 激情内射人妻1区2区3区| 狠狠色成人影片| Xx色综合| 久久久噜噜噜www成人| 久久婷婷六月综合综合| site:wpjngj.com| 99综合成人视频在线观看| 99re这里| 日本色色视频| 婷婷免费无马| 欧美 色婷婷| 久久久999精品| 婷婷五月天激情五月天网站| 激情文学久久| 国产精品久久久久久喷浆| 久久人妻精品| 亚洲五月丁| 猫咪伊人久久| 国产,欧美,学生妹,视频| 婷婷五月天综合小说网| 欧美极品999| 久久久免费图片视频| 五月天激情小说网| 91超级碰碰| Av在线资源| www.丁香五月| 五月婷婷天| 99热99思午夜精品| 婷婷趴趴| 真实的国产乱XXXX在线91| 超碰免费人人| 五月婷婷真爱激情网| 成人婷婷色五月天| 五月天丁香婷| 色五月综合网站| 丁香综合网| 色婷婷视频在线| 五月久久五月激情| 亚洲成人网站在线| 日操熟女| 99免费在线视频| 在线看片av| 亚洲色优| 五月天激情久色| 亚洲 综合中文| 五月丁香六月婷婷久久肏| 亚洲岛国电影| 色婷婷成人做爰A片免费看网站| 日韩乱玛久久| 五月开心六月婷婷在线播放网站| 五月婷婷草| 日韩aⅴ视频| 激情六月天| 天天色图| 99热这里有精力| 色五月天网| 人人操Av| 97人妻碰碰碰久| 97亚洲婷婷| 一级无码作爱片| 久久久久久久久久久久久久久久一道本| 五月丁香六月激情综合| 综合网激情| 五月婷婷综合精品| 亚州激情网站无码| 五月丁香婷婷爱激情综合网| 六月丁香啪| 久久精彩视频18| 亚洲妇女熟BBW| 99视频只有精品| 激情五月久久| 六月激情婷婷| 五月婷婷深深爱| 久久激情五月| h在线看免费版在线看| 丁香九月激情| 五月天婷婷影院| wwwss在线观看| 99色色网| 国产真实乱了老女人视频 | 综合激情站| 丁香五月电影| 色欲色香伊人| 九九热精品6| 天天日天天干天天插天天射| 久久深爱激情网| 综合五月天天天天天五月| 欧美性爱特黄一级aaaassss| 天天摸,天天爽| 国产av基地| 激情六月丁香| 超碰免费观看| 日噜噜色| www. 五月. com| 婷婷五月丁香色播| 91视频免费后入强操| 激情丁香久久| 日韩av网站在线观看| 久久九⑨| 超碰97久久| 中文字幕综合| 九九青青草成人| 五月丁香综合啪啪| 日韩五月婷婷| 六月伊人婷婷| 台湾佬天天日丁香婷婷五月天 | 国产乱子轮XXX农村| 人妻日日日| 无码字幕中文| 亚洲人人艹| 色婷婷情片| 成人av在线网站| 操91| 久久这有这里精品| 热久久66| 婷婷综合五月天亚洲综合| 26uuu精品一区二区| 婷婷的色色五月天| 婷婷色中文字幕| 亚洲黄色影视| 人妻第九页| 婷婷五月精品中文| 日本一级一片免费视频| 久久婷婷五月天懂色| 深爱五月婷婷开心中文字幕| 先锋男人99资源| 色婷婷色五月色丁香| 丁香五月第四色88| 另类综合色| av狠狠操| 日本三级第一页| 91婷婷色| 高清激情av在线观看| Www,五月天| 婷婷综合网| 亚州在线中文字幕| 日本久久超碰| 99热在线里有精品| 五月天婷婷影院影院观看| 91人人操人人| 夜夜操加勒比| 中文字幕97超级碰| 五月丁香花伦理电影| 天天情天天狠天天透| 婷婷丁香综合成人| 色999;丁香五月| 婷婷综合中文字幕| 中文精品在| 怡红院院久久| 9l视频自拍9l视频自拍九色学生| 欧美美女视频| 激情久久丁香| 五月丁香直播| 色久影院| 黄网在线免费观| 久9久9热久热| 玖玖资源天天无码| 丁香五月天激情| 久久99激情五月天| 大香蕉九九| 深爱五月婷| 夜夜躁爽日日| www:99热视频| 激情六月五月婷婷综合网| 99re这里只有| 午夜精品久久久久久久爽| 啪啪操超碰| 亚洲九九99精品视频在线播放| 婷婷无码视频| av免费在线观看0| 婷婷在线观看五月天在线视频| 色五月婷婷亚洲| 99re6在线视频精品免费| 97色欧美| www.开心激情| 激情丁香五月| 99久久婷婷五月综合| 丁香网五月天激情| 亚洲综合婷婷| 69久久99精品久久久久| 思思热久久爱| 亚洲成人网站在线观看| 五月天色色婷婷| 另类激情五月天| 噜噜在线| 久久激情五月| 蜜桃人妻无码AV天堂三区| 亚洲狠狠爱婷婷| 第四色色六月色综合| 国产精品色婷婷99久久精品| 亞洲自怕| 日 日干 日日做| 国产日比| 色爱99| 日日爽日日爽| 国产午夜成人免费看片无遮挡| 99久久99九九九99九他书对| 79精品视频在线观看,| 国产精品电| 婷婷六月综合在线| 亚洲六月色| 色综合中文| 狠狠干天天日| 日韩aⅴ视频| 婷婷五月天日日日干干干| 五月婷婷激情网| 婷婷性爱网| 五月丁香成年黄色| 五月婷天堂视频| 天天日夜夜爽。| 免费观看全黄做爰的视频| 26uuu视频欧美| 日本三级韩三级99久久| 婷婷中文字幕网| 狠狠xx| 五月天激情图片| 日韩一级网站| 天天插综合| 国内9l视频自拍老熟女九色| 这里只有精品在线播放| 99热在线观看| se色99| 久综合网| 很很操96| 丁香五月天社区| 99re最新地址视频| 日日天天干| www.99色| 亚洲最大视频| 丁香六月婷婷综情欧美| 丁香九月婷婷| 婷婷激情五月综合| 99热这里只有精品2| 日韩不卡DvD| 男人天堂99| 91超碰在线播放| 色五月婷婷综合| 色色丁香婷婷| 91丨九色丨东北熟女| 五月婷婷综合激情| 99爱在线精品视频免费观看| 亚洲色啪| 亚洲激情综合| AAAA亚洲| 麻豆WWWCOM内射软件| 丁香激情六月天婷婷| 最新无毒无码AV| 婷婷色情小说| 日本高清不卡免费一区二区三区| 欧美日本va| 狠狠综合区| 五月天婷婷色色网| 久久久香| 婷婷午夜| 九九成人高清视频| 国产精产国品一二三在观看| 成年人99热| 99久久五月婷婷| 五月婷婷六月丁香| 97狠狠色| 九九久久综合| 99亚洲大片精品永久在线观看| 热久综合| 久热这里| 精品久久99码| 性爱综合网| 久久久精久人妻| 日日噜噜久久婷婷五月天| 2020日日干| 五月天日日操夜夜操 | 中文字幕+中文在线| www.五月丁香| WWW.天天日| 国产AV熟妇人震精品一品二区 | pom538精品视频| 五月婷婷激情综合网| 99高级会所久久| 九色成人AV在线| 五月丁香婷婷爱| 久久丝丝热| 成人国产欧美大片一区| 色婷婷婷婷五月天| 婷婷射综合| 亚洲欧洲另类| 激情小说五月欧美亚洲丁香| 伊人网啪啪| 人妻久久久| 婷婷五月丁综合| 在线观看av网站| 99色热| 深情五月天| 婷婷五月天激情小说| 日韩在线成人电影| 在线观看五月婷婷网| 婷婷丁香社区| 开心激情播播五月天| 丁香五月人妻| 五月综合视频| 天天干天天干天天干天天干天| 国产av影片| 狠狠干综合| 婷婷综合激情| 婷婷五月激情的图片| 影音先锋秋秋五月婷婷| 97超碰在线免费观看| www.99热视频在线观看| AV在线二十六页| 人人摸人人摸| 99亚洲无码| 婷婷五月天色色| 久久五月婷天天干| 婷色五月天| 九月婷婷丁香| 色五月色图| 九九视频在线观看视频6| 婷婷综合一二三| 色综合爱综合| 色欲婷婷五月天丁香| 九九在线视频| 亚洲激情综合| 插插插丁香五月婷婷| 97超碰欧美中文字幕| 五月天婷婷久久| 亚洲另类视频| 九九九九九无码| 97操碰在线视频| 日韩免费视频| 九九热re99re6在线精品| 提提热五月天婷婷| 婷婷五月综合久久中文字幕| 日韩人妻白浆视频系列| 操久久网| 国产成人99久久亚洲综合精品| 九九视频免费| 九月激情综合婷婷| 96自拍视频九色在线观看| 97色在线观看视频| 国产成人va在线| 激情五月天黄色小说| 亚洲免费视频网站| 免费无码毛片一区二区A片 | 久久99操| 99操不停| 久久久久久久人妻| aaa久久| 婷婷五月天激情五月天网站| 丁香五月在线人妻| 日韩在线一级| 五月停性愛| 色婷婷网| 玖玖爱综合网| 亚洲色爱综合| 狠狠色丁香99| 91久热| 97干在线观看| 色天使久久综合| 六月丁香五月婷婷| 大香蕉啪啪| 欧美黄色韩日网| 丁香五月av在线| 天天爽—爽| 婷婷亚洲综合| 丁香婷婷性久久| 97碰碰叉| 久久久亚洲精品一区二区三区浴池 | 香蕉婷婷色五月| 丁香激情综合| 婷婷六月丁综合| 性生生活大片又黄又| 天天天天操| 狠狠色色| 99日本黄站|