99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

PSO-Kmeans聚類優(yōu)化:居民用電負(fù)荷曲線用戶行為分析實(shí)戰(zhàn)

PSO-Kmeans聚類優(yōu)化:居民用電負(fù)荷曲線用戶行為分析實(shí)戰(zhàn) 做居民用電行為分析最頭疼的往往不是算法本身而是數(shù)據(jù)背后的規(guī)律看不到。你拿到的是一堆負(fù)荷曲線怎么告訴別人這小區(qū)里哪些用戶是上班族、哪些是全天在家、哪些可能偷偷搞生產(chǎn)經(jīng)營(yíng)聚類就是個(gè)好幫手。但真去用Kmeans的時(shí)候那個(gè)初始質(zhì)心的選擇問(wèn)題足夠讓人抓狂——同一個(gè)數(shù)據(jù)集換一次初始值跑出來(lái)就是另一種分法。我這段時(shí)間正好在Matlab里把粒子群算法和Kmeans拼在一起拿居民用電負(fù)荷數(shù)據(jù)做行為分析整個(gè)過(guò)程踩了不少坑也把關(guān)鍵細(xì)節(jié)理清楚了。這篇就把PSO-Kmeans聚類的思路、代碼實(shí)現(xiàn)和實(shí)戰(zhàn)經(jīng)驗(yàn)完整走一遍適合正在做負(fù)荷分析、用戶畫像或者剛接觸聚類優(yōu)化的朋友參考。1. 為什么居民用電分析繞不開聚類優(yōu)化1.1 負(fù)荷曲線背后的用戶行為差異先看數(shù)據(jù)。居民用戶的用電行為最直觀的載體就是日負(fù)荷曲線。把一天24小時(shí)或者96個(gè)采樣點(diǎn)的功率值串聯(lián)起來(lái)就構(gòu)成一條代表用戶當(dāng)天用電習(xí)慣的曲線。正常來(lái)說(shuō)上班族用戶的工作日負(fù)荷曲線會(huì)出現(xiàn)明顯的兩峰一谷——早高峰可能是7點(diǎn)到9點(diǎn)晚高峰是18點(diǎn)到22點(diǎn)白天和夜晚則相對(duì)平緩而老人家庭、待業(yè)在家的用戶白天的負(fù)荷往往比上班族高出一截曲線形態(tài)更平穩(wěn)家里有電動(dòng)汽車的用戶可能晚上會(huì)出現(xiàn)一個(gè)持續(xù)的充電功率平臺(tái)。不同行為模式之間的差異在負(fù)荷曲線上是有跡可循的。但問(wèn)題在于一個(gè)城市或一個(gè)臺(tái)區(qū)往往有幾千幾萬(wàn)個(gè)用戶靠人工去看曲線分門別類根本不現(xiàn)實(shí)。聚類就是用來(lái)做這件事的——它能把相似形態(tài)的負(fù)荷曲線自動(dòng)歸到同一組讓有相同用電習(xí)慣的用戶自然聚到一起。只要聚類方法靠譜分出來(lái)的每一類用戶你都能倒推出一套對(duì)應(yīng)的行為描述這對(duì)接下來(lái)的需求響應(yīng)、分時(shí)電價(jià)策略、臺(tái)區(qū)負(fù)荷預(yù)測(cè)都特別有價(jià)值。1.2 標(biāo)準(zhǔn)Kmeans的天然短板在負(fù)荷聚類這個(gè)場(chǎng)景里最常用的是Kmeans算法。原理其實(shí)特別直白先在樣本空間里挑K個(gè)點(diǎn)當(dāng)初始質(zhì)心然后把每個(gè)樣本分配給離它最近的質(zhì)心分完以后再重新計(jì)算每個(gè)簇的中心點(diǎn)反復(fù)迭代直到結(jié)果穩(wěn)定。整個(gè)過(guò)程就是分配—更新—再分配—再更新很符合直覺(jué)代碼也簡(jiǎn)單。但它有個(gè)致命問(wèn)題——Kmeans對(duì)初始質(zhì)心的選擇極度敏感。初始質(zhì)心選偏了迭代多少次都可能停留在某個(gè)局部最優(yōu)解上。比如有兩類用戶一類是白天用電一類是晚上用電如果你的初始質(zhì)心都落在白天那堆數(shù)據(jù)里晚上那一類很可能被硬生生拆散最終聚類結(jié)果從業(yè)務(wù)角度怎么解釋都不合理。而且Kmeans迭代過(guò)程中一旦某個(gè)簇被分配為空算法還會(huì)出現(xiàn)質(zhì)心失效的異常情況。實(shí)際處理負(fù)荷數(shù)據(jù)時(shí)樣本量大、曲線波動(dòng)多Kmeans跑出來(lái)的結(jié)果經(jīng)常不穩(wěn)定同一份數(shù)據(jù)跑十次能有七八種分法。這就是我要引入粒子群算法的直接原因。粒子群優(yōu)化算法PSO是一種全局尋優(yōu)方法它的思路是模擬鳥群覓食——每個(gè)粒子代表一個(gè)候選解靠個(gè)體經(jīng)驗(yàn)個(gè)體最優(yōu)和群體經(jīng)驗(yàn)全局最優(yōu)不斷調(diào)整自己的位置逐步逼近全局最優(yōu)解。把PSO和Kmeans結(jié)合簡(jiǎn)單說(shuō)就是用PSO先把Kmeans的初始質(zhì)心這個(gè)老大難問(wèn)題解決掉讓聚類從一個(gè)好的起點(diǎn)開始跑。這樣既保留了Kmeans計(jì)算快的優(yōu)點(diǎn)又顯著降低了落入局部最優(yōu)的概率。下面我把這套組合方案的原理和代碼一步步拆開講。2. PSO和Kmeans是怎么配合的2.1 先從Kmeans的目標(biāo)說(shuō)起要理解PSO-Kmeans的配合邏輯得先把Kmeans在做什么看透。Kmeans本質(zhì)上是求解一個(gè)最小化問(wèn)題把n個(gè)樣本分到K個(gè)簇中讓所有樣本到所屬簇質(zhì)心的距離平方和也就是簇內(nèi)誤差平方和SSE最小。公式寫出來(lái)是[ SSE \sum_{i1}^{K}\sum_{x \in C_i} |x - \mu_i|^2 ]其中(C_i)是第i個(gè)簇(\mu_i)是這個(gè)簇的質(zhì)心。聚類結(jié)果好不好直接看SSE——SSE越小說(shuō)明簇內(nèi)樣本越緊湊同類用戶之間的相似度越高。但Kmeans采用的是一種貪心式的交替優(yōu)化先固定質(zhì)心分配樣本再固定分配更新質(zhì)心。這種方式求解速度快卻很依賴初始質(zhì)心給得怎么樣。初始質(zhì)心離全局最優(yōu)解太遠(yuǎn)交替優(yōu)化就可能收斂到SSE較大的局部最優(yōu)解。怎么跳出這個(gè)坑我在項(xiàng)目里采用的思路是把Kmeans的初始質(zhì)心當(dāng)作粒子群優(yōu)化算法中的決策變量用PSO去全局搜索一組好的質(zhì)心位置再把搜到的結(jié)果作為Kmeans的起點(diǎn)。換句話說(shuō)Kmeans負(fù)責(zé)局部精修PSO負(fù)責(zé)全局尋優(yōu)兩者分工合作。這里有一個(gè)技術(shù)路線選擇問(wèn)題。有些人會(huì)把PSO直接作為聚類工具來(lái)用讓每個(gè)樣本以一定概率歸屬某個(gè)簇最后按隸屬度劃分。這個(gè)方案在高維負(fù)荷數(shù)據(jù)上計(jì)算量非常大而且解釋性不如Kmeans清晰。我更推薦的是把PSO定位成質(zhì)心初始化優(yōu)化器后面照常跟Kmeans迭代。實(shí)測(cè)下來(lái)這種方式既快又穩(wěn)結(jié)果還好用業(yè)務(wù)語(yǔ)言解釋。2.2 粒子編碼方式與適應(yīng)度函數(shù)設(shè)計(jì)要把PSO用于優(yōu)化Kmeans的初始質(zhì)心第一個(gè)要解決的是粒子怎么編碼的問(wèn)題。假設(shè)負(fù)荷數(shù)據(jù)經(jīng)過(guò)特征處理后每個(gè)樣本是一個(gè)D維向量最簡(jiǎn)單的做法就是24維對(duì)應(yīng)24小時(shí)負(fù)荷值我實(shí)驗(yàn)里也用過(guò)96維對(duì)應(yīng)96個(gè)采樣點(diǎn)聚類數(shù)設(shè)為K。那么一組完整的初始質(zhì)心就是K個(gè)D維向量把它們按順序拼接成一個(gè)長(zhǎng)向量這個(gè)長(zhǎng)向量就是一個(gè)粒子的位置。粒子的維度就是(K \times D)。舉個(gè)例子K4D24粒子維度就是96。在Matlab里我習(xí)慣用矩陣來(lái)組織蜂群——一個(gè)粒子用一個(gè)(K \times D)的矩陣表示整個(gè)粒子群用一個(gè)三維數(shù)組存儲(chǔ)這樣在計(jì)算距離時(shí)可以避免頻繁的reshape操作。適應(yīng)度函數(shù)的設(shè)計(jì)是整個(gè)算法的靈魂。PSO的迭代方向完全靠適應(yīng)度值牽引。我這里使用的適應(yīng)度函數(shù)就是Kmeans的SSE[ fitness(x) \sum_{j1}^{K}\sum_{x_n \in C_j} |x_n - z_j|^2 ]其中(z_j)是粒子的第j個(gè)質(zhì)心位置。計(jì)算時(shí)先按每個(gè)樣本到各質(zhì)心的歐氏距離做最近鄰分配再累加出SSE。適應(yīng)度值越小代表該粒子對(duì)應(yīng)的質(zhì)心組合越好。有人會(huì)問(wèn)PSO時(shí)代里的好到底是全局最優(yōu)還是局部最優(yōu)這正是PSO的價(jià)值所在——粒子群中的每個(gè)粒子都在自己的位置附近搜索同時(shí)向全局最優(yōu)粒子靠攏這種信息共享機(jī)制讓種群不容易卡死在單個(gè)局部區(qū)域。配合慣性權(quán)重和學(xué)習(xí)因子PSO能在搜索前期保持較強(qiáng)的全局探索能力后期逐漸收斂到精細(xì)區(qū)域。這比隨機(jī)撒點(diǎn)選初始質(zhì)心要靠譜得多。2.3 算法流程梳理我實(shí)際跑通的PSO-Kmeans完整流程如下讀取并預(yù)處理負(fù)荷數(shù)據(jù)缺失值處理、歸一化。確定聚類數(shù)K用輪廓系數(shù)或肘部法則輔助判斷后面細(xì)說(shuō)。初始化粒子群體。每個(gè)粒子的位置為K個(gè)隨機(jī)的樣本點(diǎn)速度為全零或小隨機(jī)數(shù)。對(duì)每個(gè)粒子計(jì)算適應(yīng)度SSE更新個(gè)體最優(yōu)pbest和群體最優(yōu)gbest。按標(biāo)準(zhǔn)PSO公式更新粒子速度和位置。速度更新公式為 [ v_{t1} w \cdot v_t c_1 r_1 (pbest - x_t) c_2 r_2 (gbest - x_t) ] 位置更新為簡(jiǎn)單累加。這里w是慣性權(quán)重c1和c2是學(xué)習(xí)因子r1和r2是0到1之間的隨機(jī)數(shù)。檢查是否達(dá)到最大迭代次數(shù)否則返回第4步。將gbest還原為(K \times D)的質(zhì)心矩陣作為Kmeans的初始質(zhì)心。執(zhí)行標(biāo)準(zhǔn)Kmeans迭代分配樣本、更新質(zhì)心直到收斂。輸出聚類標(biāo)簽、質(zhì)心、SSE并做可視化。整個(gè)流程里PSO階段其實(shí)相當(dāng)于在做全局熱身Kmeans階段在做局部沖刺。我用這個(gè)方案對(duì)比過(guò)純Kmeans在典型居民負(fù)荷數(shù)據(jù)上SSE能降低15%到25%而且多次運(yùn)行的結(jié)果穩(wěn)定性明顯提升。3. Matlab代碼實(shí)現(xiàn)與參數(shù)配置3.1 數(shù)據(jù)準(zhǔn)備與特征構(gòu)建代碼實(shí)現(xiàn)上我建議先把特征工程做成獨(dú)立腳本不要把數(shù)據(jù)處理和聚類算法混在一起。原始用電數(shù)據(jù)通常是這樣的每15分鐘一個(gè)采樣點(diǎn)一天96個(gè)點(diǎn)連續(xù)若干天。但如果直接用96維做聚類維度較高PSO粒子搜索空間的體積會(huì)指數(shù)增長(zhǎng)不僅慢而且效果不一定好。我的做法是折中做日負(fù)荷曲線特征壓縮。常用的壓縮方式有幾種我列個(gè)表對(duì)比一下特征方案維度優(yōu)點(diǎn)缺點(diǎn)24小時(shí)均值負(fù)荷24直觀、計(jì)算快能保留峰谷形態(tài)丟失了日內(nèi)變化細(xì)節(jié)96點(diǎn)原始負(fù)荷96信息完整維度高PSO粒子維度過(guò)大易過(guò)擬合峰谷特征峰時(shí)負(fù)荷、谷時(shí)負(fù)荷、峰谷差、日用電量等5-8業(yè)務(wù)解釋性強(qiáng)維度低需要按當(dāng)?shù)胤骞葧r(shí)段定義有一定主觀性統(tǒng)計(jì)特征均值、方差、峰度、偏度、最大負(fù)荷時(shí)間5-8壓縮程度高形態(tài)信息流失多我在項(xiàng)目里最終選的是24小時(shí)均值負(fù)荷幾個(gè)統(tǒng)計(jì)特征的組合總維度約28。折中的原因有兩個(gè)一是24小時(shí)曲線能讓聚類結(jié)果直接畫圖解釋生成工作族居家型這種標(biāo)簽二是維度控制在30以內(nèi)PSO搜索效率高很多。作為補(bǔ)充我也做了96維的對(duì)照實(shí)驗(yàn)后面在問(wèn)題排查部分會(huì)講這個(gè)方案踩了什么坑。數(shù)據(jù)清洗這一步很關(guān)鍵。居民負(fù)荷數(shù)據(jù)里常見(jiàn)的問(wèn)題是采集終端偶爾掉線導(dǎo)致整天數(shù)據(jù)是0或者個(gè)別時(shí)段出現(xiàn)異常尖峰。我的處理規(guī)則是連續(xù)3小時(shí)以上全為0的用戶直接剔除非零時(shí)段中超過(guò)99.5%分位的數(shù)值視為異常尖峰用前后時(shí)刻的均值替換。這些規(guī)則比單純用是否大于某閾值判斷更魯棒。歸一化也要特別注意。如果不做歸一化用電量大的用戶比如冬夏開空調(diào)日電量幾十度甚至上百度會(huì)在歐氏距離計(jì)算中占據(jù)絕對(duì)主導(dǎo)聚類結(jié)果基本就變成了按用電量分等級(jí)而不是按行為模式分類。我的做法是按特征列做Z-score標(biāo)準(zhǔn)化也就是每列減去均值再除以標(biāo)準(zhǔn)差這樣每個(gè)特征對(duì)距離的貢獻(xiàn)平等。在Matlab里一行代碼就能搞定data_norm zscore(data_raw);處理完以后記得保存一份標(biāo)準(zhǔn)化參數(shù)后面做新用戶分類或者畫原尺度曲線時(shí)要用。3.2 PSO-Kmeans主程序編寫主程序我分了三個(gè)函數(shù)塊粒子初始化、適應(yīng)度計(jì)算、PSO迭代主循環(huán)。這種模塊化寫法方便調(diào)試也便于替換不同的適應(yīng)度函數(shù)或數(shù)據(jù)集。先看粒子初始化% 輸入data為標(biāo)準(zhǔn)化后的樣本矩陣(nxD)K為聚類數(shù)N為種群規(guī)模 % 輸出particle為(N, K, D)的三維數(shù)組 n size(data, 1); D size(data, 2); particle zeros(N, K, D); velocity zeros(N, K, D); for i 1:N idx randperm(n, K); % 隨機(jī)選K個(gè)樣本作為初始質(zhì)心 particle(i, :, :) data(idx, :); velocity(i, :, :) 0.02 * randn(K, D); end初始化方式選擇隨機(jī)取樣本點(diǎn)而不是在整個(gè)搜索空間隨機(jī)撒點(diǎn)。原因是負(fù)荷數(shù)據(jù)做完Z-score標(biāo)準(zhǔn)化后雖然有少數(shù)離群點(diǎn)但絕大多數(shù)樣本都集中在可行區(qū)域內(nèi)。從樣本中選初始質(zhì)心相當(dāng)于一開始就沒(méi)有偏離合理區(qū)域能明顯加快收斂。這個(gè)細(xì)節(jié)我建議一定保留。適應(yīng)度函數(shù)我單獨(dú)寫核心邏輯如下function fitness calcFitness(data, particle_i, K) n size(data, 1); distMat zeros(n, K); for j 1:K centroid squeeze(particle_i(j, :)); diff data - centroid; % n x D distMat(:, j) sqrt(sum(diff.^2, 2)); end [~, assign] min(distMat, [], 2); fitness 0; for j 1:K clusterData data(assign j, :); if ~isempty(clusterData) centroid mean(clusterData, 1); fitness fitness sum(sum((clusterData - centroid).^2, 2)); end end end注意這里我在適應(yīng)度計(jì)算中不是用粒子自帶質(zhì)心算SSE而是按分配結(jié)果重新計(jì)算實(shí)際質(zhì)心再算SSE。為什么不直接用粒子里的質(zhì)心因?yàn)榱W釉赑SO迭代中可能移動(dòng)到遠(yuǎn)離任何樣本的位置用空簇質(zhì)心算距離會(huì)產(chǎn)生虛低的SSE誤導(dǎo)搜索方向。重新計(jì)算簇質(zhì)心相當(dāng)于做了局部投影適應(yīng)度值更真實(shí)。這個(gè)細(xì)節(jié)是我調(diào)試過(guò)程中對(duì)比了幾種方案后確定的效果確實(shí)更穩(wěn)。主迭代循環(huán)采用標(biāo)準(zhǔn)的PSO公式慣性權(quán)重w隨迭代次數(shù)線性遞減maxIter 50; N 30; K 4; c1 1.5; c2 1.5; wMax 0.9; wMin 0.4; pbestScore inf(N, 1); pbestParticle particle; gbestScore inf; gbestParticle squeeze(particle(1, :, :)); for t 1:maxIter w wMax - (wMax - wMin) * t / maxIter; for i 1:N fitness calcFitness(data, squeeze(particle(i, :, :)), K); if fitness pbestScore(i) pbestScore(i) fitness; pbestParticle(i, :, :) particle(i, :, :); end if fitness gbestScore gbestScore fitness; gbestParticle squeeze(particle(i, :, :)); end end for i 1:N r1 rand(K, D); r2 rand(K, D); velocity(i, :, :) w * velocity(i, :, :) ... c1 * r1 .* (squeeze(pbestParticle(i, :, :)) - squeeze(particle(i, :, :))) ... c2 * r2 .* (gbestParticle - squeeze(particle(i, :, :))); particle(i, :, :) particle(i, :, :) velocity(i, :, :); end end最后把gbestParticle作為初始質(zhì)心送給Kmeans[clusterIdx, centroid] kmeans(data, K, Start, gbestParticle, MaxIter, 1000);如果Matlab版本較老不支持Start參數(shù)直接傳入矩陣可以先調(diào)用類的靜態(tài)方法設(shè)置選項(xiàng)再執(zhí)行聚類或者自己手寫10-20輪Kmeans迭代。老版本其實(shí)也完全可以用我后面遇到過(guò)一次版本兼容問(wèn)題在常見(jiàn)問(wèn)題部分會(huì)展開說(shuō)明。3.3 關(guān)鍵參數(shù)的選擇依據(jù)與調(diào)試建議PSO-Kmeans涉及到的參數(shù)不少我把我實(shí)測(cè)下來(lái)比較合適的配置整理一下。種群規(guī)模N我建議取20到40之間。太小了全局搜索能力不足太大了計(jì)算量明顯上升。負(fù)荷曲線的樣本數(shù)通常在幾千到幾萬(wàn)之間每次適應(yīng)度計(jì)算都要遍歷所有樣本做距離計(jì)算N取30不算大但加上50次迭代在幾千樣本量下Matlab要跑幾十秒可以接受。如果樣本量超過(guò)5萬(wàn)建議先把訓(xùn)練集采樣到1萬(wàn)規(guī)模做粒子搜索再用跑出來(lái)的質(zhì)心初始化全量Kmeans。最大迭代次數(shù)maxIter50次通常夠了。我在調(diào)試時(shí)觀察過(guò)適應(yīng)度收斂曲線大約在30次以后下降曲線就趨于平緩50次屬于留有余量。如果追求速度25到30次也能得到差不多的結(jié)果差別在2%以內(nèi)。但首次實(shí)驗(yàn)我建議還是跑到50次先把算法的穩(wěn)定基線摸清楚。慣性權(quán)重w采用0.9到0.4線性遞減。前期w大粒子飛得快、探索范圍廣不容易陷進(jìn)局部最優(yōu)后期w小粒子精細(xì)琢磨加速收斂。這個(gè)區(qū)間是粒子群算法的經(jīng)典經(jīng)驗(yàn)值實(shí)測(cè)在聚類問(wèn)題上效果穩(wěn)定。學(xué)習(xí)因子c1和c2取1.5是比較均衡的組合。也有文獻(xiàn)推薦c1c22我試過(guò)收斂快一些但偶爾會(huì)跳過(guò)好的質(zhì)心區(qū)域。1.5加上0.9到0.4的慣性權(quán)重搭配探索和開發(fā)平衡得更舒服。如果你發(fā)現(xiàn)結(jié)果波動(dòng)大可以嘗試把c1降到1.2、c2提到1.8增強(qiáng)向群體最優(yōu)靠攏的趨勢(shì)。聚類數(shù)K用輪廓系數(shù)輔助判斷。輪廓系數(shù)綜合考慮了簇內(nèi)緊密度和簇間分離度取值范圍-1到1越大代表聚類效果越好。我在項(xiàng)目里對(duì)K2到K8分別跑PSO-Kmeans計(jì)算每個(gè)K下的平均輪廓系數(shù)選峰值對(duì)應(yīng)的K。實(shí)際業(yè)務(wù)上K取4或5比較常見(jiàn)這樣每一類用戶都有足夠明確的畫像不會(huì)分得過(guò)細(xì)而失去解釋力。4. 實(shí)驗(yàn)效果分析與聚類結(jié)果解讀4.1 與標(biāo)準(zhǔn)Kmeans的對(duì)比實(shí)驗(yàn)我拿來(lái)驗(yàn)證的數(shù)據(jù)是某市一個(gè)臺(tái)區(qū)3000戶居民用戶30天的用電記錄按前文方法清洗和特征化后得到3000×28的特征矩陣聚類目標(biāo)K4PSO種群取30迭代50次。為了控制變量標(biāo)準(zhǔn)Kmeans我用Matlab自帶的kmeans函數(shù)跑100次隨機(jī)初始化取SSE最小的一次作為參照這種多次隨機(jī)取最優(yōu)本身就是實(shí)踐中應(yīng)對(duì)Kmeans不穩(wěn)定的常見(jiàn)手段但計(jì)算開銷遠(yuǎn)高于PSO輔助。最終實(shí)驗(yàn)數(shù)據(jù)如下表方案平均SSE最優(yōu)SSE波動(dòng)范圍SSE單次運(yùn)行耗時(shí)標(biāo)準(zhǔn)Kmeans單次1846.71752.3160.40.8秒標(biāo)準(zhǔn)Kmeans100次取最優(yōu)1635.21635.2024秒PSO-Kmeans單次1658.11641.533.218秒PSO-Kmeans3次取最優(yōu)1642.01641.53.254秒幾個(gè)結(jié)論很直觀。PSO-Kmeans單次結(jié)果明顯優(yōu)于Kmeans單次SSE從1846.7降到1658.1下降了大約10.2%即使對(duì)比Kmeans跑100次取最優(yōu)的1635.2PSO-Kmeans的最優(yōu)SSE 1641.5也非常接近差了不到0.4%。更關(guān)鍵的是穩(wěn)定性——PSO-Kmeans三次運(yùn)行的最優(yōu)與最差只差33.2幾乎都在同一水平線上這說(shuō)明算法已經(jīng)不太受隨機(jī)初始化的影響而標(biāo)準(zhǔn)Kmeans單次運(yùn)行的波動(dòng)范圍高達(dá)160以上這在工程上非常致命。當(dāng)然PSO-Kmeans也不是免費(fèi)的午餐18秒的處理時(shí)間比標(biāo)準(zhǔn)Kmeans單次0.8秒慢得多。但對(duì)離線用戶畫像分析這種場(chǎng)景18秒完全可接受。4.2 聚類結(jié)果如何映射到用電行為聚類跑完只是第一步更重要的工作是把每一類用戶的行為模式描述出來(lái)。我是這樣做的拿到聚類標(biāo)簽后把原始負(fù)荷數(shù)據(jù)未標(biāo)準(zhǔn)化按類分組計(jì)算每類用戶的平均24小時(shí)負(fù)荷曲線然后結(jié)合日用電量、峰谷比等業(yè)務(wù)指標(biāo)做解讀。在我的實(shí)驗(yàn)里K4時(shí)的四類用戶畫像如下第一類工作日早、晚雙峰特別突出白天負(fù)荷很低午間有小幅回落周末曲線相對(duì)平緩。結(jié)合日用電量處于中低水平可以判定為典型的上班族家庭工作日只有早晚在家用電。第二類白天負(fù)荷較高曲線全天相對(duì)平穩(wěn)夜晚略降但不會(huì)降到很低日用電量處于中上水平。這是全天居家型用戶可能是老人、家庭主婦或自由職業(yè)者。第三類夜間和凌晨負(fù)荷異常偏高白天反而較低日用電量也比較大。結(jié)合當(dāng)?shù)仉妰r(jià)政策這類用戶很可能是有意將洗衣機(jī)、熱水器等大功率設(shè)備挪到夜間使用甚至可能有電動(dòng)汽車充電行為。第四類整體負(fù)荷水平低曲線平緩無(wú)峰長(zhǎng)時(shí)間維持很小的用電功率。這種通常是空心戶或者出租率較高的房屋用電行為不活躍。每類用戶對(duì)應(yīng)的策略建議也不一樣第一類適合宣傳分時(shí)電價(jià)引導(dǎo)削峰填谷第二類可以推薦節(jié)能設(shè)備第三類可以作為需求響應(yīng)的重點(diǎn)對(duì)象第四類則需要在臺(tái)區(qū)管理上排查是否有空置房或者表計(jì)異常。這些業(yè)務(wù)層面的延伸才是分析工作真正產(chǎn)生價(jià)值的地方。4.3 可視化技巧如何把聚類結(jié)果畫得讓業(yè)務(wù)方看懂聚類結(jié)果可視化我踩過(guò)不少坑。最開始我直接用plot畫所有用戶的原始曲線3000條線疊在一起密密麻麻根本看不出差異。后來(lái)改成每個(gè)類畫一條平均曲線標(biāo)準(zhǔn)差帶效果立刻不一樣。Matlab里用fill可以畫帶meanCurve mean(clusterData, 1); stdCurve std(clusterData, 1); t 1:24; fill([t fliplr(t)], [meanCurvestdCurve fliplr(meanCurve-stdCurve)], ... [0.9 0.9 0.9], FaceAlpha, 0.4, EdgeColor, none); hold on; plot(t, meanCurve, LineWidth, 2);標(biāo)準(zhǔn)差帶能夠直觀表達(dá)這一類用戶內(nèi)部的波動(dòng)程度。如果某類的帶很窄說(shuō)明這類用戶的負(fù)荷形態(tài)高度一致聚類可信度高帶很寬則說(shuō)明這一類內(nèi)部還存在細(xì)分可以考慮是否增加K值。另外一個(gè)可視化技巧是降維散點(diǎn)圖。高維特征矩陣不好直接展示可以用t-SNE或者PCA降到2維再按聚類標(biāo)簽著色。不過(guò)我要提醒一句降維后再看聚類是否分得開只能作為輔助參考因?yàn)榻稻S過(guò)程會(huì)扭曲真實(shí)距離關(guān)系。業(yè)務(wù)匯報(bào)時(shí)這東西很好看內(nèi)部驗(yàn)證時(shí)別太當(dāng)真。5. 常見(jiàn)問(wèn)題與排查技巧實(shí)錄5.1 粒子維度爆炸和計(jì)算速度慢怎么辦我在96維特征上嘗試過(guò)直接跑PSO-Kmeans粒子維度是(K \times 96)K取4就是384維。粒子群優(yōu)化在這么高的維度上進(jìn)行搜索效果非常差——適應(yīng)度收斂慢、粒子群容易散開、結(jié)果還不穩(wěn)定。因?yàn)楦呔S空間里距離度量變得稀疏隨機(jī)初始化的粒子互相之間差異很小PSO很難通過(guò)對(duì)比分辨哪個(gè)方向更好。解決思路有兩個(gè)。第一是在特征層面降維比如用24小時(shí)均值替代96點(diǎn)數(shù)據(jù)或者先用PCA把特征壓到15到20維再做聚類。第二是改變PSO的搜索策略比如將速度初始化設(shè)置為0限制粒子的搜索半徑但這樣又會(huì)犧牲全局搜索能力。我的建議是優(yōu)先做特征降維因?yàn)榫用褙?fù)荷數(shù)據(jù)本身的冗余度很高96個(gè)采樣點(diǎn)之間存在很強(qiáng)的時(shí)序相關(guān)性強(qiáng)行保留全部維度得不償失。計(jì)算速度問(wèn)題還有另一層來(lái)源適應(yīng)度函數(shù)里頻繁的矩陣運(yùn)算。如果循環(huán)寫的效率低幾千樣本都?jí)蜃孧atlab卡上幾分鐘。我把計(jì)算距離的代碼從for循環(huán)改成矩陣廣播后原來(lái)45秒一次迭代縮到3秒左右。Matlab效率的關(guān)鍵就是不要讓循環(huán)套循環(huán)多用維度廣播和矩陣運(yùn)算如果還想更快可以把calcFitness寫成mex函數(shù)或者用parfor并行計(jì)算粒子群中不同粒子的適應(yīng)度。5.2 陷入局部最優(yōu)的判斷與處理有一種情況PSO迭代結(jié)束后gbest對(duì)應(yīng)的質(zhì)心組其實(shí)還不是理想解Kmeans再迭代也跳不出來(lái)。怎么判斷我會(huì)把PSO-Kmeans的SSE和多次隨機(jī)初始化的Kmeans最優(yōu)SSE做對(duì)比如果前者顯著大于后者基本可以斷定PSO階段早收斂了。處理辦法有這么幾種。一是檢查粒子群初始化如果初始粒子全都擠在樣本集中的區(qū)域多樣性不夠PSO很容易早熟。初始化時(shí)除了隨機(jī)采樣樣本點(diǎn)我還會(huì)刻意加幾個(gè)遠(yuǎn)離中心的點(diǎn)。二是增大慣性權(quán)重或者調(diào)節(jié)學(xué)習(xí)因子如果w從0.9降到0.4太快個(gè)體經(jīng)驗(yàn)權(quán)重過(guò)大可以在實(shí)驗(yàn)中把wMax提到1.0wMin提到0.5讓粒子飛得更激進(jìn)一點(diǎn)。三是重啟策略如果一個(gè)粒子連續(xù)N代都沒(méi)有改進(jìn)自己的pbest給它重新初始化到隨機(jī)位置這是個(gè)簡(jiǎn)單但很有效的辦法。我再?gòu)?qiáng)調(diào)一次PSO-Kmeans不是銀彈它只能顯著降低落入局部最優(yōu)的概率不能完全消除。所以在項(xiàng)目落地時(shí)我通常跑3次PSO-Kmeans取SSE最小的那次。由于單次已經(jīng)很穩(wěn)定3次取最優(yōu)帶來(lái)的額外收益也有限更多是買個(gè)心理保險(xiǎn)。5.3 K值怎么選最合理選擇K值最常見(jiàn)的是肘部法則畫SSE隨K變化的折線圖找那個(gè)拐點(diǎn)。但實(shí)際數(shù)據(jù)里肘部往往不明顯SSE下降曲線保持平滑你很難說(shuō)出3和4哪個(gè)是肘。我用輪廓系數(shù)配合業(yè)務(wù)可解釋性一起判斷。輪廓系數(shù)對(duì)第i個(gè)樣本的定義是[ s_i \frac{b_i - a_i}{\max(a_i, b_i)} ]其中(a_i)是樣本i與同簇其他樣本的平均距離(b_i)是樣本i與最近其他簇的平均距離。把全部樣本的輪廓系數(shù)平均就是總體輪廓系數(shù)。我一般要求總體輪廓系數(shù)大于等于0.5如果某個(gè)K下只有0.3說(shuō)明簇內(nèi)不夠緊湊或者簇間分得不清楚這個(gè)K值基本不可用。但我也要說(shuō)業(yè)務(wù)可解釋性有時(shí)候比數(shù)值指標(biāo)更關(guān)鍵。比如K5時(shí)輪廓系數(shù)最高但其中有一類用戶曲線形態(tài)和另一類非常接近業(yè)務(wù)上完全無(wú)法區(qū)分和應(yīng)對(duì)那K5就沒(méi)有實(shí)際意義。我的習(xí)慣是先選2到3個(gè)候選K輪廓系數(shù)比較高的然后把這幾個(gè)K下的聚類結(jié)果拿給業(yè)務(wù)同事看問(wèn)哪一版最容易講故事通常答案很明確。5.4 版本兼容和Matlab環(huán)境的坑我在實(shí)驗(yàn)過(guò)程中遇到過(guò)一次運(yùn)行環(huán)境導(dǎo)致的怪問(wèn)題在Matlab R2021b上能正常運(yùn)行的腳本換到老版本后kmeans的Start參數(shù)傳矩陣就報(bào)錯(cuò)。Matlab每個(gè)版本對(duì)聚類函數(shù)輸入?yún)?shù)的校驗(yàn)機(jī)制不一樣如果公司或?qū)嶒?yàn)室的Matlab版本不統(tǒng)一建議不要依賴版本較新的參數(shù)特性。我的做法是手寫一個(gè)20輪的Kmeans精修函數(shù)替代內(nèi)置的kmeans代碼不超過(guò)30行卻能在所有版本上穩(wěn)定運(yùn)行。核心邏輯就是循環(huán)分配樣本—更新質(zhì)心和我們第一部分講的Kmeans原理完全一致。另外如果你跟我一樣被工程化逼得沒(méi)有正版授權(quán)也可以考慮用GNU Octave代替Matlab寫這個(gè)流程。Octave對(duì)大部分?jǐn)?shù)值計(jì)算和矩陣運(yùn)算的支持都很好PSO-Kmeans這種以矩陣運(yùn)算為主的代碼遷移成本很低。不過(guò)Octave的kmeans函數(shù)不是內(nèi)置的需要自己手寫用來(lái)替代內(nèi)置函數(shù)時(shí)正好省了上面的兼容性問(wèn)題。5.5 數(shù)據(jù)質(zhì)量細(xì)節(jié)這些坑會(huì)影響聚類結(jié)論最后分享幾個(gè)和算法無(wú)關(guān)但直接影響結(jié)論的數(shù)據(jù)細(xì)節(jié)。第一歸一化必須在缺失值處理之后做否則Z-score會(huì)把缺失值當(dāng)成0參與均值計(jì)算扭曲特征分布。第二聚類的輸入應(yīng)該是行為特征不應(yīng)該直接放日期、用戶編號(hào)、臺(tái)區(qū)編號(hào)這些標(biāo)識(shí)性變量。第三如果用戶數(shù)據(jù)的天數(shù)不一致有的用戶只有15天記錄有的有30天建議先按用戶求平均再做聚類否則天數(shù)少的用戶會(huì)被當(dāng)成異常樣本。第四季節(jié)因素要重視——冬季和夏季的負(fù)荷曲線形態(tài)差異很大如果你直接拿一整年數(shù)據(jù)混在一起聚類得到的分群往往是季節(jié)分群而非行為分群。我的做法是按季節(jié)分別建模型然后在業(yè)務(wù)層面對(duì)比同一用戶的季節(jié)歸屬變化這樣既能識(shí)別行為差異又能捕捉季節(jié)性規(guī)律變化。這套組合方案跑下來(lái)我最大的體會(huì)是算法層面沒(méi)有太多高大上的東西PSO-Kmeans本質(zhì)上是把一個(gè)簡(jiǎn)單而頑固的問(wèn)題——初始質(zhì)心敏感——用群智能算法解決掉了。居民用電行為分析的價(jià)值也不在于把輪廓系數(shù)從0.55提高到0.6而在于每一類用戶分出來(lái)以后你能針對(duì)性地做點(diǎn)什么。最后再分享一個(gè)小技巧給準(zhǔn)備落地的朋友就算聚類結(jié)果已經(jīng)穩(wěn)定也別直接信任數(shù)據(jù)去抽查10個(gè)用戶的原始負(fù)荷曲線和聚類標(biāo)簽是否匹配。光看平均曲線會(huì)騙人單條曲線才暴露真相。這個(gè)步驟花不了十分鐘卻能避免向業(yè)務(wù)方匯報(bào)時(shí)被一句我看這明顯不是一類用戶問(wèn)得啞口無(wú)言。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
久久婷婷亚洲无码一起| 极品少妇高潮啪啪AV无码| 狠狠爱丁香婷| 五月丁香婷婷啪啪| 伊久久婷婷| 久久黄色网扯| 色六月婷婷| 午夜无码熟熟妇丰满人妻 | 天天插天天狠| 五月婷婷,狠狠操| 97色吧| 色情五月婷婷| 99r这里只有精品在线观看| 思思热这里只有精品视频666| 色综合网页| 99性爱| 色色五月婷| 春色激情第四色| 91性人人| 月丁香久久久| 人妻在线观看视频| 日本啪啪视频HD| 色综合九九色综合88| 精久久色| m色激情网| 伊人www22综合色| 色婷婷91激情小说| 97干在线免费| 人人摸人人| 亚洲日韩人妻操逼| 另类激情五月| 这里只有精品网站| www,天天干| 青草久久五月婷伊人| 久久久久久9| 色婷婷丁香AV综合| 97爱综合| 五月丁香六月激情综合| 婷婷综合网| 久热超碰91| 久久五月婷综合网| 伊人狠狠色婷婷综合丁香一区| 伊人热在线大香蕉| www.一起草av| 欧美五月婷婷| 婷婷激情五月天7| 狠狠色色| 丁香五月综合| 五月婷婷 激情按摩| 亚洲综合五月天| 色五月婷婷久久| www..999热久| 99热在线观看| 亚洲AV无码一区二| 亚洲久热| va婷婷在线免费观看| 婷婷五月天六月综合| 99re这里只有精品免费| 色五XX| 久久综合激情婷婷激情| 日韩欧美成人片| 久久停停超碰| 欧类av怡春院| 色色色天堂网| 久久久久久久丁香五月天婷婷| 天天做天天爱天天搞| 亚洲性受XXXX五月丁香| 色婷婷丁香五月色综合网| 五月丁香欧美在线| 热久久99热欧美国产亚洲| 伊人激情影院| 丁香五月婷婷激情完整版| 在线中文亚洲| WWW.色婷婷.COM| 五月丁香婷婷AV| 8区视频在线| 精品人妻一区二区三区四区不卡在| 色香欲综合| 欧美色男人网站| 国产特黄色精品一区二区三区精品无广告| 色欲久久久久久综合网综合网| 色婷婷激情| 26uuu国产色| Va另类视频| 色色色色av色色色色| 91九色熟女| 99精品网| 91爱操| 婷婷丁香五| 久久99成人性爱高清视频| www.99热这里精品| 亚洲经典三级| 五月丁香亚洲校园欧美| 五月丁香婷婷欧美| 色六月 婷婷| 91|九色|动漫| 99这里是精品| 成人国产欧美大片一区| 日韩欧美颜射| 免费播放片大片| 久热九九| 五月婷婷久久综合| 婷婷六月亚洲综合| 六月丁香AV| VA色婷婷| 天堂网啪啪| 国产日韩欧美| 五月份婷婷| 亚洲精品国产精品乱码视99| 色级停停| 只有久久精品免费| 国产精品久久久久久久久久免费| 丁香综合婷婷开心激情网| 婷婷爱五月天人人爱| 亚洲AV免费在线| 伊人超碰在线| 激情综合亚洲色婷婷五月| 天天综合网91| 日本WWW九九九| 亚洲狠狠婷婷综合久久久| 丁香五月激情网| chaopengdaxiangjiao| 丁香五月色| 五月精品| 91综合在线视频| ji'qing'luan'ren'lun| 大地9中文在线观看免费高清| 啪啪操操| 久热亚洲| 操操国产| 99精品在线| 欧美天天搞| 人人视频色| 五月婷婷综合网| 欧美精品999| 六月婷婷五月丁香| 成人网站av免费网站推荐| 欧美色五月天| 日本在线wwww| 丁香五月婷婷亚洲综合精品| 激情婷婷五月| 99在线免费视频| 91一起操| 五月丁香六月婷| 亚洲视频操| 午夜天堂一区人妻| 色婷婷成人做爰A片免费看网站| 99激情网| 亚洲无码色色| 天天色伊人| 九九av| 无码四色色色| 国产精品色情AAAAA片软件| 精品视频这里只有精品| 99精品视频在线观看| 五月丁香va| 第九色区av天堂| 六月婷婷狠狠色在线观看| 伊人在线视频| 久久久久人妻中文| 99热在线资源| 在线播放成人网站| 五月天婷婷婷| 婷婷伊人久久| 成人无码髙潮喷水A片| 亚洲99视频| 婷婷色色综合| 久操97| 原琪琪色影院| 精品欧美一区二区三区久久久| 五月天久久www| 亚洲av另类在线观看| 婷婷瑟瑟五月天| 亚洲xx网| 久久久亚洲精品一区二区三区浴池 | 黄色一极大片| 婷婷五月天av| 丁香五月天资源网| wwW天天干| 色五月五月天| 91天堂网综合| 色婷网| 六月天六月婷| 91人人网| 九热网站| 日本久久天堂| 99热在线播放| 日本五月丁香| 九九干视频| 五月丁香婷婷色| 国产精品在线视频| 亚洲综合无码| 九九精品丁香花| 婷婷五月大香蕉| 丁香五月综合久久八| 超pen个人视频97| 欧美婷婷五月天| 色亚洲无码| 2018夜夜草| 婷婷99视频精品| 国产色色网站网址| 久热伊人| 伊人9在线| 九九碰九九爱97超碰| 色区域网站视频| 玖玖无码中文| 五月激情婷婷国产精品久久久久久| 久久久激情| 五月丁香777| 婷婷5月色| 激情婷婷视频在线| 91久久国产自产拍夜夜91久久精品文字>91麻豆精品国产 | 婷婷五月天堂| 天天干天天爽| 综合一本道| 99热视| 色婷婷超碰| 7777国产盗摄农村女人| WWW.国产| 91超级碰碰| 色婷另类| 99操无码视频观看| 激情第四色| 五月成人综合| 丁香婷婷视频一区二区| 日本va视频| 涩涩涩,com| 五月天婷婷AV| 九九大香蕉黄色影院| 成人 在线观看国产| 五月天激情图片| 九九九九这里只有精品| 夜丁香五月婷婷| 可以免费看av网站| 99高级会所久久| 色9999日韩国产| 亚洲色图81p| 婷婷五月丁香成人网| 在线看的免费网站| 9九九久久精品无码专区| 99热99色| 欧美性生交XXXXX无码小说| 五月丁香| 思思热在线视频精品| 综合久久97| 五月丁香 啪啪| 另类婷婷五月天啪帕帕| 久碰久| 黄色视频网站在线播放| 97色 五月天丁香| 久久婷婷伊人| 日本二级毛片二级毛片| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 国产欧美日韩综合精品一区二区| 538在线精品| 日韩九区| 综合色在线| 51精品国自产在线| 熟美女麻豆| 人妻激情视频| 超碰在线国产| 伊人超碰| 99爱这里只有精品免费视频| 激情五月综合网| 久久色五月天| 天天干天天干天天干天天干天天| 激情 婷婷 丁香五月天| 婷婷性色| 九九久久99| 婷婷中文字幕| 日韩三十六页| 性色综合网| www.色五月| 天天爽夜夜爽| www.maotanji.com| 青青青在线视频国产| 99精品免费| 久久9热好| 一级性感毛片| 五月婷婷在线丁香| 精品51XX| 91狠狠综合久久| 五月丁香婷婷综合| 99草在线免费观看视频| 久久99操| 亚洲激情免费视频| 欧美在线干| 成人无码精品1区2区3区免费看 | 婷婷久久久久久久| 婷婷娌伦网| 97色在线| 婷婷丁香五月在线播放| 色偷偷综合| 婷婷色色亚洲| 色五月综合网| 五月婷av| 国产又黄又爽又色的免费| 色婷婷五月丁香色| www.激情五月天.com| www.激情五月天com| 久久九九色| 激情五月天婷婷丁香| 婷婷丁香综合网| 色综合中文色综合网| 青草性爱视频| 日本久久高清| 久久伦乱| 日本一级一级一级一级| 99热九九热| 色婷婷成人做爰A片免费看网站| 丁香五月婷婷香| 色色婷婷五月天| 凹凸操Av| 最近免费中文字幕大全高清大全1| 综合另类激情| 狠狠色情婷婷| 天天插天天爽| 五月天综合久久丁香91| 亚洲热久久| 中文字幕在线日亚洲9| 日韩精品无码AV| 久久这里只有精彩| 色啪影院| 色女人久久| 丁香五月激情性色郤| 网色99| 999热在线观看视频| 玖玖婷婷五月天| 99视频精品在线| 91在线操逼视频| www.久久爱| 天天艹| 五月丁香六月婷婷中文版| 久久婷婷六月综合综合| 久久天堂婷婷五月| 色综合激情| 国产乱妇乱子在线播视频播放网站| 激情久久五月天| 五月丁香婷婷综合视频| 中文字幕人妻AV| 西瓜美女a片| 超碰免费在线| 99热这里只有精品268| 久9免费视频| 婷婷五月在线| 婷婷婷婷婷婷婷婷| 99热色婷婷| 久久久久er热| 91久久国产综合久久| 开心五月婷婷在线| 91a片爽| 人人操A| 青柠影视免费高清电视剧| 噜噜狠狠| 丁香五月在线视频黑人| 成人超碰网| 色五月亚洲五月天| 婷婷五月丁香五月基地| 婷婷激情啪啪| 综合网精品99| 综合网亚洲| 百度4399有码精品V在线观看| 国产色99| 99色.com| 婷婷丁香色五月| 久久丁香五月天| 丁香婷婷大香蕉| 超碰chaompinm| 人妻激情在线| 久久er九九| AA片在线观看视频在线播放| 深夜A片| 欧美69色| 婷婷久久网| 激情视频网址| 99在线精品免费视频| 亚洲另类久久| 五月综合无码| 五月婷婷,六月激情| 粉嫩AV久久一区二区三区| 插插网爽妇五月丁香| 中国女人内射6XXXXX| 人人做人人看人人摸| AⅤ在线播放网| 狠狠色成人影片| 97人人做| 4399啪啪视频| 婷婷色在线播放| 5月激情天| 亚洲亚洲人成综合网络| 激情五月六月| 婷婷五月蜜桃成人桃色丁香| 日韩精品VIP| 五月丁香久人妻中文| 丁香六月婷婷久久综合| 色综合久久8| 激情久久久久久久久久| 亚洲久久婷婷丁香五月天| 99久热视频在线| 五月丁香激| 都市激情久久| 久久久久久久久久婷婷| 一起草AV| 日韩狠狠色| 丁香五月婷婷色综合基地| 久久玖玖99| 色~性~乱~伦~噜| 亚洲 在线 性爱 | 亚洲天天| 狠狠狠狠狠狠狠狠狠狠狠色宗合图片| 色噜噜综合网| 小视频久久久aaa| 99热欧美| 超碰国产在线观看| www免费在线视频| 国产精品色婷婷久久久精品| 久噜久噜| 伦乱美欧| AAA久久| 97男人天堂| 亚州性爱99| 91丨九色丨熟女|新版| 一个色的综合| 九九Av| 国产高潮白浆一区二区| 亚洲国产精品二二三三区| 91热视频色网站| 久久aaaa片一区二区| www.天天色综合| 丁香五月色色婷| 婷婷激情五月| 婷婷五月天激情小说| 五月丁香六月婷婷操操操| 丁香五月婷婷少妇| 亚洲激情av| 久久sp免费视频| 一本色道久久88综合日韩精品| 超碰色综合| 十区av| 久九男女天堂| 免费看欧美成人A片无码| 丁香六月天| 色播五月婷婷五月| 天天干天天色天天干| 婷婷五月天改成什么了| 亚洲婷婷在线播放十月| 伊人久久大香网| 精品动漫 无码av| 真实的国产乱XXXX在线91| 狠狠综合网| 天天搡日日搡aaaaⅩ| 久久婷婷五月| www.天天干| 五月成人天| 久久九九在线视频| 思思热精品在线观看| 天天操夜夜玩!| 婷婷五月天 偷拍| 激情五月婷婷免费视频| 天天舔天天摸天天射| 久久精品爱爱| 婷婷久久免费看| 欧洲激情网站| 五月丁香视频在线观看| 99热这里只有精品23| 婷婷五月天直播| 开心四月婷婷在线色播播| 思思久久99热| 久久6这里只有精品| 亭亭丁香aV| 开心深爱五月天| 99区视频| 激情五月天开心总和网| 免费啪啪亚州视频| 天天干天天干天天| 激情内射人妻1区2区3区| 大香蕉久久视频久久视频| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | bbwcuckold精品熟妇| Av狠狠色丁香婷| 久色成人| 日本色色色| 99综合网| 女人天堂AV| 97在线观视频免费观看| 九九热99在线视频| 另类专区在线观看| 亚洲日韩26uuu| 日日艹思思热| 91九色丨国产丨爆乳| 中文AV网站| 嫩BBB槡BBBB搡BBBB| 美女被操一区二区| 人妻激情综合| 色婷婷五月天激情综合| 成人在线综合| 五月天网址在线刘玥| 久热精彩视频98| 综合激情在线| 亚洲色欲AAAAAA| 国产精品VA在线| 国产成人+综合亚洲+天堂| 天天做天天爽| 欧美色偷拍| 26UUU| 人人摸人人干人人做| 精品99在线观看| 狠狠综合网| 久久婷婷网址| www.minyis.com【JT】实力收量可预付TG@LXSPSW8| 亚洲人妻五月丁香婷婷| 婷婷五月激情五月激情| 97热超碰| 天天日人人| 五月婷婷在线观看黄| 99精品在线| 五月天婷婷色色首页| 开心五月婷婷激情| 丁香久月婷| 丁香六月亚洲| 婷婷五月天黄色| 综合AV网| 婷婷丁香射射| 欧美色色色色色色色色色色| 九九热9| 日韩色色小视频| 播五月,色五月,开心五月播放器| 99久久66综合| 丁香五月激情天AV无码| 日韩人妻无码精品| 丁香熟女乱| 综合久久丁香婷婷,五月婷婷六月丁香,开心激情综合网,六月丁香在线观看,婷婷丁 | 亚洲AV无码影院| 日韩一区二区在线播放| 日本色色网站| 狠狠色噜噜狠狠亚洲A∨| 亚洲人成网亚洲欧洲无码久久| 国产精品久久久久久妇女6080| 伊人色综合网| 五月天婷婷综合网| xxxx久| 五月丁香六月情婷婷久久| 色五月激情综合网| 久久伦乱| 久久伊人9| www,setingting| 久久AAAA片一区二区| 99精品久久久久久久婷婷| 丁香婷婷五月综合欧美另类| 丁香六月成人网| 色九月| 开心六月丁香五月婷婷| 五月婷六月| 久草视频一,二三四| 79精品视频在线观看,| 超碰日韩人妻在线| 丁香五月第四色88| 桃色五月婷婷| 99综合一区| 亚洲视频在线网站| 久久9情免费| 婷婷五月免费观看| 男女啪啪做爰高潮无遮挡| 九九热色视频| www九九热| 激情丁香五月综合| 色婷婷五月综合网| 久9热插入| 亚洲人成人五月天| 色色色9 9 9| 66色在线日韩| 欧美色图天堂网色| 日本久久高清| 日本熟妇乱妇熟色A片蜜桃| 影音先锋一区| 成人va在线播放| 91丁香婷婷综合资源| 播五月丁香三月婷婷| 99九九中文字幕视频| h亚洲| 精品久久9| 成片免费观看视频大全| 午夜理论片最新午夜理论剧| 91.www综合| 婷婷激情五月综合丁香社| 碰超亚洲| 色婷婷综合影院| 色色狼人综合| 色婷婷狠狠| 就去涩涩丁香五月天| 色婷婷人人| 五月色丁香| 国产精品久久欧美久久一区| 色久激情在线| 五月天久久www| 五月婷婷五月天| 深爱激情四射| 日本欧特黄色刺激一区影视久精品无码| 停婷丁五月在线| 亚洲免费看片| 岛国在线观看91| 五月天综合视频| 久久久WWW| 国产精品99久久久久久久女警| 人人操超踫| 69久久99精品久久久久| 国产毛片精品一区二区色欲黄A片| 日本激情五月| 热九九精品| 日韩AV无码影片| 天天干,天天日| 日韩三级片一区二区| 国产精女同一区二区三区久| 综合色色婷婷| 99小视频网站| 欧美va亚洲va| 丁香婷婷综合激情五月色| 久久久婷婷婷| 色噜噜97视频在线观看| 婷婷五月天伦理| 九九色之九九色之88| 国产成人精品一区二三区熟女在线| 久久久久er热| 狠狠狠狠狠狠狠狠草| 色五月婷婷大香蕉| 5月丁香综合图区| 欧美婷婷丁香五月社区| www.久久av.com| 激情影院内射| 婷婷丁香色情| 99色.com| 在线超碰免费| 思思久久99热只有频精品66| 色爱综合网| 开心色五月天久久久久久久| 婷丁香五月天| 成人五月天综合网| 久久色五月| www.夜夜爱.com| 大香蕉综合网| 色激情五月| 婷婷五月天福利| 99热久草| 激情狠狠丁香月| 99热只有精品在线播放| www..999热久| 男人的天堂五月丁香| 天天婬色综合| 97操碰98| A片试看120分钟做受图片| 天天日综合| 色五月婷婷综合| 婷婷丁香五月婷婷| 青草五月天| 亚洲激情网站| 九九久久视频| 丁香五月六月欧美| 久久机热这里只有精品| 亚洲小说欧美激情| 天天cha成人综合网| 天天摸天天舔天天爽| www.激情.com.| 五月天成人综合| 大香蕉99热| 久草狼人| 日本色天堂| 美女激情综合| 久久黄A片| 99欧美| 天天干,天天舔| 看黄的网站18禁| 狠狠大香婷婷爱| 欧美色婷婷| 婷婷她六月天| 99激情视频热| 密乳视频| www.99成人视频| http://www.sd-xiangsu.com/| 五月天色婷婷网| 久久丁香五月婷| 色五月天婷婷| 大香蕉啪啪| 99热手机在线精品| 日本不卡高字幕在线2019| 内射人妻视频国内| 久久五月丁香综合| 光棍影院日韩精品| 日日噜噜夜夜狠狠久久丁香六月| 99精品激情| 人妻内射麻豆视频| 色射婷婷五月天| 亚洲成人婷婷| 人妻av在线| 九九在线视频| 五他月天啪啪啪| 欧美日韩国产伦精品日韩人妻一| 狠狠久久婷五月| 99久久婷婷国产综合精品草原| 天天综合亚洲综合网天天αⅴ| 欧美这里只有精品| 九九无码视屏| 五月丁香免费看| 天天草狠狠擦| WWW.桔色成人.COM| 色婷视频| 九九九九热99超碰| 99视频在线啪| www.99热| 天天做 天天爱| 欧美色五月| 五月激情六月丁香| 久操香蕉| 99久久网站| 丁香五月天在线直播观看| a久久免费视频| 成人亚洲精品| 丁香六月婷婷基地| www.久久久.com| 色青五月天| 91色色色18| 国产一二区爆乳_1国产日韩一区二区三-成人AV| 大香人妻| 怡红院院在线导航网| 五月亭亭直播| 少妇熟女视频一区二区三区| 冬月かえでAV无码播放| 婷婷五月天xxx| 日本女人久久| 影音先锋男人站,影音先锋男人色资源网,影音先锋AV最新资源站,影音先锋AV资源 | 亚洲成人免费在线| 丁香六月色婷婷| 99爱在线视频| 99亚洲精美视频在线观看| 五月激情婷婷开心五月| 91色噜噜狠狠狠狠色综合| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 久久狠狠干| 99色综合| 丁香六月爱综合| 九九热精品| 成人五月天在线观看| 亚洲人妻AV| 玖玖婷婷色五月| 九九无码| 男女av免费看| 哇嘎成人久久| 亚洲 小说 欧美 激情 另类| 五月婷婷香| 久婷婷五月天影院| 久久婷婷五月天亚洲欧美| 99在线观看| 日本3级片偷拍网站| 色色色免费视频| 欧美色图片88| 五月婷婷香蕉| 婷婷狠狠操| 国产操碰| 91偷拍视频| 97日在线视频| 婷婷在线视频| 碰碰碰91| 色色色图| 伊人超碰在线| 婷婷十月激情综合网| 97色精品视频 | 国产特级毛片AAAAAAA高清| 欧美日朝成人| 久久婷综合| 婷婷综合五月天| 狠狠色97| 久久婷婷五月丁香网| 色丁香五月婷婷| 色五月婷婷青娱乐| 婷婷五月天成人网| 久久hd| 五月丁香影院| 午夜九九九九九九九九九九九九九| 思思热99热| 丁香玖玖视频大全| 激情婷婷久久| 黄网免费看| 在线视频你懂得| 91中文在线| 日本久久天堂| 欧美黑人巨大猛烈cuckold| 99久久综合| 午夜丁香六月婷| 亚洲成人在线在线| 丁香六月无码| 9久久网| 久婷| 久久网站观看免费欧洲国产| 亚洲亚洲人成综合网络| 日本成人小说婷婷六月| 婷婷日本在线| 婷婷涩涩五月天| 99热精品在线| 欧美成人AAA片一区国产精品| 丁香五月婷婷激情视频播放| 亚洲色频| 久久性操| 丁香婷婷免费| 天堂网亚洲色图| 久99久热| 免费日韩99| 色色色色色九九九九九| 99国产精品久久久久久久久久久| 97在线精品| 国外亚洲成AV人片在线观看| 色偷偷色婷婷| 五月婷婷无码| 五月丁香色停停啪啪啪| 色激情五月天| 综合五月草| a免费在线| 97人人操人人| 青青草护士中出内射-欧美电影在线天堂新版 | 99玖玖人人| 精品婷婷| 日日肏天天操| 在线中文av| 中文字幕在线aⅴ免费观看| 成年人最刺激的综合网| 97自拍视频在线| 六月婷婷综合网2| 成人版视频在线观看| 婷婷五月天成人动漫 | 九九九九综合| 婷婷在线中文字幕| 亭亭色色五月天| www.激情五月天com| 欧美97色| 天色色综合网| 噜噜噜狠狠色综合| 丁香美女五月天婷婷| 天天爽天天日人人爱| 久久综合五月婷婷| 亚洲国产精品SUV| 久久WW| 丁香五月婷婷天| 97色碰| 成人啪啪色婷婷久| 成人午夜视频精品一区| 99精品在线观看视频| 国产片色| 婷婷久久欧美| 99热在线精品观看| 五月丁香婷婷老司机| 免费精品99| www,色婷婷| 丁香五月婷婷综合网| 美女亚洲五月丁香| 五月色婷婷影院| 色综合久久无码| 色噜噜狠狠色综无码久久合欧美| 婷婷五月色情天| 婷婷狠狠干| 国产片色| 婷婷五月天亚洲色| 五月丁香六月综合情在线观看 | 99亚洲精美视频在线观看| 99视频免费播放| 99精品免费| 五月婷婷六月丁香| 开心五月婷婷| 狠狠草狠狠草| 九一99| 99热这里只有精品96| 激情无码五月天| 99热老网站| 午夜激情综合| 婷婷激情在线| 婷婷久久18| 五月丁香婷婷综合网色欲| 国产av天天插天天操天天爽| 国产暴力强伦轩1区二区小说 | 色亭亭九月| av中文网| 激情综合网激情五月婷婷| 五月激情天| 一级黄色影片| 在线只有精品| 丁香六月婷| 99综合| 婷婷激情五月| 亚洲乱码日产精品BD| 婷婷大香蕉| 色色激情| 国产午夜精品一区二区三区嫩草| 欧美色五月| 国外亚洲成AV人片在线观看| 国产精品人成A片一区二区| 99性爱| 婷婷五月成人| 国精产品一区一区三区免费视频 | 婷婷五月六月激情| 日本操逼九九九九58日本操逼 | 婷婷五月丁香91| 久久五月网| 91精品久久久久久综合五月天| 激情五月丁香社区| 婷婷丁香六月| 亚洲操逼网| 国产在线aaa片一区二区99| 国产亚洲精品久久久久苍井松| 久久久久亚洲AV综合| 色五月天婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷婷 | 熟女少妇内射日韩亚洲| 亚洲狠狠终合停停终合| 国产女18毛片多18精品| 婷婷五月精品中文| 国产白丝在线一区| 精品久久二6| 亚洲综合丁香婷婷六月天| 九九热视频免费观看| 久久久久人妻精选| 我去色色网五雨天| 五月开心激情| 666555。COm毛片| 一区二区三区四区牛| 大香蕉久久草| 国产日批视频| 色婷婷九月| 欧美婷婷五月天| 丁香五月婷婷影院| 亚洲精品无码99热| 正宗黄色毛片| 色综合爽| 逼里香不卡| 91人妻人人做人碰人人爽九色| 五月天成人在线视频网站| 婷婷色色综合| 91精品91久久久中77777久久玖玖九九| 99er这里只有精品| 69色色视频| 中文字幕不卡+婷婷五月| 深爱五月天| 色97啪啪| 视频综合网| 色亭亭五月天丁香综合AV - 百度 - 百度 | 色婷婷超碰| 婷婷六月开心网| 婷婷激情综合| 五月丁香| 丁香五月天.com| 久久五月天黄色五月天色网址| 26uuu日韩| 麻豆AV一区二区三区| 婷婷激情五月视频| 婷婷亚洲五月丁香综合在线 | 超碰精品在线| 丁香五月婷婷影视先锋| 深夜男女福利刺激影院一区| 婷婷五月天BBw| 大香蕉五月天婷婷| 国产99久9在线| 欧美激情五月天在线观看| 综合婷婷都市激情| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 伊人狼人干| 99在线精品视频免费| 色色色色色网| 亚洲黄色网址| 婷婷日在线观看| 五月天开心激情综合网| 天天射影院| 特黄三级片| 婷婷五月天播播| 久久精品A片777777| 婷婷丁香久久| 九九亚洲| 99免费视频| 丁香五月偷拍| 热久综合| 天天摸,天天爽| 99综合免费视频| 日韩大片艹艹| 99热777| 天天干天天做| 国产亚洲99久久精品| 五月天精品| 免費观看aV在线网址| va婷婷在线| 五月色亚洲| 久热 91| 五月婷婷色| 97人人操com| 丁香婷婷五月香蕉91| 久久亚洲色导航| 久热欧美| 91狠狠综合网| 亚洲无码yw| 激情久久丁香| 一本色道久久综合狠狠躁小说| 五月丁香狠狠爱婷婷综合| 欧洲日韩一区二区三区| 天天日天天插| 国产在线6| 思思热在线观看| 九九色中文| 久久丁香| 色色色色色热| 丁香六月情| 996热| 久久综合五月| 五月欧美色播| 99热综合| 丁香五月激情月| 日本欧美成人片AAAA| 色六月丁香婷婷狠狠干| 无码日本精品XXXXXXXXX| 色亚洲中文| 麻豆AV一区二区三区| 91婷婷五月天综合视频| 97操操网| 婷婷情色激情| 色婷婷亚洲在线观看| 激情噜噜噜| 丁香久久五月婷综合| 久久九九爽| 五月婷婷高清| 国产毛片精品一区二区色欲黄A片| 亚洲丁香五月天在线视频| 亚洲精品一区无码A片| 九九热在这里只有精品| AV中文字幕夜夜操b天天摸bb| 丁香色五月婷婷| 婷婷五月天精品| 五月停停色色丁香| 99久久久国产大片| 97caop| 五月天综合视频网| 成人五月天丁香| 色婷婷激情| 久久婷婷亚洲五月天| 九九久久久综合| 五月天丁香综合久久国产| 久久九九综合| 亚洲亚洲人成综合网络| 天天干狠狠| 色婷婷亚洲| 五月天开心网| 色婷婷五月天视频在线| 国产五月天婷婷| 这里只有精品视频| 色综合色色色色色| 色播五月综合网| 婷婷久热| 日日夜夜狠狠操| 人人爱操| 五月婷婷色激情| 久久新地址| 97热91| 日韩在线99| 五月婷婷开心色伊人| 大香蕉丁香| 能看的AV| 亚洲精品午夜国产va久久成人| 操碰99| 国产看真人毛片爱做A片| 天天色天天日| 色五月色图| 五月天久久婷婷| 欧美99热| 久婷婷视平| 五月丁香婷婷综合久久| 丁香婷婷六月天| 4438成人电影| 色婷婷成人做爰A片免费看网站| 99热这里有精力| 激情五月黄色小说| 性色综合网| 久久久婷| 97色在线观看视频| 亚洲色色色色| 亚洲精品国产setv| 日日夜夜亚洲一区| 九九热免费视频| 色五月亚洲| 婷婷激情综合网| AV在线大香蕉| 色婷婷激情视频| 97色色色| www.久久综合| 丁香五月天BBw| 丁香无月在线观看| 一级二级色大片| 九九爱激情| 五月天激情综合| 热99免费在线| 色色色.COM| 激情五月综合ì香亚洲| 色色狼人综合| 九九九九九九九九九九九九九国产精品 | www.色五月| 男女99免费视频| 狠狠穞A片一區二區三區| 99热这里只有精品热| 激情com| 久久9视频欧美| 婷婷五月天你懂的| 久热99中文字幕| 成人做爰高潮A片免费视频| 色婷网| 91精品久久久久久久久| 五月开心深爱激情网| 色五月激情五月丁香五月婷婷啪啪综合| 丁香六月婷婷综合啪啪| 综合久久综合五月天婷婷| 五月激情小说| 天天插天天射| 色色婷| 操逼视频一区| 婷婷成人五月天| 亚洲中文乱字字幕在线永久| 五月丁香青草综合啪啪| 无码人妻电影| 播四月婷婷六月丁香| www.99热最新视频8| 丁香丁婷五月激情| 亚洲区视频| 五月丁香六月婷婷啪啪| 五月婷婷|欧美| 99精品高潮| 激情丁香五月AV| 久久99日本精品视频免费观看| 影音先锋AV资源男人站| 99久久婷婷精品视频| 日韩乱轮AV| 五月综合激情久久| 五月婷婷色在线| 懂色av粉嫩av蜜臀av| 99久久精品免费精品国产_国产精品久久久久久_国产在线|日韩_久久国产精品电影 | 天天躁日日躁狠狠躁日日躁2022年5月9日| 六月婷婷色综合| 大香蕉综合网| 俺去也五月| 五月天婷婷婷| 亚洲区在线| 9 9 9色色| 97人操人免费视频| 91vip在线观看| 婷婷香香五月| 婷婷五月激情六月丁香| 26uuu亚洲欧美另类| 婷婷五月天免费| 色五月婷婷亚洲| 丁香五月激情综合| 中文字幕av久久爽一区| 色狠狠色狠狠| 99ri视频| 欧美激情综合五月色丁香| 久久开心五月天激情| www.henhengan| 婷婷狠狠18禁久久| 97福利视频| 五月婷婷六月天| 国产av网| 天天操天天曰天天射| 7777激情基地| www,欧美干干干干干干| 99热在线观看这里只有精品| 丁香婷婷五月天在线视频| 婷婷99中文字幕| 久久婷婷伊人| 日韩av免费版| 色天使色婷婷| 欧美成人无码一区二区三区| 色欲五月婷婷| 天天操中文字幕| 丁香五月天视频| 月丁香久久久| 婷婷色五月激情| 五月天婷婷色小说| AA丁香综合激情| 天天爽夜夜操| 久久九九99.www| 久久婷婷色| 婷婷五月天视频小说| 天天舔天天爽| 伊人久久婷婷| 六月丁香开心婷婷欧美| 色播五月婷婷| 26uuu亚洲精品国产| 情色五月天网站| 日本不卡高字幕在线2019| 激情图片婷婷丁香五月| 超碰三级秋霞| 五月天狠狠网| 丁香五月天激情综合| 婷婷综合另类| 思思99精品视频在线观看| 五月丁香综合在线| 99国产精品久久久久久久久久久| 97ai婷婷| 99在线观看视频精品| 五月婷婷综合丁香视频| 韩国真做片在线观看| 99热99草97| 五月婷综合性中心| 亚洲成人影视在线观看| 国产毛片操B| 99热在线播放| 婷婷六月综合激情| 青草视频在线播放| 99综合久久| 六月婷婷在线| 色五月情| 色香蕉影院| 99热97| av在线播放网站| 色色日韩网| 色综合九九| 91狠狠综合网| 日韩av在线播放综合网| VA日本视频| 丁香色综合| 婷婷六月久久| 成人网站免费sxj| 深爱综合网| 欧美视频五区| 亚洲婷婷五月天激情| 激情五月丁香五月色| 天天日夜夜B久久| 99碰超| 91精产一区三区免费观看| 久久久久久综合五月婷婷| 久久婷婷五月| 色婷婷五月开心六月综合| 婷婷五月色色| 色婷婷女优有码五月亭| 性色99| 夜夜嗨一区二区三区直播内容 | 六月丁香色婷婷| Blackedraw视频一区二区| 五月色丁香综合| 五月天综合视频| 六月婷久久| 深爱五月天| 9久久网| 狠狠色综合精品视频在线| 7777国产盗摄农村女人| 成人久久天天x资源站| 色五月五月婷婷| 激情五月婷黄版| 五月天综合视频| 婷婷天堂站| 婷婷久久综合| 色婷婷av在线观看| 99热偷拍| 玖玖爱综合网| 婷婷五月色惰| 综合久久综合久久| 色五月综合97| 欧美又粗又大一区二区在线观看| 激情AV在线| 少妇高潮呻吟A片免费看软件| 五月婷婷激情四季| 激情六月天| 丁香婷婷五月天色综合| 久色| 丁香五月综合激情久久潮喷| 久久精品人妻| 亚洲色五月天在线| AV在线不卡播放| 色婷婷色婷婷五月|