99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

scorecardpy實戰(zhàn):從分箱到評分卡的Python風(fēng)控建模全解析

scorecardpy實戰(zhàn):從分箱到評分卡的Python風(fēng)控建模全解析 1. 從信貸風(fēng)控到工具化scorecardpy到底解決了什么問題做信貸風(fēng)控的同學(xué)早晚都會碰到一個繞不開的課題評分卡。無論是信用卡申請評分、消費貸的貸前審批還是存量客戶的額度調(diào)整與風(fēng)險定價幾乎都離不開這張卡。它本質(zhì)上是一種將客群的違約概率映射為整數(shù)分數(shù)的模型讓業(yè)務(wù)人員看到分數(shù)就能快速決策而不是面對一堆概率值無從下手。好幾年前我第一次獨立做評分卡項目時最痛苦的事情其實不是建模本身而是中間的臟活累活變量分箱要手動寫一堆自定義函數(shù)、WOE和IV要逐個變量去算、分箱邊界不單調(diào)還要反復(fù)調(diào)參、生成最終的評分卡還要按步長去計算每組得分。一輪流程走下來光數(shù)據(jù)清洗和變量處理就占了八成時間。后來接觸到scorecardpy這個Python庫算是把整個流程串起來了。它專門為評分卡建模設(shè)計覆蓋變量篩選、分箱、WOE編碼、IV評估、邏輯回歸擬合、評分卡生成與校驗輸出一條流水線走完非常適合標(biāo)準(zhǔn)化的申請評分卡或行為評分卡場景。這篇解讀我會按一個完整評分卡項目從數(shù)據(jù)到落地的順序把scorecardpy的設(shè)計思路、核心參數(shù)和實際坑位都過一遍。適合正要上手評分卡建模的數(shù)據(jù)分析師、風(fēng)控策略同學(xué)以及想用Python替代傳統(tǒng)SAS流程的建模人員。讀完你至少能跑通一條完整流程并理解每一步為什么要這么做。2. 評分卡建模的核心邏輯與scorecardpy的設(shè)計取舍2.1 評分卡為什么長這樣從違約概率到分數(shù)的映射在拆工具之前我們得先把評分卡本身的原理理清楚否則你很容易被各種參數(shù)繞暈。評分卡模型在統(tǒng)計層面通常是邏輯回歸。之所以不用復(fù)雜樹模型或神經(jīng)網(wǎng)絡(luò)核心原因是業(yè)務(wù)需要強解釋性和可追溯性。每一分的變化對應(yīng)哪些特征變化需要能給監(jiān)管和業(yè)務(wù)講清楚。邏輯回歸的預(yù)測結(jié)果是違約概率p但業(yè)務(wù)方不希望直接跟概率打交道更習(xí)慣用一個整數(shù)分數(shù)。分數(shù)和概率之間通過一個線性變換關(guān)聯(lián)score offset - factor * ln(p/(1-p))其中p/(1-p)是違約oddsoffset和factor是兩個常數(shù)。如果你要求一個基準(zhǔn)分數(shù)對應(yīng)的基準(zhǔn)odds以及分數(shù)每增加多少翻倍那么factor和offset都可以算出來。比如設(shè)定基準(zhǔn)分數(shù)為600分基準(zhǔn)odds為50:1分數(shù)每增加20分odds翻倍那么factor 20 / ln(2)約等于28.85offset 600 - factor * ln(50)。這些細節(jié)在scorecardpy里歸根到底就是offset_factor參數(shù)你想自定義就傳進去不想自己算也可以直接用默認。邏輯回歸的自變量一般不是原始特征值而是做過WOE編碼后的值。WOE全稱是Weight of Evidence也就是證據(jù)權(quán)重。它衡量的是某一分組內(nèi)好客戶odds相對于總體好客戶odds的差異WOE_i ln(壞客戶占比 / 好客戶占比)在做分箱之后每個箱子都會有一個WOE值。用WOE編碼的好處有兩個一是將分類型和連續(xù)型變量統(tǒng)一映射到同一量綱的數(shù)值二是天然處理了非線性關(guān)系比如年齡和違約率可能是U型關(guān)系分箱后WOE能直接捕捉這種形態(tài)。IV值Information Value則是每個變量的預(yù)測力度量等于每個箱子的WOE乘以該箱內(nèi)好壞客戶占比差再求和。IV值小于0.02一般認為變量基本無預(yù)測力0.02到0.1為弱預(yù)測力0.1到0.3為中等大于0.3為強但太高也要警惕可能是變量泄漏或過度擬合。scorecardpy最核心的woebin函數(shù)干的事情之一就是幫你快速算出一堆變量的WOE和IV免去手動分組比對。2.2 scorecardpy的架構(gòu)思路為什么它把整個流程封裝得這么深第一次用scorecardpy的人往往會被它的抽象程度驚訝到。一個woebin函數(shù)參數(shù)里塞進去待分箱的DataFrame、目標(biāo)變量y、分箱方法method、分箱數(shù)初始值等等它就能把全部分箱結(jié)果一次性返回。這背后有兩個設(shè)計動機。動機一是典型評分卡建模流程高度標(biāo)準(zhǔn)化。從數(shù)據(jù)選擇、分箱、WOE編碼到模型訓(xùn)練雖然在每個環(huán)節(jié)都有各種方法論爭議比如分箱到底用卡方、決策樹還是等頻等距但整體骨架是固定的。一個足夠成熟的庫完全可以把這些流程封裝成高層接口讓建模人員專注于數(shù)據(jù)和業(yè)務(wù)理解本身。動機二是業(yè)務(wù)項目對效率和可復(fù)現(xiàn)性要求很高。傳統(tǒng)SAS代碼做評分卡有時候一個變量分箱就要寫上百行宏而且要人工反復(fù)看分布去調(diào)邊界。scorecardpy用決策樹或者卡方方法自動合并相鄰箱子幾分鐘跑完幾十個變量的分箱。我用它重新跑了之前SAS項目里四十幾個變量的數(shù)據(jù)集分箱結(jié)果和當(dāng)時人工調(diào)了幾個月的結(jié)論高度接近但肝度完全不是一個量級。但深封裝也意味著如果你不理解內(nèi)部機制出了奇怪結(jié)果很難排查。這也是我寫這篇解讀的初衷搞清楚參數(shù)背后在做什么才能真正用好這個工具。3. 核心環(huán)節(jié)實操從數(shù)據(jù)到評分卡的全流程拆解3.1 數(shù)據(jù)準(zhǔn)備與變量篩選不是所有變量都能進模型先加載一份模擬的信貸數(shù)據(jù)。數(shù)據(jù)經(jīng)過脫敏字段包括客戶年齡、收入、負債率、當(dāng)前逾期次數(shù)、歷史逾期次數(shù)、信用卡使用率、查詢次數(shù)、貸款用途、居住年限等目標(biāo)變量為target1代表違約0代表正常。接觸評分卡建模第一步不是急著跑模型而是先做變量篩選。scorecardpy提供了var_filter函數(shù)來粗篩變量。它有幾個關(guān)鍵參數(shù)iv_limit默認0.02低于這個IV的變量會被剔除。但你也可以先把一批變量都放進來做初步分箱看IV再決定保留哪些。missing_limit默認0.95缺失率超過95%的變量直接剔除保留這種變量風(fēng)險很大填充方式也容易引入偏差。identical_limit默認0.95某個取值占比超過95%的變量也會被剔除這種變量相當(dāng)于常數(shù)。return_rm_reason設(shè)為True時函數(shù)會返回每個變量被剔除的原因方便后續(xù)做特征篩選報告。踩過最大的坑是粗篩時把target誤放進特征里。如果一個業(yè)務(wù)上的運營指標(biāo)恰好和target強相關(guān)比如逾期客戶已經(jīng)被系統(tǒng)標(biāo)記該字段的IV可能接近幾百分箱結(jié)果好得驚人模型卻完全不可用。所以var_filter在篩選時一定要顯式排除目標(biāo)變量和主鍵ID。3.2 分箱的藝術(shù)woebin的自動分箱與手動干預(yù)分箱是評分卡建模的靈魂步驟。分箱是否合理直接決定WOE編碼能否真實反映變量與風(fēng)險的關(guān)系也決定后續(xù)評分卡的業(yè)務(wù)可解釋性。scorecardpy里的woebin函數(shù)支持幾種分箱方法默認方法基于決策樹的分箱。庫底層調(diào)用決策樹來做有監(jiān)督分箱讓樹找到最佳切分點再控制葉子節(jié)點數(shù)量。這種方法的優(yōu)點是自動尋找非線性切分點缺點是過深時分箱結(jié)果容易過擬合。chimerge方法即卡方分箱。相鄰兩個箱子如果目標(biāo)分布差異不顯著就合并直到滿足停止條件??ǚ椒窒涑鰜淼倪吔缤ǔ1容^平滑但可能忽略一些模式。等距分箱和等頻分箱。這兩種屬于無監(jiān)督分箱僅按數(shù)值分布切分如果直接這么用很容易出現(xiàn)好客戶和壞客戶混雜嚴重的箱子后續(xù)IV會偏低。一般不推薦用作默認方式但可以作為對比參考。實際建模時我通常的做法是先用默認決策樹分箱跑一遍觀察每個箱子的WOE排序以及好壞樣本占比再手動指定某些邊界。woebin里的breaks參數(shù)可以手工傳入分箱邊界比如年齡用[18,25,30,40,50,65]這樣業(yè)務(wù)解釋更強也方便后續(xù)在評審會上向策略同事展示。手動干預(yù)最常做的另一件事是處理單調(diào)性問題。評分卡通常要求核心變量與風(fēng)險呈單調(diào)關(guān)系但實際數(shù)據(jù)經(jīng)常會出現(xiàn)U型或者倒U型。比如年齡年輕人違約率高中年人違約率低到了退休年齡段可能又升高。如果分箱結(jié)果不單調(diào)可以考慮強制合并某些臨近箱子或者接受它作為分段型變量但謹慎解釋。scorecardpy沒有自動強制單調(diào)的開關(guān)你需要基于分箱結(jié)果決定要不要調(diào)用woebin_adj函數(shù)去人工調(diào)整。woebin_adj會以交互方式展示每個變量的分箱圖和控制選項你可以手動修改箱數(shù)、合并箱子、調(diào)整邊界。當(dāng)時我在某個項目里處理收入變量時數(shù)據(jù)前1%是大額多筆收入導(dǎo)致第一個箱子WOE異常用woebin_adj直接把極端高收入段合并到了下一個箱子整個單調(diào)性立刻順暢了。3.3 WOE編碼與IV結(jié)果分析數(shù)據(jù)長什么樣心里要有底分箱完成后scorecardpy返回一個DataFrame里面包含每個變量的分箱邊界、計數(shù)、好壞占比、WOE和IV信息。這個結(jié)果結(jié)構(gòu)非常清晰每一行是一個箱子主要字段有variable變量名稱bin分箱區(qū)間標(biāo)簽比如[-Inf,30)表示小于30歲的區(qū)間count、count_dist該箱樣本量和占總體的比例good、bad、good_dist、bad_dist好壞樣本量以及各自占比woe該箱的WOE值iv該變量累計IV值把這些信息可視化之后你會發(fā)現(xiàn)很多有趣的現(xiàn)象。比如信用卡使用率這個變量通常使用率高的箱子WOE為正且絕對值大意味壞占比高這個變量在評分卡里往往是強變量。再比如查詢次數(shù)查詢較多的客戶可能近期資金緊張違約風(fēng)險因此更高。要注意一點IV高不代表你就要無腦放進去必須檢查變量是否有時間穿透、是否包含純未來信息以及業(yè)務(wù)上是否允許使用。某些強變量比如過去12個月貸款審批通過次數(shù)可能在貸中審核時點根本拿不到更新值上線后就已經(jīng)過時了。WOE編碼之后的數(shù)據(jù)集會替換原始特征這部分由woebin_ply函數(shù)完成。它有參數(shù)to_woe如果設(shè)為True就返回WOE編碼后的DataFrame設(shè)為False則返回原始值加WOE值的對照DataFrame。通常建模前我會用to_woeTrue因為邏輯回歸輸入需要的是數(shù)值型WOE。3.4 模型擬合與逐步回歸從候選變量到可用模型生成WOE數(shù)據(jù)集之后下一步是訓(xùn)練邏輯回歸。直接簡單粗暴地往邏輯回歸里扔幾十個變量顯然不行共線性問題會讓系數(shù)極不穩(wěn)定解釋性也大打折扣。scorecardpy提供了glm訓(xùn)練函數(shù)它其實是基于標(biāo)準(zhǔn)邏輯回歸加逐步特征選擇。這個函數(shù)有幾個值得注意的設(shè)計輸入訓(xùn)練集X_train是WOE編碼后的數(shù)據(jù)y_train是0/1標(biāo)簽。內(nèi)部會計算每個候選變量的IV然后按IV從高到低的方式逐批次引入變量同時做AIC或BIC評估從而篩選出最終進入模型的變量組合。輸出結(jié)果中coefficients和selected_vars兩個結(jié)果會展示最終保留的變量及系數(shù)。曾經(jīng)有一次我用了某個外部變量分箱和WOE都很完美但進入逐步回歸后始終保留著我發(fā)現(xiàn)它在業(yè)務(wù)上解釋不通——它的高IV完全來自特定人群的冗余信息。后來加了限制不讓該變量進入候選集換用另一個強解釋性變量模型在驗證集上的穩(wěn)定性反而更好。這說明自動篩選只能輔助決策最終變量去留必須結(jié)合業(yè)務(wù)判斷。訓(xùn)練結(jié)束后可以順手看下模型的AUC和KS統(tǒng)計量這兩個指標(biāo)是評分卡最常見的判斷標(biāo)準(zhǔn)。AUC通常0.7到0.8之間算可用KS在0.3以上模型就有區(qū)分度了。但如果訓(xùn)練集上AUC超過0.95就要警惕是不是明顯過擬合看下是不是有變量泄漏進了特征。3.5 從概率到評分卡scorecard生成與分數(shù)落點分析模型訓(xùn)練只是前半場后半場是把邏輯回歸系數(shù)轉(zhuǎn)換成分數(shù)。scorecardpy里的scorecard函數(shù)傳入擬合好的模型以及分箱映射關(guān)系就會返回評分卡格式的結(jié)果。評分卡輸出形式一般是一個字典鍵為變量名值為每個分箱對應(yīng)的分數(shù)明細表。根據(jù)scorecardpy的映射規(guī)則分數(shù)通常是從一個基礎(chǔ)分出發(fā)加上每個變量分組對應(yīng)的正負分數(shù)。最終客戶總分等于基礎(chǔ)分加各變量得分之和總分越高代表風(fēng)險越低。生成分數(shù)后默認情況下scorecardpy還會計算每個客戶的總分前提是你傳入測試數(shù)據(jù)集并調(diào)用predict方法。我個人習(xí)慣立刻跑一下分數(shù)分布看是否存在明顯的分數(shù)斷層。如果大量人群集中在分數(shù)區(qū)間邊緣可能說明模型的區(qū)分粒度不夠需要回頭調(diào)整分箱邊界或變量組合。打分完成后還要做分數(shù)校準(zhǔn)。前面提到的offset和factor在scorecardpy里對應(yīng)scorecard函數(shù)的offset_factor參數(shù)。如果你不傳函數(shù)默認按某些默認值計算也就是基準(zhǔn)分數(shù)為600基準(zhǔn)odds為50比1PDO為20。這和國內(nèi)很多實際使用的標(biāo)準(zhǔn)不太一樣所以一定要根據(jù)自己業(yè)務(wù)目標(biāo)去設(shè)置。比如某些消費金融公司把客戶違約率萬分之幾作為好客戶標(biāo)準(zhǔn)分數(shù)映射邏輯就會不同。當(dāng)時我把一個模型的基準(zhǔn)分數(shù)從600調(diào)整為650整個客群的分數(shù)分布右移審批閾值跟著變動最終通過率完全變了。這說明分數(shù)變換參數(shù)直接影響業(yè)務(wù)口徑不是可有可無的細節(jié)你必須和策略同事或跟蹤上線管理的人對齊。4. 上手實操跑通一整套評分卡建模流程4.1 環(huán)境準(zhǔn)備與基礎(chǔ)安裝先準(zhǔn)備好環(huán)境。scorecardpy對Python版本要求不算苛刻一般3.7以上都可以用。安裝方式除了從PyPI下載也可以通過代碼倉庫的版本安裝這里我直接使用最常見的安裝命令配合國內(nèi)鏡像會更快pip install scorecardpy如果下載速度慢可以用國內(nèi)鏡像源常見的清華源、阿里源都可以加速pip install scorecardpy -i https://pypi.tuna.tsinghua.edu.cn/simple在導(dǎo)入階段有些新版本會提示依賴項缺少比如sklearn或pandas版本不匹配這種情況只要把相關(guān)依賴重新升級一下就行。順便提一句安裝庫之后最好看一下版本號后續(xù)使用過程中不同版本之間可能有細微參數(shù)差異。4.2 用自帶示例數(shù)據(jù)集快速跑通scorecardpy內(nèi)部帶了一個示例數(shù)據(jù)集非常適合第一次跑通全流程。你只需要幾行代碼就能完成分箱和WOE模塊的調(diào)用import scorecardpy as sc dat sc.germancredit() y dat[creditability] X dat.drop(columnscreditability) # 變量粗篩 dt_sel sc.var_filter(dat, yy, iv_limit0.02, missing_limit0.95, identical_limit0.95, return_rm_reasonTrue) # 分箱 bins sc.woebin(dt_sel, yy) # WOE編碼 train_woe sc.woebin_ply(dt_sel, bins)上面這幾行就已經(jīng)完成了數(shù)據(jù)篩選、分箱和WOE編碼三步。打印bins里任何一個變量的分箱結(jié)果都能看到詳細的WOE和IV統(tǒng)計我建議第一次練習(xí)時逐字段觀察一下培養(yǎng)感覺。如果你把bins傳給woebin_plot函數(shù)它會把每個變量的分布圖、好壞占比、WOE趨勢畫在一張圖上直觀看到變量和風(fēng)險的關(guān)系形態(tài)。這個可視化在寫評審材料時特別有用比貼一堆數(shù)據(jù)表格強得多。4.3 從訓(xùn)練到評分卡的完整腳本我給出一個平時常用的完整建模腳本處理好數(shù)據(jù)后你可以直接參考著改寫import scorecardpy as sc from sklearn.model_selection import train_test_split # 設(shè)示例數(shù)據(jù) dat sc.germancredit() y dat[creditability] X dat.drop(columnscreditability) # 粗篩 X_sel, y_sel sc.var_filter(X, y, iv_limit0.05, missing_limit0.9, identical_limit0.9, return_rm_reasonFalse) # 分箱 bins sc.woebin(X_sel, y_sel) # WOE轉(zhuǎn)換 woe_data sc.woebin_ply(X_sel, bins) # 劃分訓(xùn)練集和測試集 train, test train_test_split(woe_data, test_size0.3, stratifyy_sel, random_state42) X_train train.drop(columnscreditability) y_train train[creditability] X_test test.drop(columnscreditability) y_test test[creditability] # 邏輯回歸與逐步篩選 m1 sc.glm(X_train, y_train) # 在測試集上評估 pred m1.predict(X_test)整體流程走下來你會發(fā)現(xiàn)scorecardpy把過去手工需要寫幾百行代碼的環(huán)節(jié)壓縮到了十幾行。但正因為足夠快你更要警惕隨手就交付風(fēng)險。每一輪產(chǎn)出之后都建議回頭人工檢查分箱是否合理、WOE編碼是否跟業(yè)務(wù)認知一致、模型系數(shù)符號是否符合預(yù)期。4.4 生成評分卡和分數(shù)解釋模型訓(xùn)練完之后生成評分卡的代碼同樣非常簡短# 生成評分卡 card sc.scorecard(binsbins, modelm1, points0600, odds050, pdo20) # 給樣本打分 score sc.scorecard_ply(woe_data, card) # 查看評分卡明細 print(card)打印card之后你會看到一個很直觀的對照表每個變量每個分箱區(qū)間都對應(yīng)該變量的加分或減分。比如年齡變量30到40歲區(qū)間可能加10分而25歲以下區(qū)間可能是減15分。最終客戶分數(shù)就是基礎(chǔ)分加各變量得分的累加。打分這個環(huán)節(jié)還有一個常見需求是把分數(shù)映射成概率違約等級比如A/B/C/D等級。最簡單的方法是直接把預(yù)測概率的輸出保留下來再按概率閾值切等級。但既然已經(jīng)生成了整數(shù)分數(shù)也可以直接用分數(shù)分位數(shù)去切等級這個開源工具不直接提供等級映射功能需要自己處理。如果要做更細致的校準(zhǔn)可以對比每個分數(shù)段客戶的實際違約率與理論違約率。理想狀態(tài)下二者應(yīng)該一致或接近。假如預(yù)測違約率整體偏低意味著概率校準(zhǔn)有問題這時需要檢查邏輯回歸是否存在明顯的偏差或者分數(shù)映射的基準(zhǔn)odds設(shè)置不合理。5. 常見問題與排查技巧這些坑我都替你踩過5.1 分箱結(jié)果異常WOE全部為0或IV過高新手最常見的問題是跑完woebin后某變量的IV直接爆表或者WOE全是0。前者通常是變量和目標(biāo)之間過于對應(yīng)的信號比如一個狀態(tài)字段里目標(biāo)為1的樣本全都在某個取值區(qū)間內(nèi)分箱后該區(qū)間壞占比為100%WOE會趨向無窮大。這種變量一旦進模型會出現(xiàn)完美分離現(xiàn)象邏輯回歸系數(shù)無法收斂。排查時可以將這類變量拿出來單獨交叉分析確認它在未來數(shù)據(jù)上是否可獲取、是否有意義。WOE全為0則往往是因為變量本身沒有區(qū)分能力每個箱子的好壞占比都和總體一致導(dǎo)致每個箱子的ln(1)等于0。如果你看到所有變量都這樣大概率是目標(biāo)變量傳錯了比如把訓(xùn)練集中目標(biāo)列全部傳成同一個值或者分箱參數(shù)設(shè)置過粗導(dǎo)致每個箱子都只有一個類別。調(diào)試的時候建議先用少量變量跑一次分箱并打印結(jié)果確認單變量邏輯沒問題后再全量跑幾十個變量這樣能大幅縮短排查時間。5.2 預(yù)測函數(shù)和變量名列不一致實際項目中最常遇到的報錯之一是predict時提示變量缺失原因是woebin_ply生成的訓(xùn)練集列名和預(yù)測時傳入數(shù)據(jù)集的列名不一致比如訓(xùn)練時你傳入了原始字段名預(yù)測時卻傳入了已經(jīng)處理過的其他字段名或者分箱對象bins來自舊數(shù)據(jù)。解決方案是維護一個統(tǒng)一的變量映射字典確保每次建模和預(yù)測過程使用同一個配置字典。另外當(dāng)數(shù)據(jù)有類別型字段時分箱和預(yù)測時的category順序也必須保持一致否則WOE映射會錯位這個非常隱蔽打印幾行預(yù)測數(shù)據(jù)對比一下就知道問題出在哪。5.3 缺失值處理和特殊值的分箱邏輯評分卡建模中缺失值不能直接在邏輯回歸里被忽略否則會影響預(yù)測穩(wěn)定性。scorecardpy的分箱會自動把缺失值單獨歸為一個箱子這樣缺失本身就擁有一個獨立的WOE值可以成為一個有實際含義的變量狀態(tài)。這種做法其實很實用因為缺失往往暗示客戶信息不完整、申請漏填或者渠道差異天生就有風(fēng)險識別能力。但如果缺失率太高比如超過了95%var_filter會直接剔除該變量。有些時候缺失率雖然高但缺失本身非常強此時你可以用業(yè)務(wù)規(guī)則重新定義一下變量比如把是否缺失轉(zhuǎn)換為一個新的標(biāo)志字段再去參加分箱這種嘗試往往有意想不到的效果。經(jīng)驗法則是缺失占比在5%到50%之間的變量保留缺失組信息超過50%再結(jié)合具體業(yè)務(wù)判斷不能一刀切低于5%可以先做填充再分箱否則缺失組樣本太少WOE也不穩(wěn)定。5.4 評分卡上線前的樣本外驗證訓(xùn)練集上的指標(biāo)再漂亮也不能代表未來評分卡上線前必須在時間外樣本或者至少隨機留出的測試集上跑一遍。我習(xí)慣使用時間外數(shù)據(jù)來做驗證因為評分卡業(yè)務(wù)對時間穩(wěn)定性特別敏感。某個人群在不同月份的違約率波動可能很大如果時間外樣本的KS和AUC掉得厲害基本可以認定為模型過擬合了歷史模式。另外一個容易被忽略的檢查是PSI也就是群體穩(wěn)定性指標(biāo)。對比訓(xùn)練樣本和未來樣本的分數(shù)分布PSI小于0.1說明兩個集合分布非常穩(wěn)定0.1到0.25說明有輕微偏移需要關(guān)注大于0.25則提示模型可能需要重新開發(fā)或者至少要做分數(shù)校準(zhǔn)。scorecardpy本身不直接提供PSI計算但你可以基于scorecard_ply生成的分數(shù)分位數(shù)去快速實現(xiàn)代碼量不大。5.5 變量共線性處理不只是看相關(guān)系數(shù)邏輯回歸雖然能容忍一定程度的相關(guān)性但高度共線會讓系數(shù)估計極不穩(wěn)定。具體表現(xiàn)是某個變量的系數(shù)符號和業(yè)務(wù)常識相反例如收入越高反而風(fēng)險分數(shù)越低。scorecardpy的逐步回歸會基于AIC篩選變量但它不會完全自動消除共線性問題。我的做法是在喂給glm之前先計算所有WOE編碼后變量的方差膨脹因子VIF把VIF大于10的變量單獨篩選出來。如果兩個變量同時進入候選集且相關(guān)性很高保留解釋性更強、邏輯業(yè)務(wù)上更好講述的那個。比如負債率和月收入可能高度相關(guān)保留負債率往往比保留月收入解釋性更順因為負債率已有標(biāo)準(zhǔn)定義在策略評審中可講的故事更完整。這里提醒一句VIF計算要在WOE編碼后做而不是原始值上做。原始值尺度和分箱化后的形態(tài)差異巨大用原始值計算VIF容易得到錯誤的絕對值。6. 擴展應(yīng)用與落地經(jīng)驗總結(jié)評分卡建模工具說到底只是解放生產(chǎn)力的工具真正決定模型質(zhì)量的還是你對業(yè)務(wù)的理解和建模流程的把握。scorecardpy最值得稱道的地方在于它將繁瑣流程標(biāo)準(zhǔn)化讓模型復(fù)用和迭代的成本大幅降低。我后來幾個不同項目之間只需要調(diào)整變量清單和分箱邊界模型框架就可以快速遷移歷史方法論也能直接沉淀到工具配置中。如果你覺得scorecardpy在某些環(huán)節(jié)不夠靈活它的模塊設(shè)計是拆開的你可以只使用它的woebin分箱和WOE編碼部分然后自己用statsmodels或者sklearn訓(xùn)練邏輯回歸最后再用自定義函數(shù)生成評分卡。這種方式保留了自動分箱的效率同時把模型訓(xùn)練的細節(jié)掌控在自己手里。引用一句業(yè)內(nèi)的老話評分卡建模中最難的不是數(shù)學(xué)而是把業(yè)務(wù)邏輯轉(zhuǎn)化成可解釋的分數(shù)和規(guī)則。多看看分箱圖、多和策略同事討論變量邏輯、多復(fù)盤線上表現(xiàn)與預(yù)期差異比調(diào)包參數(shù)本身更重要。我個人的習(xí)慣是每次建模完之后都會把最后生成的評分卡表格打印出來貼在工位旁邊過幾天再回頭瞄一眼。很多時候你盯著屏幕寫代碼時會忽略某個變量分數(shù)的業(yè)務(wù)合理性但人肉看一遍紙質(zhì)版反而容易發(fā)現(xiàn)邏輯漏洞。這個方法聽起來很笨但確實幫我避免過至少一次嚴重的事故。scorecardpy的生態(tài)還在持續(xù)迭代社區(qū)里關(guān)于它的討論也越來越多。如果你用它跑過真實業(yè)務(wù)數(shù)據(jù)有自己獨特的分箱調(diào)整心得非常值得沉淀下來分享。工具是標(biāo)準(zhǔn)化的但每個人的業(yè)務(wù)理解不同這些差異化經(jīng)驗才是模型效果的真正分水嶺。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
五月天sesese| 九九激情视频| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 激情人妻综合| 人妻久久久久久久久久| 丁香五月天天哦| 玖玖九九9999在线观看视频精品| 九九热精品| 色99热| 色播综合| 国产综合婷婷| 免费超碰在线| 久久99久久99精品,久国产,久久精品免费,99久在线,久久久久国产精品免费网站,9 | 色婷婷玖玖影院| 色情五月综合婷婷| 国产色网站| 99热久久最新地址| 五月丁香六月婷婷亚洲天堂网站| 丁香婷婷色九月| .精品久久久麻豆国产精品| 天天舔天天爽| 激情综合五月婷婷六月丁香| 婷婷丁香色情| 五月丁香无码| 天天干天天射色综合| 黄网免费看| 久久精品熟女亚洲AV麻豆| 五月激情站| 天天日天天干天天天| 婷婷激情小说网| 婷婷激情五月天激情小说 | 久久在线视频免费观看| 极品少妇XXXX精品少妇偷拍| 裸体做A爰片毛片A片免费| 色99日韩| 欧美日韩一区二区三区四区| www.天天干| 超级碰碰碰97免费| 成人视频一区| 另类激情综合| 99在线精品免费视频| 97碰碰视频在线观看| 五月婷婷真爱激情网| 九九这里精品| 天天色综网| http://www.lingjunshare.com/| 色丁香综合影院| 99re久久| 五月丁香拍拍激情综合| 亚洲人妻一区二区 | 9l视频自拍9l九色9l成人| 91操女| 果冻传媒A片一二三区| 国产成人精品一区二三区熟女在线| 九九激情网| 中文字幕精品在线观看| 激情婷婷五月| 九八Av| 欧美 日韩 人妻 高清 中文| 69凹凸成人综合网| 色婷在线视频| 婷婷丁香人妻天久久| 激情五月综合| 色五月激情基地| 日本va视频| www.婷婷,com| 五月丁香色婷婷色| 亚洲精品一区无码A片| 日本欧美成人片AAAA| 在线理论片| 欧美人与性动交CCOO| 日韩AV免费电影在线播放| 狠狠色婷婷7777久| www91色网站| 日韩成人综合| 国产婷婷色五月| 婷婷久久午夜网| 狠狠色五月激情| 翔田千里aV中文字幕| 婷婷综合成人五月天| 婷婷丁香激情五月天色色| 天天综合社区| 婷婷丁香人妻天天爽| 五月丁香久久| 99五月婷| 99亚洲欧洲| 欧美VA在线观看| 丁香婷婷激情| 爱超碰性| www.色婷婷| 伊人日日干| 午夜丁香婷婷| 99热免费| 伊人久久婷婷| 亚洲天堂aaaa| 韩国中文字幕91| 4438国产免费看| 激情五月婷婷| 久久久性爱视频| 自拍偷窥99热| 香蕉五月婷婷| 深爱五月中文字幕| 色婷婷狠狠| 婷婷91视频| 99热高清在线| 丁香六月婷婷综合在线| 人妻丰满精品一区二区A片| 色色婷婷综合| 韩国情人在线电视剧免费观看高清版全集 | 激情五月少妇| 色狠狠色噜噜AV天堂五区| 97人人操人| 入口五月婷婷六月香| 日日日天天干| 国产日产亚洲系列最新| 九九热色视频| 久久五月视频| 十区AV| 天天噜天天爱| 五月综合激情网| 综合激情九月婷婷,激情综合婷婷中文字| 婷婷五月色情天| 99热中国| 欧美日韩成人h| www色色com| 九九成人视频| 大香蕉久久婷婷精品综合| 中国AV性爱观看| 婷婷久月| 丁香婷婷啪啪| 99视频在线| 人人搡人人| 欧洲激情五月天| 亚洲成人AV在线观看| 99只有精品9| 秋霞三级色戒| 五月综合久久| 九九热免费观看视频| 五月天婷婷伊人| 久草五月丁香婷婷综合| 久久人妻伦理| 玖玖五月丁香| 激情四射网| 婷婷丁香五月天熟女丝袜| 五月婷婷啪啪网| 久久久人妻| 五月天丁香六月综合| 激情综合网五月| 九 九九九AV| 激情激情激情网| 五月婷婷综合激情| www.五月天婷婷姐姐| 337p大胆噜噜噜噜噜91Av| 日本欧美国产| 五月天伊人网| 天天搞夜夜叫| 国产AV一区二区三区日韩| 开心 五月 综合| 五月婷婷性爱| 色婷婷精品小视频| 久久九九99视频| 亚洲精品小视频| 少妇人妻人伦A片| 欧美综合激情五月丁香| 97婷婷五月| 26uuu另类亚洲欧美日本一| 丁香久久在线| 婷婷五月天亚洲综合| 91久久五月天| 九九人人操| 色爱99| 99热| 丁香成人五月天| 色色色色色色色色色色色色色五月天 | 丁香六月激情综合| 日韩色情亚洲五月天婷婷| 射婷婷中文字幕| 色五月婷激情| 久99久精品视频| 超碰a女人的天堂| 嫩草视频观看| 国产做爰视频免费播放| 可以看的AV| 婷婷五月天亚洲综合| 日韩成人中文字幕| 亚洲色情网站| 五月天激情国产综合婷婷婷就去爱| 久综合网| 99无码| 色色激情| 狠狠色婷婷色| 天天做天天爱| 五月丁香六月婷婷综合| 成人视频九九| 久久玖玖综合| 婷婷婷狠狠| 五月六月婷| 大香蕉五月天| 九九色天堂| 亚洲综合99| 久久精品99| 丁香婷婷久久综合在线| 淫视馆aV二区一区| 国产激情在线观看| 播丁香五月婷婷欧美| 亚洲无码yw| 色色亚洲无码| 五月婷亚洲精品AV天堂| 大香蕉人人网| 五月丁小婷婷激情四射| 性爱久久| 香蕉综合在线| 婷婷深爱五月天| 99久久丝| 色色五月天丁香| 国产乱子轮XXX农村| 激情床戏| 亚洲精品永久久久久久| 亚洲激情精品| 色大综合| 97激情五月天| 亚洲婷婷五月天综合| 五月激情久久| 五月婷婷久久爱| av人人干| 婷婷在线免费| 婷婷伊人久久| 丁香久色| 色色综合成人网| 日韩美一级毛卡片| 日本三级99人妇网站| 亚洲超碰在线| 欧美成人A片AAA片在线播放 | 五月丁香婷婷六月| 亚洲天码视频www蛋播视频| 五月丁香婷婷综合在线| 久久久久久久丁香五月天婷婷| 91大神在线免费看视频全集男男一起操| 五月丁香亭亭| 91丨九色丨东北熟女| 亚韩在线视频| 九月婷婷久久久| 久久久久久人妻| 五月丁香激情在线| 亚洲bt丁香五月天婷婷激情小说| 五月天婷婷黄色| 色VA| www.91.com处女在线直播| 91碰碰视频| CAOBIBI| 亚洲一区二区色图-亚洲精品国产精品乱码-成人AV | 国产成人精品一区二三区熟女在线| 天天肏视频| 99热丁香| 天天色综网| 五月天婷婷色| 91玖玖| 五月丁香婷婷婷激情爱爱| 婷婷久久丁香| 国产成人网站在线观看| 色五月播五月| 99网| 欧美日韩国产成人在线| 久艹大香蕉| wWW九九在线播放| 超碰在线播放免费观看| 97碰久久| 天天插综合在线| 99热这里只有精品在线免费| 大陆肏屄视频| 丁香六月色婷婷| 色色99| 九九在线精品| 久热A片| 日本欧美啪啪| 日韩啪啪视频| 五月色婷婷AV| 99热这里| 国产精品A成V人在线播放| 91妻人人爽人人看片| 婷久久高清| 久久婷婷激情久久| 国产色色在线| 性生活视频98791| 色五月五月婷婷| 97干欧美| 久综合4| 丁香五月天堂网AV| 人人玩人人橾| 思思热99热| 26uuu激情五月天| 狠狠操在线视频| 天天操天天操天天操天天操天天操天天操天天操天天操天天操 | 国产精品成人AV在线| 91狠狠色丁香婷婷综合久久| 天天操夜夜肏| wwwss在线观看| 色综合婷婷| 综合色图婷婷| 婷婷丁香五月综合| 六月婷婷久久大全| 色色色99| 国产激情在线| 婷婷中文字幕版| 激情五月天在线视频| 亚洲综合九九| 久久精彩视频99| 久久婷五月天| 免费视频99| 九九热99热| 一级AV片| 国产精品久久99| 亚州精品久久久久AV无码| 九九自拍网| 怡红院AV亚洲一区二区三区H| 色综合久久无码| 婷婷色在线| 婷婷五月天欧美图片在线播放电驴| 国产成人在线精品| 久re在线| 蜜乳中文字| 人人干人人看| 久久综合婷婷激情| 天天综合亚洲综合网天天αⅴ| 天天撸天天干天天插| 天天操综合网| 99久热在线精品| 思思热在线视频99| 欧美色婷婷| 超碰9在| 六月丁香五月激情网| 乱码操操| 玖玖爱综合网| 色婷婷9| 182.t午在线观看| 欧美天天爽| 五月天婷婷伊人| 一本婷婷丁香久久 | 国产视频色色色色色色色| 色色色婷| 国产综合婷婷| 99热全是精品| 99热在线只有精品| 第1影院之五月婷婷| AV 3P| 欧美成人精品A片免费一区99| 小泽玛利亚视频一区二区| 久久久久99精品成人片| 国产精品久久久久久喷浆| 九九色精品| 日本久久婷婷| 67194成I人在线观看线路1| 女高怪谈在线观看| 亚洲婷婷激情综合激情999精品| 99久久精品视频女神1| 这里只有精品视频| renre人人操国产超碰在线 | www.色综合| 久久久久99精品成人网站| 开心五月深爱五月丁香五月激情五月 | 丁香婷婷婷| 激情综合网亚洲色图| 性色做爰片在线观看WW| 婷婷五月婷婷五月天| 成人综合网站| 淫水导航| 婷婷六月色情| 亚洲成人综合在线| 夜夜操夜夜爽| 五月天婷婷偷拍| 久久久久久丁香五月| 操人妻AV| 色狠狠色噜噜AV天堂五区消防| 丝雨一区二区| 人妻激情综合| 丁香五月AV在线| 激情av| 久久婷婷丁香五月一二三| 五月婷婷无码| 婷婷五月天干干| 31色区视频免费看| 婷婷涩五月| 97色婷婷| 潘金莲AAAAAAAAAA| 欧美色宗和激情| 婷婷五月丁香六月| 在线看的免费网站| 99精品网| 色色综合成人网| 精品久久久久成人码免费动漫| 久久在线人妻| 91精品久久久久久久久| 色综合五月| 天天综合天天玩夜夜玩天天玩夜夜玩 | 深爱激情综合| 巴基斯坦粉嫩无码视频| 欧美综合五月丁香六月婷| 色婷婷狠狠| Va另类视频| 色开心五月丁香| 五月天丁香网| 青青草原福利在线| 五月天婷婷色在线视频免费观看| 色综合久久无码| 久色中文| 狠狠色婷婷| 碰97 久| 丁香五月六月| 99热99免费| 9一精品视频观看| 婷婷五月激情丁香| 五月亭亭直播| 婷婷五月丁香高清无码| 六月丁香停| 久久思思热| 色婷婷五月天不卡| 婷婷五月天受日本法律保护| 激情久久婷婷| 国产午夜精品AV一区二区麻豆| 久久亚洲天堂| 久热精品视频| 天天做天天干天天综合网| 九九精品热播| 665566 无码| 精品人妻一区二区| 久久精品五月天| 激情图片婷婷| 永久的网站AAAA | wWwCom夜操wwW| 人妻免费网站| 亚洲精品一区中文字幕乱码| 天天爽人人综合免费7799| 婷婷丁香五月天在线| 激情综合婷婷| 五月天久久www| 欧美日韩成人综合9| 婷婷色五月天在线观看| 日韩淑女人妻luan伦激情精品一区二| 伊人狠狠干| 中文字幕+乱码+中文字幕在线观看| 99这里只有精品| 九九99热| 操逼巨乳91| 丁香六月婷婷综合在线| 99热这里只有精品23| 久久这里这里有精品免费视频| 色在线99| 久久色五月天| 丁香五月激情综合婷综| 韩日AV片| 2021日韩无码| 日本三级片片| 久久影视婷婷五月| 六月激情丁香一道本7777| 丁香婷婷九月在线| 婷婷丁香五月天激情四射| 图片区 小说区 区 亚洲五月| 五月丁香久久| 五月天综合婷婷| 99A级片| 日本狠狠色| 夜夜干夜夜操| 丁香五月婷婷五月天| 激情五月,婷婷五月,丁香五月| 日本va欧美va欧美| 婷婷激情丁香六月| 国产欧美va| 婷婷噜噜| EEUSS鲁片一区二区三区| 桃色激情网| 拳交大逼| 日韩高清成人| 精品久久艹| 亚洲免费婷婷| 国产成人精品亚洲线观看| 六月激情网| 亚洲激情AV| 欧洲色色| 一区二区无码视频| 九九大香蕉黄色影院| 六月婷婷七月丁香| 人妻久久久久久久久妻久久久久久久久| 人妻操逼视频。| 九九热99re8热免费观看| 婷婷色五月激情| 久久九九99字幕| 色情激情五月| 精品久久人妻| 丁香婷婷色五月激情综合| 激情五月天婷婷| 亚洲中文字幕在线观看| 五月天丁香花婷婷| 九九色图| 五月天激情综合10p| 综合激情五月天六月婷免费视频| 久久婷婷五月综合伊人| 开心五月深爱五月| HD久久精品视频| 久天综合| 5月婷婷激情6月| 色狠狠色噜噜AV天堂五区消防| 婷婷五月综合啪| 九九视频这里只有精品| 999热这里只有美国精品| 婷婷五月天AV在| 5月激情天| 丁香婷婷五月天色播| 六月婷婷在线| 婷婷99| 九色1区视频在线| 久久婷婷色情7777网站| 操操操操操电影网| 色婷婷99| www.综合久久| 丁香五月aV| 五月天成人免费视频| 色婷婷视频| 久久婷婷六月综合综合| 综合久久丁香婷婷,五月婷婷六月丁香,开心激情综合网,六月丁香在线观看,婷婷丁 | www.henhenl| BBWCUCKOLD精品熟妇 | 精热在线综合网| 深爱五月婷| 色人久久| 日韩操逼大片| 99精品大片| 超碰91在线| 亚洲有码在线视频| 永久地址 色| 第五色婷婷| 日韩黄色电影| 五月婷婷久| 日本综合久久| 亚洲精品视频在线播放| 停婷丁五月在线| 99热国品| 久久人妻爱爱| 欧美日韩成人在线| 色情久久久| 久久精品亚洲一级牲爱综合| 被强行糟蹋的女人A片| 外国碰视频网站97| 狼人婷婷综合| 成人资源在线| 日本色色色| 五月婷婷丁香91| 99热99ai| 九九热99热| 99碰视频| 99精品无码| www.1024久久| 天天天综合网| 9精品一区| 激情五月天小说视频| 99在线精品视频| 天天骑日日爽| 97色色婷婷| 色婷婷小说| 超碰色色综合| 玖玖99免费视频| 亚洲顶级VA在线观看-高清完整版在线影院观看-S022AV | 爱久久小说下载网| 九九久久99| 五月婷婷激情网| 五月丁香六月婷婷综合在线| 美女五月天| 亚洲欧美婷婷五月色综合| 狠狠色大香蕉| 丁香六月久久| 人妻内射视频| 五月天综合缴情网网站0| 亚洲色99| 国产色色网址网站| 日韩AV无码影片| 色婷五月丁香久亚洲| 欧美成人AAA片一区国产精品| 这里只有精品,日韩视频| 婷婷五月天成人网| 久久精品小视频| www,999日本色| 99久久综合精品五月天| 亚洲综合碰| 激情五月天综合| 91色在线 | 日韩| 91超级碰在线| 天天日天天干天天爱| 国产美女无遮挡裸体毛片A片| 丁香五月婷婷动漫视频| 日日操夜夜操不卡| 蜜臀99精品| 九九久久五月天| 免费观看的av| 亚洲丁香五月在线观看| 99亚洲视频| 五月丁香啪啪啪综合网| 六月激情婷婷综合| 久久五月情| 婷婷97碰碰| 色热久资源| www五月婷婷88导航| 婷婷五月天综合久久| 综合激情在线视频| 少妇AB又爽又紧无码网站| 麻豆五月丁香婷婷| 婷婷五月综合体验看| 婷婷六月婷婷| 婷婷六月丁香五月| 思思久久96热在精品国产,| 丁香六月成人| 武则天精品久久| 五月情四婷婷| 超碰资源在线| 欧洲电影在线观看免费版英语版| 99免费热视频在线| 久热这里只有精品在线观看 | 色五月色图| 99热亚洲| 久久色亭亭五月天| 婷婷丁香五另类网站| 午夜日韩久久久网站| www.五月天| 九九热在线视频观看| 九九亚洲视频| 丁香五月www| 中文字幕在线日亚州9| 99精品免费欧美小视频 | 第九色区av天堂| 第四色五月天| 亚洲热综合网在线观看| 在线播放中文字幕| 婷婷综合偷拍| 精品久久久中文字幕大豆网推荐理由| 丁香九月婷| 天天视频亚洲| 干亚洲天堂| 婷婷狠狠97| 久热一区| 亚洲午夜av| 亚洲婷婷久久综合| va婷婷| 色五月婷婷天天干| 99在线69| 亚洲色人妻| 色婷婷av综合网| 大香蕉啪啪啪| 日韩成人精品中文字幕| 国产午夜精品一区二区| 婷婷成人五月天成人文学小说| 26uuu视频欧美| AV色婷婷| 人人搡人人| 九月丁香婷婷网| 97高清国语自产拍| 日本乱子人伦在线视频| 色婷婷久久| 亚洲视频二区| 99九九玖玖| 中文AV网站| 99热这里只有精品最新网址| 99热这里只有精品1998| www.五月婷婷久久.com| AV 3P| 五月丁香六月日逼| 六月色日韩| 亚洲小视频免费播放| 婷婷中文无码| 任我肏| 久热一本| 日韩无码专区| 激情五月综合色| 99操碰| 97色片| 成人婷99最新| 五月天综合网| 视频综合网| 天天操夜夜夜夜爽| 色婷婷五月天天天天天天天天天| 丁香婷婷人妻综合网| 亚洲婷婷丁香五月天激情小说| 欧洲激情网站| 久久五月丁香六月婷| 五月社区丁香| 激情久久综合网| 天天日夜夜爽。| 思思久久99热只有频精品66| 天天日日综合| 五月天伊人久久久久| 婷婷婷久久久| 天天色视频| 思思热在线| 99婷婷狠狠成为人免费视频| 婷婷丁香五月基地| 久久Xx| av大香蕉| 米奇影视资源婷婷狠狠色激情欧美五月丁香 | 丁香婷婷射| 亚洲 六月 综合| 免费不卡狠操美女视频网| 99无码精品| 97人人射| 色狠狠色噜噜AV天堂五区| 5Www色5夜| 精品亚洲国产成AV人片传媒| 天天做天天爱高潮片| 丁香婷五月天| 丁香六月婷婷| 9久久精品| 91夫妻网站九色| 五月婷婷黄| 97色婷婷| 99视频只有这里精品| 婷婷网五月天| 大香蕉综合网| 97成人超碰免| 天天舔夜夜操www com| 日日操天天| 中文字幕婷婷| 婷婷五月激情欧美大胆视频| 超碰资源在线| 天天色色婷婷| 色色丁香婷婷| 中文不卡av| 99欧州偷拍视频| 五月综合激情综合久| 激情五月婷婷五月| 久久性爱视频| 91日日日| 开心日韩丁香婷婷五月| 五月丁香啪啪综合| 人与禽A片啪啪| 久9视频免费播放| 日本五月丁香| www.91操| 综合久久综合五月天婷婷| 久久超级碰碰| 天天天天天天噜| 五月天色综合| 99色| 99re最新地址| 激情六月婷婷| 91偷拍视频| 色播五月丁香| 日本猛少妇色XXXXX猛叫| 三级毛片7979| 天天爽天天摸| 欧洲电影在线观看免费版英语版| 9l视频自拍九色9l视频自拍九色9l社区 | 人人色婷婷| 香蕉AV777XXX色综合一区| 9|无码久久久久久| 综合在线色婷婷| 97 天堂| 俺也去婷婷五月天第五色| 久久人妻视频| 久色大香蕉| 五月丁香欧美综合免费视频| 亚洲精品亚洲人成人网| 久久婷婷综合网| 欧美性爱五月天| 亚洲啪| 中文字幕 久久9999| 天天日天天操心| 9l视频自拍九色9l视频自拍九色9l社区| 丁香五月激情五月开心五月| 婷婷五月性感| 97婷婷丁香五月| WWW.国产| 亚色网站小视频| 丁香婷婷激情| 天天插天天插天天日| 国产成人综合在线| 激情爱爱网站| 超碰日日操| 99ri在线播放| 99热99极品观看| 丁香五月天婷婷91| 99久在线精品99re8| 大大香蕉综合在线| 色色 亚洲| 中文字幕av网站| 国模淫穴色图| 九热网站| 99在线精品免费视频| 久久久久视剧HD| 无码色色| 久久加勒比| 国产精品色婷婷久久久精品| 14色综合婷婷| 91超级碰| 激情五月丁香婷婷夜夜操| 99热这里只有精品首页| 天天 青草 制服丝袜 在线| 开心五月激情网| 翔田千里aV中文字幕| 精品一二三区久久AAA片| 五月丁香综合伦理片| 久草丁香婷婷1024| 天天草比天天爽| www.无码com| 狠狠爱激情网| 国产日批视频免费播放| 国产亚洲精品久久久久久郑州| 亚洲五月婷婷在线| 有码一区二区三区| 久久精品人妻| 99热伊人| 超碰在线caop| 26uuu精品一区二区| 五月天婷婷綜合院| 99热在线观看免费精品| 五月婷婷色播网| 67194线路二在线观看| 色五月婷婷小说亚洲中文字幕组| www.henhenl| 99久久网站| 99热精国产这里只有精品| 欧美色色日韩| 五月丁香综合啪啪| 麻豆123区| www,色综合| www.婷婷五月天| 天天爱天天做天天爽| 九色地址91视频| 狠狠干无码| 激情五月婷婷综合网| www,超碰| 99re在线播放| 人人爽天天爽| 五月婷婷六月丁| 色综合播放| 激情欧美五月丁香| 四色AVwww| 亚洲综合久| 91色性感五月婷婷丁香| 99色中文| 人人舔天天| 狠狠爱婷婷爱| 综合色在线| 久久 婷婷 五月天| 五月婷婷无码专区| 色婷婷操逼| 婷婷六月成人| 开心激情站| www.日日夜夜.com| 日韩黄黄| 日韩色五月| www超碰com| 91一起操| 婷婷情色五月天| 我爱婷婷五月天综合88| 97av在线视频| 婷婷五月激情五月丁香五月| 少妇性BBB搡BBB爽爽爽视頻| 丁香九九九九| www夜夜操comwww| 丁香五月天色| 97久久人人操| 亚洲成人av在线播放| 亚洲深喉AV| 天天插天天爽| 激情第四色| 婷婷五月天狠狠搞干| 色久婷婷网| 激情五月天婷婷直播| 婷婷欧美激情| 超碰一区二区| 成人免费黄色短视频| 97干在线| 色色99| 玖玖色综合网| 99爱视频在线观看| 婷婷色丁香六月| 色五月婷婷视频| 99热这里在线精品| 91超级碰| 色综合色五月| 激情综合网址| 91人操人人人操人| 色色综合激情| 婷婷五月激情综合啪啪| 最新国产AV| www.丁香六月婷婷久久天堂影院.con| www.狠狠| 欧美日韩91| 五月婷婷深深爱| 深爱激情丁香| 超碰久热| 六月激情婷婷| 涩五月婷婷| 99热6这里只有精品| 色色综合网站| 欧美人妻一区二区| 成人丁香五月| 99精品热| 97干在线| 婷婷五月天激情网| 日韩免费视频| 大战熟女丰满人妻AV| 少妇性按摩无码中文A片| 欧美大肥婆大肥BBBBB| 伊人无码高清| 99年操人人爽| 五月天sesese| 超碰成人在线免费观看| 婷婷五月丁香综合桃花色网| 青青艹b| 97欧美在线| 97碰久久| 五月网激情| 中文字幕丁香五月| 婷婷五月天天aV| 99热这里只| 亚洲成人高清在线| 五月丁香久久| 欧美性生交A片免费看| 亚洲午夜成人av电影网| 日本三级99人妇网站| 色很久综合| 久久综合五月天| 激情q青青草在线婷婷| www天天干| 激情五月天在线视频| 天堂久久婷婷| 色五月综合| 婷婷五月色综合香五月| 99色免费| 色婷婷综合视频| 色五月开心五月激情五月| 久久婷婷五月天激情唯美| 婷婷五月天电影网| 伊人91| 人人人操 超碰| www.激情五月天.con| 日韩婷婷| 亚洲色vA| 国产成人综合在线| 欧美大片免费播放器| 五月深情久久| 思思99热这里只有精品| 亚洲婷婷五月天激情综合| 色色99| 成人做爰高潮A片免费视频| 激情五月最新网址| 99爱爱| 天天日天天日天天搞| 六月色播| 日韩成人中文| 综合激情在线| 五月天色导航| 2020日日干| 国产又粗又大又爽又黄| 99热在线看| 开心丁五月| 色情成人五月天| 五月丁香六月综合激情| HD久久精品视频| 激情五月第四色| 五月婷婷在线免费观看| 色婷婷成人做爰A片免费看网站| 日韩成人综合| 婷婷五月欧美综合| 丁香六月婷婷色播| 黄色国久久| 二色av| 第五色婷婷| 熟妇人妻中文字幕无码老熟妇| 亚洲综合一区二区| 严洲天天插| 色综合五月天| 激情四射婷婷色色色| 五月天夜夜爱夜夜操| 激情色色色| 香蕉乱插| 这里只有精彩亚洲视频推荐| 99精品在线| 国产精品日日躁夜夜躁| 99色最新在线视频网站| 欧美成人精品A片免费一区99| 欧洲亚洲午夜| 丁香五月激情啪啪| 无遮羞AV| 国产xxxxx在线观看| 久色| 亚洲视频码| 亚洲综合在线丁香五月| site:pnnrt.com| 五月婷婷中文字幕| 综合网亚洲| 在线播放 精品| 五月色欧洲| 激情丁香婷婷| 91超碰人人操| 亚洲婷婷久久综合| 亚洲成片在线观看| 色情五月停停丁香| 超碰免费人人肏| 亚洲天堂AAA| 另类少妇人与禽zOZZ0性伦| 五月天婷婷基地| 超碰成人在线观看| 99久超碰| 成人av在线网址| 天天综合91入口| 色婷婷视频在线| 另类国产欧美视频| 五月天停停基地| 久久激情中文| 秋霞影音91人妻久久| 亚洲日韩成人三级av| 久久五月丁香六月婷| 思思久久99热只有频精品66| 九九视频这里是精品五月| 九月婷婷久久| 99热思思在线观看| 天天爽天天操| 色日本丁香婷婷| 国外亚洲成AV人片在线观看| 婷色成人| 激情都市另类| 天天日天天做天天操| 夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂亚洲亚洲亚洲亚洲亚洲亚洲亚洲亚洲色 | 99精品无码| 色婷婷丁香五月观看| 日日鲁鲁鲁夜夜爽爽狠狠视频97 | 啪到高潮激情丁香五月| 亚洲在线成人| 偷拍91九色| 五月丁香啪啪激情| 婷婷深爱五月| 99re这里只有精品免费| av高清无码| 国产日韩亚洲欧美在线观看| 91九九精品| 色五月超碰| 久久婷婷热| 99热精品在线观看| 五月丁香欧美| 99热精品超碰| AV在线观看网站| 性爱先锋AV| 欧美色图片88| 五月婷婷激情久久| 色狠狠综合网| 一起草AV| 色婷婷裸体色性在线| 99九精品| 五月天色社区| 婷婷丁香基地在线| 一本九九色| 日韩成人AV在线| 99极品视频| 婷婷久久婷婷色五月| 久久婷婷五月综合色奶水99啪| 色色99| 九九XX视频| 97九色视频| 五月情四婷婷| 色婷婷综合在线| 色99在线| 丁香六月天婷婷开心综合| 996精品热视频| 久久久五月天| 日韩AAAAA| 99这里只有精品视频免费| 激情四射亚洲| 另类图片激情五月| 中文不卡一二三区| 9精品视频在线| 99精品偷自拍| 日日夜夜天天| 五月天婷婷色播| 日本WWW九九九| 嫩草AV久久伊人妇女超级A| 婷婷五月天美女21p| 天天看片日日夜夜| 九月久久婷婷| 国产露脸150部国语对白| 国产avapp 网| 99性感视频| 色五月首页| 激情综合另类| www.婷婷六月天| 欧美视频五区| 九九热视频免费| 激情综合网五月在线播放| wwww.色婷婷| 五月天开心网| 97久久精品| 欧美综合激情五月天| 久色网| 人操人| 国产精品第一国产精品| 99ri视频| 天天干天天干天天干天天干天天干| 天天爱天天做天天舔| 99精品在线观看视频| 五月婷婷性爱网| WWW.国产| 九九久久精品| 超碰国产AV| 丁香5月婷婷| 色五月久久成人婷婷| 婷婷五月激情图片| 91丨人妻丨国产丨丝袜| 久草婷婷在线| 亚洲国产精品VA在线看黑人| 國語久久婷| 色播五月天激情| www夜夜操wwwcon| 99热久久这里只有精品| 色999亚洲人成色| 三级毛片7979| 激情丁香五月AV| wuyuedingxiang| 欧美私人家庭影院| 激情四射五月天| 99热日本| www.99热视频| 久久婷婷五月综合激情国产 | 色亚洲中文| 欧美五月丁香在线| 777色色色| 久久丁香婷婷五月| 91九九九九九九| 国产性爱在线| 乱精品一区字幕二区| 99精品无码| 婷婷五月天伊人| 这里只有精品在线观看视频| 色~性~乱~伦~噜| 99热这里都是精品| 99热久草| 99在线免费视频| 啪啪 综合网| 六月婷婷久久| 无码区婷婷五月花开| 97色热| 亚洲综合久| 婷婷五月激情图片| 依人大香蕉| 色情成人五月天| 亚洲精品亚洲人成人网| 可以免费观看的AV| 婷婷91| 专区无日本视频高清8| 五月天激情综合网| 中文字幕日本最新乱码视频 | 91九色熟女| 啪啪啪综合网| 丁香六月狠狠| 色欲日日躁| 久久人妻在线| 丁香五月婷婷在线观看| 9l视频自拍九色9l视频在线观看| 97人人操| 色色a| 丰满少妇乱A片无码| 色www99| 五月花激情网| 亚洲美女高潮久久久久久69| 超碰av在线| 一根材五月婷成人| 夜夜爽天天日| 99视频只有精品| 亚洲中文字幕网| 综合婷婷| 亚洲传媒在线观看| www.99日本| 开心 五月 综合| 久8色色| 99热综合色图| 丁香六月婷| 天天肏天天舔AV| 五月婷久久久| 六月婷婷俺也去| 青草激情在线| 手机旧版看人妻1025| 99视频内射三四| 日本婷婷色| 天天久久狠狠色综合| 天天色,天天操,天天射| 婷婷六月五月| www.99在线| 大色鬼综合| 色五婷婷| 九九一综合精品| 婷婷亚洲五月| 97五月天| 五月激情综合性爱| 五月婷婷激情四季| 日本成人噜噜噜| 开心五月激情网| 97偷拍在线视频| 婷婷五月丁香基地在线视频官网| 婷婷激情五月综合丁| 在线中文av| 综合色、色综合| 久久婷婷啪啪视频| www一区二区三区| 婷婷激情小说| 日韩av高清| 99噜噜噜在线播放| 99热这里只有精品中文字幕| 婷婷五月天社区| 91青娱乐青青草| 亚洲麻豆乱码国产2028| 玖玖婷婷五月天| 色吊操色妞| 99热久只有| 99在线观看精品| 五月天婷婷Av| 综合丁香婷婷五月天| 激情五月天开心| 综合狠久久| 伊人五月天男人的天堂在线| 五月丁香六月婷婷激情视频在线观看免费 | 爱iii做iiii日| 亚洲视频a| 五月天激情国产综合婷婷婷| 九九9久九9国产视频| 区区久久妻| 日韩在线观看亚洲| 婷婷情色五月| 五月婷婷天天色| 五月大香蕉| 五月天狠狠色| 无码 色| 4399无码视频| 99惹在线精品免费观看| 欧美性爱中文字幕| 六月婷婷操逼| 久99久热只有精品国产99| 俺去也五月| 日本久热| 九九热re99re6在线精品| 影音先锋男人站,影音先锋男人色资源网,影音先锋AV最新资源站,影音先锋AV资源 | 天天爱天天狠天天透| 欧美色必爱| 欧美噜一噜| 精品国产AV色一区二区深夜久久| a在线观看| 超碰在线精品| 麻豆雪千夏| 九九精品免费| 五月婷婷丁香五月| 人人操人人爱丁香五月| 内射在线CHINESE| 99热 免费| 六月丁香网| 中文网AV| 六月丁香五月天| 五月婷婷久久综合| 97资源碰碰| 影音先锋一区| 久久人人超| 九色91美女| 丁香六月色婷婷| 日本色图综合| 婷婷精品在线| 久草A片| 少妇高潮一区二区三区99欧美| 久热 91| 天天综合在线网| 婷五月丁香俺| 久久九九99| 婷婷成人五月天一区|