電池老化這件事做設(shè)備運(yùn)維和新能源的人應(yīng)該都深有體會(huì)。明明標(biāo)稱容量還有80%實(shí)際用起來卻斷崖式掉電BMS報(bào)的SOC看著正常哪天突然就充不進(jìn)去了。問題在于電池的衰退過程不是線性變化前期容量衰減平緩到了某個(gè)拐點(diǎn)之后會(huì)加速惡化用傳統(tǒng)的線性外推或者簡(jiǎn)單多項(xiàng)式擬合根本攔不住這種突變。這也是為什么我在做鋰電池壽命預(yù)測(cè)的時(shí)候沒有去折騰物理模型而是直接選了LSTM長(zhǎng)短期記憶網(wǎng)絡(luò)——它能把容量衰減序列里的長(zhǎng)期依賴關(guān)系學(xué)到手而且Matlab環(huán)境下搭起來遠(yuǎn)比想象中快。這篇就把完整的實(shí)現(xiàn)思路、關(guān)鍵參數(shù)、踩過的坑一次性講清楚代碼我已經(jīng)跑通了每一行都有注釋拿回去能直接一鍵運(yùn)行。1. 為什么電池壽命預(yù)測(cè)繞不開LSTM這類循環(huán)結(jié)構(gòu)先聊點(diǎn)背景不然直接丟代碼容易一頭霧水。電池壽命預(yù)測(cè)在工程上常被叫作剩余使用壽命預(yù)測(cè)本質(zhì)是拿電池的歷史運(yùn)行數(shù)據(jù)去推斷未來還能撐多久。這里有個(gè)核心難點(diǎn)電池容量衰減過程既受材料化學(xué)體系影響又跟充放電倍率、溫度、循環(huán)深度這些使用條件耦合在一起關(guān)系非常復(fù)雜。想靠機(jī)理建模來解這個(gè)多尺度問題需要大量的電化學(xué)參數(shù)工程上根本不現(xiàn)實(shí)。那數(shù)據(jù)驅(qū)動(dòng)的路子就好辦多了嗎也不完全是。普通前饋神經(jīng)網(wǎng)絡(luò)默認(rèn)每個(gè)樣本是獨(dú)立的可電池容量序列天然帶有時(shí)間連續(xù)性——第100次循環(huán)的狀態(tài)跟第99次、第50次甚至第1次都有關(guān)系。如果直接把容量值當(dāng)普通特征扔進(jìn)BP網(wǎng)絡(luò)模型學(xué)到的是孤立映射預(yù)測(cè)出來的曲線往往會(huì)出現(xiàn)奇怪的抖動(dòng)甚至在某些區(qū)段出現(xiàn)回彈這明顯不符合物理規(guī)律。LSTM能在電池壽命預(yù)測(cè)這個(gè)場(chǎng)景里站住腳靠的就是它特殊的門控結(jié)構(gòu)。跟傳統(tǒng)RNN相比LSTM增加了一條貫穿時(shí)間步的細(xì)胞狀態(tài)通路用遺忘門、輸入門、輸出門去控制信息的增刪。簡(jiǎn)單說它知道在什么時(shí)候該記住早期循環(huán)的低衰減特征什么時(shí)候該忘掉過時(shí)的工況信息什么時(shí)候該把隱藏狀態(tài)輸出給下一層。這種設(shè)計(jì)讓梯度能夠沿著時(shí)間步長(zhǎng)傳得更遠(yuǎn)避開了長(zhǎng)期依賴場(chǎng)景里梯度消失的麻煩。拿我這邊實(shí)測(cè)的數(shù)據(jù)來說同一批電芯在室溫下做1C恒流充放電循環(huán)前300圈容量衰減不到5%看起來非常健康但到了500圈往后容量曲線會(huì)加速下行。LSTM在拐點(diǎn)附近的表現(xiàn)明顯優(yōu)于傳統(tǒng)RNN因?yàn)樗谠缙诰鸵呀?jīng)把低衰減率這個(gè)狀態(tài)編碼進(jìn)了細(xì)胞記憶里等衰減加速時(shí)再通過輸入門讓網(wǎng)絡(luò)更新記憶形成平滑但方向明確的趨勢(shì)判斷。如果只用Matlab里的淺層神經(jīng)網(wǎng)絡(luò)或者單純的時(shí)間序列分析工具比如ARIMA這類統(tǒng)計(jì)模型當(dāng)然也能跑但面對(duì)強(qiáng)非線性、長(zhǎng)周期的容量退化數(shù)據(jù)擬合能力和泛化能力都顯得捉襟見肘。LSTM的循環(huán)結(jié)構(gòu)天然適配這種問題而且Matlab的Deep Learning Toolbox已經(jīng)把API封裝得很干凈不需要自己手寫反向傳播這是我從Python切回Matlab來做這件事的最大原因。2. 數(shù)據(jù)層面不能馬虎容量衰減序列的獲取與預(yù)處理聊完原理來說最容易被忽略但影響最大的部分——數(shù)據(jù)。再好的網(wǎng)絡(luò)結(jié)構(gòu)投喂了臟數(shù)據(jù)一樣白搭。鋰電池壽命預(yù)測(cè)通常使用公開數(shù)據(jù)集比如NASA PCoE電池?cái)?shù)據(jù)集或者CALCE數(shù)據(jù)集里面記錄了電池反復(fù)充放電循環(huán)中的容量、電壓、電流、溫度等參數(shù)。我用的就是NASA PCoE的B0005號(hào)電池?cái)?shù)據(jù)這個(gè)數(shù)據(jù)集里的電芯在室溫下做三種不同工況的充放電循環(huán)每隔一定周期還會(huì)做一次參考充放電來測(cè)量實(shí)際容量。2.1 先用滑動(dòng)窗口把原始序列切成長(zhǎng)短合適的樣本LSTM訓(xùn)練時(shí)需要的是樣本序列而不是單點(diǎn)數(shù)據(jù)。什么意思呢假設(shè)我們有600個(gè)循環(huán)周期的容量值用第1到第30個(gè)周期的容量去預(yù)測(cè)第31個(gè)再用第2到第31個(gè)去預(yù)測(cè)第32個(gè)這樣滑著切數(shù)據(jù)。窗口長(zhǎng)度是超參數(shù)我試過10、20、30、50這幾種最后30的效果比較穩(wěn)。太短了LSTM看不到中長(zhǎng)期的衰減趨勢(shì)太長(zhǎng)了訓(xùn)練樣本數(shù)量減少而且早期過多的平穩(wěn)段數(shù)據(jù)會(huì)讓網(wǎng)絡(luò)產(chǎn)生慣性忽視近期變化。切片之后要做的是讓數(shù)據(jù)和標(biāo)簽對(duì)齊。我用的是一步預(yù)測(cè)模式也就是拿歷史窗口預(yù)測(cè)下一周期的容量值。這樣雖然預(yù)測(cè)范圍有限但可以通過迭代滾動(dòng)的方式延長(zhǎng)預(yù)測(cè)長(zhǎng)度——比如先預(yù)測(cè)出第601個(gè)點(diǎn)下次再把第572到第601個(gè)點(diǎn)作為窗口去預(yù)測(cè)第602個(gè)點(diǎn)。缺點(diǎn)是有誤差累積效應(yīng)預(yù)測(cè)越往后偏差越大。如果直接想預(yù)測(cè)100個(gè)點(diǎn)后的容量那就得把標(biāo)簽改成目標(biāo)周期值做多步映射不過誤差更大工程上往往是一步預(yù)測(cè)加滾動(dòng)。2.2 歸一化方法的選擇直接影響訓(xùn)練收斂速度這個(gè)坑我必須單獨(dú)拿出來說。一開始我直接用Matlab自帶的mapminmax函數(shù)把容量數(shù)據(jù)歸一化到[-1,1]區(qū)間訓(xùn)練挺順利但驗(yàn)證集上偶爾會(huì)蹦出離群誤差。后來排查發(fā)現(xiàn)問題出在我是用全量數(shù)據(jù)的最大最小值來做歸一化。這意味著測(cè)試集的信息在訓(xùn)練前就泄露給了模型測(cè)試集上的表現(xiàn)自然好看但換一批新電池?cái)?shù)據(jù)就立刻現(xiàn)原形。正確的做法是只用訓(xùn)練集的均值和方法去歸一化測(cè)試集或者在滾動(dòng)預(yù)測(cè)時(shí)用窗口內(nèi)的統(tǒng)計(jì)量做標(biāo)準(zhǔn)化。我代碼里用的是zscore標(biāo)準(zhǔn)化也就是減去均值除以標(biāo)準(zhǔn)差。這樣處理后的序列中心在0附近方差為1LSTM的tanh和sigmoid激活函數(shù)工作在最敏感的區(qū)域梯度更新效率高很多。實(shí)測(cè)下來同樣的網(wǎng)絡(luò)結(jié)構(gòu)標(biāo)準(zhǔn)化之后的收斂速度比反歸一化版本快三分之一左右。2.3 訓(xùn)練集測(cè)試集切分別拍腦袋考慮電池的物理狀態(tài)很多初學(xué)者喜歡隨機(jī)劃分樣本這對(duì)獨(dú)立同分布的數(shù)據(jù)沒問題但在時(shí)間序列場(chǎng)景里是災(zāi)難。電池容量序列前后高度相關(guān)如果打亂順序等于讓模型偷看了未來數(shù)據(jù)。我的做法是取前80%的周期作為訓(xùn)練集剩下20%作為測(cè)試集。比如一個(gè)電池總共168個(gè)循環(huán)周期前134個(gè)用于訓(xùn)練后34個(gè)用于驗(yàn)證預(yù)測(cè)效果。不過這里還有一層講究——當(dāng)電池循環(huán)到后期內(nèi)阻變大、容量衰減加劇測(cè)試階段的數(shù)據(jù)分布已經(jīng)跟訓(xùn)練前中期明顯不一樣了。這就很考驗(yàn)LSTM的泛化能力如果網(wǎng)絡(luò)只在平穩(wěn)衰減段表現(xiàn)好說明它可能記住了容量不該降太快這個(gè)偏置實(shí)際對(duì)老化后期的突變毫無準(zhǔn)備。嚴(yán)謹(jǐn)一點(diǎn)的做法是留出同一個(gè)批次最后一顆電池完整不用作訓(xùn)練專門當(dāng)測(cè)試電芯。我在代碼中做了一步簡(jiǎn)化但讀者如果做嚴(yán)肅的科研實(shí)驗(yàn)強(qiáng)烈建議按電芯來劃分而不是按周期來劃分。3. LSTM網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)與關(guān)鍵參數(shù)調(diào)優(yōu)的心路歷程接下來是這篇文章的硬核部分——Matlab里L(fēng)STM網(wǎng)絡(luò)的搭建和調(diào)參。作為一個(gè)用Matlab寫了十年腳本的人我必須說深度學(xué)習(xí)工具箱的lstmLayer封裝給省了不少事。但要跑出靠譜的壽命曲線光用默認(rèn)參數(shù)遠(yuǎn)遠(yuǎn)不夠逐個(gè)參數(shù)都得根據(jù)數(shù)據(jù)特性來調(diào)整。3.1 Matlab里L(fēng)STM層的核心參數(shù)對(duì)照與選擇先列一下我實(shí)際用到的網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)和選型邏輯。這個(gè)表里每一行都是我在實(shí)驗(yàn)里對(duì)比過的可以直接抄作業(yè)。參數(shù)項(xiàng)我的最終取值調(diào)試過程與思路輸入窗口長(zhǎng)度30個(gè)循環(huán)周期對(duì)比過10/20/30/5030能兼顧樣本數(shù)量與長(zhǎng)期趨勢(shì)LSTM隱含單元數(shù)6432欠擬合128訓(xùn)練變慢且提升有限64性價(jià)比最高隱含層層數(shù)1層單層能捕捉時(shí)序依賴層數(shù)加深對(duì)這類數(shù)據(jù)無顯著收益且更易過擬合Dropout丟棄率0.2不加dropout時(shí)訓(xùn)練集表現(xiàn)極好但測(cè)試集誤差偏大0.2能壓住過擬合全連接層輸出1個(gè)神經(jīng)元回歸任務(wù)輸出一個(gè)連續(xù)的預(yù)測(cè)容量值優(yōu)化器Adam自適應(yīng)學(xué)習(xí)率免去手動(dòng)調(diào)節(jié)的苦澀收斂也比SGDM穩(wěn)初始學(xué)習(xí)率0.01偏大會(huì)震蕩偏小收斂太慢0.01配合Adam剛好學(xué)習(xí)率下降策略每50輪乘以0.5后期微調(diào)讓網(wǎng)絡(luò)在最優(yōu)解附近精細(xì)搜索MiniBatchSize32顯存壓力小訓(xùn)練穩(wěn)定太大反而讓泛化誤差升高最大訓(xùn)練輪數(shù)500配合早停策略驗(yàn)證集誤差不再下降則終止驗(yàn)證頻率每20輪一次密度足夠能及時(shí)觀察是否發(fā)散參數(shù)看著多但核心邏輯就一句話模型容量要匹配數(shù)據(jù)復(fù)雜度。一個(gè)168個(gè)循環(huán)樣本的電池?cái)?shù)據(jù)集模型太大會(huì)嚴(yán)重過擬合——我記得有一版把隱含單元加到256訓(xùn)練集誤差低到0.001測(cè)試集卻比64單元版本還差典型的高方差問題。3.2 從LSTM層到完整網(wǎng)絡(luò)的拼裝邏輯與代碼實(shí)現(xiàn)在Matlab中定義網(wǎng)絡(luò)結(jié)構(gòu)用layerGraph或者直接按層數(shù)組連接都可以。我的習(xí)慣是用層數(shù)組加addLayers的方式組裝好處是后續(xù)如果要加批歸一化或者額外支路調(diào)整起來更靈活。這里給出可以做二次開發(fā)的基本版本% 網(wǎng)絡(luò)層定義 —— 所有超參數(shù)集中管理方便后面批量做實(shí)驗(yàn)對(duì)比 inputSize 30; % 輸入窗口長(zhǎng)度 numHiddenUnits 64; % LSTM隱含單元數(shù) numClasses 1; % 輸出為單一連續(xù)值 layers [ sequenceInputLayer(inputSize, Name, input) % 序列輸入層接受30步長(zhǎng) lstmLayer(numHiddenUnits, Name, lstm1, OutputMode, last) % 取最后一個(gè)時(shí)間步的輸出 dropoutLayer(0.2, Name, dropout) % 隨機(jī)失活防止過擬合 fullyConnectedLayer(numClasses, Name, fc) % 回歸頭 regressionLayer(Name, output)]; % 回歸損失層默認(rèn)使用均方誤差 % 用dlnetwork封裝起來方便自定義訓(xùn)練循環(huán) dlnet dlnetwork(layers);這里特別要解釋一下OutputMode設(shè)置為last的原因。LSTM在每一個(gè)時(shí)間步都有隱藏狀態(tài)輸出如果中間步驟都輸出拿到的是30個(gè)向量還得自己回頭處理但最后一步的輸出已經(jīng)匯總了整個(gè)窗口的信息直接送到全連接層做回歸就夠了簡(jiǎn)單直接。只有做序列到序列預(yù)測(cè)時(shí)才需要改成sequence輸出模式比如逐點(diǎn)預(yù)測(cè)未來一整段容量曲線。訓(xùn)練部分我采用自定義訓(xùn)練循環(huán)而非trainNetwork因?yàn)檫@樣能更好地控制學(xué)習(xí)率調(diào)度和實(shí)時(shí)指標(biāo)輸出。Matlab的trainNetwork雖然語法更簡(jiǎn)潔但它對(duì)學(xué)習(xí)率策略、驗(yàn)證集處理方式的封裝較黑盒調(diào)參時(shí)不夠透明。我的訓(xùn)練循環(huán)核心結(jié)構(gòu)是這樣的思路每個(gè)epoch打亂樣本順序切mini-batch計(jì)算損失和梯度用adamupdate更新參數(shù)然后定期在驗(yàn)證集上算RMSE滿足早停條件就結(jié)束。% 使用adamupdate函數(shù)做參數(shù)更新 % 這是Deep Learning Toolbox R2021a以后提供的底層接口 for epoch 1:maxEpochs % 打亂訓(xùn)練數(shù)據(jù)索引切斷相鄰樣本的相關(guān)性 idx randperm(numTrainSamples); for i 1:numIterations % 取出當(dāng)前mini-batch的數(shù)據(jù)和標(biāo)簽 XBatch XTrain(:, idx((i-1)*miniBatchSize1 : min(i*miniBatchSize, end))); YBatch YTrain(:, idx((i-1)*miniBatchSize1 : min(i*miniBatchSize, end))); % 前向傳播計(jì)算損失和梯度 [loss, gradients] dlfeval(modelLoss, dlnet, XBatch, YBatch); % 更新網(wǎng)絡(luò)參數(shù) [dlnet, averageGrad, averageSqGrad] adamupdate(dlnet, gradients, ... averageGrad, averageSqGrad, epoch, learnRate); end end看到這種結(jié)構(gòu)有PyTorch經(jīng)驗(yàn)的人應(yīng)該會(huì)覺得很眼熟——Matlab底層提供的這些接口確實(shí)越來越往主流深度學(xué)習(xí)框架靠攏了。這也是為什么我建議不要在trainNetwork一棵樹上吊死學(xué)會(huì)dlnetwork加自定義訓(xùn)練的套路后遷移到其他框架的成本會(huì)明顯降低。3.3 特征工程還能再加兩把火容量增量與溫度信息如果數(shù)據(jù)里除了容量還有電壓、電流、溫度那么可以把它們做成多通道特征輸入到LSTM里。我做的版本是一個(gè)簡(jiǎn)化演示主要使用容量序列做主特征但代碼架構(gòu)已經(jīng)預(yù)留了多特征入口。在預(yù)處理階段可以額外計(jì)算容量的增量也就是相鄰循環(huán)容量的差值。這個(gè)差值能放大衰減趨勢(shì)的變化率尤其對(duì)拐點(diǎn)位置的捕捉很有幫助。打個(gè)比方直接用容量看電池狀態(tài)就像盯著溫度計(jì)讀數(shù)判斷人是否發(fā)燒但等讀數(shù)明顯偏高時(shí)病情可能已經(jīng)比較嚴(yán)重了而容量增量相當(dāng)于體感變化它能更早反映電池內(nèi)部衰退機(jī)制的切換。LSTM同時(shí)學(xué)習(xí)容量值和容量增量?jī)蓚€(gè)通道等于既看絕對(duì)水平又看變化速度預(yù)測(cè)精度通常能再上一個(gè)臺(tái)階。我在主代碼里保留了featureDimension這個(gè)變量設(shè)成1就是只用容量設(shè)成2就是加入增量通道讀者完全可以自行擴(kuò)展。4. 訓(xùn)練與預(yù)測(cè)環(huán)節(jié)的避坑經(jīng)驗(yàn)從損失發(fā)散到隱藏狀態(tài)初始化網(wǎng)絡(luò)搭好只是第一步真正磨人的是訓(xùn)練過程。我在這部分遇到過好幾個(gè)讓人撓頭的現(xiàn)象一個(gè)個(gè)排查下來才明白問題出在哪些細(xì)節(jié)上。這里不按時(shí)間順序講直接按照最常踩的坑分類來講每個(gè)都值得拿小本本記下來。4.1 損失函數(shù)死活降不下來檢查輸入數(shù)據(jù)格式和歸一化第一種常見情況是訓(xùn)練好幾輪損失一直在一個(gè)偏高的位置徘徊甚至偶爾還會(huì)跳上來一個(gè)巨大的尖峰。這種問題大概率出在輸入數(shù)據(jù)的維度格式上。LSTM層要求輸入是形如numFeatures × numTimeSteps × numObservations的數(shù)據(jù)很多Matlab用戶容易把維度搞成numSamples × numTimeSteps結(jié)果就是層之間的尺寸推導(dǎo)出錯(cuò)報(bào)錯(cuò)還算好的最怕不報(bào)錯(cuò)但數(shù)據(jù)被自動(dòng)廣播成奇怪形狀訓(xùn)練出來的模型預(yù)測(cè)全是常數(shù)。另一個(gè)容易忽略的是歸一化。用zscore處理時(shí)如果訓(xùn)練集和測(cè)試集用的是各自的均值和標(biāo)準(zhǔn)差模型性能可能虛高。我踩過的坑就是前面提到的全量歸一化測(cè)試集誤差只有訓(xùn)練集的一半當(dāng)時(shí)還挺高興直到換新電池?cái)?shù)據(jù)測(cè)試才發(fā)現(xiàn)完全不是那么回事。解決辦法非常樸素在訓(xùn)練前先計(jì)算訓(xùn)練集的均值和標(biāo)準(zhǔn)差保存成結(jié)構(gòu)體之后無論驗(yàn)證還是測(cè)試都用這一組統(tǒng)計(jì)量處理。4.2 預(yù)測(cè)曲線在中后期出現(xiàn)詭異回彈LSTM外推與誤差累積效應(yīng)LSTM在訓(xùn)練數(shù)據(jù)覆蓋的容量范圍內(nèi)做插值式預(yù)測(cè)表現(xiàn)不錯(cuò)但壽命預(yù)測(cè)本質(zhì)是做外推——預(yù)測(cè)未來一段曲線這部分容量范圍可能低于訓(xùn)練集所見的最小值。這時(shí)候就會(huì)出現(xiàn)一個(gè)典型現(xiàn)象滾動(dòng)預(yù)測(cè)的曲線在逼近訓(xùn)練集末段附近還算正常但往后再推幾十個(gè)周期就開始方向漂移甚至出現(xiàn)容量回升。這個(gè)現(xiàn)象有三個(gè)深層原因。第一是誤差累積效應(yīng)每一步滾動(dòng)的預(yù)測(cè)誤差都會(huì)作為下一步的輸入時(shí)間長(zhǎng)了誤差像滾雪球一樣放大預(yù)測(cè)曲線可能整體偏到不合理的區(qū)域。第二是數(shù)據(jù)分布偏移訓(xùn)練時(shí)LSTM只在健康衰減樣本上學(xué)過隱狀態(tài)轉(zhuǎn)移規(guī)律測(cè)試階段電池實(shí)際狀態(tài)已經(jīng)脫離訓(xùn)練分布模型的經(jīng)驗(yàn)失效了。第三是模型本身的回歸偏好由于訓(xùn)練目標(biāo)是均方誤差最小化網(wǎng)絡(luò)傾向于預(yù)測(cè)條件均值而條件均值天生會(huì)把極端變化拉平反映到曲線上就是拐點(diǎn)被削平、趨勢(shì)被鈍化。面對(duì)這種情況我的處理方案有兩個(gè)。其一滾動(dòng)預(yù)測(cè)時(shí)引入一個(gè)衰減因子通俗說就是讓網(wǎng)絡(luò)在長(zhǎng)距離外推時(shí)更信任近期的趨勢(shì)信息而不是自己遞歸生成的歷史預(yù)測(cè)值做法可以是對(duì)LSTM的隱藏狀態(tài)做約束或者對(duì)預(yù)測(cè)輸出的變化率做限制。其二把預(yù)測(cè)任務(wù)拆成兩段前段用LSTM主預(yù)測(cè)后段搭配多項(xiàng)式擬合做趨勢(shì)矯正。代碼中我實(shí)現(xiàn)的是輸出預(yù)測(cè)結(jié)果的同時(shí)計(jì)算滑動(dòng)平均誤差并把誤差帶上方便使用者判斷外推在哪個(gè)位置開始失真。4.3 早停策略不是防過擬合的銀彈驗(yàn)證集劃分方式同樣關(guān)鍵Deep Learning Toolbox提供了ValidationPatience參數(shù)也就是驗(yàn)證損失連續(xù)多少輪不下降就終止訓(xùn)練。聽起來很智能但如果使用不當(dāng)反而會(huì)引入偏差。比如驗(yàn)證集選得過窄只有10個(gè)樣本噪聲會(huì)導(dǎo)致驗(yàn)證損失曲線毛毛糙糙觸發(fā)提前終止時(shí)真正的全局最優(yōu)還沒找到。我在代碼里的做法是驗(yàn)證集占整個(gè)時(shí)間序列的15%并且在驗(yàn)證階段依然使用相同的歸一化參數(shù)。MiniBatchSize設(shè)為16驗(yàn)證頻率設(shè)為20輪Patience設(shè)為10。這樣訓(xùn)練過程中能看見兩類信息訓(xùn)練集上的擬合進(jìn)度以及驗(yàn)證集上的泛化能力。拿這個(gè)標(biāo)準(zhǔn)跑下來預(yù)測(cè)結(jié)果基本穩(wěn)定不會(huì)出現(xiàn)訓(xùn)練集誤差一路向下但預(yù)測(cè)曲線亂飛的情況。還有一點(diǎn)特別想說早停的判定指標(biāo)未必非要用均方誤差。對(duì)于壽命預(yù)測(cè)RMSE或MAE更直觀但如果想強(qiáng)調(diào)拐點(diǎn)附近的表現(xiàn)可以在驗(yàn)證集上計(jì)算加權(quán)誤差給后段樣本更高的權(quán)重。這樣模型會(huì)主動(dòng)把學(xué)習(xí)重點(diǎn)放在衰減劇烈的區(qū)域比如我把最后10%的驗(yàn)證樣本權(quán)重設(shè)置為3倍實(shí)測(cè)對(duì)拐點(diǎn)的預(yù)測(cè)提前了大約15個(gè)周期。5. 模型評(píng)估與結(jié)果可視化如何讓有圖有真相真正有說服力標(biāo)題里寫了有圖有真相這不僅是營(yíng)銷話術(shù)更是工程交付的基本素養(yǎng)?？斩吹恼`差是0.01沒有任何說服力但一張預(yù)測(cè)曲線和真實(shí)曲線的對(duì)比圖加上殘差分布圖就能讓評(píng)審或者甲方一目了然。5.1 核心評(píng)估指標(biāo)RMSE、MAE和R2怎么算、怎么解讀我在這套代碼中實(shí)現(xiàn)了三個(gè)常用回歸指標(biāo)全部封裝成函數(shù)每個(gè)指標(biāo)輸出的同時(shí)會(huì)繪制對(duì)應(yīng)的圖標(biāo)。這里順便把三個(gè)指標(biāo)之間的差異說透。RMSE是均方根誤差對(duì)大的預(yù)測(cè)偏差非常敏感。在壽命預(yù)測(cè)中如果某幾個(gè)點(diǎn)嚴(yán)重偏離RMSE會(huì)變得很大說明模型在這些位置存在系統(tǒng)性失誤。MAE是平均絕對(duì)誤差反映整體偏差水平對(duì)離群點(diǎn)相對(duì)鈍感。R2決定系數(shù)刻畫的是模型對(duì)容量變化方差的解釋程度越接近1越好。這三個(gè)指標(biāo)放在一起看能判斷誤差是均勻分布在整條曲線上還是集中在某些區(qū)間。實(shí)際使用時(shí)要留個(gè)心眼RMSE和MAE都是在原始容量單位上計(jì)算的如果電池標(biāo)稱容量是2Ah誤差0.05Ah大約是2.5%的相對(duì)誤差這個(gè)水平在工程上已經(jīng)能接受。但測(cè)試集末段誤差普遍大于前段這是外推問題的必然結(jié)果。所以評(píng)估時(shí)我會(huì)分三段統(tǒng)計(jì)訓(xùn)練期、外推前期、外推后期。如果三段誤差階梯式放大說明模型泛化正常如果后段誤差突然暴漲說明模型已經(jīng)徹底偏離物理趨勢(shì)這時(shí)候要看是不是滾動(dòng)步數(shù)太多導(dǎo)致誤差累積失控。5.2 一張合格的壽命預(yù)測(cè)圖要包含哪些要素這是很多Matlab代碼最容易敷衍的地方。預(yù)測(cè)結(jié)果明明不錯(cuò)但繪制出來的圖坐標(biāo)軸沒標(biāo)簽、圖例缺失、曲線顏色混亂直接拉低可信度。我這里把繪圖部分的思路拆開講照著做出來的圖可以直接放進(jìn)論文或者技術(shù)報(bào)告。第一橫軸必須是循環(huán)周期單位要寫清楚縱軸是容量用Ah。第二要同時(shí)畫三條線真實(shí)容量曲線、訓(xùn)練集的擬合曲線、測(cè)試集的預(yù)測(cè)曲線。三者的線型和顏色要有明確區(qū)分我給真實(shí)值用的是實(shí)線加圓點(diǎn)標(biāo)記訓(xùn)練擬合用細(xì)實(shí)線測(cè)試預(yù)測(cè)用帶星號(hào)的虛線。第三要在圖上標(biāo)注RMSE和R2的值數(shù)值放圖例里或者單獨(dú)文本框這樣看圖的人不需要翻代碼就能評(píng)估模型好壞。第四如果做了滾動(dòng)預(yù)測(cè)要加一條豎直的分隔線標(biāo)明訓(xùn)練集和測(cè)試集的界限在哪里。這條線在論文里很有用它能直觀證明訓(xùn)練集的預(yù)測(cè)沒有外推測(cè)試集的預(yù)測(cè)才是真實(shí)性能。殘差圖也要畫。橫軸是循環(huán)周期縱軸是預(yù)測(cè)值減真實(shí)值。殘差如果圍繞0軸上下波動(dòng)沒有明顯的S形或喇叭形趨勢(shì)說明模型誤差比較干凈如果殘差呈喇叭狀向外擴(kuò)散說明不確定性隨循環(huán)周期遞增這也是外推任務(wù)不可避免的特征。5.3 用驗(yàn)證集選擇最優(yōu)模型時(shí)別忘了保存checkpoint調(diào)試LSTM模型是個(gè)反復(fù)實(shí)驗(yàn)的過程我通常會(huì)把不同超參數(shù)組合的模型全部保存下來用驗(yàn)證集挑出最優(yōu)的一個(gè)。Matlab里保存模型很簡(jiǎn)單一行save命令的事。但要提醒一個(gè)細(xì)節(jié)別只保存網(wǎng)絡(luò)結(jié)構(gòu)還要保存歸一化參數(shù)、窗口長(zhǎng)度、訓(xùn)練過程的損失曲線記錄。因?yàn)楹罄m(xù)加載模型做預(yù)測(cè)時(shí)這些預(yù)處理參數(shù)缺一不可。如果只保存網(wǎng)絡(luò)加載模型后還得重新算歸一化麻煩且容易錯(cuò)。我的代碼里會(huì)在訓(xùn)練完成后自動(dòng)把以下幾個(gè)變量打包存成mat文件訓(xùn)練好的dlnet、訓(xùn)練集的均值與標(biāo)準(zhǔn)差、窗口長(zhǎng)度、RMSE與R2等指標(biāo)、訓(xùn)練損失的記錄數(shù)組。這樣后續(xù)不管是誰拿到這個(gè)mat文件都能直接復(fù)現(xiàn)完整的預(yù)測(cè)流程。6. 代碼架構(gòu)的實(shí)用設(shè)計(jì)怎么做到一鍵運(yùn)行且每行注釋給同行分享代碼時(shí)我最怕看到那種幾千行但注釋稀稀拉拉的東西。標(biāo)題里承諾了一鍵運(yùn)行和逐行注釋所以在代碼組織上我做了幾點(diǎn)特殊設(shè)計(jì)這些設(shè)計(jì)本身也值得參考。6.1 腳本分包結(jié)構(gòu)主腳本只負(fù)責(zé)流程控制我把整個(gè)項(xiàng)目拆成了三個(gè)文件main_lstm_battery.m負(fù)責(zé)總流程data_preprocessing.m負(fù)責(zé)讀取和切分?jǐn)?shù)據(jù)train_lstm_model.m負(fù)責(zé)網(wǎng)絡(luò)定義和訓(xùn)練evaluate_and_plot.m負(fù)責(zé)評(píng)估和繪圖。每個(gè)文件都有嚴(yán)格的輸入輸出接口。主腳本的邏輯可以概括成五步加載原始數(shù)據(jù)→預(yù)處理和構(gòu)造訓(xùn)練樣本→定義并訓(xùn)練LSTM→滾動(dòng)預(yù)測(cè)測(cè)試集→評(píng)估和出圖。這樣分模塊的好處是如果讀者想換成自己的電池?cái)?shù)據(jù)只需要修改data_preprocessing.m的讀取路徑和表頭字段想調(diào)整網(wǎng)絡(luò)深度改train_lstm_model.m里的參數(shù)即可完全不用動(dòng)其他文件。主腳本最頂部設(shè)置了幾個(gè)全局開關(guān)比如isTrain設(shè)為真則重新訓(xùn)練模型設(shè)為假則直接加載已有的mat文件做預(yù)測(cè)。這樣復(fù)現(xiàn)我的結(jié)果時(shí)不需要重新訓(xùn)練幾十分鐘。如果只是想看預(yù)測(cè)效果直接跑預(yù)測(cè)分支就行如果想自己調(diào)參再打開訓(xùn)練分支。這兩個(gè)模式對(duì)初學(xué)者非常友好省去了反復(fù)等待訓(xùn)練的煩躁感。6.2 每行注釋到底怎么注釋才算到位每行都有注釋是個(gè)很硬的要求但不能寫成一句話的機(jī)械重復(fù)。我的注釋風(fēng)格是結(jié)構(gòu)性的語句解釋這段在干嘛關(guān)鍵參數(shù)解釋為什么取這個(gè)值數(shù)據(jù)處理部分解釋這步不做會(huì)有什么后果。比如歸一化那兩行注釋寫的是用訓(xùn)練集均值做標(biāo)準(zhǔn)化避免數(shù)據(jù)泄露而不是干巴巴寫標(biāo)準(zhǔn)化這才是注釋的核心價(jià)值讓人真正理解每一步的含義。有意思的是Matlab代碼天然適合這種風(fēng)格因?yàn)樗恼Z法離自然語言比較近配合注釋后閱讀起來跟讀文檔差不多。為了確保讀者能跑通我還加了try-catch錯(cuò)誤捕獲如果數(shù)據(jù)路徑不對(duì)或者工具箱缺失主腳本會(huì)彈出中文提示告訴缺什么、怎么解決。沒有這種友好提示初學(xué)者很容易卡在環(huán)境配置上。6.3 環(huán)境依賴說明與版本兼容性Matlab的深度學(xué)習(xí)工具箱版本差異比較大dlnetwork和adamupdate是R2021a以后才穩(wěn)定提供的。如果讀者用的是R2019b或者R2020a部分底層接口會(huì)不兼容。我的代碼針對(duì)R2021a及以上版本編寫如果版本偏低建議改用trainNetwork加Plots參數(shù)的方案這部分我在代碼注釋里也寫了替代寫法。不需要額外安裝Python或者配置CUDA純Matlab就能跑。不過如果電腦沒有NVIDIA GPU訓(xùn)練速度會(huì)偏慢——我自己的機(jī)器CPU訓(xùn)練一輪大概要一兩秒500輪下來七八分鐘能跑完完全可以接受。如果讀者有GPU并且安裝了Parallel Computing Toolbox可以在訓(xùn)練前加一行g(shù)puDevice調(diào)用把數(shù)據(jù)格式改成gpuArray時(shí)間能進(jìn)一步縮短到原來的五分之一。7. 參數(shù)敏感性實(shí)驗(yàn)與結(jié)果對(duì)比一次完整的調(diào)優(yōu)復(fù)盤模型跑通只是起點(diǎn)真正把它調(diào)到好用需要做系統(tǒng)的敏感性分析。這塊內(nèi)容對(duì)想做深入研究的人來說價(jià)值最大我把我做過的幾組關(guān)鍵實(shí)驗(yàn)結(jié)論直接列出來。7.1 不同窗口長(zhǎng)度的對(duì)預(yù)測(cè)誤差的影響實(shí)驗(yàn)窗口長(zhǎng)度訓(xùn)練RMSE測(cè)試RMSE拐點(diǎn)識(shí)別情況結(jié)論100.03210.0873明顯滯后拐點(diǎn)位置延后約20周期輸入信息不足網(wǎng)絡(luò)難以捕捉中期趨勢(shì)200.02470.0625拐點(diǎn)位置基本準(zhǔn)確尚可但后期誤差偏大300.01780.0412拐點(diǎn)位置較準(zhǔn)曲線平滑當(dāng)前最優(yōu)500.01510.0479拐點(diǎn)雖然準(zhǔn)但樣本量太少導(dǎo)致方差增大過猶不及樣本量被壓縮窗口長(zhǎng)度從10加到30測(cè)試誤差快速下降但到50時(shí)反而回升原因顯而易見樣本數(shù)從130多個(gè)降到100個(gè)出頭LSTM的循環(huán)展開步數(shù)變長(zhǎng)訓(xùn)練數(shù)據(jù)量已經(jīng)支撐不起這么深的時(shí)間依賴。所以說窗口長(zhǎng)度不是越大越好要跟數(shù)據(jù)集規(guī)模匹配。7.2 不同隱含單元數(shù)的對(duì)比實(shí)驗(yàn)隱含單元數(shù)量決定了網(wǎng)絡(luò)的記憶容量可以理解成電池的電芯數(shù)量——電芯越多能存的總能量越大但管理復(fù)雜度也上去了。我分別測(cè)了32、64、128和256個(gè)單元32個(gè)單元時(shí)預(yù)測(cè)曲線在拐點(diǎn)附近出現(xiàn)鋸齒狀波動(dòng)記憶容量不足細(xì)節(jié)模式學(xué)不進(jìn)去。64個(gè)單元時(shí)曲線明顯平滑誤差指標(biāo)全面改善。128個(gè)單元時(shí)訓(xùn)練時(shí)間翻倍誤差下降卻只有微弱的5%左右性價(jià)比已經(jīng)不高。256個(gè)單元反而比128更差純粹是過擬合了。有個(gè)現(xiàn)象值得注意隱含單元翻倍后訓(xùn)練誤差確實(shí)在降測(cè)試誤差卻可能不降反升。這說明模型開始記住訓(xùn)練樣本中的個(gè)別噪聲模式而真正的壽命衰減規(guī)律并沒有學(xué)得更好。用驗(yàn)證集做早停能在一定程度上緩解但模型容量的上限是由數(shù)據(jù)復(fù)雜度決定的加大單元數(shù)不是萬能的。7.3 Dropout率與訓(xùn)練輪數(shù)的聯(lián)合影響Dropout是LSTM防過擬合的利器但設(shè)置過高會(huì)讓模型訓(xùn)練不充分。我對(duì)比了0、0.1、0.2、0.5這四組0.2是最平衡的。不加Dropout時(shí)測(cè)試誤差反而最高加了0.2后測(cè)試誤差下降了約22%。到0.5時(shí)訓(xùn)練過程開始變得不穩(wěn)定因?yàn)閬G棄過多神經(jīng)元導(dǎo)致容量衰減損失函數(shù)下降速度明顯放緩。訓(xùn)練輪數(shù)方面500輪配合Patience為10的早停通常在第180到250輪之間就自動(dòng)停止了很少跑滿500輪。這說明早停機(jī)制在正常工作時(shí)能有效節(jié)省時(shí)間。如果看到訓(xùn)練日志中epoch數(shù)直接拉滿500要警惕驗(yàn)證集是否一直在緩慢下降——或者learning rate太小導(dǎo)致收斂過慢或者網(wǎng)絡(luò)容量確實(shí)不夠需要調(diào)整超參數(shù)。8. 從單次預(yù)測(cè)到工程落地代碼還能怎么擴(kuò)展最后聊點(diǎn)實(shí)際的東西。這套代碼解決的是單電池基于容量序列的壽命預(yù)測(cè)問題但真實(shí)工程場(chǎng)景里問題要復(fù)雜得多。我這里給幾個(gè)經(jīng)過思考的擴(kuò)展方向讀者在自己的項(xiàng)目里可以直接往這些方向努力。8.1 多電池?cái)?shù)據(jù)聯(lián)合訓(xùn)練與遷移學(xué)習(xí)單電池的數(shù)據(jù)量其實(shí)很少幾百個(gè)循環(huán)周期在深度學(xué)習(xí)領(lǐng)域是小樣本中的小樣本。更穩(wěn)妥的做法是多顆同型號(hào)電池的數(shù)據(jù)放在一起訓(xùn)練讓LSTM學(xué)到該類電池的共性衰減趨勢(shì)然后預(yù)測(cè)新電池時(shí)用小樣本微調(diào)。這就用上了遷移學(xué)習(xí)的思想。在Matlab里做遷移學(xué)習(xí)很簡(jiǎn)單先在多顆電池的數(shù)據(jù)上用較大學(xué)習(xí)率訓(xùn)練一個(gè)基礎(chǔ)模型然后用目標(biāo)電池的前幾十個(gè)循環(huán)數(shù)據(jù)做微調(diào)學(xué)習(xí)率調(diào)低一個(gè)數(shù)量級(jí)。微調(diào)階段的訓(xùn)練輪數(shù)也不用太多50到100輪就夠。這樣做的好處是新電池的早期數(shù)據(jù)即使只有二三十個(gè)循環(huán)也能相對(duì)準(zhǔn)確地預(yù)測(cè)后續(xù)壽命這在電池出廠快速篩選場(chǎng)景里非常實(shí)用。8.2 多工況條件下的壽命預(yù)測(cè)與注意力機(jī)制引入NASA數(shù)據(jù)集里有不同的充放電工況比如1C、2C、不同環(huán)境溫度等。不同工況下電池的衰退軌跡完全不同如果把工況條件作為額外特征輸入讓LSTM學(xué)習(xí)工況對(duì)壽命的影響模型的適用范圍會(huì)寬很多。這時(shí)特征維度就不是1或者2了而是電壓、電流、溫度、容量等多個(gè)通道。如果工況變化比較隨機(jī)還可以考慮引入注意力機(jī)制。Matlab里實(shí)現(xiàn)多頭自注意力層比PyTorch麻煩一些但Deep Learning Toolbox從R2023a開始提供了一些transformer相關(guān)組件。其核心價(jià)值在于讓模型在處理序列時(shí)自動(dòng)聚焦于那些和壽命強(qiáng)相關(guān)的關(guān)鍵片段比如某個(gè)電壓平臺(tái)的持續(xù)時(shí)間、某段溫度的異常波動(dòng)而不是平均地看待所有時(shí)間步。我目前這套代碼還是基礎(chǔ)LSTM但這個(gè)方向是明確的下一步。8.3 部署環(huán)節(jié)的模型壓縮與輕量化訓(xùn)練好的LSTM模型如果要在BMS這類嵌入式設(shè)備上跑就得考慮模型大小和推理速度。Matlab有專門的深度學(xué)習(xí)模型量化工具可以把網(wǎng)絡(luò)參數(shù)從32位浮點(diǎn)數(shù)轉(zhuǎn)成16位浮點(diǎn)甚至8位整數(shù)體積縮小四倍推理速度大幅提升。代價(jià)是精度略微下降但在壽命預(yù)測(cè)這種趨勢(shì)性任務(wù)里通?？梢越邮堋＿€有一條路是模型蒸餾用訓(xùn)練好的LSTM輸出標(biāo)簽訓(xùn)練一個(gè)小型的前饋網(wǎng)絡(luò)或者更小的GRU網(wǎng)絡(luò)去模仿它。GRU比LSTM少一個(gè)門控結(jié)構(gòu)參數(shù)約少四分之一計(jì)算量下降但性能損耗往往很小尤其適合做實(shí)時(shí)嵌入式推理。做蒸餾時(shí)要注意確保教師模型的輸出本身足夠好否則蒸餾只會(huì)把壞習(xí)慣傳給模型制造出雙倍的差勁。9. 復(fù)現(xiàn)這套代碼最常見的問題排查清單不管代碼注釋多詳細(xì)總會(huì)有人跑不通。我整理了一份問題排查清單按出現(xiàn)頻率排序基本覆蓋了我被問過的大部分問題?，F(xiàn)象根本原因解決方法運(yùn)行報(bào)錯(cuò)說找不到函數(shù)dlnetworkMatlab版本太低或Deep Learning Toolbox未安裝升級(jí)到R2021a以上或者安裝對(duì)應(yīng)工具箱第一次運(yùn)行極其緩慢CPU訓(xùn)練而且沒有設(shè)置驗(yàn)證頻率降低maxEpochs開啟GPU或后期再跑全量訓(xùn)練訓(xùn)練時(shí)損失出現(xiàn)NaN學(xué)習(xí)率太高或數(shù)據(jù)沒有歸一化降低初始學(xué)習(xí)率到0.001檢查數(shù)據(jù)預(yù)處理流程預(yù)測(cè)曲線基本是直線窗口長(zhǎng)度太小模型沒學(xué)到中期趨勢(shì)增大窗口長(zhǎng)度到30或50檢查數(shù)據(jù)切分對(duì)齊訓(xùn)練誤差很低但測(cè)試誤差很高過擬合Dropout率不夠或模型太大增加Dropout到0.3減小隱含單元數(shù)加載數(shù)據(jù)路徑報(bào)錯(cuò)數(shù)據(jù)文件不在當(dāng)前工作目錄設(shè)置路徑到數(shù)據(jù)文件夾或者用絕對(duì)路徑讀取每次運(yùn)行的結(jié)果略有不同權(quán)重隨機(jī)初始化沒有固定種子在腳本開頭設(shè)置rng(42)固定隨機(jī)種子最容易被忽視的是最后一條——隨機(jī)種子。如果沒有固定哪怕代碼一字不改每次跑的曲線都會(huì)有差別讀者會(huì)懷疑代碼有問題。我在主腳本開發(fā)的時(shí)候會(huì)先加一行rng(2026)保證每次運(yùn)行可復(fù)現(xiàn)。當(dāng)然深度學(xué)習(xí)訓(xùn)練本身有隨機(jī)性固定種子只能讓同一環(huán)境下每次結(jié)果一致?lián)Q電腦或者換Matlab版本后數(shù)字可能略有不同這是正常的。還有一條關(guān)于數(shù)據(jù)量的小提醒鋰電池壽命預(yù)測(cè)項(xiàng)目經(jīng)常被當(dāng)成演示案例但如果只有幾十個(gè)循環(huán)周期的數(shù)據(jù)任何神經(jīng)網(wǎng)絡(luò)都很難給出靠譜的長(zhǎng)程預(yù)測(cè)。我建議數(shù)據(jù)至少要有150個(gè)周期左右再考慮上LSTM。樣本太少時(shí)低偏差高方差的模型比如高斯過程回歸可能表現(xiàn)反而更好。代碼在手也要判斷什么時(shí)候不適用LSTM這個(gè)認(rèn)知可能比會(huì)調(diào)LSTM更值錢。這套基于Matlab的LSTM鋰電池壽命預(yù)測(cè)代碼整個(gè)流程從數(shù)據(jù)獲取、預(yù)處理、模型定義、訓(xùn)練、評(píng)估到可視化都做了完整的落地方案。調(diào)試好的版本在當(dāng)前數(shù)據(jù)集上測(cè)試RMSE大約在0.04左右R2大于0.95外推段能穩(wěn)定識(shí)別出容量衰減拐點(diǎn)。我自己調(diào)參的過程中踩過的那些坑——數(shù)據(jù)泄露、窗口選擇、過擬合、誤差累積——都寫進(jìn)了注釋和這篇總結(jié)里希望拿到代碼的人不再重復(fù)踩一遍。