深度遷移學習(xí)與高(gāo)光(guāng)譜遙感圖像不期而遇後？

發布日期：2019-05-29 00:00 浏覽量：9073

在過去40年不到的(de)時(shí)間裏，遙感在理(lǐ)論、技術和(hé)應用(yòng)上都得(de)到了(le)飛(fēi)速的(de)進步，其高(gāo)光(guāng)譜遙感的(de)出現和(hé)發展是遙感技術的(de)一場(chǎng)革命。

相比傳統的(de)多(duō)光(guāng)譜技術，使本來(lái)在寬波段遙感中不可(kě)探測的(de)物(wù)質，在高(gāo)光(guāng)譜遙感中能被探測。高(gāo)光(guāng)譜傳感器在數百個(gè)窄波連續光(guāng)譜帶中同時(shí)采集圖像，具有更精細的(de)光(guāng)譜分(fēn)辨率（0.01 μm）。獲得(de)的(de)三維圖像數據通(tōng)常包含大(dà)量可(kě)用(yòng)于計算(suàn)機處理(lǐ)的(de)信息，其第三維的(de)光(guāng)譜波段信息對(duì)于空間域和(hé)光(guāng)譜域内的(de)土地覆蓋監測和(hé)測繪提供了(le)極大(dà)的(de)幫助。

在處理(lǐ)高(gāo)光(guāng)譜圖像分(fēn)類問題上，樣本的(de)特征往往是決定分(fēn)類結果的(de)關鍵。然而新的(de)問題出現了(le)，針對(duì)高(gāo)光(guāng)譜圖像分(fēn)類中，樣本空間特征利用(yòng)不足。通(tōng)過一些學者研究得(de)出啓發，将深層殘差網絡作爲特征提取器運用(yòng)到高(gāo)光(guāng)譜圖像分(fēn)類中，利用(yòng)深層殘差網絡更深的(de)網絡結構，挖掘樣本鄰域空間中的(de)深層特征，實驗證明(míng)此特征具有更好的(de)可(kě)分(fēn)性。

同時(shí)，針對(duì)深層卷積網絡有監督訓練的(de)過程中，由于有标簽樣本不足導緻的(de)過拟合現象，提出基于深度遷移學習(xí)方法的(de)訓練策略，通(tōng)過遷移網絡在另一相關數據集中訓練得(de)到的(de)網絡淺層卷積核參數，再使用(yòng)目标數據集對(duì)深層卷積核參數進行微調，提高(gāo)了(le)殘差網絡在少量有标簽樣本情況下(xià)的(de)分(fēn)類效果。

基于深層殘差網絡的(de)高(gāo)光(guāng)譜圖像分(fēn)類

數據預處理(lǐ)

與以往所使用(yòng)的(de)四鄰域、八鄰域方法不同，爲了(le)充分(fēn)利用(yòng)樣本鄰域内的(de)空間信息，本文選擇對(duì)更大(dà)的(de)鄰域空間進行特征提取。首先使用(yòng)主成分(fēn)分(fēn)析算(suàn)法[對(duì)整個(gè)高(gāo)光(guāng)譜圖像進行數據降維，以達到去除波段圖像之間相關性的(de)目的(de)。

提取深層特征

在使用(yòng)深層卷積網絡處理(lǐ)分(fēn)類任務的(de)方法中，其選用(yòng)的(de)網絡結構對(duì)分(fēn)類效果影(yǐng)響很大(dà)，對(duì)于不同的(de)網絡結構，其分(fēn)類效果也(yě)盡然不同。深層殘差網絡在普通(tōng)圖像分(fēn)類任務中，已經取得(de)了(le)極大(dà)的(de)成功。

爲了(le)提取更深層此的(de)空間特征，選用(yòng) Resnet-50 深層殘差網絡模型，對(duì)于 Resnet-50 網絡結構，深層特征是一個(gè)2 048維的(de)向量。最後，基于樣本的(de)深層特征，訓練一個(gè)支持向量機（SVM），以驗證卷積特征相對(duì)于光(guāng)譜特征，Gabor特征具有更好的(de)可(kě)分(fēn)性。

網絡頂層卷積層提取的(de)深層特征對(duì)于目标數據集是特定的(de)，爲保證網絡模型在目标數據集中的(de)分(fēn)類精度，網絡深層卷積核參數則在目标數據集中進行微調。

将較深層的(de)網絡參數及最後的(de)輸出層參數進行随機初始化(huà)，通(tōng)過少量目标數據集有标簽數據對(duì)這(zhè)些參數進行繼續訓練。整個(gè)過程可(kě)看作網絡将在源數據集中學習(xí)到的(de)先驗知識遷移到目标數據集中，一定程度地避免了(le)過拟合現象，同時(shí)也(yě)保證了(le)對(duì)目标數據特有特征的(de)學習(xí)。

有學者王立偉等人(rén)通(tōng)過實驗使用(yòng)兩個(gè)真實高(gāo)光(guāng)譜圖像數據集對(duì)提出的(de)方法進行驗證，對(duì)比不同鄰域大(dà)小對(duì)分(fēn)類效果的(de)影(yǐng)響，以及無監督提取的(de)深層特征對(duì)分(fēn)類的(de)影(yǐng)響，遷移不同的(de)網絡參數對(duì)分(fēn)類的(de)影(yǐng)響，證明(míng)挖掘高(gāo)光(guāng)譜圖像樣本鄰域空間的(de)深層特征，具有更強的(de)判别性，并能與原光(guāng)譜特征産生很好的(de)互補性。充分(fēn)說明(míng)在普通(tōng)圖像數據集上充分(fēn)訓練的(de)深度卷積網絡有助于高(gāo)光(guāng)譜分(fēn)類任務。

提出基于模型的(de)遷移學習(xí)策略，結合網絡在一個(gè)源數據集中預訓練的(de)底層卷積核參數，再通(tōng)過目标數據集微調網絡高(gāo)層卷積核參數，使模型在使用(yòng)少量有标簽樣本的(de)情況下(xià)取得(de)了(le)更好的(de)分(fēn)類效果。

但是新的(de)問題還(hái)需要我們去改進，比如在深度殘差網路中存在的(de)多(duō)種網絡結構配置還(hái)有待比對(duì)。遷移學習(xí)中，如何解決在不同數據集中同類别樣本存在的(de)特征差異性問題也(yě)有待探索。