胸部 CT 圖像中新型冠狀病毒肺炎(COVID-19) 病灶的準(zhǔn)確分割可以為診斷提供助力。新型冠狀病毒肺炎在 CT 影像上的表現(xiàn)包括磨玻璃影、實變、胸腔積液病灶等，這些征象的紋理、大小和位置變化較大。該研究提出的深度神經(jīng)網(wǎng)絡(luò) RCB-UNet ＋＋，可以用于新型冠狀病毒肺炎在 CT 影像上的分割問題。該網(wǎng)絡(luò)在 UNet ＋＋網(wǎng)絡(luò)的基礎(chǔ)上，增加了殘差模塊和卷積塊注意力模塊。此架構(gòu)能有效地提取底層的紋理信息和高層的語義信息，并基于注意力機(jī)制優(yōu)化模型效果。該研究所提出的 RCB-UNet ＋＋模型經(jīng)過在 45 例樣本上的訓(xùn)練后，在 50 例測試集上的 Dice 系數(shù)達(dá)到了 0.715，且敏感性和特異性分別達(dá)到了 0.754 和 0.952，超過基于同樣數(shù)據(jù)劃分的其他已發(fā)表的深度學(xué)習(xí)模型。這表明所提出的算法有效地提高了分割效果，具有從 CT 圖像中全自動分割新型冠狀病毒肺炎病灶的潛力。

1引言

2019 年 12 月以來，新型冠狀病毒 (COVID-19) 在全球

范圍內(nèi)廣泛而快速地傳播。根據(jù)美國約翰斯·霍普金斯大學(xué)系統(tǒng)科學(xué)與工程研究中心發(fā)布的數(shù)據(jù)，截至 2020 年 9 月 18 日，

全球已有 30 065 728 例確診病例。該疾病傳染性強(qiáng)，嚴(yán)重時可引起嚴(yán)重的急性呼吸困難或多器官功能衰竭。世界衛(wèi)生組織于 2020 年 1 月 30 日宣布 COVID-19 疫情為 “國際關(guān)注的突發(fā)公共衛(wèi)生事件”。

研究表明，計算機(jī)斷層掃描(CT) 作為一種非侵入性的影像學(xué)檢查方法，對檢測 COVID-19 感染患者的肺部病變具有重要價值。CT 在診斷COVID-19 方面的敏感性遠(yuǎn)高于反轉(zhuǎn)錄聚合酶鏈反應(yīng)(RT-PCR)。因此，CT 可以作為早期發(fā)現(xiàn)和診斷COVID-19 的有效工具。此外，通過對炎癥病灶進(jìn)行定量分析可以得到 COVID-19 相關(guān)的診斷結(jié)果。然而，人工勾畫炎癥病灶是一項十分繁重的工作，且高度依賴于專家的臨床經(jīng)驗。因此， 構(gòu)造肺炎病灶的分割模型，可以提高勾畫的效率、準(zhǔn)確性和可重復(fù)性，為進(jìn)一步定量分析奠定良好的基礎(chǔ)。

目前，深度學(xué)習(xí)已被初步應(yīng)用于 COVID-19 的分割和診斷

任務(wù)。然而，由于 COVID-19 的病灶紋理、大小和位置變化較大， 且與正常組織間差異較小，因此為分割模型的構(gòu)造帶來了較大的挑戰(zhàn)。此外，數(shù)據(jù)的收集和標(biāo)注也十分困難。盡管，Inf-Net 提出了新的網(wǎng)絡(luò)結(jié)構(gòu)和 Loss 形式，并通過挖掘更多病灶邊界的信息，提高了模型的分割能力。但是，該方法較為復(fù)雜，需要提前計算分割區(qū)域的邊界，無法進(jìn)行端到端的分析。Zhang 等構(gòu)造的 COVID-19 病灶分割模型，可以用于分割 6 種類型的肺部結(jié)構(gòu)，包括肺部區(qū)域、磨玻璃病灶、肺實變病灶、肺纖維化、間質(zhì)增厚和胸腔積液。但是，該方法需要大量的訓(xùn)練數(shù)據(jù)。

本研究在 UNet ＋＋網(wǎng)絡(luò)模型的基礎(chǔ)上，融合了殘差模塊和卷積塊注意力模塊， 提出 RCB-UNet ＋＋模型。RCB- UNet ＋＋可以利用較少的數(shù)據(jù)進(jìn)行訓(xùn)練，以實現(xiàn)端到端的COVID-19 炎癥病灶區(qū)域分割。

2材料和方法

2.1數(shù)據(jù)

本文基于公開的 COVID-19 CT 分割數(shù)據(jù)集進(jìn)行訓(xùn)練和測試。該數(shù)據(jù)集由意大利醫(yī)療和介入放射協(xié)會收集，并由一位放射科醫(yī)生逐像素勾畫，其中勾畫病灶包括磨玻璃、肺實變和胸腔積液。因為圖像是由不同的設(shè)備和采集協(xié)議所得，所以數(shù)據(jù)集在分辨率和圖像質(zhì)量上呈現(xiàn)多樣化。該數(shù)據(jù)集共 100 例數(shù)據(jù)， 來自超過 40 個確診為 COVID-19 的病例。其中 45 例數(shù)據(jù)用于模型訓(xùn)練，5 例用于模型驗證，50 例用于測試，劃分方式和Inf-Net 模型的構(gòu)造過程一致。此外，將所有磨玻璃、肺實變和胸腔積液病灶合并為炎癥病變區(qū)域，作為模型的分割目標(biāo)。

2.2方法

2.2.1RCB-UNet ＋＋網(wǎng)絡(luò)構(gòu)造

UNet ＋＋優(yōu)化了 U-Net 的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)，提高了對不同層次特征的捕獲能力。為進(jìn)一步提高模型的參數(shù)利用效率和表達(dá)能力，本文使用 Residual Block 替代原始的 VGG 結(jié)構(gòu)。對于醫(yī)學(xué)圖像而言，不同器官本身的相對位置可以提供更多的先驗信息。例如，肺炎病灶一定是在肺部區(qū)域，而不會在隔膜上發(fā)生。因此，引入注意力機(jī)制，可以有效地提高模型的表現(xiàn)。在模型的下采樣過程中，每一個殘差模塊都連接卷積塊注意力模塊(CBAM)，確保提取有效的空間信息和特征通道。此外， 基于深度監(jiān)督的方式，能進(jìn)一步提高梯度的傳播能力。RCB- UNet ＋＋模型的總體網(wǎng)絡(luò)結(jié)構(gòu)如圖 1(a) 所示。

2.2.2殘差模塊

殘差模塊被設(shè)計用于處理卷積神經(jīng)網(wǎng)絡(luò)較深時出現(xiàn)的梯度消失問題，具體如圖 1(b) 所示。殘差模塊通過躍層鏈接(Shortcut Connection)，把模塊的輸入連接到后面的層，使得后面的層可以直接學(xué)習(xí)殘差。這種結(jié)構(gòu)優(yōu)化了模型的學(xué)習(xí)目標(biāo)，降低了學(xué)習(xí)難度，使得在模型較深時也可以保持較好的擬合果。

2.2.3卷積塊注意力模塊

對于網(wǎng)絡(luò)結(jié)構(gòu)中間的特征圖，注意力機(jī)制可以應(yīng)用在空間和通道兩個維度，分別推斷出注意力權(quán)重，然后將注意力權(quán)重和原特征圖相乘，得到新的特征圖。卷積塊注意力模塊可以對模型特征圖的空間和通道的重要性進(jìn)行自適應(yīng)調(diào)整。由于卷積塊注意力模塊是一個輕量級的模塊，它可以嵌入到任何卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)中。卷積塊注意力模塊的示意圖如圖 1(c) 所示。該模塊由通道注意力模塊和空間注意力模塊組成。通道注意力模塊為特征圖的每一個通道分配一個權(quán)重。其中，特征圖的每一個通道可以看作一個特征提取器，通過對通道增加注意力機(jī)制， 可以使模型更注重有效的特征，大大提高了網(wǎng)絡(luò)的表達(dá)能力?？臻g注意力模塊考慮特征圖的哪一個區(qū)域應(yīng)該有更高的響應(yīng)， 將空間注意力模塊的輸出和特征圖進(jìn)行像素級別的點乘，即可得到加權(quán)后的特征圖。具體如公式 (1) ～ (2) 所示：

其中，MC 為通道維度上的注意力圖像提取操作；MS 為空間維度上的注意力圖像提取操作；   為像素級別的點乘； 為輸入的特征；為經(jīng)過通道維度的權(quán)重調(diào)整后得到的特征；為經(jīng)過空間維度的權(quán)重調(diào)整后得到的特征。

2.2.4損失函數(shù)

二分類交叉熵?fù)p失函數(shù)是分割模型常用的損失函數(shù)，等效于最小化相對熵的差異，具體如公式 (3) 所示：

其中，Lbce 為二分類交叉熵?fù)p失函數(shù)；N 為像素點的個數(shù)；  為某個像素的真實類別； 為像素被預(yù)測為陽性( 屬于肺炎病灶 ) 的概率。Dice 損失函數(shù)直接優(yōu)化模型的目標(biāo)，使預(yù)測和真實分割之間的 Dice 系數(shù)最大化，具體如公式 (4) 所示：

其中，Ldice 為 Dice 損失函數(shù)；X 為模型的預(yù)測結(jié)果張量； Y 為真實的分割結(jié)果張量； 由 X 和 Y 逐像素相乘計算獲得； 和 分別為預(yù)測結(jié)果和真實分割的張量的模。

相比于交叉熵?fù)p失，Dice 損失更加直接，往往可以取得更好的結(jié)果。而且，Dice 損失可以更好地處理類別不均衡的問題， 即預(yù)測前景像素個數(shù)和背景像素個數(shù)差異較大的問題。但是， 其梯度的形式不如二分類交叉熵?fù)p失函數(shù)良好。對于 Dice 損失而言，在極端場景下，梯度會變得非常大，導(dǎo)致模型的訓(xùn)練更加不穩(wěn)定。因此，本實驗綜合二分類交叉熵?fù)p失和 Dice 損失， 具體如公式 (5) 所示：

為了提高模型隱藏層學(xué)習(xí)的直接性和透明度，本模型采用深度監(jiān)督的方式訓(xùn)練網(wǎng)絡(luò)。首先，對每個隱藏層引入伴隨目標(biāo)函數(shù)，即對節(jié)點 X 0,1、X 0,2、X 0,3、X 0,4 均添加輸出層 (1×1 卷積層 )。然后對于每一個輸出層，基于如公式 (5) 所述的損失函數(shù)進(jìn)行優(yōu)化。

2.2.5模型訓(xùn)練

由于訓(xùn)練數(shù)據(jù)較少，因此，進(jìn)行數(shù)據(jù)增強(qiáng)可以提高網(wǎng)絡(luò)的魯棒性，降低過擬合。本實驗所用數(shù)據(jù)增強(qiáng)方法包括隨機(jī)擴(kuò)大和縮小、隨機(jī)裁剪、隨機(jī)亮度和對比度調(diào)整。本實驗首先將圖像統(tǒng)一為 128×128 的像素大小，然后按 0.8 ～ 1.2 的隨機(jī)比例縮放，再隨機(jī)裁剪為 128×128 的像素大小，并以 0.3 的概率進(jìn)行隨機(jī)亮度和對比度調(diào)整。

本模型基于 Adam 算法來優(yōu)化模型參數(shù)。實驗共訓(xùn)練 500個輪次，設(shè)置 Adam 優(yōu)化算法的初始學(xué)習(xí)率為 0.001。最后， 在整個訓(xùn)練過程中，選擇驗證集上交并比(IOU) 最大的模型作為輸出模型。此外，為了提高模型的泛化性能，設(shè)置權(quán)重衰減(Weight Decay) 系數(shù)為 0.001。

2.2.6模型評估

為評估模型的表現(xiàn)，本實驗使用了和文獻(xiàn)相同的方式，并基于該工作公開的評估代碼評估模型在測試集上的結(jié)果。即基于不同閾值來計算相關(guān)指標(biāo)，然后求取均值，作為最終的評估結(jié)果。評估指標(biāo)包括常用的參數(shù)，如 Dice 相似系數(shù)、敏感性、特異性和準(zhǔn)確性。另外，本文模型引入了目標(biāo)檢測領(lǐng)域的相關(guān)評估方法，包括結(jié)構(gòu)度量 (Structure Measure)、配準(zhǔn)增強(qiáng)度量 (Enhanced-Alignment Measure) 和平均絕對誤差 (Mean Absolute Error)。

結(jié)構(gòu)度量 Sa 用于評估模型預(yù)測結(jié)果和真實分割之間的相似性，這種度量方式更加符合人類認(rèn)知，具體如公式 (6) 所示：

其中，          為平衡系數(shù)，本實驗設(shè)置    為 0.5，和原始文獻(xiàn)相同；So 為對象感知相似性；Sr 為區(qū)域感知相似性。Sp 為輸出的預(yù)測結(jié)果；G 為真實的分割。

配準(zhǔn)增強(qiáng)度量可以度量兩個二值矩陣的相似性，該方法可以同時度量局部特征和整體特征，具體如公式 (7) 所示：

其中，w 和 h 為圖像的寬和高；(x, y) 為圖像中的像素坐標(biāo)； 為增強(qiáng)配準(zhǔn)矩陣。首先，通過 0 ～ 1 的 256 個等分的閾值分別計算；然后，把所有的均值作為最終的度量指標(biāo)。該指標(biāo)不是僅考慮某一個閾值下模型的表現(xiàn)，而是綜合所有閾值結(jié)果，因此對閾值具有魯棒性。

平均絕對誤差(MAE) 度量模型的預(yù)測結(jié)果和真實分割之間的誤差，具體如公式 (8) 所示：

3結(jié)果

模型在 500 個訓(xùn)練輪次上的損失函數(shù)值變化和 IOU 變化如圖 2 所示。隨著模型的訓(xùn)練過程，訓(xùn)練集的 Loss 不斷下降、IOU 不斷上升。在驗證集上沒有出現(xiàn)明顯的過擬合現(xiàn)象，說明數(shù)據(jù)增強(qiáng)策略有效提高了模型的泛化能力。最終，選擇了在驗證集上 IOU 最高的模型，即第 475 個訓(xùn)練輪次的模型。該模型在訓(xùn)練集、驗證集和測試集上以 0.5 位閾值二值化后的分割結(jié)果的 IOU 達(dá)到了 0.75、0.73 和 0.66。

模型的分割結(jié)果如圖 3 所示。對模型的輸出結(jié)果以 0.5 為閾值進(jìn)行二值化，可以得到最終預(yù)測的分割結(jié)果。在該閾值下， 模型的 Dice 系數(shù)達(dá)到了 0.734±0.129。

對于 0 ～ 1 的 256 個等間隔的閾值，本模型在測試集上的Dice 系數(shù)達(dá)到了 0.715，超過了僅用 COVID-19 CT 分割數(shù)據(jù)集訓(xùn)練的 Inf-Net 模型。此外，基于同樣的數(shù)據(jù)集和同樣的測量方法，本模型優(yōu)于其他傳統(tǒng)分割模型。同時，模型的敏感性、特異性、 和 MAE 均有更好的表現(xiàn)，尤其是敏感性，相比之前的模型有較大的提升。盡管Sa 略低于 Inf-Net，但優(yōu)于其他分割模型 ( 表 1)。

4討論與分析

基于 CT 圖像的 COVID-19 的病灶分割在臨床診斷和治療的過程中具有非常重要的應(yīng)用價值。通過計算機(jī)輔助診斷技術(shù)實現(xiàn)新 COVID-19 病灶分割，可以減輕醫(yī)生勾畫病灶邊界的工作，提高工作效率，同時提高了勾畫的一致性和可重復(fù)性。COVID-19 病灶的分割結(jié)果，可助力于臨床診斷、定量分析和影像組學(xué)分析，具有較高的臨床應(yīng)用價值。

本模型基于 Unet ＋＋網(wǎng)絡(luò)，增加了注意力機(jī)制模塊，對空間重要性和通道重要性進(jìn)行分析。同時，在殘差模塊引入了躍層連接，提高了模型的表達(dá)能力和梯度的傳播。此外，本實驗是基于深度監(jiān)督的方式來訓(xùn)練模型。最終，模型對 CT 圖像上 COVID-19 病灶的分割表現(xiàn)有所提高。

Inf-Net 提出了新的網(wǎng)絡(luò)結(jié)構(gòu)和 Loss 形式，通過挖掘更多病灶的邊界信息，提高模型的分割能力。相比于 Inf-Net，本模型的敏感性、特異性、   和 MAE 均有更好的表現(xiàn)。尤其是敏感性從 0.692 提高到了 0.754。基于 Inf-Net 的網(wǎng)絡(luò)架構(gòu)和 1600 張無標(biāo)注圖像，可以訓(xùn)練半監(jiān)督模型 (Semi-Inf-Net)。而本實驗沒有進(jìn)行半監(jiān)督模型的構(gòu)造，可以預(yù)見的是，引入半監(jiān)督的訓(xùn)練策略后，本模型結(jié)構(gòu)的表現(xiàn)會有進(jìn)一步的提升。

Zhang 等構(gòu)造的 COVID-19 分割模型是基于 4965 張逐像素人工標(biāo)注的 CT 圖像進(jìn)行訓(xùn)練的，最終達(dá)到了 0.59 的Dice 系數(shù)。盡管該模型可用于分割更多種類的病灶，但模型訓(xùn)練集遠(yuǎn)大于本文所提出的模型。對于較小的數(shù)據(jù)集上的訓(xùn)練，本模型提供了一種行之有效的方式。相比于基于UNet ＋＋模型和其他傳統(tǒng)分割模型，本文所提出模型的性能有較大提升。

值得一提的是，本研究所用的數(shù)據(jù)集為公開數(shù)據(jù)集，僅由一位放射科醫(yī)生進(jìn)行標(biāo)注。因此，在應(yīng)用到臨床任務(wù)之前，仍需要多位醫(yī)生進(jìn)行嚴(yán)謹(jǐn)?shù)臉?biāo)注和審核，并基于多中心對泛化性能進(jìn)行廣泛的驗證。

5結(jié)論

本文所提出的模型通過引入殘差模塊和卷積塊注意力模塊

改進(jìn)了 Unet ＋＋，是一種基于深度監(jiān)督方式的訓(xùn)練模型。在COVID-19 病灶紋理、大小和位置變化較大且與正常組織間差異較小的條件下，本方法通過對訓(xùn)練數(shù)據(jù)和人體解剖信息的充分利用，提高了模型對 COVID-19 肺炎病灶的分割效果。

該模型可用于CT 圖像上的COVID-19 病灶分割，從而減少醫(yī)生勾畫肺炎病灶的時間，提高勾畫效率和勾畫的一致性、客觀性。達(dá)到輸入一組胸部 CT 圖像，即可輸出一組分割 CT 圖像的效果，實現(xiàn)了全自動分割 COVID-19 病灶區(qū)域的目的。

5.3.3 討論與分析

從優(yōu)化并行文件系統(tǒng)性能的框架上來看，相比于文獻(xiàn)，本文所提出的基于機(jī)器學(xué)習(xí)的動態(tài)分區(qū)并行文件系統(tǒng)優(yōu)化架構(gòu)可以自動地選取出合適的參數(shù)配置，從而達(dá)到對系統(tǒng)性能的優(yōu)化，而文獻(xiàn)則需要通過實驗嘗試才能判斷一個參數(shù)配置是否能夠優(yōu)化并行文件系統(tǒng)的性能?；跈C(jī)器學(xué)習(xí)的優(yōu)化框架通過其所學(xué)習(xí)到的信息來對參數(shù)配置進(jìn)行判斷，使得本方法更加靈活。

而從動態(tài)地對并行文件系統(tǒng)性能進(jìn)行優(yōu)化的角度來看，本文所提出的算法可以預(yù)先學(xué)習(xí)在不同系統(tǒng) I/O 模式下的系統(tǒng)分區(qū)配置優(yōu)化情況，從而使得動態(tài)地根據(jù)系統(tǒng)的實時 I/O 模式進(jìn)行動態(tài)分區(qū)配置調(diào)整變得可行。而文獻(xiàn)所提出的方法則無法對系統(tǒng)性能進(jìn)行動態(tài)的優(yōu)化。

在優(yōu)化所使用的算法上，本文采用了邏輯回歸模型。隨著深度神經(jīng)網(wǎng)絡(luò)的迅猛發(fā)展，在對并行文件系統(tǒng)進(jìn)行優(yōu)化的同時也可以考慮使用深度學(xué)習(xí)算法，如文獻(xiàn) [14] 中所使用到的深度強(qiáng)化學(xué)習(xí)算法，以學(xué)習(xí)更加靈活、魯棒的優(yōu)化模型。

6總結(jié)與展望

本文基于應(yīng)用系統(tǒng)的訪問模式及分區(qū)尺寸對并行文件系統(tǒng)訪問性能有顯著影響這一特點，利用機(jī)器學(xué)習(xí)的技術(shù)對特定應(yīng)用系統(tǒng)的 I/O 訪問模式進(jìn)行分析歸納，挖掘主要性能影響因素和主要性能指標(biāo)之間的關(guān)系、規(guī)律并生成基于機(jī)器學(xué)習(xí)的優(yōu)化模型，進(jìn)而利用生成的機(jī)器學(xué)習(xí)模型來指導(dǎo)并行文件系統(tǒng)的參數(shù)優(yōu)化工作，以達(dá)到優(yōu)化并行文件系統(tǒng)整體訪問性能的目的。

本文提出采用機(jī)器學(xué)習(xí)方法來進(jìn)行并行文件系統(tǒng)的性能優(yōu)化，但具體實現(xiàn)時，僅以分區(qū)尺寸這一主要的性能因素進(jìn)行；評價性能也只選用兩個最常用的性能評價指標(biāo) IOPS 和吞吐量，因此未來可以進(jìn)一步地探索其他的性能影響因素和性能評價指標(biāo)。

聲明：本文版權(quán)為中國傳動網(wǎng)所有，歡迎轉(zhuǎn)載但請務(wù)必注明來源、作者。