一位最近出院的心臟病患者正在使用智能手表來(lái)幫助監(jiān)測(cè)他的心電圖信號(hào)。這款智能手表看起來(lái)非常安全，但處理該健康信息的神經(jīng)網(wǎng)絡(luò)使用的是私人數(shù)據(jù)，這些數(shù)據(jù)仍有可能被惡意代理通過側(cè)信道攻擊竊取。

       邊信道攻擊試圖通過間接利用一個(gè)系統(tǒng)或其硬件來(lái)收集秘密信息。在一種類型的邊信道攻擊中，精明的黑客可以在神經(jīng)網(wǎng)絡(luò)運(yùn)行時(shí)監(jiān)測(cè)設(shè)備的功耗波動(dòng)以提取從設(shè)備中“泄漏”出來(lái)的受保護(hù)信息。

　　“在電影中，當(dāng)人們想打開上鎖的保險(xiǎn)箱時(shí)，他們會(huì)聽鎖轉(zhuǎn)動(dòng)時(shí)的咔噠聲。這表明，可能向這個(gè)方向轉(zhuǎn)動(dòng)鎖會(huì)幫助他們進(jìn)一步進(jìn)行。這就是旁門左道攻擊，”麻省理工學(xué)院電子工程和計(jì)算機(jī)科學(xué)系(EECS)的研究生、一篇解決這一問題的論文的第一作者Saurav Maji說道：“它只是利用非預(yù)期的信息并利用它來(lái)預(yù)測(cè)設(shè)備內(nèi)部正在發(fā)生的事情?！?/p>

　　目前能防止某些邊信道攻擊的方法是出了名得耗電，因此它們對(duì)于像智能手表這樣依賴低功耗計(jì)算的物聯(lián)網(wǎng)(IoT)設(shè)備往往是不可行的。

　　現(xiàn)在，Maji和他的合作者已經(jīng)建立了一個(gè)集成電路芯片，它可以抵御電源邊信道攻擊，同時(shí)使用的能量遠(yuǎn)遠(yuǎn)低于常見的安全技術(shù)。該芯片比拇指甲還小，可以被整合到智能手表、智能手機(jī)或平板電腦中以對(duì)傳感器數(shù)值進(jìn)行安全機(jī)器學(xué)習(xí)計(jì)算。

　　“這個(gè)項(xiàng)目的目標(biāo)是建立一個(gè)在邊緣進(jìn)行機(jī)器學(xué)習(xí)的集成電路，這樣它仍是低功耗的，但可以防止這些邊信道攻擊，這樣我們就不會(huì)失去這些模型的隱私，”麻省理工學(xué)院工程學(xué)院院長(zhǎng)、Vannevar Bush電氣工程和計(jì)算機(jī)科學(xué)教授、該論文的第一作者Anantha Chandrakasan表示，“人們沒有過多關(guān)注這些機(jī)器學(xué)習(xí)算法的安全性，而這個(gè)提議的硬件正在有效地解決這一空間?！?/p>

　　據(jù)悉，這項(xiàng)論文的共同作者包括Utsav Banerjee--他曾是EECS的研究生，現(xiàn)是印度科學(xué)研究所電子系統(tǒng)工程系的助理教授、Samuel Fuller--麻省理工學(xué)院的訪問科學(xué)家和Analog Devices的杰出研究科學(xué)家。這項(xiàng)研究將在國(guó)際固態(tài)電路會(huì)議上發(fā)表。

　　隨機(jī)計(jì)算

　　該團(tuán)隊(duì)開發(fā)的芯片是基于一種被稱為閾值計(jì)算的特殊類型的計(jì)算。與其讓神經(jīng)網(wǎng)絡(luò)對(duì)實(shí)際數(shù)據(jù)進(jìn)行操作，不如先將數(shù)據(jù)分成獨(dú)特的隨機(jī)成分。網(wǎng)絡(luò)在累積最終結(jié)果之前以隨機(jī)順序?qū)@些隨機(jī)成分進(jìn)行單獨(dú)操作。

　　Maji稱，使用這種方法，設(shè)備的信息泄露每次都是隨機(jī)的，所以它不會(huì)泄露任何實(shí)際的側(cè)信道信息。但這種方法在計(jì)算上更加昂貴，因?yàn)樯窠?jīng)網(wǎng)絡(luò)現(xiàn)在必須運(yùn)行更多的操作且還需要更多的內(nèi)存來(lái)存儲(chǔ)雜亂的信息。

　　因此，研究人員通過使用一個(gè)函數(shù)來(lái)減少神經(jīng)網(wǎng)絡(luò)處理數(shù)據(jù)所需的乘法量來(lái)優(yōu)化這一過程從而削減了所需的計(jì)算能力。他們還通過對(duì)模型的參數(shù)進(jìn)行加密來(lái)保護(hù)中性網(wǎng)絡(luò)本身。通過在加密前將參數(shù)分組，他們提供了更多的安全性，與此同時(shí)還減少了芯片上所需的內(nèi)存量。

　　“通過使用這種特殊的功能，我們可以在進(jìn)行這種操作的同時(shí)跳過一些影響較小的步驟，這使我們可以減少開銷。我們可以減少成本，但在神經(jīng)網(wǎng)絡(luò)的準(zhǔn)確性方面，它也伴隨著其他的成本。因此，我們必須對(duì)我們選擇的算法和架構(gòu)進(jìn)行明智的選擇，”Maji說道。

　　現(xiàn)有的安全計(jì)算方法如同態(tài)加密提供了強(qiáng)大的安全保證，但它們?cè)诿娣e和功率方面產(chǎn)生了巨大的開銷，這限制了它們?cè)谠S多應(yīng)用中的使用。研究人員提出的方法--旨在提供相同類型的安全--能實(shí)現(xiàn)三個(gè)數(shù)量級(jí)的低能耗。通過精簡(jiǎn)芯片架構(gòu)，研究人員還能在硅芯片上使用比類似安全硬件更少的空間，這是在個(gè)人大小設(shè)備上實(shí)施芯片時(shí)的一個(gè)重要因素。

　　“安全問題”

　　雖然提供了針對(duì)電源邊信道攻擊的重要安全性，但研究人員的芯片需要比不安全的基線實(shí)現(xiàn)多4.5倍的功率和0.6倍的硅面積。

　　“我們正處于安全問題的關(guān)鍵時(shí)刻。我們必須愿意用一定量的能源消耗來(lái)?yè)Q取更安全的計(jì)算。這不是一份免費(fèi)的午餐，”Chandrakasan說道，“未來(lái)的研究可以集中在如何減少開銷的數(shù)量以使這種計(jì)算更加安全?！?/p>

　　他們將他們的芯片跟一個(gè)沒有安全硬件的默認(rèn)實(shí)現(xiàn)進(jìn)行了比較。在默認(rèn)實(shí)現(xiàn)中，他們能在從設(shè)備上收集約1000個(gè)功率波形后恢復(fù)隱藏的信息。有了新硬件，即使在收集了200萬(wàn)個(gè)波形之后，他們?nèi)詿o(wú)法恢復(fù)這些數(shù)據(jù)。

　　他們還使用生物醫(yī)學(xué)信號(hào)數(shù)據(jù)測(cè)試了他們的芯片以確保它能在現(xiàn)實(shí)世界的實(shí)施中發(fā)揮作用。Maji解釋稱，該芯片非常靈活，可以被編程為用戶想要分析的任何信號(hào)。

　　魯汶大學(xué)電氣工程系計(jì)算機(jī)安全和工業(yè)密碼學(xué)研究小組的教授Ingrid Verbauwhede說道：“安全為物聯(lián)網(wǎng)節(jié)點(diǎn)的設(shè)計(jì)增加了一個(gè)新的維度，在性能、功率和能耗的設(shè)計(jì)之上。這個(gè)ASIC(特定應(yīng)用集成電路)很好地證明了安全設(shè)計(jì)，在這種情況下，通過添加屏蔽方案不需要被視為一個(gè)昂貴的附加裝置。研究人員們認(rèn)為，通過選擇屏蔽友好的計(jì)算單元并在設(shè)計(jì)過程中整合安全性，甚至包括隨機(jī)性發(fā)生器，--一個(gè)安全的神經(jīng)網(wǎng)絡(luò)加速器在物聯(lián)網(wǎng)背景下是可行的?！彼龥]有參與這項(xiàng)研究。

　　在未來(lái)，研究人員希望將他們的方法應(yīng)用于電磁邊信道攻擊。這些攻擊更難防御，因?yàn)楹诳筒恍枰锢碓O(shè)備來(lái)收集隱藏信息。