【隨著機(jī)器學(xué)習(xí)的作用日益重要，硬件真的仍處于黃金時(shí)代嗎？】如果你所在的產(chǎn)業(yè)有長達(dá)60年的歷史，大眾的認(rèn)知可能是它已經(jīng)來到了“熟齡”、即將邁入暮年，就像是半導(dǎo)體產(chǎn)業(yè)…但現(xiàn)在有越來越多說法則是，硬件又悄悄地重新成為市場潮流。

在6月底于美國舊金山舉行的年度設(shè)計(jì)自動(dòng)化大會(huì)(DAC2018)期間一場“40歲以下創(chuàng)新者”獎(jiǎng)項(xiàng)得主座談會(huì)(YoungUnder40InnovatorsAwardPanel)上，來自Google的平臺(tái)架構(gòu)師李晟(ShengLi)對(duì)臺(tái)下聽眾表示：“我認(rèn)為這是硬件人的黃金年代?！?/p>

另一位“40歲以下創(chuàng)新者”得主、美國喬治亞理工學(xué)院(GeorgiaTech)副教授ArijitRaychowdhury也呼應(yīng)了李晟，表示：“我認(rèn)為現(xiàn)在對(duì)硬件工程師來說是好時(shí)機(jī)，有很多機(jī)會(huì)?！?/p>

身為硬件IC產(chǎn)業(yè)界的一份子應(yīng)該都會(huì)欣然同意以上說法，相信實(shí)際情況對(duì)自己有利；數(shù)據(jù)中心與新興AI應(yīng)用領(lǐng)域的爆炸性成長，仰賴芯片設(shè)計(jì)工程師開發(fā)出速度更快、性能更強(qiáng)大、功耗卻更低的處理器，而且能建立在不同的運(yùn)算架構(gòu)上。

但筆者抱著懷疑態(tài)度，認(rèn)為這種“硬件潮流重現(xiàn)”的說法需要進(jìn)一步檢視。身為座談會(huì)主持人，筆者并不認(rèn)為這幾位“40歲以下創(chuàng)新者”獎(jiǎng)項(xiàng)得主對(duì)硬件產(chǎn)業(yè)的樂觀看法是作假，他們也沒有人說半導(dǎo)體產(chǎn)業(yè)是回歸了那個(gè)只要像往常一樣做生意的輝煌時(shí)代。

Hardware-F1-20180711DAC2018的“YoungUnder40Innovators”獎(jiǎng)項(xiàng)得主，由左至右依序?yàn)椋篋avidAtienza、ShengLi、ArijitRaychowdhury、YuWang與ZhiruZhang。（來源：EETimes）

我們都能感覺到這個(gè)產(chǎn)業(yè)的劇烈變化，但我不認(rèn)為硬件人都能良好掌握下一步。因此我詢問臺(tái)上的每一位青年工程師與學(xué)者，在他們各自的領(lǐng)域中，“創(chuàng)新的瓶頸”何在？

瑞士洛桑聯(lián)邦理工學(xué)院(EcolepolytechniquefederaledeLausanne，EPFL)副教授DavidAtienza指出，近來人工智能(AI)與機(jī)器學(xué)習(xí)領(lǐng)域的興盛，讓他擔(dān)心硬件領(lǐng)域與該領(lǐng)域之間存在非常大的鴻溝，因?yàn)榍罢呤蔷劢褂诮鉀QAI各方面問題的大量軟件，但在硬件層面仍是以非常傳統(tǒng)的架構(gòu)為基礎(chǔ)。

Atienza的疑問是，AI軟件可以繼續(xù)演進(jìn)，但是“關(guān)于硬件我們?cè)撛趺醋觯俊彼赋?，可以開發(fā)加速器，不過在“應(yīng)用程序要求硬件做的事情”以及“硬件可以處理的事情”兩個(gè)方面上，仍存在非常大的差距。而我們顯然會(huì)需要仰賴EDA工具來設(shè)計(jì)新加速器，但那些工具真的了解系統(tǒng)需求嗎？Atienza直言：“EDA產(chǎn)業(yè)要生存，就得往更高層級(jí)移動(dòng)，必須要能支持全套方案?！?/p>

軟硬件界線越來越模糊

更讓硬件設(shè)計(jì)界感到不安的，是抽象層(abstractionlayer)顯然正在消失。曾任職英特爾(Intel)實(shí)驗(yàn)室的李晟指出：“我在職業(yè)生涯中一直擔(dān)任平臺(tái)架構(gòu)師，以往都有一個(gè)抽象層將軟件從硬件結(jié)構(gòu)中分離出來，因此兩邊能各自獨(dú)立運(yùn)作；”但再也不是如此。

他的觀察是：“抽象層已經(jīng)開始崩潰，”我們有越來越多數(shù)據(jù)以及更先進(jìn)的算法，需要更多運(yùn)算能力；但是摩爾定律(Moore’sLaw)已經(jīng)步伐趨緩好一段時(shí)間：“我們無法再提供那么多的運(yùn)算能力，或者說我們無法用過去那么快的速度提升運(yùn)算能力，”使得軟件與硬件架構(gòu)之間出現(xiàn)巨大鴻溝。

李晟的看法是，“將不會(huì)再有純粹的軟件或是硬件架構(gòu)；”而是會(huì)出現(xiàn)“架構(gòu)導(dǎo)向應(yīng)用程序”(architecture-drivenapps)或是“應(yīng)用程序感知架構(gòu)”(application-awarearchitecture)。

EPFL的Atienza同意以上看法，他表示：“確實(shí)如此，我們?cè)趯W(xué)術(shù)領(lǐng)域看到越來越多這種類型的教育方法，我們不要人們只做硬件或軟件，大家需要被教育、訓(xùn)練為兩種都能做。”

曾任職于德州儀器(TI)的喬治亞理工學(xué)院Raychowdhury的觀察則是：“當(dāng)我剛進(jìn)入這個(gè)產(chǎn)業(yè)時(shí)，我們有個(gè)想法是必須打造固定功能的加速器，但很長一段時(shí)間后，情勢(shì)并非那么明朗，我們不確定什么樣的任務(wù)或功能需要加速器，我們也不清楚硬件領(lǐng)域的實(shí)際瓶頸所在。”

隨著機(jī)器學(xué)習(xí)成為關(guān)鍵應(yīng)用，硬件設(shè)計(jì)工程師的目標(biāo)越來越明確?！拔覀儸F(xiàn)在知道，就算是用GPU，訓(xùn)練大型網(wǎng)絡(luò)仍需要花很長時(shí)間；從設(shè)計(jì)領(lǐng)域的角度來看，人們尋求的是取得更高帶寬的內(nèi)存，以及打造固定功能組件以加速某些任務(wù)──我們現(xiàn)在知道這能創(chuàng)造很大差異，而且很合理；”Raychowdhury樂觀表示：“所以我感覺這個(gè)領(lǐng)域會(huì)有很多東西發(fā)生?！?/p>

他補(bǔ)充指出：“還有其他我認(rèn)為即將發(fā)生、也看到晶圓代工業(yè)者特別積極的，是高密度內(nèi)存的問世──SRAM、DRAM或者是嵌入式非揮發(fā)性內(nèi)存，各種具備較高帶寬的技術(shù)?！?/p>

Raychowdhury認(rèn)為，那些內(nèi)存將發(fā)生在后段制程(backendofline，BEOL)，以3D堆?；蚴菃误w3D結(jié)構(gòu)、低溫型態(tài)出現(xiàn)；他預(yù)期這個(gè)領(lǐng)域?qū)⒊霈F(xiàn)劇烈變化：“摩爾定律正在趨緩，晶體管尺寸可能不會(huì)再微縮，但我認(rèn)為還有其他機(jī)會(huì)，特別是在后段制程，人們將會(huì)嘗試創(chuàng)新?！?/p>

機(jī)器學(xué)習(xí)與EDA領(lǐng)域的挑戰(zhàn)

北京清華大學(xué)電子工程系副教授、也是北京深鑒科技(DeePhiTech)共同創(chuàng)辦人汪玉(YuWang)表示，座談會(huì)上每個(gè)人都在談應(yīng)用程序與硬件組件的融合，“這當(dāng)然是一個(gè)趨勢(shì)，我們必須要連結(jié)這兩個(gè)領(lǐng)域，而我們認(rèn)為這是我們可以做的事情?！?/p>

不過汪玉看到的另一個(gè)更大的機(jī)會(huì)是，利用不只一套機(jī)器來執(zhí)行深度學(xué)習(xí)任務(wù)；他解釋，今日的模型是我們可以打造一套在深度學(xué)習(xí)處理方面非常有效率的機(jī)器，但通常每一套機(jī)器的資源是受限制的：“如果我們一起運(yùn)作這些機(jī)器呢？”

在他看來，如果那些機(jī)器能一起運(yùn)作，可能會(huì)是拉近理論模型與實(shí)際情況差距的一個(gè)方法?！敖裉煳覀兪怯幸粋€(gè)主機(jī)(God)，然后有很多的代理機(jī)器(agent)…如果我們擺脫主機(jī)讓所有的代理機(jī)器一起工作、不需要主機(jī)一直監(jiān)視呢？就像是要在這棟建筑物里面找一個(gè)人，有多臺(tái)代理機(jī)器在建筑物中執(zhí)行，而且嘗試一起覆蓋整個(gè)區(qū)域?！?/p>

汪玉認(rèn)為，很多系統(tǒng)層級(jí)的創(chuàng)新可能因?yàn)楦鼜?qiáng)大的代理機(jī)器而實(shí)現(xiàn)：“如果我們將它們結(jié)合，我預(yù)見將會(huì)有算法層級(jí)、系統(tǒng)層級(jí)與硬件層級(jí)的創(chuàng)新，有很多的機(jī)會(huì)。”

美國康乃爾大學(xué)(CornellUniv.)副教授ZhiruZhang呼應(yīng)了其他與會(huì)者的看法，他是一家EDA工具開發(fā)商AutoESL的共同創(chuàng)辦人，后來該公司被賽靈思(Xilinx)收購；“我對(duì)于所謂的專屬計(jì)算機(jī)(specializedcomputers)非常興奮，”他認(rèn)為將會(huì)有一系列不同加速器問世，將推動(dòng)創(chuàng)新。

Zhang指出：“我認(rèn)為現(xiàn)在是研究這類問題的最佳時(shí)機(jī)；但在另一方面，這也會(huì)是一個(gè)最具挑戰(zhàn)性的時(shí)刻?！碧魬?zhàn)性何在？他解釋：“那些加速器的打造會(huì)非常耗時(shí)，而且它們的編程也會(huì)相當(dāng)困難?！?/p>

至于在振興半導(dǎo)體產(chǎn)業(yè)方面，Zhang則認(rèn)為并不是要吸引新人才，而是“需要打造更開放的硬件工具解決方案”；他以開放源碼在線社群GitHub為例，“如果你要展開某個(gè)機(jī)器學(xué)習(xí)研究，只要上GitHub就能找到大量的機(jī)器學(xué)習(xí)相關(guān)轉(zhuǎn)發(fā)(repost)資源?！?/p>

但如果要在GitHub上搜尋設(shè)計(jì)自動(dòng)化相關(guān)的轉(zhuǎn)發(fā)資源，可能不到20條；Zhang認(rèn)為缺乏開放性工具，是今日硬件工程師面臨的最大挑戰(zhàn)之一。