【邁向廣義AI之路的5大挑戰(zhàn)】IBM研究院(IBMResearch)AI與IBMQ量子計算機副總裁DarioGil在DAC發(fā)表“AI成為新IT技術(shù)”(AIisthenewIT)的專題演說。Gil介紹了AI技術(shù)的最新發(fā)展情勢，并強調(diào)業(yè)界積極拓展AI版圖的幾個重要領(lǐng)域。

回頭看看在關(guān)鍵的2012年，那是在ImageNet挑戰(zhàn)賽(ImageNetChallenge)中開發(fā)的深度卷積神經(jīng)網(wǎng)絡(luò)(CCN)首度被證實對于視覺對象辨識算法帶來突破之時。人工標記(labeled)的數(shù)據(jù)與運算能力急劇增加，加上算法的長足進展，進一步加速了深度學習革命。

許多產(chǎn)業(yè)領(lǐng)域開始對AI深感興趣。Gil指出，衡量這一趨勢的方法之一是學生選讀機器學習入門課程的人數(shù)。他說，以住這些課程通常約有30到40名學生注冊，而今，美國史丹佛大學(StanfordUniversity)已有逾千人報名，麻省理工學院(MIT)也有700多名學生選讀。

狹義AI

就像我們目前看到的，AI被應(yīng)用在語言翻譯、語音轉(zhuǎn)錄、對象檢測和人臉識別。Gil將現(xiàn)階段的AI應(yīng)用稱之為“狹義形式的AI”(anarrowformofAI)，即AI只在單一領(lǐng)域執(zhí)行單項任務(wù)。

盡管如此，AI已經(jīng)像野火般迅速在許多產(chǎn)業(yè)領(lǐng)域蔓延開來了。Gil說：“目前已經(jīng)累積幾百種應(yīng)用了，這一應(yīng)用清單還相當長。”IBM開始在這一廣泛應(yīng)用中追蹤AI可能帶來的各種挑戰(zhàn)，其范圍從設(shè)計自動化、工業(yè)、醫(yī)療保健以及視覺檢測到客戶服務(wù)、營銷/業(yè)務(wù)、物聯(lián)網(wǎng)(IoT)以及合規(guī)性等。例如，在IC設(shè)計中，機器學習已經(jīng)用于最佳化合成流程。

圖1：機器學習應(yīng)用于IBM22nmZ13系統(tǒng)（來源：IBM）。

IBM以22nm制程開發(fā)其z和Power服務(wù)器微處理器芯片，就是一個很好的例子。IBM根據(jù)經(jīng)驗知道機器學習能有效地“讓合成流程參數(shù)自動化調(diào)整，向?qū)＜壹壴O(shè)計人員汲取知識，并從之前的設(shè)計執(zhí)行中學習。”

圖2：運用機器學習實現(xiàn)合成流程優(yōu)化（來源：IBM）。

這項計劃顯示了AI的未來承諾。但Gil也在專題演講中提醒道，“我們還只是在AI的早期發(fā)展階段?！睘槭裁茨?？他強調(diào)，在“狹義AI”(NarrowAI)和“廣義AI”(BroadAI)（以及最終的“普適AI”(GeneralAI)）之間，界線“還很遙遠”。

Gil指出，最終，“我們必須打造一個可以學習和閱讀的系統(tǒng)，它能夠在跨不同領(lǐng)域之間自動游移，并跨越任意空間進行學習。目前這仍然是非常困難的問題?！?/p>

針對以足夠的標記數(shù)據(jù)在單一領(lǐng)域中執(zhí)行單項任務(wù)的AI，Gil說：“我們絲毫不懷疑這樣的AI能夠?qū)崿F(xiàn)超人類的準確度性能?！钡涮魬?zhàn)在于狹義AI如何演變?yōu)楦鼜V泛的形式。Gil解釋了目前的這個困境：當你需要在另一個領(lǐng)域執(zhí)行另一項任務(wù)時，你得從頭開始建構(gòu)一種新的神經(jīng)網(wǎng)絡(luò)并加以整理。他強調(diào)，這個世界需要的AI是可以跨越任務(wù)和領(lǐng)域發(fā)展的。

廣義AI——跨越不同任務(wù)與領(lǐng)域界線

為了進一步拓展AI，AI社群面對幾項關(guān)鍵挑戰(zhàn)。

1）可解釋的AI

Gil首先強調(diào)的是“可解釋的AI”(ExplainableAI)。AI所作的判斷必須是可以解釋的。

Gil說：“我們必須創(chuàng)造一個沒有黑盒子(blackbox)的AI。我們應(yīng)該要能更清楚在神經(jīng)網(wǎng)絡(luò)中發(fā)生的事情?！彼a充說，神經(jīng)網(wǎng)絡(luò)需要有除錯器來發(fā)現(xiàn)錯誤。

對于推薦書籍閱讀的AI系統(tǒng)，黑盒子策略應(yīng)該是可行的。但是，Gil強調(diào)：“在這么多領(lǐng)域的許多產(chǎn)業(yè)中，黑盒子不一定都能被接受。這是AI進展的基礎(chǔ)。當人們做出涉及大量投資的高風險決策時，以安全性作為關(guān)鍵因素，黑盒子AI可能成為盲點?！?/p>

2）AI很脆弱

Gil說：“雖然神經(jīng)網(wǎng)絡(luò)的能力令人印象深刻，但AI卻非常脆弱?！敝灰腥魏胃蓴_注入系統(tǒng)中，你就可能騙過它。AI可能因為任何噪聲導致混亂，甚至將一輛巴士誤認為長頸鹿。Gil說，這聽起來很搞笑，但如果因為誤判成一只長頸鹿這樣的錯誤讓數(shù)十億美元的投資化為泡影，那可是非常嚴重的問題。此外，入侵系統(tǒng)還可能造成神經(jīng)網(wǎng)絡(luò)中毒。他解釋說，有鑒于神經(jīng)網(wǎng)絡(luò)易于受到各種攻擊，架構(gòu)起難以穿透的安全性至關(guān)重要。

3）AI的道德問題

“至于倫理道德，這可是個重大的話題?！盙il說：“在我們討論這種超智慧的概念之前，我想談?wù)勛约赫嬲龑Ｗ⒌念I(lǐng)域。這就是偏見。在神經(jīng)網(wǎng)絡(luò)中加進了偏見?！?/p>

在建立一個以各種例子作為訓練基礎(chǔ)的系統(tǒng)時，這些例子本身可能就會帶入來自社會習俗的偏見。Gil引用了信貸決策的例子。一個從過去案例中學習的系統(tǒng)可能會認為“不要提供信貸給少數(shù)族群或女人”Gil說：“我們?nèi)绾悟炞C系統(tǒng)使用的例子是『無偏見的』？如何加以檢查？”

4）從“小數(shù)據(jù)”中學習？

在訓練數(shù)據(jù)中，例子經(jīng)常是通用的。Gil強調(diào)，為了AI的進展，下一步是要弄清楚如何從更少量的數(shù)據(jù)中學到更多東西。AI應(yīng)該要能夠利用“先驗知識”(priorknowledge)，并將其學習和“權(quán)重”從一個神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)移到其他領(lǐng)域的其他網(wǎng)絡(luò)。AI結(jié)合了學習和推論。我們在學習方面取得了很大的進步，但推論呢？Gil說：“似乎就不那么重要了”。總之，AI能夠累積知識，但也必須能夠?qū)⒗碛蓱?yīng)用于該知識。

5)AI基礎(chǔ)設(shè)施

業(yè)界必須繼續(xù)建設(shè)AI的基礎(chǔ)設(shè)施。AI的進步一直是來自業(yè)界不斷地高運算能力。最近的“硬件復興”(hardwarerenaissance)誕生了嶄新的架構(gòu)。Gil指出，更多的創(chuàng)造力預(yù)先為我們開啟了一張“美好的發(fā)展藍圖”。“由于像深度學習這樣的專用工作負載，”AI取得了巨大的進步。但Gil也強調(diào)，業(yè)界還必須持續(xù)開發(fā)AI基礎(chǔ)設(shè)施。

圖3：邁向廣義AI之路（來源：IBM）。

普適AI

在廣義AI階段之后，IBMResearch預(yù)期“普適AI”(GeneralAI)至少要到2050年之后才會實現(xiàn)。Gil說，當科學家拋出2050年這樣的數(shù)字時，他們真正的意思是“我們毫無頭緒……”。

圖4：AI的演進（來源：IBM）。

但AI的普適形式仍在發(fā)展的議程上，研究界正致力于弄清楚AI如何理解的問題。

當然，機器已經(jīng)證明了有能力在像棋弈競賽中超越人類，因為“規(guī)則”主宰了這一類明確定義環(huán)境的競賽。然而，IBM的研究人員現(xiàn)在想知道機器思考如何在非二進制環(huán)境下運作，它不再僅僅產(chǎn)生非黑即白的答案。有鑒于此，IBMResearch的以色列團隊推出了AI辯論系統(tǒng)——IBMDebater。

上周，在舊金山舉行的活動中，IBM展示了這套IBMDebater——據(jù)稱針對政府是否應(yīng)該支持某些計劃(如支持音樂教育)等主題，它“不會輸給任何技巧純熟的人類辯論者”。