美國(guó)國(guó)防高級(jí)研究計(jì)劃局（DARPA）網(wǎng)站3月16日?qǐng)?bào)道，DARPA計(jì)劃啟動(dòng)“終身學(xué)習(xí)機(jī)器”（LifelongLearningMachines，L2M）項(xiàng)目，旨在發(fā)展下一代機(jī)器學(xué)習(xí)技術(shù)，并以其為基礎(chǔ)推動(dòng)未來(lái)人工智能（AI）發(fā)展。

項(xiàng)目背景

當(dāng)前，人工智能在無(wú)人駕駛、機(jī)器人等民用和商業(yè)領(lǐng)域的應(yīng)用日益廣泛，在國(guó)防領(lǐng)域亦是如此，例如人工智能在網(wǎng)絡(luò)安全和動(dòng)態(tài)后勤規(guī)劃等方面的應(yīng)用。人工智能以機(jī)器學(xué)習(xí)技術(shù)為核心，并依賴(lài)于精巧的編程和龐大的數(shù)據(jù)支撐。但真實(shí)世界充滿(mǎn)了偶然性，編程者無(wú)法預(yù)知所有可能出現(xiàn)的元素或面對(duì)的情景，而當(dāng)這些機(jī)器學(xué)習(xí)系統(tǒng)遇到程序和數(shù)據(jù)庫(kù)中并未包含的特殊情形時(shí)就會(huì)不知所措。如果想擴(kuò)展機(jī)器學(xué)習(xí)系統(tǒng)在該新環(huán)境下的能力，必須停止其服務(wù)并利用額外的數(shù)據(jù)對(duì)其進(jìn)行再訓(xùn)練，但這種做法依賴(lài)于人類(lèi)的介入且效率較低。與此不同，生物系統(tǒng)能夠?qū)崿F(xiàn)自主訓(xùn)練，從過(guò)往經(jīng)歷中不斷汲取經(jīng)驗(yàn)，即使面對(duì)全新的環(huán)境也能根據(jù)積累的知識(shí)做出適應(yīng)性調(diào)整。正因?yàn)槿绱耍词宫F(xiàn)階段最先進(jìn)的人工智能系統(tǒng)與具備自適應(yīng)能力的生物智能相比依舊相差甚遠(yuǎn)，這也是DARPA開(kāi)展L2M項(xiàng)目的初衷。

項(xiàng)目概況

L2M項(xiàng)目旨在發(fā)展類(lèi)似于生物智能的具備自主持續(xù)學(xué)習(xí)能力的機(jī)器學(xué)習(xí)技術(shù)。L2M項(xiàng)目為期四年，重點(diǎn)關(guān)注兩個(gè)技術(shù)領(lǐng)域。第一個(gè)技術(shù)領(lǐng)域：開(kāi)發(fā)可以持續(xù)從過(guò)往經(jīng)驗(yàn)中學(xué)習(xí)，并將所學(xué)知識(shí)應(yīng)用于新情況的機(jī)器學(xué)習(xí)機(jī)制，不斷擴(kuò)展自身能力并提高可靠性。以無(wú)人駕駛應(yīng)用為例，這種新技術(shù)可使無(wú)人駕駛汽車(chē)能夠從行駛過(guò)程中遇到的交通事故、視覺(jué)盲點(diǎn)等情形中學(xué)習(xí)相關(guān)經(jīng)驗(yàn)，從而在遇到從未面對(duì)的新路況時(shí)能夠應(yīng)用學(xué)習(xí)到的經(jīng)驗(yàn)有效應(yīng)對(duì)，使無(wú)人駕駛車(chē)輛更加安全可靠。與此同時(shí)，DARPA還計(jì)劃發(fā)展可監(jiān)控機(jī)器學(xué)習(xí)系統(tǒng)行為的技術(shù)，對(duì)其可自適應(yīng)調(diào)整的范圍進(jìn)行限制，并在必要時(shí)對(duì)其實(shí)施干預(yù)。這一領(lǐng)域的研究涵蓋了網(wǎng)絡(luò)理論、算法、軟件以及計(jì)算機(jī)體系結(jié)構(gòu)。另一個(gè)領(lǐng)域是關(guān)于生物智能的學(xué)習(xí)機(jī)制，重點(diǎn)關(guān)注生物如何學(xué)習(xí)并獲得自適應(yīng)能力，同時(shí)研究這種生物學(xué)習(xí)的原理及技術(shù)是否能夠應(yīng)用于機(jī)器學(xué)習(xí)系統(tǒng)以及如何應(yīng)用的問(wèn)題。

兩點(diǎn)認(rèn)識(shí)

DARPA將以L2M項(xiàng)目為基礎(chǔ)推動(dòng)第三次AI技術(shù)浪潮。DARPA認(rèn)為AI技術(shù)的發(fā)展已歷經(jīng)第一次和第二次浪潮，即將迎來(lái)第三次浪潮。第一次AI技術(shù)浪潮以“手工知識(shí)”為特征，典型范例如Windows操作系統(tǒng)、智能手機(jī)應(yīng)用程序、交通信號(hào)燈使用的程序等。第二次AI技術(shù)浪潮以“統(tǒng)計(jì)學(xué)習(xí)”為特征，典型范例如人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)，并在無(wú)人駕駛汽車(chē)等領(lǐng)域取得進(jìn)展。雖然上述AI技術(shù)對(duì)明確的問(wèn)題有較強(qiáng)的推理和判斷能力，但不具備學(xué)習(xí)能力，處理不確定問(wèn)題的能力也較弱。第三次AI技術(shù)浪潮將以“適應(yīng)環(huán)境”為特征，AI能夠理解環(huán)境并發(fā)現(xiàn)邏輯規(guī)則，從而進(jìn)行自我訓(xùn)練并建立自身的決策流程。由此可知，AI的持續(xù)自主學(xué)習(xí)能力將是第三次AI技術(shù)浪潮的核心動(dòng)力，L2M項(xiàng)目的目標(biāo)恰與第三次AI浪潮“適應(yīng)環(huán)境”的特征相契合。通過(guò)研發(fā)新一代機(jī)器學(xué)習(xí)技術(shù)，使其具備能夠從環(huán)境中不斷學(xué)習(xí)并總結(jié)出一般性知識(shí)的能力，L2M項(xiàng)目將為第三次AI技術(shù)浪潮打下堅(jiān)實(shí)的技術(shù)基礎(chǔ)。

DARPA在推動(dòng)AI技術(shù)發(fā)展的同時(shí)，強(qiáng)調(diào)對(duì)于AI技術(shù)的規(guī)范和限制。人類(lèi)對(duì)于人工智能技術(shù)安全性的思考由來(lái)已久，早在1950年出版的美國(guó)著名科幻小說(shuō)家艾薩克·阿西莫夫撰寫(xiě)的《我，機(jī)器人》小說(shuō)中就提出了著名的“機(jī)器人三大定律”：第一定律，機(jī)器人不得傷害人類(lèi)個(gè)體，或者目睹人類(lèi)個(gè)體將遭受危險(xiǎn)而袖手旁觀；第二定律，機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第一定律沖突時(shí)例外；第三定律，機(jī)器人在不違反第一、第二定律的情況下要盡可能保護(hù)自己的生存。此后，“三定律”在科幻題材的小說(shuō)、電影中大放光彩，并不斷激發(fā)出對(duì)于人工智能安全性的新思考。按照DARPA關(guān)于AI技術(shù)的發(fā)展思考，在第三次AI浪潮中，AI將具備自主學(xué)習(xí)能力，其終極形式必將會(huì)是具備自主意識(shí)的AI系統(tǒng)，到那時(shí)人類(lèi)與人工智能之間的關(guān)系必須由普適、可靠的準(zhǔn)則所定義，特別是在國(guó)防領(lǐng)域，否則極有可能出現(xiàn)科幻電影中描述的人機(jī)大戰(zhàn)。DARPA在L2M項(xiàng)目中明確強(qiáng)調(diào)，在提升AI技術(shù)水平的同時(shí)，確保其在預(yù)先制定的相關(guān)準(zhǔn)則下進(jìn)行工作，防止其出現(xiàn)越界行為。無(wú)論是否受到上述觀點(diǎn)的影響，DARPA此時(shí)強(qiáng)調(diào)對(duì)于AI技術(shù)安全性的管控可能都將是AI技術(shù)發(fā)展過(guò)程中的必然選擇和重要課題，也許在不久的將來(lái)科幻小說(shuō)中的“機(jī)器人三定律”就可能成為未來(lái)人工智能的安全準(zhǔn)則。

更多資訊請(qǐng)關(guān)注工業(yè)機(jī)器人頻道