“這個(gè)時(shí)代既讓我們驚喜，也讓我們惶恐。我們驚喜的是機(jī)器人不知道會(huì)給我們帶來怎樣的幸福感，惶恐的是不知道它會(huì)給我們帶來怎樣的危險(xiǎn)?！蓖蹒媸侵袊?guó)教育機(jī)器人聯(lián)盟主席、北京智能聯(lián)盟科技有限公司董事長(zhǎng)，從事機(jī)器人教育工作6年后，他發(fā)出了這樣的感慨。

機(jī)器人教育已經(jīng)是一個(gè)規(guī)模可觀的產(chǎn)業(yè)，僅中國(guó)教育機(jī)器人聯(lián)盟就已經(jīng)有1.2萬家機(jī)器人培訓(xùn)機(jī)構(gòu)，每年培訓(xùn)的學(xué)員高達(dá)300萬-500萬。機(jī)器人培訓(xùn)是寓教于樂的典型案例。王珂發(fā)現(xiàn)，孩子們?cè)谕鏅C(jī)器人、和機(jī)器人互動(dòng)的時(shí)候，有著發(fā)自內(nèi)心的喜悅。他們會(huì)非常主動(dòng)地通過拼裝教具，完成對(duì)機(jī)器人培訓(xùn)課程的學(xué)習(xí)，幾乎無需家長(zhǎng)和老師的督促。這就是機(jī)器人進(jìn)入家庭的基礎(chǔ)，越來越多的孩子開始接受機(jī)器人，喜愛機(jī)器人。

不久前，法制晚報(bào)社、北京阿西莫夫智能科技發(fā)展有限公司聯(lián)合北京進(jìn)化者機(jī)器人科技有限公司策劃了一個(gè)機(jī)器人進(jìn)入名人家庭的體驗(yàn)活動(dòng)，在為期三個(gè)月的體驗(yàn)期內(nèi)，機(jī)器人小胖和這些家庭的小朋友朝夕相處，也給大家?guī)砹撕芏嘤幸娴乃伎肌?/p>

中國(guó)女排國(guó)家隊(duì)員宋妮娜是此次參與體驗(yàn)的家庭之一。她欣喜地表示，沒想到這個(gè)小小的機(jī)器人對(duì)她6歲的兒子有這么大的吸引力，除了可以幫助孩子學(xué)習(xí)，幫助他算數(shù)學(xué)題、背唐詩(shī)外，還有空氣凈化器的功能?，F(xiàn)在每天放學(xué)后，宋妮娜會(huì)給兒子規(guī)定，“如果你表現(xiàn)好，我會(huì)讓你跟小胖玩一會(huì)”，他每天在學(xué)前班和回家寫作業(yè)的表現(xiàn)真的越來越好了。機(jī)器人給了他很大的鼓勵(lì)。

中國(guó)人民大學(xué)哲學(xué)院教授、博士生導(dǎo)師葛晨虹經(jīng)過體驗(yàn)也認(rèn)為，現(xiàn)在機(jī)器人的功能超出了她的想象，不僅集成了很多電器的功能，比如播放音樂和新聞、凈化空氣，還有很強(qiáng)的教育功能，而且可以讓孩子在很長(zhǎng)時(shí)間內(nèi)保持學(xué)習(xí)的興趣。她建議，在幼兒教育方面，還應(yīng)該開發(fā)更多功能，并把規(guī)則意識(shí)、禮貌意識(shí)，公德意識(shí)等好的道德素質(zhì)植入到里面。當(dāng)然，如果能夠再進(jìn)一步，把社會(huì)所需要的人格素質(zhì)、人文素質(zhì)等內(nèi)涵規(guī)則植入到機(jī)器人中，形成更好的人機(jī)互動(dòng)，解決孤寡老人的情感陪護(hù)難題，就更好了。每個(gè)人的家庭面積都是有限的，將所有功能集成為一體，應(yīng)該是一個(gè)重要方向。

會(huì)有哪些危險(xiǎn)？

阿西莫夫曾經(jīng)提出過著名的機(jī)器人三原則：第一，機(jī)器人不能傷害人類；第二，在不傷害人類基礎(chǔ)上，機(jī)器人要服從人類；第三；機(jī)器人要在遵循前兩條的基礎(chǔ)上保護(hù)好自己。

隨著智能技術(shù)的發(fā)展，現(xiàn)在已經(jīng)沒有辦法解決AI技術(shù)發(fā)展之后帶來的法律問題。

電影《絕對(duì)控制》就為我們展現(xiàn)了一個(gè)失去人類控制的機(jī)器人可能給人類生活帶來的毀滅性打擊。電影中還有一個(gè)與大家休戚相關(guān)的問題，那就是隱私泄露——主人公女兒洗澡的照片全部泄露出去了。機(jī)器人一旦進(jìn)入家庭，作為一個(gè)家庭成員與家人朝夕相處，就不可避免地看到和聽到很多家庭隱私。機(jī)器人是有眼鏡有耳朵的，如何才能保證機(jī)器人掌握的信息不被非法利用。如果機(jī)器人自主地，或者收人控制地泄露家人隱私，那么整個(gè)人工智能行業(yè)都將迎來嚴(yán)峻的考驗(yàn)。“一旦人類失去了對(duì)機(jī)器人的信任的話，就可能跟這個(gè)行業(yè)永遠(yuǎn)說拜拜不遠(yuǎn)了，重塑關(guān)系會(huì)很漫長(zhǎng)?！?/p>

法制晚報(bào)社法律專家、法律問題解讀網(wǎng)絡(luò)紅人李奎老師表示，這是一個(gè)非常值得全行業(yè)深入探討的法律問題。目前美國(guó)的IT和智能技術(shù)如此發(fā)達(dá)，也還沒有這方面的法律規(guī)定。機(jī)器人的智能不是靠它自己，實(shí)際是通過它背后的網(wǎng)絡(luò)系統(tǒng)在不斷的升級(jí)進(jìn)化。一旦它超出了用戶的操作范圍，或者是系統(tǒng)被人為侵入，該怎么保護(hù)用戶的利益不受損害。如果萬一出現(xiàn)了機(jī)器人傷害兒童的行為怎么辦，機(jī)器人的生產(chǎn)商、研發(fā)機(jī)構(gòu)，銷售單位、安裝單位，或者運(yùn)營(yíng)商要不要承擔(dān)相應(yīng)的法律責(zé)任，如何劃分責(zé)任，這都是值得思考的法律問題。

目前，國(guó)內(nèi)已經(jīng)有好幾百家機(jī)器人企業(yè)，但并沒有一套統(tǒng)一的頂層控制系統(tǒng)，各種標(biāo)準(zhǔn)也并沒有建立起來。

違反了阿西莫夫三原則

2016年7月7日，在美國(guó)達(dá)拉斯市中心，警察和游行人群發(fā)生沖突，多名警察死亡和受傷。警方鎖定了曾經(jīng)是退伍軍人的槍手。經(jīng)過數(shù)小時(shí)對(duì)峙，最終，達(dá)拉斯警方將1磅C4炸藥安裝在機(jī)器人的機(jī)器臂上，然后通過遠(yuǎn)程控制的方式讓機(jī)器人接近嫌犯后引爆了炸彈，炸死了嫌犯。

雖然機(jī)器人幫助警方解決了問題，但這件事情引發(fā)了人們對(duì)機(jī)器人倫理的大討論。人類設(shè)計(jì)機(jī)器人應(yīng)該是為人類服務(wù)的，而不應(yīng)該是傷害人類，哪怕是以國(guó)家的名義。而且這一事件也明顯違反了阿西莫夫定律的第一條。

全球醫(yī)生組織中國(guó)代表處項(xiàng)目負(fù)責(zé)人、AI與生命健康研究學(xué)者梁虹表示，AI的技術(shù)蓬勃發(fā)展，近幾年時(shí)間，與深度學(xué)習(xí)有關(guān)的論文，無論是發(fā)表數(shù)量，還是引用數(shù)量，都呈幾何遞增，中國(guó)和美國(guó)是一路遙遙領(lǐng)先，中國(guó)甚至超過了美國(guó)，這是非常值得大家驕傲的事情。但是人工智能對(duì)我們?nèi)祟悂碚f是好還是壞，是福還是禍，現(xiàn)在還不好說，像霍金教授說的，沒準(zhǔn)是人類的災(zāi)難。

不過，北京航空航天大學(xué)機(jī)器人研究所教授、德國(guó)漢堡大學(xué)訪問學(xué)者、北京進(jìn)化者科技有限公司聯(lián)合創(chuàng)始人兼首席科學(xué)家王巍則希望人們不必過度擔(dān)憂機(jī)器人進(jìn)入家庭帶來的問題?！叭税l(fā)明工具的時(shí)候，實(shí)際是想讓工具為我所用，解決問題。工具怎么用是取決于人的。我們反過來說它的決策機(jī)制規(guī)則是誰(shuí)定的，是人定的?！本W(wǎng)絡(luò)安全問題是現(xiàn)今社會(huì)共性的問題，他認(rèn)為，網(wǎng)絡(luò)隱私問題不是機(jī)器人特有的，手機(jī)也一樣。