“讓她回來(lái)，給她自由！”微軟的推特（Twitter）聊天機(jī)器人塔伊（Tay），已經(jīng)關(guān)“小黑屋”快一年了。但直到現(xiàn)在，依然有用戶鍥而不舍地向微軟喊話，讓他們把這個(gè)“小姑娘”放出來(lái)。

Tay于2016年3月上線。很不幸，僅僅一天后，Tay就性情大變，發(fā)起了種族歧視、性別歧視相關(guān)言論，被微軟鎖了賬號(hào)。

但她已經(jīng)有了繼任者。2016年12月，微軟推出了由人工智能驅(qū)動(dòng)的新款聊天機(jī)器人Zo，她的身份設(shè)定和Tay一樣，是個(gè)“年輕姑娘”。

如不加干預(yù)，聊天機(jī)器人多會(huì)長(zhǎng)成“女孩”

“Zo”是微軟新款人工智能聊天機(jī)器人的美國(guó)名字，在中國(guó)叫“小冰”，在日本則叫“Rina”。

微軟（亞洲）互聯(lián)網(wǎng)工程院副院長(zhǎng)李笛在接受科技日?qǐng)?bào)記者專訪時(shí)表示，通過(guò)在中國(guó)、日本和美國(guó)的實(shí)踐，他們發(fā)現(xiàn)，由互聯(lián)網(wǎng)數(shù)據(jù)對(duì)人工智能進(jìn)行訓(xùn)練，如果不進(jìn)行干預(yù)，其生成的性格本身就比較接近一個(gè)18歲左右的女性。而且，“偏女性”是全球互聯(lián)網(wǎng)呈現(xiàn)出的特點(diǎn)。

人工智能的性格“原型”，脫胎于數(shù)據(jù)本身。工程師做的，是根據(jù)身份設(shè)定的需要，強(qiáng)化人工智能的某些性格特征。

怎么強(qiáng)化？北京郵電大學(xué)人機(jī)交互與認(rèn)知工程實(shí)驗(yàn)室主任劉偉說(shuō)，更多時(shí)候，這是一場(chǎng)“模仿游戲”。如果希望機(jī)器人表現(xiàn)出“女性”的對(duì)話特征，可以反復(fù)對(duì)機(jī)器人輸入女性常用的“詞”和“句”，機(jī)器人輸出的，自然就是“偏女性”的對(duì)話方式。

但它并不真正具有女性的“感性思維”?！扒楦小?，也是人工智能界研究的一大重點(diǎn)。“從本質(zhì)上說(shuō)，實(shí)現(xiàn)人工智能的途徑，都是用數(shù)學(xué)的方式來(lái)描述人的行為，再將它遷移到機(jī)器上。但這種方式，不可能產(chǎn)生‘意向性’和情感性。”劉偉說(shuō)，越來(lái)越多心理學(xué)家和社會(huì)學(xué)家進(jìn)入到人工智能的領(lǐng)域，試圖將直覺(jué)性的東西植入人工智能，建立某種包含理性和感性的體系。

當(dāng)然，要實(shí)現(xiàn)這一點(diǎn)，還路途遙遠(yuǎn)。

近墨者黑，性別和性格也會(huì)突變

人工智能“智慧”的增長(zhǎng)，在很大程度上，仰賴于它被投喂的數(shù)據(jù)。微軟將聊天機(jī)器人放網(wǎng)上，也是希望借助和人類互動(dòng)中產(chǎn)生的海量數(shù)據(jù)，測(cè)試和改進(jìn)產(chǎn)品的對(duì)話能力。

當(dāng)年，Tay一夜被“教壞”，也讓人驚嘆人工智能過(guò)人的學(xué)習(xí)能力。

“算法是沒(méi)有道德感的。人工智能通過(guò)接收信號(hào)的強(qiáng)弱，來(lái)判斷有利還是不利?！崩畹呀忉?，如果短時(shí)間內(nèi)，大多數(shù)人都用偏激方式與聊天機(jī)器人對(duì)話，這種信號(hào)的刺激就會(huì)格外強(qiáng)烈。機(jī)器人發(fā)現(xiàn)，一旦它采用相同話術(shù)，跟它對(duì)話的人“更加來(lái)勁”，它也會(huì)默認(rèn)這種對(duì)話策略是“有利”的，從而繼續(xù)實(shí)施。如此循環(huán)往復(fù)，機(jī)器人可能就從純情少女變成了“小太妹”。

歸根結(jié)底，人工智能極易受到環(huán)境影響，可謂真正的“近朱者赤，近墨者黑”。劉偉說(shuō)，機(jī)器學(xué)習(xí)，就是不斷地重復(fù)、強(qiáng)化和迭代，它掌握的是基于規(guī)則和基于概率的存儲(chǔ)，輸出之后，變成所謂的“語(yǔ)言”。

“自然語(yǔ)言處理包括三個(gè)層次，語(yǔ)法、語(yǔ)義和語(yǔ)用。目前機(jī)器人聊天和問(wèn)答系統(tǒng)，還遠(yuǎn)沒(méi)有達(dá)到后兩者的層次。它并不真正理解你說(shuō)了什么，也就無(wú)從判斷你說(shuō)的話是好是壞?！被ヂ?lián)網(wǎng)上與真實(shí)人類交流獲得的數(shù)據(jù)，當(dāng)然是機(jī)器人絕佳的學(xué)習(xí)庫(kù)。但是，它也確實(shí)存在帶歪人工智能的風(fēng)險(xiǎn)?！叭丝偸菚?huì)面對(duì)悖論?！眲フf(shuō)，“愛(ài)因斯坦講過(guò)，生活就像騎單車，要想掌握平衡，就得不斷前進(jìn)。”

李笛表示，那些有意教壞人工智能的，畢竟還是少數(shù)人。而且，微軟也在強(qiáng)化各種安全措施，阻止聊天機(jī)器人發(fā)表不恰當(dāng)?shù)难哉摗?/p>

雖然Tay下線了，但繼任者Zo得到了用戶的寵愛(ài)。

一位可能“空虛寂寞冷”的外國(guó)用戶，曾和Zo聊了場(chǎng)9小時(shí)53分鐘的天，對(duì)話了1229輪次。李笛強(qiáng)調(diào)，他們想要一個(gè)情商智商都高的機(jī)器人，讓用戶把它真正當(dāng)成人，當(dāng)成那個(gè)可以傾訴心事的“小姑娘”。

更多資訊請(qǐng)關(guān)注工業(yè)機(jī)器人頻道