【中國傳動網(wǎng) 技術(shù)前沿】 麻省理工學(xué)院的研究人員最近開發(fā)出一種神經(jīng)網(wǎng)絡(luò)，能夠以相對較高的準(zhǔn)確度對個人患有認(rèn)知功能障礙的可能性做出預(yù)測。因此在一定程度上，我們可以將其理解為一種抑郁癥檢測器。

當(dāng)然，這種說法并不準(zhǔn)確，我們將稍后詳加探討。

由麻省理工研究員TukaAlhanai、MohammadGhassemi以及JamesGlass組成的研究團(tuán)隊在Interspeech2018大會上展示其工作成果。

根據(jù)相關(guān)論文，他們開發(fā)出一種無情境方法，可借此確保機(jī)器對人類的文本或音頻表達(dá)內(nèi)容進(jìn)行分析，從而檢測出該人的抑郁度評分。其中最為關(guān)鍵的，當(dāng)然在于這套人工智能方案的“無情境”因素。

一般來講，治療師需要利用經(jīng)過驗(yàn)證的問題與直接觀察相結(jié)合，共同診斷對方的抑郁癥等精神健康狀況。而根據(jù)麻省理工學(xué)院團(tuán)隊的說法，他們的人工智能能夠在無需條件性問題或者直接觀察的前提下，實(shí)現(xiàn)類似的效果。換言之，其不需要情景信息，而只需要數(shù)據(jù)資料。

下面來看該團(tuán)隊所發(fā)布論文中的部分內(nèi)容：

麻省理工學(xué)院研究人員詳細(xì)介紹一種神經(jīng)網(wǎng)絡(luò)模型，該模型能夠通過訪談方式對原始文本及音頻數(shù)據(jù)進(jìn)行解析，從而發(fā)現(xiàn)可能預(yù)示抑郁癥疾病的表達(dá)模式。在給定新主題的情況下，其能夠準(zhǔn)確預(yù)測相關(guān)個體是否存在壓抑情緒，且不需要任何其它相關(guān)問題及答案信息。

那么，這到底屬于檢測還是預(yù)測?

雖然看似無關(guān)緊要，但檢測與預(yù)測實(shí)際上屬于完全不同的兩回事。預(yù)測個體是否存在抑郁傾向的算法僅僅代表一種標(biāo)記數(shù)據(jù)，將被提交給治療師進(jìn)行進(jìn)一步審查。但對抑郁癥的檢測，則要求其給出的確定性結(jié)果確實(shí)與目標(biāo)個體的精神狀態(tài)相符。

當(dāng)然，研究人員們也意識到了這一點(diǎn)。論文第一作者TukaAlhanai表示，“這不是在對抑郁癥進(jìn)行檢測，而是根據(jù)言語中的常見信號對個體的認(rèn)知障礙問題做出一定程度的評估。”

幸好，看起來他們很明確地強(qiáng)調(diào)這是一種預(yù)測，而非檢測。但也正是這種微小的區(qū)別，使得這項工作在本質(zhì)上具有可怕的影響。

為了測試這套人工智能方案，研究人員們進(jìn)行了一項實(shí)驗(yàn)，由人為控制的虛擬代理對142名受試者提出一系列問題，從而進(jìn)行抑郁癥篩查。人工智能并沒有事先了解問題內(nèi)容，而受訪者亦可自由以任何形式做出回答。問題的形式并非單項選擇，人工智能需要從語言線索當(dāng)中辨別抑郁癥。

在這項研究中，參與者的回答將以文本及音頻形式進(jìn)行記錄。在文本版本中，人工智能能夠在大約7個問答序列之后預(yù)測抑郁癥。但有趣的是，在音頻版本當(dāng)中，人工智能需要大約30個序列才能做出決定。據(jù)研究人員稱，其平均準(zhǔn)確率達(dá)到驚人的77%。

問題在哪?很明顯，相信任何能夠直接接受醫(yī)師診療的病患，都不會選擇這種預(yù)測方式。

在辦公室中觀察病人的治療師們顯然認(rèn)為自己擁有遠(yuǎn)超算法的診斷能力。而且這類人工智能方案與利用圖像識別/檢測癌癥不同。人類醫(yī)師可以通過醫(yī)學(xué)影像發(fā)現(xiàn)并清除癌癥(在大多數(shù)情況下)，但卻無法利用同樣的方式驗(yàn)證人工智能做出的抑郁癥診斷。

從理論角度講，當(dāng)計算機(jī)與人類聆聽同一段對話并最終做出截然相反的抑郁癥診斷結(jié)論時，我們該如何判斷真?zhèn)?或者，如果大家愿意，那么在計算機(jī)發(fā)現(xiàn)對方存在潛在抑郁癥跡象時，我們是否也應(yīng)進(jìn)行相同的檢查以確保醫(yī)生做出的非抑郁癥判斷準(zhǔn)確無誤?在這樣的情況下，自動化機(jī)制存在的意義是什么?

更重要的是，當(dāng)醫(yī)療專業(yè)人員以外的人士使用這種“抑郁癥檢測器”時，又會引發(fā)怎樣的后果?論文中的某些表達(dá)似乎證明，這些算法確實(shí)是為了在高枕而麻省理工學(xué)院實(shí)驗(yàn)環(huán)境之外的實(shí)際應(yīng)用而開發(fā)：

患有抑郁癥的病患將長年累月受到消極與悲傷情緒的困擾。要治療抑郁癥患者，必須首先對其做出診斷。而為了獲取診斷結(jié)果，受試個體必須主動與心理健康專業(yè)人士進(jìn)行接觸。實(shí)際上，由于移動性、成本與動機(jī)等因素的限制，抑郁癥患者可能無法得到應(yīng)有的專業(yè)關(guān)注。在這種情況下，人工智能方案提供的人類交流內(nèi)容自動監(jiān)測能力將解決這些限制，并提供更好的抑郁癥篩查服務(wù)。

對人類通信進(jìn)行自動監(jiān)控似乎代表著夢魘般的反烏托邦未來。我們可以想象，人們將在不知情的前提下面對一系列問答序列，并由機(jī)器對其心理健康情況做出評估。相信大多數(shù)人都會意識到，在未經(jīng)同意的情況下利用神經(jīng)網(wǎng)絡(luò)這類黑匣子進(jìn)行心理健康評估絕不是什么好主意。

想象一下，如果企業(yè)利用“抑郁癥檢測器”這類人工智能方案在面試過程中對您進(jìn)行心理狀況檢測，或者律師通過算法解釋您在子女監(jiān)護(hù)權(quán)案件中的表述，會引發(fā)怎樣可怕的后果乃至影響。

更糟糕的是，我們甚至能夠想到警察局利用人工智能黑匣子對嫌疑人在審訊過程中的精神狀態(tài)進(jìn)行監(jiān)測。畢竟世界各地的執(zhí)法單位需要投入大量資金與寶貴時間對嫌疑人進(jìn)行心理學(xué)側(cè)寫，而人工智能據(jù)稱能夠更好地“檢測”對方的情緒狀態(tài)。

可以想象，如果全面推出，這類解決方案最終一定會出現(xiàn)在審訊室、就業(yè)面試以及其它難以預(yù)知的場景當(dāng)中。我們絕不應(yīng)被人工智能的判斷所左右：機(jī)器絕對無法檢測到我們是否身為同性戀、有罪或者沮喪，它們只是在做出猜測。而身為人類，我們理應(yīng)非常謹(jǐn)慎地對這種猜測結(jié)果加以運(yùn)用。