如何以公平的方式阻止人工智能偏見

時間:2022-06-22

來源:千家網(wǎng)

導(dǎo)語:隨著人工智能在整個企業(yè)的應(yīng)用越來越多,企業(yè)必須尋求人工智能的透明度和可審計性,以確保結(jié)果不受有害偏見的影響

  人工智能(AI)具有徹底改變業(yè)務(wù)運(yùn)營的巨大潛力。事實(shí)上,根據(jù)一項研究發(fā)現(xiàn),67%的企業(yè)預(yù)計人工智能和機(jī)器學(xué)習(xí)用例在未來一年將會增加。這些技術(shù)在提高業(yè)務(wù)效率、產(chǎn)生洞察力、增強(qiáng)市場競爭能力和提供個性化客戶體驗方面具有優(yōu)勢。

  然而,在高度監(jiān)管的行業(yè)中,企業(yè)面臨著與AI可解釋性相關(guān)的特殊挑戰(zhàn)。金融服務(wù)、保險和醫(yī)療保健等行業(yè)必須使用透明、可審計的決策平臺,以遵守嚴(yán)格的法規(guī)和合規(guī)標(biāo)準(zhǔn)。如今,有很多人工智能解決方案可以自動化業(yè)務(wù)流程和決策,但很少有能夠提供有意義的解釋。在充滿潛力的同時,企業(yè)必須絕不能忽視自動化決策和預(yù)測背后的原因。

  為未來的法規(guī)做準(zhǔn)備

  如今,政治組織和社會都呼吁提高人工智能的透明度。此外,政府和消費(fèi)者希望更深入地了解其信貸和貸款審批、營銷活動和智能家居技術(shù)背后的算法。美國的算法問責(zé)法和全球歐盟人工智能法的擬議立法尋求建立安全、道德和透明的人工智能結(jié)果的標(biāo)準(zhǔn)。然而,由于用例仍在演變和出現(xiàn),政府才剛剛開始尋找對AI實(shí)施監(jiān)管的方法。

  例如,紐約市議會通過了一項針對就業(yè)工具中使用的人工智能算法的法案。該法律將于2023年生效,要求雇主聘請獨(dú)立審計師來評估,以及用于評估求職者和現(xiàn)有員工的人工智能工具。該法律要求對用于篩選求職者或提拔員工的人工智能工具進(jìn)行偏見審計。對于有偏見的AI算法或未事先通知員工和候選人使用此類工具,將處以最高1.500美元的罰款。在短期內(nèi),隨著法規(guī)的出現(xiàn)和標(biāo)準(zhǔn)的發(fā)展,企業(yè)應(yīng)該專注于提高透明度的方法,為未來的法規(guī)做好準(zhǔn)備。

  利用機(jī)器學(xué)習(xí)的一個挑戰(zhàn)是,根據(jù)定義,它是基于偏見構(gòu)建的。雖然并不是所有的偏見都是有害的,但當(dāng)它產(chǎn)生的結(jié)果對受保護(hù)階層,如性別、種族、年齡等有利或不利,并對一個人產(chǎn)生負(fù)面影響,如批準(zhǔn)臨床試驗、健康管理、貸款資格或信貸批準(zhǔn)時,它就會變得有害。

  保護(hù)算法和防止有害偏見的必要性是眾所周知的。但要有效地消除有害的偏見,就需要了解每個決定或預(yù)測的數(shù)據(jù)。為了獲得至關(guān)重要的透明度,企業(yè)必須對由機(jī)器學(xué)習(xí)和業(yè)務(wù)規(guī)則組成的算法有可見性,從而推動決策以提供完整的審計跟蹤。例如,使用人工智能進(jìn)行理賠審批的保險公司必須能夠清楚地解釋為什么要做出每個決定。

  “黑匣子”問題如何加重AI創(chuàng)新的負(fù)擔(dān)

  借助人工智能,許多企業(yè)面臨著一個問題,它們的人工智能解決方案提供了預(yù)測并支持自動化,但無法解釋為什么它會做出某個決定以及影響結(jié)果的因素,就將企業(yè)置于重大法律或名譽(yù)損害的風(fēng)險之中。

  企業(yè)需要能夠清楚地看到結(jié)果背后的原因,以確保算法決定返回預(yù)期的結(jié)果。將人工智能的黑匣子變成透明、可解釋的“玻璃盒子”,對于防止對客戶和消費(fèi)者的傷害、降低公司和品牌的風(fēng)險至關(guān)重要。

  從本質(zhì)上講,機(jī)器學(xué)習(xí)基于歷史數(shù)據(jù)進(jìn)行預(yù)測?!巴ㄟ^意識實(shí)現(xiàn)公平”指的是一種方法,該方法允許企業(yè)通過使用元數(shù)據(jù)字段來確定一個模型是否對具有共享特征的各個組同樣表現(xiàn)良好,即使該特征沒有直接在模型中使用。這種意識有助于企業(yè)在導(dǎo)致不公平或有害的決定之前避免、量化和減輕有害的偏見。

  企業(yè)人工智能未來的清晰愿景

  隨著人工智能在整個企業(yè)的應(yīng)用越來越多,企業(yè)必須尋求人工智能的透明度和可審計性,以確保結(jié)果不受有害偏見的影響。只有當(dāng)我們優(yōu)先考慮并實(shí)施可解釋的、透明的人工智能解決方案時,我們才能減少有害的偏見,降低風(fēng)險并促進(jìn)信任。

  雖然基于技能的招聘越來越受歡迎,但關(guān)于這種做法的有效性和優(yōu)點(diǎn)的神話仍然存在。消除這些誤解是促進(jìn)必要變革的關(guān)鍵,以創(chuàng)造更公平、更可持續(xù)的勞動力。

  畢業(yè)生的生活

  美國勞動力市場將在2022年繼續(xù)調(diào)整。一項針對2.300多名高管的調(diào)查發(fā)現(xiàn),65%的高管希望在上半年增加新的固定職位。還有33%的人在競爭填補(bǔ)職位空缺,目前全美有超過1080萬個職位空缺。傳統(tǒng)的招聘實(shí)踐不是滿足勞動力需求的可行手段。公司必須使他們的方法現(xiàn)代化以保持競爭力。這意味著接受基于技能的招聘。

  基于技能的招聘強(qiáng)調(diào)候選人的技術(shù)技能和核心能力,而不是學(xué)位或證書,是工作成功的最關(guān)鍵因素。這種做法要求招聘團(tuán)隊定義一個角色所需的和首選的技能,并客觀地評估這些技能,以最大限度地減少招聘過程中的偏見。

  領(lǐng)先公司越來越多地轉(zhuǎn)向以技能為基礎(chǔ)的招聘,下面我們將討論一些關(guān)于采用基于技能的方法的最大誤區(qū)、以及如何解決它們來推動公司的文化轉(zhuǎn)變。

  1.以技能為基礎(chǔ)的招聘對大學(xué)畢業(yè)生不公平。

  以技能為基礎(chǔ)的招聘并不是要把大學(xué)畢業(yè)生排除在考慮范圍之外,或者降低入職門檻。它是關(guān)于闡明學(xué)位所代表的特定技能。這樣一來,持有學(xué)位的人和通過其他途徑掌握技能的求職者都可以考慮擔(dān)任該職位。這有助于為所有人提供民主化的經(jīng)濟(jì)機(jī)會,并擴(kuò)大公司可以獲得的人才庫。

  以前不需要學(xué)歷的職位,如今對四年學(xué)歷的需求,助長了聲望經(jīng)濟(jì),也讓企業(yè)需要付出更多的成本。在這種模式下,許多曾經(jīng)向上流動的工作對所有人來說都變得遙不可及,只有那些能夠負(fù)擔(dān)得起不斷上漲的高等教育費(fèi)用的人才能得到。這也將人才排除在低收入社區(qū)之外,尤其是有色人種。以技能為基礎(chǔ)的招聘為解決這種不平等提供了一種切實(shí)可行的方法,并為66%沒有學(xué)士學(xué)位的美國人,包括75%以上的黑人和80%以上的拉美裔恢復(fù)了候選人資格。

  2.基于技能的招聘會導(dǎo)致糟糕的招聘并損害業(yè)務(wù)。

  采用以技能為基礎(chǔ)的方法可以更有效地篩選和招聘候選人?;诩寄艿恼衅笇ξ磥肀憩F(xiàn)的預(yù)測能力是基于教育招聘的5倍,是基于工作經(jīng)驗的招聘的2.5倍。此外,許多企業(yè)報告稱,沒有學(xué)位的員工與大學(xué)畢業(yè)生的工作效率一樣高,在某些情況下甚至更高。

  以技能為基礎(chǔ)的招聘的其他優(yōu)勢包括:減少招聘時間,提高員工敬業(yè)度,降低人員流失率。

  3.在以技能為基礎(chǔ)的招聘并不是一個現(xiàn)實(shí)的人才獲取策略。

  也許不是在過去。從歷史上看,招聘團(tuán)隊對招聘工作采取了超本地化的視角。隨著遠(yuǎn)程工作的興起,企業(yè)可以發(fā)起更廣泛的求職者搜索,找到符合市場技能需求的人。

  從宏觀上來看,這可能看起來像在資源不足的地區(qū)與勞動力開發(fā)企業(yè)建立伙伴關(guān)系,以建立技能多樣的候選人管道來填補(bǔ)遠(yuǎn)程角色。通過這些伙伴關(guān)系,企業(yè)可以同時推動業(yè)務(wù)成果和經(jīng)濟(jì)公平。

  雖然設(shè)計和啟動基于技能的招聘需要時間,需要有意識地學(xué)習(xí)和放棄,但你的公司、員工和社區(qū)最終會受益?,F(xiàn)在投資于以技能為基礎(chǔ)的招聘將使企業(yè)為未來以技能為驅(qū)動的工作做好準(zhǔn)備,并創(chuàng)造一個所有美國人都能切實(shí)參與未來的經(jīng)濟(jì)。


中傳動網(wǎng)版權(quán)與免責(zé)聲明:

凡本網(wǎng)注明[來源:中國傳動網(wǎng)]的所有文字、圖片、音視和視頻文件,版權(quán)均為中國傳動網(wǎng)(www.treenowplaneincome.com)獨(dú)家所有。如需轉(zhuǎn)載請與0755-82949061聯(lián)系。任何媒體、網(wǎng)站或個人轉(zhuǎn)載使用時須注明來源“中國傳動網(wǎng)”,違反者本網(wǎng)將追究其法律責(zé)任。

本網(wǎng)轉(zhuǎn)載并注明其他來源的稿件,均來自互聯(lián)網(wǎng)或業(yè)內(nèi)投稿人士,版權(quán)屬于原版權(quán)人。轉(zhuǎn)載請保留稿件來源及作者,禁止擅自篡改,違者自負(fù)版權(quán)法律責(zé)任。

如涉及作品內(nèi)容、版權(quán)等問題,請在作品發(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系,否則視為放棄相關(guān)權(quán)利。

關(guān)注伺服與運(yùn)動控制公眾號獲取更多資訊

關(guān)注直驅(qū)與傳動公眾號獲取更多資訊

關(guān)注中國傳動網(wǎng)公眾號獲取更多資訊

最新新聞
查看更多資訊

熱搜詞
  • 運(yùn)動控制
  • 伺服系統(tǒng)
  • 機(jī)器視覺
  • 機(jī)械傳動
  • 編碼器
  • 直驅(qū)系統(tǒng)
  • 工業(yè)電源
  • 電力電子
  • 工業(yè)互聯(lián)
  • 高壓變頻器
  • 中低壓變頻器
  • 傳感器
  • 人機(jī)界面
  • PLC
  • 電氣聯(lián)接
  • 工業(yè)機(jī)器人
  • 低壓電器
  • 機(jī)柜
回頂部
點(diǎn)贊 0
取消 0