雷鋒網(wǎng)按：本文作者 Ryan O'Hare，來(lái)源Dailymail，由雷鋒網(wǎng)獨(dú)家編譯，未經(jīng)許可拒絕轉(zhuǎn)載！

毫無(wú)疑問(wèn)，人類(lèi)不自覺(jué)的性別偏見(jiàn)會(huì)影響對(duì)語(yǔ)言進(jìn)行分析的計(jì)算機(jī)算法。比如，當(dāng)用人單位在搜索簡(jiǎn)歷輸入“程序員”這個(gè)崗位的時(shí)候，搜索結(jié)果會(huì)優(yōu)先顯示來(lái)自男性求職者的簡(jiǎn)歷——因?yàn)椤俺绦騿T”這個(gè)詞與男性的關(guān)聯(lián)比女性更密切。同理，當(dāng)搜索目標(biāo)為“前臺(tái)”時(shí)，女性求職者的簡(jiǎn)歷則會(huì)被優(yōu)先顯示出來(lái)。這樣帶有性別歧視的計(jì)算機(jī)算法對(duì)求職者而言是不公平的。

目前，來(lái)自微軟的程序員Adam Kalai正在與波士頓大學(xué)的科學(xué)家們合作，嘗試通過(guò)一種叫“詞向量”的技術(shù)，瓦解計(jì)算機(jī)算法中反射出的人類(lèi)社會(huì)的性別歧視。“詞向量”技術(shù)的基礎(chǔ)是教計(jì)算機(jī)通過(guò)發(fā)掘詞語(yǔ)之間的的關(guān)聯(lián)進(jìn)行語(yǔ)言處理。通過(guò)使用這個(gè)方法，計(jì)算機(jī)可以通過(guò)比較單詞 “她”和“他”來(lái)了解上下文的語(yǔ)境。在具體運(yùn)用時(shí)，計(jì)算機(jī)會(huì)找到諸如 “姐姐-弟弟”和“王后-國(guó)王”這樣合適的配對(duì)。

Kalai在接受美國(guó)國(guó)家公共電臺(tái)的采訪時(shí)表示，“我們?cè)噲D避免在新聞中體現(xiàn)與性別歧視相關(guān)的內(nèi)容……但是你會(huì)發(fā)現(xiàn)，這些單詞配對(duì)存在赤裸裸的性別歧視意味?！?/span>

在網(wǎng)上最新公布的一篇研究報(bào)告中，該研究小組發(fā)現(xiàn)，他們可以訓(xùn)練計(jì)算機(jī)忽略單詞的某些特定的關(guān)聯(lián)，同時(shí)保留它們需要的關(guān)鍵信息。他們解釋道：“我們的目標(biāo)是減少單詞配對(duì)中的性格偏見(jiàn)，同時(shí)保留詞向量中有用的一些特征?！蓖ㄟ^(guò)對(duì)算法的略微調(diào)整，他們可以消除 “前臺(tái)”和“女性”之間的聯(lián)系，同時(shí)保留合適的單詞配對(duì)，比如“王后”和“女性”。

雖然該算法基于性別產(chǎn)生配對(duì)，但還是忽略了其中潛在的某些聯(lián)系——有些單詞的性別特征的確比較鮮明。他們相信這個(gè)方法會(huì)讓計(jì)算機(jī)學(xué)習(xí)通過(guò)詞向量，在保留有效聯(lián)系的同時(shí)，擺脫固有的性格偏見(jiàn)。根據(jù)美國(guó)國(guó)家公共電臺(tái)的報(bào)道，問(wèn)題是不一定要采用“詞向量”去處理語(yǔ)言。這種算法可以分辨性別和種族，但只有當(dāng)研究人員希望專注于某一特定性別或者族群時(shí)，才可能需要用到這種算法。

當(dāng)這種技術(shù)被用作毫無(wú)偏見(jiàn)地篩選數(shù)據(jù)的方法，而不考慮性別或種族偏見(jiàn)時(shí)，事情就會(huì)比較復(fù)雜了。對(duì)此，科學(xué)家們解釋道：“對(duì)基于種族、民族和文化的固有成見(jiàn)而產(chǎn)生的直接和間接偏見(jiàn)的理解是頗為微妙的。在未來(lái)，這項(xiàng)工作的一個(gè)重要方向是能夠量化并消除這些偏見(jiàn)?！?/span>

當(dāng)然，想要完全杜絕偏見(jiàn)是不可能的，配對(duì)的規(guī)則掌握在人類(lèi)手中，只要人類(lèi)的偏見(jiàn)還存在，機(jī)器人的偏見(jiàn)也不會(huì)消失。

via dailymail

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。