0
| 本文作者： 伍文靚 | 2019-04-03 18:31 |
雷鋒網(wǎng)注：【 圖片來源：IEEE 所有者：Matthias Graben/Getty Images 】
Jimmy Gomez畢業(yè)于哈佛大學(xué)，是加州民主黨成員，也是美國眾議院為數(shù)不多的西班牙裔議員之一。但在亞馬遜公司的面部識別系統(tǒng)看來，Gomez更像是一個潛在的罪犯。
亞馬遜公司的面部識別系統(tǒng)名為Rekognition，去年，美國公民自由聯(lián)盟(ACLU)對該系統(tǒng)進行了測試。測試結(jié)果顯示，該系統(tǒng)錯誤地將美國國會議員Gomez與被捕罪犯的面部照片進行了配對。而且，警方使用的Rekognition系統(tǒng)中，有近40%的錯誤匹配涉及有色人種。
這一發(fā)現(xiàn)讓公民自由團體、立法者，甚至一些科技公司的擔(dān)憂日益加劇。這種技術(shù)已經(jīng)在iphone和安卓手機上得到了應(yīng)用，警方、零售商、機場和學(xué)校等組織也在慢慢接受這種技術(shù)。隨著面部識別技術(shù)變得更加主流，它可能會傷害少數(shù)群體。
研究表明，對于面部識別系統(tǒng)來說，準(zhǔn)確地識別女性和深色人種難度更大，這個問題可能會導(dǎo)致災(zāi)難性的誤報。公民自由律師Jacob Snow說，“這個例子說明，如果將面部識別技術(shù)應(yīng)用到執(zhí)法領(lǐng)域，可能會帶來有害的后果?！?/p>
面部識別技術(shù)固然有它的好處。馬里蘭州警方利用該技術(shù)確認(rèn)了大規(guī)模槍擊案的嫌疑人；在印度，警方利用該技術(shù)在四天內(nèi)確認(rèn)了近3000名失蹤兒童的身份；臉書利用該技術(shù)為視障人士識別照片中的人物；除此之外，面部識別技術(shù)已經(jīng)成為解鎖智能手機的一種便捷方式。
但這項技術(shù)并不完美，也有一些令人尷尬的失誤。谷歌圖片曾把兩個黑人貼上大猩猩的標(biāo)簽；在中國，一名女性聲稱，她同事的臉能夠解鎖她的iPhone X。當(dāng)執(zhí)法機構(gòu)用這項技術(shù)來識別犯罪嫌疑人，或者識別在抗議活動的參與人時，誤判的風(fēng)險就會加大?！爱?dāng)你把這項技術(shù)賣給執(zhí)法部門，讓他們來識別通緝犯，情況就完全不同了?！盙omez說，“因為，你創(chuàng)造了一種可能性，面部識別技術(shù)產(chǎn)生的誤報可能讓執(zhí)法部門傷及無辜，甚至鬧出人命。”
Gomez議員對ACLU的調(diào)查結(jié)果并不感到震驚，他指出，科技工作者往往更注重如何讓技術(shù)發(fā)揮作用，而不是深思熟慮他們的技術(shù)會不會影響其他群體。科技公司對Gomez的批評做出了回應(yīng)，他們改善了用于訓(xùn)練面部識別系統(tǒng)的數(shù)據(jù)。但與民權(quán)主義人士一樣，科技公司同樣呼吁政府加強監(jiān)管，保護這項技術(shù)不被濫用。喬治敦大學(xué)法學(xué)院的研究人員估計，美國執(zhí)法部門的面部識別數(shù)據(jù)庫存儲了二分之一的成年公民信息。
亞馬遜反駁了ACLU的測試結(jié)果，該公司聲稱，ACLU在運行測試時使用了錯誤的設(shè)置。亞馬遜AI項目的總經(jīng)理Matt Wood在一篇博客文章中寫道，“就像烤披薩，錯誤的溫度設(shè)定會把披薩烤壞，我們不應(yīng)該把這個原因歸結(jié)在烤箱身上。在幫助執(zhí)法機構(gòu)完成工作的方面，機器學(xué)習(xí)發(fā)揮著至關(guān)重要的作用。我們應(yīng)該關(guān)注面部識別技術(shù)的正確使用，同時也不應(yīng)該把面部識別全盤否定?！?/p>
與白人男性相比，面部識別技術(shù)在識別其他群體和女性時，可能會遇到更多困難，造成這一情況的原因有很多。
喬治敦大學(xué)法學(xué)院隱私與技術(shù)中心高級助理Clare Garvie說，科技公司用來訓(xùn)練面部識別系統(tǒng)的數(shù)據(jù)庫中，白人的圖片可能比其他群體的圖片更多。例如，如果一家公司使用名人數(shù)據(jù)庫中的照片，這家公司的系統(tǒng)就會傾向于白人，因為其他群體在好萊塢的代表性不足。
雷鋒網(wǎng)注：【 圖片來源：IEEE 所有者：Getty Images 】
Garvie說，科技公司的工程師們(主要由白人男性組成)也可能無意中設(shè)計了面部識別系統(tǒng)，以便更好地識別某些種族。研究表明，人們更難識別其他種族的面孔，“跨種族偏見”可能會蔓延到AI技術(shù)之中。
Garvie還補充道，此外還有一些挑戰(zhàn)，比如深色皮膚缺乏顏色對比，或者女性用化妝品來掩蓋皺紋，或者用不同的方式梳頭。MIT媒體實驗室進行的一項調(diào)查表明，與白人男性相比，微軟、IBM等公司制造的面部識別系統(tǒng)更難識別深膚色女性的性別，例如非裔美籍女性。深膚色女性性別被誤認(rèn)的概率高達35%，而識別淺膚色的人種（白人男性）的錯誤率只有1%。
MIT今年1月發(fā)布的另一項研究顯示，在識別深膚色女性的性別方面，亞馬遜的面部識別技術(shù)比上述兩家公司更差。
亞馬遜公司對MIT的研究結(jié)果提出了質(zhì)疑，女發(fā)言人Matt Wood在博客文章中指出，這項研究“具有誤導(dǎo)性”。因為，研究人員使用了“面部分析”來識別人臉的特征，例如性別或微笑，而不是將人臉與照片或視頻中的圖象進行“面部識別”。
“面部分析和面部識別在基本技術(shù)和訓(xùn)練數(shù)據(jù)來源方面是完全不同的?！盡att Wood表示，“試圖使用面部分析來判斷面部識別的準(zhǔn)確性很不明智，因為面部分析不是為算法而生的?！?/p>
科技巨頭們并不是沒有考慮到種族偏見。Microsoft公司表示，自己在去年就將識別女性和深膚色人種的錯誤率降低了20倍；Facebook公司使用面部識別技術(shù)來標(biāo)記用戶，公司的一位發(fā)言人表示，該公司確保其使用的數(shù)據(jù)是“平衡的，并且反映了Facebook用戶的多樣性”；Google聲稱，它發(fā)表了關(guān)于人工智能的原則，其中包括禁止“制造或加強不公平的偏見”。
今年1月，IBM發(fā)布了一組“人臉多樣性”的數(shù)據(jù)，旨在促進對面部識別的公平性和準(zhǔn)確性的研究。這些數(shù)據(jù)包括100萬張人臉圖片，并附有人臉對稱性、鼻子長度和前額高度等標(biāo)簽?！皩τ诙鄻有缘囊饬x，我們有一些主觀和淺顯的見解，”IBM“人臉多樣性”項目的首席科學(xué)家John Smith說，“因此，IBM創(chuàng)建這個數(shù)據(jù)庫的目的是深入研究如何真正測量人臉的多樣性?！痹摂?shù)據(jù)庫的照片來自照片網(wǎng)站Flickr。
本月，IBM遭到了一些攝影師、專家和活動人士的批評，因為IBM沒有征求人們的同意，就將他們的照片用于改善面部識別技術(shù)。作為回應(yīng)，IBM表示將嚴(yán)肅對待隱私問題，用戶可以選擇退出數(shù)據(jù)庫。
亞馬遜表示，目前，自己公司正在使用反映多樣性的培訓(xùn)數(shù)據(jù)源，并向客戶傳授面部識別技術(shù)的最佳使用方案。今年2月，該公司發(fā)布了指導(dǎo)方針，稱立法者在考慮監(jiān)管時應(yīng)將其考慮在內(nèi)。
公司副總裁Michael Punke在一篇博客文章中表示:“各方應(yīng)該進行開誠布公地對話，以確保該技術(shù)應(yīng)用得當(dāng)，并不斷進行改進?！?/p>
盡管科技公司努力提高面部識別技術(shù)的準(zhǔn)確性，但在歧視移民或其他種族方面，人們的擔(dān)憂并沒有消失。部分原因是這些群體在日常生活中仍在與偏見作斗爭。
民權(quán)組織和專家認(rèn)為，執(zhí)法部門和政府仍然可以利用這項技術(shù)來識別政治抗議者或追蹤移民，從而限制他們的自由。Garvie表示，“這是一個足以成為監(jiān)視工具的精確系統(tǒng)。”
民權(quán)組織和科技公司均呼吁政府介入?！叭绻牍芾碓摷夹g(shù)的應(yīng)用，最有效方法就是管理好政府自己對這項技術(shù)的使用?！盡icrosoft公司總裁Brad Smith在一篇博客文章中寫道，“如果人們對某項技術(shù)在社會上的廣泛應(yīng)用感到擔(dān)憂，那么，政府是唯一一個能夠監(jiān)管這種廣泛應(yīng)用的機構(gòu)?！?/p>
ACLU呼吁立法者暫時禁止執(zhí)法部門使用人臉識別技術(shù)。民權(quán)組織也給亞馬遜公司寫了一封信，要求其停止向政府提供人臉識別系統(tǒng)。一些立法者和科技公司已經(jīng)要求NIST（評估人臉識別技術(shù)的機構(gòu)）為人臉識別的種族偏見檢驗提供行業(yè)標(biāo)準(zhǔn)和實踐支持。
對于Gomez這樣的議員來說，這項工作才剛剛開始。“我不反對亞馬遜，”他說，“但這項新技術(shù)對人們的隱私和自由等方面產(chǎn)生了深刻影響，它引發(fā)了很多問題?！?br/>
雷鋒網(wǎng)注：原文作者為QUEENIE WONG，本文編譯自IEEE
【封面圖片來源：網(wǎng)站名IEEE，所有者：Matthias Graben/Getty Images】
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
