0
| 本文作者： 李帥飛 | 2020-06-10 01:00 |
美國人越來越反感人臉識別了。
具體來說，黑人 George Floyd 之死，也讓美國社會繼續(xù)反思警察執(zhí)法問題，并由此引申到警察在執(zhí)法中所采用的技術——其中最被嚴重詬病的，就是人臉識別。
在人臉識別再次成為眾矢之的的情況下，科技行業(yè)也有了一些動靜。
6 月 8 日，"藍色巨人" IBM 宣布：IBM 將不再提供任何人臉識別和人臉分析軟件——這是美國科技巨頭第一次旗幟鮮明地放棄人臉識別業(yè)務。
不僅如此，IBM 也將不會再就這項技術進行研究和開發(fā)。
IBM 宣布放棄人臉識別，來自于 IBM CEO Arind Krishna 提交給幾位美國參議員和眾議員的一封信。
從信中的內(nèi)容來看，放棄人臉識別業(yè)務的舉動，是 IBM 因 George Floyd 之死而反對種族主義（Recism）的種種舉措的其中一個。
在信中，Arind Krishna 表示：
IBM 堅定反對使用任何技術，包括其他供應商提供的人臉識別技術，來監(jiān)視大眾、種族定性、侵犯基本人權和自由、以及從事任何與我們價值觀及原則不一致的事情。
當然，Arind Krishna 也肯定了 AI 的作用，表示人工智能是幫助執(zhí)法部門保護公民安全的有力工具。
但他也強調(diào)，AI 系統(tǒng)的供應商和用戶有共同的責任確保對 AI 進行偏見測試（Tested For Bias），特別是在執(zhí)法中使用時，并確保對此類偏見測試進行審計和報告。
最后，Arind Krishna 還強調(diào)稱，國家的政策還應鼓勵和促進使用特定技術，來提高警務透明度和問責制，如人體攝像機和現(xiàn)代數(shù)據(jù)分析技術。
總體來看，IBM 的這封信，是一個議政屬性較強的信件。它除了談到對相關技術的措施和態(tài)度，還呼吁國會通過相應的議案和政策來推動警務透明、人員就業(yè)等問題。
顯然，IBM 放棄人臉識別，有政治正確的因素。
但 IBM 方面告訴外媒 AXIOS，它做出這個決策并不是心血來潮，而是經(jīng)過了數(shù)個月的討論，并與客戶進行了持續(xù)溝通。另外，盡管 IBM 不再宣傳、推銷和更新這些產(chǎn)品，但它依舊會在有需求之時對現(xiàn)有的客戶進行支持。
當然，在政治正確因素之外，IBM 還有別的考量。
據(jù)美國 CNBC 報道稱，一位知情人士承認，IBM 此舉的確是踩中了當前美國社會對警察改革和種族不平等強烈關注的重要時機，但同時，IBM 也有商業(yè)考量。
該人士表示，實際上人臉識別業(yè)務并沒有為 IBM 帶來重大的營收——換句話說，棄之并不可惜。
但同時，該人士也承認，考慮到美國政府一直是 IBM 的主要客戶，因此這個決定還是存在潛在影響的——但總之，這同時是一個商業(yè)和道德決策。
值得一提的是，Arind Krshna 是一位印度裔美國公民，他在兩個月前，也就是 2020 年 4 月 6 日，正式就任 IBM CEO 一職。
在就任 CEO 之初，Arind Krshna 表示，IBM 將專注于混合云和人工智能兩大戰(zhàn)略；尤其是在云計算方面，他強調(diào)稱，IBM 和 Red Hat 要把 Linux、容器和 Kunbernetes 建立為新的混合云標準。
顯然，在 Arind Krshna 的領導之下，IBM 更為專注的是與微軟和亞馬遜等對手在云計算領域的戰(zhàn)爭——人臉識別技術自然也不值一提了。
雷鋒網(wǎng)了解到，在人臉技術方面，IBM 雖然并不是特別突出，但也頗有一些作為。
比如說在 2019 年 1 月，IBM 曾經(jīng)發(fā)布一個名為 Diversity in Faces（DiF）的臉部多樣性數(shù)據(jù)集；其目標是加速公平且準確的人臉識別系統(tǒng)研究，減少對深色人種的辨識度偏差——該數(shù)據(jù)集包含 100 萬張已標注的人臉圖像。
當時，IBM 表示，DiF 的目標就是為研究人員打造無偏見人臉識別技術；相比過去，DiF 數(shù)據(jù)集提供了更分布更平均且廣泛的人臉圖像，也能夠讓研究人員跟進一步理解人臉特別。
但現(xiàn)在，IBM 卻決定直接撂挑子了。
IBM 這次的決定，對美國社會普遍反對人臉識別的情緒，也是一種迎合。
因為美國人實在是太不待見人臉識別技術了。
這背后的一個首要因素是美國的種族問題。2018 年的一個調(diào)查顯示，人臉識別針對黑人女性的錯誤率高達 21%-35%，而針對白人男性的錯誤率則低于 1%——這在美國可以說是非常政治不正確的。
其次是準確率問題：據(jù)報道，亞馬遜的圖像識別 AI 系統(tǒng) “Rekognition” 曾將 28 名美國國會議員識別成了罪犯，讓美國社會一片嘩然。
另外，美國社會隱私至上的理念深入人心，這也讓美國民眾擔任人臉識別導致的安全和隱私問題，以及對于 “被監(jiān)控” 本身的反感和憂慮。
為此，美國公民自由聯(lián)盟（American Civil Liberties Union，ACLU）稱人臉識別為 “可能是有史以來最危險的監(jiān)視技術”，并多次上書美國政府：要求亞馬遜停止向警方提供其旗下的 Rekognition 人臉識別技術。
就連舊金山市政府，也宣布禁止使用這一技術。
盡管如此，技術帶來的便利依然不容抹殺。亞馬遜等公司有用技術賺錢的需求，而美國警察也有實用技術的需求，因此包括俄勒岡州在內(nèi)的眾多美國州立政府，成為 Rekognition 的客戶。
值得一提的是，2019 年，亞馬遜在股東會議上就 "停止向政府機構銷售人臉識別技術" 進行投票，結果顯示，只有 2.4% 的股東同意這一銷售禁令，所以投票沒有通過。
后來在一次采訪中，亞馬遜 CTO Werner Vogels 稱，技術無罪，我們無責任。
不過，對于亞馬遜的說法，美國民眾顯然不會買賬。
雷鋒網(wǎng)觀察到，在 George Floyd 之死引發(fā)的游行中，亞馬遜位于西雅圖市區(qū)的 Amazon Go 無人商店也遭到游行者的毀壞。
當時，亞馬遜也在 Twitter 賬號表示對黑人的支持，結果有美國民眾質疑稱：與其說一些好聽的話，不如好好支付員工的工資；也有人質疑亞馬遜能否停止向警方提供人臉識別監(jiān)控技術。
在 Twitter 上，也有一位名為 Ananya Chakravarti 的美國網(wǎng)友說：
也許今天最大的勝利是很多人不會意識到的。但是，IBM 終止其面部識別技術業(yè)務，將比解散一個城市部門更能動搖全球嚴厲執(zhí)法的基礎。亞馬遜，你的時間到了。
George Floyd 之死，引發(fā)的不僅僅是美國在政治和社會層面的問題；考慮到技術與人之間的密切關系，它也將影響到技術發(fā)展的未來。
IBM 禁用人臉識別，就是其中一個案例。
一個社會群體對于技術的接納和融入，并不一定都是一帆風順的，甚至有可能根本無法接受；對于美國這樣注重政治正確和隱私至上的國家來說，George Floyd 之死，也許會讓人臉識別技術的應用更是面臨越來越嚴重的被動和尷尬局面。
IBM CEO Arind Krishna 說：
我們認為，現(xiàn)在是時候就（美國）國內(nèi)執(zhí)法機構是否可以使用面部識別，以及如何使用面部識別技術展開全國對話了。
對于這個問題，IBM 已經(jīng)用行動給出了自己的答案，但美國政府和人臉識別技術的供應商恐怕不會那么容易就范。
最后一問：
IBM 此舉，會最終導致美國政府停用人臉識別技術嗎？
本文參考資料：
https://venturebeat.com/2018/07/26/amazons-rekognition-misidentified-28-members-of-congress-as-criminals/
https://www.ibm.com/blogs/policy/facial-recognition-susset-racial-justice-reforms/
https://www.cnbc.com/2020/06/08/ibm-gets-out-of-facial-recognition-business-calls-on-congress-to-advance-policies-tackling-racial-injustice.html?__source=sharebar
https://www.theverge.com/2020/6/8/21284683/ibm-no-longer-general-purpose-facial-recognition-analysis-software
https://www.axios.com/ibm-is-exiting-the-face-recognition-business-62e79f09-34a2-4f1d-a541-caba112415c6.html
http://m.ozgbdpf.cn/news/201905/G0d9vZykEJsevQ9p.html
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權禁止轉載。詳情見轉載須知。
