0
雷鋒網(wǎng) AI 科技評論按：2018 年圍繞著人工智能的一連串技術丑聞的核心只有一個：問責制。當 AI 系統(tǒng)對我們的身體造成傷害時，誰應該為此負起責任？我們應該如何定義這些危害，一旦傷害造成后又該如何進行補救？假設想對此進行干預，干預的重點應該是什么？我們還需要哪些額外的研究和監(jiān)管活動來保證干預效果？目前看來，這些問題都沒有完善的答案，當下存在的人工智能管理框架也不足以支撐問責制的執(zhí)行。然而隨著系統(tǒng)的普遍性、復雜性和規(guī)模的逐漸增長，缺乏有意義的問責和監(jiān)督機制（包括責任、擔當和正當程序的基本保障）已經(jīng)成為一項日益緊迫的問題。
在 2016 年和 2017 年的報告基礎上，AI Now 研究所試圖通過《AI Now 2018》來回應這一核心問題，并據(jù)此提出幾個解決問題的提議。（完整版文件可通過 https://ai.yanxishe.com/page/resourceDetail/660 下載）對于每個提議他們都會總結(jié)出最新的挑戰(zhàn)與研究，并就 AI 技術的開發(fā)、部署與監(jiān)管情況提供改進建議。他們的建議基于嚴謹?shù)膶W術研究、可操作性較強，能夠幫助政策決策者、群眾以及技術人員更好地理解并減輕可能出現(xiàn)的風險。由于 AI Now 研究所身處美國，過去專注的研究區(qū)域也是美國，再加上世界最大的幾家人工智能公司都位于美國，因此報告會優(yōu)先關注美國本土的情況。
人工智能領域現(xiàn)有的問題
人工智能領域的問責缺位問題日益突出：2018 年發(fā)生的幾條技術丑聞表明，那些從人工智能發(fā)展中受益的人，與那些最有可能承受人工智能發(fā)展惡果的人，兩者之間的隔閡正在進一步擴大。造成這種結(jié)果的原因很多，其中包括政府監(jiān)管不到位、社會對人工智能的莫名狂熱、公司的治理制度存在缺陷、企業(yè)與用戶之間的權力不對稱、負責技術研究的工程小組與負責 AI 系統(tǒng)部署的群體存在文化差異。這些分歧迫使人們更加重視偏見、歧視、正當程序、責任以及傷害問責制的建設。報告想強調(diào)，社會如今迫切需要針對不同行業(yè)強而有力的研究與監(jiān)管。
人工智能被最大限度地用于監(jiān)視活動：人工智能在美國、中國和許多國家被廣泛用于監(jiān)視活動，這點從傳感器網(wǎng)絡、社交媒體跟蹤、面部識別和情感識別等技術的使用和普及程度上可以看出。這點變化不僅威脅個人隱私，同時加速了監(jiān)控自動化的進程，進而導致人們被監(jiān)控范圍和頻次的擴大。這帶來了新的危險，并放大了許多長期存在的擔憂。揭露欺瞞行為的情感識別技術被頻繁使用，通過對人們臉部的近距離觀察，情感識別技術能夠解讀人們的內(nèi)心情感，無論是情緒、心理健康水平、參與程度或有無罪都將一覽無遺。需要警惕的是，這種技術在人們不知情的情況下已經(jīng)被用來進行一些具有歧視性和不道德的活動。面部識別技術同樣不讓人省心，它強化了從刑事司法到教育再到就業(yè)等領域各種扭曲和隱性的歧視性做法，并對多個國家的人權與公民自由形成了威脅。
在未保障公民權利的情況下，政府頻繁使用那些會對個人和社區(qū)造成影響的自動化決策系統(tǒng)：許多國家的政府機構基于提升效率和節(jié)省成本的目的，對自動決策系統(tǒng) (ADS) 進行采購和部署。問題是這些決策系統(tǒng)好多都未經(jīng)過嚴格檢驗，功能設計上也不一定完美匹配目標任務，由此導致了對個人權利的非法侵犯。更糟糕的是，當他們做出錯誤和不好的決定時，我們想質(zhì)疑、爭辯、糾正這些錯誤往往會面臨困難。據(jù)了解，一些機構正試圖提供更加符合透明、正當程序和保障基本權利的系統(tǒng)，可類似貿(mào)易保密這樣的法律又會對系統(tǒng)的審查與測試形成阻礙。無論是機構的積極努力還是近期可見的一些戰(zhàn)略訴訟，報告提煉并概述了可以形成系統(tǒng)問責制的有效途徑。
各種缺乏管制和監(jiān)控、基于人口的人工智能實驗：硅谷以其「快速行動，打破現(xiàn)狀」的理念聞名世界，在這種理念的影響下，許多當?shù)仄髽I(yè)被迫快速試驗新技術，而不怎么重視類似誰承擔風險這種實驗失敗后的問責制度的建設。過去一年里，AI Now 研究所見到越來越多在公共場所部署的人工智能實驗，卻未曾見實驗方提供任何的通知、同意或問責協(xié)議。由于這些實驗尚未大范圍出現(xiàn)問題，AI Now 研究所發(fā)現(xiàn)好大一部分實驗還在繼續(xù)進行?？梢坏┦鹿拾l(fā)生時，我們往往不清楚責任該由哪個單位/個人承擔。因此，主體責任的界定、事故發(fā)生時如何追責仍然是一項優(yōu)先級較高的任務。
技術解決公平、偏見與歧視問題時局限性：為避免機器做出具有歧視性的決定，人們做了許多工作，其中包括為機器設計「公平」的數(shù)學算法模型。如果模型缺乏充分考慮社會、政治與歷史背景因素的算法框架，這些「公平」的數(shù)學公式幾乎不可避免地要遺漏幾項關鍵因素，導致忽略深層次的問題，最終造成更嚴重的傷害與更多的不公正。為了確保我們有力解決核心問題——將焦點從平等轉(zhuǎn)移到公正，我們目前迫切要做的是拓寬研究視角，將研究范圍擴大至人工智能的公平性與偏見等問題，而不要局限于數(shù)學領域。
對倫理原則的遵守與落實：為了回應人們對人工智能社會影響力日益增長的擔憂，今年出現(xiàn)了許多創(chuàng)建和部署人工智能技術的倫理原則和指導方針。然而研究表明，如果道德承諾不與責任制度還有工作場合的實踐直接產(chǎn)生聯(lián)系，它們對軟件開發(fā)領域的影響幾乎是微乎其微。此外，這些規(guī)范和準則往往很少得到執(zhí)行、監(jiān)督或偏差后果的支持。換句話說，只有將倫理準則融入到人工智能的發(fā)展過程中，同時得到對公眾利益負責的執(zhí)行機制的支持，才能有助于人工智能問責制度的建設與發(fā)展。
報告接下來的內(nèi)容將詳細闡述這些課題，除了反映最新的學術研究成果外，還會介紹 7 項富有建設性的改進策略:
將人工智能的公平性研究從數(shù)學等價性和統(tǒng)計公平性問題擴展至公平性問題。
研究與跟蹤創(chuàng)建人工智能所需的基礎設施，其中包括材料供應鏈的核算。
仔細說明創(chuàng)建與維護人工智能系統(tǒng)所需的勞動形式。
致力于推動人工智能更深層次的跨學科研究。
分析在人工智能領域出現(xiàn)的種族、性別與權力課題。
制定新的干預政策與訴訟戰(zhàn)略。
在研究人員、公民與科技領域組織者之間建立合作聯(lián)盟。
這些策略旨在積極重塑人工智能領域，以解決目前日益加劇的權力不平衡，這種權力不平衡導致那些開發(fā)人工智能系統(tǒng)并從中獲利的人持續(xù)獲得受益，從而犧牲了那些承受人工智能發(fā)展惡果的人群。
《 AI Now Report 2018 》的 10 條建議
政府需要擴大特定部門機構的權力來監(jiān)管、審計和監(jiān)控特定領域的技術，以便更好對人工智能技術進行監(jiān)管。
我們需要通過嚴格的法規(guī)對人臉識別與情感識別的使用進行監(jiān)管，以保護公眾的利益。
人工智能領域迫切需要新的治理方法，正如這份報告所示，大多科技公司的內(nèi)部治理結(jié)構尚未能很好地對人工智能系統(tǒng)產(chǎn)生的結(jié)果進行問責。
人工智能公司應該為了公眾利益放棄那些妨礙進行問責的商業(yè)秘密與法律主張。
技術公司應該為良心拒服兵役者、員工組織以及道德檢舉者提供必要的保護。
消費者權益機構應該對人工智能產(chǎn)品與服務實施「廣告真實」法。
人工智能公司需要超越「流水線模式」，致力于解決工作場所出現(xiàn)的排擠與歧視行為。
我們需要對人工智能系統(tǒng)「全棧供應鏈」進行詳細梳理，以保障公平性、問責制與透明度在人工智能領域的落實。
我們需要意識到在人工智能問責制度的建設問題中，訴訟、勞工組織以及社區(qū)需要更多來自資金和其他方面的支持。
大學里的人工智能項目應該將研究視野擴大至計算機科學與工程學科以外的內(nèi)容。
via：《AI Now Report 2018》，AI Now Institute（https://ainowinstitute.org/AI_Now_2018_Report.pdf）
雷鋒網(wǎng) AI 科技評論 雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
