上個(gè)月 Twitter 曾表示，它們正在研究新政策，以肅清 DeepFake（一種利用深度學(xué)習(xí)技術(shù)識(shí)別和交換圖片、視頻中人物臉部圖像的工具）及其它“被操縱”的媒體，還圖片、視頻及音頻本來面目。

今天（11月12日），Twitter 終于拿出了了新政草稿，要在正式上線前征求公眾意見。顯然，Twitter 的新政是要解決互聯(lián)網(wǎng)上泛濫的 DeepFake 問題。

人工智能技術(shù)的進(jìn)步讓 DeepFake 有了飛速繁殖的機(jī)會(huì)，只要手握它，你就能輕松捏造出看起來“真到不能再真”的虛假視頻、音頻和其它數(shù)字內(nèi)容。技術(shù)無罪，拿它來娛樂倒不是問題，但一旦它被用在錯(cuò)誤的地方就麻煩了。在現(xiàn)實(shí)世界，別有用心的人甚至能借助 DeepFake 捏造的視頻毀掉某個(gè)候選人的名聲，拿所謂“實(shí)錘”來迷惑大眾。

雷鋒網(wǎng)了解到，今年早些時(shí)候，就有人在 Facebook CEO 扎克伯格身上使用 DeepFake 了，其起因只是因?yàn)?Facebook 不愿撤掉某個(gè)視頻。

上月月初，參議院情報(bào)委員會(huì)的 Mark Warner 和 Marco Rubio 召集了主要科技公司負(fù)責(zé)人，為的就是拿出一個(gè)打擊 DeepFake 的計(jì)劃。參會(huì)的共有 11 家科技公司，包括 Facebook、Twitter、YouTube、Reddit 和領(lǐng)英等，它們要盡快制定出一個(gè)行業(yè)標(biāo)準(zhǔn)，以規(guī)范人工合成內(nèi)容的分享、移除和歸檔。

Twitter 動(dòng)作挺快，上月月末就拿出草稿征求公眾意見了，而亞馬遜則選擇與 Facebook 和微軟一道支持 DeepFake 探測(cè)挑戰(zhàn)賽，為的就是找到嗅探“被操縱”媒體的最好方案。

草案中 Twitter 表示，一旦它們發(fā)現(xiàn)故意誤導(dǎo)或混淆是非的合成或“被操縱”內(nèi)容，就會(huì)執(zhí)行下列操作：

? 在分享合成或“被操縱”媒體的推文旁打上標(biāo)記；

? 在用戶分享或點(diǎn)贊這類推文前給出警告；

? 添加鏈接指向真的新聞或 Twitter Moment，用多方來源證明合成或“被操縱”媒體的虛假屬性。

Twitter 表示，如果 DeepFake 威脅到某人的人身安全或造成嚴(yán)重傷害，它們就會(huì)徹底移除該內(nèi)容。

除了參與問卷調(diào)查，用戶也能在 #TwitterPolicyFeedback 話題下提供反饋。

問卷調(diào)查中向用戶征求了合成圖片與視頻的處理方法，即到底該徹底移除，貼警告標(biāo)簽還是見機(jī)行事。同時(shí)，Twitter 還征詢了用戶的接受度，當(dāng)它們隱藏推文或提出警告時(shí)大家能否接受。此外，對(duì)于什么時(shí)候該移除帶有誤導(dǎo)媒體的視頻，Twitter 也廣泛征詢了用戶意見（比如威脅了某人的精神健康、隱私、尊嚴(yán)、財(cái)產(chǎn)等）。

整個(gè)問卷調(diào)查填寫大約要花費(fèi) 5 分鐘時(shí)間，英語、日語、葡萄牙語、阿拉伯語、印地語和西班牙語用戶均可參與。

不過，雷鋒網(wǎng)發(fā)現(xiàn)，DeepFake 管理方案準(zhǔn)備好后，Twitter 如何嗅探到那些惡意內(nèi)容卻成了謎，畢竟當(dāng)下此類技術(shù)還不完美，而且 DeepFake 的偽裝能力也越來越強(qiáng)。為此，Twitter 也決定開誠(chéng)布公接受各界建議。

Twitter 向用戶征求意見將持續(xù)到本月 27 日，隨后它們會(huì)審閱收到的反饋并對(duì)草案進(jìn)行必要的調(diào)整。新規(guī)正式上線前，Twitter 還會(huì)給出 30 天的過渡期。

雷鋒網(wǎng)編譯自外網(wǎng)。

雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。