0
| 本文作者： 張莉 | 2018-10-05 18:56 |
互聯(lián)網(wǎng)時(shí)代，假新聞鋪天蓋地，而且極具迷惑性，F(xiàn)acebook一度深陷虛假新聞的泥淖，不但被控影響了美國總統(tǒng)大選結(jié)果，甚至引發(fā)了德國政府的巨額罰金。
甚至連以公信力著稱的BBC也難以幸免，比如BBC北安普頓分站的推特賬號(hào)就曾發(fā)過這樣一條消息：Breaking News: President Trump is injured in arm by gunfire #Inauguration.（勁爆消息：特朗普總統(tǒng)在就職典禮后遭遇槍擊，手臂受傷。）
至于國內(nèi)的假新聞，也是花樣百出，甚至微信對話也能偽造，PS技術(shù)出神入化，比如一度引爆互聯(lián)網(wǎng)圈的這個(gè)截圖：
雷鋒網(wǎng)注：此截圖被證實(shí)為經(jīng)過PS偽造
10月4日，麻省理工學(xué)院計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室(CSAIL)在其官網(wǎng)發(fā)布了一則新聞，宣稱該實(shí)驗(yàn)室與卡塔爾計(jì)算研究所(Qatar Computing Research Institute)的研究人員合作，已經(jīng)研究出一種可以鑒別信息來源準(zhǔn)確性和個(gè)人政治偏見的AI系統(tǒng)，該研究成果將于本月底在比利時(shí)布魯塞爾召開的2018自然語言處理經(jīng)驗(yàn)方法會(huì)議(EMNLP)上正式公布。
研究人員用這個(gè)AI系統(tǒng)創(chuàng)建了一個(gè)包含1000多個(gè)新聞源的開源數(shù)據(jù)集，這些新聞源被標(biāo)注了“真實(shí)性”和“偏見”分?jǐn)?shù)。據(jù)稱，這是類似數(shù)據(jù)集中收錄新聞源數(shù)量最多的數(shù)據(jù)集。
研究人員寫道:“打擊‘假新聞’的一種(有希望的)方法是關(guān)注消息來源?！薄半m然‘假新聞’(帖子)主要在社交媒體上傳播，但他們?nèi)匀挥凶畛鮼碓?，即某個(gè)網(wǎng)站，因此，如果一個(gè)網(wǎng)站曾經(jīng)發(fā)布過假新聞，很有可能未來還會(huì)發(fā)布?！?/p>
AI系統(tǒng)的新穎之處在于它對所評估的媒介有廣泛的語境理解，沒有單獨(dú)從新聞文章中提取特征值(機(jī)器學(xué)習(xí)模型所訓(xùn)練的變量)，而是兼顧了維基百科、社交媒體，甚至根據(jù)url和web流量數(shù)據(jù)的結(jié)構(gòu)來確定可信度。
該系統(tǒng)支持向量(SVM)訓(xùn)練來評估事實(shí)性和偏差，真實(shí)性分為：低、中、高；政治傾向分為：極左、左、中偏左、中偏右、右、極右。
根據(jù)該團(tuán)隊(duì)所述，系統(tǒng)只需檢測150篇文章就可以確定一個(gè)新的源代碼是否可靠。它在檢測一個(gè)新聞來源是否具有高、低或中等程度的“真實(shí)性”方面的準(zhǔn)確率為65%，在檢測其政治傾向是左傾、右傾還是中立方面的準(zhǔn)確率為70%。
雷鋒網(wǎng)注：AI系統(tǒng)分析示例
在上圖顯示的文章中，AI系統(tǒng)對文章的文案和標(biāo)題進(jìn)行了六個(gè)維度的測試，不僅分析了文章的結(jié)構(gòu)、情感、參與度(在本例中，分析了股票數(shù)量、反應(yīng)和Facebook上的評論)，還分析了主題、復(fù)雜性、偏見和道德觀念，并計(jì)算了每個(gè)特征值的得分，然后對一組文章的得分進(jìn)行平均。
雷鋒網(wǎng)注：“真實(shí)性-偏見”預(yù)測模型圖
維基百科和Twitter也被加入了AI系統(tǒng)的預(yù)測模型。正如研究者們所言，維基百科頁面的缺失也許說明了一個(gè)網(wǎng)站是不可信的，或者網(wǎng)頁上可能會(huì)提到這個(gè)問題的政治傾向是諷刺的或者明顯是左傾的。此外，他們還指出，沒有經(jīng)過驗(yàn)證的Twitter賬戶，或者使用新創(chuàng)建的沒有明確標(biāo)注的賬戶發(fā)布的消息，不太可能是真的。
該模型的最后兩個(gè)向量是URL結(jié)構(gòu)和web流量，可以檢測試圖模仿可信新聞來源的url(例如，“foxnews.co”)，參考的是一個(gè)網(wǎng)站的Alexa排名，該排名根據(jù)網(wǎng)站總瀏覽量進(jìn)行計(jì)算。
該團(tuán)隊(duì)在MBFC（Media Bias/Fact Check ）網(wǎng)站的1066個(gè)新聞源上對此AI系統(tǒng)進(jìn)行了訓(xùn)練。他們用收集的準(zhǔn)確性和偏見數(shù)據(jù)手工標(biāo)注網(wǎng)站信息，為了生成上述數(shù)據(jù)庫，研究人員在每個(gè)網(wǎng)站上發(fā)布了10-100篇文章(總計(jì)94,814篇)。
正如研究人員在他們的報(bào)告中煞費(fèi)苦心的介紹所示，并不是每一個(gè)特征值都能有效預(yù)測事實(shí)準(zhǔn)確性或政治偏見。例如，一些沒有維基百科頁面或建立Twitter檔案的網(wǎng)站有可能發(fā)布的信息是公正可信的，在Alexa排名靠前的新聞來源并不總是比流量較少的新聞源更公正或更真實(shí)。
研究人員有一個(gè)有趣的發(fā)現(xiàn)：來自虛假新聞網(wǎng)站的文章更有可能使用夸張和情緒化的語言，左傾媒體更有可能提到“公平”和“互惠”。與此同時(shí)，擁有較長的維基百科頁面的出版物通常更可信，那些包含少量特殊字符和復(fù)雜子目錄的url也是如此。
未來，該團(tuán)隊(duì)打算探索該AI系統(tǒng)是否能適應(yīng)其他語言(它目前只接受過英語訓(xùn)練)，以及是否能被訓(xùn)練來檢測特定區(qū)域的偏見。他們還計(jì)劃推出一款A(yù)pp，可以通過“跨越政治光譜”的文章自動(dòng)回復(fù)新聞。
該論文的第一作者、博士后助理拉米?巴利(Ramy Baly)表示:“如果一個(gè)網(wǎng)站以前發(fā)布過假新聞，他們很可能會(huì)再次發(fā)布。”“通過自動(dòng)抓取這些網(wǎng)站的數(shù)據(jù)，我們希望我們的系統(tǒng)能夠幫助找出哪些網(wǎng)站可能首先這么做?！?/p>
當(dāng)然，他們并不是唯一試圖通過人工智能打擊假新聞傳播的機(jī)構(gòu)。
總部位于新德里的初創(chuàng)公司MetaFact利用NLP算法來標(biāo)記新聞報(bào)道和社交媒體帖子中的錯(cuò)誤信息和偏見；SAAS平臺(tái)AdVerify.ai于去年推出beta版，可以分析錯(cuò)誤信息、惡意軟件和其他有問題的內(nèi)容，并可以交叉引用一個(gè)定期更新的數(shù)據(jù)庫，其中包含數(shù)千條虛假和合法的新聞。
前文中也提到過，F(xiàn)acebook一度深陷假新聞的泥淖，已經(jīng)開始嘗試使用“識(shí)別虛假新聞”的人工智能工具，并于近期收購了總部位于倫敦的初創(chuàng)公司Bloomsbury AI，以幫助其鑒別消除假新聞。
然而，一些專家并不相信人工智能可以勝任這項(xiàng)任務(wù)?？▋?nèi)基梅隆大學(xué)機(jī)器人研究所(Carnegie Mellon University Robotics Institute)的科學(xué)家迪恩波默洛(Dean Pomerleau)在接受外媒 the Verge 采訪時(shí)表示，人工智能缺乏對語言的微妙理解，而這種理解是識(shí)別謊言和虛假陳述所必需的。
“我們最初的目標(biāo)是建立一個(gè)系統(tǒng)來回答‘這是假新聞，是或不是?’”他說，“但我們很快意識(shí)到，機(jī)器學(xué)習(xí)無法勝任這項(xiàng)任務(wù)。”
但是，人類事實(shí)核查者做的不一定比AI更好。今年，谷歌暫停了“事實(shí)核查”(Fact Check)這一標(biāo)簽，該標(biāo)簽曾位于谷歌新聞報(bào)道欄，此前保守派媒體也曾指責(zé)谷歌對他們表現(xiàn)出了偏見。
不過，無論最終鑒別假新聞和個(gè)人偏見的解決方案是AI系統(tǒng)還是人工，抑或兩者兼而有之，假新聞被徹底消除的那一天都不會(huì)立刻到來。
據(jù)咨詢公司Gartner預(yù)測，到2022年，如果目前的趨勢不變，大多數(shù)發(fā)達(dá)國家的人看到的虛假信息將會(huì)多于真實(shí)信息。
via: venturebeat
相關(guān)文章：
德國出臺(tái)新政策：Facebook要為每條假新聞支付50萬歐元罰款
Google也被假新聞騙了：“奧巴馬將第三次競選總統(tǒng)”
德國政府推出社交媒體假新聞懲罰機(jī)制后，F(xiàn)acebook 上線假新聞過濾器
BBC 推特被黑發(fā)布川普中彈假新聞后，出現(xiàn)了這樣搞笑的一幕……
Facebook：多次分享假新聞 將不準(zhǔn)再投廣告
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
