0
本文作者: 楊文 | 2017-11-15 17:11 | 專題:CNCC 2017 |
雷鋒網(wǎng)AI科技評(píng)論按:由中國(guó)計(jì)算機(jī)學(xué)會(huì)(CCF)主辦,福州市人民政府、福州大學(xué)承辦,福建師范大學(xué)、福建工程學(xué)院協(xié)辦的 2017 中國(guó)計(jì)算機(jī)大會(huì)(CNCC 2017)于 10.26—10.28 日在福州?海峽國(guó)際會(huì)展中心舉辦。大會(huì)除了14場(chǎng)特邀報(bào)告,還有2場(chǎng)大會(huì)主題論壇、40余場(chǎng)學(xué)術(shù)論壇、30余場(chǎng)特色活動(dòng)以及3個(gè)頒獎(jiǎng)大會(huì),同期還將有80余家企業(yè)舉辦科技成果展。雷鋒網(wǎng)作為獨(dú)家戰(zhàn)略合作媒體對(duì)大會(huì)內(nèi)容進(jìn)行了全程覆蓋和報(bào)道。
在“知識(shí)圖譜預(yù)見(jiàn)社交媒體”的技術(shù)分論壇上,哈爾濱工業(yè)大學(xué)劉挺教授做了題為“從知識(shí)圖譜到事理圖譜”的精彩報(bào)告。會(huì)后雷鋒網(wǎng)征得劉挺教授的同意,回顧和整理了本次報(bào)告的精彩內(nèi)容。
劉挺教授
劉挺教授的報(bào)告內(nèi)容分為四部分:知識(shí)圖譜與《大詞林》;事理圖譜概念的提出;事理圖譜國(guó)內(nèi)外相關(guān)工作;哈工大在事理圖譜方面的探索。
知識(shí)圖譜最早是通過(guò)人工搜集數(shù)據(jù)和標(biāo)注數(shù)據(jù)來(lái)構(gòu)建的,隨著需求的多樣化和精細(xì)化(例如,需要獲得“XX疾病是否可以被XX藥物治療”,“XX人和XX人之間是否是敵人/朋友”等信息),人工構(gòu)建的知識(shí)圖譜越發(fā)難以滿足用戶多種多樣的需求?;诖?,如何由機(jī)器去自動(dòng)構(gòu)建大規(guī)模的知識(shí)圖譜已經(jīng)發(fā)展成為熱門的研究點(diǎn)。
知識(shí)圖譜,是基于二元關(guān)系的知識(shí)庫(kù),用以描述現(xiàn)實(shí)世界中的實(shí)體(或概念,概念是實(shí)體的抽象,例如“水果”即為“蘋果”的概念)及其相互關(guān)系,其基本組成單位是『實(shí)體-關(guān)系-實(shí)體』三元組(triplet),實(shí)體之間通過(guò)關(guān)系相互聯(lián)結(jié),構(gòu)成網(wǎng)狀結(jié)構(gòu)。通過(guò)知識(shí)圖譜,可以支持用戶按主題而不是按字符串檢索,從而真正地實(shí)現(xiàn)在語(yǔ)義層面上進(jìn)行信息檢索?;谥R(shí)圖譜的搜索引擎,能夠直接向用戶反饋結(jié)構(gòu)化的知識(shí),用戶不必瀏覽大量網(wǎng)頁(yè),就可以找到自己想要獲得的知識(shí)。
封閉域知識(shí)圖譜和開(kāi)放域知識(shí)圖譜各有優(yōu)劣
2014年年末,哈工大正式發(fā)布《大詞林》?,F(xiàn)在只需在瀏覽器中鍵入www.bigcilin.com,即可訪問(wèn)《大詞林》?!洞笤~林》是一種自動(dòng)從網(wǎng)絡(luò)中爬取實(shí)體及實(shí)體的概念以形成基于上下位關(guān)系的通用知識(shí)圖譜。這意味著,如果用戶輸入的詞語(yǔ)不被《大詞林》所包含,《大詞林》即會(huì)實(shí)時(shí)地到互聯(lián)網(wǎng)上去搜索,以自動(dòng)挖掘該詞語(yǔ)的上位概念詞,并將這些上位概念詞整理為層次結(jié)構(gòu)。比如輸入“林肯”,《大詞林》就會(huì)根據(jù)“林肯”在網(wǎng)絡(luò)中出現(xiàn)的語(yǔ)義信息,自動(dòng)挖掘出“林肯”所具有的多個(gè)概念,例如“汽車”、“總統(tǒng)”、“交通工具”、“領(lǐng)袖”等,然后再根據(jù)這些概念的抽象程度,將這些概念刻畫為層次結(jié)構(gòu)。例如“領(lǐng)袖”相對(duì)于“總統(tǒng)”更加抽象,在圖中“領(lǐng)袖”的層次就比“總統(tǒng)”更高。
上圖左側(cè)為《大詞林》層次目錄的一部分,其骨架是《同義詞詞林(擴(kuò)展版)》?!洞笤~林》選擇《同義詞詞林(擴(kuò)展版)》作為骨架的原因在于:經(jīng)過(guò)反復(fù)的探討,劉挺教授帶領(lǐng)的團(tuán)隊(duì)認(rèn)為詞匯應(yīng)具有兩種類型,一種是“實(shí)體”與真實(shí)的事物相對(duì)應(yīng),比如具體的人名、地名、機(jī)構(gòu)名;另一種是“概念”,是“實(shí)體”的抽象含義,比如“植物”、“水果”等。實(shí)體之間具有明顯的橫向關(guān)系,而“實(shí)體”和“概念”、“概念”和“概念”之間具有明顯的層次關(guān)系,因此詞匯之間應(yīng)具有由橫向關(guān)系和縱向關(guān)系所形成的網(wǎng)狀結(jié)構(gòu)?;诖?,劉挺教授帶領(lǐng)的團(tuán)隊(duì)將《同義詞詞林(擴(kuò)展版)》作為《大詞林》層次(縱向)關(guān)系構(gòu)建的骨架。
這里簡(jiǎn)單介紹一下作為《大詞林》的骨架-《同義詞詞林(擴(kuò)展版)》存在的問(wèn)題?!锻x詞詞林》的第一個(gè)問(wèn)題是僅具有固定的5層結(jié)構(gòu),但面對(duì)千萬(wàn)級(jí)乃至億萬(wàn)級(jí)規(guī)模多領(lǐng)域、多樣性的詞匯,固定的結(jié)構(gòu)顯然無(wú)法對(duì)其進(jìn)行有效描述;第二個(gè)問(wèn)題是《同義詞詞林(擴(kuò)展版)》包含的詞語(yǔ)數(shù)目非常有限,且大部分為抽象的概念,其規(guī)模不到十萬(wàn)詞,顯然不適合實(shí)際應(yīng)用?;诖?,劉挺教授帶領(lǐng)的團(tuán)隊(duì)決心打破《同義詞詞林(擴(kuò)展版)》的上述限制,從而形成了現(xiàn)在的《大詞林》。首先,《大詞林》的層數(shù)是不固定的,其根據(jù)詞語(yǔ)的抽象程度自動(dòng)進(jìn)行層次化;其次,《大詞林》中包含了很多具體的實(shí)體(例如人名、地名、機(jī)構(gòu)名),其規(guī)模是《同義詞詞林(擴(kuò)展版)》的數(shù)百倍,并且還在不斷的擴(kuò)充。
《大詞林》的特點(diǎn)在于能夠從多種信息源中自動(dòng)地構(gòu)造詞匯和詞匯的上下位關(guān)系。這是劉挺教授帶領(lǐng)的團(tuán)隊(duì)中一名博士生發(fā)表的一篇ACL會(huì)議論文(該會(huì)議是自然語(yǔ)言處理領(lǐng)域的頂級(jí)會(huì)議,被計(jì)算機(jī)學(xué)會(huì)評(píng)定為Rank A),這篇論文詳細(xì)地展示了如何自動(dòng)的從多信息源里獲取實(shí)體概念詞的技術(shù)框架。
簡(jiǎn)單來(lái)說(shuō),獲取概念詞的來(lái)源主要有三個(gè),1)搜索引擎中檢索得到的高概率的同現(xiàn)詞,2)在線百科的類別標(biāo)簽3)詞語(yǔ)的構(gòu)詞法,對(duì)于很多詞,其后綴即為該詞的概念詞,例如像微軟公司的公司就是微軟公司這個(gè)實(shí)體的概念詞。之后,采用排序算法對(duì)獲取得到的這些候選概念詞進(jìn)行打分,然后截取超過(guò)一定閾值的候選概念詞保留到《大詞林》中。
上面的方法僅僅獲取了針對(duì)某個(gè)詞語(yǔ)的概念詞,如左圖所示。但是,概念詞之間是有明顯的層次關(guān)系的,如右圖所示,而《大詞林》的特殊之處就在于能夠自動(dòng)形成概念詞之間的層次結(jié)構(gòu)。基于上述的處理方案,從《同義詞詞林(擴(kuò)展版)》的十萬(wàn)詞出發(fā),現(xiàn)在的《大詞林》已經(jīng)成為一個(gè)具有千萬(wàn)級(jí)詞匯量級(jí)的知識(shí)圖譜,并且其規(guī)模每天都在不斷的增長(zhǎng)。
由于《大詞林》是自動(dòng)構(gòu)建的,因此需要對(duì)其質(zhì)量做一個(gè)評(píng)估,以判別《大詞林》中是不是包含了很多的錯(cuò)誤,到底可不可以實(shí)用。劉挺教授帶領(lǐng)的團(tuán)隊(duì)對(duì)《大詞林》做過(guò)抽樣評(píng)估。結(jié)果顯示,針對(duì)某個(gè)詞語(yǔ),找到其概念詞的準(zhǔn)確率為85%,詞語(yǔ)之間的上下位關(guān)系識(shí)別的準(zhǔn)確率為90%。
相比于其他知識(shí)圖譜,《大詞林》主要專注于語(yǔ)言學(xué)中詞匯的上下位關(guān)系的自動(dòng)構(gòu)建,是一種語(yǔ)言的知識(shí)圖譜。當(dāng)然,目前劉挺教授帶領(lǐng)的團(tuán)隊(duì)也著手在《大詞林》中引入橫向關(guān)系,相信不久的將來(lái)就能看見(jiàn)更加全面的《大詞林》。
關(guān)于事理圖譜。現(xiàn)有的知識(shí)庫(kù)普遍是以“概念及概念間的關(guān)系”為核心的,缺乏對(duì)“事理邏輯”知識(shí)的挖掘。劉挺教授團(tuán)隊(duì)認(rèn)為在實(shí)際應(yīng)用中,事理邏輯(事件之間的演化規(guī)律與模式)是一種非常有價(jià)值的常識(shí)知識(shí),挖掘這種知識(shí)對(duì)我們認(rèn)識(shí)人類行為和社會(huì)發(fā)展變化規(guī)律非常有意義。舉個(gè)經(jīng)典例子,北京人買房子,買完房子下一步就是裝修,裝修完了就會(huì)買家具,如果在網(wǎng)上發(fā)現(xiàn)有人發(fā)微博說(shuō)他買房子了,裝修公司就可以跟上去做廣告,這就是一種預(yù)測(cè)。事理圖譜并不是以名詞為核心節(jié)點(diǎn)的知識(shí)庫(kù),而是以事件而且是抽象類事件為核心的事理邏輯知識(shí)庫(kù)。舉個(gè)例子,國(guó)家領(lǐng)導(dǎo)人訪問(wèn)另一個(gè)國(guó)家,這就是一個(gè)抽象事件。劉挺教授的團(tuán)隊(duì)三年前就提出了事理圖譜的概念。
事理圖譜只定義兩種事件間關(guān)系:一種順承,一種因果,這兩種關(guān)系都有時(shí)間順序。本質(zhì)上事理圖譜是一個(gè)事理邏輯知識(shí)庫(kù),描述了事件之間的演化規(guī)律和模式,可以應(yīng)用在生活中的很多方面,比如事件預(yù)測(cè) ,常識(shí)推理,消費(fèi)意圖挖掘,對(duì)話生成等等。
事理圖譜與知識(shí)圖譜的區(qū)別,知識(shí)圖譜研究對(duì)象為名詞性實(shí)體及其關(guān)系,事理圖譜研究對(duì)象是謂詞性事件及其關(guān)系。知識(shí)圖譜主要知識(shí)形式是實(shí)體屬性和關(guān)系,事理圖譜則是事理邏輯關(guān)系以及概率轉(zhuǎn)移信息。事件間的演化關(guān)系多數(shù)是不確定的,而實(shí)體之間的關(guān)系基本是穩(wěn)定的。
事理圖譜中的事件定義。事理圖譜中的事件是一個(gè)泛化的抽象的事件,比如吃火鍋,去機(jī)場(chǎng) ,看電影都可以,但要是說(shuō)非常的具體,某年某月干了什么,這就不是事理圖譜中存儲(chǔ)的知識(shí)。但也不能太抽象,比如,去地方,做事情,也不是事理圖譜中存儲(chǔ)的知識(shí)。事件間的關(guān)系就兩種,一種順承關(guān)系,吃飯,買單,離開(kāi)餐館,這就是很常見(jiàn)的事件順承關(guān)系。還有就是因果關(guān)系,我們認(rèn)為因果關(guān)系是非常重要的,只有因果關(guān)系建立了,才能通過(guò)控制因變量去影響結(jié)果。
事理圖譜有3種典型的拓?fù)浣Y(jié)構(gòu), 第一種是鏈狀,順承關(guān)系為典型代表。第二種是樹(shù)狀,這其中有一種事件是心理事件,打算去做某事,并不是真做了;第三種是環(huán)狀,以打架報(bào)復(fù)住院為例,循環(huán)往復(fù)。
與事理圖譜最相關(guān)的兩個(gè)研究方向是統(tǒng)計(jì)腳本學(xué)習(xí)和事件關(guān)系識(shí)別。統(tǒng)計(jì)腳本學(xué)習(xí)是與事理圖譜非常接近的一個(gè)研究領(lǐng)域。1975年,美國(guó)學(xué)者Schank提出腳本概念;2003年,日本學(xué)者提出自動(dòng)獲取腳本的方法;2008年,Dan Jurafsky利用無(wú)監(jiān)督的方法構(gòu)建事件鏈,成為該方向一個(gè)具有代表性的先驅(qū)工作。2014至今,統(tǒng)計(jì)腳本相關(guān)研究工作進(jìn)入了復(fù)蘇和發(fā)展階段。
除此之外,還有一條技術(shù)路線是事件間關(guān)系(時(shí)序和因果)識(shí)別。
哈工大主要在兩個(gè)領(lǐng)域進(jìn)行了事理圖譜探索性的工作,一方面是出行領(lǐng)域事理圖譜的構(gòu)建和應(yīng)用;另一方面是金融領(lǐng)域事理圖譜的構(gòu)建和應(yīng)用。
出行事理圖譜的潛在應(yīng)用
出行領(lǐng)域更多是順承關(guān)系,其構(gòu)建過(guò)程包括數(shù)據(jù)清洗、NLP預(yù)處理、事件抽取和泛化、生成候選事件對(duì)、順承關(guān)系識(shí)別、順承方向識(shí)別。
第二個(gè)是金融領(lǐng)域事理圖譜。
可將金融領(lǐng)域事理圖譜應(yīng)用于股市預(yù)測(cè)當(dāng)中。
劉挺教授的總結(jié):知識(shí)圖譜在各個(gè)領(lǐng)域精耕細(xì)作,逐漸顯露價(jià)值,但知識(shí)表示形式有待突破,推理能力有待提高。統(tǒng)計(jì)腳本學(xué)習(xí)和事件關(guān)系識(shí)別等事理圖譜相關(guān)研究越來(lái)越吸引研究者的關(guān)注。以“謂詞性短語(yǔ)”為節(jié)點(diǎn),以事件演化(順承、因果)為邊的事理圖譜方興未艾。事理圖譜必將在預(yù)測(cè)、對(duì)話等領(lǐng)域發(fā)揮重要作用,有力地提升人工智能系統(tǒng)的可解釋性。
最后劉挺教授向他的合作者,哈工大社會(huì)計(jì)算與信息檢索研究中心的秦兵教授、劉銘副教授、丁效老師,以及博士生趙森棟、李忠陽(yáng)、姜天文表示感謝。
以上內(nèi)容為劉挺教授在CNCC 2017 [ 知識(shí)圖譜遇見(jiàn)社交媒體 ] 論壇上的精彩報(bào)告,雷鋒網(wǎng)獲其獨(dú)家授權(quán)整理。
雷峰網(wǎng)原創(chuàng)文章,未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
本專題其他文章