茫茫滄海尋一粟——想必這是許多學(xué)者在使用arXiv網(wǎng)站搜索論文時的痛苦心聲。不過現(xiàn)在arXiv給大家?guī)砹艘粋€好消息：他們將 170萬篇arXiv論文集成為一個格式機器可讀的數(shù)據(jù)庫，并將該數(shù)據(jù)庫托管到了Kaggle上供用戶免費使用。數(shù)據(jù)庫包括論文標(biāo)題、作者、類別、摘要、全文pdf等論文相關(guān)信息。arXiv 論文數(shù)據(jù)庫Kaggle地址：https://www.kaggle.com/Cornell-University/arxivarXiv：從一個論文存儲庫轉(zhuǎn)變?yōu)橐粋€知識共享平臺近30年來，arXiv網(wǎng)站為公眾和研究人員提供了獲取學(xué)術(shù)論文的可靠途徑。論文類型多樣，從物理學(xué)到計算機科學(xué)、再到介于兩者之間的各類學(xué)術(shù)內(nèi)容，涵蓋數(shù)學(xué)、統(tǒng)計學(xué)、電氣工程、定量生物學(xué)和經(jīng)濟學(xué)等熱門學(xué)科。無論是鉆研單一領(lǐng)域的學(xué)生、尋求跨學(xué)科研究的教授還是服務(wù)公共事業(yè)的社會研究者，都能在arXiv上搜集到有利的信息。然而，arXiv網(wǎng)站所收錄的論文數(shù)量十分龐大，為用戶的閱讀帶來明顯的壓力。另一方面，arXiv 本身也由于過分依賴 LaTex 而出現(xiàn)一系列缺陷，包括：1）使用 LaTeX 進行排版的方式局限于單個社區(qū)，其界面、語言、使用方式對不會編程或者只用過 WYSIWYG 編輯器的人來說比較陌生；2）網(wǎng)站上的論文一直以pdf格式交換、閱讀，但大多數(shù)pdf文檔不支持在線編輯，以致許多論文無論在網(wǎng)頁上閱讀、討論與共享；3）論文所承載的信息可發(fā)現(xiàn)率低；4）arXiv的論文與數(shù)據(jù)獨立存在，論文數(shù)據(jù)無法共享。雷鋒網(wǎng)其中第三點缺陷所造成的不利影響，正如arXiv 科技總監(jiān)Steinn Sigurdsson所指出的，由于數(shù)據(jù)集的龐大，讀者很可能會忽略一些重要的發(fā)現(xiàn)、關(guān)聯(lián)知識、創(chuàng)新工具或視角。這些被忽略的信息也許能幫助研究人員產(chǎn)生一些關(guān)于原有研究主題與跨學(xué)科領(lǐng)域的新的見解，有更多新發(fā)現(xiàn)與創(chuàng)造力。雷鋒網(wǎng)而 Kaggle 作為數(shù)據(jù)科學(xué)家和機器學(xué)習(xí)工程師搜集數(shù)據(jù)集、閱讀公開筆記和進行競賽的平臺，可以讓研究人員利用該平臺上豐富的數(shù)據(jù)探索工具，輕松地與他人共享相關(guān)論文文本和輸出。雷鋒網(wǎng)arXiv的執(zhí)行董事 Presani 指出，將arXiv 論文數(shù)據(jù)庫托管到Kaggle上供用戶自由訪問，將放大這些論文本身的價值，因為這不僅僅給讀者提供了一個通過閱讀論文學(xué)習(xí)的平臺，更是讓論文本身承載的數(shù)據(jù)和信息以機器可讀的方式在研究者之間共享、傳播和交流。他進一步表示，arXiv 要想從一個論文存儲庫轉(zhuǎn)變?yōu)橐粋€知識共享平臺，就要求他們不斷創(chuàng)新展示知識與解釋知識的方式。而Kaggle的用戶可以幫助突破創(chuàng)新的局限性，為科研界相互協(xié)作提出一種新途徑。arXiv 發(fā)布 Kaggle 論文數(shù)據(jù)庫的初衷arXiv 方面表示，此舉的初衷是希望能推動新用例的產(chǎn)生，幫助研究人員探索更多結(jié)合面向應(yīng)用的多模態(tài)特征的機器學(xué)習(xí)技術(shù)，包括趨勢分析法、論文推薦引擎、類別預(yù)測、同被引網(wǎng)絡(luò)、知識圖譜構(gòu)建和語義搜索接口等。Google 的COVID-19 Research Explorer就是這樣一個基于特定語料庫進行語義搜索的用例。這個工具可幫助研究人員精讀擁有190,000+篇關(guān)于COVID-19的研究論文的資料庫——COVID-19數(shù)據(jù)集?；诖祟悢?shù)據(jù)集的接口使用了先進的自然語言理解（NLU）技術(shù)來了解用戶查詢的目的。這個數(shù)據(jù)集能為復(fù)雜的科學(xué)問題提供更多相關(guān)數(shù)據(jù)和證據(jù)，大大提高了研究效率。而他們發(fā)布這個機器可讀的arXiv數(shù)據(jù)集，就是希望其能推動該領(lǐng)域的研究者開發(fā)出能夠處理此類新的語料庫的相似的自然語言理解工具。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
