今日 Paper | 小樣本學(xué)習(xí)；機(jī)器學(xué)習(xí)；單幅圖像去霧；零樣本目標(biāo)檢測等

本文作者： AI研習(xí)社

2020-02-12 16:47

導(dǎo)語：為了更好地服務(wù)廣大 AI 青年，AI 研習(xí)社正式推出全新「論文」版塊

今日 Paper | 小樣本學(xué)習(xí)；機(jī)器學(xué)習(xí)；單幅圖像去霧；零樣本目標(biāo)檢測等

提高小樣本學(xué)習(xí)對全新分類的識別能力
機(jī)器學(xué)習(xí)的“學(xué)習(xí)如何遺忘”
復(fù)雜城市背后簡單的空間尺度規(guī)則
FD-GAN：具有融合鑒別器的生成對抗網(wǎng)絡(luò)用于單幅圖像去霧
GTNet：用于零樣本目標(biāo)檢測的生成遷移網(wǎng)絡(luò)

提高小樣本學(xué)習(xí)對全新分類的識別能力

論文名稱：Cross-Domain Few-Shot Classification via Learned Feature-Wise Transformation

作者：Hung-Yu Tseng /Hsin-Ying Lee /Jia-Bin Huang /Ming-Hsuan Yang

發(fā)表時間：2019/9/26

論文鏈接：https://paper.yanxishe.com/review/10295?from=leiphonecolumn_paperreview0212

推薦原因

這篇論文研究的是小樣本學(xué)習(xí)，也就是如何在每個類別只有幾個、甚至一個樣本的情況下學(xué)習(xí)如何分類。現(xiàn)有的基于指標(biāo)的小樣本分類算法，都是通過一個學(xué)習(xí)到的指標(biāo)函數(shù)，把要預(yù)測的樣本的特征嵌入和給定的樣本進(jìn)行對比。雖然這些方法已經(jīng)展示出了可喜的效果，但由于不同類別的特征分布有很大的差異，所以這樣的方法并不能很好地分辨來自新的分類（與給定的樣本不同的分類）的樣本。

在這篇論文中，作者們在基于指標(biāo)的方法基礎(chǔ)上又加入了領(lǐng)域遷移的思路，他們用特征級別的變換層+仿形變換來增強(qiáng)圖像特征，作用是在訓(xùn)練過程中模擬不同領(lǐng)域的不同特征分布。作者們還設(shè)計了一個“學(xué)習(xí)如何學(xué)習(xí)”的模塊，為變換層學(xué)習(xí)超參數(shù)。作者們的大量實驗表明他們的方法可以作用于各種各樣的基于指標(biāo)的方法，并帶來穩(wěn)定的表現(xiàn)提高。

機(jī)器學(xué)習(xí)的“學(xué)習(xí)如何遺忘”

論文名稱：Machine Unlearning

作者：Bourtoule Lucas /Chandrasekaran Varun /Choquette-Choo Christopher /Jia Hengrui /Travers Adelin /Zhang Baiwu /Lie David /Papernot Nicolas

發(fā)表時間：2019/12/9

論文鏈接：

https://paper.yanxishe.com/review/10275?from=leiphonecolumn_paperreview0212

推薦原因

假設(shè)你用一百萬條數(shù)據(jù)訓(xùn)練了一個機(jī)器學(xué)習(xí)模型，然后數(shù)據(jù)提供方有一天突然告訴你，其中有幾條數(shù)據(jù)是有問題的、或者現(xiàn)在不允許使用了，現(xiàn)在要把這幾條數(shù)據(jù)對模型的影響取消掉。除了從頭訓(xùn)練一個新模型，還有什么辦法嗎？這個問題就是機(jī)器學(xué)習(xí)的“反學(xué)習(xí)”，Machine Unlearning，“學(xué)習(xí)如何遺忘”。

在傳統(tǒng)搜索中，想刪除某條數(shù)據(jù)很容易；但在機(jī)器學(xué)習(xí)模型中，數(shù)據(jù)會被模型記住，存在被攻擊者還原、獲取的風(fēng)險；即便采用一些保護(hù)方式，數(shù)據(jù)的影響也成為了模型參數(shù)的一部分，難以單獨解耦，從而難以單獨消除。所以想要刪除數(shù)據(jù)，常見做法基本上只能是重新訓(xùn)練模型。

在這篇論文中，作者們提出了一種新的訓(xùn)練框架來解決這個問題。他們的方法可以減少受到刪除數(shù)據(jù)影響的參數(shù)的數(shù)量，而且會對訓(xùn)練算法中間階段的輸出做一些緩存，以減少遺忘這些數(shù)據(jù)的過程中對整個模型的更新次數(shù)。依靠這樣的設(shè)計，他們的方法減少了數(shù)據(jù)遺忘過程中的計算開銷，即便在最差情況下也有效。如果用戶能夠提供先驗，他們的方法還能獲得更好的效果。作者們的這項研究能對機(jī)器學(xué)習(xí)模型實際應(yīng)用中的數(shù)據(jù)治理起到幫助。

復(fù)雜城市背后簡單的空間尺度規(guī)則

論文名稱：Simple spatial scaling rules behind complex cities

作者：Ruiqi Li /LeiDong /JiangZhang /Xinran Wang /WenXu Wang /Zengru Di /H.Eugene Stanley

發(fā)表時間：2017/11/28

論文鏈接：https://paper.yanxishe.com/review/10274?from=leiphonecolumn_paperreview0212

推薦原因

文章通過一個基于空間吸引和匹配生長機(jī)制的簡單模型，提供一個普遍的超線性和亞線性總體尺度律的起源的一般性解釋，并準(zhǔn)確地預(yù)測千米級的社會經(jīng)濟(jì)活動。為從城市元素之間的相互作用的角度揭示城市的演變開辟了一條新的途徑，有著廣泛的應(yīng)用

FD-GAN：具有融合鑒別器的生成對抗網(wǎng)絡(luò)用于單幅圖像去霧

論文名稱：FD-GAN: Generative Adversarial Networks with Fusion-discriminator for Single Image Dehazing

作者：Dong Yu /Liu Yihao /Zhang He /Chen Shifeng /Qiao Yu

發(fā)表時間：2020/1/20

論文鏈接：https://paper.yanxishe.com/review/9629?from=leiphonecolumn_paperreview0212

推薦原因

這篇論文被AAAI 2020接收，考慮的是圖像去霧問題。

大部分現(xiàn)有的基于學(xué)習(xí)的圖像去霧方法并非完全端到端的，而是遵循傳統(tǒng)的去霧步驟：首先評估傳輸介質(zhì)和大氣光線，隨后恢復(fù)基于大氣散射模型的無霧圖像。但是在實踐中，由于缺乏先驗信息和約束條件，很難精準(zhǔn)估計出中間參數(shù)，而不精確的估計則削弱了去霧的效果，結(jié)果導(dǎo)致偽影、色彩失真和霧霾去除效果不足。為解決這些問題，這篇論文提出一個完全端到端的具有融合判別器的生成對抗網(wǎng)絡(luò)（Generative Adversarial Networks with Fusion-discriminator，F(xiàn)D-GAN）進(jìn)行圖像去霧。FD-GAN將頻率信息作為附加先驗知識，以生成更自然、逼真的除霧圖像。進(jìn)一步，這篇論文合成大尺寸訓(xùn)練數(shù)據(jù)，包含不同的室內(nèi)與戶外霧化圖，以促進(jìn)模型表現(xiàn)。實驗表明，F(xiàn)D-GAN在公共合成數(shù)據(jù)集和真實世界圖像上均達(dá)到了當(dāng)前最佳的性能。

GTNet：用于零樣本目標(biāo)檢測的生成遷移網(wǎng)絡(luò)

論文名稱：GTNet: Generative Transfer Network for Zero-Shot Object Detection

作者：Zhao Shizhen /Gao Changxin /Shao Yuanjie /Li Lerenhan /Yu Changqian /Ji Zhong /Sang Nong

發(fā)表時間：2020/1/19

論文鏈接：https://paper.yanxishe.com/review/9628?from=leiphonecolumn_paperreview0212

推薦原因

這篇論文提出了一種生成遷移網(wǎng)絡(luò)（Generative Transfer Network，GTNet）來用于零樣本目標(biāo)檢測。GTNet包含一個目標(biāo)檢測模塊和一個知識遷移模塊。前者可學(xué)習(xí)大量已知領(lǐng)域知識，而后者利用合成的特征來生成未知類型的特征，這些特征則被用于訓(xùn)練目標(biāo)檢測模塊中新的分類層。為了使用類內(nèi)方差和IoU方差為每個未知類合成特征，這篇論文設(shè)計了一個基于IoU的生成對抗網(wǎng)絡(luò)IoUGAN作為特征合成器，包含三個單元模型：類特征生成單元，前景特征生成單元和背景特征生成單元。類特征生成單元利用以類語義嵌入為條件的類內(nèi)方差信息生成位置特征，前景特征生成單元和背景特征生成單元將IoU方差加入到類特征生成單元的結(jié)果中，分別得到指定類前景與背景特征。在公共數(shù)據(jù)集上的評估表明這篇論文提出的GTNet優(yōu)于當(dāng)前最佳的零樣本目標(biāo)檢測方法。

論文作者團(tuán)隊招募

為了更好地服務(wù)廣大 AI 青年，AI 研習(xí)社正式推出全新「論文」版塊，希望以論文作為聚合 AI 學(xué)生青年的「興趣點」，通過論文整理推薦、點評解讀、代碼復(fù)現(xiàn)。致力成為國內(nèi)外前沿研究成果學(xué)習(xí)討論和發(fā)表的聚集地，也讓優(yōu)秀科研得到更為廣泛的傳播和認(rèn)可。

我們希望熱愛學(xué)術(shù)的你，可以加入我們的論文作者團(tuán)隊。

加入論文作者團(tuán)隊你可以獲得

1.署著你名字的文章，將你打造成最耀眼的學(xué)術(shù)明星

2.豐厚的稿酬

3.AI 名企內(nèi)推、大會門票福利、獨家周邊紀(jì)念品等等等。

加入論文作者團(tuán)隊你需要：

1.將你喜歡的論文推薦給廣大的研習(xí)社社友

2.撰寫論文解讀

如果你已經(jīng)準(zhǔn)備好加入 AI 研習(xí)社的論文兼職作者團(tuán)隊，可以添加運(yùn)營小姐姐的微信，備注“論文兼職作者”