3
| 本文作者： 汪思穎 | 2017-08-18 19:01 |
雷鋒網(wǎng)按：本文作者Slyne_D，原文載于作者的簡書主頁，雷鋒網(wǎng)經(jīng)授權(quán)發(fā)布。
本文主要翻譯了Histogram of Oriented Gradients一文。
特征描述子就是圖像的表示，抽取了有用的信息，丟掉了不相關(guān)的信息。通常特征描述子會(huì)把一個(gè)w*h*3(寬高3，3個(gè)channel)的圖像轉(zhuǎn)換成一個(gè)長度為n的向量/矩陣。比如一副64*128*3的圖像，經(jīng)過轉(zhuǎn)換后輸出的圖像向量長度可以是3780。
什么樣子的特征是有用的呢？假設(shè)我們想要預(yù)測一張圖片里面衣服上面的扣子，扣子通常是圓的，而且上面有幾個(gè)洞，那你就可以用邊緣檢測(edge detector)，把圖片變成只有邊緣的圖像，然后就可以很容易的分辨了，那么對(duì)于這張圖邊緣信息就是有用的，顏色信息就是沒有用的。而且好的特征應(yīng)該能夠區(qū)分紐扣和其它圓形的東西的區(qū)別。
方向梯度直方圖(HOG)中，梯度的方向分布被用作特征。沿著一張圖片X和Y軸的方向上的梯度是很有用的，因?yàn)樵谶吘壓徒屈c(diǎn)的梯度值是很大的，我們知道邊緣和角點(diǎn)包含了很多物體的形狀信息。
（HOG特征描述子可以不局限于一個(gè)長度，也可以用很多其他的長度，這里只記錄一種計(jì)算方法。）
我們會(huì)先用圖像的一個(gè)patch來解釋。
Patch可以是任意的尺寸，但是有一個(gè)固定的比例，比如當(dāng)patch長寬比1:2，那patch大小可以是100*200, 128*256或者1000*2000但不可以是101*205。
這里有張圖是720*475的，我們選100*200大小的patch來計(jì)算HOG特征，把這個(gè)patch從圖片里面摳出來，然后再把大小調(diào)整成64*128。
hog_preprocess
首先我們計(jì)算水平和垂直方向的梯度，再來計(jì)算梯度的直方圖?？梢杂孟旅娴膬蓚€(gè)kernel來計(jì)算，也可以直接用OpenCV里面的kernel大小為1的Sobel算子來計(jì)算。
horizontal_vertical_gradient_kernel
調(diào)用OpenCV代碼如下：
// C++ gradient calculation.
// Read image
Mat img = imread("bolt.png");
img.convertTo(img, CV_32F, 1/255.0);
// Calculate gradients gx, gy
Mat gx, gy;
Sobel(img, gx, CV_32F, 1, 0, 1);
Sobel(img, gy, CV_32F, 0, 1, 1);
# Python gradient calculation
# Read imageim = cv2.imread('bolt.png')
im = np.float32(im) / 255.0
# Calculate gradient
gx = cv2.Sobel(img, cv2.CV_32F, 1, 0, ksize=1)
gy = cv2.Sobel(img, cv2.CV_32F, 0, 1, ksize=1)
接著，用下面的公式來計(jì)算梯度的幅值g和方向theta:
gradient_direction_formula
可以用OpenCV的cartToPolar函數(shù)來計(jì)算：
// C++ Calculate gradient magnitude and direction (in degrees)
Mat mag, angle;
cartToPolar(gx, gy, mag, angle, 1);
# Python Calculate gradient magnitude and direction ( in degrees )
mag, angle = cv2.cartToPolar(gx, gy, angleInDegrees=True)
計(jì)算得到的gradient圖如下：
左邊：x軸的梯度絕對(duì)值 中間：y軸的梯度絕對(duì)值 右邊：梯度幅值
從上面的圖像中可以看到x軸方向的梯度主要凸顯了垂直方向的線條，y軸方向的梯度凸顯了水平方向的梯度，梯度幅值凸顯了像素值有劇烈變化的地方。(注意：圖像的原點(diǎn)是圖片的左上角，x軸是水平的，y軸是垂直的)
圖像的梯度去掉了很多不必要的信息(比如不變的背景色)，加重了輪廓。換句話說，你可以從梯度的圖像中輕而易舉的發(fā)現(xiàn)有個(gè)人。
在每個(gè)像素點(diǎn)，都有一個(gè)幅值(magnitude)和方向，對(duì)于有顏色的圖片，會(huì)在三個(gè)channel上都計(jì)算梯度。那么相應(yīng)的幅值就是三個(gè)channel上最大的幅值，角度(方向)是最大幅值所對(duì)應(yīng)的角。
在這一步，上面的patch圖像會(huì)被分割成8*8大小的網(wǎng)格(如下圖)，每個(gè)網(wǎng)格都會(huì)計(jì)算一個(gè)梯度直方圖。那為什么要分成8*8的呢？用特征描述子的一個(gè)主要原因是它提供了一個(gè)緊湊(compact)/壓縮的表示。一個(gè)8*8的圖像有8*8*3=192個(gè)像素值，每個(gè)像素有兩個(gè)值(幅值magnitude和方向direction，三個(gè)channel取最大magnitude那個(gè))，加起來就是8*8*2=128，后面我們會(huì)看到這128個(gè)數(shù)如何用一個(gè)9個(gè)bin的直方圖來表示成9個(gè)數(shù)的數(shù)組。不僅僅是可以有緊湊的表示，用直方圖來表示一個(gè)patch也可以更加抗噪，一個(gè)gradient可能會(huì)有噪音，但是用直方圖來表示后就不會(huì)對(duì)噪音那么敏感了。
這個(gè)patch的大小是64*128,分割成8*8的cell，那么一共有64/8 * 128/8 = 8*16=128個(gè)網(wǎng)格
對(duì)于64*128的這幅patch來說，8*8的網(wǎng)格已經(jīng)足夠大來表示有趣的特征比如臉，頭等等。
直方圖是有9個(gè)bin的向量，代表的是角度0,20,40,60.....160。
我們先來看看每個(gè)8*8的cell的梯度都是什么樣子:
中間: 一個(gè)網(wǎng)格用箭頭表示梯度 右邊: 這個(gè)網(wǎng)格用數(shù)字表示的梯度
中間這個(gè)圖的箭頭是梯度的方向，長度是梯度的大小，可以發(fā)現(xiàn)箭頭的指向方向是像素強(qiáng)度變化方向，幅值是強(qiáng)度變化的大小。
右邊的梯度方向矩陣中可以看到角度是0-180度，不是0-360度，這種被稱之為"無符號(hào)"梯度("unsigned" gradients)，因?yàn)橐粋€(gè)梯度和它的負(fù)數(shù)是用同一個(gè)數(shù)字表示的，也就是說一個(gè)梯度的箭頭以及它旋轉(zhuǎn)180度之后的箭頭方向被認(rèn)為是一樣的。那為什么不用0-360度的表示呢？在事件中發(fā)現(xiàn)unsigned gradients比signed gradients在行人檢測任務(wù)中效果更好。一些HOG的實(shí)現(xiàn)中可以讓你指定signed gradients。
下一步就是為這些8*8的網(wǎng)格創(chuàng)建直方圖，直方圖包含了9個(gè)bin來對(duì)應(yīng)0,20,40,...160這些角度。
下面這張圖解釋了這個(gè)過程。我們用了上一張圖里面的那個(gè)網(wǎng)格的梯度幅值和方向。根據(jù)方向選擇用哪個(gè)bin, 根據(jù)副值來確定這個(gè)bin的大小。先來看藍(lán)色圓圈圈出來的像素點(diǎn)，它的角度是80，副值是2，所以它在第五個(gè)bin里面加了2，再來看紅色的圈圓圈圈出來的像素點(diǎn)，它的角度是10，副值是4，因?yàn)榻嵌?0介于0-20度的中間(正好一半)，所以把幅值一分為二地放到0和20兩個(gè)bin里面去。
梯度直方圖
這里有個(gè)細(xì)節(jié)要注意，如果一個(gè)角度大于160度，也就是在160-180度之間，我們知道這里角度0，180度是一樣的，所以在下面這個(gè)例子里，像素的角度為165度的時(shí)候，要把幅值按照比例放到0和160的bin里面去。
角度大于160的情況
把這8*8的cell里面所有的像素點(diǎn)都分別加到這9個(gè)bin里面去，就構(gòu)建了一個(gè)9-bin的直方圖，上面的網(wǎng)格對(duì)應(yīng)的直方圖如下:
8*8網(wǎng)格直方圖
這里，在我們的表示中，Y軸是0度(從上往下)。你可以看到有很多值分布在0,180的bin里面，這其實(shí)也就是說明這個(gè)網(wǎng)格中的梯度方向很多都是要么朝上，要么朝下。
第四步: 16*16塊歸一化
上面的步驟中，我們創(chuàng)建了基于圖片的梯度直方圖，但是一個(gè)圖片的梯度對(duì)于整張圖片的光線會(huì)很敏感。如果你把所有的像素點(diǎn)都除以2，那么梯度的幅值也會(huì)減半，那么直方圖里面的值也會(huì)減半，所以這樣并不能消除光線的影響。所以理想情況下，我們希望我們的特征描述子可以和光線變換無關(guān)，所以我們就想讓我們的直方圖歸一化從而不受光線變化影響。
先考慮對(duì)向量用l2歸一化的步驟是:
v = [128, 64, 32]
[(128^2) + (64^2) + (32^2) ]^0.5=146.64
把v中每一個(gè)元素除以146.64得到[0.87,0.43,0.22]
考慮另一個(gè)向量2*v，歸一化后可以得到向量依舊是[0.87, 0.43, 0.22]。你可以明白歸一化是把scale給移除了。
你也許想到直接在我們得到的9*1的直方圖上面做歸一化，這也可以，但是更好的方法是從一個(gè)16*16的塊上做歸一化，也就是4個(gè)9*1的直方圖組合成一個(gè)36*1的向量，然后做歸一化，接著，窗口再朝后面挪8個(gè)像素(看動(dòng)圖)。重復(fù)這個(gè)過程把整張圖遍歷一遍。
hog-16x16-block-normalization
為了計(jì)算這整個(gè)patch的特征向量，需要把36*1的向量全部合并組成一個(gè)巨大的向量。向量的大小可以這么計(jì)算:
我們有多少個(gè)16*16的塊？水平7個(gè)，垂直15個(gè)，總共有7*15=105次移動(dòng)。
每個(gè)16*16的塊代表了36*1的向量。所以把他們放在一起也就是36*105=3780維向量。
通常HOG特征描述子是畫出8*8網(wǎng)格中9*1歸一化的直方圖，見下圖。你可以發(fā)現(xiàn)直方圖的主要方向捕捉了這個(gè)人的外形，特別是軀干和腿。
visualizing_histogram
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
