我計(jì)劃分享一些有趣的實(shí)戰(zhàn)項(xiàng)目,或許達(dá)不到商用的級(jí)別,但是希望能在大家做項(xiàng)目的時(shí)候能夠提供一些思路!如果對(duì)你有所幫助,給我點(diǎn)贊 & 在看,讓我知道對(duì)你有幫助哈!
基于OpenCV的顏色檢測(cè)和分割的隱形斗篷
如果你是個(gè)哈利波特迷,你就會(huì)知道什么是隱形衣。是的!這是哈利波特用來隱身的隱形衣。當(dāng)然,我們都知道隱形衣不是真的——它都是圖形上的詭計(jì)。
在這篇文章中,我們將學(xué)習(xí)如何使用OpenCV中的簡(jiǎn)單計(jì)算機(jī)視覺技術(shù)創(chuàng)建我們自己的“隱形衣”。文末會(huì)分享 C++和python的代碼。
那是哈利·波特在試他的隱形衣!
事實(shí)上,你可以用一種叫做顏色檢測(cè)和分割的圖像處理技術(shù)來創(chuàng)造這種神奇的體驗(yàn)。好消息是,你不需要成為霍格沃茨的一員!你所需要的是一塊紅色的布,并遵循這篇文章。
它的原理是什么?
該算法在原理上與綠幕非常相似。但與我們刪除背景的綠幕不同,在這個(gè)應(yīng)用中,我們刪除了前景!
我們用一塊紅色的布做我們的斗篷。為什么是紅色呢?為什么不綠色的嗎?當(dāng)然,我們可以用綠色,紅色不是魔術(shù)師的顏色嗎?除了此之外,像綠色或藍(lán)色這樣的顏色也可以稍微調(diào)整一下。
其基本思想如下:
1. 捕獲并存儲(chǔ)背景幀。
2. 使用顏色檢測(cè)算法檢測(cè)紅色布料。
3. 將紅色的布料分割成一個(gè)mask。
4. 生成最后的增廣輸出,創(chuàng)造神奇的效果。
上面的GIF簡(jiǎn)單地解釋了算法的所有階段。現(xiàn)在我們將詳細(xì)討論每一步。
步驟1:捕捉并存儲(chǔ)背景幀
如上所述,關(guān)鍵思想是將當(dāng)前與布料相對(duì)應(yīng)的幀像素替換為背景像素,從而產(chǎn)生一件隱身衣的效果。為此,我們需要存儲(chǔ)一個(gè)背景幀。
C++
//CreateaVideoCaptureobjectandopentheinputfile// If the input is the web camera, pass 0 instead of the video file nameVideoCapture cap("video4.mp4");// Check if camera opened successfullyif(!cap.isOpened()){ cout << "Error opening video stream or file" << endl; return -1;} Mat background;for(int i=0;i<30;i++){ cap >> background;}//Laterally invert the image / flip the image.flip(background,background,1);
Python
# Creating a VideoCapture object# This will be used for image acquisition later in the code.cap = cv2.VideoCapture("video.mp4") # We give some time for the camera to warm-up!time.sleep(3) background=0 for i in range(30): ret,background = cap.read() # Laterally invert the image / flip the image.background = np.flip(background,axis=1)
在上面的代碼中,cap.read()方法使我們能夠通過相機(jī)捕獲最新的幀(存儲(chǔ)在變量‘background’中),它還返回一個(gè)布爾值(True/False存儲(chǔ)在‘ret’中)。如果一個(gè)幀被正確讀取,它將為真。所以你可以通過檢查這個(gè)返回值來檢查視頻的結(jié)束。
為什么捕獲背景圖像使用'循環(huán)' ?
因?yàn)楸尘笆庆o態(tài)的,我們不能簡(jiǎn)單地使用一個(gè)幀嗎?當(dāng)然,但是與多幀圖像相比,捕獲的圖像有點(diǎn)暗。這是因?yàn)橄鄼C(jī)剛剛開始捕捉幀,因此它的參數(shù)還不穩(wěn)定。因此,使用for循環(huán)捕獲靜態(tài)背景的多個(gè)圖像就可以完成這個(gè)任務(wù)。
多幀平均也可以降低噪聲。
第二步:檢測(cè)紅色
因?yàn)槲覀兪褂昧艘粔K紅色的布來將它轉(zhuǎn)換成一件隱形斗篷,所以我們將著重于在框架中檢測(cè)紅色。
聽起來簡(jiǎn)單嗎?我們有一個(gè)RGB(紅-綠-藍(lán))圖像,使用簡(jiǎn)單閾值的R通道來得到我們的mask。結(jié)果證明,這將并不會(huì)特別有效,因?yàn)镽GB值是高度敏感的照明。因此,即使斗篷是紅色的,也可能有一些區(qū)域,由于陰影,相應(yīng)像素的紅色通道值相當(dāng)?shù)汀?/p>
正確的方法是將圖像的顏色空間從RGB轉(zhuǎn)換為HSV(色相-飽和度-亮度)。
HSV顏色空間是什么?
HSV顏色空間表示使用三個(gè)值的顏色
1.色相(Hue):這個(gè)通道對(duì)顏色信息進(jìn)行編碼。色相可以被認(rèn)為是一個(gè)角度,0度對(duì)應(yīng)紅色,120度對(duì)應(yīng)綠色,240度對(duì)應(yīng)藍(lán)色。
2.飽和度(Saturation):這個(gè)通道編碼顏色的強(qiáng)度/純度。例如,粉色比紅色的飽和度低。
3.值(Value):該通道對(duì)顏色的亮度進(jìn)行編碼。圖像的陰影和光澤成分出現(xiàn)在這個(gè)通道中。
不像RGB是根據(jù)三原色來定義的,HSV的定義方式類似于人類感知顏色的方式。
對(duì)于我們的應(yīng)用而言,使用HSV顏色空間的主要優(yōu)點(diǎn)是顏色/色調(diào)/波長(zhǎng)僅由色相組件表示。
要了解不同的色彩空間,請(qǐng)參考我們關(guān)于色彩空間的詳細(xì)博客。
https://www.learnopencv.com/color-spaces-in-opencv-cpp-python/
所以當(dāng)我說,我需要一個(gè)特定的顏色,選擇色相組件,然后根據(jù)飽和度組件,我得到了那個(gè)顏色的不同的陰影,進(jìn)一步根據(jù)值組件,我得到了一個(gè)顏色的特定陰影的不同的強(qiáng)度。
在下面的代碼中,我們首先捕獲一個(gè)活動(dòng)幀,將圖像從RGB轉(zhuǎn)換為HSV顏色空間,然后定義一個(gè)特定范圍的H-S-V值來檢測(cè)紅色。
C++
Mat frame;// Capture frame-by-framecap >> frame; // Laterally invert the image / flip the imageflip(frame,frame,1); //Converting image from BGR to HSV color space.Mat hsv;cvtColor(frame, hsv, COLOR_BGR2HSV); Mat mask1,mask2;// Creating masks to detect the upper and lower red color.inRange(hsv, Scalar(0, 120, 70), Scalar(10, 255, 255), mask1);inRange(hsv, Scalar(170, 120, 70), Scalar(180, 255, 255), mask2); // Generating the final maskmask1 = mask1 + mask2;
Python
# Capturing the live frameret, img = cap.read() # Laterally invert the image / flip the imageimg = np.flip(imgaxis=1) # converting from BGR to HSV color spacehsv = cv2.cvtColor(img,cv2.COLOR_BGR2HSV) # Range for lower redlower_red = np.array([0,120,70])upper_red = np.array([10,255,255])mask1 = cv2.inRange(hsv, lower_red, upper_red) # Range for upper rangelower_red = np.array([170,120,70])upper_red = np.array([180,255,255])mask2 = cv2.inRange(hsv,lower_red,upper_red) # Generating the final mask to detect red colormask1 = mask1+mask2
inRange函數(shù)簡(jiǎn)單地返回一個(gè)二值化掩碼,其中白色像素(255)表示屬于上限和下限范圍的像素,黑色像素(0)不屬于上限和下限范圍的像素。
色相值實(shí)際上分布在一個(gè)圓上(范圍在0-360度之間),但在OpenCV中為了適應(yīng)8bit 值,其范圍是0-180度。紅色由0-30和150-180值表示。
我們使用范圍0-10和170-180,以避免檢測(cè)皮膚為紅色。飽和度使用較高范圍120-255的值,因?yàn)槲覀兊牟剂蠎?yīng)該是高度飽和的紅色。亮度值在的較低范圍是70,這樣我們也可以在布料的褶皺中檢測(cè)到紅色。
mask1 = mask1 + mask2
使用上面的線,我們合并兩個(gè)紅色范圍生成的mask。它基本上是在像素上進(jìn)行OR操作。這是一個(gè)操作符重載+的簡(jiǎn)單例子。
現(xiàn)在,您已經(jīng)了解了如何進(jìn)行顏色檢測(cè),您可以更改H-S-V范圍,并使用一些其他的單色布來代替紅色。事實(shí)上,綠色的布比紅色的效果更好,因?yàn)榫G色離人的膚色差異最大。
第三步:將檢測(cè)到的紅色布料分割開來
在上一步中,我們生成了一個(gè)mask來確定幀中與檢測(cè)到的顏色相對(duì)應(yīng)的區(qū)域。我們精煉這個(gè)mask,然后用它從frame上分割布料。下面的代碼說明了它是如何實(shí)現(xiàn)的。
C++
Mat kernel = Mat::ones(3,3, CV_32F);morphologyEx(mask1,mask1,cv::MORPH_OPEN,kernel);morphologyEx(mask1,mask1,cv::MORPH_DILATE,kernel); // creating an inverted mask to segment out the cloth from the framebitwise_not(mask1,mask2);Mat res1, res2, final_output; // Segmenting the cloth out of the frame using bitwise and with the inverted maskbitwise_and(frame,frame,res1,mask2);
Python
mask1 = cv2.morphologyEx(mask, cv2.MORPH_OPEN, np.ones((3,3),np.uint8))mask1 = cv2.morphologyEx(mask, cv2.MORPH_DILATE, np.ones((3,3),np.uint8)) #creating an inverted mask to segment out the cloth from the framemask2 = cv2.bitwise_not(mask1) #Segmenting the cloth out of the frame using bitwise and with the inverted maskres1 = cv2.bitwise_and(img,img,mask=mask2)
步驟4:生成最終的增強(qiáng)輸出,以創(chuàng)建一個(gè)神奇的效果。
最后,我們將檢測(cè)到的紅色區(qū)域的像素值替換為靜態(tài)背景對(duì)應(yīng)的像素值,最后生成一個(gè)增強(qiáng)輸出,產(chǎn)生神奇的效果,將我們的布料變成了一件隱身斗篷。為此,我們首先使用bitwise_and操作創(chuàng)建一個(gè)像素值對(duì)應(yīng)于檢測(cè)區(qū)域的圖像,像素值等于靜態(tài)背景的像素值,然后將輸出添加到我們從中分割出紅布的圖像(res1)中。
C++
// creating image showing static background frame pixels only for the masked regionbitwise_and(background,background,res2,mask1); // Generating the final augmented output.addWeighted(res1,1,res2,1,0,final_output);imshow("magic", final_output);waitKey(1);
Python
# creating image showing static background frame pixels only for the masked regionres2 = cv2.bitwise_and(background, background, mask = mask1) #Generating the final outputfinal_output = cv2.addWeighted(res1,1,res2,1,0)imshow("magic",final_output)cv2.waitKey(1)
-
圖像
+關(guān)注
關(guān)注
2文章
1094瀏覽量
41048 -
計(jì)算機(jī)視覺
+關(guān)注
關(guān)注
9文章
1706瀏覽量
46588 -
OpenCV
+關(guān)注
關(guān)注
32文章
642瀏覽量
42473
原文標(biāo)題:OpenCV黑魔法之隱身衣
文章出處:【微信號(hào):Unfinished_coder,微信公眾號(hào):機(jī)器視覺CV】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
評(píng)論