我計(jì)劃分享一些有趣的實(shí)戰(zhàn)項(xiàng)目，或許達(dá)不到商用的級(jí)別，但是希望能在大家做項(xiàng)目的時(shí)候能夠提供一些思路！如果對(duì)你有所幫助，給我點(diǎn)贊 & 在看，讓我知道對(duì)你有幫助哈！

基于OpenCV的顏色檢測(cè)和分割的隱形斗篷

如果你是個(gè)哈利波特迷，你就會(huì)知道什么是隱形衣。是的！這是哈利波特用來隱身的隱形衣。當(dāng)然，我們都知道隱形衣不是真的——它都是圖形上的詭計(jì)。

在這篇文章中，我們將學(xué)習(xí)如何使用OpenCV中的簡(jiǎn)單計(jì)算機(jī)視覺技術(shù)創(chuàng)建我們自己的“隱形衣”。文末會(huì)分享 C++和python的代碼。

那是哈利·波特在試他的隱形衣!

事實(shí)上，你可以用一種叫做顏色檢測(cè)和分割的圖像處理技術(shù)來創(chuàng)造這種神奇的體驗(yàn)。好消息是，你不需要成為霍格沃茨的一員!你所需要的是一塊紅色的布，并遵循這篇文章。

它的原理是什么？

該算法在原理上與綠幕非常相似。但與我們刪除背景的綠幕不同，在這個(gè)應(yīng)用中，我們刪除了前景！

我們用一塊紅色的布做我們的斗篷。為什么是紅色呢?為什么不綠色的嗎?當(dāng)然，我們可以用綠色，紅色不是魔術(shù)師的顏色嗎？除了此之外，像綠色或藍(lán)色這樣的顏色也可以稍微調(diào)整一下。

其基本思想如下:

1. 捕獲并存儲(chǔ)背景幀。

2. 使用顏色檢測(cè)算法檢測(cè)紅色布料。

3. 將紅色的布料分割成一個(gè)mask。

4. 生成最后的增廣輸出，創(chuàng)造神奇的效果。

上面的GIF簡(jiǎn)單地解釋了算法的所有階段。現(xiàn)在我們將詳細(xì)討論每一步。

步驟1:捕捉并存儲(chǔ)背景幀

如上所述，關(guān)鍵思想是將當(dāng)前與布料相對(duì)應(yīng)的幀像素替換為背景像素，從而產(chǎn)生一件隱身衣的效果。為此，我們需要存儲(chǔ)一個(gè)背景幀。

C++

//CreateaVideoCaptureobjectandopentheinputfile// If the input is the web camera, pass 0 instead of the video file nameVideoCapture cap("video4.mp4");// Check if camera opened successfullyif(!cap.isOpened()){ cout << "Error opening video stream or file" << endl; return -1;} Mat background;for(int i=0;i<30;i++){ cap >> background;}//Laterally invert the image / flip the image.flip(background,background,1);

Python

# Creating a VideoCapture object# This will be used for image acquisition later in the code.cap = cv2.VideoCapture("video.mp4") # We give some time for the camera to warm-up!time.sleep(3) background=0 for i in range(30): ret,background = cap.read() # Laterally invert the image / flip the image.background = np.flip(background,axis=1)

在上面的代碼中，cap.read()方法使我們能夠通過相機(jī)捕獲最新的幀(存儲(chǔ)在變量‘background’中)，它還返回一個(gè)布爾值(True/False存儲(chǔ)在‘ret’中)。如果一個(gè)幀被正確讀取，它將為真。所以你可以通過檢查這個(gè)返回值來檢查視頻的結(jié)束。

為什么捕獲背景圖像使用'循環(huán)' ?

因?yàn)楸尘笆庆o態(tài)的，我們不能簡(jiǎn)單地使用一個(gè)幀嗎?當(dāng)然，但是與多幀圖像相比，捕獲的圖像有點(diǎn)暗。這是因?yàn)橄鄼C(jī)剛剛開始捕捉幀，因此它的參數(shù)還不穩(wěn)定。因此，使用for循環(huán)捕獲靜態(tài)背景的多個(gè)圖像就可以完成這個(gè)任務(wù)。

多幀平均也可以降低噪聲。

第二步:檢測(cè)紅色

因?yàn)槲覀兪褂昧艘粔K紅色的布來將它轉(zhuǎn)換成一件隱形斗篷，所以我們將著重于在框架中檢測(cè)紅色。

聽起來簡(jiǎn)單嗎？我們有一個(gè)RGB（紅-綠-藍(lán)）圖像，使用簡(jiǎn)單閾值的R通道來得到我們的mask。結(jié)果證明，這將并不會(huì)特別有效，因?yàn)镽GB值是高度敏感的照明。因此，即使斗篷是紅色的，也可能有一些區(qū)域，由于陰影，相應(yīng)像素的紅色通道值相當(dāng)?shù)汀?/p>

正確的方法是將圖像的顏色空間從RGB轉(zhuǎn)換為HSV（色相-飽和度-亮度）。

HSV顏色空間是什么?

HSV顏色空間表示使用三個(gè)值的顏色

1.色相（Hue）：這個(gè)通道對(duì)顏色信息進(jìn)行編碼。色相可以被認(rèn)為是一個(gè)角度，0度對(duì)應(yīng)紅色，120度對(duì)應(yīng)綠色，240度對(duì)應(yīng)藍(lán)色。

2.飽和度（Saturation）：這個(gè)通道編碼顏色的強(qiáng)度/純度。例如，粉色比紅色的飽和度低。

3.值（Value）：該通道對(duì)顏色的亮度進(jìn)行編碼。圖像的陰影和光澤成分出現(xiàn)在這個(gè)通道中。

不像RGB是根據(jù)三原色來定義的，HSV的定義方式類似于人類感知顏色的方式。

對(duì)于我們的應(yīng)用而言，使用HSV顏色空間的主要優(yōu)點(diǎn)是顏色/色調(diào)/波長(zhǎng)僅由色相組件表示。

要了解不同的色彩空間，請(qǐng)參考我們關(guān)于色彩空間的詳細(xì)博客。

https://www.learnopencv.com/color-spaces-in-opencv-cpp-python/

所以當(dāng)我說，我需要一個(gè)特定的顏色，選擇色相組件，然后根據(jù)飽和度組件，我得到了那個(gè)顏色的不同的陰影，進(jìn)一步根據(jù)值組件，我得到了一個(gè)顏色的特定陰影的不同的強(qiáng)度。

在下面的代碼中，我們首先捕獲一個(gè)活動(dòng)幀，將圖像從RGB轉(zhuǎn)換為HSV顏色空間，然后定義一個(gè)特定范圍的H-S-V值來檢測(cè)紅色。

C++

Mat frame;// Capture frame-by-framecap >> frame; // Laterally invert the image / flip the imageflip(frame,frame,1); //Converting image from BGR to HSV color space.Mat hsv;cvtColor(frame, hsv, COLOR_BGR2HSV); Mat mask1,mask2;// Creating masks to detect the upper and lower red color.inRange(hsv, Scalar(0, 120, 70), Scalar(10, 255, 255), mask1);inRange(hsv, Scalar(170, 120, 70), Scalar(180, 255, 255), mask2); // Generating the final maskmask1 = mask1 + mask2;

Python

# Capturing the live frameret, img = cap.read() # Laterally invert the image / flip the imageimg = np.flip(imgaxis=1) # converting from BGR to HSV color spacehsv = cv2.cvtColor(img,cv2.COLOR_BGR2HSV) # Range for lower redlower_red = np.array([0,120,70])upper_red = np.array([10,255,255])mask1 = cv2.inRange(hsv, lower_red, upper_red) # Range for upper rangelower_red = np.array([170,120,70])upper_red = np.array([180,255,255])mask2 = cv2.inRange(hsv,lower_red,upper_red) # Generating the final mask to detect red colormask1 = mask1+mask2

inRange函數(shù)簡(jiǎn)單地返回一個(gè)二值化掩碼，其中白色像素(255)表示屬于上限和下限范圍的像素，黑色像素(0)不屬于上限和下限范圍的像素。

色相值實(shí)際上分布在一個(gè)圓上(范圍在0-360度之間)，但在OpenCV中為了適應(yīng)8bit 值，其范圍是0-180度。紅色由0-30和150-180值表示。

我們使用范圍0-10和170-180，以避免檢測(cè)皮膚為紅色。飽和度使用較高范圍120-255的值，因?yàn)槲覀兊牟剂蠎?yīng)該是高度飽和的紅色。亮度值在的較低范圍是70，這樣我們也可以在布料的褶皺中檢測(cè)到紅色。

mask1 = mask1 + mask2

使用上面的線，我們合并兩個(gè)紅色范圍生成的mask。它基本上是在像素上進(jìn)行OR操作。這是一個(gè)操作符重載+的簡(jiǎn)單例子。

現(xiàn)在，您已經(jīng)了解了如何進(jìn)行顏色檢測(cè)，您可以更改H-S-V范圍，并使用一些其他的單色布來代替紅色。事實(shí)上，綠色的布比紅色的效果更好，因?yàn)榫G色離人的膚色差異最大。

第三步:將檢測(cè)到的紅色布料分割開來

在上一步中，我們生成了一個(gè)mask來確定幀中與檢測(cè)到的顏色相對(duì)應(yīng)的區(qū)域。我們精煉這個(gè)mask，然后用它從frame上分割布料。下面的代碼說明了它是如何實(shí)現(xiàn)的。

C++

Mat kernel = Mat::ones(3,3, CV_32F);morphologyEx(mask1,mask1,cv::MORPH_OPEN,kernel);morphologyEx(mask1,mask1,cv::MORPH_DILATE,kernel); // creating an inverted mask to segment out the cloth from the framebitwise_not(mask1,mask2);Mat res1, res2, final_output; // Segmenting the cloth out of the frame using bitwise and with the inverted maskbitwise_and(frame,frame,res1,mask2);

Python

mask1 = cv2.morphologyEx(mask, cv2.MORPH_OPEN, np.ones((3,3),np.uint8))mask1 = cv2.morphologyEx(mask, cv2.MORPH_DILATE, np.ones((3,3),np.uint8)) #creating an inverted mask to segment out the cloth from the framemask2 = cv2.bitwise_not(mask1) #Segmenting the cloth out of the frame using bitwise and with the inverted maskres1 = cv2.bitwise_and(img,img,mask=mask2)

步驟4:生成最終的增強(qiáng)輸出，以創(chuàng)建一個(gè)神奇的效果。

最后，我們將檢測(cè)到的紅色區(qū)域的像素值替換為靜態(tài)背景對(duì)應(yīng)的像素值，最后生成一個(gè)增強(qiáng)輸出，產(chǎn)生神奇的效果，將我們的布料變成了一件隱身斗篷。為此，我們首先使用bitwise_and操作創(chuàng)建一個(gè)像素值對(duì)應(yīng)于檢測(cè)區(qū)域的圖像，像素值等于靜態(tài)背景的像素值，然后將輸出添加到我們從中分割出紅布的圖像(res1)中。

C++

// creating image showing static background frame pixels only for the masked regionbitwise_and(background,background,res2,mask1); // Generating the final augmented output.addWeighted(res1,1,res2,1,0,final_output);imshow("magic", final_output);waitKey(1);

Python

# creating image showing static background frame pixels only for the masked regionres2 = cv2.bitwise_and(background, background, mask = mask1) #Generating the final outputfinal_output = cv2.addWeighted(res1,1,res2,1,0)imshow("magic",final_output)cv2.waitKey(1)