雙目立體匹配可劃分為四個步驟：匹配代價計算、代價聚合、視差計算和視差優化。

Step1 匹配代價計算

匹配代價計算的目的是衡量待匹配像素與候選像素之間的相關性。兩個像素無論是否為同名點，都可以通過匹配代價函數計算匹配代價，代價越小則說明相關性越大，是同名點的概率也越大。

每個像素在搜索同名點之前，往往會指定一個視差搜索范圍D（Dmin ~ Dmax），視差搜索時將范圍限定在D內，用一個大小為W×H×D（W為影像寬度，H為影像高度）的三維矩陣C來存儲每個像素在視差范圍內每個視差下的匹配代價值。矩陣C通常稱為DSI（Disparity Space Image）。

匹配代價計算的方法有很多，傳統的攝影測量中，使用灰度絕對值差（AD，Absolute Differences）、灰度絕對值差之和（SAD，Sum of Absolute Differences）、歸一化相關系數（NCC，Normalized Cross-correlation）等方法來計算兩個像素的匹配代價；計算機視覺中，多使用互信息（MI，Mutual Information）法、Census變換（CT，Census Transform）法、Rank變換（RT， Rank Transform）法、BT（Birchfield and Tomasi）法等作為匹配代價的計算方法。不同的代價計算算法都有各自的特點，對各類數據的表現也不盡相同，選擇合適的匹配代價計算函數是立體匹配中不可忽視的關鍵步驟。

下圖為DSI示意圖（C（x，y，d）代表像素（x，y）在視差為d時的匹配代價）：

Step2 代價聚合

代價聚合的根本目的是讓代價值能夠準確的反映像素之間的相關性。上一步匹配代價的計算往往只會考慮局部信息，通過兩個像素鄰域內一定大小的窗口內的像素信息來計算代價值，這很容易受到影像噪聲的影響，而且當影像處于弱紋理或重復紋理區域，這個代價值極有可能無法準確的反映像素之間的相關性，直接表現就是真實同名點的代價值非最小。

而代價聚合則是建立鄰接像素之間的聯系，以一定的準則，如相鄰像素應該具有連續的視差值，來對代價矩陣進行優化，這種優化往往是全局的，每個像素在某個視差下的新代價值都會根據其相鄰像素在同一視差值或者附近視差值下的代價值來重新計算，得到新的DSI，用矩陣S來表示。

實際上代價聚合類似于一種視差傳播步驟，信噪比高的區域匹配效果好，初始代價能夠很好的反映相關性，可以更準確的得到最優視差值，通過代價聚合傳播至信噪比低、匹配效果不好的區域，最終使所有影像的代價值都能夠準確反映真實相關性。常用的代價聚合方法有掃描線法、動態規劃法、SGM算法中的路徑聚合法等。

下圖為代價聚合前后視差圖示意圖：

Step3 視差計算

視差計算即通過代價聚合之后的代價矩陣S來確定每個像素的最優視差值，通常使用贏家通吃算法（WTA，Winner-Takes-All）來計算，如下圖所示，即某個像素的所有視差下的代價值中，選擇最小代價值所對應的視差作為最優視差。這一步非常簡單，這意味著聚合代價矩陣S的值必須能夠準確的反映像素之間的相關性，也表明上一步代價聚合步驟是立體匹配中極為關鍵的步驟，直接決定了算法的準確性。

Step4 視差優化

視差優化的目的是對上一步得到的視差圖進行進一步優化，改善視差圖的質量，包括剔除錯誤視差、適當平滑以及子像素精度優化等步驟，一般采用左右一致性檢查（Left-Right Check）算法剔除因為遮擋和噪聲而導致的錯誤視差；采用剔除小連通區域算法來剔除孤立異常點；采用中值濾波（Median Filter）、雙邊濾波（Bilateral Filter）等平滑算法對視差圖進行平滑；另外還有一些有效提高視差圖質量的方法如魯棒平面擬合（Robust Plane Fitting）、亮度一致性約束（Intensity Consistent）、局部一致性約束（Locally Consistent）等也常被使用。

由于WTA算法所得到的視差值是整像素精度，為了獲得更高的子像素精度，需要對視差值進行進一步的子像素細化，常用的子像素細化方法是一元二次曲線擬合法，通過最優視差下的代價值以及左右兩個視差下的代價值擬合一條一元二次曲線，取二次曲線的極小值點所代表的視差值為子像素視差值。如下圖所示。

局部匹配算法的步驟一般包括匹配代價計算、代價聚合和視差計算三個步驟，全局算法則包括匹配代價計算，視差計算與視差優化三個步驟，半全局算法SGM則四個步驟都有。