陰影在圖像中普遍存在，它嚴重影響圖像處理的后期工作，如圖像分割和圖" title="和圖">和圖像匹配等。為此必須先對圖像陰影進行去除。陰影種類繁多，有基于幾何特性的，有基于陰影灰度性質(如陰影邊緣灰度漸變、突變，陰影分布是否均勻)的，還有基于陰影形成原因的，但目前沒有一種通用的陰影去除方法能對所有的陰影有理想的處理效果，所以必須對不同類型的陰影采用不同的處理方法。本文提出了將陰影分類的思想，但前提是先對陰影進行檢測。近年來，解決陰影檢測和識別的方法已有不少文章，如Jiang與Ward提出了基于陰影強度與幾何特性的陰影檢測方法^[1]，即在陰影的檢測過程中采用3層：低層、中層與高層。在低層處理時從圖像中提取暗區域；中層則對暗區域進行特征分析，包括檢測暗區域輪廓頂(vertices)，確認暗區域中的半影(penumbrae)，將暗區域分成自陰影和投影陰影以及確定與暗區域相鄰的物體區域；高層則結合前兩層結果，從暗區域中確認陰影。Salvador等人基于彩色不變模型確定并歸類陰影^[2]。
　　以上陰影檢測方法都存在局限性，需要滿足一定的假設條件，如場景中僅有一個光元，陰影位于相對平坦的區域，或者有某種不因陰影而改變的彩色不變量等。本文采用基于粗糙集陰影邊緣點分類的方法，較好地實現了陰影邊緣的檢測。
1 基于等價關系的子圖像劃分
　　對于一幅灰度級數為L的M×N個像素組成的二維圖像U，設像素x為U中的一個對象，稱知識庫（知識系統）K=(U，R)為一個圖像近似空間。考慮中心像素為w(i，j)=f(x，y)的3×3窗口，如式（1）：
　　
　　移動該窗口，使所有像素都依次置于該窗口的中心位置。計算像素點w(i，j)的梯度I（x，y）=(|ΔX|+|ΔY|)，其中
　　
　　f(x，y)為原圖像，g(x，y)為處理后的梯度圖像。
　　粗糙集理論^[3]中有兩種屬性：條件屬性和決策屬性。為了有目的地區別處理圖像中某類陰影，定義條件屬性集C={c₁，c₂，c₃}，其中c1是非陰影噪聲屬性，c₂是像素的梯度大小屬性，c₃是鄰域最大灰度屬性。
　　噪聲屬性c₁={0，1}，其中0代表1×1（單個像素）或3×3像素組成子塊" title="子塊">子塊p的平均灰度值與相鄰子塊平均灰度值之差的絕對值均小于某一閾值T；1代表子塊的差值絕對值均大于T。像素梯度的屬性c₂={0，1}，其中0代表像素梯度滿足A3={0，1}，此處既利用了像素本身的灰度值，又利用了其鄰域信息，設C(X，Y)={F(X-I，Y-J)|-(N-1) 2}表示圖像中大小為n×n的窗口，f(x，y)表示坐標為(x，y)的點的灰度值，n為奇數，則定義鄰域函數為
　　
　　其中0代表鄰域最大灰度差C　　子圖的劃分就是利用不可分辨關系的等價概念，按屬性C分類。
　　(1)根據C₁劃分子圖
　　定義等價關系R_c1為：子塊P_ij與相鄰子塊的平均灰度值E(P)之差的絕對值取整均大于某一閾值T，即：
　　
　　式中P_{i±1，j±1}表示與P_ij相鄰的子塊，R_c1(P)表示所有孤立噪聲或小塊的非陰影噪聲像素組成的集合。
　　(2)根據C₂劃分子圖
　　設x代表梯度“較大”的像素，等價關系R_c2定義為：如果兩個像素的梯度值屬于同一范圍，則兩個像素是R_c2相關的，即屬于等價類，用公式表示為：
　　R_c2(x)={x|I(x，y)>B}　　　　　　　(6)
　　B是一閾值，R_c2(x)表示所有梯度較大的像素x組成的集合。
　　(3)根據C₃劃分子圖
　　設s代表最大鄰域差較大的元素，等價關系R_c3定義為：如果兩個像素的最大鄰域差值屬于同一范圍，則兩個像素是R_c3相關的，即屬于等價類，用公式表示為：
　　R_c3(s)={s|I(s，t)>D}　　　　　　　　(7)
　　D是一閾值，R_c3(s)表示所有最大鄰域差較大的像素s組成的集合。
　　對上述兩個集合除噪，可以避免明顯的假邊緣點。即A1=R_c2(x)-R_c1(p)和A2=R_c3(s)-R_c1(p)，A1表示剔除噪聲后，所有像素中梯度大的像素x組成的集合。A2表示剔除噪聲后，　　所有像素的最大鄰域差值大的像素s組成的集合。A1、A2即為需要的像素集合。
2 陰影邊緣的提取
　　提取邊緣的方法很多，近年來又有不少新方法，在本文中，使用像素屬性分類的方法來檢測圖像的邊緣。
2.1 基于邊緣點分類
　　假設：陰影區域和非陰影區域存在著一個過渡帶，即認為邊緣是有寬度的。本文選用海邊沙石陰影圖像來分析，將陰影分為兩部分，一部分為圖像外的物體（例如樹）的投影（以下簡稱為外陰影），另一部分為目標自身陰影及目標之間的投影（以下簡稱為內陰影）。
　　(1)外陰影與內陰影的灰度相差較大
　　通過大量圖像發現：外陰影的平均灰度要比內陰影的平均灰度低，在同一淺色背景下表現為對比度大些。此時對上面求得的集合A1、A2分別求I(x，y)、H(x，y)，在A1中，A　　(2)外陰影與內陰影的灰度相差不大
　　這樣求得的I(x，y)或H(x，y)不能分為兩個較明顯的區間，此時僅求H(x，y)即可。
2.2 部分假邊緣點的處理
　　對于上述的情況(1)，如果外陰影和內陰影分布不均勻，即外陰影內部某些點的I(x，y)、H(x，y)恰好屬于內陰影邊緣點的I(x，y)、H(x，y)，這時會誤判。此時應在內陰影的M(R)中去掉這些點，方法如下：對內陰影邊緣點集M(R)逐一進行統計，使該點向四周移動，若都能碰到屬于外陰影邊緣高梯度點（梯度大于或等于B的點）或高最大鄰域灰度差的點(最大鄰域灰度差大于或等于D的點)，則該點是外陰影的內部點，將其從內陰影邊緣點集M(R)中去掉。注意：之所以使外陰影內部點向四周移動，是因為內陰影的邊緣點沿著某個方向也可能會碰到高梯度點。同理，可將外陰影邊緣點集中的假點去除掉，這樣，剩下的點均為真正的邊緣點了。
2.3 邊緣的細化與邊界跟蹤
　　以上分析均假設邊緣是有寬度的，為了更精確地檢測邊緣，需要對邊緣進行細化^[4]，即把邊緣的寬度變為1個像素。方法是：在邊緣的法向上（從邊緣一側高灰度鄰域指向另一側低灰度鄰域且與邊緣垂直的線稱為邊緣法線），邊緣點的梯度是最大的。如果兩個邊緣點的梯度與方向相同，而且相互位于法向上，保留最大鄰域差較大的點。經過這樣的處理后，就可以得到較高定位精度的細化邊緣。
　　經過以上處理后，得到一系列離散的邊緣點。因為圖像中有意義的邊緣點都有一定的連續性，因此實際邊緣應該是這些離散邊緣點按照一定的空間關系連接起來的點序列。也就是說，為了把點連接成線，需要建立一個三叉樹，每個結點最多有三個后繼點，最多一個前趨點，還留有一個標志位，后繼點表示當前點所在線的下一個點，它與當前點滿足下面的關系^[5]：
　　(1)空間位置上相鄰，即兩者必須互為8鄰域點。
　　(2)方向上相同，因為它們位于同一線上，因此方向應該一致。考慮到各種因素的影響，規定它們的方向之差的絕對值應小于45°。
　　(3)不分叉性。兩個點的連線方向與兩個點的邊緣方向的夾角小于45°。每個點最多可能有3個后繼點，即該點方向所指的那個鄰域點，以及在8個離散方向中最接近該方向的其他兩個方向(分別位于該方向的兩側)所指的鄰域點。
　　連接的過程是依次檢查M(R)和N(S)中的每個像素點，根據不同的方向，判斷它的前趨點和后繼點。具體步驟如下：(1)根據空間位置相鄰和不分叉性，確定候選后繼點。(2)根據方向相同性，在候選后繼點中去掉那些方向差之絕對值大于45°的點。(3)根據不同的情況，給后繼點和前趨點設置不同的值。
　　給每個邊緣點確定了前趨點和后繼點之后，即可從邊線的起點出發，依次得到直線上的每個像素點了。該過程稱為邊界跟蹤，即對每條直線進行標注。一條邊界線的所有點具有相同的標志號（可以是按某種規則制定的記號）。對二組圖像進行陰影處理，分別如圖1和圖2所示。圖1(c)和圖2(c)分別是用本文對圖1(a)、圖2(a)求得的陰影邊緣圖像。